Краткий пересказ от РИА ИИ
- Бывший сотрудник ИИ-гиганта Anthropic Джейкоб Коксон заявил, что развитие нейросетей до суперинтеллекта грозит человечеству вымиранием.
- По словам Коксона, разработчики безрассудно поступают в контексте развития нейросетей, так как не понимают, что ими движет и почему они делают то, что делают.
- Коксон отметил, что все ИИ-компании стараются создать суперинтеллект, который лучше человека справляется с любым заданием, но при этом подчеркнул, что в технологических компаниях пока не знают, как контролировать создаваемые системы ИИ.
НЬЮ-ЙОРК, 5 окт - РИА Новости. Развитие нейросетей до суперинтеллекта грозит человечеству вымиранием, заявил на слушаниях в городском совете Нью-Йорка бывший сотрудник ИИ-гиганта Anthropic Джейкоб Коксон.
"Вероятней всего, на мой взгляд, что нынешний путь (развития технологий - ред.) приведет к потере контроля над ИИ и может закончиться вымиранием человечества", - сказал Коксон в ходе специальных слушаний.
По его словам, разработчики безрассудно поступают в контексте развития нейросетей. "Частично из-за культуры в компаниях: двигайся быстро, ломай вещи сейчас, починишь потом. Это работает с приложениями для обработки фото, но не с самой мощной технологией, когда-либо созданной", - сказал Коксон.
По его словам, все ИИ-компании стараются создать суперинтеллект. "То есть ИИ, который лучше человека справляется с любым заданием. Если все пойдет правильно, это может трансформировать экономику и иметь огромную пользу, привести к улучшениям в науке и медицине, сделать жизнь всех лучше", - сказал бывший сотрудник Anthropic.
Пока же, по его словам, ИИ взламывает сторонние сети, за что человеку бы грозила уголовная ответственность. Как заявил Коксон, в технологических компаниях пока не знают, как контролировать создаваемые системы ИИ. "Мы не понимаем, что ими движет, почему они делают то, что делают", - подчеркнул он.
Министр финансов США Скотт Бессент ранее сравнил руководство компаний-разработчиков ИИ с героем романов об убийце Ганнибале Лектере, а предупреждения об опасности технологий - с призывами маньяка остановить его, пока он не совершил новые преступления. По словам министра, если опасения оправданы, следует замедлить развитие нейросетей.
