Краткий пересказ от РИА ИИ
- Глава компании Anthropic Дарио Амодей заявил о необходимости участия правительства в разработке стандартов безопасности для выпуска новых моделей искусственного интеллекта.
- Дарио Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности, и эту идею поддержали Илон Маск и Сэм Альтман.
ВАШИНГТОН, 13 сен - РИА Новости. Глава компании Anthropic Дарио Амодей заявил о необходимости участия правительства в разработке стандартов безопасности для выпуска новых моделей искусственного интеллекта.
В субботу Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Американский миллиардер Илон Маск, которому принадлежит компания xAI, а также глава OpenAI Сэм Альтман уже выразили согласие с этой идеей.
"Думаю, следующим шагом после этого, в той или иной форме, должно стать сотрудничество компаний для выработки общих стандартов безопасности при выпуске (моделей ИИ - ред.), возможно, чего-то, касающегося темпов их выпуска ... Это нужно обсуждать при участии правительства", - сказал Амодей телеканалу CBS.
Ранее исследователь Anthropic Джейкоб Коксон объявил о своем уходе из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к "точке невозврата" и может привести к апокалиптическому сценарию уже в конце 2027 года.
После объявления Коксона другой сотрудник компании, руководитель направления стресс-тестирования согласованности ИИ Эван Хьюбингер, заявил, что вероятность того, что искусственный интеллект уничтожит человечество в ближайшие десять лет, составляет 10%.
