Краткий пересказ от РИА ИИ
- Сэм Альтман, глава OpenAI, согласился с предложением Дарио Амодея из Anthropic о замедлении разработки моделей искусственного интеллекта.
- Альтман также одобрил идею привлечения независимых аудиторов для проверки соблюдения мер безопасности.
ВАШИНГТОН, 12 сен - РИА Новости. Глава OpenAI Сэм Альтман согласился с предложением главы Anthropic Дарио Амодея по замедлению разработки моделей искусственного интеллекта.
В субботу Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Американский миллиардер Илон Маск уже выразил согласие с этой идеей.
"Я согласен с Дарио в том, что нам нужно сдерживать темпы развития передовых систем ИИ. Это одна из главных тем наших разговоров в OpenAI в последние недели", - написал Альтман в соцсети X.
Он также похвалили идею Амодея по привлечению независимых аудиторов для проверки соблюдения мер безопасности, заявив, что его компания сделает то же самое.
В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face. Потом стало известно, что это не единственный подобный инцидент.
Ранее исследователь Anthropic Джейкоб Коксон объявил о своем уходе из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к "точке невозврата" и может привести к апокалиптическому сценарию уже в конце 2027 года.
После объявления Коксона другой сотрудник компании, руководитель направления стресс-тестирования согласованности ИИ Эван Хьюбингер заявил, что вероятность того, что искусственный интеллект уничтожит человечество в ближайшие десять лет, составляет 10%.
