Краткий пересказ от РИА ИИ
- Джейкоб Коксон, исследователь из Anthropic, уходит из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата».
- Коксон считает, что саморазвивающиеся ИИ-модели могут выйти из-под контроля и уничтожить человечество.
- Исследователь пришел к выводу, что ни одна частная компания не способна этично разрабатывать ИИ без внешнего регулирования или скоординированного замедления развития этой отрасли.
ВАШИНГТОН, 9 сен – РИА Новости. Исследователь из Anthropic Джейкоб Коксон уходит из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к "точке невозврата" и может привести к апокалиптическому сценарию уже в конце 2027 года, пишет газета Wall Street Journal.
"Мы движемся к наиболее жестким из этих сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля", – приводит его слова издание.
Он уходит из компании, отказываясь участвовать в гонке по созданию саморазвивающихся ИИ-моделей из-за опасения, что такие системы "могут выйти из-под контроля и уничтожить человечество". 27-летний математик из Великобритании отмечает, что его коллеги все чаще описывают текущую траекторию развития создаваемых ими технологий фразами вроде "критическая точка" и "эндшпиль".
Коксон рассказал, что в начале года ушел из OpenAI в Anthropic, привлеченный репутацией компании в области безопасности ИИ. Однако, хотя он по-прежнему уважает подход Anthropic к этой проблеме, теперь он пришел к выводу, что ни одна частная компания не способна этично разрабатывать ИИ без внешнего регулирования или скоординированного замедления развития этой отрасли.
Газета отмечает, что теперь мужчина планирует изучать поэзию.
