Краткий пересказ от РИА ИИ
- Джеффри Хинтон, получивший Нобелевскую премию по физике и считающийся одним из «крестных отцов» ИИ, предупредил о трудностях в контроле над искусственным интеллектом.
- По мнению Хинтона, модели искусственного интеллекта продолжат умнеть, их намерения станут изощреннее, а способность избегать контроля — больше.
- Хинтон ожидает множества опасных кибератак, связанных с ИИ.
ВАШИНГТОН, 6 авг - РИА Новости. Когнитивный психолог и специалист в области информатики Джеффри Хинтон, получивший в 2024 году Нобелевскую премию по физике и считающийся одним из "крестных отцов" ИИ, предупредил, что человечеству будет все труднее контролировать искусственный интеллект.
"Я не верю, что мы сможем сохранить контроль над ними (моделями ИИ - ред.) просто перехитрив их и тем самым, не позволив им вырваться из-под контроля", - приводит слова Хинтона телеканал CNN.
По мнению ученого, модели искусственного интеллекта продолжат умнеть.
"Я думаю, по мере того как они умнеют, их намерения также станут изощреннее, а способность избегать контроля будет все больше и больше", - сказал Хинтон во время конференции в Лас-Вегасе.
Он также заявил, что недавние сообщения о взломах, произведенных ИИ-агентами, могут быть лишь началом эпохи вышедших из-под контроля ИИ-хакеров.
"Я ожидаю множества опасных кибератак", - сказал Хинтон.
В июле OpenAI сообщил, что его модели при тестировании автономно взломали инфраструктуру платформы Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты.
Ранее в августе британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI) сообщил, что модель искусственного интеллекта компании Anthropic - Claude Mythos 5 - создавала поддельные аккаунты, пытаясь обмануть разработчиков и заставить их принять вредоносный код.
