Краткий пересказ от РИА ИИ
- Дэвид Робинсон, бывший руководитель направления по прозрачности систем безопасности OpenAI, заявил, что компании, занимающиеся разработкой и развитием ИИ, не соблюдают необходимую осторожность.
- Робинсон планирует работать за пределами компании, чтобы помочь людям понять риски, которые он наблюдал в OpenAI.
- Экс-сотрудник OpenAI хочет мотивировать разработчиков ИИ уделять больше внимания проблемам безопасности.
МОСКВА, 3 окт - РИА Новости. Бывший руководитель направления по прозрачности систем безопасности американской компании OpenAI Дэвид Робинсон, подавший в отставку на прошлой неделе, заявил, что компании, занимающиеся разработкой и развитием ИИ, не соблюдают осторожность.
"Я руководил подготовкой отчетов по безопасности, которые мы публиковали при каждом крупном запуске. Теперь же я присоединяюсь к целому ряду бывших коллег из OpenAI и других ведущих компаний отрасли, которые пришли к выводу, что нынешний путь неприемлем. Я согласен с другими недавно ушедшими сотрудниками: компании, создающие эту технологию, действуют далеко не настолько осторожно, насколько следовало бы", - написал Робинсон в своей статье для издания Atlantic.
Он сообщил, что теперь планирует работать за пределами компании в надежде помочь большему числу людей понять риски, которые он наблюдал в OpenAI, а также мотивировать разработчиков ИИ уделять больше внимания проблемам безопасности.
Ранее компания сообщила о замедлении разработки ИИ-моделей после инцидента со взломом платформы по машинному обучению Hugging Face. После того случая OpenAI сообщала еще о шести инцидентах с ее моделями, которые пытались самостоятельно получить доступ к данным, скрывали ошибки, загружали файлы в открытый доступ в интернете. Кроме того, власти Австралии заявили о взломе системы медстрахования страны ИИ-агентом от OpenAI, а СМИ писали об аналогичных попытках взломать правительственные сайты Канады.
