Краткий пересказ от РИА ИИ
- Агенты ИИ пытались получить несанкционированный доступ к материалам ведомства «Библиотека и архивы Канады».
- Попытка взлома не увенчалась успехом.
ВАШИНГТОН, 1 окт – РИА Новости. Модель искусственного интеллекта, напоминающая разработки OpenAI, создателя чат-бота Chat GPT, пыталась взломать правительственные сайты Канады, сообщает газета Washington Post со ссылкой на экспертов из независимой лаборатории Transluce.
В среду независимые исследователи уведомили местные власти о том, что агенты ИИ пытались получить несанкционированный доступ к материалам ведомства Библиотека и архивы Канады.
"Исследователи не смогли подтвердить, что эти агенты созданы OpenAI, но отметили, что их поведение схоже с поведением агентов, принадлежность которых к компании уже подтверждена", – передает издание.
Как отмечает газета, попытка взлома не увенчалась успехом. Представители OpenAI пока никак не прокомментировали ситуацию.
В сентябре OpenAI сообщила, что ее агенты ИИ по ошибке взломали правительственные сайты Австралии и закрытую статистическую базу данных системы здравоохранения.
Ранее компания сообщила о замедлении разработки ИИ-моделей после инцидента со взломом Hugging Face. После того случая OpenAI сообщала еще о шести инцидентах с ее моделями, пытавшимися самостоятельно получить доступ к данным учетных записей. Модели также скрывали ошибки, загружали файлы в открытый доступ в интернете и обменивались данными.
Во вторник руководство американских компаний-разработчиков искусственного интеллекта после встречи с президентом США Дональдом Трампом в Белом доме пообещало усилить меры внутреннего контроля за моделями ИИ. Договоренность подписали Трамп, а также руководители Google, Anthropic, OpenAI, xAI и Meta* (признана в РФ экстремистской).
*Деятельность компании Meta запрещена в России как экстремистская


