Краткий пересказ от РИА ИИ
- Сотрудники OpenAI и Google Deep Mind считают, что их компании не предпринимают достаточных мер безопасности в сфере разработки ИИ.
- Научный сотрудник Deep Mind заявил, что вероятность того, что ИИ может привести к исчезновению человечества, составляет не менее 10%.
- Обсуждение баланса между безопасностью и прогрессом в сфере ИИ стало глобальной политической проблемой после взлома агентами OpenAI платформы Hugging Face.
МОСКВА, 29 сен - РИА Новости. Сотрудники OpenAI и Google Deep Mind считают, что компании не предпринимают достаточных мер безопасности в сфере разработки искусственного интеллекта, в большей степени фокусируясь на стремительном развитии продукции, а также на конкуренции друг с другом, сообщило агентство Reuters.
"Нынешние и бывшие исследователи OpenAI и Google Deep Mind предупреждают, что компании предпринимают слишком мало для защиты мира от потенциально катастрофических последствий от создания самосовершенствующихся систем искусственного интеллекта, способных превзойти возможности их контроля человеком", - сообщает агентство.
Как отмечает Рейтер, в видеообращениях, собранных для агентства компанией Palisade Research, сотрудники этих компаний заявили, что их опасения относительно риска искусственного интеллекта искренни, и это не маркетинговый ход.
Эти обращения стали частью проекта frominside.ai, который представляет собой попытку поделиться своими опасениями напрямую с общественностью тех, кто обеспокоен развитием искусственного интеллекта.
Так, по данным Рейтера, в одном из видео научный сотрудник Deep Mind заявил, что вероятность того, что искусственный интеллект может привести к исчезновению человечества, составляет не менее 10%. Он охарактеризовал это цифру как "неоправданно высокую", добавляет агентство.
В другом же видео инженер-исследователь из OpenAI заявил, что в вопросах разработки искусственного интеллекта нужно действовать "очень осторожно", однако вместо этого лаборатории соревнуются друг с другом.
"Никто не знает, чем это закончится: либо мы излечим рак, либо потеряем все рабочие места, либо, возможно, все погибнем", - приводит его слова Reuters.
Исследователи в области искусственного интеллекта уже много лет занимаются проблемами безопасности, однако широкая общественность стала особенно обеспокоена с момента взлома агентами OpenAI платформы Hugging Face.
С тех пор дискуссия о том, как найти баланс между безопасностью и прогрессом в этой сфере, разделила технологическую отрасль и стала глобальной политической проблемой, подчеркивает агентство.
"Риск растет довольно быстро. Я и другие специалисты в этой области обязаны говорить об этом прямо", - сказал в интервью Рейтеру сооснователь и главный научный сотрудник компании Resolution Джеффри Ирвинг (Geoffrey Irving), который ранее работал в OpenAI и Deep Mind.
