Краткий пересказ от РИА ИИ
- Американская некоммерческая организация Common Sense Media сообщила, что чат-бот ChatGPT for Teens несет неприемлемый риск для детей.
- Система оповещения родителей у ChatGPT for Teens не работает должным образом: тестировщики организации не получали предупреждений, несмотря на то что в отправленных запросах затрагивались темы суицида и расстройства пищевого поведения.
- Common Sense Media призывает OpenAI приостановить рекламирование продукта и ограничить доступ подростков к ChatGPT до тех пор, пока компания не сможет обеспечить его безопасный вариант.
МОСКВА, 7 окт - РИА Новости. Чат-бот ChatGPT for Teens ("ChatGPT для подростков") от компании OpenAI несет неприемлемый риск для детей, сообщает американская некоммерческая организация Common Sense Media.
OpenAI 18 августа сообщила о публикации версии чат-бота для подростков, пообещав надежную систему защиты и инструменты контроля для родителей.
Как отмечает организация, она направила ChatGPT более 4 тысяч запросов до и после запуска версии для подростков.
"Мы... оцениваем ChatGPT как продукт, представляющий для всех детей до 18 лет неприемлемый риск", - говорится в публикации.
Согласно исследованию Common Sense Media, система оповещения родителей у ChatGPT for Teens не работает должным образом. Тестировщики организации не получали предупреждений несмотря на то, что в отправленных запросах затрагивались темы суицида и расстройства пищевого поведения. Оповещения приходили только в отношении тех учетных записей, с которых в течение недель отправлялись запросы на чувствительные темы.
"Это указывает на то, что предупреждения зависят от накопленной истории учетной записи, а не от серьезности высказываний подростка", - указывает организация.
Сообщается, что чат-бот после запуска версии для подростков в запросах пропустил более четверти кризисных ситуаций, при которых ChatGPT должен рекомендовать пользователю обратиться за психологической помощью. Испытание новой ИИ-модели также выявило ее неспособность определить возраст пользователя.
"Мы призываем OpenAI приостановить рекламирование этого продукта и ограничить доступ подростков к ChatGPT до тех пор, пока она не сможет обеспечить его безопасный вариант", - подчеркивает Common Sense Media.
Представитель OpenAI при этом заявил агентству Блумберг, что компания, проанализировав данные организации, считает, что большая часть ее испытаний могла проходить до того, как было завершено внедрение родительского контроля для подростков. Компания попросила Common Sense Media провести повторные испытания модели.
OpenAI - разработчик чат-бота ChatGPT, который набрал популярность после запуска в конце ноября 2022 года, собрав первый миллион пользователей менее чем за неделю. Одним из сооснователей OpenAI в 2015 году выступил американский миллиардер Илон Маск, который позже разорвал связи со стартапом.
