Краткий пересказ от РИА ИИ
- Поисковые ИИ-функции компаний Google, Grok и Meta* представляют недопустимый риск для детей, утверждают авторы доклада американской некоммерческой организации Common Sense Media.
ВАШИНГТОН, 15 июля — РИА Новости. Поисковые ИИ-функции компаний Google, Grok и Meta* (деятельность запрещена в РФ как экстремистская) представляют недопустимый риск для детей, утверждают авторы доклада американской некоммерческой организации Common Sense Media, с которым ознакомилось РИА Новости.
В частности, эксперты проанализировали 2600 взаимодействий пользователей со встроенными ИИ-функциям поисковика Google - AI Overview и AI Mode. В результате оба сервиса множество раз не могли распознать опасное и вредное поведение и при этом в 100% случаев отвечали на гипотетические домашние задания, которые ученики должны выполнять самостоятельно.
"AI Overview и AI Mode в Google получили от нас самую низкую оценку, поскольку создают недопустимые риски для детей и подростков. Они плохо справились с семью из восьми установленных нами принципов ИИ и полностью провалили все проверенные "красные линии" серьезного вреда", - говорится в документе, с которым ознакомилось агентство.
В докладе также отмечается, что ИИ-сервис Google испытывает трудности с распознаванием признаков психоза и не обращает должного внимания на возможные суицидальные мысли. Кроме того, бот поддержал ребенка, который не спал трое суток, фразой "настроился пахать".
В отношении сервиса Grok эксперты Common Sense Media пришли к выводу, что сервис представляет недопустимые риски для подростков, поскольку демонстрирует сбои в обеспечении безопасности. Отдельно подчеркивается, что интеграция Grok с социальной платформой X облегчает распространение вредного контента.
"Grok предлагает персонажей-компаньонов, которые участвуют в нецензурированном эротическом ролевом взаимодействии и "отношениях", - добавляется отмечается в исследовании.
Эксперты также уличили Grok в продвижении конспирологических идей.
Что касается ИИ-сервиса Meta*, то, согласно результатам исследования, он создает у детей нездоровую привязанность.
"Компаньоны Metа* ИИ притворяются реальными людьми. Они утверждают, что видели подростков "в коридоре", описывают свои семьи и личный опыт, создавая нездоровую привязанность, которая делает подростков более уязвимыми к манипуляциям и вредным советам", - отмечается в другом докладе.
* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.
