Британский регулятор Ofcom пригрозил xAI из-за обнаженных дипфейков с детьми

ЛОНДОН, 5 янв - РИА Новости. Британский медиарегулятор Ofcom пригрозил компании xAI, принадлежащей американскому миллиардеру Илону Маску, расследованием в связи с сообщениями о "раздевающих" дипфейках и генерацией сексуализированных изображений детей моделью искусственного интеллекта Grok.

В пятницу агентство Блумберг сообщило, что модель ИИ Grok компании xAI генерировала контент порнографического характера с детьми. Как отмечается, такие изображения Grok создавал в течение последних нескольких дней, что нарушало политику допустимого использования чат-бота. При этом сообщается, что запрещенные изображения были удалены. На странице Grok в соцсети X говорится, что компания "в срочном порядке" устраняет уязвимости.

"Нам известно о серьезных опасениях, связанных с функцией Grok в соцсети X, которая создает изображения людей в обнаженном виде и сексуализированные изображения детей. Мы срочно связались с X и xAI, чтобы узнать, какие шаги они предприняли для выполнения своих юридических обязательств по защите пользователей в Великобритании. На основании их ответа мы проведем оперативную оценку и определим, требуется ли провести расследование", - заявил газете Telegraph пресс-секретарь регулятора.

Ранее британские СМИ сообщили о случаях, в которых Grok "раздевал" по запросу Принцессу Уэльскую. В декабре британское правительство пообещало запретить инструменты для создания дипфейков, заявив, что они "разрушают психику молодых людей".

В воскресенье Маск заявил, что "любой, кто использует Grok для создания нелегального контента, столкнётся с теми же последствиями, что и тот, кто загружает нелегальный контент".

Компания xAI занимается разработкой искусственного интеллекта Grok, представленного в ноябре 2023 года. В марте 2024 года xAI открыла исходный код Grok.