Малайзия заблокировала чат-бот Grok в соцсети X из-за непристойного контента

ДЖАКАРТА, 12 янв - РИА Новости. Малайзия временно заблокировала чат-бот Grok Илона Маска в соцсети X из-за риска появления порнографического контента, созданного с помощью ИИ, говорится в заявлении Малайзийской комиссии по коммуникациям и мультимедиа.

Ранее правительства и регулирующие органы Европы и Азии осудили, а некоторые и начали расследования в отношении контента сексуального характера в приложении. Первой страной, временно заблокировавшей чат-бот, стала Индонезия.

"Комиссия направила уведомления компаниям X и xAI 3 и 8 января, требуя, среди прочего, внедрения эффективных технических и модерационных мер защиты для предотвращения создания контента с помощью ИИ, который может противоречить законодательству Малайзии, включая статью 233 Закона о связи и мультимедиа. Однако ответы, представленные компанией X 7 и 9 января, в основном основывались на механизмах подачи жалоб пользователями и не учитывали риски, связанные с дизайном и работой инструмента ИИ", - говорится в заявлении регулирующего органа.

В ведомстве добавили, что комиссия считает полученные ответы "недостаточным для предотвращения вреда или обеспечения соблюдения законодательства".

"Ограничение вводится в качестве превентивной и соразмерной меры на время проведения правовых и регуляторных процессов", - говорится в заявлении,.

Уточняется, что доступ к Grok останется ограниченным до тех пор, пока не будут внедрены эффективные меры защиты, особенно для предотвращения контента, касающегося женщин и детей.

Ранее агентство Блумберг передавало, что модель ИИ Grok компании xAI генерировала контент порнографического характера с детьми. Как отмечало агентство, такие изображения Grok создавал в течение последних нескольких дней, что нарушало политику допустимого использования чат-бота. При этом, согласно сообщению агентства, запрещенные изображения были удалены. На странице Grok в соцсети X говорится, что компания "в срочном порядке" устраняет уязвимости.