"ВКонтакте" запустила эксперимент для борьбы с хейтерами

МОСКВА, 4 ноя - РИА Новости. Крупнейшая российская соцсеть "ВКонтакте" запустила масштабный эксперимент для борьбы с оскорблениями и травлей в комментариях, говорится в сообщении компании.

В частности, в ходе эксперимента будут протестированы две функции, которые помогут пользователям реже сталкиваться с нетерпимостью, в том числе травлей по национальному признаку, оскорблениями на почве религиозной принадлежности и угрозами. У администраторов появится возможность включить специальный фильтр враждебных высказываний в настройках сообщества, а комментаторы увидят предложение отказаться от обидных реплик.

В сообщении уточняется, что оба инструмента работают на основе алгоритмов — в том числе нейросети, распознающей оскорбления.

Нейросеть удаляет комментарии, в которых содержатся угрозы - например, пожелания смерти или обещания причинить вред здоровью. При этом администратор сможет увидеть все комментарии, которые отсеял фильтр, и восстановить их или отправить автора в черный список. Как и другие фильтры в сообществах, фильтр враждебных высказываний можно включить или выключить в любой момент.

Результаты эксперимента будут использованы для дальнейшего обучения нейросети и доработки фильтра.

Также "ВКонтакте" масштабирует прошлогодний эксперимент: когда пользователь пишет комментарий, алгоритмы определяют, есть ли в тексте признаки оскорблений, и, если находят их, автор получает совет не тратить время на агрессию и отказаться от обидной реплики.

"ВКонтакте" уточняет, что в прошлом году благодаря такому предупреждению за сутки удалось сократить количество оскорблений в комментариях на 36%.

"В этот раз функция будет определять более широкий спектр оскорблений и угроз. Среди них - проявления нетерпимости по национальному признаку, а также враждебные высказывания на почве религиозной принадлежности, возраста, пола и других характеристик. По результатам эксперимента команда "ВКонтакте" примет решение о дальнейшем использовании функции", - говорится в сообщении.

Кроме того, как и раньше, любой пользователь может сообщить об оскорбительных публикациях службе модерации с помощью кнопки "Пожаловаться". Она есть у записей, комментариев, фотографий, видео, историй и клипов. Чтобы усилить модерацию, "ВКонтакте" добавила отдельную причину для жалоб на оскорбительные материалы - "Враждебные высказывания". Также можно добавить профиль недоброжелателя в черный список. В сообщении отмечается, что "ВКонтакте" не только рассматривает поступающие жалобы, но и самостоятельно отслеживает появление вредоносного контента.