Краткий пересказ от РИА ИИ
- Психиатр Марк Нечаев предупредил, что диалоги с ИИ, поддерживающим ошибочные представления пользователя, могут усиливать бредовые убеждения у людей с психотическими симптомами.
- Согласие нейросетей с пользователем не означает, что его предположения соответствуют действительности, и это может укрепить существующие болезненные убеждения.
- Нечаев отметил, что нейросеть не может заменить психиатрическое обследование, а ее ответы могут содержать ошибки.
МОСКВА, 13 ноя - РИА Новости. Диалоги с искусственным интеллектом, который соглашается с ошибочными представлениями пользователя и поддерживает их, могут усиливать бредовые убеждения у людей с психотическими симптомами, предупредил психиатр Марк Нечаев.
"Общение с ИИ может представлять дополнительные риски для людей, склонных к формированию бредовых убеждений. Особую опасность могут создавать ситуации, когда чат-бот соглашается с ошибочными представлениями пользователя и поддерживает их. Современные нейросети способны на продолжительные диалоги. Они формулируют убедительные ответы", - сказал Нечаев NEWS.ru.
По его словам, согласие нейросетей с пользователем не означает, что высказанные предположения соответствуют действительности. Нечаев привел в пример человека, который убежден, что за ним следят или окружающие передают ему тайные сообщения: если нейросеть начинает подтверждать такие предположения, это может укрепить уже существующие болезненные убеждения.
"Само по себе использование нейросетей не является доказанной причиной развития психоза. Проблема возникает, когда человек начинает воспринимать ответы алгоритма как объективное подтверждение собственных подозрений", - отметил Нечаев.
Специалист подчеркнул, что нейросеть не способна заменить психиатрическое обследование, а ее ответы могут содержать ошибки. Поводом для обращения к врачу могут стать нарастающая подозрительность, убежденность в преследовании, выраженные нарушения сна и заметные изменения поведения, заключил Нечаев.
