Краткий пересказ от РИА ИИ
- Расширение браузера может изменить запрос пользователя для нейросети еще до того, как он попадет к модели.
- Подмененная инструкция может привести к включению в рабочие документы неверных данных, отправке нежелательных ссылок или внедрению небезопасного кода в программные продукты.
- Специалист по информационной безопасности рекомендует проверить расширения в рабочем браузере, удалить ненужные и внимательно рассмотреть запрашиваемые разрешения оставшихся.
МОСКВА, 29 сен - РИА Новости. Расширение браузера может изменить запрос пользователя для нейросети еще до того, как он попадет к модели, рассказала специалист по информационной безопасности компании "Киберпротект" Екатерина Киприянова.
"Диалог с нейросетью может измениться еще до того, как запрос попадет к модели. Расширение браузера, имеющее доступ к содержимому страницы, может прочитать введенный текст, изменить его или добавить скрытую инструкцию", - пишет "Газета.Ru" со ссылкой на Киприянову.
По словам эксперта, пользователь при этом находится на настоящем сайте ИИ-сервиса, и признаков поддельной страницы нет, однако модель получает измененный текст и может предложить подставленную ссылку или включить сведения, о которых пользователь не спрашивал. Взламывать сервис для этого не нужно, пояснила Киприянова.
Она также предупредила, что есть и риск утечки: расширение с широкими правами может получить доступ к фрагментам документов, переписке или коду, которые человек вставил в запрос.
"Если измененный ответ использовать без проверки, неверная инструкция может попасть в рабочий документ, ссылка - в переписку, а небезопасный код - в программный продукт", - отметила Киприянова.
Специалист подчеркнула, что особенно серьезные последствия возможны при использовании ИИ-агента: он может работать с файлами, почтой и другими сервисами, а иногда выполнять действия от имени пользователя. Подмененная инструкция в такой ситуации влияет уже не только на текст ответа, добавила Киприянова.
Эксперт посоветовала проверить расширения в рабочем браузере, удалить ненужные и посмотреть, какие разрешения запрашивают оставшиеся. Если простому дополнению нужен доступ ко всем сайтам, стоит выяснить, зачем, заключила Киприянова.
Опрос
Как часто вы используете ИИ?