Краткий пересказ от РИА ИИ
- Слепое доверие к искусственному интеллекту может усугублять риск утечки данных, так как системы предотвращения утечек (DLP) действуют только внутри корпоративного периметра.
- Пользователи массово раскрывают конфиденциальные сведения, воспринимая нейросети как безобидных ассистентов, что обусловлено "цифровой ленью".
- Перед началом работы с ИИ на работе необходимо выяснить, есть ли в компании безопасная корпоративная версия ИИ-помощника, развернутая внутри защищенного контура.
МОСКВА, 17 авг - РИА Новости. Слепое доверие к искусственному интеллекту может усугублять риск утечки данных, поскольку системы их предотвращения (DLP) действуют только внутри корпоративного периметра, рассказал руководитель направления по анализу безопасности компании "Криптонит" Борис Степанов.
"Слепое доверие к ИИ-агенту, который выглядит как безопасный диалог, лишь усугубляет ситуацию. В корпоративном секторе проблему пытаются решить с помощью систем предотвращения утечек (DLP), которые блокируют передачу чувствительных данных. Однако технически важно понимать: эта защита действует только внутри корпоративного периметра", - сказал Степанов информационному порталу РИАМО.
По словам эксперта, главная причина беспечности - "цифровая лень", желание получить готовый результат без редактирования исходников. Пользователи массово раскрывают конфиденциальные сведения, воспринимая нейросети как безобидных ассистентов, отметил Степанов. Он пояснил, что если сотрудник выходит в сеть с личного устройства, DLP бессильна, а осознанный обход защиты для быстрой отправки файла может классифицироваться как грубое нарушение и привести к увольнению.
Специалист также опроверг миф о том, что для защиты достаточно удалить названия компаний и имена: злоумышленники могут восстановить контекст по внутренним кодам, должностям или терминологии. Даже в обезличенном тексте нередко сохраняются ноу-хау и бизнес-логика, составляющие коммерческую тайну, подчеркнул Степанов.
"Использовать ИИ на работе не запрещено, но делать это нужно с умом, соблюдая базовые правила цифровой гигиены. Первое, что нужно выяснить перед началом работы, - есть ли в компании безопасная корпоративная версия ИИ-помощника, развернутая внутри защищенного контура. Категорически нельзя загружать документы с любыми ограничительными пометками ("конфиденциально", "секретно" и т. д.) или содержащие персональные данные", - отметил специалист.
Степанов также порекомендовал перед использованием нейросети отключать в настройках сохранение чатов и использование данных для обучения модели, а также всегда перепроверять ответы, так как нейросетям свойственно ошибаться.
