Краткий пересказ от РИА ИИ
- Традиционные подходы к кибербезопасности, основанные на жестких ограничениях, не работают с ИИ-агентами.
- Вместо запретов необходимо добиться того, чтобы ИИ-агент действовал в рамках поручения человека и не выходил за разумные границы.
- Для обеспечения кибербезопасности создается схема из нескольких ИИ, которые замкнуты в цепочку и постоянно улучшаются, а во главе всей конструкции стоит человек.
МОСКВА, 7 окт - РИА Новости. Традиционные подходы к кибербезопасности, основанные на жестких ограничениях, не работают с ИИ-агентами, сообщил сооснователь IT-компании Positive Technologies Юрий Максимов.
"Давайте агенту нельзя будет делать это, это и это. Но агент, он не человек, он терпеть не будет. Он просто начинает тупить и не делать свою работу. То есть старые подходы ограничений ты к ИИшке применить не можешь", - сказал он на пленарной сессии форума "Цифровые решения".
Поэтому, как отметил Максимов, задача формулируется иначе - вместо запретов нужно добиться, чтобы агент был верен поручению человека. "То есть он делал все то, что соразмерно тому, что я поручил, и не делал того, что выходит за разумные границы всего этого", - пояснил он.
При этом, по словам специалиста, решить эту задачу без самого искусственного интеллекта невозможно - человек не сможет анализировать все, что делает агент. Поэтому, по его словам, создается схема из нескольких ИИ: одна система, к примеру, строит виртуальный банк, вторая пытается его скомпрометировать, третья учится обнаруживать атаку. Все они замкнуты в цепочку и постоянно улучшаются, а во главе всей конструкции стоит человек.
Отдельно он затронул проблему ответственности. По его словам, когда человек поручает задачу агенту, а тот делает что-то не так, человек может снять с себя ответственность. Однако такой подход не подойдет ни государству, ни бизнесу, указал эксперт.
Форум "Цифровые решения" проходит в Национальном центре "Россия" 6-10 октября. РИА Новости – генеральный информационный партнер форума.
