Поиск преступников в толпе, в интернете и по телефону, обнаружение схронов оружия террористов постепенно перекладываются на недремлющие глаза-камеры роботов, а скоро и управление системами безопасности будет передано электронному мозгу. Передачей полномочий от человека к роботу в России занимается Фонд перспективных исследований (ФПИ), в котором создан Национальный центр развития технологий и базовых элементов робототехники. Заместитель генерального директора — руководитель направления информационных исследований ФПИ Сергей Гарбук рассказал РИА Новости о последних разработках в области роботизации систем безопасности. Беседовал специальный корреспондент Игорь Ермаченков.
— Над какими проектами в области информационных технологий сегодня работает фонд?
— В направлении информационных исследований ФПИ работа ведется по трем основным направлениям. Первое — создание перспективной электронной компонентной базы, и здесь мы особенно выделяем проекты, связанные с квантовыми технологиями. Второе направление — использование интеллектуальных технологий в сфере обороны и безопасности. Третье направление — информационная безопасность, включая создание технологий, способных выявлять такие деструктивные воздействия на общество, как дезинформация, распространение незаконного контента и другие.
— Расскажите, как продвигаются работы по созданию искусственного интеллектуального оператора безопасности?
— Под искусственным интеллектом мы понимаем технологии, которые позволяют решать ряд прикладных задач, которые человек решает хорошо, благодаря наличию у него естественных интеллектуальных способностей. Отмечу, что далеко не любые сложные задачи обработки информации можно отнести к разряду интеллектуальных. В частности, к последним мы относим задачи по распознаванию образов, обработки человеческой речи, выделения объектов на сложных фонах, прогнозирования поведения сложных систем.
Второй конкурс касался распознавания лиц в сложных условиях, когда лицо скрыто головным убором, очками, вплоть до умышленной маскировки, а ракурс лица существенно отличается от направления анфас.
Третий конкурс был посвящен созданию технологий дешифрирования аэрокосмических изображений, выявлению на снимках, полученных спутниками и беспилотниками, скрытых сооружений, военной техники и других интересующих объектов.
И наконец, четвертый конкурс касался технологий автоматизированного интеллектуального контроля ручных действий оператора с целью выявления отклонений от установленных технологических регламентов. Подобная технология позволит кардинально повысить качество выполнения операций по изготовлению, ремонту и техническому обслуживанию сложной высокотехнологичной продукции, включая вооружение и военную технику. Мы рассчитываем создать искусственного интеллектуального помощника, который с помощью недорогой видеокамеры будет наблюдать за ручными операциями, выполняемыми человеком, выявлять возможные отклонения и сигнализировать об этом. По итогам конкурса, проведенного совместно с фондом "Сколково" и производителем грузовиков "КамАЗ", отобрано два победителя: ООО "Мотив" в номинации "Лучшее технологическое решение" и ЗАО "Открытый код" в номинации "Лучшие перспективы коммерциализации".
Мы с большим воодушевлением смотрим на это четвертое направление, поскольку считаем, что такого рода технологии могут быть использованы не только в промышленности, но и в других гражданских отраслях, где человек вручную выполняет ответственные операции: строительство, пищевое производство, фармацевтика, сельское хозяйство и так далее. При этом мы считаем, что в условиях вредного или опасного производства руки человека нужно стремиться заменить на искусственные манипуляторы. Но во многих случаях это нецелесообразно как из экономических, так и из гуманитарных соображений: ограничение применения искусственного интеллекта позволяет избежать рисков, связанных с неоправданной безработицей.
— Как продвигается проект по дешифрированию изображений, полученных со спутников и беспилотников?
— Он в настоящее время выполняется, головным исполнителем является Московский физико-технический институт, который победил в открытом конкурсе, проводившемся в 2016 году. В рамках этого проекта создаются, по сути, две технологии. Одна направлена на решение антитеррористических задач, связанных с выявлением схронов оружия, замаскированных баз террористов на полученных с беспилотников снимках. Вторая задача связана с решением задач оборонного характера: автоматическое выявление авиационной, морской техники, сухопутных вооружений на снимках, полученных из космоса. Проект развивается весьма успешно, проведен ряд полевых испытаний, которые подтверждают эффективность создаваемых технологий. Завершение проекта ожидается в 2019 году.
— Как идут работы в рамках проекта по распознаванию угроз в социальных сетях?
— Технология создана, сейчас идет процесс ее передачи и опытной эксплуатации в МЧС России. Ожидается, что она будет применяться в Национальном центре управления в кризисных ситуациях (НЦУКС). Созданная технология была направлена на выявление определенных угроз, связанных с возникновением чрезвычайных ситуаций: пожаров, затоплений, обрушений зданий. Выявление такого рода угроз ведется в МЧС России. Мы прошли свою часть жизненного цикла по созданию технологии и передали проект оперативным структурам.
— А технология по распознаванию лиц уже работает?
— Да. Разработчиком такой технологии стал Государственный научно-исследовательский институт авиационных систем. В этом институте создан один из сильнейших отечественных научных коллективов, который победил в открытом конкурсе, проведенном нами в 2015 году. В рамках проекта ФПИ в ГосНИИАС была создана технология, позволяющая выявлять находящихся в розыске лиц в толпе, на транспорте, в других сложных условиях.
При этом необходимо отметить, что у нас в стране без преувеличения десятки коллективов, которые создают такого рода технологии. Было бы ошибкой утверждать, что по итогам реализованного нами проекта задача распознавания лиц решена раз и навсегда. Конкурентные условия должны сохраняться, коллективы должны создавать все более и более совершенные технологии. При этом очень важно разработать объективные критерии, позволяющие оценивать качество технологий, предложенных разными разработчиками, сопоставляя их друг с другом.
В этой связи мы ведем работу не только по созданию технологий как таковых, но и по созданию системы сертификации интеллектуальных технологий, то есть проверки технологий на соответствие установленным требованиям. В этом году по заказу Росстандарта начата разработка нормативных документов, предъявляющих требования к технологиям искусственного интеллекта. Ожидается, что первые редакции таких документов появятся к концу года. В апреле этого года в Пекине впервые проведено заседание международного технического комитета по стандартизации искусственного интеллекта. Представители России на этом заседании присутствовали и продолжают работать на этой площадке, где мы заметны. У нас есть свои инициативы, к ним прислушивается международное сообщество.
— Приятно осознавать, что российские разработки искусственного интеллекта не хуже зарубежных. А есть ли какие-то направления, где мы впереди планеты всей?
— У нас есть своя методология, позволяющая сравнивать возможности интеллектуальных технических систем с возможностями естественного интеллекта человека при решении прикладных задач. Дело в том, что традиционный подход к оценке качества информационных систем основан на анализе процесса обработки информации. При этом стремятся добиться прозрачности этого процесса, его объяснимости, предсказуемости и устойчивости.
Мы же считаем, что в случае с интеллектуальными системами далеко не всегда можно добиться прозрачности и объяснимости процесса обработки информации. Можно даже сказать, что когда алгоритм обработки информации становится объяснимым, он по определению перестает быть интеллектуальным. Здесь прослеживается полная аналогия с естественным интеллектом человека: обучение на прецедентах, отсутствие четкого алгоритма принятия решения, интуиция.
Поэтому нами в дополнение к традиционному подходу, основанному на анализе процесса обработки информации, предложено контролировать результат обработки, сравнивая функциональные возможности интеллектуальной системы с возможностями квалифицированного человека-оператора. При этом сравнение возможностей человека и машины, своеобразный тест Тьюринга, или сравнение технологий друг с другом проводится на специально подготовленных контрольных выборках исходных данных. Унификация этих выборок обеспечивает объективность оценки качества технологий.
— Справедливы ли опасения, что лет через 10-20, когда вовсю заработают искусственные операторы систем безопасности, роботы могут выйти из-под контроля и начнут принимать решения, не соотносящиеся со здравым смыслом?
— На мой взгляд, угроза выхода технических систем из-под контроля человека в определенной степени преувеличена. Во-первых, прежде чем доверять системам искусственного интеллекта выполнение ответственных операций, нужно убедиться в том, что работа этих систем, их возможности и свойства удовлетворяют определенным требованиям. Это достигается в процессе сертификации, оценки соответствия требованиям, установленных стандартами, о которых я говорил.
Во-вторых, робот — это система, которая не сможет существовать сама по себе. Это не естественный, созданный природой объект. Он требует поддержки со стороны технологической инфраструктуры, созданной человеком. Смогут ли роботы создать такую инфраструктуру сами и сами же поддерживать системы, которые будут обеспечивать их энергией, воспроизводить? Причем создать в тайне и против воли человека? Думается, что в обозримом будущем этого не произойдет. Вся промышленная инфраструктура, созданная цивилизацией, работает на обеспечение роботов и управляется человеком. Без человека инфраструктура быстро деградирует и разрушается. Также нежизнеспособен и робот. Он очень вторичен. Это не создание природы.
В более узком смысле выход систем из-под контроля, конечно, возможен. Но это скорее нужно относить не к умышленному противодействию, бунту, а к сбою в работе технических систем, которые неизбежны. Отказ рулевого управления современного роботизированного автомобиля — это бунт? Нет, это поломка, которую необходимо предвидеть и предотвращать в том числе путем оценки соответствия создаваемых технологий и систем.
— Ранее сообщалось, что разработка квантового компьютера начнется в сентябре. Работы начались?
— Да. Предложение по разработке такого компьютера поступило в Фонд перспективных исследований, рассмотрено научно-техническим советом фонда и одобрено. Головным исполнителем по этому проекту станет центр компетенций Национальной технологической инициативы в области квантовых технологий, созданный на физическом факультете Московского государственного университета. Вместе с МГУ работы выполняет ряд других организаций. Мы стремимся так организовать работы перед запуском проекта, чтобы в его финансировании участвовали другие институты развития и заказчики. В частности, мы проводим ряд совещаний по координации нашей работы с Российской венчурной компанией, АНО "Цифровая экономика", с министерством науки и высшего образования. Считаем, что такая координация работ на федеральном уровне в данном случае исключительно важна. Это новое дело, мы находимся в начале пути, в случае успеха это технологическое направление сулит огромные преимущества для нашей страны. Здесь важно учесть интересы всех сторон и участников.