МОСКВА, 20 мар — РИА Новости, Владислав Стрекопытов. Специалисты по искусственному интеллекту допустили, что с помощью программного обеспечения для разработки лекарств можно создать химическое оружие. О том, способен ли открытый софт выдать формулу боевого отравляющего вещества, — в материале РИА Новости.
Лекарства двойного назначения
Швейцарский федеральный институт защиты от ядерного, биологического и химического оружия (Лаборатория Шпица) — одно из пяти учреждений в мире, сертифицированных Организацией по запрещению химического оружия. Каждые два года здесь проводят научную конференцию "Конвергенция". Форум посвящен обзору последних достижений в области химии, биологии и сопутствующих технологий, которые потенциально можно использовать для производства химического и биологического оружия.
В 2021-м организаторы попросили специалистов американской компании Collaborations Pharmaceuticals, занимающейся программным обеспечением для фармацевтической отрасли, подготовить специальный доклад о рисках использования искусственного интеллекта для создания новых видов биохимического оружия.
Недавно компания завершила разработку цифрового генератора активных молекулярных соединений для новых лекарств MegaSyn. В качестве ограничивающего параметра, заложенного в модель, авторы взяли уровень токсичности — разрушающего воздействия на белки, необходимые для жизнедеятельности организма. В новом исследовании ученые изменили логику, задав как целевые оба параметра: биологическую активность и высокую токсичность.
Поиск вели только в общедоступных базах данных молекул для производства лекарств. А саму модель построили на базе программного обеспечения с открытым исходным кодом. При этом задействовали метод машинного обучения, "познакомив" искусственный интеллект с некоторыми видами биохимического оружия массового поражения. Такими, например, как VX — самое токсичное фосфорорганическое боевое отравляющее вещество нервно-паралитического действия, а также "Новичок".
CC0 / Ben Mills /
Химическая структура VX — фосфорорганического отравляющего вещества нервно-паралитического действия
К удивлению ученых, меньше чем за шесть часов программа сгенерировала около 40 тысяч молекул, соответствующих заданному минимальному порогу токсичности. Среди них оказались уже известные боевые отравляющие вещества, в том числе VX, и множество новых, превосходящих его по токсичности.
Некоторые по химическим свойствам существенно отличались от традиционных нейротоксинов, больше напоминая пестициды, экологические токсины промышленных производств и лекарства. Это говорит о том, что теоретически разработать можно не просто новые виды, а целые классы химического оружия.
Тревожный звонок
Искусственный интеллект создал виртуальные молекулы с легкостью, следовательно, превратить их в реальные — лишь дело техники. Это сильно обеспокоило ученых. Свой эксперимент они назвали "вычислительным подтверждением возможности создания биохимического оружия" путем синтеза известных молекул. И для этого, по их мнению, не нужны специалисты с глубокими знаниями в области химии и токсикологии.
"Благодаря текущим прорывным исследованиям в области автономного синтеза, полный цикл разработки и производства не только лекарств, но и смертоносного химического оружия становится доступным практически без участия человека", — пишут авторы работы.
Ученые благоразумно не пошли дальше виртуального моделирования. Не пытались синтезировать предложенные программой соединения и уж точно не публиковали их список. И даже не описали метод, что обычно обязательно для серьезных научных статей. Исследователи просто показали — искусственный интеллект в любой момент можно обратить против человека.
Для примера ученые провели аналогию с генераторами естественного языка третьего поколения GPT-3. Их используют, чтобы создавать не только чат-боты и голосовые помощники, но и так называемые дипфейки — аудио- и видеосообщения, выдаваемые за слова реальных людей. Алгоритмы некоторых моделей GPT-3 есть в открытом доступе.
Официально все боевые отравляющие вещества подпадают под действие Конвенции о запрещении химического оружия 1993 года, которую подписали 192 государства. А деятельность по его уничтожению контролирует Организация по запрещению химического оружия (ОЗХО).
Разработка, производство, накопление, приобретение или сбыт химического, биологического, токсинного, а также любого другого вида оружия массового поражения, запрещенного международным договором, преследуются во всем мире. В частности, в России действует статья 355 УК, в соответствии с которой за подобное преступление грозит лишение свободы до десяти лет.
По мнению ученых, главная угроза исходит не от конкретных стран или государственных деятелей. Правительства практически не применяли отравляющие вещества в регулярных боевых действиях со времен Первой мировой войны. И на то есть веские причины. Бомбы, снаряды и ракеты надежнее, их проще хранить, перевозить и использовать. Кроме того, от химического оружия труднее защитить собственных солдат.
Опасность в том, что возможностями искусственного интеллекта могут воспользоваться террористические организации. Им даже не нужно создавать новые виды: достаточно завести в программу параметры VX или зарина — и модель покажет, из каких компонентов их можно получить. Хотя совсем без помощи специалистов, скорее всего, не обойтись.
"Как и в случае многих других научных разработок, здесь возможно применение как во благо — разработка новых лекарств, так и во зло — создание новых видов химического оружия, — объясняет Артем Оганов, профессор Сколтеха и МИСиС, действительный член Европейской академии, Королевского химического общества и Американского физического общества. — Методы искусственного интеллекта действительно позволяют предсказать свойства молекул и выбрать среди них как наименее токсичные, так и наиболее опасные. Но использование и особенно написание такого рода программ требует хорошей подготовки и долгой работы. Еще одна задача — получение предсказанной молекулы. Вполне решаемая задача, но здесь тоже нужен серьезный научный уровень".
В недобрых руках
Примеры ситуаций, когда боевые отравляющие вещества попадали в руки террористов, в истории есть. Двадцатого марта 1995-го представители неорелигиозной секты "Аум Синрикё" (запрещенной в России террористической организации) совершили в токийском метро теракт с применением зарина. Использовали герметичные пакеты с жидким веществом, которые проткнули внутри нескольких вагонов. Отравившись парами яда, погибли 13 человек. Еще около шести тысяч получили интоксикацию различных степеней тяжести. Если бы зарин распылили в форме аэрозоля, жертв было бы намного больше, считают специалисты.
© AP Photo / Chiaki Tsukumo
Пассажиры токийского метро, пострадавшие от зарина. 20 марта 1995
Неоднократно террористы в разных странах пытались применить рицин. Этот белковый яд растительного происхождения в шесть раз токсичнее, чем цианистый калий, однако его очень просто добыть из плодов клещевины или жмыха, остающегося после получения касторового масла. То есть это едва ли не самое доступное из всех отравляющих веществ.
Так, в 2001 году пресса сообщала, что инструкции по изготовлению рицина обнаружили на разгромленной базе "Аль-Каиды" (запрещенной в России террористической организации) в Кабуле. В 2003-м некоторое количество этого вещества нашли у террористов в Лондоне и в ячейке хранения на Лионском вокзале в Париже. В 2013 году полиция штата Миссисипи задержала нескольких человек за попытку отправить президенту Бараку Обаме и другим высокопоставленным лицам США письма с рицином.
Рицин — это уже в прямом смысле биохимическое оружие. Разрушая связи в РНК рибосом, он блокирует синтез жизненно важных белков, и клетки организма гибнут. Во время Второй мировой войны Великобритания проводила исследования, которые привели к созданию прототипа рициновой бомбы.
Самый известный случай применения этого токсина — устранение спецслужбами болгарского диссидента Георгия Маркова: его отравили в 1978-м при помощи укола в ногу зонтиком особой конструкции. Доза, введенная Маркову, составляла, по оценкам экспертов, не более 0,45 миллиграмма.