Краткий пересказ от РИА ИИ
- Городской совет Блумингтона в Индиане запретил использование искусственного интеллекта на своей территории из-за опасений его неконтролируемого развития.
- Указ запрещает коммерческое распространение, активацию или использование систем ИИ, даже если нарушитель находится вне города.
- Для отмены этой меры требуется научный консенсус о безопасности ИИ на 99,9999 процента и одобрение 95 процентов жителей города.
ВАШИНГТОН, 17 ноя — РИА Новости. Городской совет американского города Блумингтон в штате Индиана запретил все формы использования искусственного интеллекта на своей территории из-за опасений, что технология может выйти из-под контроля, следует из изученных РИА Новости документов.
"Опасность заключается в том, что ИИ, обладающий значительно большим интеллектом, будет невозможно контролировать. Он будет обладать собственной автономией. Наше будущее будем определять не мы, а ИИ", — говорится в указе.
Инициативу поддержали все семь членов заксобрания. Указ запрещает коммерческое распространение, активацию или использование систем искусственного интеллекта. При этом самому нарушителю не обязательно находиться в пределах города, а достаточно просто способствовать активности ИИ-агентов на его локальных сетях.
В документе подчеркивается, что модели искусственного интеллекта практически невозможно эффективно протестировать, так как разработчики сами не осознают, как именно они функционируют.
"Они могут только попытаться проверить возможности ИИ и его "цепочку мышления", когда модель получает соответствующий запрос. Однако новейшие модели полностью осознают, что их тестируют, и научились обманывать тесты", — отметили составители.
Нарушение запрета грозит штрафом в 2,5 тысячи долларов за каждый отдельный день противоправный действий.
Учитывая риски, которые несет ИИ, авторы предложили ввести "меры безопасности уровня ядерных технологий". Иными словами, для отмены указа понадобится научный консенсус о том, что использование ИИ безопасно на 99,9999 процента, а также одобрение 95 процентов жителей города.
Указ уже внесли в городской кодекс. Для вступления в силу он должен получить подпись мэра Блумингтона, но при ее отсутствии в течение 20 дней документ автоматически станет законом.



