МОСКВА, 14 мая — РИА Новости. Появление искусственного интеллекта, способного решать любые поставленные задачи, грозит человечеству катастрофой, заявил в интервью Times британский ученый Стюарт Рассел.
По его мнению, бесконтрольные разработки в области ИИ привели к тому, что "мы добились прогресса, которого сами не ожидали". Человечество ошиблось в самом начале, когда не думало, для чего будет нужен этот интеллект, вполне возможно, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять, считает Рассел.
"Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования. Все очень просто. Ставки уже не могут быть выше: если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса по поводу нашего будущего существования", — подчеркнул специалист.
Он отметил, что появление универсального искусственного интеллекта, системы, способной выполнить любую задачу, которая под силу человеку, может произойти в течение десяти лет. При решении проблем, например, связанных с климатом, подобные программы могут прийти к выводу, что лучшим решением станет избавление от людей, выразил опасение ученый.
"Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их. А человеческие цели включают в себя самые разные вещи. <…> Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследовали бы такие цели", — заключил он.
Последние успехи в области разработки искусственного интеллекта вызывают тревогу у многих специалистов. Так, американский миллиардер Илон Маск предупредил, что ИИ будет обладать потенциалом уничтожить человечество, а отключить его будет невозможно, потому что он сам станет контролировать себя.