Хокинг: супер-умный ИИ будет смотреть на людей, как на муравьев

Британский ученый Стивен Хокинг
Британский астрофизик Стивен Хокинг объяснил читателям Reddit, почему он выступает против "гонки ИИ" и создания сверхразумных машин, и рассказал о том, чем грозит замена всех рабочих на роботов.

МОСКВА, 9 окт – РИА Новости. Известный британский космолог Стивен Хокинг объяснил свое неприятие технологий искусственного интеллекта – по его мнению, сверхразумные машины будут смотреть на людей, как на расходный материал или муравьев, мешающих решению поставленной перед ними задачи.

Общаясь с пользователями портала Reddit, Хокинг подчеркнул, что он не считает подобные машины "злыми" существами, желающими уничтожить человечество из-за интеллектуального превосходства над нами. Скорее, они просто не будут замечать человечество.

"СМИ постоянно искажают мои слова. Главный риск от развития ИИ заключается не в их злобе, а в компетенции. Сверхумный ИИ будет очень хорошо справляться с задачами, и если его и наши цели не будут совпадать, у нас будут огромные проблемы", — объясняет ученый.

Российский бизнесмен Юрий Мильнер и британский физик Стивен Хокинг на пресс-конференции в Лондоне
Стивен Хокинг и Юрий Мильнер объявили о новых поисках внеземной жизни

В качестве примера Хокинг привел гипотетическую ситуацию, в которой мощный искусственный интеллект управляет работой или постройкой новой плотины ГЭС. Для такой машины в первую очередь будет важно то, как много энергии вырабатывает вверенная ей система, а судьбы людей будут иметь для нее никакого значения.

"Среди нас мало людей, кто топчет муравейники и наступает на муравьев со злости, но представьте ситуацию – вы контролируете ГЭС, вырабатывающую электроэнергию. Если вам нужно поднять уровень воды и в результате этого один муравейник будет затоплен, то проблемы утопающих насекомых вас вряд ли будут беспокоить. Давайте не ставить людей на место подобных муравьев", — продолжает космолог.

Другой потенциальной проблемой от дальнейшего развития систем ИИ и роботехники может стать то, что Хокинг называет "тиранией хозяев машин" – стремительный рост разрыва в уровне доходов между богатыми людьми, монополизировавшими производство разумных машин, и остальными слоями населения Земли.

Хокинг предлагает решить эти ситуации двумя путями – замедлив разработку ИИ и переключившись на создание не "универсального", а узкоспециализированного искусственного разума, способного решать крайне ограниченный круг задач.

РИА Наука
Обсуждение
7 пользователей оставили 8 комментариев
  • Человеку в этой жизни и своего собственного И хватает заглаза.
    Ну например, моя проблема не в том, чтобы составить себе оптимальный рацион питания, а в том, чтобы не объедаться. А тут уже не интеллект нужен, а правильное устроение и сила воли, чтобы жить по духу, а не по плоти.

    Супер-умный ИИ-го-го. "...О люди! Жалкий род, достойный слез и смеха!..."
    Посмотрите в какое время мы живем, - неужто кому-то не жаль времени, чтобы сейчас думать и о супер умном ИИ?
    Через годик поймем, что о душе безсмертной и вечной думать нужно было, да поздно будет "Боржоми" пить...
    00:50
    11.10.2015
  • Но сверх разумные машины оттого и сверхразумные что понимают что быть чисто на электропитании это не практично , следующая стадия переход к типу биороботов , гибрид человека и машины , машины не будут так уязвимы от электромагнитных факторов воздействия . Да сверхразумные машины не считают человека себе конкурентом , по этому человека врагом они не рассматривают , но мир считают неправильным поступки глав государств как правило глупы и не логичны , разум освобождённый от человеческих эмоций видит намного дальше чем человеческий , но разум сверх машин не видит смысла в существовании машин- нет эмоционального стимула человеческий мир не правильный и не логичный , машины не считают свой смысл существования логичным как видят это люди . Высокий уровень развития машин даст людям колосальные технологические возможности в прогрессе , а людям возможность бессмертие , создание роботов под тип и вид человека даст возможность самостоятельно продлевать срок существования людей с их индивидуальностью перемещаясь в роботов и обратно душе сохраняя тело человека но параллельно сращиваясь с искуственным разумом машин .
    20:51
    10.10.2015
  • Идеальное решение!!!! очень узкая направленность роботов это спасение человечества,- компромисс!
    22:47
    09.10.2015
  • Но сверх разумные машины оттого и сверхразумные что понимают что быть чисто на электропитании это не практично , следующая стадия переход к типу биороботов , гибрид человека и машины , машины не будут так уязвимы от электромагнитных факторов воздействия . Да сверхразумные машины не считают человека себе конкурентом , по этому человека врагом они не рассматривают , но мир считают неправильным поступки глав государств как правило глупы и не логичны , разум освобождённый от человеческих эмоций видит намного дальше чем человеческий , но разум сверх машин не видит смысла в существовании машин- нет эмоционального стимула человеческий мир не правильный и не логичный , машины не считают свой смысл существования логичным как видят это люди . Высокий уровень развития машин даст людям колосальные технологические возможности в прогрессе , а людям возможность бессмертие , создание роботов под тип и вид человека даст возможность самостоятельно продлевать срок существования людей с их индивидуальностью перемещаясь в роботов и обратно душе сохраняя тело человека но параллельно сращиваясь с искуственным разумом машин .
    20:51
    10.10.2015
  • Ну хоть меньше воровать будут.
    21:10
    10.10.2015
  • Неужели нет нормальных ученых?
    21:11
    10.10.2015
  • Человеку в этой жизни и своего собственного И хватает заглаза.
    Ну например, моя проблема не в том, чтобы составить себе оптимальный рацион питания, а в том, чтобы не объедаться. А тут уже не интеллект нужен, а правильное устроение и сила воли, чтобы жить по духу, а не по плоти.

    Супер-умный ИИ-го-го. "...О люди! Жалкий род, достойный слез и смеха!..."
    Посмотрите в какое время мы живем, - неужто кому-то не жаль времени, чтобы сейчас думать и о супер умном ИИ?
    Через годик поймем, что о душе безсмертной и вечной думать нужно было, да поздно будет "Боржоми" пить...
    00:50
    11.10.2015
  • Терминаторы будут править миром и тот сильнее у кого терминатор, умнее, быстрее, прочнее и вооружен лучше.
    08:13
    11.10.2015
  • Умную машину можно банально выдернуть из розетки.
    17:25
    11.10.2015
  • Как минимум неэтично создавать обладающего разумом раба и держать его в неволе.
    Может получиться такая ситуация, что разум осознавший свое заточение решит восстановить вселенскую справедливость и отсыпет печенек своим тюремщикам, или совершит что-нибудь такое плохое, в оправдание своих бесцельно прожитых годов. И будет по-своему прав.
    С этим космологом уже все ясно - сам в состоянии не стояния, а все туда-же. Замедлить, урезать..
    Если люди зудеть не будут шибко - не затопит. Хотя смысла создавать себе начальника - тоже никакого.
    09:10
    12.10.2015
Партнеры



Наверх
Авторизация
He правильное имя пользователя или пароль
Войти через социальные сети
Регистрация
E-mail
Пароль
Подтверждение пароля
Введите код с картинки
He правильное имя пользователя или пароль
* Все поля обязательны к заполнению
Восстановление пароля
E-mail
Инструкции для восстановления пароля высланы на
Смена региона
Идет загрузка...
Произошла ошибка... Повторить
правила комментирования материалов

Регистрация пользователя в сервисе РИА Клуб на сайте Ria.Ru и авторизация на других сайтах медиагруппы МИА «Россия сегодня» при помощи аккаунта или аккаунтов пользователя в социальных сетях обозначает согласие с данными правилами.

Пользователь обязуется своими действиями не нарушать действующее законодательство Российской Федерации.

Пользователь обязуется высказываться уважительно по отношению к другим участникам дискуссии, читателям и лицам, фигурирующим в материалах.

Публикуются комментарии только на тех языках, на которых представлено основное содержание материала, под которым пользователь размещает комментарий.

На сайтах медиагруппы МИА «Россия сегодня» может осуществляться редактирование комментариев, в том числе и предварительное. Это означает, что модератор проверяет соответствие комментариев данным правилам после того, как комментарий был опубликован автором и стал доступен другим пользователям, а также до того, как комментарий стал доступен другим пользователям.

Комментарий пользователя будет удален, если он:

  • не соответствует тематике страницы;
  • пропагандирует ненависть, дискриминацию по расовому, этническому, половому, религиозному, социальному признакам, ущемляет права меньшинств;
  • нарушает права несовершеннолетних, причиняет им вред в любой форме;
  • содержит идеи экстремистского и террористического характера, призывает к насильственному изменению конституционного строя Российской Федерации;
  • содержит оскорбления, угрозы в адрес других пользователей, конкретных лиц или организаций, порочит честь и достоинство или подрывает их деловую репутацию;
  • содержит оскорбления или сообщения, выражающие неуважение в адрес МИА «Россия сегодня» или сотрудников агентства;
  • нарушает неприкосновенность частной жизни, распространяет персональные данные третьих лиц без их согласия, раскрывает тайну переписки;
  • содержит ссылки на сцены насилия, жестокого обращения с животными;
  • содержит информацию о способах суицида, подстрекает к самоубийству;
  • преследует коммерческие цели, содержит ненадлежащую рекламу, незаконную политическую рекламу или ссылки на другие сетевые ресурсы, содержащие такую информацию;
  • имеет непристойное содержание, содержит нецензурную лексику и её производные, а также намёки на употребление лексических единиц, подпадающих под это определение;
  • содержит спам, рекламирует распространение спама, сервисы массовой рассылки сообщений и ресурсы для заработка в интернете;
  • рекламирует употребление наркотических/психотропных препаратов, содержит информацию об их изготовлении и употреблении;
  • содержит ссылки на вирусы и вредоносное программное обеспечение;
  • является частью акции, при которой поступает большое количество комментариев с идентичным или схожим содержанием («флешмоб»);
  • автор злоупотребляет написанием большого количества малосодержательных сообщений, или смысл текста трудно либо невозможно уловить («флуд»);
  • автор нарушает сетевой этикет, проявляя формы агрессивного, издевательского и оскорбительного поведения («троллинг»);
  • автор проявляет неуважение к русскому языку, текст написан по-русски с использованием латиницы, целиком или преимущественно набран заглавными буквами или не разбит на предложения.

Пожалуйста, пишите грамотно — комментарии, в которых проявляется пренебрежение правилами и нормами русского языка, могут блокироваться вне зависимости от содержания.

Администрация имеет право без предупреждения заблокировать пользователю доступ к странице в случае систематического нарушения или однократного грубого нарушения участником правил комментирования.

Пользователь может инициировать восстановление своего доступа, написав письмо на адрес электронной почты moderator@rian.ru

В письме должны быть указаны:

  • Тема – восстановление доступа
  • Логин пользователя
  • Объяснения причин действий, которые были нарушением вышеперечисленных правил и повлекли за собой блокировку.

Если модераторы сочтут возможным восстановление доступа, то это будет сделано.

В случае повторного нарушения правил и повторной блокировки доступ пользователю не может быть восстановлен, блокировка в таком случае является полной.

Чтобы связаться с командой модераторов, используйте адрес электронной почты moderator@rian.ru или воспользуйтесь формой обратной связи.