Регистрация пройдена успешно!
Пожалуйста, перейдите по ссылке из письма, отправленного на

"Проснись, Нео!": моральные вызовы и опасности технотронной эры

Читать ria.ru в

Валерий Спиридонов, для РИА Новости

Валерий Спиридонов, первый кандидат на пересадку тела, рассказывает о том, как дальнейшее развитие робототехники и искусственного интеллекта может поменять мораль и этику общества уже в ближайшие годы.

Издавна человечество придумывало разнообразные механизмы и системы, чтобы облегчить себе жизнь. Начав с примитивных орудий труда, позволявших ускорять процессы строительства и земледелия, люди упорно эволюционировали в сторону их усовершенствования. Переломным моментом стал ХХ век: время как небывалых войн и потрясений, так и стремительного технического прогресса человечества. Именно тогда начались теоретические, а позже и практические попытки создать машины, которые упрощали бы жизнь человека как на производственном, так и на бытовом уровнях. Речь идет о роботах.

Дзюнъити Такено, профессор университета Мейдзи
Ученый: создание разумной машины позволит нам познать себя

Сам термин "робот" происходит от словацкого слова rabota — "тяжкий труд". От книжных фантазий в 1920-х годах роботехника проделала быстрый путь до первых попыток ее внедрения в реальную жизнь, пока наконец в Японии в 1968 году не был создан первый промышленный робот. С тех пор их постоянно развивают и совершенствуют.

Конец XX и начало XXI века поставили перед человеком новую дилемму: теперь машины оперируют таким огромным количеством информации в условиях многозадачности, что способны попросту заменить людей во многих жизненных сферах. Слишком "умные" компьютерные системы все активнее внедряются в жизнь человечества, что рождает необходимость выработки новых принципов взаимодействия с ними уже сегодня.

The future is coming: какие вызовы бросает человеку повсеместное внедрение роботов?

Говоря о технотронной эре и технологическом будущем с разумными или просто самостоятельными машинами, автономно действующими в сложных ситуациях, человек неизбежно оказывается заложником стереотипов массовой культуры. На ум сразу же приходят апокалиптические картины войны людей и роботов из "Терминатора" или "Матрицы". Если же кровопролития в наших представлениях и удается избежать, то будущее все равно видится слишком мрачным: не требующие зарплаты, отпуска и льгот машины отбирают рабочие места. Эти умозаключения ошибочны и уводят от реальных, а не выдуманных проблем.

Логотип социальной сети Facebook. Архивное фото
Facebook отключил искусственный интеллект, разработавший собственный язык

Подлинным вызовом является утрата человеком своей уникальности в качестве субъекта осознанного бытия. Если в мире появляются новые системы, способные решать сложные задачи в сто раз лучше людей, то последние теряют свою монополию на действия в истории, культуре, производстве и так далее.

Говоря проще, машины, которые умеют принимать решения в сложных ситуациях, неизбежно меняют социальную реальность со всеми вытекающими последствиями, и это — настоящий, а не выдуманный риск, требующий выработки новой парадигмы взаимодействия с роботами. Она должна основываться на этике и морали.

Моральный выбор или холодный расчет: как сделать роботов человечными?

Создавая и совершенствуя машины, человек неизбежно сталкивается с необходимостью внедрения в их программный код определенного морально-этического кодекса. В противном случае антиутопичные картины мира "Матрицы" и "Механического пианино" становятся уже не столь фантастическими.

Медицинская операция
СМИ: в России до конца 2018 года появится робот-хирург для лечения рака
Реальный вариант ближайшего будущего нашего мира — совместное развитие людей и роботов, что гораздо сложнее глупой гипотезы о "воровстве рабочих мест". Сложнее прежде всего на социальном уровне, потому что все теории общественного взаимодействия, созданные человечеством, являются антропоцентричными, то есть ориентированными исключительно на людей, но не на искусственный интеллект. Машинам нужна этика, и этой этике их должен обучить человек. Вопрос лишь один: как?

Сегодня в MIT развивается и работает проект Moral Machine. Он направлен на обучение роботов человеческой морали. Его суть в том, что совершенно разные люди проходят специальные тесты, направленные на изучение их этических качеств, проявляющихся в сложных жизненных ситуациях.

Илон Маск. Архивное фото
Илон Маск рассказал о главной угрозе для человечества

Классический пример: во время езды на полном ходу сбить насмерть пешехода, неожиданно переходящего дорогу в неположенном месте, либо же свернуть в сторону деревьев или столба, практически гарантированно обрекая себя на смерть?

Ответы на эти вопросы позже загружаются в память машины, которая путем статистических вычислений выбирает наиболее близкий человеческой морали вариант поведения в той или иной ситуации. Иного способа обучить этике роботов пока что не придумано. Однако здесь и находится главный "подводный камень": а что вообще считать моральным?

Этика и мораль человека и машины: незыблемые догмы или пластичный субстрат?

Крайне занимательно то, что считается человеком этикой и моралью. Важно понимать, что эти понятия всегда были продуктом своей эпохи, неоднократно меняясь в процессе эволюции. Начав с деспотии и рабовладельческого строя, человеческая цивилизация впоследствии пришла к демократии, всеобщей свободе и правам человека. Ведь не зря Макиавелли полагал, что этика повсеместно зависит от окружающей действительности, а Ницше называл мораль "прокрустовым ложем сверхчеловека".

Кадры из фильма Терминатор-4
"Терминатор-2021": что стоит за планами Пентагона создать "думающее" оружие

Этика — это то, что считается этичным в данном обществе в текущую эпоху и в это время. Но теперь этика еще и опосредована большими данными. То есть робот, который едет по дороге, будет вести себя этичным образом, поскольку в его работе будут учитываться все вероятные случаи и статистическое мнение людей по поводу всех возможных этических проблем. Вот в чем заключается самообучаемость машины.

Из этого должна исходить модель социального взаимодействия робота и человека: для того, чтобы не превратиться в некий аналог deus ex machina с универсальными ценностями-догмами, машина обязана быть "человечной" и обучаемой. В противном случае сегодняшняя моральная парадигма человечества окажется законсервированной на века, а консерватизм без развития приведет к вырождению и деградации.

Quo vadis

Роботехника сегодня бурно развивается, и скоро вопросы взаимоотношений людей и машин в социальном плане встанут для общества ребром. Роботизированные компьютерные системы помогают нам в современных клиниках, они могут как заниматься сверхточными операциями, так и ухаживать за больными. Они способны охранять наши дома, идентифицировать и выслеживать преступников, управлять средствами передвижения, следить за детьми и выгуливать животных.

© РИА Новости / Виталий Аньков / Перейти в фотобанкВрачи во время операции с помощью хирургического робота Да Винчи
Врачи во время операции с помощью хирургического робота Да Винчи

Уборка пшеницы. Архивное фото
В России запускают проект по роботизации сельского хозяйства
Роботы годятся даже для досуга: сегодня активно обсуждается возможность создания секс-андроидов, а в Японии недавно придумали робота, который может выпивать с хозяином и даже поддерживать разговор! Все это — не фантастика, а реальность, которая пока не слишком распространена лишь в силу своей дороговизны и отсутствия мощностей для массового производства.

Полноценный робот будущего невозможен без набора определенных моральных качеств. Главный вызов психологии взаимодействия человека и машины в том, как сделать последнюю помощником и партнером для первого, но не превратить ее в нового бога-хранителя универсальных ценностей.

Искусственный интеллект
Искусственный интеллект уже норовит выскочить из коробки

Этические представления людей всегда трансформировались в процессе эволюции, что обеспечивало развитие человеческой цивилизации.

Если этот процесс встанет и законсервируется, то никому не удастся предположить, куда после этого повернет история. А добавив сюда политические кейсы, можно представить, как некая группа людей с апелляцией к незыблемому моральному авторитету попытается зацементировать свою власть, что вполне может привести к многократно описанной футуристической антиутопии.

 
 
 
Лента новостей
0
Сначала новыеСначала старые
loader
Онлайн
Заголовок открываемого материала
Чтобы участвовать в дискуссии
авторизуйтесь или зарегистрируйтесь
loader
Чаты
Заголовок открываемого материала
Госсекретарь США Блинкен посетит КиевВ Марий Эл выявили первые три случая заражения омикрон-штаммомЖириновский призвал запретить купание в прорубях на Крещение в этом годуГендиректора компании "Казань" заподозрили в уклонении от уплаты налоговБелорусские пограничники задержали двух нарушителей на границе с УкраинойНижегородец сбросил жену с четвертого этажаГлава МИД Германии возложила венок к Могиле Неизвестного солдата в МосквеСуд рассмотрит жалобу Meta на двухмиллиардный штраф"Цирконы" заменят для России любые базы за рубежом, заявили в ГосдумеВ США заключенные обвинили тюрьму в "медицинских экспериментах"Пушилин заявил о сильной напряженности вокруг ДонбассаВ Приморье завели дело на мужчину, протащившего на автомобиле полицейскогоВ Кисловодске женщине дали срок за издевательства над одноклассницей дочериЛавров и Бербок обсудят темы, "бросающие тень" на отношения России и ФРГВ правящей партии Казахстана назвали низостью критику в адрес НазарбаеваНАТО стремится оккупировать Украину, заявил ВолодинГлава МИД Германии заявила о важности отношений с РоссиейВ Госдуме призвали Вашингтон пересмотреть доктрину внешней политикиГосдума открыла первую весеннюю сессию в новом созывеРоссия нацелена на преодоление противоречий с Германией, заявил Лавров