Искусственному интеллекту пока сложно написать стихотворение или стендап, а спрогнозировать движение ключевой ставки или инфляции и вовсе не под силу, но это только дело времени, считает руководитель бизнес-группы поиска "Яндекса" Дмитрий Масюк. В интервью РИА Новости он рассказал, почему ИИ не заменит человека, когда новые технологии позволят делать прорывы в медицине, кто пишет шутки для "Алисы", и как с помощью технологий не навредить человечеству. Беседовали Эльвира Муравицкая и Маргарита Матяшева.
– Голосовой помощник "Алиса" недавно появился в поиске "Яндекса". Как вы планируете ее развивать дальше?
– Есть три основных направления развития "Алисы" как ИИ-ассистента, в каждом из которых мы пойдем быстрее, чем шли до сих пор. Первое – это не просто отвечать на вопросы, к чему мы привыкли сейчас, а выполнять действия. Это та самая агентность: когда "Алиса" сможет найти что-то в "Поиске" по запросу, позвонить, забронировать, спросить что-то, выбрать или купить по оптимальной цене. Второе – это базовая "умность", способность модели понимать, что хочет человек, рассуждать, решать задачи. В общем, интеллект. Третье направление – человечность. Людям просто приятно общаться с чем-то, что ведет себя примерно так, как мы с вами, что может пошутить, может смеяться, может посочувствовать, если ты расскажешь, что у тебя, например, заболел кот. Во всех трех направлениях мы сейчас будем ускоряться.
– Пока "Алиса" еще отчетливо роботоподобна, хотя в ней уже есть и эмпатия, и шепотом она говорит. Будете ли вы делать так, чтобы ее нельзя было бы отличить от голоса подруги?
– Да. Мы будем стараться делать ее настолько человечной, насколько это в принципе возможно. При этом нигде у нас не будет задачи притворяться, что "Алиса" – это человек; а изображение, сгенерированное искусственным интеллектом, создано человеком. Мы будем стараться делать ее как можно человечнее, но обозначать, что все-таки речь идет про ИИ.
– Вы добавили "Алису" в "Поиск", возможность пользоваться просто поиском останется?
– Конечно, классическая выдача со ссылками на сайты остается на месте. При этом мы видим, что вопросы пользователей усложняются, а спрос на ИИ-ответы или ответы "Алисы" растет. "Алиса" как часть "Поиска" помогает не только там, где нужен короткий ответ, но и с более сложными задачами – например, сравнить или выбрать товары или услуги.
– Чем вы вдохновляетесь, когда работаете над "Алисой"? Читаете какой-то sci-fi? Придерживаетесь ли принципов робототехники, которые сформулировал писатель-фантаст Айзек Азимов? Первый из которых гласит, что робот не может причинить вред человеку.
– Конечно, читаем, смотрим. Тот же Open AI ссылается на то, что использует образы, которые кино демонстрировало 40-50 лет назад. У "Алисы" тоже есть так называемая библия персонажа, ее базовые ценности и установки выстроены более-менее в соответствии с законами Азимова: чтобы помогать, никогда не навредить. У нее прописано буквально все: как она относится к животным, какое у нее чувство юмора.
В этих вопросах мы подходим к ИИ, как и вся остальная индустрия: то есть объясняем "Алисе", к чему она должна стремиться. У нас есть собственные этические нормы и политики, которые мы соблюдаем в разработке и применении. Мы также придерживаемся принципов Кодекса этики в сфере ИИ, который отрасль разрабатывала совместными усилиями.
– Как вы будете выставлять "Алисе" границы в дальнейшем? Будут ли какие-то сферы, в которые вы ее не пустите? Что вы ей точно не разрешите делать?
– Мы и сейчас это делаем –- люди идут к "Алисе" с разными запросами, бывают самые разные настроения и жизненные ситуации. На этапе обучения мы ей объясняем, какие темы могут быть более чувствительными для разных возрастов. Например, "Алиса" умеет распознавать по голосу, что с ней общается ребенок и учитывает это в своих ответах, фильтруя контент. Также можно настроить фильтрацию подходящего контента для малышей. Так мы создаем безопасную среду и оберегаем от информации, не подходящей детям по возрасту. Наша задача — увеличивать пользу в ответах, но в любом массовом продукте мы делаем это ответственно.
– Не кажется ли вам, что наступит такой момент, когда мы не сможем контролировать большие языковые модели? Уже сейчас алгоритмы создают алгоритмы более сложные, чем они сами.
– Могу ответить за наши продукты: мы оцениваем риски и делаем все, чтобы они были безопасны и приносили пользу людям.
– Одним из навыков, которым искусственный интеллект сложно обучить, раньше называли вождение. Каким еще навыкам обучить его настолько же сложно?
– Есть очень известный тест Тьюринга (Алан Тьюринг, британский математик – ред.), когда нужно отличить человека от компьютера. И вот недавние такие тесты показали, что люди в три раза чаще, чем раньше, выбирают робота, думая, что это человек. Это, конечно, здорово с точки развития искусственного интеллекта. Но появился теперь тест сооснователя Apple Стива Возняка. Суть теста проста – робот должен на любой кухне приготовить кофе.
Сейчас фокус развития сместился в область текстов – генеративные модели очень хорошо умеют предсказывать следующее слово. Но работа искусственного интеллекта в реальной жизни, например, в вождении, которому каждый из нас практически за полгода может научиться, – это пока значительно более сложная область, как и выполнение других физических, элементарных для нас, задач. Мы и сейчас уже можем с помощью технологий искусственного интеллекта решать физические задачи за человека: например, доставлять заказы и грузы. И наша задача состоит в том, чтобы за счет развития технологии расширять спектр полезных действий в физическом мире.
Если же говорить про развитие в области текстов, сейчас большой вопрос, сможет ли ИИ добавлять что-то к сумме человеческого знания. Например, доказывать новые теоремы, находить новые лекарства, ставить задачи. И здесь уже появляются интересные результаты, то есть это не невозможно. Это перспектива следующего года или двух, когда мы увидим первые результаты на эту тему, причем это будет происходить в областях, где возможен точный ответ: вначале будет математика, программирование, анализ сложных данных. Уже сейчас наши нейросети в десятки раз ускоряют обработку документов для клинических исследований, а это значит, что пациенты раньше получат доступ к новым лекарствам, медицинским изделиям и методикам лечения. Где нам пока сложно – написать новое стихотворение или стендап.
– А музыку?
– Сейчас наш фокус – на решении наиболее универсальных задач в массовых продуктах. Мы чувствуем очень большую ответственность перед артистами, которым мы помогаем находить аудиторию, мы очень много делаем для их поддержки. И я уверен, что пока человеку в среднем гораздо больше хочется именно такой музыки, чем созданной ИИ.
– Чем вас удивил искусственный интеллект за эти годы? Начали ли вы чего-то бояться?
– Скоростью своего развития. Он уже научился решать математические задачи, причем на очень высоком уровне, хотя два года назад этого никто и вообразить не мог. То есть продвижение именно в областях с точным ответом просто феноменальное.
Наши старшие разработчики абсолютно серьезно говорят, что профессия разработчика радикально поменяется в ближайшие годы, потому что модель научилась справляться с задачами, которые раньше были ей недоступны. И это буквально за год, и не только с программированием – с невероятным количеством областей.
Страхов у меня, если честно, серьезных нет. Очень хочется продолжать быть в числе десятка-другого компаний в мире, которые развивают передовой искусственный интеллект. Гонка просто невероятная, и для меня важно, чтобы мы оставались в первых строчках.
– Глава ЦБ Эльвира Набиуллина недавно сказала, что искусственный интеллект пока нельзя использовать для макроэкономических прогнозов, и он не сможет предсказывать ключевую ставку. А когда сможет, как считаете?
– Я уверен, что искусственный интеллект проникнет и в такие области. Уже сейчас "Алиса" может помочь разобраться в сложных вопросах, и я уверен, что технологическая готовность к тому, чтобы добавлять ценности к подобного рода прогнозам станет доступна в ближайшие несколько лет. При этом я согласен, что мы еще не там.
– Я хочу вернуться к человечности "Алисы". Вот недавно было исследование, что люди стали очень часто использовать искусственный интеллект как психолога. Как вы оцениваете такую тенденцию? И есть ли какие-то риски в этом для самих пользователей?
– Действительно, чудо искусственного интеллекта, и "Алисы" в том числе, – что с ней можно обсудить буквально что угодно. Если говорить про область психологии, нам она кажется, с одной стороны, на первом уровне очень интересной, с другой стороны – очень сложной. И дело даже не в том, что можно что-то не то наговорить – это просто очень большой объем данных, на которых модель должна обучиться.
И тут есть некоторая сложность принципиальная, связанная с тем, что хотя "Алиса" в самом буквальном смысле прочитала все цифровые книжки мира на всех языках, но обучаться на сессии взаимодействия людей, которые обращаются к психологам, нельзя, это по своей природе конфиденциальные данные.
Я сам, если честно, после какого-то неудачного, сложного для меня разговора или дня, хочу спросить "Алису", что она про это думает. Без шуток. Базовый уровень ее в этом смысле точно будет расти. Но говорить, что "Алиса" или любой другой сервис станет профессиональным психологом, сложно, поскольку нужно попросту обучать ее на множестве хороших записей взаимодействия. Она будет скорее, как команда поддержки.
– Вы шутки, кстати, сами ей прописываете?
– Нет, и они не запрограммированы. Но мы показываем принцип, как они делаются, и она придумывает их сама.
– Но сегодня точно не все разделяют ваш оптимизм. Папа Римский, например, в своем первом заявлении заговорил об искусственном интеллекте – якобы ИИ создает проблемы в отношении защиты человеческого достоинства, справедливости и труда. Вы эти риски разделяете?
– Человечество, на мой взгляд, располагается на осях от прагматиков к идеалистам, от инноваторов к консерваторам. Хотя в контексте технологического развития может звучать, что прагматизм или инновационность – это более хорошие качества, но на самом деле нет. В разных ситуациях очень полезно обращаться к истории, к каким-то традиционным ценностям и так далее.
У нас и внутри тоже есть совершенно разные точки зрения на прогресс в том числе, постоянно инициируем такую дискуссию. У нас есть внутренний трек, серия встреч, дискуссий и проработки, где мы сами обсуждаем, а что может пойти не так, и как такие риски отработать. И это такая игра сознаний, где мы стараемся подумать, а не будет ли искусственный интеллект как-то вредить, например, системе образования, не будет ли он делать людей более ленивыми. И, на самом деле, во многих этих дискуссиях рождаются в том числе и новые свойства "Алисы". Такой диалог технократов и, например, духовных лидеров, полезен, благодаря ему появляется, я уверен, продукт безопасный и ценный.
– У нас в стране тем временем очень остро стоит проблема конфиденциальности данных, утечки происходят все время, люди даже сами "сливают" данные своих компаний. Как оградить ИИ от использования чувствительных персональных данных?
– Из материалов, на которых искусственный интеллект обучается, мы персональные данные вычищаем. В памяти модели их быть не может: чтобы нейросеть что-то запомнила, ей нужно, чтобы данные повторялись множество раз. При этом ИИ-ассистенты умеют ходить в интернет: у меня, например, очень легко найти почту, школу, где я учился и так далее, потому что это есть в открытых соцсетях. Поэтому важно соблюдать цифровую гигиену, мы это помогаем делать.
