Лабораторию для развития суверенного и безопасного ИИ создают в России

МОСКВА, 23 июл - РИА Новости. T-Bank AI Research и Центральный университет открывают совместную лабораторию Omut AI для фундаментальных исследований в области искусственного интеллекта (ИИ) и больших языковых моделей (LLM), сообщили компании в совместном заявлении.

Там отметили, что цель создания лаборатории — исследование и разработка инновационных подходов и методов, которые помогут обеспечить непрерывный контроль и безопасность ИИ, его соответствие ожиданиям общества, стандартам этики и надежности.

Один из принципов работы лаборатории — открытые исследования, результаты которых будут доступны всему научному и индустриальному сообществу. Результаты экспериментов станут основой для прорывных открытий в различных областях, начиная от естественных наук и заканчивая практическими разработками.

Исследовательская группа T-Bank AI Research известна своими исследованиями в наиболее перспективных областях ИИ, включая обработку естественного языка (NLP), компьютерное зрение (CV) и рекомендательные системы (RecSys). В частности, в прошлом году ученые представили самый эффективный среди мировых аналогов алгоритм для обучения и адаптации искусственного интеллекта.

Теперь на базе новой лаборатории присоединиться к проектам ученых из T-Bank AI Research смогут студенты Центрального университета. Они сфокусируются на следующих направлениях исследований: AI Alignment, LLM Foundations, Multimodal AI.

В рамках первого направления ученые объединят экспертные знания на стыке обработки естественного языка (NLP), обучения с подкреплением (RL) и других областей компьютерных наук, чтобы поведение ИИ было предсказуемым и не выходило из-под контроля человека, соответствовало его потребностям и ценностям.

Второе направление заключается в поиске более эффективных архитектур для создания больших языковых моделей с нуля, исследовании основных принципов и методов улучшения их мыслительных способностей.

Третье направление — исследование методов создания универсальных моделей, которые умеют взаимодействовать с человеком с помощью нескольких модальностей: текста, звука и зрения.

"То, что казалось магией несколько лет назад, стало реальностью. Очень сложно найти задачи, в которых не применялся бы искусственный интеллект. Благодаря ему человечество стоит на пороге огромного числа открытий в совершенно различных областях — научных, инженерных, социальных. Но мы понимаем, что у существующих сейчас решений есть свои ограничения. Перед самыми крупными лабораториями, которые исследуют ИИ, стоит ряд вопросов — в том числе безопасность применения моделей, улучшение их способностей адаптироваться под решение произвольных задач, а также обеспечение бесшовного опыта взаимодействия ИИ и людей", - сказал руководитель лаборатории Даниил Гаврилов.

Он выразил уверенность, что России необходимы свои научные исследования фундаментальных вопросов ИИ, чтобы задавать технологические тренды на мировой арене, а также создавать передовые внутренние решения для нужд нашей страны".

В свою очередь, ректор Центрального университета Евгений Ивашкевич заявил, что создание лаборатории — это большой шаг в формировании преемственности и развития ИТ-комьюнити в России, который позволит вчерашним школьникам прикоснуться к созданию российского суверенного ИИ, а менторами в этом процессе выступят признанные отечественным и мировым сообществом ученые.

Ранее глава Службы внешней разведки РФ Сергей Нарышкин заявил, что американские разведывательные службы хотят использовать технологии искусственного интеллекта для манипулирования общественным сознаниям в "неугодных" странах.