Российское издание CNews опубликовало интервью с Иваном Оселедцом про современное состояние исследований в области искусственного интеллекта в России и мире.
Иван Оселедец – доктор физико-математических наук, профессор РАН, генеральный директор Института искусственного интеллекта AIRI, профессор Сколтеха, ведущий научный сотрудник ИВМ РАН и с недавних пор исполняющий обязанности декана факультета Искусственного интеллекта МГУ им. Ломоносова
Текст интервью:
В некоторых областях уровень внедрения ИИ у нас сильно выше, чем в других странах
За последние 13 лет ученые так сильно продвинулись в области искусственного интеллекта, что все заговорили о настоящей революции. Однако волны интереса к ИИ в нашей истории уже были — насколько близко на сей раз очередная «зима искусственного интеллекта»? Кто сегодня побеждает в мировой ИИ-гонке, и какой вклад в общий прогресс вносят российские ученые? На эти и другие вопросы в интервью CNews ответил Иван Оселедец — один из ведущих ученых в области ИИ в России и в мире, д.ф.-м.н., профессор РАН, декан факультета искусственного интеллекта МГУ, гендиректор Института AIRI. Он входит в топ 2% самых цитируемых ученых мира.
CNews: Истории известно уже две «зимы» искусственного интеллекта — 1974–1980 и 1987–1993 гг., когда завышенные ожидания от новых решений обернулись крахом, а интерес к технологии со стороны бизнеса, науки и государства резко упал. Сегодня некоторые эксперты предрекают человечеству очередное «похолодание». А вы скептик или оптимист в этом вопросе?
Иван Оселедец: Оптимистом быть выгодно, даже если понимаешь, что экспоненциальный рост невозможен, и все равно будет выравнивание. Я не был свидетелем предыдущей волны всплеска интереса к ИИ, но кажется, что сегодняшняя ситуация совершенно другая.
В течение долгого времени, примерно с 2012 года, мы видим колоссальное развитие: появились рассуждающие мультиагентные модели, на совершенно другой уровень вышла робототехника. Здесь есть, конечно, и хайп, и люди, которые хотят на этом заработать, но, если говорить про сами технологии, они развиваются огромными темпами. Возникло принципиально новое понимание в этой области.
CNews: И все же сейчас все чаще говорят о том, что огромные бюджеты, которые компании тратят на внедрение ИИ, не окупаются…
Иван Оселедец: Любая экстраполяция — это лотерея. Кто-то угадает, но будем честными, никто толком не знает, что окупится, а что — нет. Можно говорить лишь о том, что у нас появился искусственный интеллект такого уровня, какого два года назад никто даже представить себе не мог. А еще мы к нему очень быстро привыкли.
CNews: Как сильно на развитие ИИ сейчас влияет нехватка вычислительных мощностей? Как можно было бы решить эту проблему — ведь искусственный интеллект действительно требует слишком много энергии?
Иван Оселедец: Рост необходимых вычислительных ресурсов происходит из-за того, что люди хотят решать все больше практических задач, связанных с экономической эффективностью.
Но если искать аналогии в прошлом, можно было бы сравнить текущее развитие ИИ с появлением дирижабля. В какой-то момент стало ясно: если дирижабль длиннее, он летает дальше, и возникла идея, что нужно делать их все больше и больше. А потом в какой-то момент появились самолеты, и оказалось, что дирижабли вообще не нужны.
В то же время инвестиции сейчас предсказуемые: «если я куплю карточек в 10 раз больше, то получу модель, которая способна делать вот это и вот это». Но есть и те, кто смотрит по сторонам и будет готов инвестировать и в искусственный интеллект следующего поколения.
Я не знаю, каким он будет. Возможно, начнет обучаться быстрее, с меньшими ресурсами и затратами. К слову, интересно, что стоимость использования искусственного интеллекта, то, что называется инференсом, упала раз в 10. Посмотрите на примере GPT-4 в марте 2023 года и GPT-4o в мае 2024 года. Токены на вход обходились в 30$ за 1 миллион, на выход — 60$. Через год миллион токенов на вход стоил уже 5$, а на выход — 15$. Стоимость снизилась в 6 и 4 раза соответственно. С тех пор прошел еще год.
CNews: Какое место в развитии технологий ИИ сегодня занимает Россия? Где мы действительно сильны, а где откровенно отстаем?
Иван Оселедец: Будем реалистами, по вычислительным мощностям мы где-то во второй десятке — по многим причинам, включая санкционную историю. Если считать по публикациям на конференциях с высоким рейтингом — думаю, нам есть куда расти.
В то же время у нас появляются талантливые молодые ребята в науке, если говорить об искусственном интеллекте в классическом понимании. Просто раньше мы на этом не фокусировались. И еще у нас довольно много толковых людей, которые умеют делать практические решения на базе искусственного интеллекта. Кто-то уехал, конечно: начинаешь смотреть какой-нибудь американский стартап, и там обязательно будет человек из России.
В некоторых областях уровень внедрения искусственного интеллекта у нас сильно выше, чем в развитых странах.
CNews: А в каких?
Иван Оселедец: Я бы здесь привел в пример медицину. Так, в Москве с 2020 года идет эксперимент по внедрению технологий компьютерного зрения в здравоохранение. Нигде в таком объеме в мире ИИ не используется в этой области. Также у нас в стране очень глубокая интеграция искусственного интеллекта во все финансовые процессы, включая выдачу кредитов. В этих двух сферах у России очевидно лидирующие позиции.
И третья, как ни странно, это сфера обучения больших языковых моделей. Всего в мире 5–6 стран, которые на это способны. И как бы некоторые поначалу скептически ни относились к GigaChat — люди инвестировали и доказали, что можно построить модель, сравнимую с теми, что разрабатываются в других странах. Поэтому важно даже не то, насколько сама модель хорошая, — важно иметь технологию ее построения.
Подход «мы просто возьмем китайские модели» — конечно, хороший и дешевый, но если в какой-то момент доступ к этим моделям пропадет, или потребуется на их базе строить что-то более сложное, ничего не выйдет, если у нас не будет технологии. Мы в такой ситуации оказаться не хотим.
В общем, хочется, чтобы было больше ресурсов, людей, вычислительных мощностей. Но люди из воздуха не берутся, их надо готовить. Поэтому государство и компании инвестируют в развитие новых образовательных программ — чтобы создавать воронку кадров. И, я думаю, через 2–3 года мы уже увидим первый эффект от этих новых образовательных программ. А через 5–6 лет из этих ребят получатся новые научные лидеры.
«Ограничения стимулируют думать головой и развивать методы решения задач на меньших вычислительных ресурсах»
CNews: Как можно было бы увеличить количество публикаций у наших ученых?
Иван Оселедец: Чтобы продвинуться в области научных публикаций, надо просто писать. Тут как со спортом — чтобы достичь результатов в легкой атлетике, нужно много тренироваться, искать талантливых ребят, побеждать на тех соревнованиях, куда ты можешь попасть.
Да, у наших ученых есть трудности с публикацией в зарубежных журналах, но вообще научному сообществу за редким исключением абсолютно все равно, кто из какой страны. Научное сообщество самостоятельно разбирается с публикациями, рецензирует, поэтому наши ученые в тех же условиях, что китайцы, американцы, французы, арабы. Все участвуют в одной и той же истории, тебя оценивают примерно такие же ребята из других стран. И часто эта оценка происходит вслепую — когда рецензенты не знают авторов. Важно, чтобы ты выдвинул разумную идею, описал хороший эксперимент.
У нас в институте и в центрах искусственного интеллекта, на самом деле, много статей на конференциях с высоким рейтингом, которые получали награды. Их всего несколько сотен за год, что мало, по сравнению с тем, что выдает, например, Китай. Но все это в 10 раз больше, чем у нас было 10 лет назад. Рост не происходит одномоментно — лишь в результате системного развития, инвестирования, постановки конкретных целей.
CNews: Россия в силу санкционных ограничений лишена доступа к графическим видеокартам, необходимым для работы со многими моделями — как это можно было бы компенсировать?
Иван Оселедец: Если доступ к чему-то ограничен, цена увеличивается примерно в полтора раза, если запрещен — в два. Но невозможно страну с такой огромной границей лишить доступа к чему-либо. Все равно карты появляются — да, хуже, да, меньше, но они есть, и так или иначе, суперкомпьютерные центры будут развиваться.
Сейчас на мировой арене правит Nvidia, но вообще-то Китай уже колоссально продвинул свою микроэлектронику, в том числе графические карты. У них, по-моему, четыре основных производителя, которые потихоньку начали выходить на российский рынок.
Да, тяжело. Но надо использовать все возможности по доступу к вычислительным ресурсам, это первое. Второе — есть достаточно большие облачные сервисы, которые крупные компании уже используют. Это дорого, но что делать?
И третье — если у тебя ограничены вычислительные мощности, это стимулирует думать головой и развивать методы, которые решают ту же задачу на меньших ресурсах. Понятно, что с ресурсами ты можешь в единицу времени поставить больше разных экспериментов, а искусственный интеллект — это наука экспериментальная. К примеру, у тебя есть 10 идей, и надо их проверить. Проверка одной занимает два дня на каком-то количестве карт. Если карт меньше, ты будешь последовательно проверять эти идеи очень долго, а человек с большими ресурсами убежит вперед. Значит, нужно быть умнее его, фильтровать гипотезы, использовать интуицию, делать проверки дешевле.
CNews: Китай сегодня «держит» 69,7% всех ИИ патентов: по абсолютным цифрам у него нет конкурентов, а по патентам «на душу» лидируют Южная Корея и Люксембург. В конце 2023 г. американские ИИ модели опережали китайские на 17,5–31,6% по разным тестам, а к концу 2024 г. эта разница свелась к нулю. Как бы вы оценили глобальную конкуренцию в этой сфере?
Иван Оселедец: Глобальная конкуренция выглядит так: Китай, США — и все остальные в роли быстро догоняющих. Везде есть очень сильные группы, которые являются мировыми лидерами. Но если даже сложить весь Евросоюз, там не очень много наберется, хотя университетов много — в Нидерландах, Франции, Германии.
CNews: Что из последних разработок, исследований или научных статей в области ИИ вас по-настоящему впечатлило?
Иван Оселедец: Про китайские большие модели все слышали, и про Qwen, и про DeepSeek. В целом, у китайцев сегодня колоссальное количество новых подходов. Довольно долго они лишь повторяли за другими, но теперь китайские ученые действительно придумывают первыми — посети любую конференцию, и там будут интересные работы, например, по моделям Vision-language-action (VLA) в робототехнике. Это направление объединяет компьютерное зрение, обработку естественного языка и управление роботами, такие модели позволяют им понимать сложные команды, анализировать окружающую среду и выполнять задачи с высокой автономностью. Китай здесь лидирует.
CNews: Еще какие-то прорывы приходят на ум?
Иван Оселедец: Вообще открытия в области ИИ не происходят прорывами — за редким исключением, как это случилось, например, с DeepSeek. Обычно это эволюционное развитие, когда ученые берут предыдущую работу, меняют метрики, постепенно улучшая ее качество — на 1–2%. Если за этим не следить, например, полгода, сразу видно солидный накопительный эффект.
Тут речь не о том, что какой-то один суперумный товарищ что-то придумал, скорее, это небольшие шажки в одном направлении: «можно вот так сделать», «можно такой метод оптимизации применить».
Из того, что мне очень понравилось — Google DeepMind запустила AlphaEvolve, систему искусственного интеллекта, которая меняет подход к разработке алгоритмов. Она не просто генерирует код по запросу, а создает тысячи вариантов решений, тестирует их и выбирает лучшие. Только представьте: ты просишь модель саму написать код для решения задачи, а потом на основании результатов работы этого кода, переписать его. Код начинает переписывать сам себя.
CNews: Отличаются ли ИИ-разработки от страны к стране?
Иван Оселедец: На самом деле, практически нет, нужно помнить о том, что прогресс в одной части мира сегодня приводит к общему успеху. Условно, если работа из США, половина авторов — китайцы, индусы, русские, американцы. Язык науки одинаковый, подходы и результаты в конечном итоге — тоже.
Все сфокусировались на одной задаче, на одном программном стеке, на одних формулировках — и, кстати, в этом и причина такого хорошего прогресса. Уже никто из ученых не сидит в своем узком маленьком гнездышке, все решают одну и ту же задачу, а у кого получилось решить ее качественнее — тот и чемпион.
News: И все же, на ваш взгляд: насколько российские исследования и разработки в области ИИ конкурентоспособны на международном уровне?
Иван Оселедец: У нас очень сильные ИТ-компании, например, «Сбер» и «Яндекс» — их продукты абсолютно конкурентоспособны. У нас есть и модели, и результаты, и статьи, которые цитируются. При желании наши специалисты могли бы найти работу в лучших международных компаниях, но остаются тут, а многие уже работали — и вернулись.
В то же время у нас, как и во всем мире, есть проблемы с внедрениями и взаимодействием с бизнесом в целом. Сейчас ситуация постепенно улучшается, но все еще можно столкнуться с тем, что компания уже на стадии пилотных взаимодействий хочет получить решение высокого уровня готовности к внедрению, а ученые все-таки не разработчики коммерческих продуктов. Мы готовим базовые технологии, которые затем следует доводить до продуктового уровня, и знаем, что необходимо учитывать в этом процессе.
Ранее я уже высказывал идею о необходимости формирования института вендоров, которые подключались бы на промежуточной стадии и доводили научные пилоты до стадии продуктовой реализации. Должны ли это быть отдельные сущности или люди внутри компаний-заказчиков — выбирать бизнесу.
CNews: В каких новых областях бизнеса сможет применяться ИИ в перспективе 3–5 лет, какой бы прогноз вы тут дали?
Иван Оселедец: Наша ставка — это проектирование: стройка и промышленность. Тут мы очень плотно работаем, но пока ни у нас, ни в мире ИИ не используется в процессе проектирования сложных сооружений, будь то атомная станция, завод или здание. А это занимает очень много времени, и любое сокращение сроков приведет к значимому экономическому эффекту.
Про это много говорят, но никаких полноценно внедренных в работу решений нет. И здесь я вижу самую большую перспективу в плане проникновения ИИ в реальные, классические области экономики — туда, куда пока побаиваются подпускать искусственный интеллект. Очевидно, что потенциал есть — ИИ нужен везде, начиная с поиска документации и заканчивая автоматической генерацией проектных документов.
«Необходим институт вендоров, которые подключались бы на промежуточной стадии и доводили научные пилоты до продуктовой реализации»
CNews: Необходимо ли, на ваш взгляд, госрегулирование области ИИ, или государству пока лучше не вмешиваться в эти процессы, чтобы не сдерживать регуляторными рамками развитие технологий?
Иван Оселедец: Плохое регулирование точно может затормозить все, что угодно, а хорошее — ускорить. Плохой пример госрегулирования ИИ — в Евросоюзе: «все запретить, развесить 33 лицензии». Хороший пример — применение инноваций в медицине, которое практикуется сейчас в Москве.
В целом, на вопрос «как контролировать ИИ на госуровне» пока ни у кого нет нормального ответа. Все хотят получить какие-то понятные документы, но в условиях ограниченных ресурсов регулирование должно быть разрешающим. И в этом может быть наша сильная сторона — мы не занимаемся прогнозированием всех рисков наперед, наоборот: разрешаем и пристально смотрим. Если что-то не так, останавливаем, разбираемся, быстро находим, в чем проблема, и продолжаем. Экспериментальные правовые режимы — это правильная вещь.
CNews: А как быть с ответственностью за последствия использования ИИ-решений?
Иван Оселедец: Я не вижу, чем ИИ отличается от любых установленных автоматизированных систем, использование которых как-то регулируется. С той же медициной — есть процедура получения регистрационных удостоверений на систему с искусственным интеллектом. Ты проверил ее точность, проверил требования, посмотрел внутрь — запускаем и мониторим.
Это математический результат, вопрос в вероятности этой ошибки и ее цене. Как у нас раньше было с самолетами? Когда только запустили, их падало много. Но пока они падали, люди разбирались, что они сделали не так. И сейчас количество инцидентов уменьшилось. С ИИ ситуация та же самая. Мы хотим получить стопроцентную безопасность, но это невозможно. И пока мы ждем гарантий, другие люди, которые себе разрешают ошибаться, оказываются впереди.
Тут как с кнопкой автопарковки в китайских автомобилях — сначала думаешь: «ой нет, я лучше сам». Потом попробовал один раз — паркуется. Нужно пробовать дальше. Нас почему-то не смущает, что, когда мы заказываем такси, человек не участвует в этом процессе: выбирается рандомный водитель, которому говорят, куда ехать. Нами уже управляют роботы, диспетчеров больше нет. А вдруг они направят вас куда-то не туда, кто несет ответственность?..
Можно, кстати, застраховать ответственность — есть же механизмы страхования. А далее включается простая статистика, которая оценивает вероятность выплаты по этому случаю. Так можно закрыть риски.
CNews: Про ЕС вы сказали — а как оцениваете законодательство в области ИИ в США, Китае?
Иван Оселедец: В США ребята простые, они очень экономически ориентированы, поэтому регулирование разрешительное. В Китае все больше зарегулировано, но более централизовано, что, с одной стороны, делает все проще. А с другой, какие-то вещи нам все же не близки — например, когда речь про массовый сбор данных.
CNews: А китайский сценарий, в целом, близок и возможен?
Иван Оселедец: Смотря, что мы хотим. Мы хотим хорошие модели, которые помогают решать сложные задачи, или мы хотим, чтобы конкретному человеку за что-нибудь не прилетело? Камера находит преступников на улице, но ее гипотетически можно использовать и в других целях. Но вроде бы и нельзя, потому что это запрещено законодательством.
Мы давно уже живем в мире, в котором устройства вокруг нас собирают о нас данные, и бесполезно заниматься их удалением. Если ты будешь удалять свой цифровой след, станешь еще заметнее и подозрительнее.
А вообще, это не та проблема, которую нам сейчас нужно решать. И в России, и в мире множество других трудностей — больше 700 млн человек в мире живут за чертой голода. Какая им разница, исследуют ли их данные, если им есть нечего? У человечества есть реальные проблемы, и технологии, в том числе искусственный интеллект, могут помочь их решить. Найти новые лекарства, снизить стоимость клинических испытаний…
CNews: Да, сегодня часто забывают, что цель развития технологии — не сама технология… А как вы считаете, что могло бы предупредить использование ИИ в преступных целях?
Иван Оселедец: Всегда возникают вещи, которые ты не предусмотрел. Создается нейросеть, чтобы она рисовала котиков, а она начинает генерировать дипфейки для мошенников. Затем создается нейросеть, которая детектирует эти дипфейки… Эти битвы всегда бесконечные, и речь тут про экономику: сколько стоит взломать систему и сколько стоит возмещение убытков от этого взлома.
Нужно понимать, что невозможно построить универсальную защиту, как невозможно построить универсальную атаку. Вопрос только в цене и скорости реакции на попытки использовать полезные инструменты в неправомерных целях.
CNews: В этом контексте очень интересно, как сегодня используют нейросети-«цензоры» — насколько активно их сейчас берут на вооружение и эффективно ли они работают? И как работает machine unlearning — когда модель заставляют что-то забыть?
Иван Оселедец: Прежде, чем модель вам ответит, она посмотрит, что ей можно отвечать, нет ли тут запретов в законодательстве. И да, иногда модель учат не отвечать на определенные вопросы — юридические, политические, нарушающие законодательство. И это нормально — любой цифровой инструмент должен иметь внутренние правила. Даже у фильмов есть возрастные ограничения. Можно просто загрузить в нейросеть список терминов, которые комментировать не нужно. И вместо поощрения за правильную генерацию ответов, наказывать за неправильную.
К слову, мы как-то проводили исследование и пробовали собирать фотографии людей с биографическими данными, а потом заставить ИИ-модель их забыть. Выяснилось, что информация о человеке, на которой обучалась модель, размазывается по множеству классификаций, и при желании ее все равно можно достать. Она так глубоко пролезла, что аккуратно ее вычистить уже не получится. Стоит переформулировать вопрос или задать его на другом языке, пригрозить модели или наоборот, подольститься к ней — и вот она уже отвечает.
CNews: Почему генеративные модели иногда галлюционируют? Иногда мы получаем совсем уж неожиданные результаты. В соцсетях и на форумах много примеров того, как ИИ «ленится», сокращая себе объем задач, дает несуразные ответы и откровенно выдумывает.
Иван Оселедец: Все это, скорее, на уровне частных примеров и приколов — обобщать тут сложно. И не так много исследований, которые подтверждают свойство модели что-то сочинять.
Я призываю всех составлять свое собственное мнение и активно взаимодействовать с системами в тех задачах, которыми вы занимаетесь, а не пытаться придумать что-то, что спровоцирует модель дать глупый ответ. Лучше искать позитивное применение, анализировать примеры неправильной работы в практических кейсах.