Об этом и многом другом рассказал в интервью InTrend руководитель Лаборатории искусственного интеллекта Школы управления СКОЛКОВО Александр Диденко.
Лаборатория искусственного интеллекта – новое подразделение в составе Центра цифрового развития, которое занимается как созданием прикладных ИИ-инструментов в интересах Школы, так и исследовательской деятельностью.
Как иллюстрация проникновения ИИ в жизнь Школы – данный материал написан с использованием двух ИИ-инструментов: чат-бота, помогшего систематизировать фактуру, и сервиса по расшифровке аудиофайлов, составившего стенограмму беседы. Все это позволило существенно сократить время написания материала.
Александр, искусственный интеллект – технологический сюжет №1 как в российском, так и глобальном медиаполе. С одной стороны, понятно – каждая страна, отрасль и даже человек оценивает для себя возможности и риски, связанные с ИИ, но все же: нет ли у вас ощущения, что тема перегрета?
Александр Диденко: Наверное, вопрос про «перехайпованность» следует адресовать журналистам и медийщикам, а не тем, кто занимается разработкой и исследованиями ИИ – мы как разрабатывали, так и разрабатываем. Шумиху же раздувают совсем другие люди.
Вообще, ожидания вокруг технологий, включая ИИ, прекрасно объясняются с помощью кривой хайпа компании Gartner (Gartner Hype Cycle), который отражает не реальную динамику технологий, а ожидания публики. Например, технология - точнее, просто какой-то “недотермин”, нечеткое имя - может быть на пике внимания, при этом у этого имени не будет ни какого-то реального содержания, ни, естественно, применения.
А потом, когда хайп спадет, выяснится, что этим одним словом называли разное, и для этого разного найдется сразу несколько применений. Прежнее слово исчезнет, распадется на несколько других имен технологий, уже с реальным содержимым. Если проанализировать кривую Гартнера в динамике, вы увидите этот паттерн несколько раз.
Искусственный интеллект и машинное обучение уже долгое время на слуху, но нынешний хайп сосредоточен на общем ИИ [Artificial General Intelligence, AGI – универсальный ИИ, способный выполнять интеллектуальные задачи на человеческом уровне].
Однако, по моим оценкам, мы не увидим AGI ни в ближайшие 4-5 лет, ни вообще когда-либо. Потому что - что это такое, этот AGI? Тот самый «недотермин», просто слово, под которым каждый понимает свое, и именно поэтому вокруг него так удобно раздувать хайп. Вместо загадочного AGI разовьются узкие прикладные решения, например нейросимволические вычисления. И вот они реально будут менять экономику.
На Дне выпускника Школы управления СКОЛКОВО Андрей Шаронов и Иван Хохлов на одной из сессий вспоминали ситуацию 2000-х и 2010-х, когда социальные сети стали «перехайпованным» инструментом, влияние которого на экономику оказалось преувеличено.
Александр Диденко: И тем не менее соцсети существенно повлияли и на маркетинг, и на политику, и в целом на повседневность человечества. На мой взгляд, сила соцсетей не была преувеличена , но, возможно, просто-напросто прогнозировался один эффект, один фокус, а получился совсем другой, неожиданный.
То же с ИИ: ожидания от его «всемогущества» преувеличены, но он уже сейчас ведет к созданию новых процессов и рабочих мест. Как и в случае с любыми технологическими инновациями, ИИ будет развиваться через узкоспециализированные решения, постепенно все больше встраиваясь в нашу жизнь.
В итоге то, что сейчас называют AGI, распадется на несколько стабилизированных понятных технологий, которые будут выжимать людей из разных процессов, в том числе из тех, которые, казалось, являются чисто человеческими. И параллельно они будут порождать новые процессы, которые будут впитывать еще больше людей с новыми компетенциями.
Как это всегда случалось с технологическими инновациями: они встраиваются в существующие процессы, где-то дополняя, где-то заменяя человека, но порождают новые и обеспечивают рост технологий, уровня жизни и экономики в целом.
Оптимистичный взгляд, но можно вспомнить пример из истории: движение луддитов в Англии в начале XIX века, в начале Промышленной революции. Люди, оставшиеся без работы из-за механизации труда, громили мануфактуры. Не видите ли таких рисков сейчас?
Александр Диденко: Влияние ИИ на рынок труда – одно из направлений исследований нашей лаборатории, поэтому более-менее детальный прогноз я смогу дать, скажем, через полгода. Это первое.
Второе – это типичная эвристика, но если опираться на то, как это было раньше, и экстраполировать, то что получается? Вы создаете, скажем, станок, который уничтожает одни рабочие места, но одновременно создает огромное число других рабочих мест.
Человек (в отличие от животного или технического устройства) силен адаптивностью на уровне отдельного экземпляра: он может получать новые компетенции и встраиваться в новую систему разделения труда.
Плюс, опыт предыдущих промышленных революций научил элиты, что, если не давать людям получить какие-то выгоды от технологического нововведения, то очень скоро происходит социальный и политический кризис.
Например в конце XIX – начале XX веков государственные и корпоративные системы социального обеспечения получили мощный толчок к созданию. Причиной были вызванные технологическим прогрессом рабочие движения и социальная напряженность, причем во всем мире; но в России, к сожалению, это привело к революции, а в других странах - к гарантиям восьмичасового рабочего дня, пенсионной системе и т.п. И никаких луддитов, все счастливы.
Сегодня эти рассуждения применимы не только (и может быть даже не столько) к пролетариату, синим воротничкам, но и к интеллектуальным профессиям, например университетским профессорам. Близкая нашей Лаборатории тема: изменение опыта студентов через внедрение ИИ в процесс обучения.
Заметьте: претензия не в том, чтобы бота-администратора внедрить, а сам процесс поменять. Как профессора бизнес-школы заместить искусственным интеллектом? Это же не ткача заменить покупкой станка, тут сложнее.
Мы можем попробовать, а профессор будет сопротивляться: он настаивает на своей уникальности, на том, что вот у него есть особая человеческая подлинность, и никто не может ее автоматизировать. Именно за этой подлинностью идут студенты в университеты.
Но в результате получается такая динамика: инженер раскладывает труд профессора на отдельные практики и часть их автоматизирует. Профессор тут же заявляет, что подлинность была не в этих практиках, а в каких-то других. А инженер автоматизирует и их.
Самое веселое тут не в понятном человеческом стремлении защитить свою территорию, свою карьеру и должность, а в следствиях процесса автоматизации. На выходе у нас обновленный профессор, который себя перепридумал, переизобрел в бесконечном отступлении перед ИИ.
И он живет насыщенной интеллектуальной жизнью: ведь и его студенты теперь, вместо написания скучного эссе, сначала пытаются обсудить его со специально подготовленным ботом, а уже потом пишут и сдают на проверку.
И вместо 60 скучных профессор получает 60 крутых эссе! Он их читает, получает удовольствие, а потом думает, как ему улучшить бота. Вот он, идеальный объект профессорской рефлексии: твое умение теперь лежит перед тобой на столе, препарируй-не хочу!
Один из первых ботов, который я сделал еще в прошлой жизни, а сейчас усовершенствовал и приземлил на программу «Лидеры как преподаватели», это Имре [в честь Имре Лакатоса, знаменитого философа науки], бот-эпистемолог, который помогает студентам понимать и планировать научные исследования.
Я сотрудничаю с несколькими университетами и уже который год курирую исследования не у отдельного студента или аспиранта, а, например, сразу на определенной магистратуре.
Это десятки студентов, и я просто устал повторять в сотый раз одно и то же, а еще – очень соскучился по классным исследованиям. Имре очень помог. И я его совершенствую регулярно, анализируя, уже как студенты взаимодействуют с ним.
Таким образом итеративно совершенствуется и ИИ, который вроде как замещает профессора, и сам преподаватель. Я бы назвал такую модель скорее симбиозом, чем конкуренцией.
А есть у этой динамики какой-то конец? В итоге-то что?
Александр Диденко: О, это очень интересно. У меня есть хулиганская совершенно идея, которую я сам боюсь. Но она очень естественная. Смотрите: в такой динамике самое парадоксальное, как кажется, происходит не с профессором, а с университетом: вместо того, чтобы производить образованных студентов, он начинает производить профессоров.
Ведь если я - университет - силами своих инженеров сделал идеального ИИ-профессора по, скажем, маркетингу или цифровой трансформации, зачем мне его использовать в обучении? Что, если убрать посредника в виде студента и сразу сдать наш ИИ в аренду?
Мне эта идея пришла в голову, когда наша Лаборатория создавала ИИ-бота для курса по OKR, который делает команда Павла Алферова. В конечном итоге у нас получился бот, который замечательно умеет формулировать цели и ключевые результаты для команды.
Я задумался: окей, а что дальше? В принципе, он же теперь может просто сформулировать эти цели для команды разработчиков. И что же, менеджер, который обучился на курсе OKR, теперь, получается, не нужен? По крайней мере, часть его работы OKR-бот уже отжал.
Чему же нам учить менеджера? Ну, например, как обращаться с этим консультантом: может, как дообучать его, кастомизировать. Или как минимум как правильно задавать ему вопросы и проявлять конструктивное недоверие к ответам.
Вспомните, как изменил вашу жизнь калькулятор. Если помните, конечно.
И как же?
Александр Диденко: Я вот, к примеру, 10 лет считал в столбик, а потом еще пять лет учился делать линейную регрессию карандашом на бумаге, а не в Python.
Так или иначе, наличие калькулятора ни у кого не отобрало работу и не отбило умение считать – но вы теперь считаете совсем иначе.
Посмотрите на себя со стороны в следующий раз за этим занятием: у вас всегда есть интуитивное представление о том, что примерно должно появиться в окошке, и множество микроэвристик, которыми вы постоянно валидируете результат: может ли тут быть «5» в конце? Сколько нулей должно получиться? Ответ четный или нет? И так далее.
Думаю, что аналогичное умение разовьется и у опытного пользователя OKR-бота или другого ИИ-консультанта. Это кстати продолжение ответа на вопросы о луддитах и экспроприации компетенций у человека: ИИ одни экспроприирует, другие развивает.
А компетенция вопрошания у пользователей – это вообще моя любимая тема. В Лаборатории мы специально изучаем, используя опять же особый ИИ – называется NLP, не путать с нейролингвистическим программированием – как и о чем наши пользователи спрашивают наших ботов. И мы обнаружили, что умение спрашивать совершенно отсутствует у студентов любого возраста, и именно ИИ обнажает этот пробел.
Оказывается, что каждый из нас, «человеков», отвечая на вопрос, незаметно изменяет его, подгоняя под имеющийся у нас материал, то сообщение, то намерение, которое у нас есть. Это происходит автоматически, как правило, мы себе в этом отчета не даем.
А вот у ИИ нет никакого намерения (если инженер ему это специально не встроил), он честно и сугубо по существу отвечает в точности на заданный вопрос, ничего не додумывая. У нас, наконец, есть максимально беспристрастный собеседник, но пользователя это почему-то раздражает. Не к такому поведению он привык, он страстей хочет!
Кстати о страстях. Кажется что, по крайней мере на сегодня, эмпатия – одна из тех человеческих способностей, которая недоступна ИИ, и в ней, возможно, и будет конкурентное преимущество людей перед машинами. По крайней мере в профессиях, ориентированных на общение с людьми: в нынешнем виде попытки ИИ быть «эмпатичным» выглядят механически, темно и холодно, как в космосе.
Александр Диденко: В начале года я был такого же мнения и считал это фундаментальным ограничением. Но вот весной OpenAI анонсировала новую версию ChatGPT-4 под названием Omni, которая вполне умело имитирует эмпатию!
Вы мне скажете: именно что имитирует, а где же подлинное? А я спрошу вас: а что такое подлинное? Вы уверены, что я вот прямо сейчас не имитирую эмпатию? А откуда уверенность?
Все это аргументы, похожие на те, что высказываются в спорах о мышлении LLM: кто-то говорит, что они не мыслят, а только выкладывают слово за словом по автокорреляции, то есть говорят уместные вещи.
А я в этом месте спрошу: вы уверены, что ваш человеческий собеседник - я к примеру - не делает то же самое прямо во время спора? Согласитесь, это очень уместный вопрос в этой точке разговора.
Да, в целом, сегодня большие языковые модели (типа ChatGPT) не понимают, в каком сейчас состоянии находится юзер, не подстраиваются, хотя это очень важная вещь в коммуникации, ключевая для обмена информацией. Они с трудом распознают пользовательские намерения - требуются инженерные ухищрения от нас, разработчиков, чтобы плюс-минус гарантировать результат.
В будущем, на мой взгляд, искусственный интеллект может научиться эффективно имитировать эмпатию. Чтобы, условно, «ИИ-профессор» мог управлять вниманием аудитории, его нужно оснастить «органами чувств», датчиками, позволяющими считывать эмоции со всех студентов одновременно.
Текущие модели ИИ работают только с текстом, но можно создать более сложные представления, включающие эмоциональные аспекты. А еще ИИ не умеет передавать информацию через молчание, что иногда очень важно в общении, но и эту способность можно разработать.
Или вот еще пример. Мы сделали для бакалавриата Школы СКОЛКОВО цифрового профессора по биологии человеческого поведения на основе личности и текстов реального профессора из одного прославленного зарубежного института.
Кажется, мы неплохо справились с его междисциплинарностью, хотя для этого внутри нашего цифрового профессора пришлось устроить натуральную шизофрению: у него есть несколько дисциплинарных внутренних голосов, которые, отвечая на вопрос пользователя, вступают в полилог между собой, а пользователь слышит только рябь на поверхности, результат внутреннего полилога.
Но вот чего мы совершенно не понимаем, как сделать это фирменное чувство юмора профессора. Пока юмор у нашего бота в стиле «физики шутят», довольно прискорбный. Выяснилось, что это невероятно сложная задача.
Хотя, как нам кажется, шутить мы все горазды, а вот рассуждать о взаимной роли окситоцина и групповой сплоченности в формировании агрессии – нет.
ИИ разворачивает наши представления об иерархии сложных и простых задач. Сделать условного профессора - относительно просто; стендапера – сложно; а самое сложное – сделать сантехника. Мелкая моторика сложнее лабиринтов эндокринологии и социальной психологии.
А можно ли представить «ИИ-предпринимателя»?
Александр Диденко: В теории? Можно, конечно, но это уже совсем футуризм и концепты в духе «экономики вещей», где «ИИ-предприниматель» коммуницирует с «ИИ-банкиром», запрашивая кредит на тот или иной проект. Хотя, думаю, предприниматели относительно всех творческих в широком смысле профессий будут одними из самых сложных для полной автоматизации.
К чему весь этот путь нас приведет, я понятия не имею. Возможно, в конце концов будет выход… ортогональный, нелинейный, в другую плоскость.
Что имеется в виду?
Александр Диденко: Это когда сначала приехали партизаны, расстреляли немцев. Потом приехали немцы, расстреляли партизан. Это неортогональное взаимодействие, а потом происходит ортогональный выход: приезжает лесник и всех разгоняет.
Лесником в случае с ИИ могут быть, например, инвазивные нейроинтерфейсы, которые позволят каждому просто встроить себе в мозг ИИ-помощника и интегрироваться с ним... как говорят юристы в области авторского права, до степени неразличения.
То есть вы не сможете понять, кто это сейчас говорит. Это сейчас говорит профессор? Тот старый, «мясной»? Или это говорит его цифровой помощник? И сам профессор не будет это осознавать, скорее всего. Вот как-то так, понимаете? Но это уже совсем футуризм. Еще одна мысль, которую я сам побаиваюсь.
Тогда вернемся немного назад, в день сегодняшний. В контексте нынешней ситуации какое место занимает Россия в глобальном технологическом мире ИИ? Есть ли отставание? Есть ли проблемы с кадрами?
Александр Диденко: На мой взгляд, отставание есть. Ведущие российские ИИ-инструменты запаздывают относительно лучших зарубежных на год-два. Это существенно, но некритично.
Связано это с нехваткой квалифицированных кадров и инвестиций. Преимущество стран с большим населением, как Китай или, условно, коллективный Запад, заключается в большем количестве «мясных нейронов» — специалистов, занятых ИИ-разработками. И больше денег.
Традиционный ответ тут в том, чтобы организовать новый способ интеллектуального труда, например подключив ИИ к созданию ИИ. Проблема в том, что конкуренты это тоже уже делают.
То есть искусственный интеллект уже разрабатывает искусственный интеллект?
Александр Диденко: Да, это разработка второго порядка. Новые технологии разрабатываются быстрее за счет специальных алгоритмов и моделей: ИИ подключается к задачам по обучению моделей, повышению энергоэффективности и ускорению генерации данных, да просто к тому, чтобы писать код и делать обзоры научных статей.
Такие платформы, как arXiv или сервисы на базе ИИ, например Semantic Scholar, Consensus, Elicit и Emerging Mind, интеллектуально ищут и суммаризируют исследования, упрощают доступ и понимание новых научных результатов.
И это только коробочные решения. Мы у себя в Лаборатории, затевая новое исследование, первым делом делаем нового исследовательского копилота (условно, «брата», того самого Имре), заполняя его «знание» материалом, который считаем релевантным. А раньше все начиналось с обзора литературы!
Теперь над обзором вкалывает робот; точнее, даже не вкалывает, а отвечает мне по запросу, ad hoc. Обзор уже не нужен как таковой. Не думаю, что коллеги в других исследовательских группах менее сообразительны, чем мы: наверняка и у них это есть. Я уж не говорю про повсеместное использование копилотов программиста: здорово экономит время, особенно если нет высоких требований к качеству кода. Но в data science программа, как правило, выполняется 1-2 раза за время своего существования, нам и не нужен суперэффективный код.
С другой стороны, хотя у многих зарубежных конкурентов больше специалистов и денег, плюс в том, что многие разработки ИИ открыты для общего доступа. Отключить Россию от этих глобальных платформ сложно, поскольку сообщество ИИ неоднородно, многие его члены будут против таких ограничений.
Несмотря на наличие в целом барьеров доступа к технологиям, конкретно в ИИ они не так велики, как, например, в энергетике, фармацевтике или микроэлектронике.
И Россия, на самом деле, вполне достойное место занимает в глобальном мире ИИ-технологий. У нас есть свои большие языковые модели - GigaChat, YandexGPT. У многих стран с существенным экономическим потенциалом нет таких наработок не только в области ИИ, но вообще в IT. Весь мир сидит в одной большой социальной сети, а у нас? У нас есть свои.
Дело в технологическом заделе, инженерной школе, оставшейся со времен СССР?
Александр Диденко: У меня ощущение, что это больше из области культуры, чем технологий. Мне сложно подтвердить этот тезис, но на уровне интуиции теоретизирую, что в России есть культурный слой, способный создавать какие-то самоподдерживающиеся языковые процессы. И теперь часть этого - большие языковые модели (а раньше частью стали соцсети).
Может быть, это связано с наследием великой русской литературы. С другой стороны, в Германии, где точно нет недостатка в культурном слое, своих сильных языковых моделей нет. А кстати во Франции, где все очень держатся за чистоту французского языка, эдакие лингвонационалисты, есть как минимум Mistral AI.
Кстати, о культурах: мы в Лаборатории затеяли небольшое исследование (которое теперь мне кажется уже не таким и небольшим). Мы хотели узнать, есть ли у больших языковых моделей культура. Есть специальные опросники - Хофстеда, Тромпенаарса, которые, как некоторые исследователи считают, позволяют получить доступ к ценностям респондента.
К глубинным вещам, которые влияют на все: деловое поведение, принятие решений и т.п. Есть идея, что в России существуют носители двух архетипов таких ценностей: коллективистских (условно-восточных) и индивидуалистических (условно-европейских).
Мы прогнали несколько больших языковых моделей через эти опросники и получили довольно неожиданный результат: отечественные модели, GigaChat и YandexGPT, скорее склонны к индивидуалистическим ценностям. А вот установки конкурирующих западных моделей, как ни странно, ближе к социальным нормам условного Востока.
Многие исследователи, кстати, оспаривают сам факт связи между принадлежностью к какому-то обществу и наличием дискретного набора ценностных установок. «Нет никакой измеримой культуры у человеков», - говорят они. «У, человеков, может и нет, но у машин точно есть, мы даже знаем где - в alignment’е», - отвечаем им мы.
Связано это, видимо, с тем, кто и как обучает модели тому самому alignment’у, то есть обеспечивает соответствие ответов модели социальным нормам и безопасности - обычно это делается на финальных этапах обучения большой языковой модели, как покраска у авто. И это очень важный вопрос, учитывая ту роль, которую мы отводим большим языковым моделям в ближайшем экономическом будущем.
Но вернемся к России. Модели машинного обучения (ML) у нас активно используются там, где уже накоплено большое количество структурированных данных и есть крупные бюджеты для их поддержки.
Например, в таких сферах, как финансы, ML применяется для решения задач прогнозирования, скоринга, оптимизации инвестиционных портфелей, а также принятия решений о выдаче кредитов, управлении инвестициями, прогнозировании потребительского поведения.
Модели, работающие с неструктурированными данными (например, текстами), пока используются реже, даже в образовании, хотя перспективы для их применения здесь значительны.
Наша Лаборатория внедряет решения на базе LLM в Школе СКОЛКОВО, а еще, совместно с Центром разработки ИИ-решений в образовании - в ТюмГУ. Счет сейчас идет на десятки автоматизированных курсов, на которых обучаются сотни студентов разных возрастов. Мы получаем бесценный опыт, и, думаю, такого опыта в нашей стране ни у кого нет.
Лидерами по внедрению более традиционных ИИ-инструментов выступают, наверное, финансы, телеком и розничные сети, как e-commerce, маркетплейсы, так и офлайновая торговля.
Это решения «как больше заработать». Есть еще отдельный набор решений «как меньше потратить и снизить риски» – например, проверяющие, все ли работники у вас на производстве носят каски.
Собственно, подробнее о состоянии дел с внедрением ИИ-решений в российскую экономику смогу рассказать позднее, поскольку это одно из направлений исследований нашей лаборатории. Другой трек – инженерный, связанный с внедрением ИИ в образовательный процесс в Школе управления СКОЛКОВО. О некоторых разработках в этом треке я коротко рассказал. Как будет, чем поделиться новым, – обязательно поделюсь.
Интервью провел Григорий Маслов.
