Технологии и активное использование искусственного интеллекта меняют не только бизнес и индустрию, но и общество в целом: с каждым годом все актуальнее становится тема этичного использования ИИ, необходимости его контроля и регулирования. Вокруг этих тем была сосредоточена дискуссия, состоявшаяся во время закрытого бизнес-завтрака в Школе управления СКОЛКОВО между доктором экономических наук, деканом экономического факультета МГУ Александром Аузаном и кандидатом физико-математических наук, управляющим директором и руководителем управления развития перспективных технологий AI Сбер, научным консультантом AIRI Семеном Буденным.
Бизнес, регулирование и роботы
Одним из ключевых вызовов в контексте развития технологий является соблюдение прав человека при использовании ИИ в принятии решений, включая, например, правовые, трудовые вопросы или социальную сферу. Спикеры согласились, что ограничивать технологию не стоит, но регулирование необходимо.
Если мы добавляем автономность искусственному интеллекту, то он уже начинает становиться интерактивным (про это еще отдельно говорил Мустафа Сулейман, со-учредитель DeepMind). Далее он может быть и проактивным, закрывать наши потребности. А мы, возможно, об этом не будем даже подозревать, – Семен Буденный.
Примеры использования ИИ в социальных процессах показывают, что технологии могут как облегчить жизнь, так и создать новые риски (например, дискриминация или утрата человеком субъектности).
«Есть реальный сценарий, когда человечество “уходит на пенсию”, если говорить о каком-то принципе гарантированного дохода, когда будет работа “на комфорт”. В ином случае естественному интеллекту нужна конкурентоспособность, нужна возможность оставаться в партнерстве, хоть это и связано с большими издержками», – Александр Аузан.
ИИ все глубже проникает в бизнес-процессы, создавая как новые рабочие места, так и новые угрозы для старых профессий. Как правильно интегрировать технологии, чтобы сохранить баланс между эффективностью и занятостью? Могут ли машины действительно создать угрозу бизнесу?
Какие-то профессиональные функции могут быть очевидно выкорчеваны ИИ, но новых рабочих мест, которые технология создает, может оказаться больше, потому что этой технологией нужно уметь управлять, она породит новые цифровые сервисы и продукты, – Семен Буденный.
Существуют опасения, что под воздействием ИИ и технологической среды могут быть утрачены не столько профессии, сколько важные для человека навыки – умение анализировать информацию или концентрироваться.
«Навык усидчивости (анализа контента с долгим контекстом) сейчас в зоне риска ослабевания. Действительно, ИИ может очень быстро решить сложную задачу, на которую человек тратит много времени, высвобождая его от потребности делать синтез, держать долгий контекст. С другой стороны, очень правильно поднять вопрос управления этой технологией: если мы будем вести проактивный диалог с машиной, то сможем решать свою задачу более эффективно, но сохранять концентрацию», – Семен Буденный.
У нас сейчас каждый студент умеет делать три дела: слушает лекцию, общается в сетях и что-то гуглит. При этом все это делает плохо… Я бы сказал, что есть две проблемы, которые надо решать: первая – сохранение того, что теряется из-за сниженной памяти, а вторая – как при такой многозадачности, которая не многим свойственна, делать все качественно, – Александр Аузан.
Технологии и чувства
Искусственный интеллект реализует возможности, недоступные естественному. В этом контексте целью человека может стать развитие естественного интеллекта, считает Александр Аузан:
Нам надо понять, что естественный интеллект может такое, чего не может искусственный - например, проявлять интуицию.
Машинный интеллект (LLM в частности) может лишь воспроизводить человеческие функции, может максимально приблизиться к когнитивным способностям, но пока он не может чувствовать, хотеть и вовсе не имеет когнитивные функции, уверен Семен Буденный.
В будущем, возможно, человек и ИИ будут способны работать в тандеме, в соавторстве, создавая новые формы искусства, но при этом границы их взаимодействия должны быть четко определены.
«Принятие самых главных решений – за человеком, он должен нести ответственность. ИИ не должен принимать решения там, где цена ошибки первого рода (ложной тревоги) существенна», – Семен Буденный.
В этом контексте возникает в целом вопрос доверия к технологии. Интересно, что россияне в целом склонны доверять ИИ в отдельных областях больше, чем европейцы. Например, недавно проведенное Школой управления СКОЛКОВО исследование о доверии показало, что люди в большей степени готовы доверить принятие решений в правовой сфере ИИ, а в медицине – в меньшей степени. Человеческое участие, эмпатия имеют значение?
Для человека эмпатия – эволюционное свойство. Если искусственный интеллект приобретет возможность эволюционировать, то развитие эмпатии возможно, – Александр Аузан.
