Человеко-ориентированный искусственный интеллект

Важность выравнивания развития искусственного интеллекта с человеческими ценностями в некотором роде предшествует самому искусственному интеллекту: ещё до появления современной концепции ИИ, озвученной на Дартмутской конференции 1956 года, представление о роботах как созданных человеке автономных агентах стало частью культуры уже в 1920-х годах, начиная с пьесы Карела Čапека «R.U.R. (Россумские универсальные роботы)»^[4]. Вскоре после этого были сформулированы и вопросы, связанные с необходимостью целенаправленного согласования целей и ценностей роботов с человеческими. Наиболее известны в масс-культуре три закона робототехники писателя Айзека Азимова, сформулированные в рассказе 1942 года «Кругом…». Два из трёх этих законов напрямую касаются взаимодействия роботов с людьми. В последние годы эти вопросы вновь анализируются в свете развития современных ИИ^[5]. В 1985 году, когда исследования в области ИИ активно развивались, Азимов добавил так называемый Нулевой закон, касающийся отношений роботов с человечеством в целом, а не отдельными людьми^[6]. Хотя современный искусственный интеллект во многом отличается от классической робототехники, идея автономных агентов, будь то роботы или ИИ-системы, легла в основу концепции человеко-ориентированного ИИ.

Помимо роботов, концепция автономных агентов с искусственным интеллектом, взаимодействующих с человеком, существует не менее 75 лет. В 1950 году Алан Тьюринг опубликовал свой знаменитый мысленный эксперимент «Имитационная игра»^[7], в котором взаимодействие человека и машины используется как критерий наличия интеллекта у системы. В последние годы некоторые исследователи искусственного интеллекта, такие как профессор Эрик Бриньольфссон из Стэнфордского университета, предложили понятие так называемой «Ловушка Тьюринга», связанной со стремительным развитием ИИ^[8].

Одна из основных заявленных целей человеко-ориентированного искусственного интеллекта заключается в поддержке разработки ИИ таким образом, чтобы он усиливал возможности человека, а не заменял их. Соответственно, организации и инициативы, придерживающиеся такого подхода, делают упор на создание рамок, способствующих коллаборации между людьми и системами искусственного интеллекта для достижения больших результатов, а не на автоматизацию задач, выполняемых человеком. К примеру, это может включать в себя применение автономного агентного ИИ для выполнения рутинных задач, таких как автоматизация офисных процессов, клиентская поддержка и проведение исследований^[9].

Многие человеко-ориентированные инициативы рассматривают этот подход как альтернативу основной линии развития ИИ, когда доминирует задача автоматизации. Под воздействием рыночных сил автоматизация задач, традиционно выполняемых людьми, становится выгодной с точки зрения прибыли, зачастую в ущерб самим работникам, чьи навыки вытесняются автоматизированными системами в различных сферах экономики и услуг. При этом автоматизация и усиление не всегда противоречат друг другу: одна из ключевых задач человеко-ориентированного искусственного интеллекта — автоматизация рутинных операций, которые мешают творческой и интеллектуальной деятельности человека, чтобы направить ресурсы на более сложные задачи, тем самым реализуя усиление через автоматизацию^[10].

В индустрии активно развивается тренд «партнёрства навыков» (англ. Human-AI Augmentation). В рамках этой модели автономные ИИ-агенты берут на себя стандартизированные задачи, а человек концентрируется на принятии сложных решений и проявлении эмпатии^[11][12]. Подобная модель частичной автоматизации признана более экономически целесообразной, чем полная замена сотрудников^[13].

Большая часть исследований в области человеко-ориентированного искусственного интеллекта проводится в институтах и лабораториях при университетах, компаниях и автономных исследовательских организациях. Одной из крупнейших таких структур является Стэнфордский институт человеко-ориентированного искусственного интеллекта (Stanford Institute for Human-Centered AI, сокращённо HAI), объединяющий учёных, представителей индустрии и политиков и занимающийся исследованиями и выработкой политики в области человеко-ориентированного ИИ, включая как изучение самих интеллектуальных систем, так и их влияния на политические и культурные институты. Аналогичные лаборатории существуют и при других университетах, например, лаборатория CHAI (Chicago Human + AI Lab) в Чикагском университете и лаборатория Human-Centered AI (HAI) в Оксфордском университете. Помимо академии, компании, такие как IBM, реализуют собственные исследовательские программы в этой области.

С развитием агентных систем искусственного интеллекта фокус управления сместился на обеспечение значимого человеческого надзора (англ. Meaningful Human Oversight) за их автономными действиями^[14]. Для интеграции человеческого суждения в рабочие процессы применяются несколько ключевых методов. Подход «человек в цикле» (англ. Human-in-the-Loop) предполагает, что ИИ-агент выполняет задачи, но на определённых этапах или в сложных ситуациях требует явного подтверждения от человека^[15]. Модель «человек над циклом» (англ. Human-on-the-Loop) позволяет системе работать автономно, в то время как человек выполняет роль наблюдателя и вмешивается только при необходимости^[15]. Также используется контролируемая автономия, при которой агент действует самостоятельно лишь в строго заданных границах, а выход за их пределы требует обязательного одобрения. Важным элементом осмысленного контроля является объяснимый искусственный интеллект (англ. Explainable AI, XAI), который необходим для понимания логики работы алгоритмов^[16]. В рамках человеко-ориентированного подхода действует принцип распределённой ответственности между разработчиками, операторами и организациями, внедряющими систему. При этом конечная ответственность за сложные решения и последствия работы ИИ всегда остаётся за человеком^[17].

Практическим воплощением концепции человеко-ориентированного искусственного интеллекта является Закон ЕС об искусственном интеллекте (EU AI Act). Документ использует риск-ориентированный подход: системы с неприемлемым риском (например, социальный скоринг) полностью запрещены, а для систем высокого риска введено обязательное требование человеческого надзора (Human Oversight) и прозрачности^[18].^[19].