Роботизированное управление

По аналогии с концепциями корпоративного управления, technology governance^[1] или IT-governance, которые предполагают создание рамок для управления компаниями или построения глобальной ИТ-инфраструктуры, robotic governance рассматривает влияние робототехники, автоматизации и искусственного интеллекта на общество в целостном и глобальном контексте, анализирует возможные последствия и формулирует рекомендации в виде своеобразного «манифеста роботов». Эту задачу реализует международный благотворительный фонд Robotic Governance Foundation^[4].

Robotic governance опирается на дискурсивную этику: представители всех заинтересованных сторон — науки, общества, религии, политики, индустрии, профсоюзов и других учреждений — вовлекаются для достижения консенсуса. Достигаемый консенсус публикуется в виде набора правил (Robot Manifesto), который становится основой саморегулирования сферы исследований, развития и коммерциализации автономных, ИИ-управляемых и автоматизированных систем.

Подобно борьбе с детским трудом и внедрению устойчивых практик в производстве IT-оборудования, саморегулирование в робототехнике строится на увеличении альтернативных издержек: чем актуальнее и шире тема обсуждается в обществе, чем активнее общественность требует ответственного отношения, тем затратнее для компании скрывать проблемы с помощью маркетинга. С определённого момента экономически выгоднее инвестировать в устойчивые технологии, чем тратить ресурсы на сглаживание репутационного ущерба.

Первые идеи регулирования этических норм для интеллектуальных машин появлялись в связи с осмыслением поведения таких устройств в научной фантастике. Ещё раньше в культурной истории возникала тема этики, связанная с созданными человеком искусственными существами. Так, первичные упоминания прослеживаются у Овидия в «Метаморфозах» (I век н. э.), в рассказе о Пигмалионе, в еврейской мистике о Големе (XII век), а также в средневековой идее создания гомункула в алхимии.

Все эти произведения затрагивают философский вопрос о последствиях создания человеком самостоятельных, обладающих сознанием существ — автоматов, роботов, андроидов. Если ранние тексты акцентировали опасность нарушения человеком «акта творения», то Айзек Азимов первым с помощью своих законов робототехники (англ. Three Laws of Robotics) выразил идею необходимости ограничения и регулирования «свободы воли» машин.

С 1995 года, когда началось активное боевое применение вооружённых дронов (как MQ-1 с управляемыми ракетами) и стали возникать серьёзные сопутствующие жертвы среди гражданского населения, тема международного регулирования использования управляемых, программируемых и автономных машин вышла в общественное поле. Теперь эта дискуссия охватывает программируемые, интеллектуальные и автономные машины, дроны, автоматизацию, а также их связь с big data и искусственным интеллектом. В последние годы обсуждение активизировали такие технологические и научные лидеры, как Стивен Хокинг^[5],^[6] Илон Маск^[7],^[8][9][10] и Билл Гейтс^{[11][12][13][14]}, что сделало вопрос публичной дискуссии и усилило его актуальность. С массовым распространением недорогих робототехнических систем среди предприятий, государственных структур и частных лиц проблема регулирования робототехники приобретает особую значимость во всех сферах общества.

Идея поиска решений конфликтов между компаниями и стейкхолдерами на основании этических принципов восходит к немецкой экономической и корпоративной этике, развиваемой, в частности, Хорстом Штайнманном^[15], Питером Ульрихом^[16] и Карлом Хоманном, а также к концепции корпоративной социальной ответственности (CSR). Экономическая этика занимается проблемой справедливого ведения бизнеса, применения моральных критериев и последствий экономических действий^[17]. Корпоративная этика преимущественно рассматривает действия экономических организаций^[18]. Дискурсивная этика исходит из того, что в экономике постоянно возникают конфликты интересов, которые должны быть разрешены посредством мирного дискурса. Конфликты между моралью и конкурентной борьбой столь же актуальны и в области этики робототехники.

В рамках дискурсивной этики необходимы как материальные, так и процессуальные нормы. Материальные нормы воплощаются, например, в корпоративных кодексах; процессуальные — в виде этических комиссий. Такие ограничения должны сначала реализовываться через добровольное саморегулирование, но если консенсус невозможен, требуется участие ассоциаций или государства. Преимущество данного подхода в том, что участвующие стейкхолдеры обладают высокой экспертизой по предмету, а законотворчество зачастую не поспевает за технологиями и не справляется с отдельными конфликтами, возникающими в робототехнике, автоматизации и ИИ. Саморегулирование позволяет быстрее реагировать на новые вызовы — например, связанные с технологическими инновациями.

Возрастание значения ответственности бизнеса и личностей за устойчивое развитие в виде CSR и корпоративного гражданства заметно в последние годы. Забота о межпоколенческой справедливости и качестве жизни будущих поколений приводит многие организации к социальной и экологической активности. Неморальное поведение компаний может быстро стать публичным благодаря интернету и нанести репутационный ущерб. Опасения общества относительно технологий отражаются как в научной фантастике, так и в массовой культуре. Поэтому обсуждение ответственного обращения с технологиями становится всё более актуальным и в этике робототехники.

Robotic governance замыкает этот круг: через общедоступный диалог всех заинтересованных сторон прорабатываются решения для возникающих по мере развития технологий вопросов. Рекомендации дают бизнесу, а также исследовательским и общественным организациям, возможность реализовать моральную ответственность. Фонд Robotic Governance Foundation предлагает решать структурные конфликты на экономико-этическом уровне в диалоге стейкхолдеров и фиксировать в «Robot Manifesto». Также важна информированность стейкхолдеров для того, чтобы они могли самостоятельно разрешать конкретные ситуативные конфликты.

Первое научное употребление термина robotic governance встречается в теме диссертационного исследования^[3][19] сначала в Munich Center of Technology and Society (MCTS)^[20], затем TUM School of Education^[21] под руководством Клауса Майнцера в Техническом университете Мюнхена^[22].^[23][24] С тех пор тема обсуждается на многочисленных научных воркшопах, симпозиумах и конференциях, среди которых: симпозиум Sensor Technologies & the Human Experience (2015)^[25],^[26] панель Robotic Governance Panel^[27] на конференции We Robot 2015^[28], пленарные доклады на 10-й IEEE International Conference on Self-Adaptive and Self-Organizing Systems (SASO)^[29], Full Day Workshop on Autonomous Technologies and their Societal Impact^[30] (на IEEE International Conference on Prognostics and Health Management (PHM’16))^[31], пленарный доклад на 2016 IEEE International Conference on Cloud and Autonomic Computing (ICCAC)^[32], IEEE 1st International Workshops on Foundations and Applications of Self* Systems (FAS*W 2016)^[33], 2016 IEEE International Conference on Emerging Technologies and Innovative Business Practices for the Transformation of Societies (EmergiTech 2016)^[34] и IEEE Global Humanitarian Technology Conference (GHTC 2016)^[35].

С 2015 года IEEE в рамках IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS) регулярно посвящает теме отдельные форумы: первый^[36] и второй^[37] такие форумы (Annual IEEE IROS Futurist Forum) собрали ведущих экспертов по робототехнике для обсуждения будущего отрасли и необходимости регулирования. В 2016 году эта тема была вынесена отдельным пленарным докладом на IROS 2016 в Тэджоне, Южная Корея^[38].

Сайт Robotic Governance Foundation собирает и публикует видеовыступления и интервью международно признанных специалистов из науки, бизнеса и политики по вопросам robotic governance, ответственного отношения к робототехнике, автоматизации и искусственному интеллекту, а также саморегулирования мира «robotic natives». Так, Макс Левчин, сооснователь и экс-технический директор PayPal, на SXSW 2016 подчеркнул важность robotic governance, ссылаясь на мнение своего друга Илона Маска. Герд Хирцингер, бывший руководитель Института робототехники и мехатроники DLR, на IROS Futurist Forum 2015 отметил, что технологии могут достичь такой интеллектуальной мощи, что их действие потребуется целенаправленно ограничивать. Усама Хатиб, директор Stanford Robotics Labs, на том же форуме призвал проектировать автономные машины с приоритетом пользовательской приемлемости. Бернд Липерт, президент euRobotics aisbl^[39], в 2015 году выступил за глобальное внедрение robotic governance и лидерскую роль Европы. Хироси Исигуро, разработчик Geminoid и руководитель Intelligent Robotics Laboratory университета Осаки, в 2016 году отмечал, что технологический прогресс необратим, поэтому обсуждение ответственности и регулирования необходимо. На той же RoboBusiness Conference 2016 в Оденсе Генрик И. Кристенсен, автор американской Robotics Roadmap^[40], выделил значение этико-морального подхода к робототехнике и отметил, что robotic governance создаёт соответствующую нормативную основу.