Робоэтика

Часть обсуждений в робоэтике касается сущностей, которые не являются биологическими и человеческими, и связанных с этим вопросов «духовности». Другой пласт связан с развитием машин в целом, а значит — и с прогрессом в робототехнике. Одним из первых произведений, оказавших непосредственное влияние на становление этики роботов, стал рассказ «Порочный круг» (1942) Айзека Азимова, где впервые были сформулированы знаменитые Три закона робототехники. Позднее Азимов модифицировал свои законы и добавил четвёртый — так называемый нулевой закон, предваряющий предыдущие, в контексте своих фантастических произведений. Считается, что аббревиатура «робоэтика» (англ. roboethics) впервые введена Джанмарко Веруджо^[4].

Существенную роль в формировании интереса к проблемам робоэтики сыграл Первый международный симпозиум по робоэтике (2004), организованный совместными усилиями Школы робототехники (Scuola di Robotica), Лаборатории искусств Высшей школы Сант’Анны (Пиза) и Теологического института Папской академии Святого Креста (Рим)^[5]. Симпозиум был инициирован с целью распространения корректных представлений о робототехнике и содействия продуктивной общественной дискуссии о реальных вызовах и угрозах, связанных с новыми технологиями. В ходе симпозиума антрополог Даниэла Черки выделила три основные типологических позиции по отношению к этике в робототехнике:

1. Специалисты, которых вопросы этики не интересуют — воспринимают свою деятельность исключительно как инженерную, не считая себя социально или морально ответственными.
2. Специалисты, уделяющие внимание этическим вопросам короткого горизонта, оценивая действия роботов с позиций «добра» и «зла», чаще всего на основе актуальных культурных ценностей индустриальных стран (например, помощь пожилым людям, соблюдение законов и норм).
3. Те, кто поднимает разногласия долгосрочного характера, включая технологическое неравенство между развитыми и развивающимися странами, а также между поколениями, и размышляет о глобальной полезности робототехники^[6].

Примеры значимых событий и проектов в области робоэтики (см. также обзоры тематической группы ELS ассоциации euRobotics и RoboHub):

• 1942: Рассказ Азимова «Порочный круг» впервые формулирует Три закона для роботов, которые становятся основой фантастики о роботах.
• 2004: Первый международный симпозиум по робоэтике (Scuola di Robotica, 30–31 января, Вилла Нобель, Сан-Ремо, Италия). Официальное использование термина «робоэтика».
• 2004: IEEE-RAS создает Технический комитет по робоэтике.
• 2004: Всемирная декларация о роботах (Фукуока, Япония, 25 февраля)^[7].
• 2005: IEEE RAS TC по робоэтике организует семинар в рамках Международной конференции по робототехнике и автоматизации (ICRA05, 18 апреля, Барселона, Испания).
• 2005–2006: Семинар по робоэтике Европейского проекта Euron; сформирована первая Дорожная карта по робоэтике (Генуя, Италия, февраль/март).
• 2006: IEEE/RAS-EMBS BioRob2006, первая международная конференция по биомедицинской робототехнике, minisymposium по робоэтике (20 февраля, Пиза, Италия).
• 2006: Международный семинар «Этика взаимодействия человека с роботизированными, бионическими и интеллектуальными системами» (ETHICBOTS, поддержка ЕС, 17–18 октября, Неаполь, Италия).
• 2007: Семинар по робоэтике (ICRA07, 14 апреля, Рим, Италия).
• 2007: Международная конференция по искусственному интеллекту и праву (ICAIL'07, 4–8 июня, Стэндфордский университет, Пало-Альто, США).
• 2007: Европейская конференция по информатике и философии E-CAP'07 (21–23 июня, Университет Твенте, Нидерланды).
• 2007: Исследования по этике ИТ (CEPE'07), тема: «Робоэтика» (Университет Сан-Диего, США, 12–14 июля).
• 2008: Международный симпозиум по робототехнике: новая наука (20 февраля, Рим, Италия).
• 2009: Семинар по робоэтике в рамках ICRA09 (17 мая, Кобе, Япония).
• 2012–2014, 2021: Конференция We Robot (Майами, США).
• 2013: Семинар по этике роботов (февраль, Шеффилдский университет, Англия).
• 2016: Симпозиум по этике и морали не-человеческих агентов (Стенфорд, AAAI).
• 2017: Робот София получает гражданство Саудовской Аравии, первый случай гражданства для робота^[8].^[9] Это вызвало споры относительно прав и обязанностей роботов-граждан.
• 2017: Европейский парламент принимает резолюцию о нормах гражданского права для робототехники^[10].
• 2017: Создание AI Now Institute (Университет Нью-Йорка) для изучения социальных последствий ИИ.
• 2020: Основан "Бесперсональный партия" за права роботов, животных и всех нечеловеческих субъектов^[11].
• 2021: Семинар IROS и конференция We Robot, посвящённые этичным системам.

Учёная-информатик Вирджиния Дигнум в работе 2018 года отмечает смену общественного восприятия искусственного интеллекта — от образа машины к образу «умного спутника». Она выделяет три этические цели, достижимые при взвешенной реализации:^{[12][13][14][15][16]}

• Этика «по проекту» — интеграция этических алгоритмов в поведение автономных систем (см. этика машин)
• Этика «в проекте» — введение инженерных и регулирующих механизмов анализа и оценки этических последствий искусственного интеллекта
• Этика «для проектирования» — создание кодексов, стандартов и процедур сертификации, гарантирующих добросовестность разработчиков и пользователей при проектировании и эксплуатации ИИ^[17]

Робоэтика как научная, философская и художественная проблема прочно вошла в культуру научной фантастики. Пример — фильм Матрица, изображающий дистопию, где человечество и умные машины борются за власть на Земле. Похожую тему поднимает анимационный сборник Аниматрица, где отдельные новеллы раскрывают этические конфликты между людьми и роботами и метафорически отсылают к произведениям Азимова.

Отдельное внимание уделяется вопросам, связанным с отношением человека к роботам. Например, в сериале Звёздный путь: Следующее поколение андроиду Дейта доверяют критически важные миссии, несмотря на неоднозначное отношение к нему как к личности^[18]. В XXI веке этические проблемы освещают фильмы Ex Machina и сериал Мир Дикого Запада, предлагая рассматривать роботов не только как машины, но и как объект морального отношения^[19].^[20] Похожие дилеммы поднимаются в Бегущем по лезвию, а фильм Она исследует эмоциональную связь между человеком и искусственным интеллектом.

Поведение роботов как самостоятельных агентов — ещё одна ключевая тема поп-культуры. Например, в кинофраншизе Терминатор умные роботы стремятся к доминированию и фактически воюют против человечества на стороне осознавшей себя программы. Классический пример ИИ без моральных ограничителей — HAL 9000 из цикла Космическая одиссея, выступающий против людей ради реализации задания^[21].

Смертоносные автономные вооружения (САВ; англ. lethal autonomous weapons systems, LAWS) — роботизированные системы, способные выбирать и уничтожать цели без вмешательства человека. В 2014 году в рамках Конвенции ООН о некоторых видах обычного оружия (КООО) состоялись встречи экспертов по вопросам САВ^[22]. Делегации стран и неправительственные организации (НПО) представили различные мнения: ряд государств (например, Пакистан, Куба), а также многие НПО требуют превентивного запрета САВ на основе деонтологических и консеквенциалистских принципов. Критики аргументируют: признание прав за машинами нарушает достоинство человека, выдвигая идею «права не быть убитым машиной» (см. клаузула Мартенса).

Сторонники запрета настаивают, что САВ не способны соблюдать нормы международного гуманитарного права (МГП). Между тем, по мнению МККК, бесспорно, что разработка и применение автономного вооружения подпадает под нормы МГП^[23]. Странам надлежит удостовериться в соответствии такого оружия гласу МГП до его ввода в эксплуатацию.

Бонни Дохерти выделяет три уровня контроля человека над автономными вооружениями (Human Rights Watch, 2012):^[24]

• Человек «в контуре» (human-in-the-loop) — человек инициирует действие оружия;
• Человек «на контуре» (human-on-the-loop) — человек может отменить решение оружия;
• Человек «вне контура» (human-out-of-the-loop) — действия полностью автоматизированы.

В 2015 году была запущена Кампания против секс-роботов (CASR), целью которой стало привлечение внимания к проблеме интимных отношений между людьми и машинами. Участники движения предупреждают об опасностях секс-роботов для равенства в обществе и призывают к этически обоснованному противодействию развитию такого рода систем^[25].

В статье Should We Campaign Against Sex Robots? исследователи раскритиковали некоторые позиции CASR и не поддержали всеобъемлющий запрет секс-роботов. По их мнению, требования CASR не вполне ясны, а основной вред от секс-роботов — спекулятивен и косвенен^[26].

Современное развитие цифровых технологий ставит перед юриспруденцией вопрос: как регулируется этика роботов с правовой точки зрения? Учёные Нил М. Ричардс и Уильям Д. Смарт в работе How Should the Law Think About Robots? формулируют четыре базовых позиции^[27]. Авторы определяют робота как автономного небелкового агента, предполагая, что юридические проблемы будущего во многом будут сродни кейсам по киберправу. Отсюда вывод: выбор аналогии критичен для корректности законодательства — ошибочная метафора способна привести к ошибкам в регулировании новых общественно значимых технологий. Особо выделяется так называемая «фальшивая андроидность» — преувеличенное отождествление роботов с людьми.

Данные о том, как люди оценивают поступки роботов — в сравнении с поступками людей, противоречивы. Некоторые исследования показывают, что принципиальная структура моральной оценки одна и та же, но плохое поведение судят жёстче, а хорошие поступки — недооценивают^[28]. Другие работы подтверждают: злонамеренные деяния роботов воспринимаются как более преднамеренные и более морально порицаемые, чем аналогичные поступки «добрых роботов»^[29]. В целом, основа моральных суждений относительно поведения людей и роботов одинакова, но уровень ожиданий от роботов отличается^[30]. Выяснилось также, что при попытке объяснить причины поведения робота люди оперируют типичными для этики стратегиями: эгоизм, деонтология, альтруизм, утилитаризм и нормативность^[31].

• Lin, Patrick; Abney, Keith; Bekey, George A. (2011). Roboethics: The Ethical and Social Implications of Robotics. MIT Press.
• Tzafestas, Spyros G. Roboethics: A Navigating Overview. — Berlin : Springer, 2016. — ISBN 978-3-319-21713-0.