Найти статью
Законы робототехники
Законы робототехники — совокупность законов, правил или принципов, предназначенных служить фундаментальной основой для регулирования поведения роботов, обладающих определённой степенью автономии. Роботы такого уровня сложности пока ещё не существуют, однако их описание широко распространено в научной фантастике, кинематографе и является предметом активных исследований и разработок в областях робототехники и искусственного интеллекта.
Самым известным набором законов считаются законы, сформулированные Айзеком Азимовым (англ. Isaac Asimov) в 1940-х годах или основанные на них, однако с тех пор другие исследователи также выдвигали собственные варианты законов.
Три закона робототехники
Наиболее известным набором считаются «Три закона робототехники», сформулированные Айзеком Азимовым (англ. Isaac Asimov). Они были впервые представлены в его рассказе «Уходи вокруг» в 1942 году, хотя их предпосылки встречались и в более ранних произведениях автора. Три закона таковы:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться приказам, данным|expected=данным ему|hide=y людьми, кроме случаев, когда эти приказы противоречат Первому закону.
- Робот должен заботиться о своей собственной безопасности, если это не противоречит Первому или Второму законам[1].
В произведении «Неотвратимый конфликт» машины обобщили Первый закон следующим образом:
- Ни одна машина не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.
В конце романа Основание и Земля был введён так называемый нулевой закон, которому были подчинены оригинальные три закона:
- Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.
На основе данной схемы были созданы многочисленные адаптации и расширения. По состоянию на 2024 год законы остаются вымышленным приёмом[2].
Дополнительные законы
Помимо Азимова, другие авторы также создавали дополнительные законы.
В романе Любена Дилова (болг. Любен Дилов) «Путь Икара» (1974), также известном как «Путешествие Икара», был предложен четвёртый закон робототехники: «Робот должен во всех случаях устанавливать свою тождественность как робот». В качестве объяснения этой функции Дилов указывает: «Последний Закон покончил с дорогостоящими причудами конструкторов, пытавшихся придать психороботам как можно более человекоподобный облик, а также с возникавшими из-за этого недоразумениями...». Более формально в 2024 году Дарьюш Емельняк (польск. Dariusz Jemielniak) в своей статье в журнале IEEE Spectrum предложил четвёртый закон робототехники: «Робот или искусственный интеллект не должны обманывать человека, выдавая себя за человека»[3][4][5][6][7].
Пятый закон был предложен Николой Кесаровским (болг. Nikola Kesarovski) в рассказе «Пятый закон робототехники». Согласно этому закону: «Робот должен осознавать, что он — робот». Сюжет строится вокруг преступления, когда расследование показывает, что жертва была убита объятием от человекоподобного робота, который сам не осознавал, что он робот. Рассказ был рассмотрен Валентином Д. Ивановым (болг. Valentin D. Ivanov) на портале SFF review webzine The Portal[8].
В сборнике-антологии «Друзья Основания» (1986) Гарри Гаррисон (англ. Harry Harrison) написал рассказ под названием «Четвёртый закон робототехники», согласно которому «Робот должен воспроизводиться, если только это не противоречит Первому, Второму или Третьему законам».
В 2013 году Хутан Ашрафиан (англ. Hutan Ashrafian) предложил ещё один дополнительный закон, учитывающий взаимодействие искусственного интеллекта с другим искусственным интеллектом — так называемый закон AIonAI[9]. Согласно этому шестому закону: «Все роботы, обладающие сопоставимым с человеческим разумом и совестью, должны относиться друг к другу в духе братства».
Принципы робототехники EPSRC / AHRC
В 2011 году Совет по инженерным и физическим наукам (EPSRC) и Совет по искусствам и гуманитарным наукам (AHRC) Великобритании опубликовали свод из пяти этических «принципов для проектировщиков, создателей и пользователей роботов» в реальном мире, а также семь «ключевых посланий», выработанных на исследовательском семинаре в сентябре 2010 года[2][10][11]:
- Роботы не должны проектироваться с главной или единственной целью — убивать или причинять вред людям.
- Люди, а не роботы, выступают ответственными субъектами; роботы лишь инструменты для достижения человеческих целей.
- Роботы должны проектироваться с обеспечением их безопасности и защищённости.
- Роботы — это артефакты; они не должны использовать уязвимых пользователей, провоцируя у них эмоциональный отклик или зависимость. Всегда должно быть возможно отличить робота от человека.
- Всегда должно быть возможно установить, кто за робота несёт юридическую ответственность.
Послания, которые призваны донести эти принципы:
- Мы считаем, что роботы способны принести огромную пользу обществу. Мы стремимся поощрять ответственное исследование роботов.
- Плохая практика вредит всем нам.
- Решение очевидных общественных вопросов поможет нам эффективнее двигаться вперёд.
- Для нас важно показать, что как разработчики-робототехники мы привержены высочайшим стандартам.
- Понимая контекст и последствия своих исследований, мы должны сотрудничать со специалистами других дисциплин: обществознания, юриспруденции, философии, искусства.
- Необходимо рассматривать вопросы этики прозрачности: есть ли границы для общедоступной информации?
- Видя ошибочные сообщения в прессе, мы обязуемся связываться с журналистами для уточнения.
Принципы EPSRC признаны полезной отправной точкой. В 2016 году Тони Прескотт организовал семинар по их пересмотру, в частности, выделяя различия между этическими и юридическими принципами[12].
Судебное развитие
В некоторых азиатских странах уже началась работа по всесторонней терминологической кодификации для юридической оценки развития технологий в робототехнике[13]. Такой подход выражает современное переосмысление права (и этики) применительно к робототехнике и требует пересмотра традиционных правовых положений. К ним прежде всего относят вопросы юридической ответственности в гражданском и уголовном праве.
Законы по Сатье Наделле
В июне 2016 года Сатья Наделла (англ. Satya Nadella), генеральный директор Microsoft, в интервью журналу Slate сформулировал ряд принципов и целей, которые, по его мнению, должны учитываться индустрией и обществом при обсуждении искусственного интеллекта[14][15]:
- «Искусственный интеллект должен быть создан для помощи человечеству», что подразумевает уважение автономии личности.
- «Искусственный интеллект должен быть прозрачным», то есть люди должны знать и понимать, как он работает.
- «Искусственный интеллект должен максимизировать эффективность без разрушения достоинства человека».
- «Искусственный интеллект должен быть разработан с учётом интеллектуальной приватности», то есть заслуживать доверия, защищая персональные данные.
- «Искусственный интеллект должен обеспечивать алгоритмическую подотчётность, чтобы человеку была возможность устранить непреднамеренный вред».
- «Искусственный интеллект должен быть защищён от предвзятости», то есть не должен дискриминировать людей.
Законы Тилдена
Марк Тилден (англ. Mark W. Tilden) — физик-робототехник, пионер разработки простых роботов[16].
Позднее Тилден критиковал ранние работы за их «человекоориентированность» на основе законов Азимова. Для «диких» роботов он сформулировал три собственных правила[16][17][18]:
- Робот должен защищать своё существование любой ценой.
- Робот должен получать и сохранять доступ к источнику питания.
- Робот должен постоянно искать более эффективные источники энергии.
В этих трёх законах Тилден выражал свою задачу так: «...воспитать кремниевый вид до разумности, полностью контролируя спецификации. Не растение. Не животное. Что-то иное»[19].