Конференция в Асиломаре по благоприятному ИИ
Конференция в Асиломаре по благоприятному ИИ — конференция, организованная Future of Life Institute, проходившая с 5 по 8 января 2017 года на территории конференц-центра Асиломар в Калифорнии. В конференции приняли участие более 100 ведущих специалистов и исследователей из различных областей (экономика, право, этика, философия), с целью обсуждения и выработки принципов благоприятного для человечества направления развития искусственного интеллекта (ИИ). Итогом конференции стала подготовка документа, содержащего набор рекомендаций для исследований в области искусственного интеллекта, известных как 23 принципа Асиломара[1].
23 принципа Асиломара
23 принципа Асиломара, выработанные в 2017 году, являются одним из первых и наиболее цитируемых сводов правил и принципов в области регулирования искусственного интеллекта. Учитывая, что с помощью ИИ уже были созданы полезные для общества инструменты, целью создания принципов стала разработка направления развития исследований искусственного интеллекта, которое обеспечило бы новые возможности для человечества в предстоящие десятилетия и века, а также предотвращение вредоносного или опасного применения ИИ.
Исследования
1) Цель исследований: целью исследований в области искусственного интеллекта должно быть развитие благоприятного ИИ, а не создание любой формы интеллекта.
2) Финансирование исследований: инвестиции в искусственный интеллект должны сопровождаться поддержкой исследований по вопросам его безопасного использования, в том числе с точки зрения информатики, экономики, законодательства и регулирования, этики и социальных наук.
Выделяются следующие вопросы:
- Как построить ИИ будущего так, чтобы он был устойчив и надёжен, выполнял нужные нам задачи и не поддавался сбоям или успешным атакам со стороны третьих лиц?
- Как способствовать росту благосостояния благодаря автоматизации и при этом обеспечить людям доступ к необходимым ресурсам и смыслу жизни?
- Как обновить наши правовые системы, чтобы сделать их более справедливыми, эффективными, способными идти в ногу с технологическими изменениями и управлять возникающими рисками, связанными с ИИ?
- На каком наборе ценностей должен основываться ИИ, какой правовой и этический статус он должен иметь?
3) Связь науки и политики: необходимо конструктивное и открытое взаимодействие между исследователями в области ИИ и лицами, принимающими решения, а также законодателями.
4) Культура исследований: внутри сообщества исследователей и разработчиков ИИ следует поддерживать культуру сотрудничества, доверия и прозрачности.
5) Избежание конкуренции ценой безопасности: команды, разрабатывающие ИИ, должны активно сотрудничать, чтобы избежать риска пренебрежения стандартами безопасности ради конкурентных преимуществ.
Этика и ценности
6) Безопасность: системы ИИ должны быть защищёнными и безопасными на протяжении всего жизненного цикла, а их условия применения и функционирования должны быть проверяемыми.
7) Прозрачность сбоев: если система ИИ нанесла ущерб, причины этого должны быть понятны.
8) Прозрачность решений: если автономная система участвует в принятии юридически значимых решений, должна быть предоставлена удовлетворительная и проверяемая объясняющая информация для компетентного человека.
9) Ответственность: проектировщики и создатели передовых систем ИИ несут моральную ответственность за последствия использования, возможных злоупотреблений и действий своих разработок, а также должны определять рамки такой ответственности.
10) Соответствие ценностям: высокоавтономные системы ИИ должны быть спроектированы так, чтобы их цели и поведение соответствовали человеческим ценностям в течение всего срока их функционирования.
11) Человеческие ценности: системы ИИ должны быть созданы с учётом идеалов человеческого достоинства, прав, свободы и культурного разнообразия.
12) Личная неприкосновенность: люди должны иметь право на доступ, управление и контроль своих данных, что ограничивает возможности систем ИИ по их анализу и использованию.
13) Свобода и приватность: применение ИИ к персональным данным не должно необоснованно ограничивать свободу человека, как реальную, так и воспринимаемую.
14) Общедоступная польза: технологии ИИ должны приносить пользу и открывать новые возможности для максимально возможного числа людей.
15) Совместное благосостояние: экономическое процветание, создаваемое с помощью ИИ, должно быть широко разделяемо на благо всего человечества.
16) Человеческий контроль: человек должен иметь возможность выбирать, какие решения и в какой мере делегировать системам ИИ для достижения самостоятельно поставленных целей.
17) Несовращённость: власть, обусловленная контролем над высокоразвитыми системами ИИ, должна использоваться для поддержки и совершенствования, а не подрыва социальных и гражданских процессов, на которых основано благополучие общества.
18) Предотвращение гонки вооружений на основе ИИ: любых гонок вооружений с применением летальных автономных оружейных систем следует избегать.
Долгосрочные вопросы
19) Неограниченные возможности: при отсутствии консенсуса следует избегать окончательных предположений о предельных возможностях, которых искусственный интеллект сможет достичь в будущем.
20) Значимость: развитие продвинутого ИИ может привести к фундаментальным изменениям в истории жизни на Земле, поэтому это требует осознанного и ответственного планирования с соответствующими ресурсами.
21) Риски: риски, связанные с ИИ, особенно катастрофические или экзистенциальные, требуют соответствующего планирования и принятия мер по их минимизации в соответствии с масштабом потенциального вреда.
22) Рекурсивное самосовершенствование: системы ИИ, спроектированные для рекурсивного самосовершенствования или самовоспроизведения, что может привести к быстрому качественному или количественному росту, должны находиться под строгим контролем и мерами по обеспечению безопасности.
23) Общее благо: создание сверхинтеллекта должно осуществляться исключительно во имя широких этических идеалов и на благо всего человечества, а не в интересах отдельного государства или организации.