Международный форум этики в сфере искусственного интеллекта

Первый форум прошёл в 2021 году, на нём был представлен российский Кодекс этики в сфере искусственного интеллекта — документ рекомендательного характера, вводящий этические принципы и стандарты для разработчиков ИИ, а также компаний, использующих его технологии. Кодекс был подготовлен Альянсом в сфере искусственного интеллекта, Аналитическим центром при Правительстве РФ и Минэкономразвития^[3]. Его основные положения:

• прозрачность в разработке технологий искусственного интеллекта;
• информирование об успехах и неуспехах, а также возможных рисках;
• главный приоритет развития технологий искусственного интеллекта — защита интересов людей;
• ответственность за применение технологий искусственного интеллекта всегда лежит на человеке;
• интересы развития технологий искусственного интеллекта выше интересов конкуренции;
• технологии развития и этика искусственного интеллекта находятся вне границ.
  

На первом форуме этики в 2021 году к Кодексу присоединились МФТИ, Сбербанк, «Яндекс», МТС, «Ростелеком», РФПИ, «Газпром нефть»^[4].

В 2022 году круг тех, кто придерживается положений документа, расширился за счёт компаний, участвовавших в конференции «Цифровая индустрия промышленной России» в Нижнем Новгороде (присоединились 19 организаций), форума «Технопром 2022» в Новосибирске (14 организаций, в том числе Министерство цифрового развития Новосибирской области), ВЭФ-2022 (14 организаций Дальнего Востока), международной конференции AI Journey (12 организаций).

В 2023 году к российскому Кодексу в ходе форума этики присоединились ещё 20 организаций, среди которых были ведущие отечественные вузы, компании, крупные госучреждения^[5]. Установленные Кодексом нормы соблюдают уже 270 организаций^[6].

Важность расширении числа компаний, придерживающихся положений Кодекса, подчеркнул Президент России Владимир Путин в своём обращении к участникам форма «Этика искусственного интеллекта. Поколение GPT. Красные ЛинИИ»:

В ходе обсуждения тенденций и задач технологического развития вы традиционно делаете акцент на его важнейшей этической стороне. Эта тема является главной, определяющей с вашего первого форума, где был принят Кодекс этики в сфере искусственного интеллекта. Рассчитываю, что именно с этой точки зрения будет идти плодотворный обмен мнениями относительно реализации Национальной стратегии развития искусственного интеллекта в России до 2030 года^[7].

В рамках форума прошли дискуссии на темы:

• «Курс развития этики искусственного интеллекта в России»;
• «Межкультурный взгляд на глобальные вызовы развития искусственного интеллекта»;
• «Применение этических принципов в работе исследовательских центров в сфере искусственного интеллекта: в чем ответственность учёных за будущее»;
• «Как взращивать новое поколение „этичных разработчиков“ в эпоху социального неравенства»;
• «Нужен ли „пояс верности“ для искусственного интеллекта»;
• «Чёрное зеркало: влияние искусственного интеллекта на развитие современного общества» (прошло в закрытом режиме)^[8].

В ходе дискуссий обсуждались основные дилеммы при развитии и использовании технологий искусственного интеллекта.

Главной угрозой в сфере применения технологий искусственного интеллекта эксперты форума единодушно назвали «безусловное доверие» со стороны общества к новым технологиям и стремление переложить ответственность за принятие решения на искусственный интеллект. Как сформулировал модератор дискуссии «Применение этических принципов в работе исследовательских центров в сфере искусственного интеллекта», директор Национального центра развития искусственного интеллекта (НЦРИИ) при Правительстве РФ Сергей Наквасин:

Со временем мы начинаем всё чаще принимать сторону искусственного интеллекта неосознанно, на автомате. При этом критический анализ ответа ИИ, поиск аргументов его неправоты в каждом таком случае требуют сил и времени. В итоге общество постепенно идёт к тому, что пользователь изначально возлагает ответственность за решение на ИИ, лишь формально подтверждая его нажатием кнопки. Препятствовать этому можно только сохранением критического восприятия при использовании подобных сервисов^[9].

Сергей Наквасин заявил, что по своей потенциальной опасности технологии искусственного интеллекта превосходят ядерное оружие и подчеркнул, поэтому этические нормы для ИИ должны предусматривать некую «красную кнопку» для отключения всей системы:

В случае, если в подобной системе, управляющей критической инфраструктурой или АЭС, например, этот механизм не будет работать, то искусственный интеллект может превратиться из системы поддержки принятия решения в систему принятия решения. Это будет не обезьяна, которой дали гранату, а обезьяна, которую взбесили и она побежала сначала к гранатам, а потом к пушкам^[10].

Помимо этого, считает эксперт, необходим аналог МАГАТЭ (Международное агентство по атомной энергии) для контроля над такими технологиями^[11].

В ходе дискуссии «Межкультурный взгляд на глобальные вызовы развития искусственного интеллекта» глава Духовного собрания мусульман России, муфтий Альбир Крганов высказал опасение, что такое явление как «цифровое бессмертие», перенос не только памяти человека в облако данных, но и сознания в компьютер меняет «понимание смерти как окончания жизни», а также «ценностные представления о цифровой и реальной жизни»:

В свете исламских учений мы должны уделить особое внимание сохранению личной идентичности, поддержке семей, чтобы не нарушать традиционные ценности, связанные с прощанием и воспоминанием. Необходимо разработать эффективные механизмы контроля и управления информацией после смерти^[12].

Директор по развитию технологий искусственного интеллекта компании «Яндекс» Александр Крайнов на сей счёт успокоил, заявив, что до появления полноценных цифровых копий человека ещё дожить надо:

…я не доживу до того момента, когда это произойдёт. То есть в ближайшие лет 50 я не вижу, чтобы такая возможность была…Но если возможность появится, мы увидим за несколько лет до. Пока до того горизонта, где мы видим, такого нет^[13].

Глава синодального отдела Московского патриархата по взаимоотношениям Церкви с обществом и СМИ Владимир Легойда высказал сомнения в полноценности и конкурентоспособности вообще какого бы то ни было «цифрового» разума, что сейчас, что потом, поскольку искусственный интеллект лишь отчасти имитирует человеческий, однако не способен к творчеству, не сможет удивить:

Я думаю, цифровой Пушкин — это не Пушкин… <…> Для человеческой культуры чрезвычайно важна такая категория, как удивление или изумление. Это то, что для искусственного интеллекта закрыто сейчас и, наверное, будет закрыто всегда^[14].

По итогам форума сформирован перечень инициатив развития этики искусственного интеллекта — для включения в Национальную стратегию развития искусственного интеллекта до 2030 года, а также в обновлённый Кодекс этики.

Официальный представитель МИД РФ Мария Захарова заявила на форуме, что Россия всегда готова к сотрудничеству с другими странами в сфере искусственного интеллекта:

Мы абсолютно открыты к совместной работе и не политизируем её, не исходим из какой-то политической догмы, которая уже выработана, утверждена, зацементирована, абсолютно не так. Здесь есть желание продемонстрировать лучшие наши достижения в этой сфере и презентовать их, продвигать на международных площадках с точки зрения подходов уважения международного права^[15].

Посланник генерального секретаря ООН по вопросам технологий Амандип Сингх Гилл сообщил на форуме, что в сентябре 2024 года будет создан специальный орган по этическому кодексу в сфере искусственного интеллекта. Это необходимо, чтобы «избегать злоупотреблений искусственным интеллектом и пробелов в национальных законодательствах»^[16].

К 2024 году, по прогнозам Альянса в сфере ИИ, к российскому Кодексу этики в сфере искусственного интеллекта присоединятся не менее пятисот организаций^[17].

В 2023 году прирост внедрения технологий ИИ в России, согласно опросу, проведённому среди пяти тысяч компаний, составил 25 % по сравнению с 2021 годом^[18].

По данным Правительства РФ, 53% крупных компаний в стране используют в своей деятельности искусственный интеллект^[19].

С 2013 года в рамках проекта NaNoGenMo (National Novel Generation Month — Национальный месяц генерирования романов), публикуются сочинения, написанные искусственным интеллектом. Так, представлены новые версии «Алисы в Стране чудес», «Моби Дика», отрывки из «Улисса». Пользователи отметили их абсурдность^[20].

Глава синодального отдела Московского патриархата по взаимодействию со СМИ Владимир Легойда заявил на форуме, что никакой искусственный интеллект не дотянется до уровня Пушкина^[21].

Впрочем, самому искусственному интеллекту и впрямь не стоит браться за перо, ведь он сам уже полноценный герой не одного романа. К примеру, является ключевым персонажем книги «Воспитание машин. Новая история разума» Сергея Шумского, учёного, популяризатора науки. Автор полагает, что человечеству придётся крепко постараться, чтобы искусственный интеллект преследовал именно наши интересы, а не чьи-либо другие.