Рамочная конвенция об искусственном интеллекте

Разработка Рамочной конвенции об искусственном интеллекте стала ответом на растущие опасения по поводу этических, правовых и социальных последствий применения ИИ. Совет Европы, традиционно играющий ведущую роль в формировании стандартов в области прав человека на европейском континенте, начал обсуждение вопросов регулирования искусственного интеллекта в 2020 году, что привело к подготовке и согласованию юридически обязывающего документа.

Работа над созданием конвенции началась в 2019 году, когда специализированный комитет по искусственному интеллекту (CAHAI) приступил к оценке целесообразности такого международного инструмента. В 2022 году эстафету принял Комитет по искусственному интеллекту (CAI), который подготовил и согласовал текст конвенции^[4].

Конвенция призвана дополнить существующие международные правозащитные инструменты, такие как Европейская конвенция по правам человека и Конвенция о защите физических лиц при автоматизированной обработке персональных данных.

Конвенция закрепляет базовые принципы регулирования искусственного интеллекта, включая требования к прозрачности, подотчётности, недискриминации и защите прав человека, которые реализуются через восемь глав и 26 статей. Договор, принятый в 2024 году, определяет семь ключевых принципов управления технологиями ИИ и детальные механизмы реализации^[5]. Конвенция требует проведения оценок рисков и воздействия для минимизации потенциального вреда и предусматривает защитные механизмы, такие как право оспаривать решения, принимаемые ИИ. Действие конвенции распространяется на государственные органы и частные структуры, действующие от их имени, однако не распространяется на сферу национальной безопасности и обороны. Реализация положений конвенции осуществляется под контролем Конференции сторон, обеспечивающей соблюдение договорённостей и международное сотрудничество.

Деятельность на протяжении всего жизненного цикла систем искусственного интеллекта должна соответствовать семи фундаментальным принципам, гарантирующим соблюдение прав человека, демократии и верховенства права. Конвенция также закрепляет механизмы судебной защиты, процессуальные гарантии и требования к управлению рисками и последствиями в целях повышения ответственности, прозрачности и развития ответственного ИИ^[5].

Текст конвенции структурирован по пяти основным главам. Глава I содержит общие положения. Глава II определяет общую обязанность защищать права человека и целостность демократических процессов, а также соблюдение верховенства права. Ключевые принципы и гарантии собраны в главе III (статьи 6–13). Глава IV (статьи 14–15) посвящена средствам юридической защиты. Глава V устанавливает систему управления рисками и их воздействия. В главе VI указаны критерии реализации положений конвенции, глава VII регламентирует механизмы сотрудничества и контроля. Восьмая глава содержит заключительные положения^[6].

Статья 1 определяет цель конвенции как обеспечение того, чтобы деятельность на всех этапах жизненного цикла систем искусственного интеллекта соответствовала правам человека, демократии и верховенству права^[6].

Конвенция вступает в силу в первый день месяца, следующего за истечением трёх месяцев с даты сдачи на хранение пятого документа о ратификации, причём число ратификаций должно включать не менее трёх государств — членов Совета Европы^[3][7].

Хотя конвенция Совета Европы по ИИ отражает многосторонний подход к регулированию искусственного интеллекта, основанный на правах человека, существуют и альтернативные нормативные инициативы. Одним из таких примеров является Мюнхенский проект конвенции об ИИ, данных и правах человека (Munich Draft for a Convention on AI, Data and Human Rights), инициированный немецкими учёными-правоведами и политиками^[8]. В этом документе предлагаются более жёсткие меры защиты от связанных с ИИ рисков, включая усиленную защиту данных, повышенную ответственность разработчиков систем ИИ и прямой запрет на применение наиболее опасных технологий, например, массового наблюдения и автономного летального оружия. В отличие от конвенции Совета Европы, в которой акцент делается на балансе инноваций и регулирования, мюнхенский проект предлагает более осторожный подход и призывает к введению более строгого контроля использования ИИ в чувствительных сферах.

Среди других международных инициатив — принципы ИИ ОЭСР (OECD), ГПИИ (GPAI), а также закон ЕС об искусственном интеллекте, каждая из которых реализует собственные методы регулирования технологий ИИ на региональном и мировом уровнях.

К числу подписавших конвенцию государств^[3] относятся Андорра, Канада^[9], Европейский союз^[10], Грузия, Исландия, Израиль, Япония, Лихтенштейн^[11], Республика Молдова, Черногория, Норвегия, Сан-Марино, Швейцария^[12], Украина, Великобритания, США^[13], и Уругвай^[14].

Договор получил широкую поддержку от ведущих экспертов по политике в области искусственного интеллекта, среди которых — Стюарт Дж. Рассел, Вирджиния Дигнум, Эмма Руткамп-Блом, Паскаль Пишонна, Мария Хелен Мерфи, Ангелла Ндака, Ханнес Вертнер, Катя Лангенбухер, Гри Хассельбалх, Рикардо Баэса-Ятес, Кутома Вакунима, Джанклаудио Мальери, Оресте Полличино, Нагла Ризк, Джованни Сартор, Ли Тайдрич, Ингрид Шнайдер, Эдуардо Бертони, Гарри Каспаров, Мерве Хикчок и Марк Ротенберг^[15].

Договор также поддержан рядом известных политиков, включая Теодорос Руссопулос, председателя Парламентской ассамблеи Совета Европы, и Кристофера Холмса, члена Палаты лордов Соединённого Королевства^[15], а также Международной ассоциацией юристов (IBA)^[16], и лично президентом IBA Алмуденой Арпон де Мендивиль^[15].

Центр политики в области искусственного интеллекта и цифровой политики (CAIDP) проводит кампанию по популяризации договора, призывая различные государства подписать и ратифицировать конвенцию и обеспечить чёткое включение частного сектора в рамки документа^[15].