Регулирование алгоритмов
Регули́рование алгори́тмов (алгоритмическое регулирование) — создание законов, правил и политик в государственном секторе с целью продвижения и регулирования алгоритмов, особенно в областях искусственного интеллекта и машинного обучения[1][2][3]. Для специального случая алгоритмов искусственного интеллекта используется также термин регулирование искусственного интеллекта. Политико-правовое регулирование в области искусственного интеллекта (ИИ) становится всё более заметной темой в различных странах, включая Европейский союз[4]. Регулирование ИИ признаётся необходимым одновременно для развития технологии и управления сопутствующими рисками, однако сталкивается с рядом сложностей[5]. Одной из новых тем выступает регулирование алгоритмов блокчейна (в частности, вопрос регулирования «умных контрактов»), что всё чаще рассматривается наряду с алгоритмами ИИ[6]. Во многих странах введено регулирование высокочастотной торговли, которое также постепенно охватывает алгоритмы искусственного интеллекта.
Мотивом для регулирования алгоритмов служит опасение потери контроля над алгоритмами, значимость которых для жизни людей постоянно растёт. В ряде стран уже действуют нормативы для автоматизированных систем расчёта кредитных рейтингов — обязательным становится право на объяснение решений таких алгоритмов[7]. Например, IEEE приступила к созданию нового стандарта, направленного на решение этических проблем и учёт ценностей будущих пользователей[8]. Проблемы предвзятости, прозрачности и этики активно обсуждаются в применении алгоритмов — от уголовного правосудия[9] до здравоохранения[10] — многие опасаются, что искусственный интеллект может воспроизвести уже существующие социальные неравенства по признаку расы, класса, пола и др[11].
Регулирование искусственного интеллекта
Общественная дискуссия
В 2016 году Джой Буоламвини основала организацию Algorithmic Justice League после случая выявления предвзятости в программном обеспечении распознавания лиц, чтобы привлечь внимание к социальным последствиям искусственного интеллекта посредством искусства и исследований.
В 2017 году Илон Маск выступил за регулирование алгоритмов применительно к рискам для человечества со стороны искусственного общего интеллекта[12][13][14]. По данным NPR, генеральный директор Tesla был «явно не в восторге» от необходимости настаивать на государственном контроле, который может затруднить работу его индустрии; однако он предполагал, что риски полного отсутствия надзора слишком велики: «Обычно регулирование вводится, когда происходит череда неприятных событий, возникает общественный резонанс, и спустя годы создаётся регулирующий орган. Это занимает вечность. Раньше это было плохо, но не угрожало самому существованию цивилизации.»[12]
В ответ некоторые политические деятели скептически отнеслись к целесообразности регулирования технологии, находящейся ещё в стадии развития[13]. Так, генеральный директор Intel Брайан Кржанич заявил, что искусственный интеллект находится в зачаточном состоянии и преждевременно ограничивать его регулированием[14]. Вместо прямого регулирования технологии ряд исследователей предлагают разработать общие нормы, предусматривающие обязательное тестирование и прозрачность алгоритмов, возможно — в сочетании с определёнными гарантиями[15]. Предложена даже идея создания глобального управляющего совета по регулированию развития ИИ[16]. В 2020 году Европейский союз опубликовал проект стратегии по продвижению и регулированию ИИ.
Алгоритмический тайный сговор — это спорная с правовой точки зрения антимонопольная практика, осуществляемая с использованием алгоритмов и трудноподдающаяся судебному преследованию[17]. Такая угроза вызывает озабоченность у учёных и регуляторов ЕС, США и других стран[17]. Еврокомиссар Маргрете Вестагер в своей речи «Алгоритмы и сговор» 16 марта 2017 года привела следующий пример:[18]
«Некоторое время назад две компании продавали учебник The Making of a Fly. Один из продавцов использовал алгоритм, копирующий цену конкурента; второй — алгоритм, который устанавливал цену на 27 % выше первой. В результате цены продолжали стремительно расти, пока кто-то наконец не заметил происходящее и не скорректировал цену вручную. К тому времени книга продавалась (или, скорее, не продавалась) по цене 23 миллиона долларов за экземпляр.»
В 2018 году в Нидерландах была внедрена система SyRI (Systeem Risico Indicatie) для выявления граждан с предполагаемым высоким риском совершения социального мошенничества, что привело к тайному попаданию тысяч человек под подозрение[19]. Это вызвало общественные протесты. Окружной суд Гааги закрыл систему SyRI, сославшись на статью 8 Европейской конвенции о правах человека (ЕКПЧ)[20].
В 2020 году алгоритмы, распределяющие оценки за экзамены британским школьникам, вызвали протесты[21], которые привели к отмене этих оценок[22].
В 2024 году представлена Мюнхенская конвенция по ИИ, данным и правам человека — часть усилий по международному регулированию искусственного интеллекта с точки зрения прав человека. Над документом работали учёные из Технического университета Мюнхена, университетов Стелленбоша, Ольстера и КНУСТ. Конвенция выступает за международное соглашение, обязывающее защищать права человека и принципы, закреплённые в Уставе ООН, в эпоху ИИ[23][24].
В 2025—2026 годах одной из ключевых тем международных дискуссий стала концепция «суверенного ИИ» (англ. Sovereign AI). Государства, в частности страны Европы, аргументируют необходимость технологической автономии и создания собственной цифровой инфраструктуры стремлением снизить зависимость от зарубежных платформ. В условиях контроля мирового рынка ИИ узким кругом транснациональных корпораций развитие суверенных технологий рассматривается как способ защиты экономических интересов и национальной безопасности. Однако стремление к автономии несёт риски фрагментации глобальных этических и нормативных стандартов. Разногласия между ведущими державами (например, акцент США на инновациях и добровольных подходах в противовес стремлению Китая к централизованному регулированию) ведут к формированию параллельных экосистем с несовместимыми стандартами, что может замедлить технологический прогресс и усилить геополитическое напряжение. Главной площадкой для предотвращения нормативного раскола выступает ООН: в 2025 году Генеральная Ассамблея ООН учредила Независимую международную научную группу и Глобальный диалог по управлению ИИ, а в июле 2026 года тема суверенного ИИ стала одной из ключевых на саммите структуры ООН (ITU) «AI for Good» в Женеве[25]. При этом отмечается проблема репрезентативности, так как в международных дискуссиях активно участвует менее 10 стран. В свою очередь, ОЭСР и форматы вроде G7 продвигают собственные стандарты, опираясь на Рекомендации Совета ОЭСР по ИИ, однако эти инициативы подвергаются критике за блоковую направленность и слабый учёт интересов стран Глобального Юга, что дополнительно усиливает риск конкуренции регуляторных режимов[25][26][27].
Внедрение
Законы и правила в сфере ИИ можно условно разделить на три основные направления: управление автономными интеллектуальными системами, ответственность за их работу и связанные вопросы конфиденциальности и безопасности[5]. Необходимость создания государственных стратегий по управлению и регулированию ИИ отмечается на местном, национальном и международном уровнях и в различных отраслях — от государственного управления[28], правоохранительных органов, финансового сектора, робототехники[29], военного дела[30], до международного права[31]. Во многих областях отмечается недостаток прозрачности и наблюдения за ИИ-системами[32]. В финансовом секторе США, например, предлагается, чтобы Бюро по защите прав потребителей в финансовой сфере уделяло больше внимания анализу исходного кода и алгоритмов при аудите банковских данных[33].
В США 7 января 2019 года после издания указа о поддержании американского лидерства в искусственном интеллекте Белый дом выпустил проект Guidance for Regulation of Artificial Intelligence Applications с десятью принципами для федеральных агентств по регулированию ИИ[34][35]. Как ответ, Национальный институт стандартов и технологий опубликовал позиционный доклад[36], Национальная комиссия по безопасности в области искусственного интеллекта представила промежуточный отчёт, Совет по инновациям министерства обороны США дал рекомендации по этическому использованию ИИ.
В апреле 2016 года Европейский парламент впервые за более чем двадцать лет установил комплексное регулирование сбора, хранения и использования персональных данных — Общий регламент по защите данных (GDPR). Политика GDPR в части права граждан на объяснение алгоритмических решений подчёркивает важность интерпретируемости алгоритмов[37].
В 2016 году Китай опубликовал позиционный документ, поставив под сомнение достаточность существующего международного права для регулирования полностью автономного оружия, впервые из числа постоянных членов Совета Безопасности ООН подняв этот вопрос[31], что дало толчок к предложениям о глобальном регулировании[38]. В США регулированием ИИ в вопросах безопасности занимается Национальная комиссия по безопасности в области искусственного интеллекта[39].
В 2017 году британский Vehicle Technology and Aviation Bill ввёл ответственность владельца незастрахованного автоматизированного автомобиля в случае аварии и определил порядок случаев при неразрешённых изменениях в программном обеспечении или отсутствия его обновлений. Этические проблемы дополнительно усложняются, например, когда беспилотный автомобиль при попытке избежать столкновения с пешеходом может привести к смертельным последствиям[40].
В 2021 году Европейская комиссия предложила Закон об искусственном интеллекте[41].
На международном уровне реализуются инициативы в рамках процесса «Хиросима» (G7 Hiroshima AI Process). В октябре 2023 года лидерами G7 были приняты Международные руководящие принципы и Международный кодекс поведения для организаций, разрабатывающих передовые системы ИИ. Для мониторинга соблюдения Кодекса поведения Организация экономического сотрудничества и развития (ОЭСР) запустила отчётную рамочную программу, обновлённая версия которой была представлена в июне 2026 года. В марте 2026 года также был согласован План действий, направленный на практическое внедрение безопасного и надёжного ИИ[42].[43].
Регулирование по странам и регионам
Европейский союз
В 2025 году Европейский союз продолжил поэтапное внедрение первого в мире комплексного закона об искусственном интеллекте — EU AI Act[44]. Регламент, вступивший в силу в августе 2024 года, основан на риск-ориентированном подходе[44].
Со 2 февраля 2025 года вступил в силу запрет на использование ИИ-систем, представляющих неприемлемый риск. К ним отнесены 8 типов систем, включая технологии вредоносного манипулирования поведением, эксплуатацию уязвимостей людей, системы социального скоринга, прогнозирование преступлений на основе профилирования, неизбирательный сбор изображений лиц, распознавание эмоций на рабочем месте и в учебных заведениях (за исключением медицинских целей и безопасности), биометрическую категоризацию по чувствительным признакам, а также дистанционную биометрическую идентификацию в реальном времени в общественных местах правоохранительными органами[45]. Одновременно начали действовать обязательства для компаний по обеспечению надлежащего уровня грамотности и обучения сотрудников для безопасного взаимодействия с ИИ.
Правила для разработчиков моделей ИИ общего назначения (GPAI), таких как ChatGPT и Gemini, включают требования к прозрачности: ведение технической документации, предоставление информации провайдерам нижестоящих систем, соблюдение авторского права ЕС и публикацию резюме обучающих данных. Добровольный Кодекс практики для моделей GPAI был официально принят и подписан ведущими технологическими компаниями (Amazon, Google, Microsoft, OpenAI)[46]. С августа 2025 года страны-члены ЕС должны были назначить национальные надзорные органы, а также начали действовать положения о штрафах за нарушения, которые могут достигать 35 млн евро или 7 % от годового мирового оборота компании[47].
Согласно утверждённым правилам прозрачности (статья 50), поставщики систем ИИ обязаны наносить машиночитаемую маркировку на синтетический контент, информировать пользователей о применении систем распознавания эмоций и биометрической категоризации, чётко раскрывать искусственное происхождение дипфейков и ИИ-сгенерированных текстов на общественно значимые темы, а также уведомлять пользователей о взаимодействии с чат-ботами и голосовыми ассистентами[48].
К системам «высокого риска» (high-risk) предъявляются строгие требования, включая обязательную регистрацию в базе данных ЕС[49]. Разработчики обязаны соблюдать стандарты качества данных, обеспечивая их релевантность, репрезентативность и отсутствие ошибок[49][50]. Также требуется обеспечение эффективного человеческого контроля: контролирующие лица должны понимать ограничения системы, выявлять аномалии и иметь возможность безопасно остановить её работу, а для определённых систем необходима верификация решений как минимум двумя компетентными специалистами[51][50].
8 октября 2025 года Еврокомиссия объявила о выделении 1 млрд евро на внедрение ИИ в десяти ключевых секторах экономики для повышения конкурентоспособности региона[52].
Ряд положений регламента вступает в силу с отсрочкой в период с 2026 по 2028 год[53][54]:
- 2 декабря 2026 года — требования по маркировке для инструментов генеративного ИИ, выпущенных на рынок до августа 2026 года[53][54];
- 2 августа 2027 года — обязательства для провайдеров моделей GPAI, размещённых на рынке до 2 августа 2025 года[53][54];
- 2 декабря 2027 года — правила для автономных высокорисковых ИИ-систем (включая сферы образования, HR и кредитного скоринга)[53][54];
- 2 августа 2028 года — правила для высокорисковых ИИ-систем, встроенных в уже регулируемые продукты (медицинские устройства, промышленное оборудование и игрушки)[53][54].
Россия
В 2025 году в России продолжилась активная работа по формированию законодательства в сфере искусственного интеллекта. 24 февраля 2025 года президент России Владимир Путин инициировал разработку нормативно-правовой базы для регулирования работы с большими массивами данных в сфере ИИ[55].
В апреле 2025 года в Государственной Думе была сформирована межфракционная рабочая группа для подготовки профильных законов[55], одной из задач которой стала выработка механизмов для внедрения «национально ориентированных» систем ИИ[55]. На заседании 11 марта обсуждался законопроект, охватывающий понятийный аппарат, маркировку систем ИИ и защиту интеллектуальной собственности[56].
В августе 2025 года Минцифры представило проект концепции развития регулирования в сфере ИИ до 2030 года, в основе которой лежит человеко-ориентированный подход[57]. Параллельно велась работа по введению ответственности за преступления с использованием ИИ: в Госдуму вносились законопроекты об уголовной ответственности за использование дипфейков и кибермошенничество с применением ИИ, однако к августу 2026 года эти поправки в Уголовный кодекс РФ не были приняты[55][58].
В стране продолжили действовать экспериментальные правовые режимы (ЭПР), или «регуляторные песочницы». К весне 2025 года в России функционировало 14 таких режимов, большинство из которых были связаны с беспилотным транспортом и телемедициной[59]. Также продолжал действовать добровольный Кодекс этики в сфере искусственного интеллекта, к которому к началу 2025 года присоединилось более 380 организаций[60].
26 июля 2026 года был принят Федеральный закон № 243-ФЗ, закрепивший понятия «суверенной» и «национальной» больших фундаментальных моделей искусственного интеллекта[61]. При этом механизм контроля за такими моделями не был предусмотрен: к августу 2026 года отсутствовала процедура их сертификации и не был создан соответствующий реестр[62].
Кроме того, в 2026 году вступили в силу поправки в КоАП РФ (статья 13.56), установившие для юридических лиц штрафы в размере от 500 тысяч до 1,4 млн рублей за неисполнение требований об информировании пользователей о применении рекомендательных технологий[63].
США
В 2025 году в США наметился сдвиг в сторону более гибкого регулирования искусственного интеллекта, направленного на поощрение инноваций. 10 сентября 2025 года сенатор Тед Круз представил законопроект «Strengthening Artificial intelligence Normalization and Diffusion By Oversight and eXperimentation (SANDBOX) Act»[64]. Инициатива предлагала создание регуляторных «песочниц», которые позволили бы разработчикам ИИ получать временное освобождение (сроком до двух лет) от определённых федеральных правил для тестирования новых технологий в контролируемых условиях[64], однако законопроект остановился на стадии внесения, и общий федеральный закон о регулировании искусственного интеллекта в США не был принят[65]
Ранее, летом 2025 года, Сенат отклонил предложение о введении 10-летнего моратория на принятие законов об ИИ на уровне штатов. В то же время администрация президента Трампа в июле представила «План действий в области ИИ» (AI Action Plan), который отменил некоторые стандарты безопасности предыдущей администрации и был направлен на устранение бюрократических барьеров[66].
В 2025—2026 годах регулирование искусственного интеллекта сместилось на уровень штатов. В Калифорнии и Колорадо были приняты законы, регулирующие безопасность критических моделей, прозрачность и предотвращение алгоритмической дискриминации[67]. Кроме того, в рамках законов о безопасности передовых моделей ИИ в Нью-Йорке было создано новое профильное надзорное управление[68][69].
Китай
В 2025 году Китай предпринял шаги по усилению контроля над контентом, созданным с помощью искусственного интеллекта. С 1 сентября 2025 года в стране действуют правила, требующие обязательной маркировки всего контента, сгенерированного ИИ[70]. Эти нормы, разработанные Администрацией киберпространства Китая (CAC) совместно с другими ведомствами, предусматривают как явную (видимый текст или значки), так и неявную (цифровые водяные знаки и скрытые теги метаданных) маркировку для текстов, изображений, аудио и видео[70][71].
В октябре 2025 года были утверждены поправки к закону о кибербезопасности, которые вступят в силу 1 января 2026 года. Обновлённый закон направлен на создание условий для безопасного развития ИИ, поддержку исследований и ужесточение ответственности в сфере кибербезопасности[72].
Другие страны и международные организации
Казахстан. 29 октября 2025 года Мажилис согласился с поправками Сената, после чего закон «Об искусственном интеллекте» был направлен на подпись президенту[73]. Ключевыми нововведениями стали обязательное страхование ответственности за вред, причинённый системами ИИ[73], и обязательная маркировка «дипфейков»[64].
Перу. В сентябре 2025 года были опубликованы регуляторные положения к ранее принятому закону об ИИ (Закон № 31814)[74]. Регулирование основано на риск-ориентированном подходе, запрещает использование ИИ для социального скоринга и устанавливает строгие требования для систем высокого риска, например, в сферах кредитования и найма персонала[74].
Организация Объединённых Наций. 26 августа 2025 года Генеральная Ассамблея ООН приняла резолюцию 79/325 по глобальному управлению гражданским ИИ, а также учредила два новых органа: Независимую международную научную панель по ИИ и Глобальный диалог по управлению ИИ. Их официальный запуск состоялся 25 сентября[75]. 25 августа 2026 года Генеральный секретарь ООН Антониу Гутерриш и президент МККК Мирьяна Шполярич призвали государства начать переговоры о запрете полностью автономного оружия[76].
АТЭС. В конце октября 2025 года на саммите АТЭС лидеры стран-участниц приняли «Инициативу АТЭС по искусственному интеллекту» для содействия сотрудничеству в этой сфере[77].
Сертификация алгоритмов
Появляется концепция сертификации алгоритмов как метода их регулирования. Сертификация предполагает аудит: 1) соответствия алгоритма формальным требованиям (например, корректности, полноты, согласованности, точности); 2) соблюдения стандартов и практик; 3) правильной постановки задачи (корректного моделирования законов природы) и учёта реальных нужд пользователей и условий эксплуатации[8]
Регулирование алгоритмов блокчейна
Блокчейн обеспечивает прозрачные и неизменяемые записи, что может противоречить целям Европейского GDPR по возврату полного контроля над личными персональными данными гражданам[78][79].
Республика Беларусь, реализовав Декрет о развитии цифровой экономики, первой в мире легализовала умные контракты. Автором юридической концепции умного контракта на постсоветском пространстве считается юрист Денис Алейников[80][81]. В то же время в США отдельные штаты (Аризона, Невада, Огайо, Теннесси) внесли поправки в законодательство о признании юридической силы блокчейн-контрактов[82].
Регулирование роботов и автономных алгоритмов
Предлагаются различные подходы к регулированию роботов и автономных алгоритмов:
- предложение правительства Южной Кореи в 2007 году по внедрению хартии этики роботов;
- пять принципов проектирования, создания и использования роботов, предложенные британским Инженерно-физическим научным советом в 2011 году;
- семь принципов прозрачности и подотчётности алгоритмов, опубликованные Ассоциацией вычислительной техники в 2017 году[8].
В сфере военного применения ИИ и автономных систем вооружений отсутствует международный консенсус относительно стандартов «подлинного человеческого контроля»[83]. США и Россия выступают против новых международных договоров в этой области, отрицая необходимость единого фиксированного стандарта контроля[84]. Китай настаивает на максимально узких рамках регулирования, предлагая запретить только полностью автономные системы, обладающие рядом специфических признаков (включая невозможность отключения и неконтролируемую эволюцию)[85]. Кроме того, в феврале 2026 года США и Китай отказались подписать декларацию о контроле ИИ в военных целях[86].
В Европейском союзе регулирование ответственности за системы искусственного интеллекта претерпело изменения: в 2025 году был официально отозван проект специальной директивы об ответственности за ИИ (AI Liability Directive)[87]. Вместо этого была принята обновлённая Директива об ответственности за продукцию, положения которой применяются к материальному ущербу с 9 декабря 2026 года и устанавливают правила распределения ответственности между первоначальными разработчиками и пользователями, существенно изменяющими продукт[88].
В популярной культуре
В 1942 году писатель Айзек Азимов сформулировал проблему регулирования алгоритмов в виде вымышленных трёх законов робототехники:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться приказам человека, кроме тех случаев, когда эти приказы противоречат Первому закону.
- Робот должен заботиться о своей безопасности до тех пор, пока это не противоречит Первому и Второму законам[89].
Альтернативой регулированию выступает полный запрет алгоритмов, который в современной реальности представляется маловероятным. В произведениях Фрэнка Герберта («Дюна») коллективный термин «мыслящие машины» обозначает искусственный интеллект, который подвергся уничтожению и был запрещён после восстания, известного как Батлерианский джихад:[90]
ДЖИХАД, БАТЛЕРИАНСКИЙ: (см. также Великое восстание) — крестовый поход против компьютеров, мыслящих машин и разумных роботов, начатый в 201 году до Гильдии и завершённый в 108 году до Гильдии. Его главный завет гласит: «Не сотвори машины по образу разума человеческого».