АссистентНовый вопросИсторияОбласти знаний
Партнёрские проектыСпецпроектыСтать автором
Сменить язык
О РУВИКИ
ТехнологииИнфраструктура и безопасностьИнформационная безопасностьИнститут безопасности ИИ

Институт безопасности ИИ

Экспертиза РАН

Logo-ran-black.png
Проведена экспертиза
Российской академией наук
Подробнее
Aprove.svg

Экспертиза РАН

Arrow-Right.png
Logo-ran.png
Проведена экспертиза
Российской академией наук
Подробнее

Институт безопасности ИИ (англ. AI Safety Institute, AISI) — государственная организация, предназначенная для оценки и обеспечения безопасности передовых моделей искусственного интеллекта (также называемых передовыми моделями ИИ)[1].

Вопросы безопасности искусственного интеллекта получили широкое освещение в 2023 году, в том числе в связи с публичными заявлениями о потенциальных экзистенциальных рисках ИИ. Во время саммита по безопасности ИИ в ноябре 2023 года Великобритания и Соединённые Штаты Америки создали собственные институты безопасности ИИ. В рамках Сеульского саммита по искусственному интеллекту в мае 2024 года лидеры ряда стран договорились о создании сети институтов безопасности ИИ, в которую вошли учреждения из Великобритании, США, Японии, Франции, Германии, Италии, Сингапура, Южной Кореи, Австралии, Канады и Европейского союза[2]. В 2025 году британский Институт безопасности ИИ был переименован в «Институт безопасности ИИ», а американский институт получил название Центр стандартов и инноваций в сфере ИИ (CAISI).

Хронология

В 2023 году премьер-министр Великобритании Риши Сунак заявил о намерении «сделать Великобританию не только интеллектуальной, но и географической столицей глобального регулирования безопасности ИИ» и анонсировал проведение саммита по безопасности искусственного интеллекта[3]. Он отметил необходимость независимой оценки безопасности и заявил, что компании, разрабатывающие ИИ, не должны «выписывать себе зачёт самостоятельно». В ходе саммита в ноябре 2023 года британский Институт безопасности ИИ был официально создан на основе рабочей группы по передовым моделям искусственного интеллекта[4], а американский институт безопасности ИИ был организован как подразделение NIST. Япония учредила аналогичный институт в феврале 2024 года[5].

В апреле 2024 года издание Politico сообщило, что многие компании в области искусственного интеллекта не предоставили экспертизам досрочный доступ к своим самым прогрессивным моделям. Руководитель глобальных проектов Meta Ник Клегг отметил, что компании ожидают появления единых правил и процедур от британского и американского институтов безопасности ИИ[6]. В апреле 2024 года США и Великобритания договорились провести совместное тестирование безопасности как минимум одной модели[7]. Британский Институт безопасности ИИ, ранее располагавшийся в Лондоне, в мае 2024 года объявил об открытии офиса в Сан-Франциско, где сосредоточено множество компаний в сфере ИИ. По словам министра технологий Великобритании Мишель Донелан (англ. Michelle Donelan), это часть стратегии по формированию «новых международных стандартов по безопасности ИИ»[8][9].

На Сеульском саммите по ИИ в мае 2024 года Европейский союз и другие страны подтвердили намерение создать собственные институты по безопасности ИИ, сформировав международную сеть[2].

Великобритания

В апреле 2023 года в Великобритании была создана рабочая группа по передовым моделям искусственного интеллекта (англ. Frontier AI Taskforce) с первоначальным бюджетом в 100 миллионов фунтов стерлингов[10]. В ноябре 2023 года она трансформировалась в Институт безопасности ИИ, которым продолжал руководить Йен Хогарт. Институт безопасности ИИ входит в состав британского Департамента науки, инноваций и технологий[4].

Стратегия Великобритании в области ИИ направлена на поиск баланса между безопасностью и стимулированием инноваций. В отличие от Европейского союза, который утвердил Закон об ИИ, Великобритания не спешит с принятием отдельных законов, полагая, что это может замедлить развитие сектора, а также быстро устареть из-за технологического прогресса[5].

В мае 2024 года институт опубликовал с открытым исходным кодом инструмент для оценки безопасности ИИ — Inspect, который позволяет анализировать такие параметры, как способность модели к рассуждению и степень её автономности[11].

В феврале 2025 года британская организация была переименована в Институт безопасности ИИ. По мнению некоторых экспертов, смена названия свидетельствует о том, что институт не будет рассматривать этические вопросы — такие как алгоритмическая предвзятость или свобода выражения мнений в приложениях ИИ[12].

США

Американский Институт безопасности ИИ был создан в ноябре 2023 года как часть NIST. Это произошло на следующий день после подписания Исполнительного указа 14110[13]. В феврале 2024 года на пост руководителя института была назначена бывшая советница президента Байдена по экономической политике Элизабет Келли (англ. Elizabeth Kelly)[14].

В феврале 2024 года правительство США создало Американский консорциум по безопасности ИИ (AISIC), который объединяет свыше 200 организаций, включая Google, Anthropic, Microsoft[15].

В марте 2024 года был выделен бюджет в размере 10 миллионов долларов США[16]. Аналитики отмечали, что эта сумма относительно невелика, особенно с учётом присутствия крупных компаний ИИ в стране. Сам NIST, на базе которого действует институт, также известен хроническим дефицитом финансирования[5][17]. Запрос администрации Байдена на увеличение бюджета встретил сопротивление в Конгрессе, что привело к очередным сокращениям[17][18].

Во время президентства Дональда Трампа планы участия сотрудников агентства в февральском Саммите действий по ИИ в Париже в 2025 году были отменены[19]. США и Великобритания отказались подписывать итоговое коммюнике саммита. Вице-президент США JD Vance заявил, что нужно отдавать приоритет «инновационным и способствующим росту мерам», а не вопросам безопасности.

В июне 2025 года организацию переименовали в Центр стандартов и инноваций в сфере ИИ (CAISI), пересмотрев и её миссию[20]. По словам министра торговли Howard Lutnick, «слишком долго цензура и регулирование прикрывались соображениями национальной безопасности. Инноваторы больше не будут ограничены этими стандартами. CAISI займётся оценкой и развитием американских инноваций в области быстроразвивающихся коммерческих ИИ-систем, одновременно обеспечивая их безопасность по стандартам национальной безопасности»[21][22]. Министерство торговли США заявило, что CAISI будет представлять американские интересы на международной арене, защищая отрасль от избыточного и ненужного регулирования со стороны иностранных государств. Центр сотрудничает с Лабораторией информационных технологий NIST[22].

Индия

Министерство электроники и информационных технологий 7 октября 2024 года провело консультации с Meta Platforms, Google, Microsoft, IBM, OpenAI, NASSCOM, Broadband India Forum, Software Alliance, технологическими институтами Индии, The Quantum Hub, Digital Empowerment Foundation и Access Now по вопросам создания Института безопасности ИИ. Было решено сосредоточиться не на регулировании, а на выработке стандартов, выявлении рисков и обнаружении ущерба — все эти направления требуют совместимых технологических платформ. Для первичного бюджета институт может использовать из 20 крор рупий, заложенных по соответствующей программе миссии IndiaAI («Безопасный и заслуживающий доверия ИИ»). В дальнейшем финансирование возможно из других компонентов этой миссии[23][24].

ЮНЕСКО и индийское министерство начали консультации по разработке методологии оценки готовности к внедрению ИИ в рамках тематики безопасности и этики ИИ с 2024 года. Их цель — поощрение этического и ответственного применения искусственного интеллекта в индустрии, а также выявление областей, где государство может усилить нормативные и институциональные возможности[25][26].

Министр электроники и информационных технологий Ашвини Вашнав 30 января 2025 года объявил о запуске индийского Института безопасности ИИ для обеспечения этичного и безопасного применения моделей искусственного интеллекта. Институт будет поддерживать развитие национальных исследований и разработок, ориентированных на социальные, экономические, культурные и лингвистические реалии Индии и основанных на индийских данных. При участии академических, исследовательских и частных организаций, институт работает по принципу «ступица со спицами» (англ. hub-and-spoke) в рамках кластера безопасности и доверия миссии IndiaAI[27][28]. Институт действует в формате «ступица со спицами» при участии ведущих учебных заведений, технологических компаний и международных организаций, включая ЮНЕСКО[29].

Примечания

  1. ↑ Институты безопасности создадут «международную сеть» для усиления исследований и тестирования ИИ (англ.). The Independent (21 мая 2024). Дата обращения: 6 июля 2024. Архивировано 9 июня 2025 года.
  2. ↑ 1 2 Desmarais, Anna Мировые лидеры договорились создать сеть институтов по безопасности ИИ (англ.). euronews (22 мая 2024). Дата обращения: 15 июня 2024. Архивировано 21 октября 2025 года.
  3. ↑ Browne, Ryan Премьер-министр Великобритании Риши Сунак предлагает Лондон в качестве центра регулирования ИИ (англ.). CNBC (12 июня 2023). Дата обращения: 21 июня 2024. Архивировано 12 июня 2023 года.
  4. ↑ 1 2 Представляем Институт безопасности ИИ (англ.). GOV.UK (ноябрь 2023). Дата обращения: 15 июня 2024. Архивировано 21 октября 2025 года.
  5. ↑ 1 2 3 Henshall, Will (1 апреля 2024). “США и Великобритания объявили о сотрудничестве по тестированию безопасности ИИ”. TIME [англ.]. Дата обращения 2024-07-06.
  6. ↑ Риши Сунак обещал обеспечить безопасность ИИ. Крупный бизнес не спешит сотрудничать (брит. англ.). Politico (26 апреля 2024). Дата обращения: 15 июня 2024. Архивировано 4 августа 2025 года.
  7. ↑ David, Emilia США и Великобритания совместно протестируют модели ИИ на предмет угроз безопасности (англ.). The Verge (2 апреля 2024). Дата обращения: 21 июня 2024. Архивировано 16 мая 2025 года.
  8. ↑ Coulter, Martin. Британский институт безопасности ИИ открывает офис в США, Reuters (20 мая 2024).
  9. ↑ Browne, Ryan Великобритания расширяет Институт безопасности ИИ в Сан-Франциско (англ.). CNBC (20 мая 2024). Дата обращения: 15 июня 2024. Архивировано 16 мая 2025 года.
  10. ↑ 100 миллионов фунтов на создание экспертной рабочей группы по формированию следующего поколения безопасного ИИ (англ.). GOV.UK. Дата обращения: 6 июля 2024. Архивировано 22 октября 2025 года.
  11. ↑ Wodecki, Ben. Институт безопасности ИИ запускает платформу для тестирования моделей, AI Business (15 мая 2024). Архивировано 5 декабря 2024 года.
  12. ↑ Poireault, Kevin Институт безопасности ИИ Великобритании переименован в рамках смены правительственной стратегии (брит. англ.). Infosecurity Magazine (14 февраля 2025). Дата обращения: 23 июля 2025. Архивировано 25 сентября 2025 года.
  13. ↑ Henshall, Will (1 ноября 2023). “Почему указ Байдена по ИИ не заходит далеко”. TIME [англ.]. Дата обращения 2024-07-07.
  14. ↑ Henshall, Will (7 февраля 2024). “Советник по экономике Байдена Элизабет Келли возглавит Институт тестирования ИИ”. TIME [англ.]. Дата обращения 2024-07-06.
  15. ↑ Shepardson, David. Американские компании ИИ присоединились к консорциуму по рискам, Reuters (8 февраля 2024).
  16. ↑ Лидер большинства Шумер объявляет о первых инвестициях для создания Американского института безопасности искусственного интеллекта (англ.). www.democrats.senate.gov (7 марта 2024). Дата обращения: 6 июля 2024. Архивировано 23 октября 2025 года.
  17. ↑ 1 2 Zakrzewski, Cat. Это агентство отвечает за безопасность ИИ. Его офисы находятся в плачевном состоянии (англ.) (8 марта 2024). Архивировано 6 марта 2024 года. Дата обращения: 6 июля 2024.
  18. ↑ NIST может сократить штат сотрудников в случае дальнейшего урезания бюджета (амер. англ.). FedScoop (24 мая 2024). Дата обращения: 6 июля 2024. Архивировано 17 июля 2025 года.
  19. ↑ Dastin, Jeffrey. Эксклюзив: делегация Трампа на парижском саммите по ИИ не будет включать сотрудников Института безопасности ИИ (англ.), Reuters (7 февраля 2025). Архивировано 22 февраля 2025 года. Дата обращения: 29 августа 2025.
  20. ↑ Robertson, Adi В США убрали слово «безопасность» из названия Института безопасности ИИ (амер. англ.). The Verge (4 июня 2025). Дата обращения: 25 августа 2025. Архивировано 29 августа 2025 года.
  21. ↑ Администрация Трампа исключила «безопасность» из Института безопасности ИИ (англ.). NBC News (4 июня 2025). Дата обращения: 25 августа 2025. Архивировано 21 октября 2025 года.
  22. ↑ 1 2 Заявление министра торговли США Ховарда Лютника о преобразовании Института безопасности ИИ в Центр стандартов и инноваций. US Department of Commerce (3 июня 2025). Дата обращения: 15 августа 2025. Архивировано 10 октября 2025 года.
  23. ↑ Правительство рассматривает создание Института безопасности искусственного интеллекта (англ.), Hindustan Times (13 октября 2024). Архивировано 20 ноября 2024 года. Дата обращения: 17 февраля 2025.
  24. ↑ Jeevanandam, Nivash MeitY организует консультации по созданию индийского института безопасности ИИ в рамках программы IndiaAI (англ.). IndiaAI (15 октября 2024). Дата обращения: 17 февраля 2025. Архивировано 23 февраля 2025 года.
  25. ↑ ЮНЕСКО и Министерство электроники и информационных технологий: многосторонние консультации по вопросам безопасности и этики ИИ, Press Information Bureau (16 ноября 2024). Архивировано 16 ноября 2024 года. Дата обращения: 19 февраля 2025.
  26. ↑ ЮНЕСКО и министерство проводят консультации по методологии оценки готовности к ИИ в Индии, Press Information Bureau (21 января 2025). Архивировано 13 августа 2025 года. Дата обращения: 19 февраля 2025.
  27. ↑ При наличии мощной общей вычислительной инфраструктуры Индия готовится запустить собственную безопасную и доступную модель ИИ, Press Information Bureau (30 января 2025). Архивировано 30 января 2025 года. Дата обращения: 24 февраля 2025.
  28. ↑ Kumar, Animesh Роль индийского Института безопасности ИИ на динамичном рынке (англ.). Mondaq (5 февраля 2025). Дата обращения: 24 февраля 2025. Архивировано 16 мая 2025 года.
  29. ↑ Индийский институт безопасности ИИ и государственная политика. Press Information Bureau (30 января 2025).

Литература

Ссылки

Категории