Декларация Торонто
Декларация Торонто (англ. Toronto Declaration: Protecting the Rights to Equality and Non-Discrimination in Machine Learning Systems) — декларация, призывающая к ответственным практикам для специалистов в области машинного обучения и регулирующих органов. Документ является совместным заявлением организаций, таких как Amnesty International и Access Now, среди других известных подписантов — Human Rights Watch[1]. Декларация была опубликована на конференции RightsCon 16 мая 2018 года[2].
Декларация фокусируется на проблемах алгоритмической предвзятости и потенциальной дискриминации, возникающей при использовании технологий машинного обучения и искусственного интеллекта в различных сферах, затрагивающих жизнь людей — от правоохранительных органов и систем социальной поддержки до здравоохранения и онлайн-платформ для общения[3]. Дополнительная проблема, затрагиваемая в документе, — возможные нарушения информационной конфиденциальности.
Цель декларации — определить «конкретные и реализуемые стандарты для государств и частного сектора»[4]. В документе поддерживается внедрение практических мер, включая предоставление компенсаций пострадавшим от алгоритмической дискриминации[5].
Содержание
Декларация Торонто состоит из 59 статей, разделённых на шесть частей, посвящённых вопросам международного права в области прав человека, обязанностям государств, ответственности частных субъектов и праву на эффективное средство правовой защиты.
Документ начинается с вопроса: «В мире систем машинного обучения кто понесёт ответственность за нарушение права человека?»[3] В декларации утверждается, что все специалисты, как в государственном, так и в частном секторе, должны осознавать риски для прав человека и выполнять свою работу с учётом этих прав, руководствуясь международными законами, стандартами и принципами. К числу прав человека документ относит «право на неприкосновенность частной жизни и защиту данных, право на свободу выражения мнений и ассоциаций, участие в культурной жизни, равенство перед законом и доступ к эффективным средствам правовой защиты»[3], однако особое внимание уделяется вопросам равенства и недискриминации.
Рамки международного права в области прав человека определяют различные права, предусматривают механизмы привлечения нарушителей к ответственности и обеспечивают правовые средства защиты. В документе приводится определение дискриминации, данное Комитетом ООН по правам человека, как «любое различие, исключение, ограничение или предпочтение, основанное на каких-либо признаках [включая, но не ограничиваясь] расой, цветом кожи, полом, языком, религией, политическими или иными убеждениями, национальным или социальным происхождением, имущественным положением, рождением или иным статусом, имеющее своей целью или следствием уничтожение либо умаление признания, пользования или осуществления всеми лицами на равных основаниях всех прав и свобод»[6].
Государства должны заблаговременно разрабатывать обязательные меры, а частные субъекты — внутренние политики по предотвращению дискриминации. Мерами могут быть защиты чувствительных данных, особенно для уязвимых групп населения. Системы следует разрабатывать в сотрудничестве с разнообразным сообществом для предотвращения дискриминации уже на этапе проектирования.
Современные правительства внедряют системы машинного обучения, часто в партнёрстве с частными компаниями. Даже если разработка поручается таким третьим лицам, обязанность государства защищать права человека сохраняется. Государства должны выявлять риски до внедрения систем и регулярно проверять их работу, принимая все необходимые меры для снижения этих рисков. Следует обеспечивать прозрачность в реализации и использовании машинного обучения, избегать систем-чёрных ящиков, чья логика не поддаётся объяснению. Необходим строгий надзор как со стороны внутренних комитетов, так и независимых судебных органов.
Государства также обязаны защищать граждан от дискриминации со стороны частных субъектов. Помимо контроля, они должны принимать обязательные законы против дискриминации, а также по защите данных и конфиденциальности, и обеспечивать эффективные способы восстановления нарушенных прав. Национальные и региональные органы власти должны расширять и конкретизировать положения международного права.
Частные субъекты несут ответственность за проведение «должной осмотрительности в области прав человека». Подобно государствам, они должны выявлять риски до начала разработки, учитывая типовые случаи и консультируясь со всеми заинтересованными сторонами, включая пострадавшие группы, организации по защите прав человека, экспертов по равенству и недискриминации, а также независимых специалистов по правам человека и машинному обучению[3]. Необходимо проектировать системы, минимизирующие риски, регулярно проводить аудиты и отказываться от проектов со слишком высоким уровнем риска. О рисках следует информировать открыто, при необходимости раскрывая технические детали реализации, а также обеспечивать механизм оспаривания решений для затронутых лиц.
«Право на правосудие является важнейшим элементом международного права в области прав человека»[3]. Частные субъекты должны создать процедуры для рассмотрения обращений пострадавших лиц и назначить ответственных за их реализацию. При использовании систем машинного обучения в области правосудия государствам следует проявлять особую осторожность. Меры прозрачности, подотчётности и предоставления эффективных средств восстановления прав могут помочь минимизировать негативные последствия.