Проблемы наблюдения в умных городах

Такие технологические решения внедрены во множестве городов, включая Санта-Крус, Детройт^[11], Барселону, Амстердам и Стокгольм. Умные города используются для повышения эффективности полиции, оптимизации транспортных услуг^[12] и совершенствования инфраструктуры^[12], в том числе внедрения электронного правительства через e-Governance платформы^[13].

Постоянная и повсеместная передача данных^[8] из разных источников в единый государственный орган вызывает опасения, что такие системы могут превратиться в электронный «паноптикум»^[1], где государство использует цифровые технологии для максимизации своего наблюдения за гражданами. Подобная критика основывается на опасениях нарушения приватности^[12] и того, что вертикальные потоки данных между гражданами и властью подрывают анонимность в городе^[12].

Теория «культуры контроля» описывает тенденцию к проактивному полицированию в умных городах. В Палестине рассматривались предложения по внедрению GPS-отслеживания автомобилей с целью контроля дорожного движения и правопорядка^[14]. Система фиксирует скорость и положение авто; в случае превышения лимита более чем на 10 секунд автоматически выписывается штраф^[14]. Также через эту технологию можно оперативно передавать сведения об авариях и заторах, позволяя эффективно управлять транспортными потоками. В Амстердаме разветвлённая сеть камер передаёт данные о пробках в центральный диспетчерский пункт^[5].

Подобные системы обеспечивают как профилактический, так и сдерживающий эффект на участников движения^[15]. Контроль скорости помогает снизить одну из ведущих причин ДТП. Сочетание GPS и камер позволяет быстро реагировать на аварии, повышая уровень безопасности и снижая энергозатраты.

Критики отмечают, что постоянное наблюдение за всеми транспортными средствами и «паноптикообразный» подход способствуют установленному недоверию к гражданам, считая их неспособными самостоятельно соблюдать ПДД^[12]. Кроме того, такие системы не всегда подходят для мониторинга поведения, создающего серьёзный риск, например, вождение в нетрезвом виде, и имеют технические ограничения, например, старые автомобили без GPS. Проактивное полицирование чревато произволом: 9 секунд превышения скорости не считается нарушением, 10 — уже наказывается, что не учитывает различия в характеристиках машин. Автоматизация мер закрепляет риск необоснованных решений властей и общественного недовольства^[16].

Прогнозирующие методы в полиции используются давно, например, ордера на обыск на основании подозрений^[17]. В умных городах предиктивная полиция применяет анализ больших данных для прогнозирования потенциальных очагов преступности^[17] — часто эти данные поступают со смартфонов жителей. Через сервисы, основанные на геолокации, отслеживается перемещение и плотность скопления людей^[18], что помогает целенаправленно управлять скоплением толпы и предотвращать инциденты^[18].

Такие системы позволяют предсказывать, где, когда и кем может быть совершено преступление, и строить эффективные патрули. В Санта-Крузе применение предиктивного алгоритма позволило за 6 месяцев снизить количество взломов на 4 % и провести 13 дополнительных задержаний^[2].

Однако среди вызванных споров отмечаются неоднозначность критериев для планирования патрулирования, отсутствие чёткой границы «статистической значимости» вероятности преступности^[12], а также правовые риски, например, требование «разумного подозрения» для обыска и ареста в разных правовых системах, где обоснования, основанные только на прогнозах алгоритма, спорны^[17]. Использование таких методов уже вызывало судебные искажения, например, программа «stop-and-frisk» в Нью-Йорке была признана основанной на расовом профилировании^[12].

Понятие умного города неотделимо от массового наблюдения. Польза от технологий достигается при постоянном сборе и агрегации данных посредством датчиков, камер и программ отслеживания^[12]. Такая сплошная слежка вызывает опасения по поводу приватности, поскольку анализ объединённых потоков данных уменьшает городскую анонимность^[12]. Приверженцы отмечают сходство с уровнем приватности в маленьких городках^[19], однако критики говорят о потере горизонтальных каналов обмена информацией между гражданами в пользу вертикальных потоков по схеме «гражданин—государство»^[12].

Городские приложения часто объединяют данные из разных источников для повышения эффективности предоставления услуг. Жители практически не могут отказаться от участия, поскольку для получения инфраструктурных услуг вынужденно «подписываются» на датчики и системы слежки^[12]. Например, в Амстердаме беспроводные счетчики собирают данные о потреблении энергии^[20], а сервис «Mobypark» позволяет сдавать парковочные места^[21]. Вся информация агрегируется на инфраструктуре города^[22], создавая целый комплекс перекрёстно используемых массивов данных^[23].

Под большими данными понимается использование технологий анализа и сопоставления данных для получения новых знаний из разрозненных источников^[24]. Анализ big data позволяет властям получить более полное представление о потребностях общества^[1][25]. Например, в Барселоне на основе данных о перемещениях жителей был пересмотрен маршрут общественного транспорта^[10], а внедрение умных светофоров^[26] позволило минимизировать ожидание автобусов^[27].

Критики указывают на «мифологизацию» больших данных и ошибочную веру, что расширение объёма автоматически даёт более точные выводы^[16].

Растущая роль аналитики больших данных приводит к слепому доверию государственным прогнозам, полученным на основе отслеживаемой информации^[28]. Однако сами по себе такие решения могут быть не надёжнее интуиции отдельных офицеров^[17].

Применение big data к уголовным делам может привести к дискриминации, поскольку алгоритмы часто выделяют новые группы риска, не предусмотренные законодательством о защите данных^[29]. В неуголовных сферах, например, электронное правительство, расширяется сбор данных и уходит акцент с обслуживания граждан к технологическому накоплению информации^[22]. В ряде случаев это вызывает общественный протест, как это случилось с проектом шотландской ID-карты^[30].

Рутинный сбор и агрегация данных государством вызывает вопросы приватности и личной автономии. Для полного отказа от наблюдения требуются энергозатратные меры, которые лишь минимизируют «цифровой след»^[31]. Особую тревогу вызывает возможность идентификации личности на основе агрегированных разнородных данных^[32], а также риск обмена или передачи данных непредусмотренным пользователям^[12]. Совмещение разрозненных данных делает возможным выявление персонально идентифицируемой информации, которая подпадает под более строгие режимы защиты персональных данных^[32].

Во многих правовых системах любое вмешательство власти в частную жизнь должно быть обосновано и соответствовать принципу «необходимости в демократическом обществе»^[33]. Европейский суд по правам человека подчёркивал, что непрописанные в законе или чрезмерно широкие полномочия на мониторинг нарушают право на приватность^[34].

Государственное наблюдение зачастую оправдывается заботой о гражданах^[12], однако односторонние решения, как например предиктивная полиция, могут привести к восприятию такого вмешательства как формы давления или создания «института паноптикума»^[12].

Философ Джереми Бентам создал концепцию круговой тюрьмы «паноптикум», в которой заключённые могли быть в любой момент под наблюдением, не зная, наблюдают ли за ними в настоящий момент^[35]. Мишель Фуко переосмыслил паноптикум как метафору «дисциплинарного общества», где власть достигает максимума, контролируя как можно больше людей^[36].

Рост наблюдения в умных городах воспроизводит модель такого дисциплинарного общества и способствует массовому наблюдению, патернализму и нормализации контроля^[12][36]. Примером избыточного наблюдения служит выборочное, зачастую субъективное применение камер CCTV — в Великобритании, согласно ряду исследований, «подозреваемые» фиксируются чаще, часто в зависимости от стереотипов оператора, а в Дурбане исключительно на основании «интуиции»^[37].

Рост массового наблюдения может привести к формированию электронного полицейского государства^[12]. Критики отмечают сужение задач наблюдения до поддержания правопорядка силами государства, наращивания информационных систем для профилактики и выявления нарушений заранее, в том числе и с помощью автоматизации принуждения^[38].

В целях достижения баланса между общественной пользой больших данных и рисками потери приватности предлагаются различные подходы^[12]. Деакин определяет умный город не только как технологический, но как социально настроенный под нужды граждан^[39]. Комнинос выделяет три слоя интеллекта: искусственный (инфраструктура), коллективный и человеческий^[22]. Интеграция этих слоёв может преодолеть проблему закрытости властей. Проблемой для законодателей остаётся выбор между технологически-нейтральным и технологически-специфичным регулированием^[40].

В Великобритании инструментом защиты стал иск о неправомерном использовании частной информации^[41], а законы типа «Regulation of Investigatory Powers Act 2000» предоставляют рамки для разрешённого наблюдения.

Одним из решений является превращение управления персональными данными в «совместное предприятие» гражданина и государства^[42]. Пример — Барселона с открытой платформой электронного правительства^[43] и проектами Open Data^[44].

Необходимо внедрение процедур, предусматривающих уведомления в случае принятия дискриминационных решений^[45] и прозрачность критериев принятия решений^[12]. Внедрение технологий должно опираться на социокультурные особенности местных сообществ^[46] и кооперацию с жителями (например, ICT-лаборатории, совместное проектирование и обучения)^[22]. Тройственная спираль как в Кисте/Стокгольм позволяет повысить принятие технологий обществом^[25].

В условиях массового сбора данных серьёзно усложняется задача анонимности. Примеры вроде британской базы E-CAF для детей демонстрируют постепенное исчезновение анонимности людей из массовых цифровых баз данных.