Барнардизация

Барнардизация (англ. Barnardisation) — это метод статистической защиты данных (статистического контроля раскрытия информации) для таблиц с подсчётами (счётных таблиц). Метод заключается в том, что к некоторым или всем внутренним ненулевым ячейкам таблицы прибавляется +1, 0 или −1 в псевдослучайной манере. Вероятность корректировки для каждой внутренней ячейки рассчитывается как p/2 (прибавить 1), 1−p (оставить без изменений), p/2 (вычесть 1). Итоговые суммы по таблице затем вычисляются как сумма скорректированных внутренних значений.

Этимология

Термин «барнардизация» образован по фамилии профессора Джорджа Альфреда Барнарда — профессора математики Университета Эссекса. Барнард, в то время президент Королевского статистического общества, был одним из трёх специалистов, назначенных Советом Королевского статистического общества для проведения правительственного обзора мер по обеспечению безопасности данных в ходе переписи населения Великобритании 1971 года. Итоговый отчёт поставил под вопрос целесообразность округления малых чисел до ближайших пяти как лучшего средства для сохранения конфиденциальности респондентов. Официальный ответ правительства на доклад отметил, что в переписи 1971 года был введён дополнительный механизм — незначительные случайные поправки; в качестве автора данной идеи прямо указан профессор Барнард, как и в статье New Scientist за июль 1973 года. С другой стороны, статья в журнале Королевского статистического общества за 1973 год отмечала, что «после длительного обсуждения была принята модификация процедуры, предложенной в Канаде». Предположительно, профессор Барнард принимал участие в этих обсуждениях и стал автором модифицированного варианта. Впрочем, свидетельств применения аналогичных мер в Канаде не обнаружено: Статистическое управление Канады продолжало использовать случайное округление всех значений до ближайших 0 или 5.

Несмотря на то, что метод возник по инициативе профессора Барнарда, в документации по переписи 1971 года его называли лишь «процедурой», «корректировкой значений», «специальной процедурой», «процессом внесения случайной ошибки», либо «модификацией» или «корректировкой».

Самое раннее закреплённое в печати употребление термина «барнардизация» обнаружено в рабочем документе Управления по переписям населения, подготовленном Хаким в 1979 году, где термин вводится без указания источника и без отсылки к профессору Барнарду. Однако либо это нововведение осталось незамеченным и не было подхвачено в научных публикациях, либо использовалось крайне ограниченно, о чём свидетельствует широкое многообразие более поздних источников, приводимых выше.

Термин «барнардизация» вновь появляется только в издании 1995 года, в книге Стэна Опеншоу «Справочник пользователя переписи населения», где его используют два автора различных глав, а также составитель предметного указателя. Тем не менее, уже к концу 1980-х этот термин стал общепринятым в устной речи среди британских исследователей на академических конференциях и встречах. В последние годы термин «барнардизация» окончательно утвердился в официальной документации британских статистических агентств и других организаций.

Работа метода

В изначальной реализации для переписи населения Великобритании 1971 года барнардизация предусматривала дополнительную особенность — парное объединение таблиц из разных районов и применение равной по модулю, но противоположной корректировки к соответствующим значениям в паре. Например, если в ячейке таблицы района A значение увеличивалось на 1, то в парном районе B соответствующая ячейка уменьшалась на 1 (при условии, что результат не становился отрицательным). Такая парная схема позволяла минимизировать сумму вносимой случайной погрешности на уровне укрупнённых данных.

В переписи населения 1991 года в Великобритании отказались от парного объединения районов перед применением барнардизации; а для более детализированных локальных статистик диапазон корректировок расширили до −2, −1, 0, +1 или +2, за счёт двукратного применения корректировки +1, 0 или −1.

В Великобритании барнардизация всё шире использовалась государственными органами для публикации статистических данных без нарушения конфиденциальности граждан, к которым эти сведения относятся. В ряде случаев процедура подвергалась дополнительным модификациям. Так, в реализации Департамента общих служб поправки −1, 0 или +1 применялись только к ячейкам с подсчётом от 1 до 4, тогда как 0 корректировалось путём случайного прибавления 0 или +1.

Преимущества и недостатки

В обзоре методов статистической защиты данных, проведённом в преддверии переписи населения 2011 года в Великобритании, с точки зрения поставщика данных были выделены следующие достоинства и недостатки барнардизации:

Преимущества

  • Простота понимания
  • Простота внедрения
  • Итоговые суммы по таблице согласованы с внутренними значениями ячеек
  • Поправки являются несмещёнными.

Недостатки

  • Возможны несогласованные значения для одних и тех же ячеек и итоговых сумм, если таблицы подвергались барнардизации независимо друг от друга.
  • Поправки могут быть вычислены «обратным ходом» (дифференцированием), если доступны другие таблицы с теми же данными или суммами, либо известны нескорректированные суммарные значения для большей области, включающей эти таблицы.
  • Обычно вероятность корректировки невелика, что приводит к сохранению большинства значений без изменений.

С точки зрения пользователя, ещё одним достоинством барнардизации является меньший эффект на типовые анализы по сравнению с другими мерами статистической защиты: случайное округление до 5 (используется Статистическое управление Канады), случайное округление до 3 (используется Статистическое управление Новой Зеландии) и корректировка малых ячеек (Small Cell Adjustment), применяемая в разные периоды Бюро национальной статистики и Австралийским статистическим ведомством.

Современная оценка эффективности

С конца 1990-х годов обеспокоенность эффективностью барнардизации в защите конфиденциальности стала существенно возрастать. В настоящее время барнардизацию не рекомендуют в качестве метода по умолчанию, а используют только в особых случаях. Такая перемена связана с относительно высокой вероятностью того, что барнардизация оставляет малое значение (особенно 1) без изменений, а также с опасностью обратного восстановления исходных значений при наличии нескольких пересекающихся скорректированных таблиц. По этим и другим причинам с 2001 года переписи населения Великобритании полностью отказались от барнардизации. Альтернативные подходы, принятые в 2001, 2011 и 2021 годах и основания их внедрения, рассматриваются в работе Спайсера.

Вопрос о том, обеспечивает ли барнардизация полную анонимизацию данных и каково её положение с точки зрения Закона о защите данных 1998 года, был предметом анализа Комиссаром по информации Шотландии. Некоторые положения первоначального решения комиссара были отменены по апелляции Палаты лордов, и было предложено пересмотреть решение. Окончательное решение констатировало, что барнардизация не обеспечивает достаточного уровня защиты от раскрытия для редких событий (например, случаев детской лейкемии), что частично пересмотрело исходную позицию комиссии: «Сами по себе скорректированные (барнардизированные) данные могут привести к идентификации, и […] влияние барнардизации на реальные цифры, по крайней мере в применении CSA, не достигает той степени маскировки, которую он [комиссар] первоначально предполагал»:para 20. Однако в письменном решении статистическое обоснование такой оценки не приведено; суть рассуждений касалась юридических моментов, связанных с определением персональных (чувствительных) данных и их статуса до и после барнардизации.

Литература

  • Newman, Dennis. Techniques for ensuring the confidentiality of census information in Great Britain. — Occasional Paper 4. — Census Division, OPCS, 1978.
  • ONS. Review of the dissemination of health statistics: confidentiality guidance. — Working Paper 3: Risk Management. — Office for National Statistics, 2006.
  • Moore, P. G. (1973). “Security of the Census of Population”. Journal of the Royal Statistical Society. Series A (General). 136 (4): 583—596. DOI:10.2307/2344751. JSTOR 2344751.
  • New Scientist (1973). “Census data not so secret”. New Scientist (19 июля): 142.
  • Jones, H. J. M.; Lawson, H. B.; Newman, D. (1973). “Population census: recent British developments in methodology”. Royal Statistical Society. Series A (General). 136 (4): 505—538. DOI:10.2307/2344749. JSTOR 2344749. S2CID 133740484. Дата обращения 2022-05-16.
  • Statistics Canada. 1971 Census of Canada : population : vol. I - part 1. — Introduction to volume I (part 1). — Оттава : Statistics Canada, 1974.
  • Rhind, D. W. Geographical analysis and mapping of the 1971 UK Census data, Working Paper 3. — Dept of Geography, University of Durham : Census Research Unit, 1975.
  • Hakim, Catherine. Census confidentiality, microdata and census analysis. — Occasional Paper 3. — Census Division, OPCS, 1978.
  • J. C. Dewdney. Censuses past and present // A Census User's Handbook. — Лондон : Methuen, 1983. — P. 1–16.
  • Marsh. Privacy, confidentiality and anonymity in the 1991 Census // The 1991 Census User's Guide. — Лондон : HMSO, 1993. — P. 129–154. — ISBN 0-11-691527-7.
  • Hakim, Catherine. Census confidentiality in Britain // Censuses, Surveys and Privacy. — Лондон : Palgrave, 1979. — P. 132–157. — ISBN 978-0-333-26223-8. — doi:10.1007/978-1-349-16184-3_10.
  • Openshaw, Stan. Census Users' Handbook. — Кембридж : Pearson, 1995. — ISBN 1-899761-06-3.
  • SDC UKCDMAC Subgroup Statistical Disclosure Control (SDC) methods short-listed for 2011 UK Census tabular outputs, Paper 1. Office for National Statistics. Дата обращения: 16 мая 2022.
  • Decision 021/2005 Mr Michael Collie and the Common Services Agency for the Scottish Health ServiceChildhood leukaemia statistics in Dumfries and Galloway (2010). Дата обращения: 16 мая 2022.
  • Willliamson, Paul (2007). “The impact of cell adjustment on the analysis of aggregate census data”. Environment and Planning A. 39 (5): 1058—1078. Bibcode:2007EnPlA..39.1058W. DOI:10.1068/a38142. S2CID 154653446.
  • Spicer, K. EAP125 on Statistical disclosure control (SDC) for Census 2021. — Titchfield : Office for National Statistics.