Пересечение ковариаций
Формулировка
Известны информационные элементы a и b, которые требуется объединить в элемент информации c. Известно, что у a и b есть математические ожидания и ковариации , и , , однако их перекрёстная корреляция неизвестна. Алгоритм пересечения ковариаций рассчитывает математическое ожидание и ковариацию для c следующим образом:
Здесь ω вычисляется так, чтобы минимизировать выбранную норму, например, след или логарифм определителя. Для более высоких размерностей требуется решение задачи оптимизации, однако для низких размерностей существуют аналитические решения[5].
Применение
Метод пересечения ковариаций может использоваться вместо обычных уравнений обновления фильтра Калмана, чтобы гарантировать консервативность результирующей оценки вне зависимости от корреляции между двумя оценками. При этом ковариация строго не увеличивается согласно выбранной мере. Использование фиксированной меры необходимо для строгости, чтобы последовательность обновлений не приводила к росту фильтрованной ковариации[6].
Алгоритм нашёл широкое применение в робототехнике и распределённых сенсорных сетях для слияния данных. Он используется для объединения оценок состояния, полученных от разных узлов сети, степень корреляции между которыми неизвестна[7]. В частности, метод и его вариации применяются в задачах кооперативной локализации для групп автономных транспортных средств или роботов[8].
С развитием глубокого обучения пересечение ковариаций стали использовать для повышения точности и стабильности прогнозов. Метод применяется для слияния результатов, полученных от различных архитектур нейронных сетей, таких как LSTM и GRU, что позволяет создать более надёжную итоговую оценку[9].
В 2024 году был представлен подход, расширяющий один из вариантов метода — обратное пересечение ковариаций (ICI) — на отслеживание движущихся 3D-объектов с использованием кватернионов. Этот распределённый алгоритм позволяет каждому узлу сети обновлять оценку состояния объекта в трёхмерном пространстве, опираясь только на локальную информацию и данные от соседних узлов, что делает его устойчивым к изменениям в топологии сети[10].
Преимущества
Согласно обзорам[11][12], пересечение ковариаций обладает следующими преимуществами:
- Полностью избегается необходимость идентификации и расчёта перекрёстных ковариаций.
- Получается согласованная объединённая оценка, что обеспечивает недивергентность фильтра.
- Точность объединённой оценки превосходит каждую из локальных по отдельности.
- Метод даёт общий верхний предел дисперсий ошибки оценки, обладающий устойчивостью к неизвестным корреляциям.
Эти преимущества показаны, в том числе, на примере задачи SLAM, где количество ориентиров/маяков превышало миллион[13].
Недостатки и альтернативные методы
Консерватизм классического CI
Основным недостатком классического алгоритма пересечения ковариаций (CI) является его консерватизм[14]. Метод гарантирует получение согласованной (консистентной) оценки, при которой вычисленная ковариация ошибки является верхней границей для истинной ковариации[14][15]. Это позволяет избежать недооценки погрешности и расхождения фильтра.
Однако эта надёжность достигается ценой потенциальной потери точности. На практике консерватизм часто приводит к тому, что результирующая ковариация ошибки оказывается значительно завышенной, то есть итоговая оценка становится излишне «осторожной» и менее точной, чем могла бы быть[16]. Такое завышение неопределённости может также снижать скорость сходимости фильтра[14].
Именно этот компромисс между гарантированной согласованностью и потерей точности стал основной мотивацией для разработки альтернативных, менее консервативных методов слияния данных, таких как обратное и разделённое пересечение ковариаций[17].
Разделённое пересечение ковариаций (SCI)
Метод разделённого пересечения ковариаций (англ. Split Covariance Intersection, SCI) был предложен в 2013 году[18]. Он был разработан для случаев, когда ошибки объединяемых оценок содержат как независимые, так и коррелированные компоненты, поскольку в таких условиях классический CI не является оптимальным[19]. Наряду с классическим CI, метод SCI считается особенно действенным подходом к слиянию данных[20].
В 2023 году было доказано, что SCI является оптимальным правилом объединения для двух оценок при условии, что в их ошибках присутствует некоррелированный компонент[21][22]. Дальнейшее развитие метод получил в 2025 году с выходом исследования, расширяющего SCI для учёта также и коррелированных компонент ошибок. Было показано, что этот новый подход обеспечивает оптимальные границы консервативного слияния, обобщая свойство оптимальности стандартного CI на более широкий класс схем объединения[19].
Обратное пересечение ковариаций (ICI)
Метод обратного пересечения ковариаций (англ. Inverse Covariance Intersection, ICI) был представлен в 2016 году как менее консервативная альтернатива классическому CI[23]. Его основная цель — получение более точных оценок путём решения проблемы излишней «осторожности» стандартного алгоритма.
В отличие от CI, который объединяет оценки, ICI находит и исключает (вычитает) максимально возможную общую информацию, содержащуюся в объединяемых оценках. Такой подход позволяет избежать двойного учёта одних и тех же данных, что является одной из причин консерватизма CI, и получить менее «размытый» результат. Исследования показали, что для ICI могут быть ослаблены условия, необходимые для обеспечения согласованности оценки, а сам метод способен обрабатывать и другие источники корреляций, например, общий шум процесса.
Ключевым исследованием, подробно рассматривающим свойства алгоритма, стала работа Б. Ноака, Й. Сейса и У. Д. Ханебека, представленная в 2017 году. В дальнейшем метод получил развитие: в 2024 году был предложен подход, расширяющий ICI на отслеживание движущихся 3D-объектов с использованием кватернионов. Этот распределённый алгоритм позволяет каждому узлу сети обновлять оценку, опираясь только на локальную информацию и данные от соседей, что делает его устойчивым к изменениям в топологии сети.
Обобщённое обратное пересечение ковариаций (GICI)
Метод обобщённого обратного пересечения ковариаций (англ. Generalized Inverse Covariance Intersection, GICI) был предложен в 2019 году как развитие метода обратного пересечения ковариаций (ICI) для применения в нелинейных системах[24]. Цель GICI — вычислить и исключить (вычесть) общую информацию, содержащуюся в объединяемых оценках, чтобы избежать двойного учёта данных и получить менее консервативный (более точный) результат по сравнению с классическим CI[24].
В 2022 году метод был расширен для слияния данных от множества источников (оценок)[25][26]. Для этого исследователи объединили два ранее существовавших подхода: GICI для двух узлов и ICI для нескольких датчиков. Моделирование показало, что такой подход обеспечивает более точные результаты по сравнению с «наивным» слиянием, при котором общая информация между узлами игнорируется[25].
Другие разработки
Помимо основных альтернатив, исследования развивались и в других направлениях, направленных на повышение точности, снижение вычислительной сложности и адаптацию метода к специфическим задачам.
- Обобщение для частично коррелированных данных. В 2018 году был предложен модифицированный алгоритм CI для случаев, когда известны границы коэффициента корреляции между ошибками оценок. Этот подход позволяет получить более точный результат по сравнению с классическим CI, который предполагает полное незнание корреляций[27].
- Быстрые алгоритмы (FCI). Поскольку стандартный CI требует решения задачи оптимизации, что может быть вычислительно затратно, были разработаны «быстрые» версии алгоритма (англ. Fast Covariance Intersection, FCI), которые находят решение без итераций. Исследования в этом направлении велись с середины 2000-х годов, примером является работа Д. Франкена и А. Хюппера 2006 года, в которой был представлен улучшенный быстрый алгоритм для распределённого слияния данных[28].
- Специализированные фильтры. Для решения конкретных проблем были созданы специализированные фильтры на основе CI:
- SCIKCF (англ. Sequential Consensus-based CI Kalman Correlation Filter) — разработан в 2019 году для распределённых систем с прерывистыми наблюдениями или потерями данных. Он позволяет сенсорам достигать консенсусных оценок последовательно, снижая вычислительную нагрузку[29].
- EVCI (англ. Eigenvalue-based Covariance Intersection) — энергоэффективный алгоритм, представленный в 2019 году для беспроводных сенсорных сетей. Он использует разложение ковариационной матрицы по собственным значениям для оценки полезности данных, позволяя передавать только ту информацию, которая улучшает точность, тем самым экономя энергию[30].
- Теоретико-игровой подход. В 2016 году был предложен подход, который формулирует задачу слияния данных как теоретико-игровую и вычисляет оптимальную оценку в минимаксном смысле. Этот метод позиционируется как менее консервативная альтернатива CI.
- Фреймворк CLUE. В 2023 году был представлен обобщённый фреймворк под названием «Консервативный линейный несмещённый оценщик» (англ. Conservative Linear Unbiased Estimator, CLUE), который объединяет в себе различные методы слияния данных, включая CI, и рассматривает их как частные случаи более общей парадигмы.
Мотивация
Широко распространено мнение, что неизвестные корреляции встречаются во множестве задач мультисенсорного слияния данных. Пренебрежение эффектами неизвестных корреляций может привести к резкому снижению эффективности и даже к расходимости оценки. Поэтому проблема остаётся предметом научного интереса на протяжении десятилетий. Однако из-за сложности и неизвестного характера корреляций не просто создать удовлетворительную схему для слияния данных с неизвестной взаимосвязью. Игнорирование корреляций (так называемое «наивное слияние»)[31], может привести к расходимости фильтра. Для компенсации такого рода расходимости часто применяют эвристики — например, искусственно увеличивают шум системы. Однако такой подход требует значительного опыта и снижает теоретическую строгость фильтра Калмана[32].
Примечания
- ↑ Dynamic Map Building and Localization: New Theoretical Foundations (англ.). University of Oxford. University of Oxford (1995). Дата обращения: 15 июня 2024.
- ↑ Covariance intersection algorithm for formation flying spacecraft navigation from RF measurements (англ.). 4 ISLAB workshop (12 ноября 2007). Дата обращения: 15 июня 2024. Архивировано 12 сентября 2016 года.
- ↑ Simon J. Julier, Jeffrey K. Uhlmann (2007). “Using covariance intersection for SLAM”. Robotics and Autonomous Systems [англ.]. 55 (7): 3—20. DOI:10.1016/j.robot.2006.06.011.
- ↑ Fusion under unknown correlation - Covariance intersection as a special case (англ.). International Conference on Information Fusion 2002 (2002). Дата обращения: 15 июня 2024. Архивировано 4 ноября 2005 года.
- ↑ Closed-form Optimization of Covariance Intersection for Low-dimensional Matrices (англ.). International Conference on Information Fusion 2012 (2012). Дата обращения: 15 июня 2024. Архивировано 9 мая 2016 года.
- ↑ Covariance Consistency Methods for Fault-Tolerant Distributed Data Fusion (англ.). Elsevier. Elsevier (2003). Дата обращения: 3 ноября 2025. Архивировано 11 августа 2017 года.
- ↑ “Distributed Data Fusion Algorithm Based on Covariance Intersection in WSN” (PDF). International Journal of Computer Applications. 9 (7). 2016. Дата обращения 2025-11-03.
- ↑ Covariance intersection. Taylor & Francis. Дата обращения: 3 ноября 2025.
- ↑ A Distributed Deep Prediction Network Based on Covariance Intersection Fusion. ICCK. Дата обращения: 3 ноября 2025.
- ↑ Distributed 3D-Moving-Object-Tracking Using Inverse Covariance Intersection on Augmented Quaternion Space. arXiv (май 2024). Дата обращения: 3 ноября 2025. Архивировано 15 декабря 2024 года.
- ↑ A Survey on Multi-Sensor Fusion and Consensus Filtering for Sensor Networks (англ.). Discrete Dynamics in Nature and Society (2015). Дата обращения: 15 июня 2024. Архивировано 24 сентября 2015 года.
- ↑ Zili Deng, Peng Zhang, Wenjuan Qi, Jinfang Liu, Yuan Gao (15 апреля 2012). “Sequential covariance intersection fusion Kalman filter”. Information Sciences [англ.]. 189: 293—309. DOI:10.1016/j.ins.2011.11.038.
- ↑ S. Julier, J. Uhlmann (2001). “Building a Million-Beacon Map”. Proceedings of ISAM Conference on Intelligent Systems for Manufacturing [англ.]. DOI:10.1117/12.444158.
- ↑ 1 2 3 A game-theoretic approach to data fusion with unknown correlations. arXiv (3 октября 2016). Дата обращения: 3 ноября 2025. Архивировано 27 декабря 2024 года.
- ↑ A Quarter Century of Covariance Intersection: Correlations Still Unknown. ResearchGate (март 2024). Дата обращения: 3 ноября 2025.
- ↑ Factorized Covariance Intersection for Scalable Partial State Decentralized Data Fusion. Karlsruhe Institute of Technology (2017). Дата обращения: 3 ноября 2025. Архивировано 3 мая 2024 года.
- ↑ Inverse Covariance Intersection: New Insights and Properties. ResearchGate (июль 2017). Дата обращения: 3 ноября 2025.
- ↑ “Split covariance intersection filter: Theory and its application to vehicle localization”. IEEE Transactions on Intelligent Transportation Systems. 2013. Дата обращения 2025-11-03.
- ↑ 1 2 Revisiting Split Covariance Intersection: Correlated Components and Optimality. arXiv (январь 2025). Дата обращения: 3 ноября 2025.
- ↑ Conservative Linear Unbiased Estimator: A New Paradigm for Data Fusion Under Unknown Correlation. arXiv (июнь 2023). Дата обращения: 3 ноября 2025.
- ↑ Inverse covariance intersection: New insights and properties. Semantic Scholar. Дата обращения: 3 ноября 2025. Архивировано 20 апреля 2024 года.
- ↑ Optimality of Split Covariance Intersection Fusion. ResearchGate. Дата обращения: 3 ноября 2025.
- ↑ B. Noack, J. Sijs, U. D. Hanebeck (2017-10). “Decentralized data fusion with inverse covariance intersection”. Automatica. 84: 89—95. DOI:10.1016/j.automatica.2017.06.023. Дата обращения 2025-11-03. Проверьте дату в
|date=(справка на английском) - ↑ 1 2 Nonlinear Decentralized Data Fusion with Generalized Inverse Covariance Intersection. METU Open Access (2019). Дата обращения: 3 ноября 2025. Архивировано 13 августа 2025 года.
- ↑ 1 2 Design of Generalized Inverse Covariance Intersection with Multiple Estimates. Elsevier - SNU (2022). Дата обращения: 3 ноября 2025.
- ↑ Design of Generalized Inverse Covariance Intersection with Multiple Estimates. ResearchGate (2022). Дата обращения: 3 ноября 2025.
- ↑ Zongze Wu, Qianqian Cai, Minyue Fu (2018). “Covariance Intersection for Partially Correlated Random Vectors” (PDF). IEEE Transactions on Automatic Control. Дата обращения 2025-11-03.
- ↑ Dietrich Franken, Andreas Huepper. Improved fast covariance intersection for data fusion. Semantic Scholar (2006). Дата обращения: 3 ноября 2025.
- ↑ “Sequential consensus-based covariance intersection Kalman correlation filter for distributed state estimation with intermittent observations”. IET Signal Processing. 2019. Дата обращения 2025-11-03.
- ↑ Eigenvalue-Based Covariance Intersection for Energy-Efficient Data Fusion in Wireless Sensor Networks. Biblioteka Nauki (2019). Дата обращения: 3 ноября 2025.
- ↑ K.C. Chang, Chee-Yee Chong, S. Mori (1 октября 2010). “Analytical and Computational Evaluation of Scalable Distributed Fusion Algorithms”. IEEE Transactions on Aerospace and Electronic Systems [англ.]. 46 (4): 2022—2034. DOI:10.1109/TAES.2010.5595611.
- ↑ W. Niehsen. Proceedings of the Fifth International Conference on Information Fusion. FUSION 2002. (IEEE Cat. No. 02EX5997) : [англ.]. — IEEE, 1 июля 2002. — Vol. 2. — P. 901–904 vol.2. — ISBN 978-0-9721844-1-0. — doi:10.1109/ICIF.2002.1020907.