Causal AI
Causal AI — это подход в области искусственного интеллекта, основанный на построении каузальной модели и осуществлении вывода с использованием причинно-следственных связей, а не только на корреляции. Одно из практических применений Causal AI — помощь организациям в объяснении принимаемых решений и определении причин, повлиявших на результат[1][2].
Системы на базе Causal AI, выявляя лежащую в основе сеть причинно-следственных связей для определённого поведения или события, предоставляют знания, которые исключительно предиктивные модели ИИ могут не обнаружить в исторических данных. Анализ причинности может использоваться в качестве дополнения к человеческим решениям в ситуациях, где необходимо понимание причин наступления результата, например, для количественной оценки эффекта различных вмешательств, принятия политических решений или сценарного планирования[3][4]. В работе 2024 года, опубликованной лабораторией Google DeepMind, математически показано, что «Любой агент, способный адаптироваться к достаточно широкому спектру доменных сдвигов в распределении, обязательно должен усвоить каузальную модель»[5]. Авторы трактуют это как необходимость обучения каузальной модели для обобщения за пределами оригинального обучающего множества, делая вывод, что Causal AI может быть обязательным элементом для создания универсального искусственного интеллекта.
История
Термин и концепция Causal AI, а также ограничения классического машинного обучения, были подняты Джудеа Перлом — лауреатом премии Тьюринга, компьютерным учёным и философом — в книге «The Book of Why: The New Science of Cause and Effect» (2018). Перл утверждал: «Отсутствие у машин понимания причинных связей, возможно, является самым большим препятствием на пути к достижению ими человеческого уровня интеллекта»[6][7].
В 2020 году при Колумбийском университете была создана лаборатория Causal AI Lab под руководством Илиаса Барейнбойма. Профессор Барейнбойм занимается исследованием причинных и контрфактических выводов и их применением в сфере обработки данных, здравоохранения, социальных наук, а также искусственного интеллекта и машинного обучения[8]. В 2022 году исследовательская и консалтинговая компания Gartner впервые включила Causal AI в свой отчёт Hype Cycle, отметив его как одну из пяти ключевых технологий для ускоренной автоматизации ИИ[9][10].