Распознавание эмоций в диалоге

ИИ-обзор статьи
Распознавание эмоций в диалоге (ERC) — подраздел области распознавания эмоций, посвящённый извлечению и анализу эмоциональных состояний участников беседы на основе мультимодальных данных и контекста общения.
Задача распознавания эмоций в диалоге
ERC предполагает обнаружение эмоций, выражаемых участниками в каждой реплике диалога. Анализ опирается на три основных фактора: контекст беседы, психическое состояние собеседников и их намерения.
Основные датасеты ERC
Четыре наиболее часто используемых датасета в ERC: IEMOCAP, SEMAINE, DailyDialogue и MELD. MELD включает многопользовательские диалоги.
Основные методы ERC
Методы ERC варьируются от полуобучаемых подходов до глубоких нейронных сетей. К популярным методам с учителем относятся DialogueRNN, DialogueGCN и иерархические сети памяти. Современные методы преимущественно основаны на глубоком обучении.
Причины эмоций в диалоге
Новая задача распознавания причины эмоции в диалоге решается через вопросно-ответные системы с использованием языковых моделей. Ключевой датасет для этой задачи — RECCON.

Распознавание эмоций в диалоге (англ. Emotion recognition in conversation, ERC) — это подраздел области распознавание эмоций, посвящённый извлечению человеческих эмоций из бесед или диалогов, в которых участвуют два и более собеседника[1]. Датасеты для этой области обычно получают из социальных платформ, предоставляющих большое количество свободных образцов, и часто включают мультимодальные данные (например, различные комбинации текстовой, визуальной и акустической информации)[2]. Само- и межличностные влияния играют критическую роль[3] в идентификации базовых эмоций, таких как страх, гнев, радость, удивление и др. Чем более детализированы метки эмоций, тем сложнее корректно определить эмоцию. ERC ставит ряд задач[1], таких как моделирование контекста диалога, состояния собеседника, наличие сарказма в беседе, смена эмоций в последовательных репликах одного и того же собеседника, а также проблемы мультиязычности, кросс-культурной адаптации, интерпретируемости моделей и моделирования долгосрочной динамики эмоций[4].

Современные исследования в области распознавания эмоций демонстрируют смену парадигмы: фокус смещается с дискриминативного распознавания по ограниченному набору базовых меток на генеративное понимание эмоций и распознавание с открытым словарём (OV-MER). В контексте ERC это означает переход от анализа индивидуальных проявлений к сложным сценариям диалогического взаимодействия с использованием мультимодальных больших языковых моделей[5][6].

Задача

Задача ERC заключается в обнаружении эмоций, выражаемых участниками в каждой реплике диалога. ERC опирается на три основных фактора — контекст беседы, психическое состояние собеседников и их намерения[1]. На практике психическое состояние и намерения говорящего моделируются с помощью интеграции внешних баз знаний здравого смысла (например, COMET и ATOMIC). Намерения извлекаются как контекстные признаки из этих баз и интегрируются в модели с помощью графовых трансформеров и механизмов динамического внимания[7][8]. Формально задача распознавания эмоций в диалоге определяется следующим образом. Обучающий набор данных представляется как . Каждый диалог состоит из последовательности высказываний , где каждое высказывание является последовательностью токенов. Каждому высказыванию соответствует идентификатор говорящего , что позволяет отслеживать изменение настроения конкретного участника беседы. Контекст включает в себя исторические высказывания и может содержать вспомогательную информацию о говорящих. Цель задачи — обучить предиктор , который на основе входных данных предсказывает для каждого высказывания метку эмоции из пространства возможных эмоций [9][10].

Датасеты

IEMOCAP[11], SEMAINE[12], DailyDialogue[13], и MELD[14] — четыре наиболее часто используемых датасета в ERC. Среди них MELD включает многопользовательские диалоги. Датасет IEMOCAP, считающийся одним из наиболее сложных для распознавания эмоций, использовался для тестирования отечественной технологии CA-SER[15][16]. Для обучения системы MASAI применяются российские наборы данных, включая многомодальную базу RAMAS и специализированную базу по выражению агрессии[17].

Методы

Подходы к ERC включают методы без учителя, полубеспечиваемые и с учителем[18]. К популярным методам с учителем относят использование или объединение заранее заданных признаков, рекуррентные нейронные сети[19] (например, DialogueRNN[20]), графовые свёрточные сети (например, DialogueGCN[21]), а также иерархичные сети памяти с вниманием[22]. Большинство современных методов ERC базируются на технологиях глубокого обучения, опираясь на латентное моделирование состояния собеседника. Для эффективного разделения близких эмоциональных классов (например, «гнева» и «отвращения») применяются методы контрастивного обучения, проецирующие признаки в латентное пространство, где примеры одной эмоции сближаются, а разных — отдаляются[23][24]. В качестве эффективной альтернативы для обработки длинных диалогов используются модели пространства состояний (например, Mamba)[25].

Мультимодальное слияние

Для интеграции различных типов данных применяются несколько основных подходов к слиянию. Раннее слияние объединяет признаки разных модальностей на начальном этапе. Позднее слияние подразумевает независимую обработку каждой модальности отдельными моделями с последующим объединением их решений на финальном этапе. Гибридное слияние комбинирует ранний и поздний подходы[26]. Среди современных методов активно используются трансформеры с кросс-модальным вниманием, которые динамически оценивают важность каждой модальности и эффективно моделируют сложные зависимости между текстом, аудио и видео[26]. Мультимодальные подходы обладают рядом преимуществ, включая повышение точности за счёт объединения взаимодополняющей информации, а также устойчивость к шуму и потере данных, что позволяет системе сохранять надёжность распознавания даже при отсутствии или искажении одной из модальностей[26].

Моделирование контекста и зависимостей

В системах распознавания эмоций в диалоге применяются методы моделирования внутриличностной и межличностной зависимостей. Внутриличностная зависимость (эмоциональная инерция) учитывает индивидуальную динамику состояния говорящего. Для её моделирования используются выделенные рекуррентные сети для каждого участника, графовые сети для сохранения временной непрерывности эмоций, а также контрастивное выравнивание с учётом черт личности. Межличностная зависимость отражает взаимовлияние собеседников и моделируется через разделение контекста окружения, графовые сети взаимодействия для передачи эмоций между участниками, а также интеграцию знаний здравого смысла[27]..

Для балансировки локального и глобального контекста применяются механизмы иерархического внимания и скользящих окон. Иерархическое внимание реализуется через многоуровневые архитектуры, объединяющие внутримодальное и межмодальное внимание для захвата долгосрочных зависимостей. Скользящие окна (в том числе асимметричные) используются для ограничения локального контекста при построении графов, что позволяет эффективно выделять краткосрочные эмоциональные сигналы[28]..

Для интерпретации скрытых эмоций и понимания причинно-следственных связей в модели интегрируются базы знаний здравого смысла (такие как ATOMIC, ConceptNet и COMET). Внешние знания помогают связывать поверхностные языковые сигналы с неявными эмоциями, предсказывать намерения говорящего и возможные реакции слушателей. Интеграция этих данных осуществляется через графовые структуры, большие языковые модели и специализированные механизмы внимания, фильтрующие информацию для снижения уровня шума[29].[30][31].

Распознавание причины эмоции в диалоге

В последнее время выделяется новая задача — распознавание причины эмоции в диалоге[32]. Решения этой задачи основаны на механизмах вопросно-ответных систем с использованием языковых моделей. RECCON[32] — один из ключевых датасетов для этой задачи. Для распознавания эмоций в диалогах активно применяются алгоритмы причинно-следственного вывода (Causal Inference), контрфактуального анализа и структурные каузальные модели (SCM), позволяющие выявлять причинно-следственные связи при генерации эмоций[33]. В рамках обеспечения интерпретируемости (Explainable AI) используются графовые модели с механизмами внимания. Например, сеть ECGN (Emotional Contagion Graph Network) объясняет связи между высказываниями-стимулами и эмоциональным откликом через построение гетерогенного графа «эмоционального заражения» и вычисление весов внимания[34].

Применение

Современные сферы применения распознавания эмоций в диалоге (ERC) включают автоматический анализ мнений, обеспечение эмоциональной осведомлённости диалоговых агентов и анализ эмоций в сфере поддержки клиентов. Отдельно выделяется применение ERC в мониторинге психического здоровья и терапевтических практиках[35]. В частности, для ранней диагностики депрессии, тревожности и расстройств, связанных со стрессом, используются высокоточные ЭЭГ-алгоритмы (с точностью до 99,99 %)[36][37].

Примечания

  1. 1 2 3 Poria, Soujanya; Majumder, Navonil; Mihalcea, Rada; Hovy, Eduard (2019). “Emotion Recognition in Conversation: Research Challenges, Datasets, and Recent Advances”. IEEE Access [англ.]. 7: 100943—100953. arXiv:1905.02947. DOI:10.1109/ACCESS.2019.2929050. S2CID 147703962. Дата обращения 2024-06-13. |access-date= требует |url= (справка)
  2. Lee, Chul Min; Narayanan, Shrikanth (Март 2005). “Toward Detecting Emotions in Spoken Dialogs”. IEEE Transactions on Speech and Audio Processing [англ.]. 13 (2): 293—303. DOI:10.1109/TSA.2004.838534. S2CID 12710581. Дата обращения 2024-06-13. |access-date= требует |url= (справка)
  3. Hazarika, Devamanyu; Poria, Soujanya; Zimmermann, Roger; Mihalcea, Rada Emotion Recognition in Conversations with Transfer Learning from Generative Conversation Modeling (англ.). arXiv (октябрь 2019). Дата обращения: 27 августа 2026. Архивировано 1 октября 2021 года.
  4. “A Survey on Emotion Recognition in Conversation: Challenges, Datasets, and Future Directions”. Artificial Intelligence Review. 2024. DOI:10.1007/s10462-024-11010-y. Дата обращения 2026-08-27.
  5. Generative Emotion Understanding: A New Paradigm for MER. AlphaXiv (1 октября 2024). Дата обращения: 27 августа 2026.
  6. Advancing ERC with MLLMs and Open Vocabulary Recognition. AlphaXiv (15 апреля 2026). Дата обращения: 27 августа 2026.
  7. Modeling Intentions and Mental States in ERC using Knowledge Bases. Дата обращения: 27 августа 2026.
  8. Practical Implementation of Intent Modeling in Dialogue Emotion Recognition. Дата обращения: 27 августа 2026.
  9. Formal Definition and Mathematical Formulation of ERC. Дата обращения: 27 августа 2026.
  10. Mathematical Formulation of Dialogue Emotion Recognition. Дата обращения: 27 августа 2026.
  11. Busso, Carlos; Bulut, Murtaza; Lee, Chi-Chun; Kazemzadeh, Abe; Mower, Emily; Kim, Samuel; Chang, Jeannette N.; Lee, Sungbok; Narayanan, Shrikanth S. (5 ноября 2008). “IEMOCAP: interactive emotional dyadic motion capture database”. Language Resources and Evaluation [англ.]. 42 (4): 335—359. DOI:10.1007/s10579-008-9076-6. ISSN 1574-020X. S2CID 11820063. Дата обращения 2024-06-13. |access-date= требует |url= (справка)
  12. McKeown, G.; Valstar, M.; Cowie, R.; Pantic, M.; Schroder, M. (2 января 2012). “The SEMAINE Database: Annotated Multimodal Records of Emotionally Colored Conversations between a Person and a Limited Agent”. IEEE Transactions on Affective Computing [англ.]. 3 (1): 5—17. DOI:10.1109/t-affc.2011.20. ISSN 1949-3045. S2CID 2995377. Дата обращения 2026-08-27.
  13. Li, Yanran; Su, Hui; Shen, Xiaoyu; Li, Wenjie; Cao, Ziqiang; Niu, Shuzi (2017). “DailyDialog: A Manually Labelled Multi-turn Dialogue Dataset”. Proceedings of the Eighth International Joint Conference on Natural Language Processing (Volume 1: Long Papers) [англ.]: 986—995. Дата обращения 2024-06-13. |access-date= требует |url= (справка)
  14. Poria, Soujanya; Hazarika, Devamanyu; Majumder, Navonil; Naik, Gautam; Cambria, Erik; Mihalcea, Rada (2019). “MELD: A Multimodal Multi-Party Dataset for Emotion Recognition in Conversations”. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics [англ.]. Stroudsburg, PA, USA: Association for Computational Linguistics: 527—536. arXiv:1810.02508. DOI:10.18653/v1/p19-1050. S2CID 52932143. Дата обращения 2024-06-13. |access-date= требует |url= (справка)
  15. Ученые Sber AI улучшили распознавание эмоций по голосу с помощью искусственного интеллекта. SberLabs. Дата обращения: 27 августа 2026.
  16. Учёные улучшили распознавание эмоций по голосу с помощью искусственного интеллекта. Go31.ru. Дата обращения: 27 августа 2026.
  17. Сентиментальные машины: как и для чего петербургские ученые создают эмоциональный ИИ. Научная Россия. Дата обращения: 27 августа 2026.
  18. Abdelwahab, Mohammed. Supervised domain adaptation for emotion recognition from speech // 2015 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP) / Mohammed Abdelwahab, Carlos Busso. — Март 2005. — P. 5058–5062. — ISBN 978-1-4673-6997-8. — doi:10.1109/ICASSP.2015.7178934.
  19. Chernykh, Vladimir; Prikhodko, Pavel; King, Irwin Emotion Recognition From Speech With Recurrent Neural Networks (англ.). arXiv (июль 2019). Дата обращения: 27 августа 2026. Архивировано 5 мая 2019 года.
  20. Majumder, Navonil; Poria, Soujanya; Hazarika, Devamanyu; Mihalcea, Rada; Gelbukh, Alexander; Cambria, Erik (17 июля 2019). “DialogueRNN: An Attentive RNN for Emotion Detection in Conversations”. Proceedings of the AAAI Conference on Artificial Intelligence [англ.]. 33: 6818—6825. arXiv:1811.00405. DOI:10.1609/aaai.v33i01.33016818. ISSN 2374-3468. Дата обращения 2024-06-13. |access-date= требует |url= (справка)
  21. Ghosal, Deepanway; Majumder, Navonil; Poria, Soujanya DialogueGCN: A Graph Convolutional Neural Network for Emotion Recognition in Conversation (англ.). EMNLP (август 2019). Дата обращения: 27 августа 2026. Архивировано 19 августа 2025 года.
  22. Jiao, Wenxiang; Lyu, Michael R.; King, Irwin Real-Time Emotion Recognition via Attention Gated Hierarchical Memory Network (англ.). arXiv (ноябрь 2019). Дата обращения: 27 августа 2026. Архивировано 16 апреля 2025 года.
  23. Контрастивное обучение для ERC. AlphaXiv (2025). Дата обращения: 27 августа 2026.
  24. Разделение близких эмоциональных классов. SCITEPress (2025). Дата обращения: 27 августа 2026.
  25. Применение Mamba в ERC. arXiv (2024). Дата обращения: 27 августа 2026.
  26. 1 2 3 Multimodal Emotion Recognition in Dialogue: A Comprehensive Review of Fusion Techniques and Future Directions. Frontiers in Robotics and AI. Дата обращения: 27 августа 2026.
  27. PERC: Personality-Enhanced Representation Contrastive Learning for Emotion Recognition in Conversation. ACL Anthology. Association for Computational Linguistics (2026). Дата обращения: 27 августа 2026.
  28. Hotspot-Gated Fusion for Context-Aware Emotion Recognition in Dialogue. arXiv (15 октября 2025). Дата обращения: 27 августа 2026.
  29. CEICG: Commonsense-Enhanced Inter- and Intra-speaker Contextual Graph for Emotion Recognition in Conversation. PMC. National Library of Medicine (15 сентября 2024). Дата обращения: 27 августа 2026.
  30. CKERC: Commonsense Knowledge-Enhanced Emotion Recognition in Conversation via Large Language Models. PMC. National Library of Medicine (1 октября 2024). Дата обращения: 27 августа 2026.
  31. Leveraging Commonsense Knowledge for Emotion Recognition in Conversation via LLMs. arXiv (11 марта 2024). Дата обращения: 27 августа 2026.
  32. 1 2 Poria, Soujanya; Majumder, Navonil; Hazarika, Devamanyu; Ghosal, Deepanway; Bhardwaj, Rishabh; Jian, Samson Yu Bai; Hong, Pengfei; Ghosh, Romila; Roy, Abhinaba; Chhaya, Niyati; Gelbukh, Alexander (13 сентября 2021). “Recognizing Emotion Cause in Conversations”. Cognitive Computation [англ.]. 13 (5): 1317—1332. arXiv:2012.11820. DOI:10.1007/s12559-021-09925-7. ISSN 1866-9964. S2CID 229349214. Дата обращения 2026-08-27.
  33. Cognitive Model of Conversation using SCM. arXiv (2023). Дата обращения: 27 августа 2026.
  34. ECGN: Emotional Contagion Graph Network. ACL Anthology (2025). Дата обращения: 27 августа 2026.
  35. A Survey on Emotion Recognition in Conversation: Recent Advances and Future Directions. Springer (10 июля 2024). Дата обращения: 27 августа 2026.
  36. Татарстанские ученые приняли участие в создании ИИ для распознавания эмоций. Правительство Республики Татарстан (2 июля 2026). Дата обращения: 27 августа 2026.
  37. Российские и индийские ученые создали ИИ для распознавания эмоций. CNews (2 июля 2026). Дата обращения: 27 августа 2026.