Персонализированные вычисления

Целью этой области является описание и моделирование личности (например, на основе «большой пятёрки» личностных черт), используя собранную и анализируемую информацию — такие как написанные тексты, цифровые следы, фотографии, аудио- и видео-данные (современные технологии позволяют подробно картировать качество и интонацию голоса, отражающие тонкие различия личности^[2]), многокомпонентные данные, использование смартфона и социальных сетей, невербальные поведения, шаблоны речей, взаимодействие в играх и пр. Кроме того, сегодня стало возможным создавать чат-ботов или аватары с видимостью сложной и всё более «достоверной» личности.

Эти возможности порождают сложные этические вопросы, в частности, связанные с быстрым развитием ИИ и распространением средств наблюдения (особенно с помощью камер).

Термин был введён Винчарелли и Мохаммади^[3], однако существуют и другие обозначения этого направления исследований:

Синонимы

• вычислительная оценка личностных черт^[4]
• цифровое фенотипирование
• психоинформатика^[5]
• определение личности^[6][7]
• автоматическое определение личности^[8]
• оценка личности с помощью машинного обучения^[9]
• автоматическая оценка личности^[10]

Персонализированные вычисления рассматривают три основные задачи, связанные с личностью:

• автоматическое распознавание, восприятие и синтез личности^[11]
• автоматическое распознавание личности связано с выводом типа личности и личностных черт конкретного человека на основе его цифрового следа
• автоматическое восприятие личности — это вывод о личности, который приписывает наблюдатель на основании наблюдаемого поведения

Автоматизированный синтез личностных свойств, обычно с помощью генеративного ИИ, позволяет создавать черты поведения или искусственный стиль личности, например, для виртуальных агентов или аватаров.

Тесты личности или экспертные оценки часто используются в качестве «эталонной правды» для проверки и валидации работы алгоритмов искусственного интеллекта для автоматического предсказания типов личности^[12]. Существует много различных тестов личности, таких как Индикатор типа Майерс — Бриггс (Myers Briggs Type Indicator, MBTI)^[13] или MMPI, но наиболее распространены тесты, основанные на модели пяти факторов, например Revised NEO Personality Inventory^[14].

Персонализированные вычисления можно рассматривать как расширение или дополнение аффективных вычислений, где первые фокусируются на устойчивых личностных чертах, а вторые — на аффективных состояниях. Совместным расширением этих областей выступают так называемые Character Computing, объединяющие разные черты и состояния характера, включая, но не ограничиваясь ими, личность и аффект.

Персонализированные вычисления появились примерно в 2005 году на волне первых исследований в автоматическом распознавании личности, показавших, что личностные черты можно с достаточной точностью выводить из текстов — например, блогов, самопрезентаций^[15][16][17], а также электронных писем^[18].

В 2008 году был разработан концепт «переносимой личности» для распределённого управления профилями личности^[19].

Несколько лет спустя начались исследования по распознаванию и восприятию личности по мультимодальным и социальным сигналам — например, по записям встреч^[20] и телефонным звонкам^[21].

В 2010-е годы исследования фокусировались в основном на анализе личности в социальных медиа. В те же годы автоматическая генерация личности позволила повысить согласованность поведения у виртуальных агентов^[22].

Научные исследования подтвердили валидность «персонализированных вычислений» на разных видах цифровых следов, в том числе на предпочтениях пользователей, таких как лайки на страницах Facebook^[23]. Дальнейшее развитие ИИ, машинного обучения и глубокого обучения позволило измерять индивидуальные различия всё более тонкими и сложными способами, которые с трудом поддаются фальсификации^[24]. В ряде случаев, машины способны распознавать личность точнее, чем люди, даже по интимным аспектам, а также выявлять сложные закономерности, недоступные традиционной статистике^[25]. Однако такие технологии могут противоречить нормам конфиденциальности и автономии личности — с учётом того, что у ИИ могут наблюдаться предубеждения по этническим, религиозным, гендерным, физическим и культурным основаниям, что грозит серьёзными дискриминациями^[26].

Возможности ИИ позволяют обходить анонимизацию и маскирование данных, а подробное знание черт личности даёт возможности для несанкционированного, незаконного и навязчивого психологического профилирования, нарушая автономию человека и свободу информированного выбора — что способно подрывать демократические процессы и саму возможность свободного самоопределения^[27]. Массовое применение таких подходов наблюдалось на практике в случае Cambridge Analytica и AggregateIQ^[28]. Всё это вызывает новые и сложные моральные, юридические, социальные и этические вопросы — особенно в контексте капитализма наблюдения и социального скоринга.

Потенциально персонализированные вычисления могут помочь психологам и врачам лучше понимать своих пациентов, а также повысить качество здоровья и благополучия за счёт более индивидуализированных вмешательств^[29].

Одновременно, технологии персонализированных вычислений, особенно автоматическое распознавание и восприятие личности, находят широкое применение в социальном маркетинге, где они позволяют более точно и экономично нацеливать рекламные кампании, а также использовать психологическое таргетирование для скрытого влияния и дезинформации^[30][31]. Это связано с рисками усиления злоупотреблений, вроде скандала Кембридж Аналитика — Facebook, применения скрытых ИИ-платформ (например, Ripon) и подрыва демократических институтов.