Вычислительное доверие

Механизмы безопасности, основанные на идентичности, не могут авторизовать выполнение операции без аутентификации запрашивающего субъекта. Это означает, что взаимодействие невозможно, пока обе стороны не распознаны их системами аутентификации. Спонтанное взаимодействие потребовало бы наличия одного или нескольких доверенных центров сертификации (CA). В современном контексте PKI не рассматриваются из-за ряда проблем, и маловероятно, что они утвердятся как стандарт в ближайшем будущем. Пользователь, желающий сотрудничать с другой стороной, вынужден выбирать между обеспечением безопасности (и, соответственно, отключением спонтанного сотрудничества) или отказом от части безопасности ради возможности спонтанного сотрудничества. Важно, чтобы мобильные пользователи и устройства могли аутентифицироваться автономно, не полагаясь на общую инфраструктуру аутентификации. Для решения этой задачи необходимо рассмотреть вызовы, порождённые «глобальными вычислениями»^[4] — термином, предложенным Европейским союзом (ЕС) для обозначения будущего глобального информационного общества, — и выявить их воздействие на средства безопасности.

Криптовалюты используют такие методы, как подтверждение выполнения работы (PoW), для достижения вычислительного доверия в своих транзакционных сетях.

Вычислительное доверие переносит человеческое понятие доверия в цифровую среду, которую чаще рассматривают как враждебную, а не кооперативную. Ожидаемые преимущества, по мнению Marsh и других исследователей, реализуются за счёт использования способностей других посредством делегирования и благодаря росту сотрудничества в открытой и менее защищённой среде. Исследования в области вычислительных механизмов доверия и репутации в виртуальных сообществах направлены на повышение надёжности и эффективности цифровых сообществ^[5].

Доверительное решение в определённой области — это многоступенчатый процесс. Первый шаг заключается в идентификации и выборе исходных данных, то есть свидетельств доверия. Обычно они специфичны для области и получаются на основе анализа используемого приложения. Следующий этап — вычисление уровня доверия, то есть оценка благонадёжности участников в данной области. Выбор свидетельств и процесс вычисления доверия зависят от понятий доверия, заложенных в модели доверия. Окончательное решение принимается с учётом вычисленных значений и внешних факторов, таких как склонность или оценка риска.

Эти концепции приобрели особую значимость в последние десятилетия в информатике, особенно в области распределённого искусственного интеллекта. Парадигма многоагентных систем и рост электронной коммерции повысили интерес к доверию и репутации. На самом деле системы доверия и репутации признаны ключевыми факторами для электронной коммерции. Такие системы используются интеллектуальными программными агентами как стимул для принятия решений: например, стоит ли выполнять то или иное соглашение, а также как механизм для поиска надёжных контрагентов. Особенно репутация применяется в электронных рынках как механизм усиления доверия или способ избежать мошенников.

Ещё одна область применения этих концепций в агентных технологиях — работа в группах и кооперация. За последние годы было предложено множество определений человеческого доверия в различных областях — от социологии и психологии до политологии и экономики. Эти определения могут меняться в зависимости от предметной области. Например, современное определение Романо стремится объединить предыдущие теории из разных сфер:

Доверие и репутация оба обладают социальной ценностью. Если кто-то пользуется доверием, от него ожидают благоприятного или, по крайней мере, не вызывающего подозрений поведения, что с высокой вероятностью обеспечивает успешное сотрудничество с ним. Напротив, если кто-то не вызывает доверия, с ним менее охотно сотрудничают, поскольку вероятность успеха совместных действий ниже^[6].

Доверие тесно связано с уверенностью и предполагет некую степень неопределённости, надежды или оптимизма. В дальнейшем Marsh предпринял попытку формального описания доверия как вычислительной концепции. Его модель доверия базируется на социальных и психологических факторах.

В литературе появилось множество предложений; ниже приводится подборка вычислительных моделей доверия и репутации, показывающая основные тенденции современных исследований^[7].

Доверие и репутацию можно анализировать с разных точек зрения; их можно применять в разных ситуациях. Следующая классификация основана на особенностях моделей и среды их применения.

Модели доверия и репутации могут быть охарактеризованы как:

• Когнитивные

В моделях, основанных на когнитивном подходе, доверие и репутация складываются из ряда убеждений и зависят от их степени. Психические состояния, приводящие к доверию другому агенту или присвоению репутации, а также последствия такого решения и сам факт передачи доверия другому агенту — неотъемлемая часть этих моделей;

• Нейрологические

В нейрологических моделях доверия используются теории взаимодействия аффективных и когнитивных состояний на нейрофизиологическом уровне, включая теории телесного воплощения эмоций^[8]. Динамика доверия связывается с опытом взаимодействия с внешними источниками как с когнитивной, так и с эмоциональной стороны. Для моделирования чувств используются рекурсивные телесные петли, а аналогии с гипотезой соматических маркеров применяются к адаптации на основе обучения Хебба^[9].

• Игровые

Доверие и репутация рассматриваются как субъективные вероятности, с которыми один участник (A) ожидает, что другой (B) выполнит некое действие, от которого зависит его благополучие^[10].

В этом подходе доверие и репутация — не следствие психического состояния агент, а результат прагматической игры с полезностью и числовой агрегацией прошлых взаимодействий.

Модели можно классифицировать по использованию источников информации для вычисления доверия и репутации. Традиционные источники — это прямой опыт и свидетельские данные, однако современные модели учитывают и социологические аспекты поведения агентов. Чем больше разнообразных источников использует модель, тем надёжнее получается результат, но тем сложнее становится модель.

Прямой опыт — наиболее релевантный и надёжный источник информации для модели доверия или репутации. Можно выделить два типа прямого опыта:

• опыт непосредственного взаимодействия с участником;
• наблюдение за взаимодействием других членов сообщества.

Свидетельская информация, или косвенные данные, поступает от других участников. Она может базироваться как на их собственном опыте, так и на сведениях, полученных от третьих лиц. Свидетельская информация обычно самая массовая, но её использование при моделировании доверия и репутации сопряжено с неопределённостью и риском манипуляции.

Люди в сообществе устанавливают разные типы отношений. Каждый играет одну или несколько ролей, что влияет на их поведение и взаимодействие. В многоагентных системах отношения между агентами — упрощённая модель человеческих социальных связей. Немногие модели доверия и репутации используют такого рода данные, например, через анализ социальных сетей. Эти методы изучают взаимосвязи индивидов — возникло целое направление для анализа социальной структуры^[11].

Предубеждение — ещё один, хотя и менее распространённый, механизм, влияющий на доверие и репутацию. Согласно этому подходу, индивиду приписываются характеристики группы, к которой он относится (например, по форме одежды, характерному поведению и пр.)^[12]

В современном понимании термин «предубеждение» — это скорее негативное отношение к социальной группе, часто по расовому признаку. Однако при применении к агентным системам этот негативный оттенок исчезает, а используемые признаки не подлежат этическому обсуждению, в отличие от признаком человеческих обществ — цвет кожи, пол и т. д.

Многие работы в когнитивных и социальных науках отмечают иррациональное, искажённое поведение человека в отношении доверия. В последние годы разрабатываются и валидируются модели человеческого доверия с учётом предвзятости, которые показывают большую точность прогноза, чем беспристрастные^[13].

Для представленных выше моделей доверия и репутации наибольшее значение имеют прямой опыт и свидетельская информация. В электронных рынках социологическая информация почти отсутствует, хотя могла бы повысить эффективность моделей. Однако рост сложности моделей за счёт учёта новых источников информации целесообразен только, если такая информация действительно доступна и применяется на практике. Агрегация разнообразных свидетельств доверия и репутации полезна, но усложняет обобщённое решение. Многие модели зависят от характеристик среды, и возможным решением видится внедрение адаптивных механизмов, которые подстраивают обработку информации к условиям среды. В литературе приведено множество определений доверия и репутации и разные трактовки их взаимосвязи^{[14][15][16][17]}.

Репутация помогает формировать доверие по отношению к другим. В настоящее время теория игр — преобладающая парадигма для проектирования вычислительных моделей доверия и репутации. Это объясняется тем, что значительное число экономистов и информатиков с хорошей подготовкой в области теории игр и ИИ работают в сфере многоагентных систем и электронной коммерции. Теоретико-игровые модели дают хорошие результаты, но могут оказаться неадекватными при увеличении социальных связей и усложнении взаимодействия. Дальнейшие исследования могут идти по линии интеграции когнитивных и игровых подходов; особое внимание уделяется учёту времени и развитию новых метрик доверия^[18] — это примеры первых шагов к совершенствованию вычислительного доверия^[19].

Важной проблемой в моделировании доверия остаётся вопрос о передаваемости оценок доверия между агентами. Социальные науки считают, что абсолютные значения доверия непереносимы, но более утилитарный подход допускает, что квалифицированные суждения о доверии могут быть полезны, если совместные решения лучше изолированных. В ^[20] авторы исследуют проблему передачи доверия в открытых распределённых системах и предлагают механизм перевода, повышающий точность и полезность передаваемой информации.

На данный момент не существует общепринятой системы или эталона для сравнения моделей доверия в одинаковых условиях. В одном из направлений предложен игровой подход, в рамках которого конфигурация модели доверия оптимизируется под атаки с учётом наилучшей стратегии атакующего; это позволяет сравнивать ожидаемую полезность разных моделей. Также предложена аналитическая модель для прогноза эффективности механизмов репутации против различного рода атак для пиринговых систем^[21].