Конфиденциальность виртуальных ассистентов
Конфиденциальность виртуальных ассистентов — это область, изучающая вопросы безопасности и конфиденциальности персональных данных, передаваемых и обрабатываемых виртуальными ассистентами (виртуальными помощниками). Виртуальные ассистенты — это программное обеспечение, предназначенное для помощи пользователю в выполнении различных задач[1]. К самым известным относятся Alexa (Алекса) от Amazon, Siri (Сири) от Apple; также подобные продукты есть у Google и Microsoft. Существует обеспокоенность тем, как операторы этих ассистентов используют и защищают передаваемые им данные[2].
Поскольку виртуальные ассистенты, как и роботы или прочие системы искусственного интеллекта, часто воспринимаются как «заботливые» сущности, пользователи склонны пренебрегать потенциальными рисками для конфиденциальности в пользу удобства. Люди теснее взаимодействуют с устройствами, которые имитируют человеческое поведение, что и делают виртуальные ассистенты[3]. В подходе privacy by design (приватность по конструкту) и концепции виртуальной кнопки безопасности (Virtual Safety Button, КБВ) предложены методы, направленные на достижение баланса между удобством и защитой данных пользователя.
Одноуровневая и многоуровневая верификация
Виртуальная кнопка безопасности, способная распознавать движения, предложена как способ усиления верификации на устройствах, где сегодня применён только один уровень проверки. Современные ассистенты часто активируются лишь по голосовой команде, которая может быть произнесена кем угодно, а не только владельцем[4]. Многоуровневая верификация предполагает прохождение нескольких стадий проверки прежде, чем ассистент включится. КБВ — пример второй ступени, где ассистент, например Alexa, активируется только при одновременном сочетании голоса и движения[4].
Риск возникает в случае, если, например, Amazon Alexa остаётся без присмотра в доме: сейчас единственной защитой служит голосовая активация, не требующая присутствия владельца[4]. Это вызывает вопросы о безопасности обрабатываемых данных и побуждает индустрию внедрять дополнительные уровни верификации, такие как кнопка безопасности[4].
Голосовая верификация в Siri
Функция «Привет, Сири» позволяет iPhone постоянно слушать окружающие звуки до тех пор, пока не будет распознана активационная фраза[5]. Если пользователь отключает эту функцию, устройство не будет постоянно ожидать команду и, соответственно, окружающий звук записываться не будет[5]. Верификация по голосу представляет собой пример одноуровневой защиты, где исключительно голос используется для подтверждения личности владельца.
Примеры виртуальных ассистентов
Alexa от Amazon
Alexa интегрирована с умной колонкой Echo, представляет собой устройство, полностью управляемое голосом, и может воспроизводить музыку, предоставлять справочную информацию и выполнять иные функции[6]. Управление происходит только голосом; кнопок нет, а также отсутствует механизм, позволяющий убедиться, что распознан именно голос владельца[4]. Виртуальная кнопка безопасности предлагается как дополнительный уровень защиты для этого ассистента[4].
Преимущества добавления кнопки безопасности (КБВ) к Alexa
КБВ использует Wi-Fi-технологии для обнаружения кинематического движения человека[4]. Например, сценарии кражи представляют опасность, потому что умный замок может сработать при обнаружении движения[4]. Введение дополнительного уровня проверки с помощью КБВ снижает подобные риски[4]. Добавление КБВ обеспечивает не только дополнительную защиту, но и большую приватность устройства[4].
Siri от Apple
Siri — ассистент Apple для iPhone, который собирает предоставляемые пользователем данные и может их анализировать[2]. Ключевую роль в уровне приватности играет экосистема интерфейса, где хранятся эти данные; среди особенно уязвимой информации — местоположение при использовании GPS[7]. Любая информация, передаваемая ассистенту (например, координаты), сохраняется внутри такой экосистемы[7].
«Привет, Сири»
Фраза активации «Привет, Сири» переводит устройство в режим прослушивания, и ассистент будет улавливать окружающий звук до повторного обнаружения фразы[5]. Это особенно полезно для людей с нарушением зрения, поскольку позволяет им управлять приложениями исключительно голосом[8].
Уровень верификации в Siri
В Siri также реализован только один уровень проверки. Если пользователь настраивает код доступа для определённых функций, Siri попросит его ввести. Однако ради удобства многие пользователи отказываются от использования паролей[4].
Cortana
Cortana — ассистент компании Microsoft, также активируется голосом и предусматривает только один уровень проверки[6]. Кнопка виртуальной безопасности как второй уровень не используется. Большинство команд — справка о погоде, звонки и навигация — требуют доступа к персональным данным пользователя, что создаёт риски для конфиденциальности.
Ассистент Google
Ассистент Google (ранее Google Now) считается наиболее «человеко-подобным» ассистентом[6]. Это объясняется как расширенными возможностями обработки естественного языка, так и предварительным предугадыванием пользовательских желаний. Некоторые подобные взаимодействия называют промокомандами[6].
Автоматизированные виртуальные ассистенты для совместных поездок
Компании, предоставляющие услуги совместных поездок, такие как Uber и Lyft, используют искусственный интеллект для масштабирования и оптимизации процессов. Алгоритмы устанавливают динамические («пиковые» или prime time) тарифы исходя из спроса и предложения[9]. Искусственный интеллект также помогает решать вопросы приватности при работе с конфиденциальными данными клиентов, однако сохраняет вопросы о рисках приватности в компаниях этого типа[9].
Доступность условий использования
Условия использования — первый этап, на котором пользователь предоставляет компаниям (например, Apple) доступ к своим данным. Контракт уточняет функциональность устройств и их возможности, а также информацию, которая допускается к обработке как приватная[10]. При этом даже если пользователь читает этот текст, его изложение часто запутанно и неконкретно: информация обычно дана мелким шрифтом и распространяется на широкий круг случаев, мало понятных среднему пользователю[10].
Приватность по дизайну
Приватность по дизайну — подход к защите данных, при котором меры конфиденциальности закладываются уже на этапе проектирования интерфейса и всего продукта[11]. Даже сервисы, не связанные напрямую с геолокацией, потенциально могут отслеживать местоположение пользователя — например, посредством Wi-Fi. Всё больше организаций стремятся к стандартизации и внедрению принципов «приватности по конструкту»[11].
Если продукт не учитывает приватность по дизайну, производитель должен добавить соответствующие решения на других этапах. Главная цель — обеспечение такого организационного и технологического стандарта, который бы предотвращал появление уязвимостей[11]. Такой подход может быть применён и к виртуальным ассистентам.
Существует ряд патентов и предложений, согласно которым системы искусственного интеллекта должны по умолчанию поддерживать различные режимы работы с приватными данными. Внедрение методов privacy by design избавляет компании от необходимости «достраивать» защиту приватных данных для будущих версий продуктов — защита закладывается на изначальном этапе[12]. Это делает функционирование алгоритмов приватности более надёжным, включая даже экстремальные сценарии[11].
Искусственный интеллект
Искусственный интеллект призван имитировать действия человека, облегчая выполнение повседневных задач[13]. В процессе автоматизации формируется множество пользовательских интерфейсов.
Остаётся нерешённой проблема выбора, какую информацию виртуальный ассистент должен обрабатывать и хранить[13]. В контексте ИИ и виртуальных ассистентов важно понимать, какую часть данных они получают и каким образом может быть поставлена под угрозу приватность пользователя.
Полемика
С развитием виртуальных ассистентов растёт и общественное беспокойство по поводу их возможной политической ангажированности, способности транслировать спорные точки зрения с массовым влиянием, а также широкого распространения этих технологий[14].
Также вызывает вопросы использование методов краудсорсинга, предоставляющего возможности для инноваций через пользовательский вклад, но потенциально позволяющего компаниям присваивать себе идеи, предложенные пользователями[15].
Методика «Волшебник страны Оз»
Одной из методик исследования взаимодействия между человеком и роботом является подход «Волшебник страны Оз»: исследователь-оператор частично управляет устройством, пока пользователь выполняет задание[16]. Данный подход дополняется оценкой со стороны человека, что позволяет совершать тесты и оптимизацию систем искусственного интеллекта и роботов[16]. Таким образом, максимизация «человечности» — не всегда необходимое условие: ассистенты могут быть эффективными, даже если не стремятся полностью имитировать человека.