Автоматизированный медицинский писец

Ряд поставщиков не раскрывает, что происходит с пользовательскими данными^[1]; часть продаёт их третьим сторонам, другие целенаправленно отправляют данные коммерческим компаниям для вторичной обработки, цели которой могут не указываться явно. Некоторые сервисы требуют согласия на вторичное использование данных^[5]; иногда пользовательская информация поступает в обучение ПО, зачастую с обещаниями анонимизации, однако деанонимизация технически возможна (то есть можно вычислить личность пациента)^[1]. Большие языковые модели по своей сути способны сопоставлять ввод по огромным датасетам, что позволяет им находить соответствия между разными фрагментами рекордсов. Дополнительные данные о пациенте могут быть получены из других источников — СМИ, приложений, операторов мобильной связи, брокеров данных, интернет-покупок и др. Софт может сопоставить их с анонимизированной записью консультации и по запросу выдать информацию, озвученную пациентом только врачу. Поскольку вся история болезни относится к одному человеку, редко удаётся гарантировать её неидентифицируемость^[6]. Для редких диагнозов или при наличии внешних данных такие меры, как K-анонимность, могут быть малоэффективными. Теоретически, для сохранения приватности может использоваться дифференциальная приватность.

Брокеры данных — крупные ИТ-компании (Google, Amazon, Microsoft) разрабатывают или приобретают медицинских писцов^[4], используя полученные данные для вторичных целей^[5], что вызывает антимонопольные опасения^[7]. Передача медицинских записей для обучения ИИ ранее приводила к судебным искам^[8].

Открытое ПО обычно обрабатывает всё локально на компьютере врача^[9][10]. Открытое ПО широко используется в здравоохранении: национальные службы организуют хакатоны по его внедрению^[11].

Многофакторная аутентификация доступа к данным является стандартом.

Как правило, используется протокол Диффи — Хеллмана, широко применяемый и в онлайн-банкинге. Такой тип шифрования затратен, но не невозможен для взлома — защиты может не хватить против атак со стороны госструктур^[2].

Если данные шифруются только между клиентом и сервером (транспортное шифрование), сервер имеет расшифрованную копию записи — это необходимо, если поставщик использует данные, например, для обучения модели. Шифрование с нулевым разглашением гарантирует, что расшифрованные данные хранятся только у клиента, а сервер не способен их открыть — аналогично атакам типа «человек посередине».

Автоматизированные писцы могут работать на настольных, портативных и мобильных устройствах с разными ОС; риски зависят от платформы — например, мобильные устройства могут быть утеряны^{[12][13][14][15]}. Мобильные и настольные ОС — часть доверенной вычислительной базы; если сама ОС небезопасна, то и зависимое от неё ПО не может быть защищено^[16][17].

Как и другие большие языковые модели, ИИ-писцы часто склонны к галлюцинированию, то есть могут придумывать фрагменты текста на основе статистических закономерностей между тренировочными данными и аудио^[1]. БЯМ не различают задачу простого распознавания и догадки, какой фрагмент текста должен идти дальше^[18]. Особенно часто они «дорисовывают» речь в моменты коротких пауз или неразборчивых шумов^[5][18].

Задокументированы случаи, когда ИИ-писцы воспроизводили расистские или иные предвзятые утверждения — отчасти по причине наличия в тренировочных датасетах псевдонаучных медицинских текстов по данной теме. Модели могут неправильно определять пол пациента^[1]. Большинство врачей считают, что обучение должно вестись только на данных, верифицированных медицинскими экспертами^[19]. Чем выше качество обучающих данных, тем вероятнее точная транскрипция записи, но абсолютной гарантии нет^[18]. ПО, обученное на тысячах реальных бесед, показывает меньшую долю ошибок по словам. Модели, обученные на вручную размеченных данных, как правило, дают лучшие результаты по сравнению с автоматическими субтитрами и автотранскрипциями^[4] (например, субтитры к видео на YouTube).

Автописцы часто опускают классы реплик, сочтя их несущественными. Иногда это приводит к тому, что важные сведения отсеиваются как «нерелевантные». Они могут путать анамнестические и текущие симптомы или ошибочно интерпретировать факты. Возможны элементарные ошибки распознавания — запись реальных слов с искажением смысла. Если врачи не тщательно проверяют итоговую запись, такие ошибки попадают в медицинские документы и потенциально приводят к вреду для пациента.

Профессиональные медицинские организации, как правило, требуют получения согласия пациента на использование автоматизированного писца; иногда требуется письменное согласие. Врачи обязаны соблюдать и местные законы о прослушивании и записи переговоров — без ведома участников это может быть преступлением^[20]. Пациент должен получать полную информацию о порядке шифрования, передачи, хранения и уничтожения его данных. В ряде юрисдикций запрещена передача данных в другие страны или их обработка, если там не действует аналогичный режим защиты; поставщики, не гарантирующие отсутствие трансграничных передач, не могут применяться легально.

Отдельные поставщики собирают данные для последующего использования или продажи. Медработники несут ответственность за ознакомление с пользовательским соглашением и выявление подобных условий. Обычно пациенту должны сообщать о вторичном использовании сведений, предлагать отказаться и получать отдельное согласие на каждый такой случай. Данные не могут применяться вне рамок согласия^[21].

По состоянию на 2024 год рынок медицинских писцов отличается высокой конкуренцией: на нём представлено более 50 продуктов. Многие из них — это проприетарные надстройки над одними и теми же backend-решениями больших языковых моделей^[7], включая такие модели, разработчики которых прямо предупреждают, что их нельзя использовать для критически важных медицинских задач^[22]. Часть поставщиков предлагает продукты, заточенные под отдельные отрасли медицины (большинство ориентировано на врачей общей практики, которые составляют около трети врачей). Всё чаще подобные инструменты позиционируются не только как писцы, но и как интеллектуальные ассистенты и со-пилоты для врачей^[7], что вызывает дополнительные опасения по части точности работы^[5][18]. В частности, извлечение фактов из разговора для заполнения форм может приводить к тому, что симптомы будут автоматически ошибочно помечены как «отсутствующие», даже если о них шла речь. Модели часто не извлекают косвенные жалобы, например, если пациент не использует слово «бессонница», но говорит, что спит только 4 часа^[4].

БЯМ формируют не достоверные факты, а лишь последовательности, похожие на факты. Применение шаблонов и правил улучшает результат при извлечении семантики^[22], но «галлюцинации» — убедительные, но ошибочные тексты — являются неустранимым свойством технологии.

За исключением полностью открытых решений (бесплатных), ПО медицинского писца распространяется по модели аренды («программное обеспечение как услуга»). Абонентская плата колеблется от нескольких десятков до тысяч долларов США в месяц. Некоторые компании применяют условно-бесплатную модель: определённое число транскрипций — бесплатно^[23][24].

Писцы, интегрированные с электронными историями болезни и исключающие копипаст, стоят обычно дороже^[25].

Полностью открытое ПО-писцы не имеют лицензионной платы; пользователь может установить их самостоятельно либо заказать установку. Подобные решения допускают установку как на конечное устройство, так и на локальный сервер (к примеру, внутри клиники). Их можно сконфигурировать на полный запрет передачи данных вовне — вплоть до полной работы без подключения к интернету.

ИИ-автоматизация медицинских писцов уже меняет здравоохранение, напрямую помогая бороться с проблемами, наиболее сильно влияющими на медицинских специалистов — прежде всего, с административной перегрузкой и профессиональным выгоранием.

Ключевой эффект ИИ-писцов — автоматизация рутинной работы по документированию, резко снижающая рабочую нагрузку и освобождающая время медработников. Системы транскрибируют аудио- и текстовые итоги консультаций, позволяя врачам больше времени уделять пациентам. Исследования показывают, что значительная часть рабочего времени медиков уходит на ведение документации, что приводит к усталости и ухудшает качество коммуникации с пациентом^[26]. Например, в крупнейшем британском проекте практического внедрения амбиентного ИИ 4 из 5 врачей общей практики отметили сокращение времени работы благодаря автоматизированному писцу и улучшение контакта с пациентом^[27].

Автоматизация сокращает число повторяющихся действий, улучшая баланс между работой и личной жизнью врачей и снижая объём работы внеурочно. Это напрямую способствует снижению стресса и предотвращает выгорание, что особенно актуально в последние годы^[28]. Передача рутинных задач системам ИИ позволяет снять часть эмоциональной и когнитивной нагрузки, рабочее время может быть распределено в пользу приоритетных клинических задач, растёт удовлетворённость работой.

Помимо профилактики выгорания, ИИ-писцы способствуют росту профессионального удовлетворения: врачи могут уделять больше внимания содержательной части работы, общению и клиническому принятию решений. Медики сообщают о большей вовлечённости и возможности вести более содержательные беседы без отвлечения на клавиатуру или диктовку заметок^[29]. Благодаря этому растёт качество взаимодействия с пациентом, а также происходит оптимизация рабочих процессов, позволяющая сотрудникам осваивать более интересные направления и чувствовать большую мотивацию^[30].

Рост распространения ИИ-писцов — часть глобального тренда интеграции искусственного интеллекта и автоматизации в здравоохранение с целью улучшения условий труда. Задача ИИ — не просто заменить рутинные действия, но и поддержать медицинского специалиста, освободив его для общения с пациентом и критических решений. При снижении административной нагрузки у врачей реже развивается выгорание и растёт удовлетворённость профессией^[31]. Таким образом, автоматизированные писцы — важная составляющая будущего здравоохранения: они поддерживают психическое здоровье врачей и способствуют устойчивости системы здравоохранения.