ИИ-агент
ИИ-аге́нт — это программная система на основе технологий искусственного интеллекта, способная автономно выполнять задачи от имени пользователя или другой системы. Такой агент воспринимает данные из окружающей среды, планирует действия и использует доступные инструменты для достижения заданной цели. Современные ИИ-агенты часто объединяют языковую модель, память, внешние интерфейсы и средства проверки промежуточных результатов[1].
Общие сведения
| ИИ-агент | |
|---|---|
| англ. AI agent | |
| Область использования | искусственный интеллект, информатика, автоматизация, робототехника |
| Дата появления | XX век (теоретическое понятие) |
| Место появления | международная научная и технологическая среда |
Определение
В общем смысле агентом называют систему, которая находится в некоторой среде, получает сведения о её состоянии и воздействует на неё для достижения поставленных целей. Способность агента самостоятельно выбирать действия в пределах установленных правил отличает его от программы, выполняющей только заранее заданную последовательность команд[2].
Термин «ИИ-агент» представляет собой современное прикладное обозначение систем, способных интерпретировать задачу, планировать её выполнение и взаимодействовать с внешними ресурсами. Его теоретические корни связаны с более ранними понятиями «автономный агент» (англ. autonomous agent) и «интеллектуальный агент» (англ. intelligent agent). В современных реализациях в качестве управляющего компонента часто применяется большая языковая модель, дополненная памятью, инструментами и механизмами планирования[3].
История термина
Основы теории
Понятия автономных и интеллектуальных агентов появились в информатике и исследованиях искусственного интеллекта задолго до распространения генеративных моделей. В классическом понимании агент представляет собой программную или физическую систему, которая воспринимает среду, принимает решения и действует в ней с определённой степенью самостоятельности. К этой категории относили экспертные системы, программных помощников, роботов и участников многоагентных систем.
Понятие агента стало значимым для искусственного интеллекта и информатики в целом к середине 1990-х годов. В 1995 году Майкл Вулдридж и Николас Дженнингс опубликовали обзор «Intelligent Agents: Theory and Practice», выделив три направления исследований: теорию агентов, изучающую саму природу агента и математические формализмы для описания его свойств; архитектуры агентов как инженерные модели их построения; языки агентов для программирования таких систем[4].
В том же году вышло первое издание учебника Стюарта Расселла и Питера Норвига «Искусственный интеллект: современный подход», где авторы датируют появление подхода, основанного на использовании интеллектуальных агентов, 1995 годом и определяют искусственный интеллект как науку проектирования рациональных агентов[5].
Теория интеллектуальных агентов охватывала вопросы автономности, рационального выбора действий, взаимодействия со средой и координации между несколькими системами. Поэтому современные ИИ-агенты рассматриваются как развитие существовавшего направления, а не как принципиально новое понятие, возникшее одновременно с большими языковыми моделями[4].
Современное значение
В 2020-х годах термин получил новый виток популярности вследствие распространения генеративного искусственного интеллекта и больших языковых моделей. В прикладной и индустриальной речи ИИ-агентами стали называть системы, которые не ограничиваются формированием ответа, а могут разбить задачу на этапы, выбрать инструменты, выполнить действия и изменить план с учётом полученных результатов[6].
Распространение диалоговых языковых моделей сделало агентные системы заметными для массового пользователя, однако их теоретические основы существовали ранее. Современный этап развития характеризуется прежде всего объединением языковых моделей с программными инструментами, корпоративными системами, поиском и автоматизированными рабочими процессами[6].
Основные признаки
Единого набора обязательных признаков ИИ-агента не существует. Обычно с такими системами связывают следующие свойства[7]:
- Автономность — способность выполнять последовательность действий без получения отдельного указания пользователя на каждом этапе;
- Целеполагание — ориентация работы системы на достижение заданного результата;
- Восприятие среды — получение данных из документов, пользовательских интерфейсов, датчиков, веб-ресурсов, баз данных, программных интерфейсов и внутренних информационных систем;
- Планирование — разбиение общей задачи на подзадачи и выбор порядка их выполнения;
- Действие — обращение к инструментам, запуск программ, изменение данных или выполнение операций во внешних системах;
- Адаптация — корректировка последующих действий с учётом промежуточных результатов, ошибок и изменений среды.
Наличие отдельных признаков не всегда позволяет однозначно отнести систему к ИИ-агентам. Степень автономности, возможности планирования и доступ к внешним инструментам различаются в зависимости от назначения, архитектуры и установленных ограничений[8].
Как работает ИИ-агент
Работу ИИ-агента часто описывают как повторяющийся цикл «наблюдение — рассуждение — действие». Конкретная реализация зависит от задачи, но типичный процесс включает следующие этапы[9]:
- Получение цели или запроса от пользователя, другой программы либо внешней системы;
- Интерпретация задачи, определение ограничений и выбор общей стратегии;
- Разбиение задачи на последовательность шагов и определение необходимых инструментов;
- Выполнение действий через программные интерфейсы, базы данных, браузер, электронные таблицы, программный код или другие средства;
- Получение и проверка промежуточного или окончательного результата;
- Корректировка плана и повторение отдельных действий, если результат не соответствует заданным условиям.
Агент может выполнять цикл один раз либо повторять его до достижения цели, возникновения ошибки или срабатывания ограничения. При этом его самостоятельность обычно ограничивается правилами, доступными инструментами, вычислительными ресурсами и разрешениями пользователя[10].
Архитектура
В архитектуру ИИ-агента могут входить следующие компоненты[11]:
- Модель — одна или несколько моделей, используемых для интерпретации запросов, анализа данных, выбора действий и генерации результатов. В современных системах эту роль часто выполняет большая языковая модель;
- Память — механизм сохранения контекста текущей задачи и сведений, необходимых при последующих обращениях. Память может быть краткосрочной, действующей в пределах одной сессии, или долговременной;
- Инструменты — браузер, поиск, файловая система, электронная почта, календарь, базы данных, корпоративные системы, программные интерфейсы и среды выполнения кода;
- Оркестрация — программный слой, который управляет последовательностью операций, передачей данных между компонентами, выбором инструментов и соблюдением ограничений;
- Среда исполнения — инфраструктура, в которой выполняются действия агента и обеспечиваются разграничение прав, журналирование и контроль доступа.
Большая языковая модель сама по себе не обязательно является агентом. Агент представляет собой более широкую программную систему, в которой модель может выступать механизмом интерпретации и принятия решений наряду с памятью, инструментами, оркестратором и средствами контроля[12].
Отличие от смежных понятий
Термин «ИИ-агент» пересекается с несколькими понятиями в области искусственного интеллекта и автоматизации, но не является их полным синонимом[13].
| Понятие | Основное отличие |
|---|---|
| ИИ-модель | Модель выполняет генерацию, классификацию, прогнозирование или другую операцию над входными данными. Агент использует модель либо набор моделей в составе системы, способной планировать и выполнять действия. |
| Чат-бот | Чат-бот представляет собой диалоговый интерфейс и может ограничиваться ответами на сообщения. ИИ-агент способен выполнять многошаговые действия и взаимодействовать с внешними системами. |
| Интеллектуальный агент | Более широкое и раннее теоретическое понятие, которое охватывает программные и физические системы, воспринимающие среду и действующие в ней. |
| Агентный ИИ | Термин «агентный ИИ» (англ. agentic AI) часто обозначает более широкий класс технологий и архитектур, обладающих агентным поведением, тогда как ИИ-агентом обычно называют отдельную программную систему. |
Граница между ИИ-агентом и чат-ботом может быть нечёткой: один интерфейс способен совмещать диалоговые функции с выполнением операций. Основное различие обычно связывают не с формой общения, а со способностью системы самостоятельно планировать последовательность шагов и действовать через внешние инструменты[14].
Применение
Клиентская поддержка
ИИ-агенты применяются для анализа обращений, подготовки ответов, поиска сведений в корпоративных базах и выполнения разрешённых операций. В системах поддержки они могут создавать заявки, проверять статус обслуживания и передавать сложные обращения сотруднику[15].
Корпоративные помощники
В организациях агенты используются для поиска по документам, сопоставления данных из нескольких источников, подготовки отчётов и формирования рекомендаций. Такие системы могут взаимодействовать с внутренними базами знаний и средствами управления бизнес-процессами[16].
ИТ-автоматизация
В разработке программного обеспечения и DevOps агенты могут анализировать программный код, искать ошибки, запускать проверки и выполнять разрешённые операции с инфраструктурой. Доступ к таким действиям обычно ограничивают из-за риска внесения некорректных изменений[17].
Персональные ассистенты
Персональные агенты могут работать с календарём и электронной почтой, искать варианты поездок, создавать напоминания и выполнять бронирования. Для операций, связанных с оплатой, передачей данных или заключением сделок, обычно предусматривается подтверждение пользователя[18].
Анализ бизнес-процессов
Агенты применяются для вычисления показателей, поиска причин неэффективности и проверки гипотез на основе корпоративных данных. Они могут автоматизировать сбор исходных сведений и подготовку рекомендаций, оставляя принятие значимых решений специалисту[19].
Робототехника
В роботах, транспортных устройствах и других физических системах агент получает данные с датчиков и воздействует на окружающую среду через исполнительные механизмы. В отличие от преимущественно текстовых агентов, такие системы должны учитывать физические ограничения и требования безопасности в реальном времени[20].
Преимущества
К преимуществам ИИ-агентов относят автоматизацию многошаговых задач, сокращение объёма ручной работы и возможность объединения нескольких цифровых систем в одном процессе. По сравнению с одиночной моделью, работающей по принципу «запрос — ответ», агент может сохранять контекст задачи, последовательно использовать разные инструменты и проверять промежуточные результаты[21].
Эффективность агента зависит от характера задачи. Использование агентной архитектуры может быть оправдано для изменяющихся процессов, требующих выбора действий, но создавать избыточную сложность при выполнении простой и полностью формализованной операции[22].
Ограничения и риски
ИИ-агент может неправильно интерпретировать цель, выбрать неподходящий инструмент или принять ошибочный промежуточный результат за достоверный. Использование языковых моделей также создаёт риск галлюцинаций, при которых система формирует недостоверные сведения или выводы[23].
Доступ к внешним системам увеличивает последствия ошибок. Агент с избыточными правами может изменить или удалить данные, отправить сообщение, запустить нежелательный процесс либо раскрыть конфиденциальную информацию. Дополнительные угрозы связаны с внедрением вредоносных инструкций, подменой данных, компрометацией инструментов и неконтролируемой передачей информации между компонентами[24].
Для снижения рисков применяются принцип минимальных привилегий, изолированные среды исполнения, ограничения допустимых действий, журналирование, проверка результатов и подтверждение человеком значимых операций. Реальная автономность ИИ-агента почти всегда ограничивается архитектурой системы, правами доступа и установленными правилами[25].
Качество работы зависит не только от используемой модели, но и от точности инструкций, доступности данных, выбора инструментов, устройства памяти, механизма оркестрации и надзора. Вопросы ответственности за действия агента, защиты персональных данных и возможности последующего аудита остаются существенными при внедрении таких систем[26].
Критика и границы термина
Термин «ИИ-агент» используется неоднородно и не имеет единственного общепринятого прикладного определения. В одних случаях им обозначают автономную систему, способную планировать и действовать, в других — языковую модель с доступом к одному инструменту или заранее заданной цепочке операций[27].
В маркетинговых материалах ИИ-агентами могут называться расширенные чат-боты и системы оркестрации запросов, обладающие лишь ограниченной самостоятельностью. По этой причине при описании конкретной системы необходимо учитывать не только используемое разработчиком название, но и фактические возможности: наличие цели, планирования, памяти, инструментов, обратной связи и права выполнять действия[28].
ИИ-агенты не обязательно представляют собой отдельный вид искусственного интеллекта. Чаще это способ построения программных систем, в которых модели искусственного интеллекта объединяются с традиционным программным кодом, внешними сервисами и средствами автоматизации[29].
Примечания
|
Правообладателем данного материала является АНО «Интернет-энциклопедия «РУВИКИ». Использование данного материала на других сайтах возможно только с согласия АНО «Интернет-энциклопедия «РУВИКИ». |