Системы, основанные на знаниях

Термин «система, основанная на знаниях» часто использовался как синоним «экспертной системы», поскольку почти все первые такие системы предназначались для экспертных задач. Однако эти термины отражают разные аспекты:

• экспертная: описывает лишь задачу, для которой создана система — цель заменить эксперта-человека в специализированной области;
• основанная на знаниях: характеризует архитектуру системы — знания представлены явно, а не в виде процедурного кода.

В настоящее время практически все экспертные системы являются системами, основанными на знаниях, однако архитектура систем на знаниях используется намного шире, для разнообразных задач.

Первые системы, основанные на знаниях, в основном представляли собой экспертные системы на базе правил (продукционные системы). В таких системах факты о мире фиксировались в виде элементарных утверждений в плоской базе данных и подвергались рассуждению посредством предметно-ориентированных правил, после чего база пополнялась новыми фактами. Одной из самых известных ранних систем стала Mycin, предназначенная для медицинской диагностики.

Явное представление знаний с помощью правил обеспечивало несколько преимуществ:

1. Получение и сопровождение. Использование правил позволяло экспертам предметной области самостоятельно создавать и поддерживать базы правил без участия программиста.
2. Объяснимость. Явное представление знаний позволяло системе прослеживать рассуждения, ведущие к тому или иному выводу, и использовать эти сведения для объяснения результатов пользователю, например, обосновывать диагноз.
3. Гибкость вывода. Разделение знаний и механизмов их обработки давало возможность создавать универсальные движки вывода, способные получать неочевидные заключения на основе заданных данных^[8].

Классические продукционные правила (IF-THEN) продолжают активно применяться в современных ИИ-архитектурах, в частности, в агентах на базе больших языковых моделей (LLM), для компенсации недостатков нейросетей. Подобные правила используются для обеспечения безопасности в качестве семантических фильтров (guardrails), строгого управления процессами в регулируемых отраслях, а также в нейросимволическом планировании.

Более поздние архитектуры систем на знаниях, такие как архитектура BB1 на основе черновой доски (blackboard system)^[9], позволяли процессу рассуждения изменяться в ходе работы системы, обеспечивая мета-уровень размышлений. Архитектура BB1 позволяла отслеживать сам процесс решения задачи. Различные стили рассуждения (например, нисходящий, восходящий, оппортунистический) могли комбинироваться в зависимости от состояния задачи. Таким образом, система могла одновременно решать предметную задачу и свою задачу по контролю рассуждений.

Другими примерами архитектур мета-уровневого вывода были системы MRS^[10] и SOAR.

В 2024—2026 годах развитие SOAR связано с применением гибридного подхода, интегрирующего большие языковые модели (LLM). В рамках таких систем языковые модели выступают внешним источником знаний, извлекая информацию о мире и формируя продукционные правила. Когнитивная архитектура при этом управляет применением полученных знаний, отвечает за фильтрацию «шума» от LLM, обеспечивает интерпретируемость действий и обобщает навыки для новых сред. В частности, в SOAR языковые модели используются для генерации новых правил и подсказок в ситуациях, когда в процедурной памяти агента отсутствует подходящее правило для выполнения текущей задачи^[11].

В 1980–1990-х годах, помимо экспертных систем, другие варианты применения систем на знаниях включали управление технологическими процессами в реальном времени^[12], интеллектуальные обучающие системы^[13], системы анализа структуры белков^[14], планирование строительных объектов^[15], и диагностику неисправностей компьютерных систем^[16]. Современные примеры применения включают использование ИИ-тьюторов в образовании для автоматизации рутинных задач преподавателей, таких как проверка заданий, генерация учебных материалов и мониторинг успеваемости^[17][18]. В управлении технологическими процессами произошёл переход от систем с жёсткой логикой к адаптивным автономным ИИ-агентам, способным самостоятельно выявлять закономерности и планировать действия в реальном времени^[19][20]. В биоинформатике современные системы искусственного интеллекта, такие как AlphaFold, тесно взаимодействуют с базами знаний для высокоточного предсказания структур белков, а результаты их работы формируют новые глобальные открытые ресурсы для исследователей^[21][22].

По мере усложнения систем, методы представления базы знаний становились более совершенными и включали логику, системы переписывания термов, концептуальные графы и фреймы.

Фреймы, например, позволяют представлять знания о мире приёмы, сходными с объектно-ориентированным программированием — классы и подклассы, иерархии, связи между классами и поведения объектов. Более структурированная база знаний давала возможность не только независимому выводу по правилам, но и рассуждению, основанному на взаимодействии элементов базы знаний. Например, процедуры, закреплённые в виде демонов на объектах, могли инициировать цепочки вывода, аналогичные срабатываниям правил.

Современным этапом развития архитектур является нейросимвольный искусственный интеллект, в котором нейронные сети и формальная логика работают совместно. Нейросети отвечают за обработку данных и распознавание закономерностей, тогда как символьный слой берёт на себя детерминированный логический вывод и применение ограничений, что позволяет контролировать результаты и избегать «галлюцинаций»^[23][24].

Для семантического поиска и точной идентификации сущностей системами искусственного интеллекта используются структурированные форматы данных, в частности словари Schema.org, снижающие неоднозначность извлекаемой информации^[25][26].

Ещё одним существенным достижением в 1990-х годах стало создание специализированных систем автоматического рассуждения — классификаторов. Вместо статического задания иерархий подчинения в базе знаний классификатор позволяет просто декларировать факты, а отношения между ними выводятся автоматически. Таким образом, классификатор может функционировать и как инференционный движок^[27]. В рамках направления нейросимволического искусственного интеллекта активно развиваются гибридные классификаторы (например, логические тензорные сети и нейронно-логические машины), которые сочетают формальную логику и нейронные веса для автоматического вывода отношений^[28][29].

Последние достижения в развитии систем на знаниях связаны с применением технологий, в частности логик описаний, при разработке систем для использования в интернете. Интернет часто оперирует сложными, неструктурированными данными, которые невозможно уложить в конкретную модель данных. Технологии систем на знаниях, а особенно возможность классифицировать объекты «на лету», оказались оптимальными для подобных задач. Изначально модель таких интернет-систем получила название семантической паутины, однако впоследствии эта концепция трансформировалась в гибридную нейросимволическую парадигму, где онтологии и RDF-данные интегрированы с большими языковыми моделями (LLM) для снижения количества «галлюцинаций» и обеспечения формальной логики^[30][31].