Акуратные и небрежные

«Акуратные» используют алгоритмы, основанные на единой формальной парадигме, такой как логика, математическая оптимизация или нейронные сети. Они подтверждают правильность своих программ с помощью строгой математической теории и склонны надеяться, что одна формальная парадигма может быть расширена и усовершенствована для достижения общего искусственного интеллекта и сверхинтеллекта.

«Небрежные» используют различные алгоритмы и методы для достижения интеллектуального поведения и полагаются на инкрементальное тестирование для проверки своих программ. Такой подход требует большого количества ручного кодирования и инженерии знаний. Эксперты-небрежные считают, что общий интеллект может быть реализован только решением множества существенно различных задач и что не существует «серебряной пули», которая позволила бы программам самостоятельно обрести общий интеллект.

Джон Брокман сравнивал «аккуратный» подход с физикой, где в основе лежат простые математические модели, а «небрежный» — с биологией, так как здесь большую роль играют изучение и классификация разнообразных явлений^[3].

Современный ИИ сочетает элементы обоих подходов. Небрежные исследователи 1990-х годов начали применять математическую строгость в своих программах^[4][5], а также выразили надежду на существование единой парадигмы (так называемого «главного алгоритма»), который приведёт к появлению общего интеллекта и сверхинтеллекта^[6]. Вместе с тем современные прикладные задачи требуют тщательной ручной настройки и последовательного тестирования; при том что общий алгоритм является строго математическим, достижение конкретных целей требует гибкого подхода^[7].

Различие между аккуратными и небрежными возникло в середине 1970-х годов и было предложено Роджером Шэнком. Он использовал эти термины для описания разницы между своей работой по обработке естественного языка (где знания здравого смысла представлялись в виде больших, неструктурированных семантических сетей) и работой Джона Маккарти, Алена Ньюэлла, Герберта Саймона, Роберта Ковальски и других, чьи исследования основывались на логике и её формальных расширениях^[8]. Сам Шэнк относил себя к небрежным и выступал против взглядов Ноама Хомского на природу языка.

Разделение носило и географический, и культурный характер: небрежный подход был характерен для лаборатории искусственного интеллекта Массачусетского технологического института (MIT) под руководством Марвина Минского в 1970-х. Эта лаборатория приобрела репутацию свободного творчества, а программы ИИ часто дорабатывались исследователями до нужного поведения. К важным небрежным проектам MIT относились Джозефа Вейценбаума ELIZA, способная поддерживать диалог на английском языке без явных формальных знаний, и Терри Винограда SHRDLU, успешно выполняющая операции в условном мире с блоками и роботизированной рукой^[9][10]. Однако SHRDLU было невозможно масштабировать, так как у программы отсутствовала чёткая структура и поддержание большей версии программы оказалось невозможным.

В то же время другие лаборатории (крупнейшие из которых — Стэнфорд, Карнеги-Меллонский университет и Эдинбургский университет) делали упор на логике и формальном решении задач, поддерживали направление, предложенное Джоном Маккарти, Гербертом Саймоном, Аленом Ньюэллом, Дональдом Мичи, Робертом Ковальски и другими представителями «аккуратного» подхода.

Противопоставление между школой MIT и другими лабораториями иногда описывалось как различие между «процедурным» и «декларативным» подходами: например, SHRDLU реализовывала поведение с помощью агентных процедур, а программы «аккуратных» исследователей опирались на системы вывода и манипулирование формальными заявлениями о мире.

В своём президентском обращении 1983 года к Ассоциации содействия развитию искусственного интеллекта Нильс Нильссон отметил необходимость обоих подходов: «большая часть знаний, которые мы хотим заложить в наши программы, может и должна задаваться декларативно в логико-подобных формализмах. Ad hoc структуры имеют право на существование, но большинство из них обусловлены самим предметом исследования». Алекс П. Пентланд и Мартин Фишлер из SRI International также отмечали важность логических формализмов в ИИ, хотя и в меньшей степени, чем Нильссон^[11].

В 1980-х годах небрежный подход был применён в робототехнике Родни Бруксом. Вместе с Анитой Флинн он выступил за создание роботов, которые были бы «быстрыми, дешёвыми и неконтролируемыми» — так называлась их статья 1989 года. В отличие от ранних роботов (например, Shakey или стенфордской тележки), новые роботы не строили представления о мире на основе анализа визуальной информации через математическое машинное обучение, и не планировали действия, используя формальные языки наподобие Planner. Они просто реагировали на датчики для выживания и перемещения^[12].

Проект Cyc под руководством Дугласа Лената, начатый в 1984 году, был одной из первых масштабных попыток формализовать все человеческие знания в машиночитаемой форме и остался ярким примером небрежного подхода^[13]. База Cyc содержит миллионы фактов о мире, каждый из которых вводится вручную инженерами знаний. Несмотря на возможное существование акуратного (универсального) решения проблемы здравого смысла (к примеру, с помощью систем машинного обучения и обработки текстов), ни одному проекту пока не удалось добиться успеха таким способом.

В 1986 году Марвин Минский опубликовал книгу «Общество разума», в которой обосновал модель интеллекта и разума как сообщества взаимодействующих модулей или «агентов», каждый из которых отвечает за определённую часть когнитивных процессов. Некоторые модули выполняют специализированные задачи (например, обнаружение контуров в зрительной коре), другие управляют коммуникацией и приоритизацией (например, планирование и внимание во лбу). Минский рассматривал эту парадигму как модель как человеческого, так и искусственного интеллекта.

Данный подход открыто небрежный: он не предполагает существования единого алгоритма для всех аспектов интеллекта^[14]. Минский писал:

В 1991 году Минский продолжал публиковать работы, сравнивающие преимущества и недостатки подходов аккуратных и небрежных, например, статью «Логический против аналогического, или символьный против коннекционистского, или аккуратный против небрежного»^[16].

В 1990-х годах были разработаны новые статистические и математические подходы к ИИ, включая развитые формализмы (математическая оптимизация, искусственные нейронные сети) и глубокое обучение. Памела МакКордък отмечала, что к началу XXI века в области ИИ доминировала «гегемония акуратных» — то есть убеждение, что интеллект машин лучше всего выражается в логических и математических терминах^[5]. Питер Норвиг и Стюарт Дж. Рассел в 2003 году называли это «победой аккуратных»^[17].

Однако уже к 2021 году они изменили свою точку зрения^[18]. Глубокие нейронные сети и машинное обучение в целом требуют значительной ручной настройки и многократного тестирования — это типично небрежная методология.

Аккуратные

• Джон Маккарти
• Ален Ньюэлл
• Герберт Саймон
• Эдвард Фейгенбаум
• Роберт Ковальски
• Джудия Перл

Небрежные

• Родни Брукс
• Терри Виноград
• Марвин Минский
• Роджер Шэнк
• Дуглас Ленат