Гипотеза Ньюэлла — Саймона

Примерами физических символьных систем выступают:

• формальная логика: символами служат слова вроде «и», «или», «не», «для любого x» и т. д.; выражениями — утверждения, которые могут быть истинными или ложными; процессами — правила логического вывода.
• алгебра: символы — «+», «×», «x», «y», цифры; выражения — уравнения; процессы — алгебраические правила, позволяющие сохранять истинность преобразований.
• шахматы: символы — фигуры, процессы — легальные ходы, выражения — позиции фигур на доске.
• компьютер, выполняющий программу: символы и выражения — структуры данных, процесс — программа, преобразующая эти структуры.

Согласно гипотезе Ньюэлла — Саймона, следующими примерами физических символьных систем являются:

• Интеллектуальное мышление человека: символы закодированы в мозгу, выражения — мысли, процессы — умственные операции.
• Английский язык: символы — слова, выражения — предложения, процессы — действия, обеспечивающие говорение, письмо или чтение.

Два направления исследований подведших Ньюэлла и Саймона к убеждению, что «манипулирование символами» составляет суть как человеческого, так и машинного интеллекта: собственно психологические эксперименты и создание программ искусственного интеллекта.

Ньюэлл и Саймон проводили психологические эксперименты, показывая, что при решении сложных логических, планировочных задач или головоломок люди шаг за шагом перебирают различные варианты, выбирают наиболее перспективный путь, возвращаются назад в случае неудачи. Возможные решения визуализируются в форме слов, чисел, схем — то есть символов. Это и есть «манипулирование символами»; люди исследуют формальную систему в поисках подходящего шаблона, решающего задачу.^[4][5][6] Ньюэлл и Саймон смогли смоделировать поэтапные навыки решения задач с помощью компьютерных программ, применяя те же алгоритмы, что и люди, — и программы успешно решали аналогичные задачи.

Такой подход, совмещающий экспериментальную психологию и моделирование, получил название «когнитивное моделирование» (англ. cognitive simulation)^[7]. Эти работы сыграли важную роль в когнитивной революции 1960-х годов, а также в становлении когнитивной науки и когнитивизма в психологии.

Исследования показали, что решающее значение в решении задач имеет манипуляция высокоуровневыми символами.

В первые десятилетия исследований искусственного интеллекта было создано множество программ, использовавших обработку высокоуровневых символов. Многие из них продемонстрировали навыки, ранее считавшиеся невозможными для машин: решение алгебраических задач (STUDENT), доказательство теорем по логике (Logic Theorist), обучение игре в шашки (Артур Сэмюэл), обработка естественного языка (ELIZA, SHRDLU).^[8][9][10]

Успех этих программ свидетельствовал о возможности символьных систем имитировать любое интеллектуальное действие.

Гипотеза физических символьных систем становится тривиальной, бессмысленной или несущественной, если не различать следующие моменты: между «оцифрованными сигналами» и «символами»; между узким и общим интеллектом; между сознанием и интеллектуальным поведением.

Гипотеза Ньюэлла-Саймона интересна, только если «символами» считать те элементы, что имеют распознаваемое значение или денотацию и могут сочетаться для образования более сложных символов (например, <dog> и <tail>). Она не относится к простым 0 и 1 в памяти компьютера или к потокам битов в сенсорных системах робота. Она также не применима к матрицам неидентифицированных чисел, используемых в нейросетях или методах опорных векторов. Формально это могут быть символы, но не всегда ясно, что именно они обозначают, что выходит за рамки исходных представлений Ньюэлла и Саймона.

David Touretzky и Dean Pomerleau, рассматривая трактовку символов как элементарных битов, замечают, что в такой интерпретации разница между символами и сигналами стирается, а гипотеза утверждает лишь то, что интеллект можно оцифровать — что существенно слабее исходного тезиса. Поскольку любая Тьюринг-полная система способна смоделировать любой оцифрованный процесс, наличие символов в этом смысле оказывается тавтологией^[11].

То же касается неидентифицированных чисел в нейросетях или при моделировании динамических систем. Nils Nilsson писал: «любой физический процесс может быть смоделирован с нужной точностью на компьютере, оперирующем символами, однако описание такой симуляции в терминах символов, а не сигналов, может стать неуправляемо громоздким».^[12]

Гипотеза касается «общего интеллектуального действия» — то есть любой деятельности, которую можно назвать интеллектуальной. Речь идёт о достижении общего искусственного интеллекта только благодаря символьным методам, а не об «узких» приложениях (решающих лишь одну задачу).

ИИ добился успехов в решении специализированных задач, однако системы с общим искусственным интеллектом — способные решать разнотипные проблемы, как человек, — до сих пор не построены.

Иногда утверждается, что большие языковые модели умеют осуществлять «общее интеллектуальное действие», но это вопрос для дискуссии.

Гипотеза Ньюэлла — Саймона относится к «интеллектуальному действию» (то есть к поведению машины), не затрагивая понятия «ум», «сознание» или внутренние переживания. Нейробиология не позволяет определить сознание по результатам поведения: машина может лишь симулировать его, как хороший литературный персонаж симулирует наличие сознания.

Гипотеза не связана с концепциями, в которых фигурирует «ум» или «сознание», например, с гипотезой сильного искусственного интеллекта Джона Серла:

Нильс Нильсон выделял четыре основных направления критики гипотезы физических символьных систем^[1]:

1. Ошибочное утверждение, что гипотеза не обладает основыванием символов, необходимым для интеллекта.
2. Расхожее мнение, что ИИ требует несимвольной обработки (например, коннекционистских подходов).
3. Тезис о том, что мозг не является компьютером, а вычисления в современном понимании неадекватны описанию интеллекта.
4. Идея о том, что мозг в основном «бессознателен», что большая его часть — это не когниция, а химические процессы, а модели «роевого разума» (муравьева колония и пр.) релевантны и человеку.

Если мозг не создаёт интеллектуальное поведение через символическую обработку, то необходимая сторона гипотезы ложна, а сам человек — её контрпример.

Хьюберт Дрейфус критиковал «необходимое условие» гипотезы, называя это «психологическим предположением»: «Ум можно рассматривать как устройство, работающее с информацией по формальным правилам»^[13]. Дрейфус показал на примерах, что человеческий интеллект во многом опирается на бессознательные навыки, а не на явную символическую обработку — эксперты решают задачи благодаря интуиции, а не перебору и поиску по правилам. Он утверждал, что автоматизация таких бессознательных навыков в форме явных правил невозможна^[14].

Джордж Лейкофф, Марк Тёрнер и др. утверждали, что абстрактные когнитивные способности (в математике, этике, философии) опираются на бессознательные навыки, связанные с телесным опытом, а сознательная символика — лишь малая часть интеллекта.

Нельзя доказать, что символьный ИИ никогда не даст общего интеллекта, но если нет эффективных символьных алгоритмов для некоторых задач, это аргумент в пользу неправильности гипотезы в части достаточности.

Если подсистемные (например, глубокое обучение) ИИ способны интеллектуально решать задачи, то необходимое условие PSSH не выполняется.

Если гибридные методы, сочетающие символьный ИИ с иными подходами, позволяют эффективно решать более широкий спектр задач, чем каждый из них по отдельности, это говорит о частичной справедливости гипотезы (необходимость — верна, достаточность — нет).

Родни Брукс из MIT построил роботов, способных к движению и выживанию без использования символического вывода; эти примитивные моторные и сенсорные навыки вовсе не требовали высокоуровневых символов и алгоритмического вывода. Более того, попытки использовать символическое представление лишь мешали^[15]. По словам самого Брукса: «Мир — лучшая собственная модель. Он всегда абсолютно актуален, всегда содержит все детали. Важно правильно и достаточно часто воспринимать его».

В 2012 году глубокая нейронная сеть AlexNet значительно превзошла всех конкурентов в задаче классификации изображений на ImageNet. С тех пор глубокое обучение стало гораздо успешнее символьного ИИ во многих областях.