Вычислительные машины и разум

Вместо того чтобы определять, думает ли машина, Тьюринг предлагает задать вопрос: сможет ли машина выиграть в игру, которую он называет «Игра в подражание». Оригинальный вариант этой игры, предложенный Тьюрингом, — это простая развлекательная игра для трёх участников: А — мужчина, B — женщина, C — человек любого пола, выступающий в роли судьи. Судья не видит испытуемых (известных ему лишь как X и Y) и может взаимодействовать с ними исключительно посредством записок или других методов, не раскрывающих их пол. Путём вопросов А и B судья пытается определить, кто из них мужчина, а кто женщина. Задача A — ввести судью в заблуждение, а B — помочь судье принять верное решение^[3].

Тьюринг предлагает вариант этой игры, в которой роль А исполняет компьютер^[4]:

Таким образом, модифицированная игра включает трёх изолированных участников: компьютер (испытуемый), человека и судью (человека). Судья общается с обоими по терминалу, а задача как компьютера, так и человека — убедить судью, что они — люди. Если судья не может надёжно отличить их, считается, что компьютер выигрывает^[5].

Исследования, связанные с «машинным разумом», велись в Великобритании по крайней мере за десять лет до возникновения направления искусственного интеллекта как отдельной области в 1956 году^[6]. Эта тема обсуждалась среди участников клуба Ratio, неформального объединения британских кибернетиков и электронщиков, в который входил также Тьюринг. Сам Тьюринг рассматривал идею машинного интеллекта, по меньшей мере, с 1941 года; одним из первых известных упоминаний «компьютерного интеллекта» были его заметки 1947 года^[7].

Как отмечает Стивен Харнад^[8], вопрос теперь звучит как «Могут ли машины делать то же, что и мы (как мыслящие субъекты)?» То есть, Тьюринг снимает философскую проблему предварительного определения понятия «думать» и фокусирует внимание на способности машины действовать неотличимо от человека^[9].

С момента появления теста Тьюринга вопрос его интерпретации, достоинств и ограничений стал ключевым в философии искусственного интеллекта^[10][11]. Ряд критиков (например, Джон Сёрл с его аргументом «Китайской комнаты») ставят под сомнение значимость теста; эти возражения и сами являются предметом дискуссий^[12][13]. Некоторые считают, что тест — это проверка: «Сможет ли компьютер по переписке убедить человека, что он сталкивается с другим человеком?»^[14], однако, судя по всему, цель Тьюринга была шире — демонстрация когнитивных возможностей машин^[15].

Тьюринг указывает на необходимость уточнить, о каких именно «машинах» идёт речь. Он отмечает, что созданный человеком клон человека не представляет особого интереса как пример. Акцент делается на способностях цифровых машин, манипулирующих двоичными числами (0 и 1) и записывающих их в память по простым правилам. Это обусловлено двумя причинами:

Во-первых, нет необходимости теоретизировать о возможности их существования — цифровые машины уже существовали в 1950 году.

Во-вторых, цифровые машины являются универсальными. Исследования Тьюринга в области теории вычислений показали, что цифровой компьютер в принципе способен имитировать поведение любой другой цифровой машины при наличии достаточной памяти и времени (основополагающая идея тезиса Чёрча — Тьюринга и универсальной машины Тьюринга). Следовательно, если хоть одна цифровая машина может вести себя «будто она думает», то любая достаточно мощная цифровая машина может поступать так же. «Все цифровые компьютеры в определённом смысле эквивалентны», — пишет Тьюринг^[16].

Это позволяет ещё более сузить рассматриваемый вопрос. Тьюринг формулирует его так: «Сосредоточим внимание на некотором конкретном цифровом компьютере С. Можно ли утверждать, что, модифицировав этот компьютер — увеличив его быстродействие, расширив память и снабдив подходящей программой — он сможет успешно сыграть роль А в игре в подражание, если роль B исполняет человек?»^[16]

Таким образом, исследуется не способность всех цифровых компьютеров хорошо справляться с задачей, а возможность создания вообразимых компьютеров, способных играть наравне с людьми^[17]. Важно, какие теоретические и технологические шаги необходимы, — независимо от наличия этих ресурсов на момент написания статьи.

После уточнения вопроса Тьюринг переходит к анализу возражений; он выделяет девять основных, охватывающих все ключевые аргументы против машинного интеллекта, появившиеся впоследствии^[18]:

1. Религиозное возражение: мышление — свойство бессмертной души, а машина душой не обладает. Тьюринг отвечает, что создание мыслящих машин не является узурпацией силы творения, а скорее инструментом выполнения воли создателя, подобно рождению детей.
2. Возражение «голова в песке»: страх последствий появления мыслящих машин («пусть лучше они не смогут»). Это — логическая ошибка апелляции к последствиям, путаница желаемого и возможного^[19].
3. Математическое возражение: на основании теорем (например, теоремы Гёделя о неполноте) утверждается: существуют вопросы, на которые система на логической основе (машина) ответить не может. Тьюринг отмечает, что люди также часто ошибаются — не следует преувеличивать безошибочность человека^[20][21].
4. Аргумент из сознания: только тот способен мыслить, кто может сочинять стихи или музыку, обладая чувствами и сознанием (Г. Джефферсон, 1949)^[22]. Тьюринг отвечает, что мы не можем удостовериться в наличии сознания даже у других людей и поэтому принимаем поведенческий критерий. Его аргумент позднее известен как «аргумент других умов» (см. также Китайская комната Сёрла^[23]).
5. Аргумент от неспособностей: утверждение, что машина «никогда не сможет сделать Х» (быть доброй, остроумной, ошибаться, влюбиться и пр.). Тьюринг подробно отвечает на ключевые варианты:
   1. Машина не может ошибаться: легко запрограммировать имитацию ошибки.
   2. Машина не может быть субъектом собственного мышления (не способна к саморефлексии): можно написать программу для анализа собственных состояний (например, отладчик).
   3. Машина не может быть столь же разнообразной в поведении: при достаточно большой памяти разнообразие поведения может стать астрономическим.
6. Возражение леди Лавлейс: машина не может быть оригинальной и не способна к самостоятельному обучению. Тьюринг возражает, что машины способны «удивлять» людей — особенно там, где последствия неочевидны. По мнению Тьюринга, контекст времени ограничивал взгляды Лавлейс: если бы она располагала современными научными сведениями, ей бы стало понятно сходство хранилища информации в мозге и в машине.
7. Аргумент о непрерывности нервной системы: мозг не цифровой; точное время и вероятность разряда нейрона — аналоговые параметры. Тьюринг соглашается, что аналоги отличаются, но настаивает, что при достаточной мощности любой аналоговый процесс приблизимо имитируется цифровой машиной^[24].
8. Аргумент о неформальности поведения: система, подчинённая законам, предсказуема и не может быть по-настоящему разумной. Тьюринг отвечает, что это путаница между законами поведения и общими правилами; законов поведения может быть так много, что предсказывать сложности поведения станет почти невозможно. Отрицание наличия скрытых законов — утверждение необоснованное^[25].
9. Экстрасенсорика: в 1950-х экстрасенсорные явления считались перспективной областью; Тьюринг допускает, что можно создать условия, исключающие влияние телепатии на эксперимент, и заявляет об «огромных статистических данных» в пользу телепатии, ссылаясь на эксперименты Сэмюэля Соала^[26].

В заключительном разделе Тьюринг рассматривает идею обучающейся машины, способной успешно проходить игру в подражание.

Он возвращается к возражению Лавлейс: машина «лишь выполняет наши команды». Тьюринг сравнивает это с ситуацией, когда человек «внедряет» идею в машину, на что машина реагирует, а затем замирает. Далее он приводит аналогию: если некий источник нейтронов (машина — как подпороговая масса) достигает критической массы, реакция самоподдерживается. Аналогичным образом, некоторые человеческие умы являются «сверхкритическими», отражая способность развивать целые теории из одной идеи.

Тьюринг считает, что создание машины, способной играть в подражание, — задача программирования, и предполагает, что к концу XX века такая задача будет решаема технически. В ходе рассуждений он выделяет компоненты формирования взрослого разума:

1. Начальное состояние разума (при рождении);

2. Полученное образование;

3. Иной жизненный опыт, не относящийся к образованию.

В связи с этим Тьюринг задаёт вопрос: возможно ли эффективнее создать программу, имитирующую «разум ребёнка», и провести её обучение, чем сразу моделировать взрослый разум? Он сравнивает ребёнка с чистой тетрадью и полагает, что простота системы упростит программирование. Следовательно, задача делится на две части: создание «разума ребёнка» и его обучение. Разум ребёнка, согласно Тьюрингу, не будет соответствовать ожиданиям с первого раза — процесс обучения потребует внедрения системы поощрений и наказаний, напоминающей естественный отбор:

Строение машины-ребёнка — наследственная информация,

Изменения машины-ребёнка — мутации,

Отбор — действия экспериментатора.

Далее Тьюринг рассматривает вопросы:

• Сложность устройства: машина-ребёнок может быть либо минимально сложной, либо оснащённой полной системой логического вывода. Такая система, утверждает Тьюринг, будет строиться на прагматике и научной индукции.
• Неинформированность экспериментатора: учитель не будет знать внутреннее состояние обучаемой машины, как это происходит для дискретных автоматов; иногда поведение машины будет казаться случайным или даже бессмысленным. Именно эта неполная определённость можно считать элементом интеллекта, пока это не приводит к бессмысленным петлям.
• Важность случайности: введение случайного поведения в обучающуюся систему может ей помогать там, где правильные ответы множественны, или где последовательный перебор всех вариантов был бы неэффективен.

В конце статьи Тьюринг предсказывает наступление времени, когда машины смогут конкурировать с людьми в ряде интеллектуальных задач, и предлагает подходящие для этого области — например, игру в шахматы; вторая рекомендация — снабжать машину совершенными сенсорами и обучать её естественному языку.

Развитие искусственного интеллекта после выхода статьи Тьюринга подтверждает, что обучение машин пошло именно по пути абстрактных задач, предполагавшемуся им (например, программа Deep Blue от IBM, одолевшая чемпиона мира по шахматам Гарри Каспарова^[27]). Второй путь, по мнению ряда исследователей, соотносится с задачей поиска алгоритмов эволюции человеческого познания у детей^[27][28][29].