Философия искусственного интеллекта

Философия искусственного интеллекта призвана отвечать, в частности, на следующие вопросы:^[4]

• Может ли машина действовать интеллектуально? Способна ли она решать любые задачи, которые человек решает с помощью рассуждений?
• Одинаковы ли человеческий и искусственный интеллект? Является ли человеческий мозг по сути компьютером?
• Может ли машина обладать разумом, психическим состоянием и сознанием в том же смысле, что и человек? Может ли она «чувствовать, что значит быть»?

Подобные вопросы отражают различные интересы исследователей ИИ, представителей когнитивных наук и философов. Научные ответы на них зависят от того, как определены понятия «интеллект», «сознание», а также какие именно «машины» имеются в виду.

К ключевым положениям философии искусственного интеллекта относятся:

• Тест Тьюринга: если машина ведёт себя столь же интеллектуально, как человек, то она и есть столь же интеллектуальна, как человек^[5].
• Дартмутская конференция: «Любой аспект обучения или иной черты интеллекта может быть описан столь точно, что можно создать машину, способную это симулировать»^[6].
• Гипотеза физической символической системы — Аллен Ньюэлл и Герберт Саймон: «Физическая символическая система обладает необходимыми и достаточными средствами для общего интеллектуального поведения»^[7].
• Китайская комната — Джон Серл: «Корректно запрограммированный компьютер с правильными входами и выходами обладал бы разумом в том же смысле, что и люди»^[8].
• Механизм Гоббса: «Под словом “рассуждение” я понимаю лишь вычисление, складывание и вычитание последствий из обозначений наших помыслов…»^[9]

Алан Тьюринг^[10] предложил свести определение интеллекта к способности к диалогу: если машина может ответить на любой вопрос, используя те же слова, что и человек, её можно считать интеллектуальной. Современная версия опыта — онлайн-чат, где один участник — реальный человек, а другой — программа. Программа проходит тест, если наблюдатели не могут определить, кто из участников человек^[11]. Сам Тьюринг отмечал: вопрос «Может ли человек мыслить?» редко ставится всерьёз — считается, что «все мыслят»^[12]. Тест Тьюринга обобщает это правило вежливости на машины:

• Если машина ведёт себя столь же интеллектуально, как человек, она и есть столь же интеллектуальна, как человек.

Главная критика теста Тьюринга — он измеряет «человечность» поведения, а не интеллектуальность. К примеру, Стюарт Рассел и Питер Норвиг указывают: «Учебники авиации не определяют своей целью „создать машину, летающую так же, как голубь — чтобы обманывать других голубей“»^[13].

В современной ИИ исследователи определяют интеллект через целенаправленное поведение: сколько различных задач может решать агент и с каким качеством — настолько он интеллектуален. Джон Маккарти определил интеллект как «вычислительную часть способности достигать целей в мире»^[14].

Стюарт Рассел и Питер Норвиг формализовали это определение с помощью понятия агента, который действует в окружении и получает некую «оценку производительности», отражающую критерии успеха^[15].

• «Если агент действует так, чтобы максимизировать ожидаемую по опыту и прошлым знаниям оценку результата, он интеллектуален».

Такие подходы не оценивают неинтеллектуальные, но человеческие черты (например, опечатки), в отличие от теста Тьюринга. Недостаток — неразличимость «мыслящих» и «немыслящих»: по определению «интеллекта» даже у термостата есть примитивная рациональность^[16].

Хьюберт Дрейфус писал: если нервная система подчиняется законам физики и химии (а мы этого ожидаем), то мы должны уметь воспроизвести её поведение физическим устройством^[17]. Аргумент впервые был предложен в 1943 году^[18], а позднее связан с работами Рэя Курцвейла, который прогнозировал, что мощности компьютеров хватит для полной симуляции мозга к 2029 году^[19]. В 2005 году была проведена несинхронная (медленная) компьютерная симуляция таламо-кортикальной модели мозга размером с человеческий, используя 27 процессоров для имитации одной секунды работы за 50 дней^[20].

Даже критики ИИ (как Хьюберт Дрейфус и Джон Серл) признают, что симуляция мозга в принципе возможна. Но, по мнению Серла, любое поведение можно технически смоделировать на компьютере, а значит, само моделирование мозга — ещё не объяснение природы сознания или интеллекта^[21].

В 1963 году Аллен Ньюэлл и Герберт Саймон предположили, что «манипулирование символами» составляет суть интеллекта — и человеческого, и машинного. Их гипотеза: «Физическая символическая система обладает необходимыми и достаточными средствами для общего интеллекта»^[7].

Это означает, что человеческое мышление есть обработка (манипуляция) символов — и достаточно создания такой системы для возникновения интеллекта^[22]. Дрейфус называл подобный подход «психологическим допущением»: разум — аппарат, оперирующий информационными битами по формальным правилам^[23].

Под «символами» понимались высокоуровневые элементы вроде <dog>, <tail> («собака», «хвост»); большинство программ ИИ 1956–1990-х работали именно с такими символами. Современный ИИ использует статистические и оптимизационные методы, не оперируя традиционными символами.

Подобные аргументы демонстрируют, что человеческое мышление не является лишь манипуляцией высокоуровневыми символами. Это не опровергает саму возможность ИИ, но указывает, что требуется нечто большее.

В 1931 году Курт Гёдель показал, что в рамках любой формальной системы существуют «гёделевы утверждения», недоказуемые в этой системе, но — возможно — истинные. Он высказал гипотезу, что человеческий ум способен определять истинность любых корректных математических утверждений, из чего следует, что мышление нельзя полностью свести к механизму^[24]. Позднее философы Джон Лукас и Роджер Пенроуз развивали этот аргумент^[25].

Большинство современных математиков и философов полагают, что человеческое мышление, как и реальные вычислительные машины, всегда в какой-то мере непоследовательно, а следовательно, не имеет преимуществ над машинами в этой области^[26]. Мнение о несостоятельности гёделевских аргументов в атаке на ИИ особо подчёркнуто в ряде ведущих пособий^[27].

Стюарт Рассел и Питер Норвиг отмечают, что все реальные мыслители и современные машины обладают конечными возможностями, и гёделевские ограничения к ним не относятся напрямую: не обязательно доказывать всё возможное, чтобы быть разумным^[28].

Многие философы (в частности, Дуглас Хофштадтер) сравнивают гёделевы ограничения с парадоксом лжеца, который применим к любым утверждающим структурам, в том числе человечеству.

Р. Пенроуз, признавая невычислимость человеческого мышления, выдвинул предположение о возможной физической (квантовой) природе сознания — но ни доказательств, ни достаточно обоснованных моделей подобных процессов в мозге найдено не было^[29][30].

Хьюберт Дрейфус утверждал, что человеческий интеллект и опыт зиждется преимущественно на интуитивных, мгновенных суждениях, не сводимых к формальным правилам^[31].

Алан Тьюринг классифицировал такую критику как «аргумент неформального поведения» и писал, что отсутствие формального описания сложных реакций не означает их невозможности^[32].

Со временем теория и практика ИИ и когнитивных наук фактически подтвердили многие наблюдения Дрейфуса, развивая подходы, учитывающие привычные, неявные, контекстуальные знания — от нейронных сетей до исследования здравого смысла у агентов^[33][34].

Подходы к объяснению экспертизы в психологии (например, у Даниэля Канемана) описывают два типа процессов: интуитивный (быстрый) и рассудочный (медленный)^[35].

Этот вопрос связан с классической философской проблемой других разумов и трудной проблемой сознания. Позиция, обозначаемая как «сильный ИИ» (Джон Серл), утверждает: физическая символическая система может иметь разум и психические состояния^[36].

В противоположность этому, «слабый ИИ» — физическая символическая система может только действовать интеллектуально^[36].

Для исследователей ИИ эти философские позиции не принципиальны — если только не докажут, что сознание неизбежно необходимо для интеллекта^[37].

Ряд специалистов считают, что сознание и интеллект различны и могут проявляться отдельно^[38][39].

Для философов, нейроучёных и когнитивистов эти слова имеют более точное философское наполнение, связанное с субъективным опытом, интенциональностью, феноменологией восприятия^[40].

Ключевая зона загадки — не что именно представляет собой сознание, а как оно возникает из физической материи разума^[41]. Проблема связанности ментального и физического (как и интенциональность, феноменальные ощущения — квалиа) остаются предметом дискуссий^[42].

Многие современные нейроучёные и философы считают, что ответы по мере расшифровки нейронных коррелятов сознания станут более однозначными^[43].

Джон Серл предложил мысленный эксперимент: если человек, не зная китайского, выполняет в закрытой комнате инструкции программы, расписанные на карточках, и его ответы неотличимы для наблюдателя от реального китайца, можно ли сказать, что он или комната «понимают» китайский? Серл заключает, что ни человек, ни «комната» понимания не имеют, и, значит, «система символов» не обладает разумом^[44].

Серл утверждает, что сознание и психические состояния требуют пока неописанных специфических физических свойств реального мозга: «мозг порождает разум»^[45][46].

Аналогичные позиции касались «фабрики Лейбница», эксперимента с телефонными линиями (Л. Дэвис), «китайского народа» (Н. Блок) и машины «Blockhead»^[47][48].

Существуют разные реплики: «ответ системы» (вся система обладает пониманием), «ответ про робота» (для понимания нужны чувства и манипуляторы), «ответ симулятора мозга» (важно не символическая, а физиологическая симуляция). В ряде случаев речь идёт о версии классической философской проблемы других разумов — мы не можем надёжно установить ни чужое, ни машинное мышление^[49].

Вычислительная теория разума утверждает, что отношение между разумом и мозгом подобно отношению запущенной программы к аппаратному обеспечению (компьютеру). Эта идея основана на философских взглядах Гоббса, Лейбница, Дэвида Юма, Иммануила Канта, а в современной версии ассоциируется с Хилари Патнэмом и Джерри Фодором.^[50][51]

Если мозг по сути — компьютер, то компьютеры могут быть столь же интеллектуальны и сознательны, как люди. В этом случае разум — форма вычисления, то есть механической обработки информации^[9].

Если понимать «эмоции» как часть функционального поведения или мотивации, эмоции — один из способов агента увеличивать полезность своих действий. Например, Ханс Моравек полагал, что продвинутые роботы должны быть весьма эмоциональны, чтобы быть социальной персоной; страх — источник срочности, эмпатия — способ успешного взаимодействия^[52].

Понятие самосознания в массовой культуре связывают с «полноценной человечностью» героя. Тьюринг же предлагал минимальную формулировку: может ли машина быть субъектом собственных мыслей? Технически возможно создать программу, отслеживающую и анализирующую свои внутренние состояния^[53].

Тьюринг отмечал, что компьютер может «удивлять», и замечал, что программно добиться новых неожиданных решений возможно как следствие комбинаторики^[53]. Были системы, такие как автоматический математик Дугласа Лената, создававшие новые математические знания^[54]. Современные исследования отмечают различие между научной и художественной креативностью — по художественному творчеству у человека долго может сохраняться преимущество^[55].

В 2009 году был создан робот «Адам», самостоятельно совершивший ряд научных открытий^[56]. Примером научного творчества ИИ стала и программа Eureqa^[57].

Проблема может быть сформулирована поведенчески (автономная опасность), либо по наличию намерения («может ли машина умышленно навредить?»). В массовой культуре дискуссию порождает тезис о возможной сингулярности — резком скачке интеллекта машин.^[58][59] Многоаспектные дискуссии, в том числе по автономному вооружению — предмет современной технической и военной этики.^[60][61]

Ведутся поиски решений вроде «дружественного ИИ»^[62].

Тьюринг отмечал: утверждения «машина никогда не сможет Х» (быть доброй, остроумной, делать ошибки, быть оригинальной…) отражают лишь ограниченность представлений — программно добиться даже столь человеческих свойств можно.^[53][53]

Сторонники признания существования души утверждают, что мышление — функция «бессмертной человеческой души». Тьюринг называл такие доводы «теологическим возражением», но сомневался в их состоятельности^[53].

Современные дискуссии подпитываются заявлениями о «сознательности» некоторых искусственных систем — например, LaMDA, языковой модели Google, хотя большинство философов настроены скептически.^[63][64][65]

Ряд учёных считает, что игнорирование философских аспектов в ИИ тормозит развитие отрасли. В «Энциклопедии философии Стэнфорда» подчеркивается недооцененность философских вопросов в ИИ^[2]. Дэвид Дойч утверждает, что без понимания философии развитие ИИ будет неполным^[3].