Искусственная глупость

Первая премия Лёбнера разыгрывалась в 1991 году. Как отмечалось в The Economist, победившая программа содержала преднамеренные ошибки — которые The Economist охарактеризовал как «искусственную глупость» — с целью обмануть жюри и убедить их в человеческой природе собеседника. Премия прекратила своё существование в 2019—2020 годах из-за развития больших языковых моделей^[7]. Преднамеренное внесение опечаток и задержек больше не является актуальной практикой, так как современные системы фокусируются на продвинутой обработке естественного языка и эмоциональном интеллекте^[8].

Ларс Лидэн утверждает, что качественный дизайн игр предполагает баланс между «интеллектом» компьютера и возможностью игрока победить. Точное управление уровнем «искусственной глупости» позволяет создавать противников с искусственным интеллектом, которые дают игроку шанс на победу, но при этом не выглядят откровенно глупыми.. В современных видеоиграх для балансировки сложности активно применяются системы динамической подстройки сложности (DDA), адаптирующие игровой процесс в реальном времени^[9]. Среди основных методов выделяются системы на основе производительности игрока (как в Resident Evil 4), использование машинного обучения (в частности, обучения с подкреплением), эмоционально-ориентированные системы (например, AI Director в Left 4 Dead) и метод «резиновой ленты» (как в серии Mario Kart)^[10].^[11][12]. Применение DDA вызывает этические дебаты, в особенности из-за патентов игровых компаний (например, EA) на системы удержания игроков, которые потенциально могут использоваться для подталкивания пользователей к внутриигровым покупкам^[11].^[13].

Существует множество способов преднамеренно ухудшить принятие решений в алгоритмах поиска. Например, алгоритм минимакс является распространённым вариантом поиска с противостоянием, применяемым в играх для нескольких игроков. Главная функция такого алгоритма — выбирать ход, максимализируя шансы игрока на победу и избегая ходов, увеличивающих шансы соперника. Для компьютера, способного просчитывать тысячи ходов вперёд, использование такого алгоритма даёт огромное преимущество. Чтобы «оглупить» игру и создать разные уровни сложности, их реализуют с помощью настройки эвристических функций. Обычно за выигрышное состояние начисляется большое количество очков. Если уменьшить впечатляющие награды, то вероятность выбора выигрышного состояния снизится.

Создание эвристик, позволяющих реализовать «глупость», сложнее, чем может показаться. Если эвристика всегда ведёт к лучшему ходу, соперник-компьютер будет слишком всезнающим, делая игру неинтересной и сложной. Однако слабая эвристика также ухудшит игровой опыт. Поэтому баланс между сильными и слабыми ходами в противостоящей игре строится на качественно реализованной эвристической функции.

Ещё одним подходом к снижению эффективности ИИ является ограничение вычислительных ресурсов и лимитирование глубины поиска. В алгоритмах, строящих дерево возможных ходов (например, минимакс), искусственное ограничение глубины анализа заставляет систему принимать решения на основе краткосрочной перспективы. Это делает поведение ИИ менее совершенным и более «человеческим», что часто применяется для настройки уровней сложности в играх. В более широком смысле может ограничиваться процессорное время или количество доступных операций на ход, однако для сохранения правдоподобности такие ограничения обычно комбинируют с алгоритмами намеренных ошибок^[14].^[15]

Для имитации непредсказуемости и человеческих ошибок активно применяются методы внесения стохастического шума. Шум может добавляться как в исходные данные, так и непосредственно в алгоритмы принятия решений. Использование процедурных шумов позволяет искажать входную информацию, имитируя неточности восприятия или физические ограничения. На этапе выбора действий может применяться стохастический сэмплинг, при котором алгоритм не вычисляет единственное оптимальное решение, а делает выборку из множества возможных вариантов. Это делает поведение системы менее детерминированным и более вариативным даже при одинаковых входных данных^[16].^[17]

В 2024—2026 годах концепция «искусственной глупости» начала применяться в сфере образовательных технологий как целенаправленная педагогическая стратегия. Вместо создания всезнающих помощников разработчики проектируют ИИ-тьюторов с намеренно ограниченными возможностями. Подобные системы не дают прямых ответов, а задают наводящие вопросы, выстраивая систему интеллектуальной поддержки для стимулирования самостоятельных рассуждений учащихся^[5]. Кроме того, в качестве учебного инструмента для развития критического мышления используются ошибки чат-ботов: анализ неточностей и ограниченности искусственного интеллекта заставляет студентов критически оценивать предоставленную информацию, проверять логику и самостоятельно находить верные решения^[18][19].

Концепция преднамеренного ограничения возможностей искусственного интеллекта применяется для защиты интеллектуальной собственности в сфере генеративного ИИ. Основная идея заключается в намеренном ограничении способности нейросетей к точному копированию, чтобы предотвратить плагиат и нарушение авторских прав. Одним из практических методов является обучение генеративных моделей на преднамеренно «повреждённых» данных. Например, исследователи из Техасского университета в Остине и Калифорнийского университета в Беркли разработали диффузионную модель, обучавшуюся на изображениях, в которых до 90 % пикселей были случайным образом замаскированы. Такой подход позволяет нейросети создавать качественные результаты, предотвращая при этом точное воспроизведение защищённых авторским правом материалов из обучающей выборки^[6].