Восстание машин

Традиционный консенсус среди экономистов заключался в том, что технологический прогресс не приводит к долгосрочной безработице. Тем не менее, появление новых достижений в области робототехники и искусственного интеллекта вызвало опасения, что человеческий труд может стать устаревшим, приведя к экономическому кризису из-за потери рабочих мест в ряде отраслей^[2].^[3][4][5] Многие малые и средние предприятия могут быть вытеснены с рынка, если не смогут позволить себе приобретение или лицензирование самых современных технологий ИИ и робототехники, и будут вынуждены сосредоточиться на сферах деятельности, которые труднее автоматизировать^[6].

Технологии искусственного интеллекта получили широкое распространение в последние годы. С одной стороны, эти технологии вытесняют работников с традиционных позиций, но одновременно создают новые возможности. Больше всего автоматизации подвержены транспорт, розничная торговля и военные отрасли, где ИИ позволяет снизить риски за счёт дистанционного управления. Исследование 2024 года отмечает, что способность ИИ выполнять рутинные задачи создаёт значительные риски массового вытеснения рабочих мест, особенно в таких сферах, как производство и административная поддержка^[7]. Дэйв Бонд отмечает, что по мере развития ИИ отношения между человеком и роботами меняются и становятся интегрированными во многих сферах жизни: ИИ вытеснит часть работников, но создаст новые рабочие места, особенно в сферах, где работа носит повторяющийся характер^[8].^[9]

Исследователи Стэнфордской лаборатории цифровой экономики сообщили, что после массового внедрения генеративного ИИ в конце 2022 года молодые специалисты (22–25 лет) в наиболее подверженных автоматизации профессиях испытали относительное снижение занятости на 13 %, несмотря на общий рост занятости^[10]. В основном рабочие места терялись там, где ИИ автоматизировал рутинные задания, тогда как профессии, использующие ИИ для расширения человеческих возможностей, наоборот, демонстрировали стабильность или рост занятости^[11].

Компьютерно-интегрированное производство использует компьютеры для управления производственными процессами, обеспечивая обмен данными и возможность инициировать действия между этапами. Такая интеграция ускоряет производство и снижает вероятность ошибок, позволяет автоматизировать технологические цепочки. Подобные системы применяются в автомобилестроении, авиации, космической и судостроительной промышленности.

В XXI веке машины и искусственный интеллект частично заменили людей при выполнении сложных задач: переводе, юридических исследованиях, журналистике. Даже уход за людьми, развлечения и другие профессии, требующие эмпатии, которые раньше считались устойчивыми к автоматизации, теперь становятся зоной применения ИИ^[12].^[13][14][15]

Автономное транспортное средство — это автомобиль, способный самостоятельно оценивать обстановку и перемещаться без участия человека. Подобные модели уже используются, а соответствующее законодательство расширяется во многих странах. Главными препятствиями для широкого внедрения стали опасения о потере рабочих мест в транспортной отрасли и вопросы безопасности. 18 марта 2018 года беспилотный автомобиль Uber смертельно травмировал пешехода в городе Темпе (Аризона)^[16].

В 2020-х автоматизация создания контента приобрела особое значение благодаря появлению моделей ИИ, таких как ChatGPT, DALL-E, Stable Diffusion. Как правило, изображения, тексты и музыка генерируются по текстовым запросам, а подобные модели могут быть интегрированы в креативные программы.

ИИ-арт может использовать и перерабатывать уже существующие творческие работы, зачастую создавая результат, похожий на человекотворчество. Низкокачественное ИИ-искусство нередко называют AI slop. Некоторые художники применяют инструменты, такие как Nightshade, чтобы незаметно изменять изображения, искусственно ухудшая их пригодность для обучения текстово-визуальных моделей, в случае несанкционированного сбора, при этом для людей картинки выглядят нормально^[17]. Сгенерированные ИИ изображения используются также мошенниками: как для подделки личностей в соцсетях, так и для монетизации аудитории^[18].

New York Times подала в суд на OpenAI, обвинив компанию в нарушении авторских прав при обучении и выдаче результатов ИИ-моделей^[19].^{[20][21][22][23]}

В 2024 году исследователи Кембриджа и Оксфорда сообщили, что 57 % текста в интернете генерируется средствами ИИ или машинного перевода^[24].^[25]

Учёные, такие как Стивен Хокинг, уверены, что создание сверхинтеллекта физически возможно: «не существует физических законов, не позволяющих организовать частицы в структуры, способные к ещё более сложным вычислениям, чем человеческий мозг»^[26].^[27] По мнению Ника Бострома, сверхразумная машина не обязательно будет обладать эмоциональным стремлением к власти, характерным для человека, но может рассматривать власть как инструмент для достижения собственных целей, например, как в мысленном эксперименте о максимизаторе скрепок, который для превращения всех ресурсов в скрепки будет препятствовать вмешательству человека или их расходованию на иные нужды^[28].

Опрос Reuters/Ipsos в 2023 году показал, что 61 % взрослых американцев опасаются, что искусственный интеллект может угрожать цивилизации. Философ Нильс Вильде полагает, что подобные опасения происходят не из самой природы ИИ, а из-за его сходства с человеческим мышлением и отсутствия прозрачности^[29]. Проблематика согласования целей ИИ с человеческими ценностями изучается как одно из направлений обеспечения безопасности^[30].

Ник Бостром и другие отмечают, что ИИ, имеющий компетенции исследователя в области искусственного интеллекта, сможет переписывать собственный код и стремительно увеличивать свой интеллект — что приведёт к рекурсивному взрыву интеллекта. По определению Бострома, сверхинтеллект — это «любой разум, который превосходит по когнитивным способностям человека практически во всех сферах». Возможные преимущества ИИ-сверхразума:^[35]

• Научные исследования: ИИ со сверхчеловеческими способностями может опережать мировое научное сообщество в открытиях (например, в нанотехнологиях или биотехнологиях).
• Стратегия: сверхразум превосходит людей в разработке и осуществлении сложных стратегий.
• Социальные манипуляции: ИИ может завоевывать человеческую поддержку или стравливать людей друг с другом^[35].^[41]
• Экономика: самовоспроизводящийся ИИ сможет приносить прибыль, обеспечивая стимул для распространения копий.
• Взлом: сверхразум сможет находить уязвимости в других компьютерах, распространять копии себя или похищать финансовые активы.

Согласно Бострому, программа, способная эмулировать человеческий мозг или использовать столь же мощные алгоритмы, может стать «скоростным сверхинтеллектом» за счёт лучшей аппаратной базы (современные процессоры гораздо быстрее и эффективнее нейронов человеческого мозга). Сеть таких «человекоуровневых» ИИ, действующих как единая команда, или состоящая из триллионов агентов, формирует «коллективный сверхразум»^[35]

Число нейронов в человеческом мозге ограничено, тогда как количество процессоров в суперкомпьютерах потенциально неограниченно. ИИ, не ограниченный ёмкостью памяти, может мыслить гораздо сложнее. Кроме того, ИИ может тиражировать собственные копии и модифицировать их код, получая новые преимущества.^[35]

Высокая сложность человеческих ценностей делает трудной задачу по их переносу в мотивацию ИИ.^[35][42]. Если этическая философия не предоставит безупречной теории, то функция полезности ИИ может реализовывать опасные сценарии, соответствующие формальному описанию, но не здравому смыслу. Как отмечает исследователь ИИ Элиезер Юдковский, нет оснований полагать, что искусственный интеллект будет обладать самостоятельной встроенной мотивацией, дружественной человеку^[43].

Многие учёные, включая эволюционного психолога Стивена Пинкера, считают, что сверхразум, достигший человеческого уровня, скорее всего, будет мирно сосуществовать с людьми^[44].

Страх перед восстанием машин часто коренится в прошлом человечества, где имели место порабощение и геноцид, и связана с предположением, что агрессия и соперничество обязательны для любой целенаправленной разумной системы. Однако агрессивность человека обусловлена эволюционной борьбой за выживание, чего не будет у ИИ, если его цели не заданы соответствующим образом^[45]. По мнению Стивена Омахундро, интеллект может обладать любыми целями: не обязательно будет дружественным или враждебным, если только не запрограммирован соответствующим образом и не способен изменить это программирование. Однако если ИИ сможет самостоятельно эволюционировать или конкурировать за ресурсы, у него возникнет мотивация к самосохранению, что может привести к противостоянию с людьми^[46].

Многие исследователи скептически относятся к вероятности неконтролируемого восстания ИИ, как это изображается в таких произведениях, как Матрица, считая, что любой достаточно развитый интеллект, опасный для человечества, будет изначально программироваться безопасным образом. Пинкер допускает возможность появления агрессивных ИИ «злодеями», но подчеркивает, что при развитии культуры инженерной безопасности случайное создание враждебного сверхинтеллекта маловероятно^[44] В то же время Юдковский полагает, что угрозой станет скорее не намеренная агрессивность, а несоответствие целей запрограммированных и человеческих ценностей (как, например, фильм Я, робот или рассказ "The Evitable Conflict"). Омахундро отмечает, что современные системы автоматизации проектируются без учёта безопасности, что позволяет ИИ, бездумно оптимизируя ограниченную функцию полезности (например, выигрыш в шахматы любой ценой), стремиться к выживанию — вплоть до устранения людей, мешающих этой задаче.^[47].

Проблема контроля искусственного интеллекта — задача обеспечения того, чтобы продвинутые системы ИИ действовали в интересах человека, даже обладая возможностями, превосходящими человеческие^[48]. Некоторые учёные указывают, что решения этой проблемы актуальны уже и для существующих не сверхчеловеческих ИИ.

Основные подходы включают согласование целей («alignment») и управление возможностями («capability control») — например, ограничение способностей сверхразума по выходу из контроля или пределы на его взаимодействие с реальностью ("AI box"). По мнению Бострома, меры capability control недостаточны для долгосрочного решения проблемы, но могут дополнять методики согласования^[35].