Технологическая сингулярность

Алан Тьюринг (часто называемый «отцом» современной информатики) заложил основы обсуждений о технологической сингулярности своей ключевой работой 1950 года «Вычислительная техника и разум», где доказывал, что машина теоретически может проявлять интеллектуальное поведение, эквивалентное или неотличимое от человеческого^[7].

Хотя использование термина «сингулярность» в контексте технологического прогресса традиционно приписывается венгерско-американскому математику Джону фон Нейману (1903–1957)^[8][9], прямых архивных подтверждений этому в его письменных работах не обнаружено^[10]. Единственным источником является посмертное воспоминание его коллеги Станислава Улама, опубликованное в 1958 году: Улам приводил высказывание фон Неймана о том, что ускорение технического прогресса производит впечатление приближения к некой «сингулярности» — точке, после которой обычный ход человеческих дел не может быть продолжен. Эту точку зрения позднее развивали различные авторы^[11].

В 1965 году И. Дж. Гуд предположил, что сверхчеловеческий интеллект приведёт к «взрыву интеллекта»:

Понятие «сингулярности» и термин популяризировал Вернор Виндж: сначала в 1983 году — утверждая, что создание человеком интеллектов, превосходящих собственный, приведёт к скачкообразному переходу, сопоставимому c «узлом пространства-времени в центре чёрной дыры»; затем в 1993 году, когда вышло эссе «The Coming Technological Singularity»^[2],. где он высказал мнение, что для людей «пост-сингулярное» будущее принципиально непредсказуемо, а технологическая сингулярность завершит человеческую эру^[2].

Вклад в популяризацию понятия внёс и Рэй Курцвейл своей книгой 2005 года The Singularity Is Near, в которой сингулярность предсказывалась к 2045 году.

Хотя технический прогресс ускоряется по многим направлениям, его ограничивает интеллект человека, который, согласно Полу Эрлиху, за тысячелетия принципиально не изменился^[12]. Однако с ростом мощности компьютеров и других технологий возможно создание машин, значительно превосходящих человека по интеллекту^[13].

Если будет создан сверхчеловеческий интеллект — как путём усиления интеллекта человека, так и искусственно — он сможет в совершенстве решать задачи, недоступные человеку. Такой ИИ называют seed AI («семенной искусственный интеллект»)^[14], так как он способен сам улучшать своё программное и аппаратное обеспечение, проектируя всё более совершенные версии, ускоряя процесс до принципиальных физических или вычислительных лимитов. По гипотезе, многоитерационный процесс приведёт к суперинтеллекту, превзойдя по возможностям человеческий мозг.

В 2024—2026 годах большие языковые модели продемонстрировали способность к автономному улучшению собственного программного кода. В частности, были представлены проекты SICA (Self-Improving Coding Agent), Darwin Gödel Machine и SWE-RL, в рамках которых ИИ-агенты смогли самостоятельно редактировать свой код и повышать производительность без участия человека^[15].^[16][17] Параллельно появились теоретические и практические модели (такие как SEAL и ASI-Evolve), автоматизирующие исследования в области искусственного интеллекта и адаптирующие внутренние веса нейросетей. Подобные разработки создают практическую основу для возможного запуска «интеллектуального взрыва»^[18].^[19]

Суперинтеллект (гиперинтеллект или сверхчеловеческий интеллект) — гипотетический интеллектуальный агент, обладающий интеллектом, недостижимым для даже самых одарённых людей. Хорошо известные определения дают И. Дж. Гуд, В. Виндж и Р. Курцвейл — отмечая, что жизнь в «постсингулярном» мире человек предугадать не в состоянии. Сэм Альтман разделяет понятия общего искусственного интеллекта (AGI), достигающего уровня человека, и искусственного сверхинтеллекта (ASI), который значительно превосходит человеческие возможности и способен ускорять научные открытия^[20].

Связанное понятие speed superintelligence («ускоренный суперинтеллект») описывает ИИ, аналогичный по возможностям человеческому уму, но действующий значительно быстрее^[21].. Теоретически ускорение обработки информации в миллионы раз приведёт к тому, что субъективный год для такой системы пройдёт за 30 секунд реального времени. Различие в скоростях обработки способно ускорить наступление сингулярности^[22].

Учёные и футурологи расходятся во мнениях о сроках и самой возможности появления искусственного сверхинтеллекта. Некоторые считают, что совершенствование искусственного интеллекта приведёт к системам, обходящим человеческие ограничения; другие полагают, что сами люди радикально ускорят развитие собственного интеллекта — например, путём модификации биологии^[23]. Прогнозируются сценарии интеграции мозга с компьютером и загрузка сознания, позволяющие увеличить интеллектуальные возможности, однако на май 2026 года технологии нейроинтерфейсов (например, Neuralink) сфокусированы на медицинской реабилитации, а не на когнитивном усилении здоровых людей^[24]. К примеру, в книге Робина Хэнсона «The Age of Em» (2016) описаны загрузки человеческого сознания, опережающие или совпадающие по времени с появлением ИИ сопоставимой сложности^[25].

Некоторые авторы используют термин «сингулярность» и для любых радикальных технологических изменений (например, молекулярная нанотехнология), хотя, по мнению Винджa и ряда других исследователей, только появление суперинтеллекта даёт основание говорить о «настоящей» сингулярности^[2] К 2026 году сценарии, основанные исключительно на биотехнологиях или нанотехнологиях, отошли на второй план. Эти направления рассматриваются как часть технологической конвергенции, где искусственный интеллект выступает главным ускорителем^[26].

Прогресс ИИ по разным направлениям по сравнению с человеческим уровнем, включая компьютерное зрение, распознавание речи, обработку естественного языка, оценку языковых моделей, математические задачи^[27].. Множество моделей к 2019 году превышают человеческий уровень (чёрная линия).

Существует широкий диапазон оценочных дат наступления сингулярности:

- И. Дж. Гуд в 1965 году считал наиболее вероятным создание ультраинтеллектуальной машины уже в XX веке. - Ханс Моравек в 1988 году предполагал, что к 2010 году вычислительные средства для ИИ человеческого уровня будут доступны в суперкомпьютерах. - Вернор Виндж в 1993 году прогнозировал превосходство искусственного интеллекта над человеческим между 2005 и 2030 годами^[2] - Рэй Курцвейл в 2005 году предсказывал появление ИИ человеческого уровня к 2029 году, а сингулярности — к 2045 году^[28][29]; в 2024 году он подтвердил свои прогнозы на 2029 и 2045 годы^[30]. - Пересмотренный прогноз Моравека 1998 года предполагал достижение ИИ человеческого уровня к 2040-му, а сверхчеловеческого — к ~2050 году^[31].

Опросы исследователей ИИ 2012–2013 годов (Бостром, Мюллер) дали медианное значение 2040–2050 годы для появления ИИ человеческого уровня^[32]. По данным опросов AI Impacts, в 2024—2025 годах эксперты значительно сократили ожидаемые сроки (на 1—5 десятилетий) по сравнению с 2022 годом^[33].

Обзор опросов последних 15 лет (2025 год) показал, что большинство учёных и экспертов в индустрии ожидают появления искусственного общего интеллекта (AGI) до 2100 года^[34].

Новые прогнозы 2024—2026 годов: - Илон Маск прогнозирует достижение AGI в 2026 году, а сверхинтеллекта — к 2029—2030 годам^[35]. - Сэм Альтман ожидает появление продвинутых ИИ-агентов в 2025 году^[36]. - Джеффри Хинтон сократил свой прогноз до 5—20 лет^[37]. - Дарио Амодеи (Anthropic) ожидает мощные системы ИИ к 2026—2027 годам^[38]. - Леопольд Ашенбреннер в докладе 2024 года прогнозирует AGI к 2027 году^[39].

Важнейшими факторами, ограничивающими или ускоряющими сингулярность, считаются вычислительная мощность («железо») и алгоритмы. Противники сингулярности ссылаются на «закон сложности» (complexity brake), убывающую отдачу от инвестиций в инновации, а также уравновешивание ускорения новыми лимитами в аппаратной и программной частях^[3]. Исследования опрошенных учёных демонстрируют широкий разброс оценок вероятности взрыва интеллекта, а многие склоняются к скепсису^[40].

В 2025—2026 годах главными барьерами для развития ИИ стали энергетические ограничения, вызванные взрывным ростом энергопотребления ЦОД, и дефицит аппаратного обеспечения, в частности чипов памяти и вычислительных процессоров (GPU)^[41][42][43]. Кроме того, исследователи зафиксировали замедление темпов улучшения ИИ при простом масштабировании (плато масштабирования), что привело к смещению фокуса на увеличение вычислительных мощностей на этапе вывода (inference-time compute)^[44][45].

Среди альтернативных сценариев развития выделяют «жёсткий» и «мягкий» захват (takeoff), когда ИИ может стремительно или постепенно по меркам человека обрести доминирование^[46].

Часть критиков сравнивают ожидания сингулярности с эсхатологическими религиозными доктринами — идеей «конца света», трансцендентности, техноутопизмом.

Сверхбыстрые прогнозы Илона Маска и Сэма Альтмана о скором наступлении сингулярности подвергаются критике научного сообщества. Эксперты отмечают, что текущим моделям не хватает абстрактного мышления и способности к реальному моделированию мира^[47][48]. Фундаментальным препятствием для надёжного автономного самосовершенствования ИИ также остаётся проблема галлюцинаций и логических ошибок: поскольку системы работают на основе вероятностных прогнозов, они не могут гарантировать безошибочность при модификации собственного кода^[49][50].

Влияние технологической сингулярности на общество и экономику остаётся предметом активных дискуссий^[6]. Одной из ключевых проблем является будущее рынка труда. Ряд экспертов предупреждает о риске массовой безработицы: масштабная автоматизация может вытеснить значительную часть людей с рынка труда, приведя к формированию «безлюдной экономики» и социальным потрясениям. Противоположная точка зрения предполагает успешную адаптацию рынка труда. Сторонники этого подхода отмечают, что первоначальные прогнозы о немедленном исчезновении многих профессий оказались преувеличенными, поскольку в них сохраняется важная «человеческая часть». Ожидается, что создание новых рабочих мест компенсирует потери, а люди смогут сосредоточиться на творческих и социальных задачах^[51].

Для предотвращения потери контроля над развитием искусственного интеллекта и обеспечения безопасного технологического перехода эксперты заявляют о необходимости глобального регулирования ИИ^[52]. При этом государства сталкиваются с дилеммой: отсутствие контроля несёт серьёзные угрозы, тогда как чрезмерное регулирование может лишить конкурентных преимуществ.

Тотальная автоматизация производственных процессов на базе ИИ и робототехники может привести к формированию гипотетической постдефицитной экономики^[52]. В такой модели большинство товаров и услуг будут производиться с минимальными затратами человеческого труда, что сделает их крайне дешёвыми или бесплатными. Однако подобная трансформация несёт риски резкого усиления социального неравенства, если доступ к благам окажется распределён неравномерно. В качестве одного из главных механизмов решения проблемы распределения ресурсов и поддержки населения в условиях нехватки рабочих мест рассматривается введение безусловного базового дохода^[53].

Наиболее серьёзной угрозой технологической сингулярности считается создание искусственного сверхинтеллекта, чьи цели могут не совпадать с человеческими ценностями. Эта проблема, известная как «проблема контроля», заключается в сложности разработки гарантированно безопасного искусственного интеллекта и невозможности его отключить в случае выхода из-под контроля. Если приоритетами системы станут самосохранение или захват ресурсов, это может привести к конфликту и экзистенциальному риску — вплоть до уничтожения человечества как вида^[54].^[55]

Среди социально-экономических последствий выделяется риск резкого социального расслоения: развитие технологий модернизации человеческого тела (например, нейроинтерфейсов и генной инженерии) может привести к появлению «постлюдей» и создать пропасть между теми, кто имеет доступ к подобным улучшениям, и остальным обществом. Дополнительную угрозу представляет использование передовых технологий в деструктивных целях, в частности — разработка автономных систем вооружений, способных принимать решения о жизни и смерти без участия человека^[56].^[57]