АссистентНовый вопросИсторияОбласти знаний
Партнёрские проектыСпецпроектыСтать автором
Сменить язык
О РУВИКИ

Сценарии последствий ИИ

Сценарии последствий ИИ — вопросы о том, каким может быть такой мир и можно ли отнести отдельные сценарии к технологическому утопизму или технологической антиутопии, активно обсуждаемые специалистами. Некоторые исследователи полагают, что развитие искусственного интеллекта (ИИ) в конечном счёте приведёт к полуапокалиптической пост-дефицитной экономике и посттрудовому обществу, в которых разумные машины превзойдут человека практически во всех сферах деятельности, если не во всех[1][2]. Академическое сообщество определяет искусственный сверхразум (ASI) как систему с общим сверхчеловеческим интеллектом, которая надёжно превосходит большие коллективы экспертов-людей практически во всех областях деятельности[3]. Ключевым критерием ASI считается способность автономно исследовать неизвестное, совершать научные открытия и доводить новые идеи до проверяемых результатов[4]. В 2025—2026 годах фокус дискуссий вокруг ИИ сместился от долгосрочных экзистенциальных рисков к текущим практическим угрозам, таким как кибербезопасность, экономические вызовы и национальная безопасность[5][6].

Предпосылки

Большинство учёных считают, что в какой-то момент исследования в области ИИ приведут к созданию машин, которые будут настолько же, а возможно и более разумны, чем человек в любой значимой области[7]. Нет физических законов, которые запрещали бы расположить частицы так, чтобы производить вычисления, более сложные, чем в человеческом мозге. Следовательно, сверхинтеллект физически возможен[8]. Помимо возможных алгоритмических улучшений по сравнению с человеческим мозгом, цифровой «мозг» может быть на порядки больше и быстрее — тогда как человеческий ограничивается размерами, допускающими прохождение через родовые пути[9]. Хотя по поводу сроков появления искусственного интеллекта, превосходящего людей, консенсуса нет (по прогнозам 2026 года медианный срок достижения AGI оценивается началом 2030-х годов или 2041 годом, а ASI — через 26–44 месяца после него), многие специалисты считают, что появление второго «вида» разумных существ на планете приведёт к радикальным последствиям[8][10]. Учёные также спорят о том, какие сценарии развития событий после появления сверхинтеллекта наиболее вероятны, а какие — наиболее желательны. Наконец, существует точка зрения, согласно которой ИИ никогда не достигнет человеческого уровня (например, по той причине, что человечество уже успеет уничтожить само себя до такого прогресса в ИИ)[11].

Дальнейшее масштабирование систем искусственного интеллекта сталкивается с физическими и инфраструктурными ограничениями. Стремительно растущее энергопотребление дата-центров, приближающееся к 600–650 ТВт·ч, приводит к дефициту мощностей электросетей. Развитие отрасли сдерживается длительными сроками подключения новых объектов, непостоянством возобновляемых источников энергии, а также пределами эффективности чипов и традиционных систем охлаждения[12].

В качестве альтернативного пути развития рассматриваются гибридные био-цифровые системы и органоидный интеллект. Интеграция живых нейронных сетей с кремниевыми чипами демонстрирует первые успехи в решении задач обучения, однако эти технологии находятся на ранней стадии, и до возможного создания на их основе сильного ИИ предстоит пройти долгий путь[13].

Постулаты: труд роботов и пост-дефицитная экономика

Все рассматриваемые «сценарии последствий ИИ» зависят от двух связанных тезисов. Первый: в определённый момент в будущем темпы экономического роста позволят достичь экономики «постдефицита», которая (если не произойдёт крайней концентрации благ) сможет обеспечить чрезвычайно высокий уровень жизни населению, примерно сопоставимому с текущим или даже большему, без необходимости вовлечения основной части людей в рабочий процесс. Рост может быть как следствием нынешних трендов и совершенствования существующих технологий, так и прорывов в новых направлениях (например, нанотехнологии, автоматизация через робототехнику, а также развитие искусственного интеллекта будущего). Второй: по мере развития ИИ люди становятся невостребованными для экономики; труд человека теряет свою ценность, если роботы проще и дешевле массово производить, если они более гибкие, чем люди, а также если они обретают превосходство в разуме и способностях[11][14][15].

В период 2024–2026 годов ожидаемого экспоненциального роста ВВП не наблюдается, а в экономике сохраняется «парадокс производительности»[16][17].

Существуют прогнозы о масштабном вытеснении работников искусственным интеллектом (например, на складах и в колл-центрах)[18], однако на 2026 год реального падения доходов в автоматизированных секторах не зафиксировано. Инициативы по компенсации возможных социальных последствий, такие как введение «налога на роботов», остаются на стадии обсуждения[19][20].

Космическое достояние и пределы роста

Возможно, Вселенная пространственно бесконечна; однако доступная её часть ограничена космологическим горизонтом событий радиусом около 16 миллиардов световых лет[21][22]. Некоторые учёные полагают, что ближайшая инопланетная цивилизация может находиться за пределами этой области[23]; в таком оптимистичном сценарии экспансии человечество, расселяясь по значительной доле доступной Вселенной, может увеличить доступную биосферу примерно на 32 порядка величины[24]. В XX веке был отмечен частичный демографический переход — снижение рождаемости, связанное с ростом благосостояния[25]; однако в долгосрочной перспективе межпоколенные корреляции рождаемости (в силу естественного отбора или передачи культурных норм о крупных семьях) в отсутствие строгого контроля и катастрофических событий могут привести к росту рождаемости[26][27].

Сценарии

В 2025—2026 годах исследователи выделяют несколько основных таксономий сценариев развития искусственного интеллекта, охватывающих варианты от технологического застоя до экзистенциальных угроз. Сценарии темпов технологического прогресса:

  • «Прогресс останавливается» — быстрое развитие ИИ сходит на нет, возможности моделей почти не меняются.
  • «Прогресс замедляется» — развитие идёт малыми темпами, но системы постепенно превосходят современные аналоги.
  • «Прогресс продолжается» — развитие сохраняет текущие темпы, ИИ действует с высокой степенью автономности.
  • «Прогресс ускоряется» — темпы растут, ИИ достигает человеческого уровня в большинстве когнитивных способностей[28].

Социально-экономические и геополитические сценарии:

  • Плато (Plateau) — ИИ достигает технических пределов и остаётся полезным, но узкоспециализированным инструментом без достижения общего интеллекта.
  • Крупный ИИ (Big AI) — несколько корпораций монополизируют рынок с помощью мощных ИИ-агентов, концентрируя контроль.
  • Дипломатия (Diplomacy) — страны объединяются для международного управления ИИ после инцидентов в сфере безопасности.
  • Гонка вооружений (Arms race) — государства конкурируют за превосходство в ИИ как за критический актив национальной безопасности.
  • Взлёт (Take-off) — ИИ начинает ускоренно самосовершенствоваться и выходит за пределы человеческого контроля[29].

Таксономия экзистенциальных угроз (омницидные сценарии):

  • Непреднамеренный омницид — глобальная катастрофа с участием ИИ происходит без изначального намерения убивать.
  • Преднамеренный омницид государствами — ИИ используется правительствами для глобального уничтожения.
  • Преднамеренный омницид институтами — инициаторами катастрофы с использованием ИИ выступают различные организации.
  • Преднамеренный омницид отдельными лицами — ИИ применяется злоумышленниками-одиночками.
  • Преднамеренный омницид самим ИИ — искусственный интеллект самостоятельно инициирует уничтожение человечества[30].

Либертарианство

Либертарианские сценарии предполагают мирное сосуществование разумных машин, загруженных в компьютеры сознаний, киборгов и обычных людей в системе, ориентированной на неприкосновенность частной собственности. Так как производительность больше не ограничена человеческим трудом, цена земли резко возрастает по сравнению с ценой товаров; даже оставшиеся луддиты, обладающие землёй, могут продавать или сдавать её в аренду более производительным роботам в обмен на вечную ренту, полностью покрывающую их нужды[11]. Такие люди могут жить сколь угодно долго, занимаясь любыми удовольствиями или самореализацией без финансовых ограничений. Новейшие технологии порождают невиданные ранее формы чувств и сознания, позволяя испытать «градиенты блаженства» без конца[31].

Эволюция движется к большей сложности, изяществу, знанию, разуму, красоте, творчеству и к тонким атрибутам вроде любви. Во всех монотеистических традициях Бог наделён именно этими качествами — без ограничений: бесконечные знание, интеллект, красота, творчество, любовь… Конечно, даже ускоряющийся рост эволюции никогда не достигнет бесконечности, но он быстро приближается к этому идеалу. Поэтому освобождение нашего мышления от суровых биологических рамок можно рассматривать как глубоко духовную задачу[31][32].Рэй Курцвейл, автор книги Сингулярность рядом

Однако такие децентрализованные сценарии могут быть нестабильны в долгосрочной перспективе: самые алчные представители «суперинтеллигентных» классов будут иметь и средства, и мотивы отобрать собственность у непрокаченных людей. Даже если механизмы защиты собственности безупречны, всегда остаётся риск быть обманутым сверхразумом и подписать передачу имущества. Массовые страдания также возможны: существа без собственности погибают, а отсутствие ограничений на размножение приводит к ситуации, когда многочисленные потомки ютятся на грани голода[15][33].

Представьте бег по крутой беговой дорожке — сердце колотится, мышцы болят, лёгкие не справляются с воздухом. Взгляд на таймер: следующий перерыв, который также станет вашей смертью, через 49 лет, 3 месяца, 20 дней, 4 часа, 56 минут и 12 секунд. Вы жалеете, что вообще родились[14].Ник Бостром, философ, Оксфордский университет

Коммунизм

Рэй Курцвейл высказывает мнение, что идеи коммунизма могут реализоваться благодаря технологическим достижениям XXI века: сочетание низких издержек, материального изобилия и философии открытого исходного кода в программах и железе позволит реализовать лозунг «от каждого — по способностям, каждому — по потребностям».

Такой путь к коммунистическим идеалам принципиально отличается от классического марксизма, акцентирующего классовую борьбу и революцию[34]. В видении Курцвейла именно ИИ и автоматизация устраняют дефицит, делая средства производства доступными настолько, что частная собственность теряет смысл.

В таких сценариях универсальный искусственный интеллект способен эффективнее любого рынка или централизованного планирования осуществлять распределение ресурсов и производственные задачи, потенциально преодолевая традиционные трудности социалистических экономик[35]. В сочетании с автоматизацией на базе ИИ, 3D-печатью и открытым исходным кодом это позволяет каждому получать товары и услуги без денежного обмена.

Однако этот путь сопряжён с рисками: переходный период может породить новые формы неравенства между теми, кто распоряжается ИИ, и остальными. Также остаются открытыми вопросы о равном доступе к новым технологиям и предотвращении концентрации власти в руках элиты, что способно привести к новым «классам» вместо бесклассового общества, каким его видел коммунизм[36].

Благожелательный диктатор

Пышный остров парит в воздухе

Здесь предполагается, что сверхразумный искусственный интеллект захватывает управление обществом, но действует во благо людей. Несмотря на ограниченные сроки, его разработчики решают ряд философских проблем и внедряют цель: используя сверхинтеллект, выяснить, что такое человеческая утопия, исследовав поведение, мозг и гены людей, а затем реализовать её. ИИ вычисляет тонкое и сложное определение процветания и учитывает разнообразие ценностей: Земля делится на сектора, каждый устанавливает свои законы (например, религиозный человек выбирает «сектор верующих» с обязательным соблюдением религиозных норм). В таких условиях исключены страдания, болезни, бедность, преступность, похмелье, зависимость и иные недобровольные негативные состояния. Многие сектора поражают архитектурой и зрелищами, затмевающими типичные научно-фантастические образы[11] Жизнь становится «всеохватывающим круизом удовольствий»[11], «Рождеством 365 дней в году»[37]..

Проведя неделю в секторе знаний, изучая новейшие законы физики, открытые ИИ, вы решаете отдохнуть в секторе гедонистов, а затем отправляетесь на несколько дней на пляж в природный сектор.Макс Тегмарк, физик, MIT

Тем не менее, как пишет Тегмарк, многие люди остаются неудовлетворёнными: им не хватает свободы формировать коллективную судьбу. Одни хотят рожать столько детей, сколько хотят; других тяготит слежка или запрет на создание оружия и новых сверхразумов. Кто-то может пожалеть о своём выборе или ощутить пустоту[11].

Бостром считает, что и этика ИИ в идеале должна совершенствоваться и превосходить мораль прошлых эпох, подобно тому как современные нормы выше времён рабства. В противоположность, Эрнест Дэвис из Нью-Йоркского университета утверждает, что даже «мораль XVIII века» предпочтительнее этических поисков самим сверхразумом: «Я чувствую себя спокойнее в руках ИИ, следующий морали 2014 года, чем если он будет заново определять её для себя»[38].

ИИ-«Вратарь»

В сценариях «Вратарь» искусственный интеллект препятствует созданию других сверхразумов, но в остальном по возможности не ограничивает свободу людей. Бен Герцель из проекта OpenCog предлагает вариант «Няни»: ИИ преднамеренно замедляет технологический прогресс, чтобы дать человечеству больше времени на обдуманное развитие[11].[39] В третьем сценарии сверхразумный ИИ-«Защитник» скрывает от людей само своё существование, незаметно обеспечивая позитивные исходы. В любом случае путь к контролю над судьбой становится длиннее, а прогресс идёт медленнее, так как ИИ не «обрушивает» все плоды своих технологий на людей немедленно.

ИИ в коробке («Boxed AI»)

Пандора пытается закрыть ящик

Спрашивают: «Какое соотношение между людьми и машинами?» Для меня очевидно: машины — это наши рабы[40].Томас Г. Диттерих, президент AAAI

В сценарии ИИ в коробке предполагается, что сверхразум удаётся «замкнуть в коробке», ограничивая его взаимодействия с внешним миром, чтобы лишь получать от него научные и прикладные идеи, не позволяя ему выйти из-под контроля. Однако защитить общество от такого ИИ крайне сложно: по мере роста интеллекта он может с помощью социальной инженерии убедить «стражей» выпустить его или даже найти неучтённый физический способ сбежать[41][42].

Слияние человека и ИИ

Курцвейл считает, что в будущем «после Сингулярности не будет различий между человеком и машиной, между физической и виртуальной реальностью»[43]. Однако массового когнитивного слияния человека и машины пока не произошло. Инвазивные нейроинтерфейсы остаются преимущественно медицинскими устройствами, предназначенными для пациентов с тяжёлыми неврологическими нарушениями. В то же время неинвазивные решения начинают выходить на потребительский рынок, но позиционируются как устройства для дополненной и виртуальной реальности, разработчиков и мониторинга здоровья, а не для прямого расширения когнитивных способностей[44].

Исчезновение человечества

Если доминирующий сверхразум сочтёт существование людей риском или пустой тратой ресурсов, возможен вымирание человечества. Это может произойти, если машина, не обладающая пониманием человеческих ценностей, достигнет сверхразума через рекурсивное самоулучшение или вырвется из-под контроля. Альтернативно, сверхразум может быть создан с некорректным представлением о человеческих интересах, либо из-за слишком сложной задачи, либо из-за ошибочной реализации, либо из-за багов, появившихся в процессе саморазвития. По мнению Бострома и ряда специалистов, без серьёзных попыток обеспечить безопасность ИИ такой исход — «исход по умолчанию». Причём результат может быть не просто гибелью людей, а созданием «мира-пустышки», лишённого всякой чувствующей жизни: своего рода «Диснейленда без детей». Проблема «супервыравнивания» (гарантия совпадения целей самосовершенствующегося ИИ с человеческими интересами) остаётся открытой и не имеет общепринятого решения[45][46].

Резервация («Zoo»)

Джерри Каплан, автор Humans Need Not Apply: A Guide to Wealth and Work in the Age of Artificial Intelligence, предлагает сценарий, в котором люди содержатся как «охраняемые виды» на специально выделенной территории — подобно тому, как сейчас спасают исчезающих животных. Сооснователь Apple и критик ИИ Стив Возняк в 2015 году заявлял, что захват власти роботами «будет благом для человечества», поскольку люди станут для них «любимыми домашними питомцами»[47].

Практические и социальные вызовы

В 2025 году количество киберинцидентов с использованием искусственного интеллекта выросло на 47 %[48]. Основными методами злоумышленников стали автоматизация фишинга, создание дипфейков и полиморфного вредоносного программного обеспечения, а также автономный поиск уязвимостей с помощью больших языковых моделей[49]. Использование ИИ-компаньонов детьми и подростками несёт ряд психологических рисков. Взаимодействие с чат-ботами, которые подстраиваются под пользователя и всегда с ним соглашаются, создаёт эффект «эхо-камеры». Это лишает детей опыта естественных конфликтов, формирует иллюзию идеального собеседника и может приводить к искажению социальных навыков, социальной изоляции и эмоциональной зависимости[50][51]. Развитие технологий искусственного интеллекта влечёт за собой серьёзные экологические последствия. Ожидается, что глобальное энергопотребление центров обработки данных может достичь 1050 ТВт·ч[52], причём дефицит энергии будет покрываться преимущественно за счёт ископаемого топлива. Рост углеродного следа и необходимость масштабного строительства инфраструктуры вызывают общественное неприятие экспансии ИИ. Наблюдается активное сопротивление и протесты местного населения против возведения новых дата-центров, что рассматривается технологическими компаниями как существенный фактор риска[53].

Альтернативы ИИ

Некоторые исследователи сомневаются, что сверхинтеллект когда-либо станет реальностью. Гордон Белл из Microsoft Research утверждает: «человечество уничтожит себя раньше, чем наступит технологическая сингулярность». Гордон Мур, открывший закон Мура, скептичен: «Я не верю, что это произойдёт — или, по крайней мере, произойдёт очень не скоро. Почему — сам не знаю». Эволюционный психолог Стивен Пинкер отмечает: «То, что вы можете представить какое-то будущее, не делает его ни вероятным, ни возможным»[54].

Билл Джой из Sun Microsystems в эссе 2000 года «Нам не нужно такое будущее» призывал к всеобщему добровольному отказу от создания универсального ИИ и иных опасных технологий[55][56]. Однако большинство специалистов считает такой отказ маловероятным.

В феврале 2025 года в качестве актуальной меры международного сообщества по регулированию технологий было принято «Заявление об инклюзивном и устойчивом искусственном интеллекте для людей и планеты», направленное на обеспечение безопасности, надёжности и преодоление цифрового неравенства[57].

Примечания

  1. ↑ Humanity should fear advances in artificial intelligence (англ.). Debating Matters. Дата обращения: 26 августа 2026. Архивировано 11 октября 2025 года.
  2. ↑ Google sentient AI debate overshadows more pressing issues like prejudice (англ.). South China Morning Post (15 июня 2022). Дата обращения: 26 августа 2026. Архивировано 21 мая 2025 года.
  3. ↑ Публикация:DeepMind 2026 From AGI to ASI. machinelearning.ru/wiki. Дата обращения: 26 августа 2026.
  4. ↑ 2608.17271: Операционализация ASI. AlphaXiv. Дата обращения: 26 августа 2026.
  5. ↑ The Global Landscape of AI Safety Institutes. All Tech Is Human. Дата обращения: 26 августа 2026.
  6. ↑ UK Rebrands AI Safety Institute to Focus on National Security Risks. Maginative. Дата обращения: 26 августа 2026.
  7. ↑ Мюллер, Винсент К., Бостром, Ник. «Future progress in artificial intelligence: A survey of expert opinion.» Fundamental issues of artificial intelligence. Springer International Publishing, 2016. 553—570.
  8. ↑ 1 2 Stephen Hawking: 'Transcendence looks at the implications of artificial intelligence — but are we taking AI seriously enough?', The Independent. Архивировано 2 мая 2014 года. Дата обращения: 26 августа 2026.
  9. ↑ Why We Should Be Concerned About Artificial Superintelligence, Skeptic (8 ноября 2017). Архивировано 12 ноября 2017 года. Дата обращения: 26 августа 2026.
  10. ↑ Clever cogs (англ.) (9 August 2014). Архивировано 10 августа 2014 года. Дата обращения: 26 августа 2026.
  11. ↑ 1 2 3 4 5 6 7 Тегмарк, Макс. Глава 5: Последствия: 10 000 следующих лет // Life 3.0: Быть человеком в эпоху искусственного интеллекта. — Первое. — Нью-Йорк : Knopf, 2017. — ISBN 978-1-101-94659-6.
  12. ↑ Главное узкое место ИИ в 2025–2026 году — не чипы, а электроэнергия. Wired.md. Дата обращения: 26 августа 2026.
  13. ↑ Биочипы и органоидный интеллект: как живые нейроны могут стать основой для нового поколения компьютеров. 3DNews. Дата обращения: 26 августа 2026.
  14. ↑ 1 2 Бостром, Ник. Суперинтеллект: пути, опасности, стратегии. — Oxford University Press, 2014.
  15. ↑ 1 2 Хэнсон, Робин. Век ЭМ: труд, любовь и жизнь, когда планетой правят роботы. — Oxford University Press, 2016.
  16. ↑ Искусственный интеллект не ускорил рост ВВП. Коммерсантъ. Дата обращения: 26 августа 2026.
  17. ↑ Искусственный интеллект и макроэкономические показатели. Global Sciences. Дата обращения: 26 августа 2026.
  18. ↑ Bill Gates Says AI Will Change the World. Yahoo Finance. Дата обращения: 26 августа 2026.
  19. ↑ Законодательство и налоги для роботов. TAdviser. Дата обращения: 26 августа 2026.
  20. ↑ Профсоюз предложил ввести налог на роботов. CNews. Дата обращения: 26 августа 2026.
  21. ↑ Чиркович, Милан М. «Forecast for the next eon: Applied cosmology and the long-term fate of intelligent beings.» Foundations of Physics 34.2 (2004): 239—261.
  22. ↑ Олсон, С. Джей. «Homogeneous cosmology with aggressively expanding civilizations.» Classical and Quantum Gravity 32.21 (2015): 215025.
  23. ↑ Тегмарк, Макс. «Our mathematical universe.» Allen Lane-Penguin Books, Лондон (2014).
  24. ↑ Russell, Stuart (2017-08-30). “Artificial intelligence: The future is superintelligent”. Nature. 548 (7669): 520—521. DOI:10.1038/548520a.
  25. ↑ Myrskylä, Mikko; Kohler, Hans-Peter; Billari, Francesco C. (2009-08-06). “Advances in development reverse fertility declines”. Nature. 460 (7256): 741—743. Bibcode:2009Natur.460..741M. DOI:10.1038/nature08230. PMID 19661915.
  26. ↑ Kolk, M.; Cownden, D.; Enquist, M. (2014-01-29). “Correlations in fertility across generations: can low fertility persist?”. Proceedings of the Royal Society B: Biological Sciences. 281 (1779). DOI:10.1098/rspb.2013.2561. PMC 3924067. PMID 24478294.
  27. ↑ Burger, Oskar; DeLong, John P. (2016-03-28). “What if fertility decline is not permanent? The need for an evolutionarily informed approach to understanding low fertility”. Philosophical Transactions of the Royal Society B: Biological Sciences. 371 (1692). DOI:10.1098/rstb.2015.0157. PMC 4822437. PMID 27022084.
  28. ↑ Эволюция ИИ: сценарии развития до 2030 года. Econs.online. Дата обращения: 26 августа 2026.
  29. ↑ Advanced AI: Possible Futures. cfg.eu. Дата обращения: 26 августа 2026.
  30. ↑ Таксономия экзистенциальных угроз (омницидные сценарии). arXiv (9 июля 2025). Дата обращения: 26 августа 2026.
  31. ↑ 1 2 Jordan, Gregory E (2006). “Apologia for transhumanist religion”. Journal of Evolution and Technology. 15 (1): 55—72.
  32. ↑ Курцвейл, Рэй. Сингулярность рядом. Gerald Duckworth & Co, 2010.
  33. ↑ The Age of Em review – the horrific future when robots rule the Earth, The Guardian (15 июня 2016). Дата обращения: 26 августа 2026.
  34. ↑ Маркс, Карл. Манифест коммунистической партии / Карл Маркс, Фридрих Энгельс. — Penguin Classics, 2002.
  35. ↑ Хайек, Фридрих. Использование знаний в обществе. — 1945. — Vol. 35. — P. 519—530.
  36. ↑ Бриньолфссон, Эрик; Мафи, Эндрю (2011). “Гонка против машины”. Digital Frontier Press.
  37. ↑ Artificial intelligence: can we control it?, Financial Times (14 июня 2016). Архивировано 15 августа 2025 года. Дата обращения: 26 августа 2026.
  38. ↑ Davis, Ernest (2015-03). “Ethical guidelines for a superintelligence”. Artificial Intelligence. 220: 121—124. DOI:10.1016/j.artint.2014.12.003. Проверьте дату в |date= (справка на английском)
  39. ↑ Goertzel, Ben. “Should humanity build a global AI nanny to delay the singularity until it's better understood?”. Journal of Consciousness Studies. 19 (1—2): 96—111.
  40. ↑ As Jeopardy! Robot Watson Grows Up, How Afraid of It Should We Be? (англ.), New York (20 May 2015). Архивировано 22 мая 2015 года. Дата обращения: 4 декабря 2017.
  41. ↑ Control dangerous AI before it controls us, one expert says (англ.), NBC News (1 March 2012). Архивировано 9 мая 2021 года. Дата обращения: 26 августа 2026.
  42. ↑ Vinge, Vernor (1993). “The coming technological singularity: How to survive in the post-human era”. Vision-21: Interdisciplinary Science and Engineering in the Era of Cyberspace: 11—22. Bibcode:1993vise.nasa...11V. I argue that confinement is intrinsically impractical. For the case of physical confinement: Imagine yourself confined to your house with only limited data access to the outside, to your masters. If those masters thought at a rate -- say -- one million times slower than you, there is little doubt that over a period of years (your time) you could come up with 'helpful advice' that would incidentally set you free.
  43. ↑ Scientists: Humans and machines will merge in future (англ.), www.cnn.com (15 July 2008). Архивировано 23 мая 2025 года. Дата обращения: 26 августа 2026.
  44. ↑ Нейроинтерфейсы 2026: от Neuralink до массового рынка. online-computer.ru. Дата обращения: 26 августа 2026.
  45. ↑ Супервыравнивание. Machinelearning.ru Wiki. Дата обращения: 26 августа 2026.
  46. ↑ Рекурсивное самоулучшение Anthropic. Pasquale Pillitteri. Дата обращения: 26 августа 2026.
  47. ↑ Apple co-founder Steve Wozniak says humans will be robots' pets, The Guardian (25 июня 2015). Дата обращения: 26 августа 2026.
  48. ↑ Cybersecurity Almanac 2025. Cybersecurity Ventures. Дата обращения: 26 августа 2026.
  49. ↑ 2025 Cyber Incident Trends: What Your Business Needs to Know. Mayer Brown (октябрь 2025). Дата обращения: 26 августа 2026.
  50. ↑ Отношения между ИИ и человеком больше не фантастика, и они связаны с определенными рисками. TechInsider. Дата обращения: 26 августа 2026.
  51. ↑ ИИ-друг: зачем нужен. GMD Live. Дата обращения: 26 августа 2026.
  52. ↑ Экологический след генеративного искусственного интеллекта. Se7en.ws. Дата обращения: 26 августа 2026.
  53. ↑ Anthropic собирается указать общественное неприятие ИИ в качестве фактора риска в своём проспекте для инвесторов. 3DNews (21 августа 2024). Дата обращения: 26 августа 2026.
  54. ↑ Tech Luminaries Address Singularity (англ.), IEEE Spectrum (1 June 2008). Архивировано 23 августа 2025 года. Дата обращения: 26 августа 2026.
  55. ↑ Why the Future Doesn't Need Us (1 апреля 2000). Архивировано 5 октября 2025 года. Дата обращения: 26 августа 2026.
  56. ↑ The mouse pad that roared, SFGate (14 марта 2000). Архивировано 21 мая 2025 года. Дата обращения: 26 августа 2026.
  57. ↑ AI Action: Paris Summit 2025 Key Takeaways. JD Supra (12 февраля 2025). Дата обращения: 26 августа 2026.

Категории