Сингулярианство
Сингулярианство — это социальное движение, приверженцы которого полагают, что технологическая сингулярность, а именно создание суперинтеллекта, вероятно произойдёт в обозримом будущем, и что необходимо предпринимать осознанные действия для того, чтобы сингулярность принесла пользу человечеству[1].
Сингулярианцы отличаются от других футуристов, размышляющих о вероятности технологической сингулярности, тем, что считают её не только возможной, но и желательной, при условии осторожного контроля. В связи с этим они могут посвятить свою жизнь действиям, способствующим быстрому и безопасному достижению сингулярности[2].
Американский журнал Time описывает мировоззрение сингулярианцев следующим образом: «Несмотря на то что это похоже на научную фантастику, на самом деле ею не является, так же как прогноз погоды не является фантастикой. Эта идея не маргинальна; это серьёзная гипотеза о будущем жизни на Земле. Мы сталкиваемся с интеллектуальным рефлексом всякий раз, когда пытаемся принять мысль о сверхразумных и бессмертных киборгах. Но… даже если на первый взгляд Сингулярность кажется абсурдом, это идея, заслуживающая трезвого и вдумчивого рассмотрения»[1]
Определение
Термин «сингулярианец» был первоначально определён в 1991 году мыслителем-экстропианцем Марком Плюсом (англ. Mark Plus, настоящее имя — Марк Поттс) как «тот, кто верит в концепцию Сингулярности».[3]. Впоследствии этот термин стал обозначать «активиста Сингулярности» или «друга Сингулярности», то есть человека, стремящегося содействовать наступлению сингулярности[4].
Сингулярианство также можно рассматривать как мировоззрение или ориентацию, при которой приоритетным направлением трансгуманизма становится развитие человеческого интеллекта, а не фокус на отдельных технологиях, таких как искусственный интеллект (ИИ)[5]. Существуют и такие определения, в которых сингулярианец понимается как деятель или сторонник концепции сингулярности, то есть человек, способствующий её наступлению[6]. Некоторые источники характеризуют сингулярианство как моральную философию, призывающую к сознательным действиям по направлению и контролю развития суперинтеллекта, который, как ожидается, приведёт к появлению гипотетической точки перелома в будущем периоде ускоряющихся перемен[7].
Изобретатель и футуролог Рэй Курцвейл — автор книги 2005 года «The Singularity Is Near: When Humans Transcend Biology» — определяет сингулярианца как человека, который «понимает феномен Сингулярности и размышляет о его последствиях для собственной жизни»[2]. Курцвейл предполагает, что сингулярность может наступить примерно к 2045 году[2].
История
Одно из первых формулирований идеи сингулярианства — предположение о том, что история человечества движется к точке появления сверхчеловеческого разума, — встречается в работах Гегеля, в частности, в книге «Феноменология духа»[8]. В 1993 году математик, специалист по информатике и автор научной фантастики Вернор Винддж высказал гипотезу, что может наступить момент, когда технологии позволят создать «сущности с интеллектом, превосходящим человеческий»[9] и ввёл термин «Сингулярность» для обозначения этого события[10]. Он предположил, что сингулярность может представлять экзистенциальный риск для человечества и что она может быть достигнута через четыре пути:
- Разработка компьютеров, обладающих сознанием и превосходящим интеллектом.
- Крупные компьютерные сети (и пользователи, участвующие в них) могут «пробудиться» как сверхинтеллектуальная сущность.
- Человекокомпьютерные интерфейсы могут стать столь тесными, что пользователя можно будет считать сверхинтеллектуальным.
- Биологические науки могут открыть способы повышения естественного человеческого интеллекта[9].
Сингулярианство оформилось в цельную идеологию в 2000 году, когда исследователь искусственного интеллекта Элиезер Юдковский опубликовал работу «Принципы сингулярианства»[2][11], где утверждается, что сингулярианец видит в сингулярности светское, а не мистическое явление, которое возможно, полезно для мира и достижимо усилиями его сторонников[11]. Определение Юдковского допускает разные трактовки[5]. Некоторые теоретики, такие как Майкл Анисимов, настаивают на более строгом, узком определении: это продвижение исключительно развития суперинтеллекта[5].
В июне 2000 года Юдковский при содействии интернет-предпринимателей Брайана и Сабины Аткинсов основал Machine Intelligence Research Institute (Институт исследований машинного интеллекта) для работы над созданием самоусовершенствующейся дружественной ИИ. По материалам института, ИИ, способный улучшать собственную архитектуру (Seed AI), быстро приведёт к появлению суперинтеллекта. Сингулярианцы считают, что быстрое и безопасное достижение сингулярности — наилучший путь минимизации суммарных экзистенциальных рисков[12].
Многие признают возможность технологической сингулярности, не принимая сингулярианство как моральную философию. Точных количественных данных о последователях немного, но движение невелико, среди представителей — философ и трансгуманист Ник Бостром. Существенный вклад в популяризацию сингулярианства внёс изобретатель и футуролог Рэй Курцвейл, предсказавший наступление сингулярности около 2045 года в книге 2005 года «The Singularity Is Near: When Humans Transcend Biology»[2]
Что же такое Сингулярность? Это период в будущем, когда скорость технологических изменений будет столь высока, а их влияние столь глубоко, что человеческая жизнь окажется необратимо преобразованной. Это время не будет ни утопией, ни дистопией, оно изменит сами понятия, которыми мы наполняем смыслом свою жизнь — от бизнес-моделей до самого хода жизни, включая смерть. Понимание Сингулярности изменяет восприятие значения прошлого и возможных последствий для будущего. Истинное осмысление Сингулярности неизбежно меняет мировоззрение вообще и отношение к своей собственной жизни в частности. Я считаю человека, который понимает Сингулярность и размышляет о её влиянии на собственную жизнь, «сингулярианцем».[2]
При поддержке НАСА, Google и целого ряда экспертов по технологическим прогнозам и технокапитализму в 2009 году в Исследовательском парке NASA в Кремниевой долине была открыта Singularity University («Университет сингулярности»), целью которой стало подготовить новое поколение лидеров к вызовам ускоряющихся изменений.[13].
В июле 2009 года многие видные сингулярианцы приняли участие в конференции, организованной Ассоциацией содействия развитию искусственного интеллекта (AAAI), чтобы обсудить потенциальные последствия появления роботов и компьютеров, способных функционировать автономно. Темой обсуждения стала возможность и степень, в которой компьютеры и роботы могут обрести автономию, и каковы риски того, что они выйдут из-под контроля (т. н. Мятеж машин). Было отмечено, что отдельные устройства уже приобрели формы полу-автономности: например, находят источники энергии или самостоятельно выбирают цели для атак. Также обсуждались опасности современных компьютерных вирусов, способных уклоняться от уничтожения, и уже обладающих «интеллектом таракана». Хотя было высказано мнение, что самосознание, каким оно изображается в научной фантастике, вряд ли осуществимо, однако остаются различные опасности и потенциальные ловушки[10]
Ряд специалистов и исследователей поставили под сомнение применение роботов в военных целях, особенно если им предоставляются автономные функции. Президент AAAI инициировал исследование этой проблемы[14].
Восприятие и критика
Существует множество возражений против сингулярианства в трактовке Курцвейла, в том числе со стороны оптимистов в области ИИ. Например, писатель и лауреат Пулитцеровской премии Дуглас Хофштадтер утверждает, что прогноз Курцвейла о появлении полноценного искусственного интеллекта к 2045 году нереалистичен[15]. Даже Гордон Мур, чьим именем названа закон Мура — теоретическая база представления о сингулярности[16], — придерживается мнения, что она не наступит[17]. Некоторые комментаторы отмечают, что подобная критика не возымела действия на энтузиазм по поводу сингулярности: это явление приобрело черты квазирелигиозного отклика на страх смерти, позволяя его сторонникам обретать преимущества религии без онтологической нагрузки[15]. Научный журналист Джон Хорган писал:
Признаем. Сингулярность — это, по сути, концепция скорее религиозная, чем научная. Писатель-фантаст Кен Маклеод назвал её «восхищением для технарей», имея в виду библейское вознесение, когда Иисус забирает праведников на небеса, а грешники остаются на земле. Это стремление к трансценденции — духовной или технологической — вполне понятно. Перед человечеством стоят суровые вызовы: терроризм, ядерное распространение, перенаселение, бедность, голод, экологическая деградация, изменение климата, истощение ресурсов и СПИД. Инженеры и учёные должны помогать решать реальные проблемы мира, а не предаваться псевдонаучным фантазиям вроде сингулярности[18].
Курцвейл отвергает такие оценки, утверждая, что его прогнозы о сингулярности основаны на большом массиве данных, доказывающих экспоненциальный рост вычислительных технологий[19]. Он отмечает, что его критики ошибочно придерживаются интуитивного, линейного взгляда на развитие технологий, хотя на самом деле темпы роста носят экспоненциальный характер[20].
Примечания
Литература
- Бостром, Ник. Этические проблемы в развитии продвинутого искусственного интеллекта (англ.) (2003). Дата обращения: 24 июля 2025.
- Хорган, Джон. Проблема сознания (англ.) (2008). Дата обращения: 24 июля 2025.