Дарвин среди машин

«Нет никаких гарантий,— если привести его собственные слова,— что машины в будущем не приобретут сознание, только потому, что сейчас они обладают им в малой степени. У моллюсков тоже мало сознания. Подумайте о необычайном прогрессе, который совершили машины за последние несколько сотен лет, и обратите внимание, как медленно развиваются животные и растения. Более сложные машины были созданы не столько вчера, сколько, так сказать, за последние пять минут по сравнению с прошлым. ...

„Либо, — продолжает он, — большую часть действий, которые считались сугубо механическими и бессознательными, следует признать содержащими больше элементов сознания, чем считалось ранее (и в этом случае зачатки сознания будут обнаружены во множестве действий высших машин), либо (допуская эволюцию, но отрицая наличие сознания у растений и кристаллов) человеческий род произошёл от существ, не обладавших сознанием вообще. Тогда не существует apriori невероятности в том, что сознательные (и более чем сознательные) машины могут произойти от ныне существующих, кроме той, которую внушает кажущееся отсутствие чего-либо наподобие системы воспроизводства в механическом царстве.»

«Однако машины, которые создают другие машины, не воспроизводят машины «по своему образу». Напёрсток может быть сделан на станке, но этот станок сам не делает напёрстки и никогда не сделает. И если обратиться к природе, то мы найдём множество аналогий, показывающих, что система воспроизводства может быть вполне развита, даже если производимое отличается от того, что произвело его. Очень немногие существа воспроизводят себе подобных; они производят нечто, что может со временем стать их подобием. Так, бабочка откладывает яйцо, из которого появляется гусеница, превращающаяся в куколку, а та — в бабочку; и хотя я охотно признаю, что машины пока только обладают зародышем настоящей системы воспроизводства, разве мы только что не видели, что совсем недавно у них появились зачатки рта и желудка? Не может ли быть следующий шаг столь же масштабным — в сторону истинного размножения?

Возможно, что сформировавшаяся система в значительной мере окажется суррогатной. Некоторые классы машин будут плодовиты, а остальные выполнять иные функции, как подавляющее большинство муравьёв и пчёл не участвует в продолжении рода, а лишь добывает и запасает пищу, не думая о размножении. Нельзя ожидать полного и даже близкого соответствия; конечно, не сейчас и, вероятно, никогда; но достаточно ли уже аналогий, чтобы мы серьёзно задумались о будущем и сочли своим долгом остановить зло, пока это ещё возможно? Машины могут в определённых пределах порождать машины любого класса, даже если они не похожи на себя. Для каждого класса, видимо, появятся свои механо-«заводчики», и все высшие машины будут обязаны своим происхождением не двум, а множеству родителей.

Сложно сейчас, но как всё может оказаться проще и организованнее через сто тысяч лет? Или через двадцать тысяч? Ведь человек сейчас считает, что его интересы лежат в этом направлении; он тратит неимоверно много труда, времени и дум на то, чтобы машины всегда размножались всё совершеннее; уже достигнуто многое, что ранее считалось невозможным, и, если дать улучшениям свободно переходить от поколения к поколению с модификациями, не видно пределов результату.»

«В этом и заключается наша опасность. Многие склонны покориться такому позорному будущему. Говорят, что даже если человек станет для машин тем, чем лошадь и собака являются для человека, то всё равно продолжит существовать и, возможно, ему будет даже лучше в состоянии одомашненности под благожелательной властью машин, чем сейчас в дикой природе. Мы относимся к своим домашним животным с большой добротой. Мы даём им всё, что считаем для них лучшим; и, вне сомнения, наша диета из мяса принесла им больше счастья, не уменьшив его. Аналогично можно надеяться, что машины будут с нами добры, ибо они в значительной мере будут зависимы от нас; они будут править нами железной рукой, но не станут нас есть; им понадобятся наши услуги по размножению и воспитанию их потомства, а также уход за ними, когда они больны, сбор пищи, кормление, лечение — и либо похороны их мёртвых, либо переработка останков в новые механизмы.»

«Привычка обладает огромной силой, и перемены произойдут столь постепенно, что чувство собственного достоинства ни в какой момент не испытает резкого потрясения; наше рабство подкрадётся к нам бесшумно и незаметно; никогда не возникнет такого столкновения желаний между человеком и машинами, чтобы это привело к открытому конфликту. Машины будут вечно враждовать между собой, но им по-прежнему будет нужен человек как проводник этой борьбы. На деле опасаться за будущее человеческого счастья не стоит, пока человек ещё хоть в какой-то мере полезен машинам; он может уступить им место высшей расы, но будет всё же в несравненно лучшем положении, чем сейчас. Разве не абсурдно и неразумно завидовать своим благодетелям? Разве не было бы крайней глупостью отвергать преимущества лишь потому, что они сулят ещё больший выигрыш другим, нежели нам самим?

С теми, кто способен так рассуждать, у меня нет ничего общего. Я с таким же ужасом отказываюсь верить, что мой род когда-либо может быть вытеснен или превзойдён, как если бы я должен был признать, что даже в самом далёком прошлом мои предки были существами иными, чем люди. Если бы я мог поверить, что сто миллионов лет назад хоть один мой предок был не тем существом, чем я сам, я бы утратил всякое уважение к себе и интерес к жизни. То же чувство испытываю и к своему потомству, и убеждён, что это чувство будет свойственно многим, так что страна в итоге решит немедленно прекратить весь дальнейший технический прогресс и уничтожит все усовершенствования, появившиеся за последние триста лет. Я не стал бы настаивать на большем. Пусть с остальным мы разберёмся; и хотя я предпочёл бы, чтобы уничтожение охватило ещё двести лет, я понимаю необходимость компромисса и готов довольствоваться тремястами. Меньшего будет недостаточно.»