Самовоспроизводящиеся машины

Самовоспроизводящиеся машины (исп. máquinas autorreplicantes) — это искусственные конструкции, которые теоретически способны автономно создавать копии самих себя, используя сырьевые материалы, взятые из окружающей среды.

Идея самовоспроизводящихся машин была выдвинута и исследована Хомером Якобсеном, Эдвардом Ф. Муром, Фрименом Дайсоном, Джоном фон Нейманом, а в более позднее время — К. Эриком Дрекслером в его книге о нанотехнологиях Двигатели творения, а также Робертом Фрейтасом и Ральфом Мерклем в их статье Kinematic Self-Replicating Machines (Кинематические самовоспроизводящиеся машины)[1], где представлен первый комплексный анализ пространства конструкций таких репликаторов. Как следует из названия, самовоспроизводящаяся машина — это искусственная система самовоспроизводящегося типа, основанная на автоматизации и традиционных технологиях крупномасштабного производства.

Предполагается, что развитие таких технологий станет ключевым элементом в различных проектах, связанных с добычей ресурсов на луне и среди астероидов, созданием лунных фабрик, а также строительством солнечных спутников в космосе. Теоретическим примером такой машины служит так называемая зонда фон Неймана[2]. Фон Нейман также работал над концепцией универсального строителя, представлявшего собой самовоспроизводящуюся машину, действующую в условиях клеточных автоматов.

В литературе встречаются специфические термины. Например, термин «шумный репликатор» впервые был применён Дрекслером[3] для различения макроскопических реплицирующих систем от микроскопических нанороботов или молекулярных сборщиков, потенциал создания которых даёт нанотехнология. Тем не менее, этот термин является неформальным и редко применяется в технической и популярной литературе. Иногда самовоспроизводящиеся машины также называют «машинами фон Неймана» по имени фон Неймана, первым проведшего их строгое исследование, однако этот термин менее специфичен и может также относиться к архитектуре вычислительных машин, поэтому в целях точности его использование нежелательно. Сам фон Нейман употреблял термин «универсальный строитель».

Историки станкостроения, ещё до появления ЧПУ, иногда образно называли станки уникальным классом машин, якобы способных «размножать себя»[4], подразумевая их способность изготавливать детали для самих себя. Однако в таких случаях всегда подразумевается активное участие человека в процессе обработки и сборки деталей. То же относится и к RepRaps — это ещё один класс машин, иногда упоминаемых в связи с «неавтономным самовоспроизведением». В отличие от этого, предметом обсуждения данной статьи являются именно те машины, которые способны к подлинно автономному самовоспроизведению.

Основная концепция

Самовоспроизводящаяся машина должна уметь получать необходимую энергию и сырьё, обрабатывать и преобразовывать сырьевые материалы в конечные компоненты, а затем собирать их в копию самой себя. Для полной саморепликации важно, чтобы машина могла производить абсолютно все свои компоненты — от подшипников и соединителей до самых сложных и миниатюрных элементов. Маловероятно, что вся эта функциональность может быть реализована в одном устройстве; более реально создание группы кооперирующихся машин или автоматизированной фабрики, способной производить всех своих членов.

Такое предприятие могло бы создавать роботов для добычи сырья, строительных роботов для сборки новых устройств, а также ремонтных роботов для технического обслуживания и восстановления компонентов без участия людей. Преимущество таких систем заключается в возможности экспоненциально наращивать производственные мощности без дальнейших трудозатрат. Иными словами, первоначальные затраты на создание первой самовоспроизводящейся машины окупаются потенциально бесконечно многократно без дополнительных затрат на рабочую силу.

Подобные машины не противоречат известным физическим законам, а для некоторых вариантных конструкций уже имеются базовые необходимые технологии.

История концепции

Общее представление о создании искусственных машин, способных воспроизводить себя, насчитывает как минимум несколько сотен лет. Одной из ранних ссылок является анекдот о философе Рене Декарте, который, сравнивая человеческое тело с машиной, вызвал саркастический ответ королевы Кристины Шведской, попросившей «заставить часы производить потомство»[5].

В 1872 году писатель Сэмюэл Батлер впервые в романе Эревон высказал мысль о возможности репликации машин руками человека[6], подчеркнув, что «машины, воспроизводящие другие машины, не воспроизводят непременно машины того же типа»[7].

В 1802 году Уильям Пейли впервые сформулировал телеологический аргумент с участием машин, производящих другие машины[8], утверждая, что вопрос о том, кто изначально создал первый «часы», теряет смысл, если показать, что часы способны создавать себе подобные[9]. Научный подход к исследованию самовоспроизводящихся машин был предвосхищён Джоном Берналом в 1929 году[10] и математиками вроде Стивена Клини, который в 1930-х начал разрабатывать основы теории рекурсии[11].

Кинематическая модель фон Неймана

Первую подробную концепцию физической небилологической самовоспроизводящейся системы предложил математик Джон фон Нейман в 1948—1949 годах, когда описал модель кинематического самовоспроизводящегося автомата в рамках мысленного эксперимента[12][13]. Модель включала машину, получающую детали из некоего «моря» запасных частей с помощью манипулятора, собирающую из них копию самой себя и переписывающую собственную «память» (программу) на потомка. Фон Нейман предположил, что всей системе достаточно всего восьми различных типов компонентов, объединяющих и электронные, и механические элементы. Однако этот подход не позволял строго математически анализировать систему, и в дальнейшем он сосредоточился на более абстрактной модели, основанной на клеточных автоматах. Кинематическую концепцию позднее популяризировал Scientific American в 1955 году[14].

Искусственные «растения» Мура

В 1956 году математик Эдвард Ф. Мур предложил первую практическую схему самовоспроизводящейся машины, описанную в Scientific American[15][16]. «Искусственные живые растения» Мура представляли собой машины, использующие воздух, воду и почву в качестве сырья и получающие энергию от солнечных батарей или паровых двигателей. Муур предложил использовать побережье как начальную среду обитания, а в дальнейшем машины могли бы дрейфовать по океанам или работать в пустынях. Построенные самовоспроизводящиеся устройства предлагалось использовать как источники деталей для других, неспособных к самовоспроизведению машин.

Реплицирующие системы Дайсона

Следующий этап развития принадлежит физику Фримену Дайсону. В 1970 году он предложил три варианта масштабного применения самовоспроизводящихся машин: доставка системы на Луну Энцелад для доставки льда на Марс с помощью солнечных парусов, солнечные фабрики для работы в пустынях Земли, и «индустриальные комплекты», предлагаемые развивающимся странам[17]. Позже Дайсон предложил использовать самовоспроизводящиеся «морские растения» для опреснения океанской воды.

Автоматизация для космических миссий

undefined

В 1980 году НАСА совместно с Американским обществом инженерного образования провела исследование «Передовая автоматизация для космических миссий», посвящённое проектированию самовоспроизводящихся фабрик для освоения ресурсов Луны без необходимости доставки новых людей и оборудования[18]. Проект предусматривал экспоненциальное наращивание производственных мощностей и модификацию производственных линеек под задачи автоматических космических зондов.

Базовый проект включал роботизированные погрузчики, машины для обработки реголита, лазерные установки для литья и синтеза деталей и т. д. Особое внимание уделялось вопросам энергетики, сырьевой базы и сложности производства электронной компонентной базы, которую предлагали завозить с Земли. В качестве лимитирующего элемента производства рассматривался хлор, необходимый для получения алюминия из лунного реголита.

Репликаторы «Auxon» Лэкнера-Вендта

В 1995 году, вдохновлённые идеями Дайсона, Клаус Лэкнер и Кристофер Вендт разработали концепцию колонии кооперативных мобильных роботов (размером 10-30 см), функционирующих вокруг стационарного оборудования на электрифицированных керамических рельсах[19]. Они описали методики извлечения распространённых элементов почвы высокотемпературной карботермической обработкой. Эта схема была популяризирована в журнале Discover как система солнечного опреснения и орошения пустынь[20]. Машины получили имя «Auxon» — от греческого auxein («расти»).

Новейшие исследования

Самовоспроизводство быстрых прототипов

undefined

Первые эксперименты в области быстрого прототипирования 1997—2000 годов не ставили задачей самовоспроизведение, а моделировали «эволюционную робототехнику» в физическом мире. Впоследствии прототипирование позволило создавать широкий спектр электронных и механических компонентов, что открыло новое направление исследований самовоспроизводящихся систем[21].

В 1998 году Крис Финикс предложил концепцию гидравлически приводимого саморепликатора, использующего УФ-излучение для затвердевания пластика, но не решил задачи автоматического сборочного процесса, контроля ошибок и прецизионной обработки[22][23].

undefined

В 2005 году Адриан Боуэр из Университета Бата начал Проект RepRap, целью которого стала разработка быстропрототипирующей машины, способной изготавливать большинство своих деталей. Дизайны и управляющее ПО публикуются под лицензией GNU GPL[24]. RepRap использует экструзию пластика, возможно с интеграцией проводящих дорожек для печати плат. Другие части — металлические валы, крепёж, моторы, электроника — пока завозятся извне. В 2006 году был создан первый рабочий прототип, а к маю 2008 года машина самостоятельно произвела полный комплект своих пластиковых деталей для «машины-ребёнка».

Исследования NIAC по самовоспроизводящимся системам

В духе работ NASA 1980 года Институт перспективных концепций NASA в 2002—2003 годах поддержал несколько проектов по системам саморепликации:

  • Ход Липсон (Корнеллский университет), «Autonomous Self-Extending Machines for Accelerating Space Exploration» (Автономные саморасширяющиеся машины для ускорения космической экспансии)[25]
  • Грегори Чирикджян (Университет Джонса Хопкинса), «Architecture for Unmanned Self-Replicating Lunar Factories» (Архитектура беспилотных самовоспроизводящихся лунных фабрик)[26]
  • Пол Тодд (Space Hardware Optimization Technology Inc.), «Robotic Lunar Ecopoiesis» (Роботизированные лунные экопоэзы)[27][28]
  • Тихамер Тот-Фейел (General Dynamics), «Modeling Kinematic Cellular Automata: An Approach to Self-Replication» (Моделирование кинематических клеточных автоматов: подход к саморепликации)[29][30]

Самособирающийся робот Корнеллского университета

В 2005 году группа исследователей из Корнеллского университета во главе с Ходом Липсоном реализовала машину, состоящую из четырёх сочленённых кубов — «молекубов», способных вращаться по диагонали и действовать как манипулятор, собирающий свою копию. Управление осуществляется внутренней программой, записанной в каждый «молекуб», аналогично тому, как клетка содержит полную копию ДНК. Тем не менее, сами «молекубы» изготовить машина не может, что ставит под сомнение её статус как полного самовоспроизводителя[31].

Частичное построение

Частичное построение — идея, когда «родительский» автомат создаёт лишь часть потомка, оставляя ему возможность достроить себя самостоятельно[32][33].

В модели фон Неймана автомат-родитель строит все части «дочернего» автомата до его активации. Концепция частичного построения предполагает, что родитель завершает только часть работы, а дальше потомок самостоятельно достраивает себя — ближе к механике развития зиготы.

Самовоспроизводящиеся космические аппараты

В научной литературе идея автоматического космического аппарата, способеного создавать свои копии, впервые была рассмотрена в 1974 году Майклом Арбибом[34][35]. В фантастике же данная концепция встречалась ранее, например, в романе Berserker Фреда Саберхагена (1967) или трилогии The Voyage of the Space Beagle ван Вогта (1950). Первый количественный инженерный анализ аппарата, способного к самовоспроизведению, выполнен Робертом Фрейтасом в 1980 году[36]; им была предложена концепция «фабрики-эмбриона», доставляемой к цели и наращивающей производственные мощности за счёт самовоспроизведения.

Прочие сведения

  • На концепции самовоспроизводящихся машин основан ряд патентов, из которых наиболее примечательны:
  * U.S. Patent 4 734 856 "Autogeneric system" (Дэвис, 1988),
  * U.S. Patent 5 659 477, U.S. Patent 5 764 518 (Коллинз, 1997, 1998),
  * U.S. Patent 6 510 359 (Меркл и др., 2003),
  * а также международная заявка PCT[37].
  • Макроскопические самовоспроизводящиеся системы кратко рассмотрены в четвёртой главе Двигателей творения К. Э. Дрекслера[3].
  • В 1995 году Ник Сабо предложил построить макромасштабный репликатор из деталей LEGO и аналогичных компонентов[38].
  • В 2004 г. Роберт Фрейтас и Ральф Меркл опубликовали фундаментальный обзор исследований по авторепликации[1], включающий новый дизайн молекулярного сборщика[39] и вводную математику процессов репликации[40].

Самовоспроизводящиеся машины в научной и художественной фантастике

В вымышленной литературе концепция восходит как минимум к пьесе Р.У.Р. (РОССУМСКИЕ УНИВЕРСАЛЬНЫЕ РОБОТЫ) Карела Чапека (1920)[41]. Основная проблема — неразрешимость проблемы ремонта самих ремонтных систем — лежит в основании сюжета «Машина останавливается» Э. М. Форстера.

А. Е. ван Вогт использовал идею в рассказе M33 в Андромеде (1943; затем переработан в роман Путешествие космического Бигля), где оружие-репликатор предназначено для уничтожения инопланетной угрозы. В рассказах Филипа К. Дика Автофабрика (1955)[42] и Второй вариант (1953) встречается тема самовоспроизводящихся заводов.

В рассказе Эпилог Пола Андерсона (1962) фабрики-баржи извлекают минералы из океана, используя самовоспроизведение[42].

В повести «Крабы на острове» (1958) Анатолия Днепрова поднимается тема эволюционирующих машин-репликаторов, возникающих при неизбежных ошибках копирования. Аналогичные мотивы исследует и Станислав Лем в Непобедимом (1964).

В юмористическом ключе тему обыгрывает роман Джона Слейдека The Reproductive System (1968). Классическая дилемма потери контроля над авторепликаторами легла в основу романа Код создателя жизни (1983) Джеймса Хогана.

В фильме Крикуны (по мотивам «Второго варианта» Дика) роботизированные машины-воины эволюционируют от подземных пил к неразличимым для человека копиям самих людей. В франшизе Терминатор ведётся война между человечеством и армией машин под управлением искусственного интеллекта Скайнет.

Машины-репликаторы часто фигурируют и в сериалах: «Жнецы» и зонд Манктрид из Lexx, «Репликаторы» в Stargate SG-1, «борги» и «наниты» в Star Trek[43][44][45].

Другие примеры в художественной литературе

  • «The Necessary Thing» Роберта Шекли, где универсальный репликатор клонирует сам себя.
  • Серия Berserker Фреда Саберхагена.
  • Кузница Бога Грега Бира.
  • 2010: Одиссея два Артура Кларка.
  • The World at the End of Time Фредерика Пола.
  • Recursion Тони Баллантайна (ISBN 0-330-42699-0).
  • Evolution Стивена Бакстера.
  • Spin Роберта Чарльза Уилсона.
  • Presa (Prey) Майкла Крайтона.
  • Терминал Майкла Крайтона (1972) содержит одну из первых литературных моделей компьютерного вируса, распространяющегося по аналогии с репликаторами.
  • The Shockwave Rider Джона Бруннера (1975) и The Adolescence of P-1 Томаса Райана (1977) — ранние художественные описания компьютерных вирусов.
  • Singularity Sky Чарльза Стросса.

Перспективы реализации

С расширением промышленной автоматизации отдельные фабрики постепенно приближаются к относительной автономии[46]. Однако до «полного замыкания производственного цикла»[47] обычно ещё далеко, так как автоматизированное создание всех деталей не всегда экономичнее традиционных цепочек поставок. Как отмечал Батлер, частично замкнутое воспроизводство фабрик уже достигается. В целях безопасности регулирование вероятно будет требовать ограничения автономии будущих машин в части управления, потребления и производства энергии, и т. д. Полностью автономные репликаторы более всего востребованы при работе в экстремальных средах, труднодоступных для человека (например, в космосе).

Искусственный репликатор можно рассматривать как разновидность искусственной жизни. В зависимости от архитектуры, он может подвергаться эволюционному развитию[48]. Тем не менее, при наличии исправления ошибок и возможности внешнего вмешательства сценарии «восстания машин» крайне маловероятны[49].

Примечания

  1. 1 2 Freitas, Robert A. Kinematic Self-Replicating Machines. — Georgetown, Texas : Landes Bioscience, 2004. — ISBN 1-57059-690-5.
  2. 3.11 (исп.). Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 25 ноября 2005 года.
  3. 1 2 Drexler, K. Eric Engines of Abundance (Chapter 4) Clanking Replicators (англ.). Engines of Creation (1986). Дата обращения: 10 июля 2024. Архивировано 7 августа 2011 года.
  4. Colvin, Fred H. Sixty Years with Men and Machines. — McGraw-Hill, 1947. — P. 6–7. — ISBN 978-0-917914-86-7.
  5. Sipper, Moshe; James A. Reggia (август 2001). “Build Your Own Replicator”. Scientific American. 285: 38—39. Дата обращения 2024-07-10. Используется устаревший параметр |coauthors= (справка); Проверьте дату в |date= (справка на английском)
  6. 1 (исп.). Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 19 августа 2025 года.
  7. Samuel Butler. Erewhon, Chapter 24, The book Of the Machines. Nzetc.org. Дата обращения: 10 июля 2024. Архивировано 2 января 2006 года.
  8. 1. Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 19 августа 2025 года.
  9. Paley, William. Chapter i, Section 1 // Natural Theology: or Evidences of the Existence and Attributes of the Deity, Collected from the Appearances of Nature. — E. Goodale, 1802. — ISBN 0576291668., Philosophy of Biology / Michael Ruse. — 1998. — P. 36–40., Lenski, Richard (15 ноября 2001). “Twice as Natural”. Nature. 414 (6861): 255. DOI:10.1038/35104715. PMID 11713507.
  10. Bernal, John Desmond The World, the Flesh and the Devil: An Enquiry into the Future of the Three Enemies of the Rational Soul (1929). Дата обращения: 10 июля 2024. Архивировано 8 мая 2006 года.
  11. 1. Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 19 августа 2025 года.
  12. von Neumann, John. The Theory of Self-reproducing Automata / A. Burks. — Urbana, IL : Univ. of Illinois Press, 1966. — ISBN 0598377980.
  13. 2.1. Molecularassembler.com. Дата обращения: 10 июля 2024. Архивировано 20 февраля 2006 года.
  14. Kemeny, John G. (апрель 1955). “Man Viewed as a Machine”. Scientific American. 192 (4): 58—67. DOI:10.1038/scientificamerican0455-58. Дата обращения 2024-07-10. Проверьте дату в |date= (справка на английском)
  15. Moore, Edward F. (октябрь 1956). “Artificial Living Plants”. Scientific American. 195 (4): 118—126. DOI:10.1038/scientificamerican1056-118. Дата обращения 2024-07-10. Проверьте дату в |date= (справка на английском)
  16. 3.1. Molecularassembler.com. Дата обращения: 10 июля 2024. Архивировано 31 августа 2025 года.
  17. Dyson, Freeman J. Disturbing the Universe. — New York : Harper and Row, 1979. — P. 194–204.
  18. Advanced Automation for Space Missions / Robert Freitas, William P. Gilbreath. — 1982. — ISBN NASA Conference Publication CP-2255 (N83-15348).
  19. Lackner, Klaus S.; Christopher H. Wendt (1995). “Exponential growth of large self-replicating machine systems”. Mathl. Comput. Modelling. 21 (10): 55—81. DOI:10.1016/0895-7177(95)00071-9. Дата обращения 2024-07-10. Используется устаревший параметр |coauthors= (справка); |access-date= требует |url= (справка)
  20. Bass, Thomas (октябрь 1995). “Robot, build thyself”. Discover: 64—72. Дата обращения 2024-07-10. Проверьте дату в |date= (справка на английском); |access-date= требует |url= (справка)
  21. Freitas 2004, p. 64-67 (исп.). Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 15 марта 2024 года.
  22. Christopher J. Phoenix. Partial design for macro-scale machining self-replicator, sci.nanotech (21 марта 1998). Дата обращения: 10 июля 2024.
  23. 3.20. Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 15 марта 2024 года.
  24. WebHome. Дата обращения: 10 июля 2024. Архивировано 12 января 2007 года.
  25. Lipson, Hod; Evan Malone.: Autonomous Self-Extending Machines for Accelerating Space Exploration (PDF). Дата обращения: 10 июля 2024. Архивировано 6 августа 2025 года.
  26. Chirikjian, Gregory S. An Architecture for Self-Replicating Lunar Factories (PDF) (26 апреля 2004). Дата обращения: 10 июля 2024. Архивировано 11 августа 2025 года.
  27. Todd, Paul Final Progress Report on Robotic Lunar Ecopoiesis Test Bed (PDF) (30 апреля 2004). Дата обращения: 10 июля 2024. Архивировано 5 августа 2018 года.
  28. Todd, Paul Robotic Lunar Ecopoiesis Test Bed (PDF) (6 июля 2006). Дата обращения: 10 июля 2024. Архивировано 6 августа 2025 года.
  29. Toth-Fejel, Tihamer; Robert Freitas and Matt Moses.: Modeling Kinematic Cellular Automata (PDF) (30 апреля 2004). Дата обращения: 10 июля 2024. Архивировано 12 января 2006 года.
  30. 3.25.4. Molecularassembler.com. Дата обращения: 10 июля 2024. Архивировано 18 августа 2025 года.
  31. Researchers build a robot that can reproduce. Physorg.com (11 мая 2005). Дата обращения: 10 июля 2024. Архивировано 13 мая 2005 года.
  32. Buckley, William R. (2008). “Signal Crossing Solutions in von Neumann Self-replicating Cellular Automata”. Automata 2008. Дата обращения 2024-07-10. |access-date= требует |url= (справка)
  33. Buckley, William R. (2008). “Computational Ontogeny”. Biological Theory. 3 (1): 3. DOI:10.1162/biot.2008.3.1.3. Дата обращения 2024-07-10. |access-date= требует |url= (справка)
  34. 3.11. Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 21 августа 2025 года.
  35. Arbib, Michael A. The Likelihood of the Evolution of Communicating Intelligences on Other Planets / Cyril Ponnamperuma, A. G. W. Cameron. — Boston : Houghton Mifflin Company, 1974. — P. 59–78.
  36. Freitas, Robert A. (июль 1980). “A Self-Reproducing Interstellar Probe”. Journal of the British Interplanetary Society. 33: 251—264. Дата обращения 2024-07-10. Проверьте дату в |date= (справка на английском)
  37. WO1996020453 – Self reproducing fundamental fabricating machines (F-UNITS) (англ.). PATENTSCOPE. Всемирная организация интеллектуальной собственности. Дата обращения: 10 июля 2024. Архивировано 1 ноября 2019 года.
  38. Szabo, Nick Macroscale Replicator. Дата обращения: 10 июля 2024. Архивировано 7 марта 2006 года.
  39. 4.11.3. Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 21 ноября 2024 года.
  40. 5.9. Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 27 августа 2025 года.
  41. 1. Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 19 августа 2025 года.
  42. 1 2 3.1. Molecularassembler.com. Дата обращения: 10 июля 2024. Архивировано 31 августа 2025 года.
  43. What is nanomachine? Definition from WhatIs.com. Whatis.techtarget.com (21 сентября 2005). Дата обращения: 10 июля 2024. Архивировано 19 июля 2001 года.
  44. Evolution (episode) – Memory Alpha, the Star Trek Wiki. Memory-alpha.org (20 августа 2009). Дата обращения: 10 июля 2024. Архивировано 13 июня 2006 года.
  45. Nanite – Memory Alpha, the Star Trek Wiki. Memory-alpha.org. Дата обращения: 10 июля 2024. Архивировано 1 марта 2005 года.
  46. 3.7. Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 18 августа 2025 года.
  47. 5.6. Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 20 августа 2025 года.
  48. 5.1.9.L. Molecularassembler.com (1 августа 2005). Дата обращения: 10 июля 2024. Архивировано 25 августа 2025 года.
  49. 5.11. Molecularassembler.com. Дата обращения: 10 июля 2024. Архивировано 30 сентября 2025 года.

Литература

  • Колвин, Фред Х. (1947). Sixty Years with Men and Machines. Нью-Йорк и Лондон: McGraw-Hill. ISBN 978-0-917914-86-7.

Категории