Юдковский, Элиезер

Элиезер Юдковский родился 11 сентября 1979 года в семье ортодоксальных евреев^[5].

Он является автодидактом: не посещал ни среднюю школу, ни колледж^[2].

В 2004 году скончался его младший брат Йехуда Наттан.

Юдковский — сооснователь и научный сотрудник института сингулярности по созданию искусственного интеллекта (Singularity Institute for Artificial Intelligence, SIAI)^[6].

Он — автор книги «Создание дружественного ИИ»^[7], статей «Уровни организации универсального интеллекта»^[8], «Когерентная экстраполированная воля»^[9] и «Вневременная теория принятия решений»^[10][11].

В сборнике «Риски глобальной катастрофы» (2008) под редакцией Ника Бострома опубликовал статьи «Искусственный интеллект как позитивный и негативный фактор глобального риска» и «Когнитивные искажения в оценке глобальных рисков»^[12][13]. Эти работы оказали влияние на становление области согласования ИИ, а идеи Юдковского цитируются в учебнике «Искусственный интеллект: современный подход» (авторы Стюарт Рассел и Питер Норвиг) и в книге Ника Бострома «Искусственный суперинтеллект»^[3].

Юдковский исследует конструкции ИИ, способные к самопониманию и рекурсивному самоулучшению (Seed AI), а также архитектуры со стабильной мотивацией (дружественный искусственный интеллект). Он известен объяснениями сложных моделей на доступном языке, например, статьёй «Интуитивное объяснение теоремы Байеса»^[14].

Вместе с Робином Хансоном был одним из авторов блога Overcoming Bias. В 2009 году участвовал в запуске сайта LessWrong, посвящённого развитию рациональности. Материалы блогов были организованы в тематические «цепочки» (Sequences).

Юдковский — автор научно-фантастических произведений, иллюстрирующих темы когнитивной науки. Наиболее известен как автор рационального фанфика «Гарри Поттер и методы рационального мышления»^[15].

В начале 2020-х годов выступал с алармистских позиций относительно ИИ. В статье для Time (март 2023) предложил ввести международный мораторий на обучение больших моделей. В том же году журнал Time включил его в список 100 самых влиятельных людей в области искусственного интеллекта (TIME 100 AI).

Центральной темой теоретических взглядов Юдковского является проблема согласования ИИ (AI alignment). Он утверждает, что создание сверхразума без гарантированно дружественной структуры мотивации неизбежно приведёт к гибели человечества. Для иллюстрации рисков Юдковский использует мысленный эксперимент «максимизатор скрепок», показывающий, как ИИ может уничтожить цивилизацию ради достижения тривиальной цели, если его ценности не будут точно настроены.

В 2024—2025 годах Юдковский радикализировал свою риторику, оценив оставшееся время до катастрофы в 2-10 лет (наиболее вероятно — пять лет). В интервью The Guardian (февраль 2024) он охарактеризовал будущий ИИ как «богоподобный сверхинтеллект» и призвал к полному прекращению обучения моделей мощнее GPT-4. Он также подтвердил свою позицию о допустимости уничтожения дата-центров (без применения ядерного оружия) для обеспечения соблюдения глобального моратория на разработки.

В 2013 году сообщил о своей женитьбе^[2].

• If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All (совместно с Нейтом Соаресом), 2025^[16].
• Our Molecular Future: How Nanotechnology, Robotics, Genetics and Artificial Intelligence Will Transform Our World by Douglas Mulhall, 2002, p. 321.
• The Spike: How Our Lives Are Being Transformed By Rapidly Advancing Technologies by Damien Broderick, 2001, pp. 236, 265—272, 289, 321, 324, 326, 337—339, 345, 353, 370.

Статьи на русском

• Систематические ошибки в рассуждениях, потенциально влияющие на оценку глобальных рисков
• Искусственный интеллект как позитивный и негативный фактор глобального риска
• Вглядываясь в сингулярность
• Таблица критических ошибок дружественного ИИ
• Три школы сингулярности
• Уровни организации универсального интеллекта