АссистентНовый вопросИсторияОбласти знаний
Партнёрские проектыСпецпроектыСтать автором
Сменить язык
О РУВИКИ
ТехнологииДанные, аналитика и ИИГенеративный ИИ и AI-продуктыLLaMA

LLaMA

Экспертиза РАН

Logo-ran-black.png
Проведена экспертиза
Российской академией наук
Подробнее
Aprove.svg

Экспертиза РАН

Arrow-Right.png
Logo-ran.png
Проведена экспертиза
Российской академией наук
Подробнее

Экстремистская организация

Организация, признанная в России экстремистской

Warn-circle.png

Экстремистская организация

Это материал об организации, признанной в России экстремистской
Подробнее

Экстремистская организация

Организация, признанная в России экстремистской

Warn-circle.png

Организация, признанная в России экстремистской

Это материал об организации, признанной в России экстремистской
Подробнее

LLaMA — семейство больших языковых моделей (LLM), разработанное и выпускаемое Meta AI начиная с февраля 2023 года[3]. Последней версией является семейство Llama 4, представленное 5 апреля 2025 года; это первые в линейке нативно мультимодальные модели с открытым исходным кодом, способные обрабатывать как текст, так и изображения[4][5]. Модель ранее обозначалась как LLaMA или LLaMa.

Модели LLaMA представлены в различных размерах — от 1 миллиарда до 2 триллионов параметров. Первоначально была лишь фундаментальная модель, однако начиная с Llama 2, Meta AI начала выпускать наряду с базовой и модели с достройкой инструкций

Веса первой версии LLaMA распространялись только отдельным исследователям по некоммерческой лицензии[6], однако несанкционированные копии быстро распространились через BitTorrent[7]. Впоследствии новые версии LLaMA стали доступны за пределами научной среды и распространяются по лицензиям, допускающим определённое коммерческое использование[8].

C выпуском Llama 3 платформа Meta добавила возможности виртуального ассистента во Facebook и WhatsApp для ряда регионов, а также запустила отдельный веб-сайт. Оба сервиса используют модель Llama 3[9].

Общие сведения
LLaMA
Тип Большая языковая модель, Генеративный предварительно обученный трансформер, фундаментальная модель
Авторы Hugo Touvron, Thibaut Lavril, Gautier Izacard и др.
Разработчик Meta AI
Написана на Python
Интерфейс API, CLI, веб-интерфейс
Движок PyTorch
Операционные системы Windows, macOS, Linux
Языки интерфейса Английский, испанский, немецкий, французский, итальянский, португальский, хинди, тайский и другие
Первый выпуск 24 февраля 2023
Аппаратные платформы GPU, CPU, Apple silicon
Последняя версия Llama 4 (5 апреля 2025)
Репозиторий github.com/meta-llama/ll…
Состояние активное
Лицензия Исходный код доступен (Llama 4 Community License Agreement и Llama 4 Acceptable Use Policy)[1][2]
Сайт llama.com

Предыстория

Появление крупных языковых моделей, таких как GPT-3, привело к активным исследованиям по масштабированию нейросетей, что иногда демонстрировало значительное формирование новых способностей[10]. Массовый успех ChatGPT вызвал всплеск интереса к языковым моделям[11].

Главный «AI ученый» Meta Ян Лекун отмечал, что большие языковые модели наиболее полезны как помощь в письме[12][13][14]. Впоследствии он неоднократно называл текущий подход к созданию авторегрессионных LLM тупиковым, прогнозируя, что они в значительной степени устареют в течение пяти лет[15]. По его мнению, такие модели не способны к настоящему рассуждению и планированию, не обладают пониманием физического мира и постоянной памятью, а их обучение неэффективно по сравнению с человеком[16][17]. В качестве альтернативы Лекун продвигает концепцию «моделей мира» (World Models) — систем, способных изучать абстрактные представления о мире через наблюдение (например, из видео), над которыми работает его команда в Meta FAIR[15][18]. В октябре 2025 года Лекун уточнил, что не принимал непосредственного участия в разработке Llama 2, 3 и последующих версий. Его роль в проекте Llama 1 была «очень косвенной», а главным вкладом в Llama 2 он назвал продвижение идеи сделать модель открытой (open-source). Разработкой Llama занимаются продуктовые команды Meta, в то время как его лаборатория FAIR сосредоточена на более фундаментальных исследованиях[19][20]. Несмотря на техническую критику, Лекун остаётся сторонником открытого исходного кода для ИИ-моделей, считая это способом предотвратить концентрацию власти в руках нескольких корпораций[16][20].

Для семейства LLaMA значимыми стали законы масштабирования нейросетей, в частности — тот факт, что Llama 3 демонстрировала продолжение увеличения качества с ростом объёма обучающих данных существенно сверх «Chinchilla-оптимального» объёма. Например, для Llama 3 8B оптимум — 200 млрд токенов, но обучение продолжалось на 15 трлн токенов[21].

Первый выпуск

Первая версия LLaMA (стилизованная как LLaMA, иногда называемая Llama 1) была анонсирована 24 февраля 2023 года в блоге и в научной статье о методах обучения, архитектуре и производительности модели. Код для запуска модели был выложен под открытой лицензией GPLv3; доступ к весам выдавался по заявкам для академических и исследовательских организаций, а также отдельных исследователей.

Разработка велась в рамках подразделения FAIR (Fundamental AI Research)[22]. Авторами научной статьи «LLaMA: Open and Efficient Foundation Language Models» выступила команда из 14 исследователей[23][24]: Hugo Touvron, Thibaut Lavril, Gautier Izacard, Xavier Martinet, Marie-Anne Lachaux, Timothée Lacroix, Baptiste Rozière, Naman Goyal, Eric Hambro, Faisal Azhar, Aurelien Rodriguez, Armand Joulin, Edouard Grave и Guillaume Lample.

Модель обучалась исключительно на публично доступной информации и выпускалась в наборе размеров для обеспечения работы на разном оборудовании. Исходно выпускался только фундаментальный вариант, однако в статье описаны и варианты с последовательной настройкой.

Meta AI заявляла, что модель на 13B параметров превосходит по результатам на большинстве NLP-бенчмарков значительно более крупную GPT-3 (175B параметров), а наибольшая LLaMA 65B оказывается сопоставимой с такими моделями, как PaLM и Chinchilla[25].

Утечка

3 марта 2023 года по торренту стали распространяться веса LLaMA; ссылка на них была размещена на 4chan, а затем разошлась по AI-сообществам. В тот же день в официальном репозитории LLaMA появился pull-запрос с просьбой разместить магнет-ссылку на эти данные[26][27]. 4 марта появился pull-запрос с указанием на зеркала модели на HuggingFace[26][28]. 6 марта Meta потребовала удалить ссылки на HuggingFace-репозитории, заявив о «несанкционированном распространении», после чего HuggingFace выполнил запрос[29]. Впоследствии Meta открыла DMCA-жалобы на другие зеркала, на что GitHub также отреагировал удалением[30].

Реакция на утечку в сообществе была разной: часть высказывалась о возможностях вредоносного применения, часть — о том, что доступность моделей позволяет развития новых исследований и снижает барьер входа. Эксперты сравнивали эффект с появлением Stable Diffusion, ставшей первой настолько сложной архитектурой, открыто выложенной в интернет.

Llama 2

18 июля 2023 года, совместно с Microsoft, была представлена Llama 2 (стилизуется LLaMa 2) — следующее поколение LLaMA. Базовые модели Llama 2 выпущены в трёх размерах: 7, 13 и 70 млрд параметров[31]. Архитектура практически не изменилась по сравнению с LLaMA 1, но объём обучающих данных увеличился на 40 %[32]. При этом около 90 % обучающего набора данных составлял английский язык, из-за чего в официальной документации использование модели на других языках описывалось как выходящее за рамки её основного назначения[33].

Llama 2 включает как фундаментальные, так и специальные чат-версии с дообучением на проинструктированных данных. В отличие от исходной модели, все варианты Llama 2 поставляются с весами и могут использоваться в коммерческих целях в рамках ограничений лицензии и правил допустимого использования. При этом описание Llama как open-source оспаривается рядом организаций, в том числе Open Source Initiative, поскольку лицензия и правила использования ограничивают применение[34][35].

Code Llama — дочерний проект на базе Llama 2, дообученный на специализированных корпусах исходного кода. Выпущены варианты на 7B, 13B, 34B параметров (24 августа 2023), и на 70B (29 января 2024)[36]. Охватывает обширные дополнительные датасеты кода (до 500 млрд токенов), включая специальные модели для Python[37].

Llama 3

18 апреля 2024 года Meta анонсировала первые модели из семейства Llama 3, представив их как новый стандарт производительности для открытых больших языковых моделей[38]. Были выпущены две версии: с 8 млрд (8B) и 70 млрд (70B) параметров[38]. Модель Llama 3 8B была оптимизирована для эффективной работы на потребительском оборудовании и, по заявлениям разработчиков, по производительности оказалась сопоставима с более крупной моделью Llama 2 70B[39]. Версия на 70B, предназначенная для более сложных задач, на момент выхода превосходила такие модели, как Gemini Pro 1.5 и Claude 3 Sonnet на ряде основных бенчмарков[40][41].

Модели были предварительно обучены на наборе данных объёмом 15 трлн токенов, что в 7,5 раз больше, чем у Llama 2[39]. Обучающий набор данных включал в 4 раза больше кода и более 5 % высококачественных неанглоязычных данных на более чем 30 языках, что было направлено на улучшение возможностей модели в рассуждении, генерации кода и следовании инструкциям[38][39].

Одним из ключевых архитектурных улучшений стал новый токенизатор со словарём на 128 256 токенов (в сравнении с 32 000 у Llama 2), что повысило эффективность кодирования текста[39]. Модели Llama 3 построены на усовершенствованной архитектуре трансформера с декодером; в меньших моделях, таких как 8B, для ускорения обработки запросов применяется технология сгруппированного внимания (Grouped-Query Attention, GQA)[42].

Llama 3.1

23 июля 2024 года Meta представила обновление — Llama 3.1[43]. В рамках этого выпуска были представлены обновлённые версии моделей с 8 и 70 млрд параметров, а также новая флагманская модель с 405 млрд параметров (405B)[44]. На момент выхода Llama 3.1 405B стала самой мощной открытой моделью, превзойдя по ряду ключевых тестов производительности закрытые аналоги, такие как GPT-4o[44].

Ключевыми нововведениями стали значительно увеличенное контекстное окно до 128 000 токенов и расширенные агентные возможности (tool use), позволяющие модели вызывать внешние инструменты для выполнения сложных задач[44][45]. Например, Llama 3.1 не генерирует изображения нативно, но способна обращаться к специализированным моделям, таким как «Imagine with Meta», для создания изображений по текстовому запросу[45][46].

Llama 3.2

25 сентября 2024 года Meta представила Llama 3.2 — своё первое семейство мультимодальных моделей с открытым исходным кодом, способных обрабатывать как текст, так и изображения[47][48]. В рамках этого выпуска было представлено несколько моделей, ориентированных на разные задачи[49]:

  • Легковесные текстовые модели (1B и 3B параметров), предназначенные для работы непосредственно на устройствах с ограниченными ресурсами, таких как смартфоны и устройства интернета вещей (Edge AI)[50].
  • Мультимодальные (визуальные) модели (11B и 90B параметров), способные анализировать изображения, графики и отвечать на вопросы по визуальному контенту[47][49].

Все модели семейства поддерживают контекстное окно до 128 000 токенов[51]. По тестам, представленным Meta, модель 90B превзошла аналоги, такие как GPT-4o mini и Claude 3 Haiku, в задачах на понимание изображений, а легковесные модели обошли Phi 3.5 и Gemma 2[48]. Мультимодальные возможности были реализованы путём добавления к текстовой основе Llama 3.1 специального кодировщика изображений и адаптера[52]. Вместе с моделями был выпущен набор инструментов Llama Stack для упрощения их развёртывания и настройки[47].

Llama 3.3

6 декабря 2024 года Meta представила Llama 3.3 — многоязычную модель, оптимизированную для повышения эффективности при сохранении высокой производительности[53]. В рамках этого выпуска была представлена версия с 70 миллиардами (70B) параметров, ключевой особенностью которой стала производительность, сопоставимая с гораздо более крупной моделью Llama 3.1 405B при значительно меньших вычислительных затратах[54]. Это сделало модель доступной для запуска на стандартных рабочих станциях и распространённых графических процессорах[55].

Архитектура модели основана на трансформере и использует технологию сгруппированного внимания (Grouped-Query Attention, GQA) для ускорения обработки запросов[55]. Llama 3.3 поддерживает контекстное окно до 128 000 токенов[55] и была предварительно обучена на данных, актуальных на декабрь 2023 года[53]. Модель получила улучшенную поддержку восьми языков: английского, немецкого, французского, испанского, итальянского, португальского, хинди и тайского[56]. Версия с инструкциями (Instruct) прошла дополнительную настройку с использованием методов контролируемого обучения (SFT) и обучения с подкреплением на основе обратной связи от человека (RLHF)[55]. Модель распространяется по лицензии Llama 3.3 Community License[57] и доступна на платформах Hugging Face, Ollama и NVIDIA NIM[58].

Llama 4

undefined

Семейство моделей Llama 4 было представлено Meta AI 5 апреля 2025 года. Модели построены на архитектуре «смеси экспертов» (MoE) и являются нативно мультимодальными, то есть способны обрабатывать и генерировать как текст, так и изображения[59][60]. В рамках релиза были выпущены как базовые, так и instruction-tuned варианты:

  • Scout: модель с 17 млрд активных параметров (из 109 млрд общих), 16 экспертами и контекстным окном в 10 млн токенов.
  • Maverick: модель с 17 млрд активных параметров (из 400 млрд общих), 128 экспертами и контекстным окном в 1 млн токенов.
  • Behemoth: анонсированная модель с 288 млрд активных параметров (из примерно 2 трлн общих) и 16 экспертами.

Модель Behemoth была задумана как «модель-учитель» для создания более компактных версий, таких как Scout и Maverick. Однако по состоянию на ноябрь 2025 года её публичный выпуск был отложен на неопределённый срок из-за технических сложностей в разработке[61].

Данные для обучения включают публичные и лицензированные источники, а также собственные данные Meta, такие как публичные посты Instagram и Facebook и взаимодействие пользователей с Meta AI. Обновление знаний — август 2024 года.

Meta утверждает, что Llama 4 превосходит GPT-4o на тесте LMArena[62]. Однако этот результат был получен с помощью отдельной экспериментальной версии модели, оптимизированной для бесед. LMArena после этого случая изменила свои правила, а Meta отвергла обвинения в обучении на тестовых данных[63][64].

Архитектура и технические особенности

Разработка и архитектура

Модели семейства Llama разработаны на языке программирования Python с использованием фреймворка для машинного обучения PyTorch[65]. Этот стек технологий является стандартной практикой для большинства современных проектов в области машинного обучения[65].

В основе всех версий Llama лежит архитектура трансформера с декодером, которая стала стандартом для больших языковых моделей[66]. Начиная с Llama 4, Meta внедрила архитектуру «смеси экспертов» (Mixture-of-Experts, MoE). Этот подход предполагает, что для обработки каждого входного токена активируется только часть от общего числа параметров модели («эксперты»), что позволяет значительно увеличить общий размер модели при сохранении вычислительной эффективности на этапе инференса[67].

Помимо самих моделей, для их развёртывания и дообучения была создана экосистема инструментов. Ключевыми из них являются Llama Stack — фреймворк для создания приложений на базе Llama, LLaMA Factory — платформа для упрощения процесса дообучения (fine-tuning) моделей[68], а также проект с открытым исходным кодом llama.cpp, который позволяет запускать модели на потребительском оборудовании с использованием центрального процессора[69].

Форматы данных и мультимодальность

Модели семейства Llama поддерживают различные форматы входных и выходных данных, причём их возможности эволюционировали с выходом новых версий.

Ранние и текстовые версии моделей (включая Llama 2, Llama 3 и 3.3) являются унимодальными и работают исключительно с текстом[70]. Они не способны напрямую открывать файлы; для обработки документов (например, PDF или DOCX) необходимо предварительно извлечь из них текстовое содержимое и передать его модели в виде запроса[71]. Основным результатом работы таких моделей является последовательность текста[72], который может быть отформатирован как программный код (например, на Python или JavaScript), структурированные данные (JSON, HTML, Markdown) или обычная проза[73].

Мультимодальные возможности моделей Llama развивались поэтапно:

  • Llama 3.1 не является нативно мультимодальной моделью для генерации изображений. Однако она обладает агентной способностью вызывать внешние инструменты (tool use). Это позволяет ей, получив текстовый запрос на создание изображения, обращаться к специализированным моделям, таким как «Imagine with Meta», для его генерации.
  • Llama 3.2 стала первой в семействе мультимодальной моделью с открытым исходным кодом. Её ключевая особенность — способность принимать на вход как текст, так и изображения, но генерировать на выходе только текст[74]. Модель может анализировать визуальный контент, распознавать объекты и текст на картинках.
  • Llama 4 является нативно мультимодальной моделью, способной обрабатывать и генерировать как текст, так и изображения. Она может принимать на вход до пяти изображений одновременно[75]. При обработке изображения делятся на стандартные блоки (тайлы) размером 336x336 пикселей[75].

Инструменты для работы с моделями Llama, как правило, поддерживают распространённые форматы изображений, такие как JPEG, PNG, GIF и WebP[76]. Поддержка других типов данных, таких как аудио или видео, в официальных моделях Llama на данный момент не реализована. Их обработка возможна через конвейерный подход, когда отдельная модель (например, Whisper) сначала преобразует аудио в текст, который затем передаётся на обработку Llama[76].

Поддержка языков

Языковая поддержка в моделях семейства Llama расширялась с выходом новых версий, однако уровень производительности на языках, отличных от английского, может отличаться.

Первоначальная модель Llama обучалась на данных, включавших 20 языков с приоритетом для использующих латиницу и кириллицу[77]. Однако в Llama 2 основной объём обучающих данных (около 90 %) приходился на английский язык, в то время как другие языки, например немецкий, составляли незначительную долю (0,17 %). Из-за этого в официальной документации к Llama 2 использование модели на других языках описывалось как выходящее за рамки её основного назначения.

С выходом последующих версий многоязычные возможности были значительно улучшены. Llama 3.1 получила официальную поддержку семи языков помимо английского: немецкого, испанского, итальянского, португальского, тайского, французского и хинди[78]. Модель Llama 3.3, выпущенная как многоязычная, была оптимизирована для восьми основных языков: английского, немецкого, французского, испанского, итальянского, португальского, хинди и тайского. При этом, даже если язык не входит в список официально поддерживаемых, модели могут демонстрировать в нём определённые способности, а их производительность может быть улучшена путём самостоятельного дообучения (fine-tuning)[78].

Доступ и системные требования

Модели семейства Llama доступны через различные каналы, поскольку Meta придерживается стратегии открытого выпуска, предоставляя широкие возможности для их тестирования и использования[79]. Сами по себе модели не имеют встроенного пользовательского интерфейса; способ взаимодействия определяется платформой или инструментом, который используется для доступа[80].

Способы доступа:

  • Облачные сервисы и API: Для разработчиков основным способом интеграции является API[81]. Meta предоставляет официальный Llama API, а также сотрудничает с крупными облачными провайдерами, такими как AWS, Google Cloud и Microsoft Azure[82]. Модели также доступны для скачивания на платформах для разработчиков, в частности на Hugging Face[83].
  • Готовые веб-интерфейсы: Meta интегрировала свои модели в чат-бот Meta AI, доступный на веб-сайте `meta.ai`, а также в WhatsApp, Instagram и Facebook (доступ может быть ограничен географически)[84]. Кроме того, существует множество сторонних сервисов-«песочниц» (playgrounds), предоставляющих бесплатный доступ для тестирования, например, Groq, HuggingChat и Poe.com[85].
  • Локальная установка: Модели можно запускать на персональных компьютерах под управлением Windows, macOS и Linux[73]. Для упрощения этого процесса созданы специальные инструменты, такие как Ollama, LM Studio и GPT4All, которые автоматизируют загрузку, настройку и взаимодействие с моделями через командную строку или собственный графический интерфейс[86][87]. В основе многих из этих инструментов лежит проект llama.cpp, обеспечивающий высокую производительность на центральных процессорах и Apple silicon[69].

Системные требования: Системные требования для запуска моделей Llama сильно варьируются в зависимости от размера модели (количества параметров) и использования квантизации — метода сжатия, который снижает потребность в памяти и вычислительных ресурсах.

Аппаратные платформы:

  • GPU: Является наиболее предпочтительной платформой для высокой производительности. Ключевым ограничивающим фактором является объём видеопамяти.
    • Малые модели (например, 8B): требуют около 16–20 ГБ VRAM. Квантизированные версии могут работать на потребительских видеокартах с 8–12 ГБ VRAM (например, NVIDIA RTX 3060 12GB)[88][89].
    • Крупные модели (например, 70B): требуют около 140–160 ГБ VRAM, что делает необходимым использование нескольких серверных GPU (например, NVIDIA A100). Квантизированные версии можно запустить на двух потребительских видеокартах высокого класса (например, NVIDIA RTX 4090)[90].
    • Наилучшую поддержку имеют GPU от Nvidia с технологией CUDA[73].
  • CPU: Запуск возможен, но со значительно меньшей скоростью[88]. Критически важен объём оперативной памяти (RAM): от 8–12 ГБ для малых квантизированных моделей до 64–128 ГБ для крупных[69][91].
  • Apple silicon: Чипы Apple (M1, M2, M3) очень эффективны для локального запуска благодаря архитектуре объединённой памяти, которая устраняет «узкие места» при обмене данными между CPU и GPU. Устройства с 24 ГБ и более объединённой памяти способны эффективно работать с большинством популярных моделей[89].

Сравнение моделей

Основные релизы LLaMA
Название Дата выпуска Статус Параметры Стоимость обучения (петаFLOP-дней) Длина контекста (токенов) Размер корпуса (токенов) Коммерческое использование
Llama 24 февраля 2023 снят с поддержки
  • 6,7B
  • 13B
  • 32,5B
  • 65,2B
 6 300[92] 2 048 1–1,4T нет
Llama 2 18 июля 2023 снят с поддержки
  • 6,7B
  • 13B
  • 69B
 21 000[93] 4 096 2T да (по правилам acceptable use policy)
Code Llama 24 августа 2023 снят с поддержки
  • 6,7B
  • 13B
  • 33,7B
  • 69B
 нет данных
Llama 3 18 апреля 2024 активно
  • 8B
  • 70,6B
 100 000[94][95] 8 192 15T
Llama 3.1 23 июля 2024 активно
  • 8B
  • 70,6B
  • 405B
 440 000[96] 128 000
Llama 3.2 25 сентября 2024 активно нет данных 128 000 9T
Llama 3.3 6 декабря 2024[53] активно
  • 70B
 нет данных 128 000[53] 15T[53]
Llama 4 5 апреля 2025 активно
  • Scout: 17B (109B)
    *Maverick: 17B (400B)
    *Behemoth: 288B (~2T)[комм. 1]
  • 71 000
  • 34 000
  • ?
  • 10M
  • 1M
  • ?
  • 40T
  • 22T
  • ?

Примечания

Комментарии

  1. ↑ В скобках указано общее число параметров для архитектуры «смеси экспертов» (MoE).

Источники

  1. ↑ Llama 4 Community License Agreement (англ.). GitHub (5 апреля 2025). — «\"Llama Materials\" means, collectively, Meta's proprietary Llama 4 and Documentation (and any portion thereof) made available under this Agreement.» Дата обращения: 15 июля 2025. Архивировано 9 октября 2025 года.
  2. ↑ Llama 4 Acceptable Use Policy (англ.). Meta Llama. Дата обращения: 15 июля 2025. Архивировано 1 августа 2025 года.
  3. ↑ Leswing, Kif Mark Zuckerberg announces Meta's new large language model as A.I. race heats up (англ.). CNBC (24 февраля 2023). Дата обращения: 10 апреля 2025. Архивировано 11 сентября 2025 года.
  4. ↑ Llama 4: Natively Multimodal, Openly Licensed (англ.). Meta AI Blog. Meta AI (5 апреля 2025). Дата обращения: 3 ноября 2025.
  5. ↑ Meta Releases Llama 4, Its First Natively Multimodal Open Models (англ.). InfoQ. InfoQ (5 апреля 2025). Дата обращения: 3 ноября 2025.
  6. ↑ Malik, Yuvraj; Paul, Katie Meta heats up Big Tech's AI arms race with new language model. Reuters (25 февраля 2023). Дата обращения: 6 августа 2025. Архивировано 24 февраля 2023 года.
  7. ↑ Hern, Alex. TechScape: Will Meta's massive leak democratise AI – and at what cost? (англ.), The Guardian (7 марта 2023). Дата обращения: 10 апреля 2025.
  8. ↑ David, Emilia Meta's AI research head wants open source licensing to change (англ.). The Verge (30 октября 2023). Дата обращения: 20 октября 2024. Архивировано 14 сентября 2024 года.
  9. ↑ Heath, Alex Meta's battle with ChatGPT begins now (амер. англ.). The Verge (18 апреля 2024). Дата обращения: 10 апреля 2025. Архивировано 11 октября 2025 года.
  10. ↑ Examining Emergent Abilities in Large Language Models (англ.). hai.stanford.edu (13 сентября 2022). Архивировано 9 октября 2025 года.
  11. ↑ The inside story of how ChatGPT was built from the people who made it (англ.). MIT Technology Review. Дата обращения: 20 октября 2024. Архивировано 3 марта 2023 года.
  12. ↑ ChatGPT is 'not particularly innovative,' and 'nothing revolutionary', says Meta's chief AI scientist (англ.). ZDNET (23 января 2023). Архивировано 17 февраля 2023 года.
  13. ↑ Badminton, Nik Meta's Yann LeCun on auto-regressive Large Language Models (LLMs). Futurist.com (13 февраля 2023). Дата обращения: 20 октября 2024. Архивировано 22 июля 2024 года.
  14. ↑ Yann LeCun on LinkedIn: My unwavering opinion on current (auto-regressive) LLMs (англ.). LinkedIn. Дата обращения: 20 октября 2024. Архивировано 17 сентября 2024 года.
  15. ↑ 1 2 AI Impact Interview: Yann LeCun (англ.). Newsweek. Дата обращения: 3 ноября 2025.
  16. ↑ 1 2 The Future of AI is Not LLMs, Says Yann LeCun (англ.). The Aristotle. Дата обращения: 3 ноября 2025.
  17. ↑ Meta: Large Language Models Will Not Get to Human-Level Intelligence (англ.). PYMNTS.com (2025). Дата обращения: 3 ноября 2025.
  18. ↑ Meta's AI chief Yann LeCun: 'Current AI is dumber than a cat' (англ.). Chosun Biz (27 октября 2025). Дата обращения: 3 ноября 2025.
  19. ↑ Meta AI's Yann LeCun says he played only an 'indirect role' in the development of Llama models (англ.). THE DECODER (октябрь 2025). Дата обращения: 3 ноября 2025.
  20. ↑ 1 2 Meta's LeCun: Llama's AI a 'Dead End,' Advocates New 'World Models' (англ.). AI Tech Suite. Дата обращения: 3 ноября 2025.
  21. ↑ Introducing Meta Llama 3: The most capable openly available LLM to date (англ.). ai.meta.com (18 апреля 2024). Дата обращения: 21 апреля 2024. Архивировано 15 мая 2024 года.
  22. ↑ LLaMA. lablab.ai. lablab.ai. Дата обращения: 3 ноября 2025.
  23. ↑ LLaMA: Open and Efficient Foundation Language Models. arXiv (27 февраля 2023). Дата обращения: 3 ноября 2025.
  24. ↑ LLaMA: Open and Efficient Foundation Language Models. ai.meta.com. Meta AI. Дата обращения: 3 ноября 2025.
  25. ↑ Bastian, Matthias Metas "LLaMA" language model shows that parameters are not everything (амер. англ.). The Decoder (25 февраля 2023). Дата обращения: 21 июня 2025. Архивировано 9 октября 2025 года.
  26. ↑ 1 2 Meta's LLaMA Leaked to the Public, Thanks To 4chan, Analytics India Magazine (6 марта 2023). Архивировано 26 марта 2023. Дата обращения: 17 марта 2023.
  27. ↑ Save bandwidth by using a torrent to distribute more efficiently by ChristopherKing42 · Pull Request #73 · facebookresearch/llama (англ.). GitHub. Дата обращения: 25 марта 2023. Архивировано 10 апреля 2023 года.
  28. ↑ Download weights from hugging face to help us save bandwidth by Jainam213 · Pull Request #109 · facebookresearch/llama (англ.). GitHub. Дата обращения: 17 марта 2023. Архивировано 21 марта 2023 года.
  29. ↑ Facebook's Powerful Large Language Model Leaks Online (англ.), Vice (7 марта 2023). Архивировано 6 апреля 2023. Дата обращения: 17 марта 2023.
  30. ↑ github/dmca - Notice of Claimed Infringement via Email. GitHub (21 марта 2023). Дата обращения: 25 марта 2023. Архивировано 10 апреля 2023 года.
  31. ↑ Meta and Microsoft Introduce the Next Generation of LLaMA. Meta (18 июля 2023). Дата обращения: 21 июля 2023. Архивировано 14 сентября 2023 года.
  32. ↑ Touvron, Hugo & Martin, Louis (18 июля 2023), LLaMA-2: Open Foundation and Fine-Tuned Chat Models, arΧiv:2307.09288 [cs.CL]. 
  33. ↑ Heidloff, Niklas How well do LLMs support languages other than English? (англ.). heidloff.net (2 августа 2023). Дата обращения: 3 ноября 2025.
  34. ↑ Edwards, Benj Meta launches LLaMA-2, a source-available AI model that allows commercial applications (амер. англ.). Ars Technica (18 июля 2023). Дата обращения: 8 августа 2023. Архивировано 7 ноября 2023 года.
  35. ↑ Thomas, Prasanth Aby Meta offers Llama AI to US government for national security (англ.). CIO (5 ноября 2024). Дата обращения: 9 декабря 2024. Архивировано 9 октября 2025 года.
  36. ↑ Introducing Code Llama, a state-of-the-art large language model for coding (англ.). ai.meta.com. Дата обращения: 20 октября 2024. Архивировано 27 сентября 2024 года.
  37. ↑ Rozière, Baptiste (31 января 2024), Code Llama: Open Foundation Models for Code, arΧiv:2308.12950 [cs.CL]. 
  38. ↑ 1 2 3 Знакомство с Llama 3 от Meta: все, что вам нужно знать. Ultralytics Blog. Ultralytics. Дата обращения: 3 ноября 2025.
  39. ↑ 1 2 3 4 Meta* выпустила Llama 3 — самую мощную языковую модель с открытым исходным кодом — Сервисы на vc.ru. vc.ru (19 апреля 2024). Дата обращения: 3 ноября 2025.
  40. ↑ Wiggers, Kyle Meta releases Llama 3, claims it's among the best open models available. TechCrunch (18 апреля 2024). Дата обращения: 20 октября 2024. Архивировано 18 сентября 2024 года.
  41. ↑ Mann, Tobias Meta debuts third-generation Llama large language model (англ.). The Register (19 апреля 2024). Дата обращения: 20 октября 2024. Архивировано 25 августа 2024 года.
  42. ↑ Обзор Llama 3: новое поколение языковых моделей от Meta. mosregdata.ru (20 апреля 2024). Дата обращения: 3 ноября 2025.
  43. ↑ Meta releases Llama 3.1 models, including a 405B parameter variant. IBM Think. IBM. Дата обращения: 3 ноября 2025.
  44. ↑ 1 2 3 Meta представила Llama 3.1 — самую мощную открытую модель, которая превосходит GPT-4o. Habr (23 июля 2024). Дата обращения: 3 ноября 2025.
  45. ↑ 1 2 Introducing Meta Llama 3.1: The next generation of open models (англ.). Meta AI Blog. Meta AI (23 июля 2024). Дата обращения: 3 ноября 2025.
  46. ↑ Can Llama 3 Generate Images? The Answer is Yes and No. Hardware Corner. Дата обращения: 3 ноября 2025.
  47. ↑ 1 2 3 Llama 3.2: Powering new experiences, from vision to the edge (англ.). Meta AI Blog. Meta AI (25 сентября 2024). Дата обращения: 3 ноября 2025.
  48. ↑ 1 2 Meta представила Llama 3.2 — свою первую мультимодальную модель с открытым исходным кодом. Habr (25 сентября 2024). Дата обращения: 3 ноября 2025.
  49. ↑ 1 2 Llama 3.2, мультимодальная модель искусственного интеллекта Meta, уже здесь. Umanesimo Digitale. Дата обращения: 3 ноября 2025.
  50. ↑ Llama 3.2: ИИ на ладони — новые возможности для автономной работы с документами и медиа. vc.ru (26 сентября 2024). Дата обращения: 3 ноября 2025.
  51. ↑ Llama 3.2 90B: The First Open-Source Multimodal Model from Meta (англ.). GPTunnel. Дата обращения: 3 ноября 2025.
  52. ↑ Как устроена Llama 3.2 Vision: архитектура, обучение и результаты. Habr (7 ноября 2024). Дата обращения: 3 ноября 2025.
  53. ↑ 1 2 3 4 5 Meta Llama 3.3 70B Instruct. build.nvidia.com. NVIDIA. Дата обращения: 3 ноября 2025.
  54. ↑ What is Meta Llama 3.3 70B? Features, Use Cases & More. hyperstack.cloud. Hyperstack. Дата обращения: 3 ноября 2025.
  55. ↑ 1 2 3 4 What is Llama 3.3 70B? Everything You Need to Know. DataCamp Blog. DataCamp. Дата обращения: 3 ноября 2025.
  56. ↑ Meta Llama 3.3 70B Instruct. skywork.ai. Skywork AI. Дата обращения: 3 ноября 2025.
  57. ↑ Meta выпустила Llama 3.3 70B. appercase.ru. Appercase (7 декабря 2024). Дата обращения: 3 ноября 2025.
  58. ↑ meta-llama/Llama-3.3-70B-Instruct. huggingface.co. Hugging Face. Дата обращения: 3 ноября 2025.
  59. ↑ Что такое Llama 4? Всё, что вам нужно знать. Comet. Дата обращения: 3 ноября 2025.
  60. ↑ Представлена Llama 4 — самая большая модель Meta*. Hi-Tech Mail.ru (5 апреля 2025). Дата обращения: 3 ноября 2025.
  61. ↑ WSJ: Meta* отложила выпуск флагманской модели Llama 4 Behemoth. Habr (28 мая 2025). Дата обращения: 3 ноября 2025.
  62. ↑ Robison, Kylie Meta got caught gaming AI benchmarks. The Verge (8 апреля 2025). Дата обращения: 8 апреля 2025. Архивировано 28 сентября 2025 года.
  63. ↑ Wiggers, Kyle Meta's benchmarks for its new AI models are a bit misleading. TechCrunch (6 апреля 2025). Дата обращения: 8 апреля 2025. Архивировано 6 апреля 2025 года.
  64. ↑ Franzen, Carl Meta defends Llama 4 release against 'reports of mixed quality,' blames bugs. VentureBeat (8 апреля 2025). Дата обращения: 8 апреля 2025. Архивировано 30 августа 2025 года.
  65. ↑ 1 2 High-performance LLaMA 2 is now available in PyTorch. pytorch.org. PyTorch. Дата обращения: 3 ноября 2025.
  66. ↑ LLaMA: обзор моделей, сравнение и применение. GPTunnel. Дата обращения: 3 ноября 2025.
  67. ↑ Llama 4: The new Open Source SOTA (англ.). Gerwin.io. Дата обращения: 3 ноября 2025.
  68. ↑ LLaMA Factory (англ.). llamafactory.readthedocs.io. Дата обращения: 3 ноября 2025.
  69. ↑ 1 2 3 Запуск LLaMA 2 7B и 13B на обычном CPU с llama.cpp. Habr (1 августа 2023). Дата обращения: 3 ноября 2025.
  70. ↑ modelscope/Meta-Llama-3-8B-Instruct (англ.). ModelScope. Дата обращения: 3 ноября 2025.
  71. ↑ Параметры llama cli на русском языке. pixelfed.nbics.net. Дата обращения: 3 ноября 2025.
  72. ↑ Что такое LLaMA простыми словами. BigDataSchool. Дата обращения: 3 ноября 2025.
  73. ↑ 1 2 3 Llama 3.1 и 3.2 — самые способные opensors-ные модели. MITUP. Дата обращения: 3 ноября 2025.
  74. ↑ Llama 3.2 Model Card (англ.). Meta Llama. Дата обращения: 3 ноября 2025.
  75. ↑ 1 2 Llama 4 Model Card (англ.). Meta Llama. Дата обращения: 3 ноября 2025.
  76. ↑ 1 2 Supported Document Types (англ.). LlamaIndex. Дата обращения: 3 ноября 2025.
  77. ↑ Что такое Llama и как работает новый искусственный интеллект Meta? Comunicagenia. Дата обращения: 3 ноября 2025.
  78. ↑ 1 2 Llama 3.1: улучшенная многоязычность, увеличенная длина контекста и агентные способности. Habr (29 июля 2024). Дата обращения: 3 ноября 2025.
  79. ↑ Meta's Llama 3 is Here: How to Try the 'Most Sophisticated' Open Source AI Model (англ.). Decrypt. Дата обращения: 3 ноября 2025.
  80. ↑ Llama: как пользоваться ИИ-моделями в России. vc.ru. Дата обращения: 3 ноября 2025.
  81. ↑ Llama API (англ.). Meta for Developers. Дата обращения: 3 ноября 2025.
  82. ↑ Llama 4 Developer Guide (англ.). Meetrix. Дата обращения: 3 ноября 2025.
  83. ↑ Introducing Meta Llama 3.1: The next generation of open models (англ.). Meta AI Blog. Meta AI (23 июля 2024). Дата обращения: 3 ноября 2025.
  84. ↑ Llama 3, модель искусственного интеллекта Meta, уже здесь. Umanesimo Digitale. Дата обращения: 3 ноября 2025.
  85. ↑ Как бесплатно попробовать модели Llama 3.1: 5 способов. vc.ru. Дата обращения: 3 ноября 2025.
  86. ↑ Есть три способа запуска Llama 3 на вашем ПК / AI. FlyCode. Дата обращения: 3 ноября 2025.
  87. ↑ Топ локальных нейросетей. Skillbox. Дата обращения: 3 ноября 2025.
  88. ↑ 1 2 Как установить и развернуть Llama 3 в продакшене. NLP Cloud. Дата обращения: 3 ноября 2025.
  89. ↑ 1 2 Apple Silicon — лучшая платформа для локального запуска LLM? Habr. Дата обращения: 3 ноября 2025.
  90. ↑ Ultimate System Requirements for Llama 3 Models (англ.). APXML. Дата обращения: 3 ноября 2025.
  91. ↑ Как запустить Llama 4 локально. Comet. Дата обращения: 3 ноября 2025.
  92. ↑ The Falcon has landed in the Hugging Face ecosystem. huggingface.co. Дата обращения: 20 июня 2023. Архивировано 20 июня 2023 года.
  93. ↑ llama/MODEL_CARD.md at main · meta-llama/llama (англ.). GitHub. Дата обращения: 28 мая 2024. Архивировано 28 мая 2024 года.
  94. ↑ Andrej Karpathy (Apr 18, 2024), The model card has some more interesting info too. X (formerly Twitter). Дата обращения: 20 октября 2024. Архивировано 17 августа 2024 года.
  95. ↑ llama3/MODEL_CARD.md at main · meta-llama/llama3 (англ.). GitHub. Дата обращения: 28 мая 2024. Архивировано 21 мая 2024 года.
  96. ↑ llama-models/models/llama3_1/MODEL_CARD.md at main · meta-llama/llama-models (англ.). GitHub. Дата обращения: 23 июля 2024. Архивировано 23 июля 2024 года.
  97. ↑ Robison, Kylie Meta releases its first open AI model that can process images (англ.). The Verge (25 сентября 2024). Дата обращения: 25 сентября 2024. Архивировано 9 октября 2025 года.
  98. ↑ Wiggers, Kyle Meta's Llama AI models get multimodal (амер. англ.). TechCrunch (25 сентября 2024). Дата обращения: 25 сентября 2024. Архивировано 25 сентября 2024 года.

Дополнительно по теме

Категории