II.2Создание и понимание программного кода

LateOn-Code-edge — компактная модель для поиска по коду из семейства LateOn-Code, разработанная LightOn на базе PyLate. Это late-interaction модель семейства ColBERT с архитектурой ModernBERT; по карточке, она основана на варианте Ettin-17M из семейства edge-colbert компании mixedbread и дообучена для поиска кода. Модель содержит 16,8 млн параметров, принимает текстовые запросы и фрагменты кода и формирует многовекторные представления для поиска и ранжирования. Максимальная длина контекста — 7 999 токенов. Модель предназначена для поиска фрагментов кода по запросам на естественном языке или по коду, а также для ранжирования результатов первичного поиска. В README описаны сценарии индексации и извлечения документов с PyLate и FastPLAID, а также оценки на CodeSearchNet для Python, JavaScript, Go, Ruby, Java и PHP. Она оптимизирована для эффективности и небольшого размера, но приведённые результаты относятся к конкретным наборам данных и не гарантируют качества на других языках программирования или корпусах. Лицензия — Apache-2.0.

LateOn-Code-pretrain — модель LightOn из коллекции PyLate LateOn-Code, предназначенная для поиска по коду. Это предварительно обученная модель позднего взаимодействия ColBERT на архитектуре ModernBERT: она формирует многовекторные представления запросов и фрагментов кода для поиска релевантных результатов. В репозитории указаны веса размером 149 млн параметров, контекст до 8192 токенов и форматы Safetensors и ONNX. Модель обучена на данных CoRNStack для поиска кода и рассчитана на английский язык и программный код. Она подходит для поиска фрагментов кода по текстовому запросу и интеграции в системы извлечения информации; README приводит результаты бенчмарков MTEB Code. Это именно предварительно обученная версия: последующая настройка на наборах CoIR описана для модели LateOn-Code. Модель распространяется по лицензии Apache-2.0.

LFM2.5-8B-A1B-Coder — дообученная и слитая с базовыми весами модель для генерации кода, созданная на основе LiquidAI/LFM2.5-8B-A1B. Автор карточки сообщает, что для настройки использовался LoRA-адаптер josephmayo/LFM2.5-8B-A1B-Coder-LoRA; обучение охватило 123 примера с реальными и мультиязычными задачами программирования. Архитектура — гибридная MoE для причинной генерации текста, размер по метаданным — 1,6 млрд параметров, формат весов — safetensors, библиотека — Transformers, контекст — до 128 000 токенов. Модель предназначена для помощи в программировании: генерации и продолжения кода, а также решения практических задач кодирования на нескольких языках. В README приведено снижение среднего heldout NLL после слияния весов с 3,39 до 1,87; публичные результаты бенчмарков автор не заявляет. Карточка не уточняет конкретные языки программирования или естественные языки. Лицензия в предоставленных данных не приведена.

Ling-1T — базовая языковая модель серии Ling 2.0, разработанная командой InclusionAI. Это причинная MoE-модель с архитектурой BailingMoeV2: в README заявлены 1 трлн параметров всего и около 50 млрд активных параметров на токен, тогда как метаданные Hugging Face указывают 49,6 млрд параметров. Модель обучена более чем на 20 трлн токенов и предназначена для генерации текста, диалога, сложных рассуждений, программирования и работы с инструментами. Для репозитория указаны контекст 32 768 токенов и формат safetensors; в README для Ling-1T-base заявлена поддержка до 128 тыс. токенов, поэтому длина контекста может зависеть от варианта модели. Модель рассчитана на многоязычный текст и показывает заявленные разработчиками возможности в математике, логике, написании кода и создании интерфейсов. Архитектура MoE активирует лишь часть параметров для каждого токена; также описаны MTP-слои и обучение с использованием FP8. Модель принимает текст и генерирует текст; визуальные задачи в README относятся к визуальному рассуждению и генерации интерфейсного кода, но поддержка изображений в метаданных не указана. README отмечает ограничения в многоходовом взаимодействии, долговременной памяти и использовании инструментов, а также возможные отклонения от инструкций и путаницу ролей. Модель распространяется по лицензии MIT.

Ling-3.0-flash — разговорная модель генерации текста с гибридной линейной архитектурой MoE, представленная разработчиками Ling. README описывает версию на 124 млрд параметров, из которых активируются 5,1 млрд на токен; в метаданных репозитория указаны 3,5 млрд параметров. Архитектура сочетает Kimi Delta Attention и Gated MLA, а заявленное окно контекста достигает 262 144 токенов. Модель предназначена для рассуждений, следования инструкциям, понимания длинного контекста и агентных сценариев: программирования, общих задач и глубокого исследования. README также отмечает обучение на интерактивных средах и совместимость с агентными инструментами. Репозиторий содержит веса Safetensors; лицензия — MIT. В README приводятся результаты на бенчмарках для кода, агентных задач, знаний, математики и длинного контекста, но эти заявления относятся к оценкам разработчиков. Для запуска описана конфигурация SGLang на нескольких мощных GPU, поэтому практическое развёртывание может требовать значительных вычислительных ресурсов.

Ling-lite-1.5-2506 — обновлённая разговорная языковая модель от inclusionAI для рассуждений, решения сложных задач, программирования и отладки кода. Она построена на архитектуре Bailing MoE и поддерживает генерацию текста в формате чата. В README указаны 16,8 млрд параметров, из которых активируются 2,75 млрд; метаданные Hugging Face указывают 794,8 млн параметров. В карточке также заявлена длина контекста 128K, тогда как метаданные сообщают 32 768 токенов. README описывает улучшения относительно Ling-lite-1.5 и приводит результаты на GPQA Diamond и LiveCodeBench 2408–2501. Модель принимает текст и генерирует текст. Опубликованные веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия — MIT. Языки в доступных сведениях не перечислены.

LLaDA2.0-flash — диффузионная языковая модель с архитектурой Mixture-of-Experts от Inclusion AI, дообученная для следования инструкциям и практического применения. Модель предназначена для генерации текста, диалога, программного кода, решения сложных математических задач и работы с инструментами. В README указаны 100 млрд параметров всего и около 6,1 млрд активных при инференсе; метаданные Hugging Face указывают 5,5 млрд параметров. Архитектура включает 32 слоя и 32 головы внимания, использует RoPE и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса Safetensors, модель работает с Transformers. Лицензия — Apache-2.0. README отмечает сильные результаты на приведённых бенчмарках, включая задачи на знания, код и рассуждения. При повышенной температуре возможны смешение языков и небольшое снижение качества; авторы рекомендуют температуру 0.0, длину блока 32 и 32 шага генерации.

Llama-3.1-Nemotron-Nano-4B-v1.1 — языковая модель NVIDIA на базе nvidia/Llama-3.1-Minitron-4B-Width-Base, созданной из Llama 3.1 8B методом сжатия. Это плотный декодерный Transformer семейства Llama с 3,9 млрд параметров, дообученный для рассуждений, общения по инструкциям, математики, программирования, работы с RAG и вызова инструментов. Модель рассчитана на текстовый ввод и вывод, поддерживает контекст до 131 072 токенов и может запускаться локально на одной RTX GPU. Модель предназначена для чат-ботов, AI-агентов и приложений, которым нужны ответы на вопросы, следование инструкциям и многошаговые рассуждения. Режим рассуждений управляется системным промптом; для вызова инструментов предусмотрены шаблон чата и парсер для vLLM. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. В карточке указана возможность коммерческого использования; лицензия обозначена как other, поэтому перед внедрением следует ознакомиться с условиями лицензии репозитория. Результаты зависят от формата запроса и настроек декодирования; опубликованные оценки получены при длине последовательности 32K и не гарантируют такого же качества на всех задачах или при использовании полного контекста.

Llama-3.1-Nemotron-Nano-4B-v1.1 — компактная плотная авторегрессионная языковая модель на архитектуре Llama, размещённая в репозитории Unsloth и основанная на NVIDIA Llama-3.1-Nemotron-Nano-4B-v1.1. Это дообученный чекпойнт примерно на 3,9 млрд параметров, созданный для диалога, следования инструкциям и рассуждений; в обучении использовались SFT и этапы обучения с подкреплением для математики, кода, работы с инструментами и предпочтений в чате. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для локального запуска на одном GPU и для создания чат-ботов, агентных систем и приложений RAG. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, а также задач с кодом. Карточка сообщает, что модель готова к коммерческому использованию, однако метаданные обозначают лицензию только как other и не раскрывают её условия, поэтому перед использованием следует проверить лицензионные условия репозитория. В README приведены результаты на отдельных бенчмарках; они получены при контексте до 32 тыс. токенов и не гарантируют аналогичного качества в других сценариях.

Enigma — языковая модель Valiant Labs для генерации кода по инструкциям и общего диалога. Она дообучена на Llama 3.2 3B Instruct с использованием синтетических данных для программирования и общего общения; в карточке названы наборы sequelbox/Tachibana и sequelbox/Supernova. Модель использует плотную архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и принимает формат запросов Llama 3.2 Instruct. Заявленная длина контекста — 131 072 токена. Enigma предназначена для написания и объяснения кода, ответов на вопросы и обычного общения в чате. Карточка отмечает английский язык, а также возможности следования инструкциям и интерфейс вызова инструментов. Модель распространяется в формате safetensors по лицензии Llama 3.2. Результаты генерации кода и ответов могут содержать ошибки; карточка не приводит отдельных оценок качества или подробных ограничений.

Llama-3.3-Nemotron-Super-49B-v1 — языковая модель NVIDIA, созданная на основе Meta Llama-3.3-70B-Instruct и оптимизированная методом Neural Architecture Search. Это плотный decoder-only Transformer с нестандартными блоками: в части блоков пропущено внимание или оно заменено линейным слоем, а соотношение размеров слоёв FFN различается. В метаданных указано 87 млрд параметров; модель принимает текстовый контекст до 131 072 токенов и выдаёт текст. Модель предназначена для рассуждений, диалогов и следования инструкциям, включая задачи с кодом и математикой, работу с RAG и вызов инструментов в агентных системах. Она прошла многоэтапное дообучение с SFT и обучением с подкреплением; итоговый чекпойнт объединяет SFT- и RPO-чекпойнты. Оптимизация архитектуры нацелена на снижение потребления памяти и повышение пропускной способности при небольшом снижении качества; модель рассчитана, в частности, на высокую нагрузку на одном GPU NVIDIA H200. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. Модель предназначена для коммерческого использования, однако в метаданных лицензия обозначена как other, поэтому перед внедрением следует проверить условия лицензии на странице модели. Конкретные показатели качества и ограничения по задачам в предоставленной карточке не приведены.

Llama-3.3-Nemotron-Super-49B-v1.5-NVFP4 — большая языковая модель NVIDIA, производная от Meta Llama-3.3-70B-Instruct. Это плотная модель семейства Nemotron-NAS с 87 млрд параметров и контекстом до 131 072 токенов; версия NVFP4 предназначена для эффективного использования вычислительных ресурсов. Модель поддерживает диалог, рассуждения и интерфейс вызова инструментов. Модель рассчитана на чат-ботов, AI-агентов, системы RAG и выполнение инструкций. При дообучении улучшены рассуждения и работа с математикой, кодом, наукой и инструментами; применялись supervised fine-tuning, обучение с подкреплением и объединение нескольких чекпойнтов. Основной язык — английский; также поддерживаются немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Языки программирования указаны среди сценариев использования. Модель заявлена как готовая к коммерческому использованию. В метаданных лицензия обозначена как other, поэтому конкретные условия распространения следует сверить с лицензией в репозитории. Для запуска README приводит пример с vLLM и несколькими GPU; практическая скорость и доступная длина контекста зависят от конфигурации оборудования и сервера.

Модель gradientai/Llama-3-8B-Instruct-Gradient-4194k — англоязычная диалоговая версия Llama 3, разработанной Meta и опубликованной Gradient AI. Это плотная авторегрессионная трансформерная языковая модель класса LlamaForCausalLM с Grouped-Query Attention; в репозитории заявлено около 7,5 млрд параметров. Она принимает текст и генерирует текст или код, подходит для чат-ассистентов и задач генерации естественного языка. Метаданные указывают поддержку чата и тег английского языка; README описывает исходную Llama 3 как предназначенную для английского. Модель распространяется в формате safetensors по лицензии llama3, то есть по условиям лицензии и политики допустимого использования Meta Llama 3. README описывает семейство Llama 3, а не изменения Gradient-варианта, поэтому дополнительные свойства, подразумеваемые суффиксом названия, здесь не подтверждены. Как и другие базовые генеративные модели, она может выдавать неточные или небезопасные ответы; для прикладного развертывания нужны проверки и защитные меры.

Llama-8B-Distill-CoT — плотная языковая модель для генерации текста, разработанная prithivMLmods на основе DeepSeek-R1-Distill-Llama-8B. Она дообучена на данных для рассуждений и специализированных наборах с упором на цепочки рассуждений и многошаговое решение задач. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и формат safetensors; для запуска предусмотрена библиотека Transformers. Заявленная длина контекста — 131 072 токена. Модель предназначена для диалоговых помощников, следования инструкциям, математических и логических задач, программирования, а также подготовки объяснений, документации и аналитических текстов. В карточке перечислен английский язык. Модель может генерировать ошибочные или предвзятые ответы, испытывать пробелы в специализированных областях и требует значительных вычислительных ресурсов. Лицензия — Llama 3.1.

Llama-Engineer-Evol-7B — языковая модель на архитектуре Llama 2, созданная дальнейшим дообучением чат-модели Meta с настройкой для следования инструкциям. Разработчик дообучил её на более чем 80 тысячах примеров по программированию из наборов Evol-Instruct-Code-80k-v1, CodeAlpaca-20k и GPTeacher-CodeInstruct; QLoRA-адаптер затем объединили с базовой моделью. Модель содержит 6,6 млрд параметров, работает с контекстом до 4096 токенов и рассчитана на генерацию текста на английском языке. Модель предназначена для ответов на вопросы по программированию, объяснения кода и помощи в решении задач разработки. Для взаимодействия рекомендуется формат запросов Llama 2 с инструкцией для программного ассистента. README отмечает, что формальных оценок качества не проводилось, поэтому возможности модели не подтверждены систематическими бенчмарками. Лицензия — CC BY-SA 4.0.

LLaMA-Pro-8B — плотная авторегрессионная языковая модель семейства LLaMA, разработанная лабораторией Tencent ARC. Она расширяет LLaMA2-7B дополнительными Transformer-блоками и дообучена на корпусах кода и математики общим объёмом 80 млрд токенов; размер модели в метаданных указан как 8,2 млрд параметров. Модель предназначена для генерации текста и сочетания общих языковых навыков со знаниями программирования и математики. Модель подходит для генерации и продолжения текста, помощи с кодом, решения математических задач и сценариев, где требуется работать с естественным и программным языком. Указанное в метаданных контекстное окно — 4096 токенов. Карточка приводит результаты сравнительных бенчмарков и отмечает возможные трудности на узкоспециализированных задачах, а также риск предвзятости. Репозиторий содержит веса PyTorch в формате Safetensors; лицензия — Llama 2 Community License.

LosslessMegaCoder-llama2-7b-mini — языковая модель для генерации кода, созданная Rombodawg совместно с Andreaskopf. Это плотная авторегрессионная модель семейства Llama 2 с 6,6 млрд параметров и контекстом до 4096 токенов, распространяемая в формате PyTorch. Модель обучена на отфильтрованной версии набора LosslessMegaCodeTrainingV2_1m_Evol_Uncensored: из данных удаляли примеры короче 100 токенов. Она предназначена для генерации кода по текстовым запросам и диалогового взаимодействия с кодовым помощником; в карточке приведены результаты оценки на общих языковых бенчмарках. README характеризует её как сильную для своего размера, но не приводит подробной методики оценки качества кода. Для диалога предлагается шаблон ChatML. Лицензия — Llama 2; применяйте модель с учётом условий этой лицензии. README предупреждает, что модель не обучалась на датасете LosslessMegaCodeTrainingV3_MINI, несмотря на сходство названий.

LycheeAI-coder-2b-II-pro-f16 — компактный программный ассистент на 2,2 млрд параметров, созданный независимым разработчиком на основе openbmb/MiniCPM5-2B. Модель дообучена методом LoRA и предназначена для написания и отладки кода, объяснения технических понятий и работы с инструментами через вызовы в виде JSON. Этот репозиторий содержит веса safetensors в варианте f16; README описывает также отдельную MLX 4-bit сборку, поэтому её размер и формат не следует переносить на данный вариант. Модель поддерживает китайский, английский и кантонский языки. Базовая модель рассчитана на контекст до 512K токенов, однако длинный контекст у этой доработанной версии практически не проверен. Сильная сторона — компактность и устойчивый формат JSON для одношаговых и многошаговых вызовов инструментов. Ограничения включают слабое сложное рассуждение, ошибки в арифметике без инструмента и возможные сбои в ответах о собственной идентичности при некоторых системных инструкциях. Лицензия — Apache 2.0.

Magicdeep_7b_ultimite_chatbot — объединённая модель генерации кода, созданная с помощью mergekit на основе DeepSeek Coder 6.7B Instruct и Magicoder-DS-6.7B. Она использует плотную архитектуру LlamaForCausalLM и содержит около 6,6 млрд параметров. Модель предназначена для диалоговой генерации и дополнения программного кода, а также для ответов на вопросы и объяснения кода. Контекст составляет 16 384 токена. Веса представлены в формате safetensors; модель распространяется по лицензии Apache-2.0. Карточка не сообщает результаты оценки качества или конкретный перечень поддерживаемых языков программирования. Практическое качество может зависеть от задачи и формулировки запроса.

Agnuxo/Mamba-Codestral-7B-v0.1-instruct-python_coding_assistant-GGUF_16bit — локальная модель генерации кода, опубликованная Франсиско Ангуло де ла Фуэнте под именем Agnuxo. Это плотная модель семейства Mistral с 7 млрд параметров в формате GGUF F16; карточка рекомендует запуск через Ollama и также описывает использование через Transformers. Модель предназначена для помощи в программировании: она генерирует код на Python, JavaScript, TypeScript, Rust, Go и C++, а также поддерживает сценарии научных вычислений и машинного обучения с NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. В карточке также заявлены возможности декомпозиции задач и взаимодействия с агентами через MCP и A2A. Метаданные указывают английский и испанский языки. Лицензия — Apache-2.0. Описание не приводит результатов независимых тестов качества или подробностей о контекстном окне, поэтому пригодность для конкретных задач стоит оценивать на собственных примерах.

MasherAI-7B-v6.1 — разговорная модель на архитектуре Mistral, разработанная mahiatlinux и дообученная на базе mahiatlinux/MasherAI-v6.1-7B-checkpoint3-code4. Она предназначена для диалогов и помощи с программированием, особенно на Python; обучение проводилось на наборах данных для генерации и объяснения кода, а также для сохранения разговорных навыков. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Для диалогов используется формат ChatML с системными сообщениями и ролями. Модель может быть полезна для написания и улучшения кода, ответов на вопросы о программировании и обычных диалогов. В README указано, что качество ещё не оценивалось, поэтому результаты стоит проверять, особенно при использовании с важными задачами. Лицензия — Apache-2.0.

EpistemeAI/Math-Code-Llama3.1-8B — дообученная EpistemeAI модель на архитектуре Llama 3.1, разработанная для генерации текста и помощи в задачах математики и программирования. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131 072 токенов; веса доступны в форматах PyTorch и Safetensors. Модель подходит для генерации и объяснения кода, решения математических задач и диалоговой помощи по этим темам. В карточке указаны возможности базового семейства Llama 3.1: текстовый ввод и вывод, поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Специальные результаты или бенчмарки именно этой производной модели не приведены. Для репозитория указана лицензия Apache 2.0. Ограничения качества и безопасности генеративных ответов следует учитывать при использовании; карточка также предупреждает, что базовая модель статична и обучена на офлайн-данных.

Mellum-4b-base — базовая языковая модель для кода, разработанная JetBrains и опубликованная с открытыми весами. Она использует плотную архитектуру в стиле LLaMA с 3,7 млрд параметров и предназначена прежде всего для автодополнения кода, включая продолжение и заполнение пропусков. Модель обучалась на корпусах The Stack, The Stack v2, StarCoder Training Dataset и CommitPack, а также на англоязычной Википедии; обучение охватило около 4,2 трлн токенов. Контекст составляет 8192 токена. Публичные веса представлены в формате safetensors с точностью bf16. Модель рассчитана на интеграцию в IDE и помощники разработчика, а также на локальный или серверный запуск и дальнейшую адаптацию через дообучение. Она работает с кодом на нескольких языках программирования; отдельная версия Mellum-4b-sft-python в карточке приведена для сравнения и не является этой базовой моделью. Для прикладных задач модель не настроена из коробки. Сгенерированный код может отражать стилистику обучающих открытых репозиториев и содержать уязвимости, поэтому предложения следует проверять. Лицензия — Apache-2.0.

Meta-Llama-3.1-405B-Instruct-FP8-dynamic — квантизированная версия Meta-Llama-3.1-405B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая instruction-tuned модель архитектуры Meta-Llama 3.1 с входом и выходом в виде текста, предназначенная прежде всего для ассистентских диалогов, генерации текста, решения задач с открытым ответом, математического рассуждения и программирования. Модель ориентирована на коммерческое и исследовательское использование. Весы и активации линейных слоёв трансформера квантизированы в FP8. Для весов применяется симметричная поканальная квантизация, а активации квантизуются динамически на уровне токенов. Это примерно вдвое уменьшает размер модели на диске и требования к памяти GPU по сравнению с 16-битным представлением; заявлено, что модель может запускаться на одном узле с 8 GPU H100 вместо нескольких узлов. Для инференса она подготовлена для vLLM и поддерживает совместимый с OpenAI режим сервинга. В README указаны языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, однако в ограничениях отдельно сказано, что использование на языках, отличных от английского, находится вне заявленной области применения. В качестве ограничения также следует учитывать необходимость мощной GPU-инфраструктуры и возможные потери качества, связанные с квантизацией, хотя на приведённых бенчмарках модель продемонстрировала близкие к исходной модели результаты. Лицензия — llama3.1; дата выпуска — 22 августа 2024 года, версия 1.1.

Solshine/Meta-Llama-3.1-8B-Instruct-Python-Coder — дообученная Solshine языковая модель для генерации текста и помощи с кодом на Python. Она основана на unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit и создана с использованием Unsloth и библиотеки Hugging Face TRL. Модель относится к плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Модель рассчитана на диалоговое взаимодействие и сценарии написания кода. В карточке указаны английский язык и код; отдельно подтверждена возможность работы с кодом. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит подробных результатов оценки качества или перечня поддерживаемых языков программирования.

FriendliAI публикует вариант Meta Llama 3 70B Instruct с весами в формате FP8 для более эффективного инференса при сохранении высокой точности. В основе — авторегрессионный трансформер Llama с плотной архитектурой и Grouped-Query Attention; модель содержит 69,5 млрд параметров и принимает текст, генерируя текст и код. Контекст — до 8192 токенов. Модель предназначена для диалоговых ассистентов и генерации текста на английском языке, в том числе для коммерческих и исследовательских сценариев. FP8 поддерживается на GPU NVIDIA Ada, Hopper и Blackwell. Модель разработана Meta, а FP8-версия опубликована FriendliAI; веса представлены в safetensors. Использование регулируется специальной коммерческой лицензией Meta Llama 3.

Meta Llama 3 8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Эта версия принимает текст и генерирует текст, в том числе код; карточка репозитория описывает предварительно обученные и настроенные варианты семейства, но не уточняет, какой именно вариант представлен в этом репозитории. Модель предназначена для генерации текста на английском языке. Предварительно обученную версию можно адаптировать для разных задач генерации естественного языка, а настроенные варианты предназначены для диалоговых сценариев. Архитектура основана на оптимизированном Transformer и использует Grouped-Query Attention; размер модели — 7,5 млрд параметров, длина контекста — 8192 токена. Модель подходит для создания разговорных помощников, генерации и продолжения текста и кода. Результаты требуют проверки, а для приложения следует настроить дополнительные меры безопасности под конкретную аудиторию и сценарий. Лицензия — специальная коммерческая лицензия Meta Llama 3 с условиями использования и ограничениями; перед внедрением необходимо ознакомиться с её текстом и Acceptable Use Policy.

Meta Llama 3 8B Instruct — языковая модель Meta на 8 млрд параметров для диалоговых сценариев. Это авторегрессионный трансформер с оптимизированной архитектурой и Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с подкреплением на основе оценок людей. Модель принимает текст и генерирует текст, в том числе код. Модель предназначена для ассистентского общения и генерации текста на английском языке, в коммерческих и исследовательских приложениях. Она подходит для создания чат-ботов и ответов на запросы; качество и безопасность ответа зависят от сценария и настроек приложения, поэтому для конкретного применения могут потребоваться дополнительные меры защиты. Использование регулируется пользовательской лицензией Meta Llama 3 и Acceptable Use Policy.

Карточка модели tuneai/Meta-Llama-3-8B-Instruct на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3 8B Instruct — языковая модель Meta на 8 млрд параметров для диалоговых сценариев. Это авторегрессионный трансформер с оптимизированной архитектурой и Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с подкреплением на основе оценок людей. Модель принимает текст и генерирует текст, в том числе код. Модель предназначена для ассистентского общения и генерации текста на английском языке, в коммерческих и исследовательских приложениях. Она подходит для создания чат-ботов и ответов на запросы; качество и безопасность ответа зависят от сценария и настроек приложения, поэтому для конкретного применения могут потребоваться дополнительные меры защиты. Использование регулируется пользовательской лицензией Meta Llama 3 и Acceptable Use Policy.

maldv/Meta-Llama-3-8B-Instruct-hf — чат-модель семейства Llama 3, разработанного Meta. Это авторегрессионный плотный трансформер LlamaForCausalLM с 7,5 млрд параметров и Grouped-Query Attention; репозиторий содержит веса в формате safetensors. Модель принимает текст и генерирует текст, включая код, а версия Instruct настроена для диалогов и помощнических сценариев. Модель подходит для ответов на вопросы, ведения диалога и генерации текста или кода на английском языке. Метаданные указывают контекст до 8192 токенов. README описывает настройку инструкционной версии с помощью supervised fine-tuning и обучения с подкреплением на основе обратной связи людей. Для языков помимо английского может потребоваться дополнительное дообучение. Условия использования определяются лицензией Meta Llama 3 с коммерческими условиями и политикой допустимого использования. Модель статична и обучена на офлайн-данных; для конкретного приложения разработчикам следует самостоятельно настраивать меры безопасности.