II.6Документация и сопровождение разработки

GLM-4.7-Flash-NEO-CODE-Imatrix-MAX-GGUF — набор специализированных GGUF-квантов модели GLM-4.7-Flash, разработанный DavidAU на базе модели zai-org/GLM-4.7-Flash. Модель предназначена для генерации текста, рассуждений, программирования, диалогов и ролевых сценариев. Заявлена поддержка английского и китайского языков. Архитектура — mixture of experts (MoE) объёмом около 30B параметров, из которых при генерации активируются четыре эксперта, примерно 2B параметров. Модель может запускаться на GPU, CPU или их комбинации и поддерживает контекст до 200K токенов. В этой версии используются NEO- и Code-данные для imatrix-квантизации, а также 16-битный выходной тензор для повышения качества финальной генерации. Доступны специализированные варианты IQ4_NL, Q5_1, Q4_1 и Q8_0, а также обычные типы квантов. Сильными сторонами являются высокая эффективность MoE-архитектуры, большой контекст, ориентация на код и рассуждения, а также оптимизация квантов под актуальную версию llama.cpp. Ограничения связаны с зависимостью качества и скорости от выбранного кванта и конфигурации оборудования; для некоторых сценариев рекомендуется отключать Flash Attention из-за проблем со скоростью генерации и выгрузкой на CPU. Для длинных ответов автор рекомендует использовать контекст не менее 8–16K токенов и подбирать параметры сэмплирования. В метаданных указана лицензия MIT. Для подготовки квантов и их корректной работы требуется актуальная версия llama.cpp, указанная автором; более ранние кванты могут работать хуже.

GLM-4.7-FP8 — языковая модель семейства GLM, разработанная организацией Z.ai (zai-org). Это версия с представлением FP8, предназначенная прежде всего для генерации текста, программирования и агентских сценариев. Модель ориентирована на многоязычное программирование, выполнение задач через терминал, использование инструментов, веб-навигацию, сложное математическое рассуждение, чат, творческое письмо и ролевые сценарии. Также заявлены улучшенные возможности «vibe coding»: генерация веб-страниц и презентаций с более качественным дизайном, компоновкой и размерами элементов. Поддерживаются английский и китайский языки. Модель умеет использовать interleaved thinking и сохраняемое рассуждение перед выполнением действий. К сильным сторонам относятся заметные улучшения по сравнению с GLM-4.6 в SWE-bench, SWE-bench Multilingual, Terminal Bench 2.0, τ²-Bench, BrowseComp и задачах математического и общего рассуждения. README не содержит достоверных сведений о числе параметров, точной архитектуре, размере контекстного окна, поддерживаемых модальностях помимо текста и системных требованиях, поэтому эти характеристики нельзя определить по представленным данным. Модель распространяется по лицензии MIT.

GLM-Z1-32B-0414 — языковая модель с 31,6 млрд параметров от Zhipu AI (zai-org), созданная на базе GLM-4-32B-0414. Это плотная autoregressive-модель семейства GLM-4 для генерации текста и диалогов, обученная рассуждению и дообученная с помощью reinforcement learning на задачах математики, программирования и логики. Поддерживает китайский и английский языки; родной контекст — 32 768 токенов. Модель предназначена для сложных задач, где полезны пошаговые рассуждения: решения математических задач, помощь с кодом, логический анализ, ответы на вопросы и подготовка отчётов. Карточка также указывает интерфейс для вызова инструментов. Для входов длиннее 8 192 токенов README рекомендует при необходимости включать YaRN; это может немного ухудшить качество на коротких текстах. В истории диалога следует сохранять только видимый пользователю ответ, поскольку модель использует скрытое рассуждение. Модель распространяется по лицензии MIT.

GoldenLlama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, созданная объединением Orenguteng/Llama-3.1-8B-Lexi-Uncensored и NousResearch/Hermes-3-Llama-3.1-8B с помощью mergekit. Слои 0–24 взяты из первой модели, а слои 25–31 — из второй; конфигурация слияния passthrough, исходная точность указана как bfloat16. Репозиторий содержит веса safetensors, модель насчитывает 7,5 млрд параметров и имеет контекстное окно 131 072 токена. Модель предназначена для генерации текста и диалогового использования. Лицензия репозитория — Apache-2.0. Карточка не приводит конкретных оценок качества или подробных ограничений; характеристики и поведение унаследованы от объединённых моделей и могут отличаться от каждой из них.

GPT-neo-Custom 7B — диалоговая языковая модель, дообученная Szymon-Wachelko на базе Qwen2.5-7B-Instruct методом QLoRA. Она предназначена для генерации ответов на польском и английском языках, рассуждений, программирования и решения математических и логических задач. Репозиторий распространяет веса в формате GGUF для локального запуска через Ollama, LM Studio и совместимые инструменты; поддерживается шаблон диалога ChatML. В метаданных указана лицензия Apache-2.0. Заявленные сильные стороны — естественная генерация на польском, помощь с кодом и структурированными техническими ответами. Это модель на 7 млрд параметров, поэтому качество рассуждений и решений может варьироваться; заявления о «полном мастерстве» и идентичности квантованных вариантов точностью FP16 приведены автором и не подкреплены в карточке оценками. Версии GGUF различаются размером и точностью, что влияет на требования к памяти и качество генерации.

Granite-3.0-1B-A400M-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов, в том числе для бизнес-сценариев. Это дообученная версия Granite-3.0-1B-A400M-Base: обучение включало supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Модель использует декодерный разреженный Transformer с архитектурой Mixture of Experts (MoE); в метаданных указан размер 163,6 млн параметров и контекст до 4096 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом, вызова функций и многоязычного диалога. Карточка заявляет поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Лицензия — Apache 2.0. Качество на языках кроме английского может быть ниже; few-shot-примеры могут улучшить ответы в многоязычных сценариях. Модель способна выдавать неточные, предвзятые или небезопасные ответы, поэтому её следует проверять и настраивать для конкретного применения.

Granite 3.2 8B Instruct — языковая instruction-tuned модель семейства Granite, разработанная IBM (ibm-granite). Представленная версия — GGUF-квантизация исходной модели granite-3.2-8b-instruct, подготовленная bartowski с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, требующие развитых способностей к рассуждению. Модель имеет размер 8 миллиардов параметров и поддерживает контекст длиной до 128 тысяч токенов. Она работает с текстом и поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Формат GGUF ориентирован на локальный инференс в совместимых инструментах, включая llama.cpp и LM Studio. К сильным сторонам относятся большой контекст, многоязычность и настройка на задачи, связанные с рассуждением. Ограничения включают влияние квантизации на качество по сравнению с исходной моделью, а также возможность получать неточные, неподходящие или вводящие в заблуждение ответы. В README не указаны конкретные параметры квантизации и требования к аппаратным ресурсам. Модель распространяется по лицензии Apache 2.0.

Granite-3.3-8B-Base — базовая языковая модель IBM Granite Team для генерации и преобразования текста. Это плотный decoder-only трансформер на 8,2 млрд параметров с контекстом до 131 072 токенов. Архитектура использует GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги; модель распространяется в формате safetensors и по лицензии Apache 2.0. Модель предназначена для продолжения текста и задач с длинным контекстом: суммаризации, классификации, извлечения информации и ответов на вопросы. Поддержка Fill-in-the-Middle позволяет генерировать код или текст с учётом заданного префикса и суффикса. README указывает поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель не проходила safety alignment, поэтому может выдавать проблемный контент; возможны предвзятость, дезинформация и дословное воспроизведение фрагментов обучающих данных. Для практических задач, требующих специализированного поведения, IBM рекомендует использовать базовую модель как основу для дообучения.

salamanderDixon/granite-4.1-3b-heretic — производная версия Granite-4.1-3B, созданная методом abliteration: в карточке приведены параметры удаления отказов и сравнение с исходной моделью IBM. Это плотный decoder-only трансформер семейства Granite с 3,4 млрд параметров, предназначенный для диалогов и генерации текста. Метаданные указывают контекст до 131 072 токенов и формат safetensors. Модель подходит для ответов на вопросы, суммаризации, извлечения и классификации текста, RAG, задач с кодом и диалоговых сценариев. Базовая Granite-4.1-3B поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки, а также работу с инструментами. В приведённом сравнении у этой версии 3 отказа из 100 против 88 у исходной модели; снижение отказов может сопровождаться ослаблением защитного поведения. Лицензия — Apache 2.0.

mlx-community/granite-4.1-8b-bf16 — версия Granite-4.1-8B от mlx-community, преобразованная для MLX из модели ibm-granite/granite-4.1-8b с помощью mlx-lm. Это плотная языковая модель с архитектурой GraniteForCausalLM и 8,4 млрд параметров, предназначенная для генерации текста и диалоговых сценариев. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 131 072 токена. В описании базовой модели указана поддержка нескольких языков, работы с текстом и кодом, а также вызова инструментов, однако эта карточка подтверждает только генерацию текста и диалоговую возможность. Файлы модели представлены в формате safetensors и подготовлены для запуска с MLX. Лицензия — Apache-2.0. Качество и языковой охват унаследованы от базовой модели; отдельные результаты оценки для этой сборки в карточке не приведены.

lemon-mint/gte-modernbert-base-code-3 — англоязычная модель Sentence Transformers, дообученная разработчиком lemon-mint на базе Alibaba-NLP/gte-modernbert-base на парах запросов и положительных примеров из набора Magpie-Qwen2.5-Coder-Pro-300K-Query-Positive-Pair. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для семантического поиска и сравнения текстов, в том числе запросов и материалов по программированию. Архитектура включает ModernBERT и пулинг CLS-токена; максимальная длина входа — 8192 токена, сходство можно оценивать косинусной мерой. Модель подходит для поиска релевантных фрагментов по запросам, ранжирования текстов по смысловой близости, кластеризации и поиска перефразирований; эмбеддинги также можно использовать как признаки для классификации. Основной язык — английский. Лицензия Apache-2.0. Ее векторное представление ориентировано на семантическое сопоставление, а не на генерацию текста; README не приводит количественных результатов оценки качества.

Harness-1B — компактная языковая модель Algo Science Lab, разработанная Shahrear Hossain. Это плотная авторегрессионная модель семейства Llama примерно на 1 млрд параметров, дообученная на базе TinyLlama/TinyLlama-1.1B-intermediate-step-1431k-3T для следования инструкциям и диалогов. Модель принимает текст и генерирует текст; заявленный контекст — 2048 токенов. Репозиторий содержит веса SafeTensors и вариант GGUF в формате F16. Модель предназначена для чат-ботов, локального помощника по программированию и инженерным вопросам, генерации и отладки кода, объяснения математики и технических концепций, подготовки документации, а также помощи в электронике, FPGA, ASIC и проектировании VLSI. В карточке заявлена поддержка английского языка. Лицензия — Apache-2.0. Модель может ошибаться, выдавать устаревшие сведения и допускать ошибки в рассуждениях; ответы для критически важных задач и производственного применения требуют проверки человеком.

Hermes 3 Llama 3.2 3B — это языковая модель Nous Research, дообученная на полной совокупности параметров базовой Meta Llama 3.2 3B. Она предназначена для диалогов общего назначения и следования инструкциям; карточка отмечает улучшения в многоходовом общении, рассуждении, ролевых сценариях, связности на длинном контексте, генерации кода, вызове функций и структурированном выводе. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Модель использует формат диалога ChatML и шаблон чата Transformers. Её можно применять для создания разговорных помощников, генерации кода и ответов в заданной JSON-схеме. Вызовы функций модель формирует как текст, который приложение должно разобрать и передать инструменту; сама по себе она не выполняет внешние вызовы. В метаданных указан английский язык. Лицензия — Llama 3 Community License (llama3).

Карточка модели genevaquant/Hermes-4.3-36B на Hugging Face совпадает с карточкой NousResearch/Hermes-4.3-36B, поэтому описание составлено по ней. Hermes 4.3 36B — языковая модель для диалогов и следования инструкциям, разработанная Nous Research на основе ByteDance-Seed/Seed-OSS-36B-Base. Это плотная архитектура Seed OSS с 31,7 млрд параметров и контекстом до 524 288 токенов; модель распространяется в формате safetensors и рассчитана прежде всего на английский язык. Модель предназначена для рассуждений и ответов общего назначения, включая задачи по математике, программированию, STEM, логике и творческому письму. Она поддерживает гибридный режим рассуждений, вызов инструментов, а также формирование структурированных ответов и JSON по заданной схеме. Для диалогов используется шаблон чата Hermes на основе формата Llama 3. По описанию разработчика, при дообучении использовался корпус примерно из 5 млн примеров и 60 млрд токенов, с акцентом на проверяемые цепочки рассуждений и точное соблюдение формата. Модель выпущена под лицензией Apache-2.0. Для запуска на сервере с несколькими GPU разработчик рекомендует движки инференса вроде SGLang или vLLM; качество и скорость зависят от настроек и аппаратного обеспечения.

Карточка модели luganoquants/Hermes-4.3-36B на Hugging Face совпадает с карточкой NousResearch/Hermes-4.3-36B, поэтому описание составлено по ней. Hermes 4.3 36B — языковая модель для диалогов и следования инструкциям, разработанная Nous Research на основе ByteDance-Seed/Seed-OSS-36B-Base. Это плотная архитектура Seed OSS с 31,7 млрд параметров и контекстом до 524 288 токенов; модель распространяется в формате safetensors и рассчитана прежде всего на английский язык. Модель предназначена для рассуждений и ответов общего назначения, включая задачи по математике, программированию, STEM, логике и творческому письму. Она поддерживает гибридный режим рассуждений, вызов инструментов, а также формирование структурированных ответов и JSON по заданной схеме. Для диалогов используется шаблон чата Hermes на основе формата Llama 3. По описанию разработчика, при дообучении использовался корпус примерно из 5 млн примеров и 60 млрд токенов, с акцентом на проверяемые цепочки рассуждений и точное соблюдение формата. Модель выпущена под лицензией Apache-2.0. Для запуска на сервере с несколькими GPU разработчик рекомендует движки инференса вроде SGLang или vLLM; качество и скорость зависят от настроек и аппаратного обеспечения.

Hy4 preview — экспериментальная предварительная версия языковой модели Tencent Hy Team для диалогов и генерации текста. В README описана MoE-архитектура: 770 млрд параметров в основной модели, из которых активируются 49 млрд на токен; также упоминается дополнительный слой MTP для ускорения декодирования. Метаданные каталога указывают архитектуру HYV4ForCausalLM и 33,9 млрд параметров, что расходится с числом в README; поэтому размер модели здесь нельзя считать однозначным. Модель предназначена для разработки программного обеспечения, анализа документов и данных, подготовки офисных материалов, прототипирования игр и исследовательских задач. Заявлен контекст длиной до 1 048 576 токенов. В README не указаны поддерживаемые естественные языки. Известные ограничения ранней версии — избыточно долгие рассуждения по сложным задачам и склонность к повторной проверке уже выполненной работы. Модель распространяется по лицензии Apache-2.0.

Карточка модели thetechoddbug/Hy4-preview на Hugging Face совпадает с карточкой tencent/Hy4-preview, поэтому описание составлено по ней. Hy4 preview — языковая модель поколения Hy4, разработанная командой Tencent Hy. README описывает её как модель Mixture-of-Experts с 770 млрд параметров в основной части и 49 млрд активируемых параметров на токен; встроенный слой MTP предназначен для ускорения спекулятивного декодирования. Метаданные Hugging Face указывают архитектуру HYV4ForCausalLM, библиотеку Transformers, 33,9 млрд параметров и контекст до 1 048 576 токенов; эти значения расходятся с характеристиками в README. Модель предназначена для диалоговой генерации текста и сложных задач: разработки и отладки программ, работы с документами и таблицами, анализа данных, создания прототипов игр и решения научных задач. В README также заявлены сценарии подготовки презентаций и финансовых моделей. Указанная в карточке лицензия — Apache-2.0. Это ранняя preview-версия. Известные ограничения — избыточно долгие рассуждения на сложных задачах и склонность чрезмерно перепроверять результат.

Inex16Calme-7B — слитая Maxime Labonne модель для генерации текста на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она создана автоматическим слиянием MSL7/INEX16-7b и MaziyarPanahi/Calme-7B-Instruct-v0.1.1 методом SLERP; в конфигурации указана точность bfloat16. Модель подходит для генерации продолжений текста и диалоговых ответов в сценариях, где полезен длинный контекст. Для использования предлагается загрузка через Transformers. Модель распространяется по лицензии Apache-2.0.

Карточка модели mingjun2026/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Ling-lite-1.5-2506 — обновлённая разговорная языковая модель от inclusionAI для рассуждений, решения сложных задач, программирования и отладки кода. Она построена на архитектуре Bailing MoE и поддерживает генерацию текста в формате чата. В README указаны 16,8 млрд параметров, из которых активируются 2,75 млрд; метаданные Hugging Face указывают 794,8 млн параметров. В карточке также заявлена длина контекста 128K, тогда как метаданные сообщают 32 768 токенов. README описывает улучшения относительно Ling-lite-1.5 и приводит результаты на GPQA Diamond и LiveCodeBench 2408–2501. Модель принимает текст и генерирует текст. Опубликованные веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия — MIT. Языки в доступных сведениях не перечислены.

LLaDA2.0-flash — диффузионная языковая модель с архитектурой Mixture-of-Experts от Inclusion AI, дообученная для следования инструкциям и практического применения. Модель предназначена для генерации текста, диалога, программного кода, решения сложных математических задач и работы с инструментами. В README указаны 100 млрд параметров всего и около 6,1 млрд активных при инференсе; метаданные Hugging Face указывают 5,5 млрд параметров. Архитектура включает 32 слоя и 32 головы внимания, использует RoPE и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса Safetensors, модель работает с Transformers. Лицензия — Apache-2.0. README отмечает сильные результаты на приведённых бенчмарках, включая задачи на знания, код и рассуждения. При повышенной температуре возможны смешение языков и небольшое снижение качества; авторы рекомендуют температуру 0.0, длину блока 32 и 32 шага генерации.

Meta Llama 3.1 70B — большая авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Она генерирует текст и рассчитана на многоязычный диалог; семейство включает предварительно обученные и настроенные версии, а настроенные модели используют SFT и RLHF. В этой карточке описана модель размером 70B, но не уточняется, является ли именно этот репозиторий предварительно обученной или настроенной версией. Модель подходит для диалогового помощника, генерации текста и создания синтетических данных. Она принимает и выдаёт текст; заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. В README отмечены более длинное контекстное окно и возможность интеграции с внешними инструментами, но конкретная длина контекста не приведена в предоставленных данных. Модель разработана Meta и выпущена в июле 2024 года. Использование регулируется специальной коммерческой лицензией Llama 3.1 Community License и Acceptable Use Policy; перед применением необходимо соблюдать их условия. К ограничениям относятся статичность модели, риски небезопасных или неточных ответов и сниженная заявленная пригодность для общения на языках вне списка поддержки.

Meta Llama 3.1 8B — авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Это базовая предварительно обученная версия семейства Llama 3.1; веса представлены в формате Safetensors и предназначены для генерации текста и последующей адаптации под разные задачи. Модель принимает текст и генерирует текст. Модель подходит для генерации естественного языка, создания диалоговых и прикладных систем после настройки, а также для подготовки синтетических данных. В карточке семейства заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для этой базовой версии README не заявляет оптимизацию под диалоговые сценарии: она отличается от instruction-tuned вариантов, которые обучались с SFT и RLHF. Разработчик — Meta. Для использования действует специальная коммерческая лицензия Llama 3.1 Community License и Acceptable Use Policy. Модель обучена на статическом наборе данных; качество и безопасность генерации могут различаться между языками, а применение на языках за пределами восьми заявленных требует дополнительной настройки и мер контроля.

NVIDIA Llama 3.1 8B Instruct FP8 — FP8-квантизированная версия инструкционно настроенной авторегрессионной языковой модели Meta Llama 3.1 8B Instruct. Модель подготовлена NVIDIA с помощью TensorRT Model Optimizer; README уточняет, что она не принадлежит NVIDIA и была собрана по требованиям стороннего разработчика. Архитектура — трансформер Llama 3.1 с плотной моделью примерно на 7,5 млрд параметров. Модель принимает текстовые последовательности и генерирует текст, поддерживает диалоговый режим и контекст до 128 тысяч токенов. Квантизация весов и активаций линейных операторов до FP8 предназначена для более экономичного и быстрого инференса: в README указано сокращение требований к диску и памяти GPU примерно на 50% и ускорение примерно в 1,3 раза на H100. Предусмотрен запуск через TensorRT-LLM и vLLM на совместимых GPU NVIDIA. Модель подходит для диалогов, генерации и продолжения текста, а также ответов на инструкции. В README заявлено коммерческое и некоммерческое использование; лицензия в метаданных — llama3.1. Качество и скорость зависят от оборудования и среды инференса; оценка ускорения приведена для конфигурации с H100.

Llama-3.1-8B-Magpie-Align-SFT-v0.2 — диалоговая языковая модель семейства Llama 3.1, разработанная Magpie-Align. Это дообученная версия Meta Llama 3.1 8B, обученная на наборах Magpie-Llama-3.1-Pro-500K-Filtered и Magpie-Reasoning-150K. Модель предназначена для диалогов, выполнения инструкций и рассуждений в текстовом формате; для лучшего результата следует использовать официальный шаблон чата Llama 3. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В README сообщается о результатах, сопоставимых с Llama 3.1 8B Instruct при обучении только методом SFT, включая оценки AlpacaEval 2 и Arena Hard. Модель принимает текст и генерирует текст. README не перечисляет поддерживаемые естественные языки, поэтому язык в описание не добавлен. Использование регулируется лицензией Meta Llama 3.1 Community License.

LLaMa-3.1-Instruct-Zeroed-13B — объединённая языковая модель семейства Llama, созданная сообществом mergekit методом passthrough на основе unsloth/Meta-Llama-3.1-8B-Instruct. Она предназначена для диалогов и генерации текста по инструкциям; поддерживает интерфейс вызова инструментов. Модель содержит 12,5 млрд параметров, принимает текст и имеет контекстное окно до 131 072 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста. В репозитории указаны веса Safetensors для Transformers. Лицензия в предоставленных данных не указана.

onnx-community/Llama-3.2-1B-Instruct-q4f16 — преобразованная в ONNX версия инструкционной языковой модели Meta Llama 3.2, подготовленная сообществом onnx-community для запуска через Transformers.js. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, примерно 1,2 млрд параметров и контекстом до 131 072 токенов; формат репозитория — ONNX, вариант обозначен как q4f16. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для многоязычного диалога, ответов ассистента, поиска знаний с использованием агентных сценариев, суммаризации, помощи в написании текстов и переформулирования запросов. В карточке перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Инструкционные модели семейства выравнивались с помощью SFT и RLHF; заявлены коммерческое и исследовательское применение по условиям лицензии Llama 3.2 Community License. Это статичная модель с данными обучения до декабря 2023 года; качество и безопасность ответов требуют проверки в конкретном приложении.

Meta разработала Llama 3.2 3B — авторегрессионную языковую модель с оптимизированной архитектурой Transformer и механизмом Grouped-Query Attention. Вариант на 3,21 млрд параметров предназначен для генерации текста и обучен на общедоступных данных; модель принимает и выдаёт текст, включая код. Она поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленная длина контекста семейства — до 128 тысяч токенов. Модель подходит для диалоговых приложений, поиска знаний, суммаризации, мобильных помощников для письма и переформулирования запросов. Карточка описывает семейство с предварительно обученными и настроенными на инструкции вариантами; конкретный репозиторий — базовая модель для генерации текста. Меньший размер рассчитан в том числе на устройства с ограниченными ресурсами, но качество и безопасность могут уступать более крупным моделям и требуют проверки под конкретный сценарий. Знания модели ограничены данными до декабря 2023 года. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy.

casperhansen/llama-3.2-3b-instruct-awq — это общественно созданная AWQ-квантизованная версия текстовой instruction-tuned модели Llama 3.2 3B Instruct, разработанной Meta. Репозиторий содержит модель примерно на 3 млрд параметров в формате Safetensors с 4-битным представлением AWQ, предназначенным для снижения требований к памяти и запуска на устройствах с ограниченными вычислительными ресурсами. Модель рассчитана на многоязычный диалог, следование инструкциям, ассистентские сценарии, извлечение знаний, суммаризацию, написание и перефразирование текста. Архитектура — авторегрессионный оптимизированный Transformer с Grouped-Query Attention; исходная модель обучена с применением supervised fine-tuning и reinforcement learning from human feedback. Это текстовая модель: принимает и генерирует текст, включая код. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Сильные стороны — небольшой размер, сниженное потребление памяти благодаря 4-битной AWQ-квантизации, 3.21 млрд параметров и пригодность для локального инференса. Ограничения включают меньшую мощность по сравнению с более крупными моделями, текстовый характер без обработки изображений и возможные потери качества из-за квантизации. Для исходной текстовой Llama 3.2 заявлен контекст до 128k токенов, а для квантизованных вариантов — до 8k токенов; дата отсечения знаний — декабрь 2023 года. Для базовой Llama 3.2 применяется специальная коммерческая Llama 3.2 Community License с требованиями к перераспределению, указанием атрибуции и соблюдением Acceptable Use Policy. В карточке репозитория casperhansen отдельная лицензия не указана, поэтому условия использования следует проверять с учётом лицензии исходной модели Meta.

unsloth/Llama-3.2-3B-Instruct-bnb-4bit — это 4-битная квантованная версия инструкционно дообученной текстовой модели Llama 3.2 3B Instruct, подготовленная Unsloth на базе модели Meta. Она предназначена для генерации текста, многоязычного диалога, агентского поиска и извлечения информации, суммаризации, а также для локального запуска и последующего дообучения с пониженным потреблением памяти. Модель работает в формате text in/text out и доступна через экосистему Transformers и bnb 4-bit. Архитектура модели — авторегрессионный оптимизированный Transformer с Grouped-Query Attention (GQA). Размер — 3 млрд параметров. Инструкционная версия обучена с применением supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Длина контекста в предоставленных данных не указана. К сильным сторонам относятся компактный размер, 4-битное представление, сниженные требования к памяти и оптимизация для диалоговых и прикладных текстовых сценариев. Ограничения связаны с тем, что это статическая модель, обученная на офлайн-данных, а также с возможными рисками при использовании языков и задач за пределами заявленных возможностей; качество и безопасность конкретного развертывания требуют отдельной проверки. Использование регулируется кастомной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy Meta.