II.6Документация и сопровождение разработки

bartowski/L3.1-MS-Astoria-70b-v2-GGUF — это набор GGUF-квантизированных версий текстовой генеративной модели Steelskull/L3.1-MS-Astoria-70b-v2. Квантизация выполнена bartowski с помощью llama.cpp b3930 и метода imatrix. Модель предназначена для локального запуска задач генерации текста, диалогов и других сценариев текстового вывода; рекомендуется использовать её через LM Studio или совместимые инструменты на базе llama.cpp. Доступны варианты квантизации от IQ1_M до Q8_0 размером примерно от 16,75 до 74,98 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, но требуют больше оперативной памяти; Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые, тогда как самые низкие уровни имеют заметно более низкое качество. Для некоторых вариантов применена квантизация весов эмбеддингов и выходного слоя в Q8_0. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, мультимодальности, результатах оценки или лицензии исходной модели. Формат приглашений использует специальные токены Llama 3.1 и задаёт даты отсечения знаний и текущую дату, однако это не заменяет официальное описание возможностей модели.

SteelStorage/L3.1-MS-Hytroblated-70B — экспериментальная слитая языковая модель, созданная SteelStorage методом Model Stock с помощью mergekit на основе mlabonne/Llama-3.1-70B-Instruct-lorablated и с включением моделей Hermes 3, Llama 3.1 Nemotron и Dracarys2. Это плотная авторегрессионная модель семейства Llama 3.1 с 69,5 млрд параметров и контекстом до 131 072 токенов; репозиторий содержит веса safetensors для Transformers. Модель предназначена для генерации текста и диалогов общего назначения, включая ролевые сценарии. Метаданные также отмечают интерфейс вызова инструментов. README называет её экспериментальной базовой моделью для возможной Nevoria v1.1, поэтому качество и готовность к практическому применению могут зависеть от сценария. В метаданных и README не приведены отдельные языковые ограничения или результаты оценки. Лицензия в предоставленных данных не указана.

L3.3-70B-Magnum-v4-SE-GGUF — набор GGUF-квантизаций модели L3.3-70B-Magnum-v4-SE, подготовленный bartowski на базе модели Doctor-Shotgun. Квантизация выполнена с помощью llama.cpp с использованием imatrix и предназначена для локального запуска, в частности через LM Studio. Модель относится к классу text-generation и ориентирована на генерацию текста и диалоговые сценарии; в метаданных указана поддержка английского языка и тег chat. Доступны варианты с разными уровнями квантизации — от Q8_0 размером около 75 ГБ до IQ2_S размером около 24 ГБ. Более крупные варианты обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Для большинства сценариев рекомендуются Q4_K_M, Q5_K_M, Q5_K_S и Q6_K; некоторые варианты оптимизированы для CPU ARM, Apple Silicon или систем с ограниченным объёмом памяти. Из README не указаны точная архитектура исходной модели, размер контекстного окна, поддерживаемые модальности помимо текста и результаты независимого тестирования. Модель распространяется по лицензии llama3.3; условия использования следует уточнять в лицензии исходной модели и на странице репозитория.

Nohobby/L3.3-Prikol-70B-v0.1a — экспериментальное объединение четырёх моделей семейства Llama 3.3, выполненное автором Nohobby методом linear DELLA; базовой при слиянии указана TheDrummer/Anubis-70B-v1. Модель предназначена для диалогового общения и генерации текста, использует формат запросов Llama 3 и поддерживает интерфейс вызова инструментов. Это плотная авторегрессионная архитектура LlamaForCausalLM на 69,5 млрд параметров с контекстом до 131 072 токенов; веса опубликованы в формате safetensors. Слияние также включает EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.0, Blackroot/Mirai-3.0-70B и Sao10K/L3.3-70B-Euryale-v2.3. Карточка описывает модель неформально и отмечает, что параметры генерации работают лишь удовлетворительно, поэтому качество ответов может быть нестабильным. Лицензия в предоставленных данных не указана.

LaMini-Cerebras-590M — языковая модель серии LaMini-LM, разработанной MBZUAI и описанной в работе «LaMini-LM: A Diverse Herd of Distilled Models from Large-Scale Instructions». Это декодерная модель GPT-2 с 590 млн параметров, полученная дообучением Cerebras-GPT-590M на наборе LaMini-instruction из 2,58 млн примеров. Репозиторий содержит веса PyTorch; модель рассчитана на контекст до 2048 токенов. Модель предназначена для генерации ответов на инструкции, сформулированные на естественном языке. Авторы рекомендуют использовать тот же текстовый шаблон-обёртку, на котором модель дообучалась, для получения лучших результатов. В метаданных указан английский язык. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

lastbrain — Darwin V8 — это дообученная FINAL-Bench модель на базе Qwen/Qwen3.5-2B, созданная командой FINAL-Bench / VIDRAFT_LAB. Модель с архитектурой Qwen3_5ForCausalLM и примерно 1,7 млрд параметров обучена методом SFT с LoRA и дистилляцией рассуждений по заранее подготовленным трассам Claude Opus 4.5/4.6 и Claude Sonnet 4.6. LoRA-адаптер объединён с весами базовой модели, поэтому чекпойнт можно запускать как самостоятельную модель. Модель предназначена для генерации ответов в диалоге с пошаговыми объяснениями, решения математических и логических задач и написания кода. README сообщает о 4 451 обучающих трассах из четырёх открытых наборов данных и показывает примеры структурированных ответов с Markdown и LaTeX. В метаданных указаны контекст до 262 144 токенов и языки английский, корейский, китайский и японский; при этом обучение проводилось с max_length 4 096, что ограничивает основания ожидать столь же надёжную работу на длинном контексте. Модель распространяется по лицензии Apache 2.0; для обучающих данных следует учитывать лицензии исходных наборов. Это компактная текстовая модель для сценариев, где важны объяснение хода решения и развёрнутый ответ. README предупреждает о возможных числовых ошибках при вычислениях на корейском языке и отмечает, что явные теги рассуждений используются редко.

Creekside/lfm-230-CoT — компактная языковая модель семейства LFM2, разработанная Creekside и дообученная на Creekside/lfm-230-cpt-logic-v1. Модель предназначена для генерации текста и диалогового использования; в метаданных также отмечен интерфейс вызова инструментов. Обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель имеет плотную архитектуру Lfm2ForCausalLM и 221,2 млн параметров, поддерживает контекст до 128 000 токенов и опубликована в формате safetensors. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0.

LFM2.5-1.2B-Instruct-MLX-bf16 — экспорт инструкционной языковой модели Liquid AI в формате MLX для инференса на устройствах Apple Silicon. Модель использует плотную архитектуру LFM2 и содержит 1,5 млрд параметров по метаданным; в README указаны 1,2 млрд параметров и точность bfloat16. Размер файла составляет 2,2 ГБ. Модель предназначена для генерации текста и диалога. Метаданные указывают контекст до 128 000 токенов и поддержку английского, японского, корейского, французского, испанского, немецкого, итальянского, португальского, арабского и китайского языков. Репозиторий обозначен как дообучение LiquidAI/LFM2.5-1.2B-Instruct и распространяется по лицензии с пометкой other; конкретные условия следует проверять в карточке модели. Экспорт рассчитан на MLX и Apple Silicon.

Nichonauta/LFM2.5-1.2B-Thinking-ToMoE-INT4 — INT4-квантизованная версия модели LFM2.5-1.2B-Thinking-ToMoE от Nichonauta, производной от LiquidAI/LFM2.5-1.2B-Thinking. Это причинная языковая модель семейства LFM2 с MoE-архитектурой для генерации текста и диалогов; в репозитории указано 1,5 млрд параметров и контекст до 128 000 токенов. Модель хранит фактические прореженные веса MoE в safetensors: линейные слои квантизованы в INT4, а маршрутизаторы, эмбеддинги и нормализации оставлены в fp32. Модель предназначена для генерации ответов и диалогового использования через Transformers. README приводит сравнение perplexity с версией fp32 и сообщает о близких результатах на указанных тестах, при этом отдельные значения для INT4 на chat-formatted тесте немного выше. Для загрузки требуется пользовательский код модели с trust_remote_code=True; авторская лицензия обозначена как other, поэтому условия использования следует сверить с файлом LICENSE репозитория. Поддерживаемые языки в метаданных: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский.

LFM2-8B-A1B-Instruct-Quantum-IQ1C-Qwen3.6-35B-A3B-DISTILL2 — экспериментальная instruct-модель DavidAU на архитектуре Liquid AI LFM2 MoE, дообученная на собственном наборе дистилляции с Qwen 3.6 35B-A3B в роли учителя. В метаданных указаны 1,4 млрд параметров и контекст до 128 000 токенов; модель активирует 4 из 32 экспертов. README сообщает о сохранении instruct-режима, улучшениях форматирования и стиля, а также о тестировании в GGUF-квантизациях; метаданные указывают библиотеку Transformers и формат Safetensors. Модель предназначена для генерации ответов в диалоге и выполнения инструкций. В карточке приведены неофициальные внутренние тесты автора и примеры генераций, поэтому заявленные улучшения не следует считать независимой оценкой качества. Автор характеризует модель как умеренно несильно цензурированную. Лицензия — Apache-2.0.

LION-LLaMA-3-8b-odpo-v1.0 — диалоговая языковая модель Columbia-NLP, дообученная на основе Columbia-NLP/LION-LLaMA-3-8b-dpo-v1.0 с помощью online DPO. Модель использует плотную архитектуру LLaMA и содержит 7,5 млрд параметров; для генерации диалога предусмотрен chat template. Контекст — до 8192 токенов. Модель предназначена для генерации ответов в диалоге и улучшена обучением по предпочтениям, включая этапы SFT, DPO и online preference learning в конвейере LION. Основной язык — английский. README описывает результаты серии LION, но не приводит отдельные численные показатели для этой версии. Модель распространяется по условиям LLaMA 3 Terms of Use. Как и другие генеративные языковые модели, она может выдавать неточные или нежелательные ответы; её надёжность зависит от запроса и сценария применения.

LLaDA-1.5 — плотная языковая модель семейства LLaDA от GSAI-ML, предназначенная для генерации текста и диалогового взаимодействия. Для загрузки автор рекомендует библиотеку Transformers; веса доступны в формате Safetensors. Модель можно использовать для построения чат-ботов и приложений, генерирующих текст по текстовому запросу. Карточка не приводит размер модели, длину контекста, поддерживаемые языки или результаты оценки качества. Лицензия MIT разрешает использование, модификацию и распространение на её условиях.

OpenAssistant/llama2-13b-megacode2-oasst — дообученная плотная языковая модель семейства Llama 2 с 12,9 млрд параметров, разработанная при участии andreaskoepf; для обучения использовался тренер epfLLM/Megatron-LLM. Модель предназначена для генерации текста, в том числе ответов в формате диалога ChatML, и задач, связанных с кодом: обучение включало набор LosslessMegaCodeTrainingV2_1m_Evol_Uncensored. Модель принимает текст и генерирует текст. В README приведён шаблон диалога с ролями user и assistant; нативный контекст составляет 2048 токенов. Доступен формат PyTorch. В метаданных указана лицензия other, поэтому условия использования следует сверять с карточкой модели и её лицензией. README не содержит оценок качества или подробных результатов тестирования.

Это fp16-конверсия модели Llama 2 70B Guanaco QLoRA, созданной Mikael110 и размещённой в формате PyTorch компанией TheBloke. Базовая модель была дообучена методом QLoRA по обучающим скриптам QLoRA; эта версия предназначена для диалогового общения и ответов на запросы по шаблону Guanaco «### Human: … ### Assistant:». Веса содержат 68,7 млрд параметров, архитектура — плотная LlamaForCausalLM, контекст — до 2048 токенов. Модель принимает текст и генерирует текст, в первую очередь на английском языке. Её можно использовать для чат-ботов, ответов на вопросы и диалоговых помощников. Для запуска требуются значительные вычислительные ресурсы из-за размера модели. Репозиторий распространяется по лицензии other; README указывает, что действуют ограничения на использование исходной Llama 2, а также что модель предоставляется без гарантий.

Llama2 70B SFT v10 GGUF — это квантизированная версия языковой модели OpenAssistant Llama2 70B SFT v10, разработанной OpenAssistant и преобразованной в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama и предназначена для генерации текста и диалогового взаимодействия. Модель ориентирована на задачи, связанные с обработкой естественного языка, включая ответы на запросы пользователей и создание текста. Она использует supervised fine-tuning и обучалась на наборах данных LosslessMegaCodeTrainingV2, OpenAssistant/oasst1, Orca, а также на курированном многоязычном наборе Databricks Dolly. В карточке указан английский язык; сведения о других языках и размере контекста отсутствуют. Поставляется в формате GGUFv2 с вариантами квантизации от 2 до 8 бит, что позволяет запускать модель через llama.cpp и совместимые приложения, библиотеки и графические интерфейсы на CPU и GPU. Для диалогов предусмотрен шаблон ChatML. Ключевой особенностью является сочетание крупного размера 70B параметров и нескольких уровней квантизации, однако README не содержит результатов тестирования, точных требований к памяти или подробной оценки качества и ограничений. Лицензия указана как llama2. Условия использования следует уточнять по лицензии исходной модели Llama 2 и правилам OpenAssistant.

Карточка модели Korabbit/Llama-2-7b-chat-hf-afr-200step-v2 на Hugging Face совпадает с карточкой Korabbit/Llama-2-7b-chat-hf-afr-100step-v2, поэтому описание составлено по ней. Korabbit/Llama-2-7b-chat-hf-afr-100step-v2 — экспериментальная чат-модель Korabbit, основанная на Llama-2-7b-chat и обученная автором с использованием подхода «AFR training». В карточке приведён пример ответа на инструкцию реализовать бинарный поиск на Python; метаданные указывают архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов. Модель предназначена для диалоговых ответов на инструкции и общих текстовых запросов, включая вопросы о программировании. В метаданных указан английский язык и набор данных vicgalle/alpaca-gpt4. Указана лицензия llama2. README описывает подход к обучению лишь кратко, поэтому его детали и качество модели по примеру оценить нельзя.

MaziyarPanahi/Llama-3-11B-Instruct-v0.1-GGUF — набор квантованных файлов модели в формате GGUF, подготовленный разработчиком MaziyarPanahi на основе MaziyarPanahi/Llama-3-11B-Instruct-v0.1. Модель предназначена для генерации текста и использования в диалоговых сценариях, включая запуск через совместимые инструменты, такие как llama.cpp. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством работы. Модель относится к семейству Llama 3 и требует использования соответствующего шаблона промпта с управляющими токенами Llama 3. В README не указаны поддерживаемые языки, размер контекста, точная архитектура базовой модели, результаты оценки, лицензия и ограничения использования.

MaziyarPanahi/Llama-3-16B-Instruct-v0.1-GGUF — набор файлов модели в формате GGUF, созданный и квантованный MaziyarPanahi на основе MaziyarPanahi/Llama-3-16B-Instruct-v0.1. Модель относится к семейству Llama 3 и предназначена для генерации текста и диалогового взаимодействия по инструкциям. Основной сценарий использования — локальный запуск через совместимые инструменты, включая llama.cpp, с применением специального шаблона промпта Llama 3. Доступны варианты квантования с разной разрядностью: 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к ресурсам и качеством генерации. В README не указаны точная архитектура, максимальная длина контекста, поддерживаемые языки, конкретные характеристики вариантов квантования и лицензия. Сильной стороной модели является наличие нескольких GGUF-вариантов для локального инференса и адаптации под разные аппаратные ограничения. Ограничения включают возможную потерю качества при низкоразрядном квантовании, необходимость использовать корректный шаблон Llama 3 и отсутствие в предоставленных данных сведений о лицензии и детальных технических характеристиках.

Llama3.1-8B-Cobalt-GGUF — набор квантованных версий языковой модели Llama3.1-8B-Cobalt от ValiantLabs, подготовленный и опубликованный bartowski. Модель относится к архитектуре Llama, рассчитана на генерацию текста и работу в диалоговом и instruct-сценариях. Указана поддержка английского языка; также заявлена ориентация на математические задачи и инструкции. Модель доступна в формате GGUF для запуска через llama.cpp и совместимых приложений, включая LM Studio. Базовый размер модели — 8 млрд параметров. В набор входят варианты от F32 до сильно сжатых Q2 и IQ-квантизаций, поэтому можно выбирать между качеством ответов и требованиями к памяти: размеры файлов составляют примерно от 2,95 до 32,13 ГБ. Для ряда вариантов применена imatrix-квантизация, а в версиях с суффиксом L эмбеддинги и выходные веса могут храниться в Q8_0 для повышения качества. Рекомендуемыми названы некоторые варианты Q4–Q6; низкобитные версии экономят память, но заметнее снижают качество. Модель предназначена для локального текстового общения, выполнения инструкций и генерации ответов, включая задачи математического характера. README не содержит сведений о мультимодальности, точном размере контекстного окна, результатах бенчмарков или ограничениях безопасности, поэтому эти характеристики нельзя оценить по представленным данным. Лицензия указана как llama3.1.

MOTH — чат-модель общего назначения от sequelbox, дообученная на синтетических данных высокого качества с использованием формата инструкций Llama 3.1 Instruct. Она предназначена для диалогов и выполнения разнообразных инструкций и задач; доступна версия с 7,5 млрд параметров на архитектуре Llama, принимающая текст и генерирующая текст. Заявленная длина контекста — 131 072 токена, основной язык карточки — английский. Модель построена на базе meta-llama/Meta-Llama-3.1-8B-Instruct и распространяется в формате safetensors. Карточка указывает лицензию llama3.1. Качество не проверялось вручную, а обучение опиралось на автоматически созданные наборы данных, поэтому ответы могут быть ненадёжными.

bartowski/Llama-3.1-8B-Open-SFT-GGUF — набор GGUF-квантизаций языковой модели Llama-3.1-8B-Open-SFT, разработанной prithivMLmods и дообученной на датасете O1-OPEN/OpenO1-SFT. Квантизации созданы bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, ответов на вопросы, решения математических задач и сценариев, связанных с Chain-of-Thought. Указана поддержка английского языка. Модель содержит 8 млрд параметров и работает в текстовой модальности. Доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций размером примерно от 3,66 до 16,07 ГБ, что позволяет выбирать баланс между качеством, требованиями к памяти и скоростью инференса. Для локального запуска рекомендуется использовать LM Studio; также заявлена совместимость с text-generation-inference и Ollama. Формат промптов основан на шаблоне Llama 3.1. Размер контекста в README не указан. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и специализация на вопросно-ответных и математических задачах. Более компактные варианты экономят память, но обеспечивают более низкое качество; наиболее качественными названы F16, Q8_0 и варианты Q5–Q6. Модель распространяется по лицензии creativeml-openrail-m.

Na0s/Llama-3.1-8B-Pruned-4-Layers — текстовая авторегрессионная модель семейства Llama, созданная автором репозитория с помощью mergekit на основе meta-llama/Meta-Llama-3.1-8B. Метод passthrough удаляет слои 24–27, сохраняя слои 0–23 и 28–31; модель содержит около 6,4 млрд параметров и распространяется в формате safetensors. Заявленное окно контекста — 131 072 токена. Модель предназначена для генерации текста и может применяться в диалогах, ответах на вопросы и других сценариях языкового моделирования. В README приведён результат 0,2642 на MMLU Pro в режиме 0-shot. Это единственная указанная оценка, поэтому она не характеризует качество на широком наборе задач. Лицензия отдельно не указана в предоставленных данных; базовая модель Meta Llama 3.1 имеет собственные условия распространения, которые следует проверить перед использованием производной модели.

Llama-3.1-Tulu-3-8B-SFT-GGUF — это GGUF-квантизированная версия языковой модели Llama-3.1-Tulu-3-8B-SFT, разработанной Allen Institute for AI (Ai2). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; в качестве данных для квантизации применялся специализированный набор. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp или LM Studio. Указан формат промпта с ролями system, user и assistant. Модель содержит 8 миллиардов параметров и работает с текстом на английском языке. Доступны варианты от исходных весов F16 размером около 16,07 ГБ до различных квантизаций Q8, Q6, Q5, Q4, Q3 и Q2 размером примерно от 3,7 ГБ до 8,54 ГБ. Более крупные варианты сохраняют более высокое качество, а компактные требуют меньше оперативной памяти, но могут заметно уступать в качестве. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5 и Q6; некоторые варианты оптимизированы для ARM или AVX и имеют ограничения совместимости. Модель поддерживает только текстовую модальность; сведения о длине контекста в README не указаны. Лицензия обозначена как llama3.1. README не содержит подробных результатов тестирования, поэтому точные сильные и слабые стороны базовой модели, кроме компромисса между размером квантизации и качеством, оценить нельзя.

RedHatAI/Llama-3.2-1B-Instruct-FP8-dynamic — квантизированная версия Meta Llama 3.2 1B Instruct, разработанная Neural Magic. Это текстовая autoregressive-модель для генерации текста и диалоговых сценариев в формате ассистента, включая коммерческое и исследовательское использование. В README заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, однако отдельно указано ограничение на использование языков, отличных от английского. Модель использует архитектуру Meta-Llama-3.2 и принимает текст на входе, возвращая текст. Веса и активации линейных операторов внутри transformer-блоков квантизированы в FP8; для весов применяется симметричная поканальная квантизация, а активации квантизуются динамически на уровне токенов. По сравнению с 16-битным представлением это примерно вдвое снижает требования к дисковому пространству и памяти GPU. Модель предназначена для эффективного инференса с vLLM и может предоставляться через OpenAI-совместимый интерфейс. Ключевое преимущество — снижение потребления ресурсов при сохранении близкого к исходной модели качества: средний результат на указанной подвыборке OpenLLM Leaderboard составляет 50,88 против 51,70 у неквантизированной версии. Ограничение — небольшая потеря точности после квантизации, а также необходимость совместимого окружения vLLM. Модель выпущена 25 сентября 2024 года, версия 1.0, и распространяется по лицензии llama3.2.

hugging-quants/Llama-3.2-1B-Instruct-Q8_0-GGUF — это квантованная версия инструкционной языковой модели Meta Llama 3.2 1B Instruct, подготовленная в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, где важны умеренные требования к вычислительным ресурсам. Модель относится к семейству Llama 3.2 и имеет размер 1 миллиард параметров. Квантование Q8_0 снижает требования к хранению и вычислениям по сравнению с полноточной версией, сохраняя близкое к исходному качество, однако возможны небольшие потери точности. В карточке указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель работает с текстом; сведения о контекстном окне и дополнительных модальностях не указаны. Сильными сторонами являются компактный размер, поддержка инструкционного режима и совместимость с экосистемой GGUF и llama.cpp. Ограничениями выступают меньшая по сравнению с крупными моделями ёмкость и отсутствие подтверждённых в карточке характеристик контекстного окна и качества на конкретных тестах. Использование регулируется Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая указание соглашения, атрибуцию, обозначение «Built with Llama» и требования Acceptable Use Policy.

Модель artificialguybr/LLAMA3.2-1B-Synthia-I-Redmond — дообученная версия NousResearch/Llama-3.2-1B, созданная автором artificialguybr на наборе инструкций Synthia-v1.5-I из 20,7 тыс. примеров. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM, примерно 1,2 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для выполнения инструкций и разговорных приложений, а также для исследований и разработки в области NLP. Базовая Llama 3.2 — мультиязычная модель Meta; в карточке перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Дообучение ориентировано на следование инструкциям. Модель распространяется в форматах PyTorch и Safetensors по лицензии Llama 3.2. Карточка не приводит сравнительных оценок качества или отдельных ограничений; результаты могут зависеть от формулировки запроса и сценария применения.

qingy2019 дообучил эту диалоговую модель на основе unsloth/Llama-3.2-3B-Instruct с использованием Unsloth и библиотеки TRL. Это плотная архитектура LlamaForCausalLM с 3,2 млрд параметров, предназначенная для генерации текста в диалогах; метаданные указывают контекст длиной до 131 072 токенов и поддержку интерфейса вызова инструментов. Модель можно применять для генерации ответов в чате и других сценариев, где требуется продолжение текста. В карточке приведены результаты Open LLM Leaderboard: среднее значение 19,63, IFEval — 49,92 и BBH — 21,35; они не дают полной оценки качества для конкретных задач. Доступны веса PyTorch и safetensors. Лицензия — Apache-2.0.

legraphista/Llama-3.2-3B-Instruct-IMat-GGUF — это GGUF-версия инструкционно дообученной языковой модели Llama 3.2 3B Instruct, разработанной Meta и опубликованной пользователем legraphista. Модель предназначена для диалоговых приложений, генерации и преобразования текста, ответов на инструкции и локального запуска через совместимые инструменты инференса. Обозначение IMat указывает на вариант упаковки или представления модели, однако точная схема квантования в предоставленных данных не указана. Модель относится к семейству Llama 3.2 и содержит около 3 миллиардов параметров. Она является текстовой, но сведения о поддерживаемых языках, размере контекстного окна, конкретной архитектуре квантования и результатах тестирования в README не приведены. Компактный размер может быть удобен для запуска на локальном оборудовании с ограниченными ресурсами, однако по возможностям и качеству генерации модель уступает более крупным системам. Использование и распространение регулируются Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов требуется включать текст лицензии и обозначение «Built with Llama», сохранять предусмотренное уведомление об авторских правах и соблюдать Acceptable Use Policy. Для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено дополнительное лицензирование Meta.

MergeBench/Llama-3.2-3B_instruction — текстовая авторегрессионная модель семейства Llama, опубликованная организацией MergeBench на Hugging Face. Репозиторий связывает её с работой MergeBench: A Benchmark for Merging Domain-Specialized LLMs, однако карточка модели не сообщает подробно, как именно получены веса и для каких сценариев они адаптированы. Модель содержит около 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста. В метаданных указано контекстное окно 131 072 токена; карточка не подтверждает список поддерживаемых естественных языков. Модель доступна в формате Safetensors и предназначена для запуска через Transformers и совместимые инструменты генерации. Репозиторий распространяется по лицензии MIT. Карточка содержит мало сведений об обучении, оценке качества, языковом покрытии и ограничениях, поэтому пригодность для конкретной области следует проверять отдельно.

bunnycore/Llama-3.2-3B-Mix — диалоговая языковая модель, созданная объединением моделей с помощью mergekit и метода TIES. В качестве базовой использована chuanli11/Llama-3.2-3B-Instruct-uncensored; также в объединение вошла huihui-ai/Llama-3.2-3B-Instruct-abliterated. Модель предназначена для генерации текста и ответов в чате. Она основана на архитектуре LlamaForCausalLM, содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors; для работы используется Transformers. Данные о лицензии и поддерживаемых естественных языках в доступных источниках отсутствуют.