II.6Документация и сопровождение разработки

Карточка модели zsjTiger/Llama-3.2-1B на Hugging Face совпадает с карточкой unsloth/Llama-3.2-1B, поэтому описание составлено по ней. unsloth/Llama-3.2-1B — текстовая модель генерации на базе Meta Llama 3.2, представленная Unsloth. Это плотная авторегрессионная трансформерная архитектура Llama с 1,2 млрд параметров; репозиторий содержит веса в формате safetensors и предназначен для использования через Transformers. В README Unsloth также предлагает ноутбуки для дообучения модели и экспорта полученных моделей. Модель принимает текст и генерирует текст. Семейство Llama 3.2 предназначено для генерации и диалога; в карточке указаны сценарии суммаризации и агентного поиска, а также поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Контекстное окно составляет 131072 токена. Модель опубликована 25 сентября 2024 года и распространяется по лицензии Llama 3.2 Community License, условия которой следует соблюдать при использовании и распространении.

alpindale/Llama-3.2-1B-Instruct — это текстовая инструкционная модель семейства Llama 3.2, разработанного Meta. Репозиторий содержит версию с примерно 1,2 млрд параметров; модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и предназначена для генерации текста в Transformers. Для согласования ответов с предпочтениями пользователей применялись supervised fine-tuning и обучение с обратной связью от людей. Модель рассчитана на диалог в роли ассистента, поиск знаний и суммаризацию, а также на мобильных помощников для письма, переформулирование запросов и подсказок и агентные сценарии. Она принимает и генерирует текст, включая код, поддерживает контекст до 131 072 токенов и официально рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Компактный размер позволяет рассматривать модель для применения на устройствах с ограниченными ресурсами. Качество, безопасность и полезность могут уступать более крупным моделям, поэтому разработчикам следует проверять поведение модели в конкретном сценарии. Знания ограничены данными с отсечкой по декабрю 2023 года. Использование регулируется специальной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.

Карточка модели 1024m/Llama-3.2-3B-Base на Hugging Face совпадает с карточкой alpindale/Llama-3.2-3B, поэтому описание составлено по ней. alpindale/Llama-3.2-3B — текстовая модель семейства Llama 3.2, разработанного Meta. Это авторегрессионная плотная трансформерная модель с 3,2 млрд параметров и архитектурой LlamaForCausalLM; репозиторий содержит веса Safetensors для Transformers. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана на многоязычную генерацию. Модель подходит для диалогового помощника, суммаризации, поиска знаний и приложений с агентными сценариями, а также для мобильных помощников по написанию текста и переформулирования запросов. В README описаны применение и возможности семейства Llama 3.2; отдельное дообучение alpindale/Llama-3.2-3B не подтверждено, поэтому характеристики поведения конкретного чекпойнта могут отличаться от описания семейства. Заявленные языки поддержки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия llama3.2 — пользовательская лицензия сообщества Meta с собственными условиями коммерческого использования и политикой допустимого использования. Модель обучена на статическом офлайн-наборе данных; как компактная модель, она может уступать более крупным системам по качеству и требует проверки безопасности и пригодности для конкретного применения.

donswt подготовил дообученную модель на архитектуре Llama 3.2 Instruct с 3,2 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL, а в репозитории представлены веса в формате safetensors. Модель принимает текст и генерирует текст. Указанное в метаданных родительское семейство поддерживает контекст до 131 072 токенов. Модель распространяется по лицензии Apache-2.0.

bartowski/Llama-3.2-3B-Instruct-GGUF — это квантованная в формате GGUF версия языковой модели Llama 3.2 3B Instruct, разработанной Meta и подготовленной к распространению пользователем bartowski. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, помощь в написании и обработке текста, а также локальный инференс в совместимом программном обеспечении. В карточке указаны поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель содержит около 3 миллиардов параметров и относится к текстовым моделям; сведения о точной архитектуре, размере контекста, конкретном уровне квантования и поддержке дополнительных модальностей в карточке не приведены. Формат GGUF ориентирован на эффективный запуск и снижение требований к памяти, однако квантование может уменьшать точность по сравнению с исходными весами. Модель распространяется по лицензии Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов требуется соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy.

MaziyarPanahi/Llama-3-8B-Instruct-v0.1 — дообученная чат-модель на архитектуре Llama 3, разработанная Maziyar Panahi на основе MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2. Она предназначена для генерации текста в диалоге и запускается через библиотеку Transformers; для общения используется шаблон ChatML. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текстовые сообщения и генерирует текстовые ответы. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors; README также ссылается на отдельную GGUF-версию. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензии на странице модели.

Maziyar Panahi разработал Llama-3-8B-Instruct-v0.9 на основе MaziyarPanahi/Llama-3-8B-Instruct-v0.8. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов. Модель предназначена для диалогов и генерации текста по инструкциям; для общения использует шаблон ChatML и может запускаться через библиотеку Transformers. В карточке приведены результаты тестирования на Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Метаданные указывают английский язык. Репозиторий содержит веса в формате safetensors, а квантизованные GGUF-варианты размещены отдельно. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензии в репозитории.

Llama-3-Instruct-15B-SPPO-Iter3-SH — чат-модель для генерации текста по инструкциям, описанная автором как увеличенная до 15 млрд параметров версия Llama-3-Instruct-8B-SPPO-Iter3 с заменой проекций. Модель создана с помощью mergekit: объединены Llama-3-Instruct-8B-SPPO-Iter3, L3-Aethora-15B-V2 и Llama-3-Instruct-abliteration-LoRA-8B с использованием методов Passthrough и SLERP. В метаданных указано 14,5 млрд параметров, архитектура LlamaForCausalLM и контекст 8192 токена. Модель предназначена для программирования, научных вопросов и общих инструкций. Карточка указывает формат safetensors и наличие квантованной версии GGUF Q5_K_M; для диалога используется шаблон Llama-3-Instruct. Основной язык базовой модели указан как английский. Лицензия в предоставленных данных не указана.

Llama Nemotron Embed VL 1B v2 — мультимодальная модель эмбеддингов для поиска по документам, разработанная NVIDIA. Она принимает текстовые запросы и документы в виде текста, изображений страниц или их сочетания и преобразует их в векторы размерности 2048 для поиска релевантных материалов и построения систем вопросно-ответного поиска и RAG. Модель предназначена для работы с текстом, таблицами, диаграммами и инфографикой на страницах документов. Это bi-encoder на базе трансформерной архитектуры Eagle VLM: языковая часть использует Llama 3.2 1B, а визуальная — SigLip 2; всего около 1,7 млрд параметров. Модель обучена контрастивным методом для сопоставления запросов с подходящими страницами. Поддерживает мультиязычный поиск; для корректного использования в vLLM требуется шаблон чата, который добавляет префиксы query: и passage:. Модель заявлена как готовая к коммерческому применению. Условия использования регулируются NVIDIA Open Model License Agreement; также применимо соглашение Llama 3.2 Community Model License Agreement. Известное ограничение: модель предназначена для получения эмбеддингов и поиска, а не для генерации ответов; качество зависит от правильной подготовки запросов и документов.

Lumen-8b-05-2025 — языковая модель Noetic Labs, дообученная методом LoRA на базе Qwen3-8B. Она рассчитана на академические и технические запросы, сложное следование инструкциям и диалог. В обучении использованы менее 5 000 примеров из наборов EvolKit-75K и Academic-Chains; версия модели содержит около 7,6 млрд параметров и распространяется в формате safetensors. Модель принимает текст и генерирует текст. Метаданные указывают контекст до 40 960 токенов; в карточке заявлены 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для сложных запросов автор рекомендует режим рассуждений. Это экспериментальный первый выпуск серии Lumen; автор предупреждает, что результаты на бенчмарках могут уступать исходной Qwen3-8B. Лицензия — Apache 2.0.

M7Yamshadowexperiment28_M7Alloyingotneoy — объединённая модель Mistral от MaziyarPanahi, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/M7Alloyingotneoy-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_Strangemerges_32Ogno — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана путём слияния моделей automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Ogno-7B и предназначена для генерации текста и диалогов по текстовым запросам. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализацию по языкам или предметным областям, поэтому модель следует считать общей текстовой моделью.

Модель thebbg/Ma7ee7_Qwen3.8_4B_Distilled — дообученная версия Qwen3, опубликованная разработчиком thebbg. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и 3,7 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. В карточке указано, что обучение проводилось с Unsloth. Модель принимает текст и выдаёт текст. Для неё заявлено контекстное окно до 262 144 токенов, а в метаданных указан английский язык. Базовая модель описана как подходящая для рассуждений, программирования и диалоговых задач; отдельные специализированные возможности этой версии не описаны. Лицензия — Apache-2.0.

Magistral Small 2506 — языковая модель от Mistral AI, представленная сообществом LM Studio в виде весов MLX в исходной точности bfloat16. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 23,4 млрд параметров, предназначенная для диалоговой генерации текста. Сборка подготовлена командой LM Studio с помощью mlx_lm и оптимизирована для Apple Silicon. Модель подходит для ведения диалога и генерации ответов на текстовые запросы; заявленная длина контекста составляет 49 152 токена. Веса распространяются по лицензии Apache-2.0. Эта публикация является производной сборкой базовой модели mistralai/Magistral-Small-2506; карточка не приводит специальных отраслевых назначений или дополнительных гарантий качества. Как и другие генеративные модели, она может выдавать неточную или неподходящую информацию.

Maverick-7B — объединённая модель для генерации текста, созданная на основе mlabonne/Marcoro14-7B-slerp и mlabonne/NeuralBeagle14-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалога, ответов на вопросы и других общих языковых задач; в карточке приведены результаты тестов TruthfulQA, GPT4ALL, AGIEval и Bigbench. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

MeliodasPercival_01_Experiment28Meliodas — объединённая модель генерации текста, созданная MaziyarPanahi на основе automerger/MeliodasPercival_01-7B и automerger/Experiment28Meliodas-7B. Она предназначена для генерации текста и диалогов; архитектура — Mistral с плотной моделью на 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

MaziyarPanahi/MeliodasPercival_01_ShadowYam — объединённая модель Mistral с 7,1 млрд параметров для генерации текста. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/ShadowYam-7B и предназначена для задач генерации текста на основе входного текста. Архитектура — плотная MistralForCausalLM; модель принимает контекст длиной до 32 768 токенов и распространяется в формате safetensors. Модель поддерживает генерацию текста общего назначения. Информация о языковой специализации и отдельных сильных сторонах в карточке не приводится. Лицензия — Apache-2.0.

MeliodasT3q_AlloyingotneoyNeuralsirkrishna — объединённая языковая модель, опубликованная MaziyarPanahi. В README указано, что она объединяет automerger/MeliodasT3q-7B и automerger/AlloyingotneoyNeuralsirkrishna-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; для генерации текста доступно контекстное окно до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0.

MelloGPT-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная MaziyarPanahi слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и MelloGPT. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; в карточке указана лицензия Apache-2.0. README описывает смешивание слоёв внимания и MLP с разными коэффициентами. Карточка не сообщает о специальных предметных областях или иных модальностях.

K00B404/Merged_Beowolx-CodePro_Medusa2-7B-Mistral-I-v0-2 — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit из beowolx/MistralHermes-CodePro-7B-v1 и EmbeddedLLM/Medusa2-Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогового текстового общения и генерации кода, сочетая возможности базовых моделей для программирования и инструкционного диалога. Её можно использовать для написания и объяснения кода, а также ответов на текстовые запросы. Карточка не указывает отдельные языки программирования или естественные языки. Модель распространяется в формате safetensors для библиотеки Transformers. Условия лицензии в предоставленных данных не указаны.

Mermaid-Llama-3-7B-Pruned — языковая модель на архитектуре Llama 3, опубликованная TroyDoesAI. Это версия с удалёнными слоями: в карточке указано, что из 32 слоёв оставлено 28; метаданные сообщают о 6,6 млрд параметров и контексте до 8192 токенов. Модель предназначена для автодополнения, понимания Python-кода и генерации диаграмм Mermaid по коду или текстовым описаниям, включая схемы потоков и сюжетные карты. Автор описывает обучение на 800 примерах Mermaid-графов и 478 Python-программах, а также приводит параметры обучения LoRA. Модель рассчитана на генерацию текста; основная область применения — преобразование кода и повествований в диаграммы. README предупреждает, что её не следует использовать как обычного чат-бота: ответы в формате диалога могут быть некачественными. Лицензия — CC BY 4.0.

lmstudio-community/Meta-Llama-3.1-70B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Meta Llama 3.1 70B Instruct, подготовленная сообществом lmstudio-community и квантизированная bartowski. Базовую модель разработала Meta. Она предназначена для генерации текста и выполнения инструкций, включая диалоговые и прикладные сценарии обработки естественного языка. Модель относится к семейству Llama 3.1 и использует архитектуру, поддерживаемую библиотекой Transformers; доступна в формате GGUF для локального запуска в совместимых инструментах. Заявлены языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Размер контекста, конкретный вариант квантизации и модальности в README не указаны; по представленным данным это текстовая модель. К сильным сторонам относятся большой размер 70B и инструкционная настройка, потенциально обеспечивающие высокое качество ответов и следование запросам. Ограничениями являются высокая потребность в вычислительных ресурсах даже после квантизации, а также отсутствие в предоставленных данных подробных сведений о производительности, точности и поддерживаемом контексте. Модель распространяется по Llama 3.1 Community License Meta с требованиями к атрибуции, указанию «Built with Llama» при распространении и соблюдению Acceptable Use Policy.

Карточка модели Openintelligent123/Meta-Llama-3.1-8B на Hugging Face совпадает с карточкой unsloth/Meta-Llama-3.1-8B, поэтому описание составлено по ней. Meta-Llama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, опубликованная Meta и представленная в репозитории Unsloth в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев; карточка также описывает её как основу для дообучения с помощью ноутбуков Unsloth. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Для использования действует лицензия Llama 3.1. README не приводит результатов оценки качества или подробных ограничений применения.

Meta-Llama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, опубликованная Meta и представленная в репозитории Unsloth в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев; карточка также описывает её как основу для дообучения с помощью ноутбуков Unsloth. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Для использования действует лицензия Llama 3.1. README не приводит результатов оценки качества или подробных ограничений применения.

Это консолидированный чекпойнт Meta-Llama-3.1-8B-Instruct, опубликованный camenduru и преобразованный в формат Hugging Face с помощью слегка изменённого скрипта convert_llama_weights_to_hf.py из репозитория Transformers. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для диалоговой генерации текста и работы в сценариях, где нужно получать ответы на запросы пользователя. Модель принимает текст и выдаёт текст. Метаданные указывают контекст до 131 072 токенов, формат весов safetensors и возможность чата. Карточка не описывает отдельные дообучения или специализированные области применения этой копии. Условия лицензии в доступных данных не приведены.

Карточка модели nuottroisaoduoc/Meta-Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой unsloth/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. unsloth/Meta-Llama-3.1-8B-Instruct — инструкционно настроенная плотная авторегрессионная языковая модель семейства Llama, опубликованная Unsloth на основе Meta-Llama-3.1-8B-Instruct. Она предназначена для диалогов, генерации текста и выполнения пользовательских инструкций; каталог также отмечает интерфейс вызова инструментов. В репозитории указаны 7,5 млрд параметров, формат safetensors и библиотека Transformers. Заявленная длина контекста — 131 072 токена. Модель подходит для создания чат-ботов, генерации и продолжения текста, а также приложений, использующих интерфейс вызова инструментов. В метаданных указан английский язык; README посвящён настройке Llama 3.1 и не сообщает результатов оценки качества именно этой версии. Лицензия — llama3.1; условия использования следует сверять с лицензией семейства Llama 3.1.

tbhrc/meta_llama_3_1_8b_instruct_4bit — конверсия Meta Llama 3.1 8B Instruct в формат MLX с 4-битным представлением весов. Исходную модель разработала Meta; конверсию выполнил mlx-community, а репозиторий размещён пользователем tbhrc. Модель представляет собой плотную авторегрессионную LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалоговой генерации текста и поддерживает интерфейс вызова инструментов. В метаданных перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. README указывает на конверсию MLX из meta-llama/Meta-Llama-3.1-8B-Instruct; лицензия — llama3.1. Репозиторий описывает конвертированную MLX-версию с 4-битными весами, тогда как в метаданных формат файлов указан как safetensors.

MLX-совместимая 8-битная версия Meta-Llama-3.1-8B-Instruct, опубликованная сообществом mlx-community и основанная на модели Meta Llama 3.1. Это текстовая генеративная языковая модель с инструкционным дообучением, предназначенная для диалогов, выполнения текстовых инструкций и создания текстов. Модель работает в формате text-generation и ориентирована на использование в экосистеме MLX. В названии указаны размер 8B параметров и 8-битное квантование, которое обычно позволяет снизить требования к памяти по сравнению с полноформатными весами, однако конкретные показатели производительности и качества в README не приведены. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель текстовая; сведения о других модальностях и размере контекстного окна отсутствуют. Модель распространяется по Llama 3.1 Community License от Meta. Лицензия разрешает использование, воспроизведение, распространение и создание производных работ на установленных условиях, включая соблюдение Acceptable Use Policy, указание атрибуции и требований к маркировке продуктов. Для распространения материалов необходимо предоставить текст лицензии и отображать обозначение «Built with Llama»; для продуктов с более чем 700 миллионами активных пользователей в месяц предусмотрено отдельное лицензионное условие.

hugging-quants/Meta-Llama-3.1-8B-Instruct-AWQ-INT4 — созданная сообществом квантованная версия Meta-Llama-3.1-8B-Instruct, первоначально разработанной Meta AI. Это генеративная текстовая instruction-tuned модель на 8 млрд параметров для многоязычного диалога, ответов на вопросы и других задач генерации текста. Указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель использует архитектуру Llama 3.1 и формат AWQ INT4: исходные веса FP16 преобразованы с помощью AutoAWQ в 4-битное представление GEMM с zero-point quantization и размером группы 128. Версия предназначена для запуска через Transformers, AutoAWQ или Text Generation Inference; для загрузки контрольной точки требуется около 4 ГиБ VRAM, не считая KV-кэша и CUDA graphs. Квантование снижает требования к памяти, но может влиять на качество по сравнению с исходной FP16-версией. В README максимальный контекст модели не указан. Модель распространяется по лицензии Llama 3.1; для использования необходимо учитывать условия этой лицензии. Это текстовая модель без поддержки изображений или других модальностей, а сведения о конкретных ограничениях качества и результатах бенчмарков для данной квантованной версии не приведены.

Sowmen123 разработал эту плотную авторегрессионную модель семейства Llama, дообучив Meta-Llama-3.1-8B-Instruct на задачи следования инструкциям и диалогового общения. Репозиторий содержит веса PyTorch; модель насчитывает 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для ускорения обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста: она подходит для диалогового ассистента, ответов на инструкции, создания текстов и суммаризации. В карточке заявлен английский язык; доступны чатовый интерфейс и интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0.