II.6Документация и сопровождение разработки

Unsloth/Meta-Llama-3.1-8B-Instruct-unsloth-bnb-4bit — это 4-битная версия инструкционно настроенной текстовой языковой модели Meta Llama 3.1 с 8 млрд параметров, подготовленная Unsloth для использования с Transformers и форматом bitsandbytes. Модель предназначена для диалогов, генерации и обработки текста, выполнения инструкций, суммаризации и других задач, где требуется компактная LLM с пониженным потреблением памяти. Модель использует авторегрессионную архитектуру Transformer и работает в режиме «текст на входе — текст на выходе». Ключевая особенность версии — селективная динамическая 4-битная квантизация Unsloth, направленная на снижение требований к памяти при сохранении большей точности по сравнению со стандартной 4-битной квантизацией. В карточке официально указан английский язык; дополнительные языки, размер контекста и другие характеристики для данной версии не подтверждены. Разработчик базовой модели — Meta, адаптацию и квантизацию выпустила Unsloth. Ограничения включают возможные потери качества из-за квантизации и отсутствие в предоставленных данных подробной информации о производительности, контекстном окне и поддерживаемых сценариях за пределами текста. Модель распространяется по лицензии Llama 3.1.

Модель artificialguybr/Meta-Llama-3.1-8B-openhermes-2.5 — дообученная на наборе teknium/OpenHermes-2.5 языковая модель Meta-Llama-3.1-8B для следования инструкциям и решения общих текстовых задач. Она построена на архитектуре LlamaForCausalLM с плотной causal language model архитектурой и содержит 7,5 млрд параметров. Модель принимает текст и генерирует текст; заявленный язык — английский, а нативная длина контекста составляет 131 072 токена. Модель подходит для генерации текста, ответов на вопросы и других сценариев, где требуется выполнять инструкции на естественном языке. В карточке указана лицензия Apache-2.0. Среди ограничений отмечены возможные смещения, связанные с обучающими данными, и риск генерации вредоносного или предвзятого контента.

Карточка модели rombodawg/Meta-Llama-3.1-8B-reuploaded на Hugging Face совпадает с карточкой unsloth/Meta-Llama-3.1-8B, поэтому описание составлено по ней. Meta-Llama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, опубликованная Meta и представленная в репозитории Unsloth в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев; карточка также описывает её как основу для дообучения с помощью ноутбуков Unsloth. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Для использования действует лицензия Llama 3.1. README не приводит результатов оценки качества или подробных ограничений применения.

PrimeIntellect публикует веса Meta Llama 3 70B Instruct, разработанной Meta. Это плотная авторегрессионная языковая модель на архитектуре Transformer с 69,5 млрд параметров. Репозиторий содержит веса, разбитые на части для более эффективной загрузки в Petals; формат файлов — safetensors. Модель принимает текст и генерирует текст и код, а версия Instruct настроена для диалогов с помощью контролируемого дообучения и обучения с подкреплением по обратной связи от людей. Используйте её для чат-ассистентов и генерации текста на английском языке. Контекст модели — до 8192 токенов. Модель предназначена для коммерческого и исследовательского применения в рамках лицензии Meta Llama 3 Community License. Она оптимизирована для полезных и безопасных ответов, но требует дополнительных мер защиты в приложениях: документация отмечает остаточные риски, в том числе связанные с опасным контентом. README указывает английский как целевой язык; использование на других языках обозначено как выходящее за рамки назначения, хотя разработчики могут дообучать модель для дополнительных языков с соблюдением лицензии и политики использования.

QuantFactory/Meta-Llama-3-70B-Instruct-GGUF — это квантованная версия инструкционной большой языковой модели Meta Llama 3 70B Instruct, подготовленная QuantFactory в формате GGUF. Базовая модель разработана Meta. Модель предназначена для генерации текста и выполнения инструкций в сценариях, где требуется диалоговое взаимодействие или создание текстового контента. В README указано, что поддерживается английский язык и используется задача text-generation. Известно, что модель относится к семейству Llama 3 и имеет размер 70B параметров. Формат GGUF предназначен для совместимого локального запуска, однако конкретный вариант квантования, требования к памяти, длина контекста и поддерживаемые программные средства в README не указаны. Также отсутствуют сведения о дополнительных модальностях, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся инструкционная настройка базовой модели и возможность использования квантованного GGUF-представления для локального вывода. Ограничения включают отсутствие подробностей о типе и качестве квантования, а также о производительности. Использование регулируется Meta Llama 3 Community License. При распространении модели или продуктов на её основе требуется соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Meta Llama 3», сохранение атрибуции Meta и соблюдение Acceptable Use Policy.

openbmb/MiniCPM5-1B-MLX — компактная языковая модель из серии MiniCPM5, разработанная OpenBMB. Это causal language model на архитектуре LlamaForCausalLM, адаптированная в формате MLX с 4-битным представлением для локального запуска на устройствах Apple Silicon и в условиях ограниченных ресурсов. Модель предназначена для локальных ассистентов, coding agents, генерации кода, сценариев tool use, агентских рабочих процессов и задач, требующих рассуждений. Она поддерживает английский и китайский языки, контекст до 131 072 токенов и два режима работы в одном чекпойнте: быстрый режим без рассуждений и режим с пошаговым рассуждением через параметр enable_thinking. Заявлены сильные результаты среди открытых моделей класса около 1B параметров, особенно в использовании инструментов, генерации кода и сложных рассуждениях. Модель содержит 1 080 632 832 параметра, 24 слоя, 16 attention heads для Q и 2 KV-heads в конфигурации GQA. К преимуществам относятся небольшой размер, поддержка длинного контекста и пригодность для on-device и edge-сценариев. Ограничениями являются компактный масштаб модели по сравнению с крупными LLM и ориентация MLX-версии прежде всего на устройства Apple Silicon. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B — компактная плотная языковая модель из серии MiniCPM5, разработанная OpenBMB. Репозиторий AIArchiveInfo является побитовой копией openbmb/MiniCPM5-2B: веса не обучались и не изменялись. Модель построена на архитектуре Transformer LlamaForCausalLM и содержит около 2,2 млрд параметров; она принимает текст и генерирует текст. Контекстное окно составляет 131 072 токена. Модель предназначена для локальных ассистентов и сценариев с ограниченными вычислительными ресурсами. Она подходит для диалога, генерации кода, математических и общих рассуждений, работы с длинными контекстами, вызова инструментов и агентных рабочих процессов. В карточке заявлена конкурентоспособность среди моделей сопоставимого размера, в частности в коде, математике, длинном контексте и использовании инструментов. В метаданных указаны английский и китайский языки. Модель распространяется в формате Safetensors и совместима с Transformers; лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными, а результаты по медицине, финансам, праву и другим чувствительным темам не являются профессиональной консультацией.

MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.

Mini_synatra_7b_03-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, созданная слиянием SLERP модели Mistral-7B-Instruct-v0.1 и Minirecord/Mini_synatra_7b_03. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на диалоговые запросы. В метаданных указан контекст длиной до 32 768 токенов. Модель подходит для интерактивного чата и генерации ответов по текстовым инструкциям. Репозиторий содержит веса в формате safetensors. Язык модели отдельно не указан. Лицензия — Apache-2.0.

MaziyarPanahi/Mistral-7B-Alpaca-52k-v0.1 — дообученная модель семейства Mistral, созданная на основе mistralai/Mistral-7B-v0.1 с использованием набора инструкций Alpaca из 52 тысяч примеров. Она предназначена для генерации текста по инструкциям и ответов на запросы в диалоговом формате. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. Модель работает с текстом и подходит для широких задач следования инструкциям; в карточке приведены результаты оценивания на наборах для рассуждений и понимания текста. Она выпущена в формате PyTorch и распространяется по лицензии Apache-2.0. README не приводит подробностей о целевых языках или ограничениях качества, поэтому они здесь не уточняются.

CorticalStack/mistral-7b-alpaca-sft — модель генерации текста на базе Mistral, дообученная методом supervised fine-tuning на наборе yahma/alpaca-cleaned. В README указана LoRA-конфигурация с r=256, alpha=128 и dropout=0; метаданные описывают плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации ответов и инструкционно-ориентированного диалога по текстовым запросам. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. В README базовой моделью названа unsloth/mistral-7b-bnb-4bit; подробности о качестве и результатах оценки не приведены.

Mistral-7B-claude-instruct-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.2 и Norquinal/Mistral-7B-claude-instruct методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции в формате чата; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста по запросу. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

eganwo/mistral7b-distilled-from-deepseek-r1-qwen32b — языковая модель, созданная дообучением Mistral-7B-Instruct-v0.3. Репозиторий содержит веса в формате Safetensors; модель насчитывает 7,1 млрд параметров и использует архитектуру Mistral с плотной декодерной сетью. Контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Карточка называет её дистиллированной из DeepSeek-R1-Qwen32B, но не сообщает подробностей о данных обучения, методе дистилляции или результатах оценки. Лицензия — Apache-2.0.

MaziyarPanahi/mistral-7b-finetuned-orca-dpo-v2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная с помощью слияния SLERP весов mistralai/Mistral-7B-Instruct-v0.1 и lvkaokao/mistral-7b-finetuned-orca-dpo-v2. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В метаданных указана лицензия Apache-2.0. Карточка не описывает отдельную специализацию по языкам или предметным областям.

FriendliAI публикует эту версию Mistral-7B-Instruct-v0.2, квантованную в FP8 для более эффективного инференса; исходную модель разработала Mistral AI. Это плотная авторегрессионная языковая модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалоговых ответов на инструкции. Контекстное окно составляет 32 768 токенов. Модель принимает текст и генерирует текст. Её можно использовать для чат-ботов, ответов на вопросы и выполнения текстовых инструкций. Для запуска в README указан Friendli Container; FP8 поддерживается на GPU NVIDIA Ada, Hopper и Blackwell. Лицензия — Apache-2.0. README предупреждает, что у исходной instruct-модели нет механизмов модерации, поэтому её ответы могут требовать отдельного контроля.

TheBloke/Mistral-7B-Instruct-v0.2-GPTQ — это GPTQ-квантизированная версия языковой модели Mistral 7B Instruct v0.2, разработанной Mistral AI и подготовленной к распространению TheBloke. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая работу через text-generation-webui, KoboldAI, LoLLMS Web UI и Hugging Face Text Generation Inference. Модель относится к семейству Mistral, содержит около 7 млрд параметров и работает с текстом. В репозитории представлены варианты квантования с разными параметрами; основной вариант использует 4-битное GPTQ-квантование, group size 128, Act Order и занимает около 4,16 ГБ. Для запросов рекомендуется шаблон «<s>[INST] {prompt} [/INST]». Квантование снижает требования к видеопамяти и облегчает локальный запуск, но может немного уменьшать точность по сравнению с исходной моделью и ограничивает совместимость средой выполнения. Указана поддержка Linux с GPU NVIDIA или AMD и Windows с GPU NVIDIA; для macOS рекомендуются версии GGUF. Лицензия — Apache 2.0.

unsloth/mistral-7b-instruct-v0.3 — версия Mistral 7B Instruct, опубликованная Unsloth. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров для генерации текста и диалогов по инструкциям; в метаданных указаны библиотека Transformers и контекст до 32 768 токенов. Модель принимает текст и выдаёт текст, поддерживает английский язык и интерфейс вызова инструментов. Модель подходит для диалоговых помощников и генерации ответов по запросу. README описывает её как основу для дообучения в разговорном формате ShareGPT/ChatML или Vicuna, а также для задач продолжения текста и DPO. Репозиторий содержит веса Safetensors; указана лицензия Apache 2.0. Это instruct-модель общего назначения, поэтому её ответы могут содержать ошибки и требуют проверки в критичных сценариях. README посвящён примерам и инструментам дообучения Unsloth и не приводит оценки качества самой модели.

Это диалоговая языковая модель Mistral-7B-model_45k6e2e4-Mistral-7B-Instruct-v0.2-slerp, созданная объединением моделей mistralai/Mistral-7B-Instruct-v0.2 и pankajmathur/Mistral-7B-model_45k6e2e4 методом SLERP с помощью mergekit. В основе — плотная архитектура MistralForCausalLM с 7,1 млрд параметров; веса опубликованы в формате safetensors и BF16. Модель предназначена для диалоговой генерации текста и выполнения инструкций. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Лицензия — Apache-2.0. Карточка не описывает отдельные оценки качества или специализированные области применения. Практическая эффективность зависит от задачи и способа использования; отдельные языковые приоритеты не заявлены.

MistralCode-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit из mistralai/Mistral-7B-Instruct-v0.2 и dhyay/mistral_codev2_3k. Веса объединены методом SLERP; модель содержит 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате, включая задачи программирования, на которые ориентирована одна из исходных моделей. Может использоваться для помощи с кодом и обычных текстовых запросов. Сведения о поддерживаемых естественных языках и лицензии в доступных данных отсутствуют.

osanseviero/mistral-instruct-frankenmerge — объединённая диалоговая языковая модель, созданная из Mistral-7B-Instruct-v0.2 и Mistral-7B-Instruct-v0.1 с помощью mergekit и метода passthrough. Это плотная авторегрессионная модель семейства Mistral с 8,9 млрд параметров, рассчитанная на генерацию текста и выполнение инструкций; поддерживает контекст до 32 768 токенов и диалоговый режим. Модель подходит для создания чат-ботов, ответов на вопросы и генерации текста по инструкциям. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит сравнительных оценок качества или специальных ограничений применения.

win10/Mistral-Nemo-Instruct-2407-20b — текстовая разговорная модель на архитектуре Mistral, созданная с помощью mergekit методом passthrough на основе unsloth/Mistral-Nemo-Instruct-2407. В метаданных указаны 23 млрд параметров и контекст до 1 024 000 токенов. Модель предназначена для генерации текста в диалогах и поддерживает интерфейс вызова инструментов. Модель принимает текст и выдаёт текст; репозиторий содержит веса в формате safetensors и рассчитан на работу с Transformers. Данные подтверждают английскую маркировку семейства, но не задают перечень естественных языков модели. Лицензия в предоставленных источниках не указана.

Mistral-Nemo-Instruct-2407-4bit — это 4-битная версия модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.16.0. Модель предназначена для выполнения инструкций и генерации текста в приложениях, поддерживающих MLX и библиотеку mlx-lm. В карточке указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Ключевая характеристика этой версии — 4-битное представление, которое уменьшает требования к памяти по сравнению с полноразмерной моделью, но может сопровождаться некоторой потерей качества. Архитектура, число параметров, модальности и размер контекста в предоставленных данных не указаны. Для использования требуется библиотека mlx-lm; модель загружается по идентификатору mlx-community/Mistral-Nemo-Instruct-2407-4bit. Лицензия — Apache-2.0. Условия запуска и производительность зависят от совместимой с MLX среды.

Mistral-NeMo-Minitron-8B-Instruct — языковая модель NVIDIA для генерации ответов и ведения диалога. Это дообученная версия nvidia/Mistral-NeMo-Minitron-8B-Base, которая была сжата из Mistral-NeMo 12B с помощью pruning и distillation. Модель обучали в несколько этапов с supervised fine-tuning и выравниванием предпочтений. Она построена на авторегрессионном трансформере Mistral-NeMo с 40 слоями, Grouped-Query Attention и RoPE; содержит 7,9 млрд параметров и поддерживает контекст до 8192 токенов. Модель подходит для ролевого диалога, генерации текста, ответов с опорой на найденные документы в RAG-сценариях и вызова функций. Для диалога рекомендуется использовать формат System/User/Assistant, на котором проводилось дообучение. README не перечисляет конкретные поддерживаемые естественные языки, поэтому языковая специализация не заявлена. Оценки в карточке включают MMLU, MT Bench и GSM8K. Модель может воспроизводить токсичность и предвзятость обучающих данных, давать неточные, неполные или избыточные ответы; в агентных сценариях следует проверять безопасность используемых пакетов. Лицензия указана как other; перед использованием необходимо свериться с условиями NVIDIA.

Mistral-ORPO-α — диалоговая языковая модель, разработанная KAIST AI и дообученная на базе mistralai/Mistral-7B-v0.1 методом оптимизации предпочтений ORPO. В отличие от подхода с предварительным этапом supervised fine-tuning, ORPO непосредственно обучает модель предпочитаемым ответам. Для обучения использован датасет HuggingFaceH4/ultrafeedback_binarized. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Карточка приводит результаты сравнительных оценок на AlpacaEval, MT-Bench и IFEval. Основной язык в метаданных — английский. Модель подходит для диалоговых ответов и выполнения текстовых инструкций. Доступна по лицензии MIT. Результаты бенчмарков не гарантируют качество на конкретных задачах.

mistral-orpo-beta-NeuralBeagle14-7B-dare-ties — объединённая модель на архитектуре Mistral, созданная с помощью LazyMergekit из kaist-ai/mistral-orpo-beta и mlabonne/NeuralBeagle14-7B методом dare_ties. Она предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, следования инструкциям, рассуждений и творческого письма. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Карточка приводит конфигурацию с весами слияния 0,6 и 0,4 и точностью bfloat16. Лицензия — Apache-2.0. Языки и отдельные ограничения качества в карточке не описаны.

Mistral-Passthrough-8L-10B — текстовая авторегрессионная модель на архитектуре Mistral, созданная DeepKarkhanis с помощью LazyMergekit. Веса собраны методом passthrough из двух диапазонов слоёв одной модели mistralai/Mistral-7B-Instruct-v0.2; репозиторий содержит формат Safetensors, а размер модели составляет 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Контекст — до 32 768 токенов. Используется лицензия Apache-2.0.

MixtureofMerges-MoE-2x7b-v7 — языковая модель с архитектурой Mixture of Experts (MoE), созданная автором jsfs11 с помощью LazyMergekit путём объединения Gille/StrangeMerges_32-7B-slerp и mlabonne/AlphaMonarch-7B. Модель предназначена для генерации текста и может применяться для диалогов, ответов на вопросы, следования инструкциям и рассуждений. Модель содержит 7,1 млрд параметров, использует архитектуру Mixtral и поддерживает контекст до 32 768 токенов. В README приведены результаты оценивания на бенчмарках рассуждений и здравого смысла. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Inferor 0.1 — текстовая генеративная модель на 12,1 млрд параметров, созданная Infermatic объединением нескольких языковых моделей методом Model Stock с помощью mergekit. В качестве основы использована mistralai/Mistral-Nemo-Instruct-2407; в объединение также вошли MN-12b-Sunrose, Magnum v4 12B и Mistral-Nemo-Gutenberg-Doppel-12B-v2. Модель построена на архитектуре Mistral для Transformers, веса доступны в формате safetensors. Модель предназначена для диалогов и генерации текста по запросу. Заявленная длина контекста — 131 072 токена; метаданные также отмечают интерфейс вызова инструментов. Карточка не уточняет языковое покрытие, сравнительные результаты или рекомендуемые настройки для этой версии. Лицензия в предоставленных данных не указана.

Moe-4x7b-reason-code-qa — языковая модель NextAI Team для генерации ответов и кода. Она использует архитектуру Mixture of Experts на базе Mixtral и содержит 7,1 млрд параметров; модель доступна в формате Safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для помощи разработчикам и специалистам по данным: она может отвечать на технические вопросы, генерировать код, помогать с его проверкой и поддерживать обучение программированию. В карточке заявлено обучение на технической документации, открытом коде и вопросах с ответами Stack Overflow; среди языков в метаданных указан английский. Ответы могут зависеть от полноты контекста и формулировки запроса, а модель может воспроизводить смещения обучающих данных. Сгенерированный код и технические рекомендации требуют проверки. Лицензия — Apache-2.0.

Moko-DARE — объединённая языковая модель на архитектуре Mistral, созданная Azazelle с помощью mergekit и метода DARE TIES. В основе объединения лежит mistralai/Mistral-7B-v0.1; также использованы Open-Orca/Mistral-7B-OpenOrca, akjindal53244/Mistral-7B-v0.1-Open-Platypus и WizardLM/WizardMath-7B-V1.1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи с математическими рассуждениями и следованием инструкциям, унаследованные от компонентов объединения. Доступна в формате safetensors для Transformers. Лицензия — CC BY 4.0.