II.6Документация и сопровождение разработки

Vimarckoso v3 — языковая модель для генерации текста с акцентом на рассуждения и следование инструкциям, созданная автором проекта Lamarck. Это объединённая модель семейства Qwen2 с 14 млрд параметров; в README описаны вклады нескольких моделей и LoRA-адаптеров, направленные на усиление рассуждений, качества прозы и следования инструкциям. Модель предназначена для диалогов, ответов на вопросы и задач, где нужны развернутые рассуждения и связный текст. Поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. Автор сообщает об улучшении следования инструкциям без заметной потери качества рассуждений; приведены ориентиры по результатам на бенчмарках GPQA и MUSR, но количественные результаты в карточке не указаны. Модель создана слиянием нескольких чекпойнтов, а README также описывает применение LoRA при формировании рецепта. Для запуска через Ollama автор рекомендует использовать конфигурацию как для Qwen2.5 14B Instruct и температуру 0,8.

Карточка модели junie626/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Карточка модели News666520/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Карточка модели nosynx/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Карточка модели vy22215/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Qwen2.5-32B-Instruct-20241228_103029 — дообученная модель для генерации текста, созданная на основе Qwen/Qwen2.5-32B-Instruct и обученная с помощью TRL. Она предназначена для диалогов и ответов на пользовательские запросы; интерфейс поддерживает вызов инструментов. Модель имеет плотную архитектуру Qwen2 с 32 млрд параметров и принимает контекст длиной до 32 768 токенов. Модель подходит для генерации ответов и другого текста в приложениях, использующих Transformers. В карточке не приведены сведения о датасете, конкретной специализации дообучения или проверках качества. Формат весов — safetensors; лицензия и языки в предоставленных данных не указаны.

Qwen2.5-32B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwen2.5-32B-Instruct, разработанной командой Qwen и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в локальных приложениях через llama.cpp и LM Studio. Для общения применяется специальный шаблон prompt с ролями system, user и assistant. Модель имеет размер 32B параметров и доступна в вариантах от F16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Квантизация выполнена с использованием imatrix в llama.cpp; варианты отличаются размером файла, требованиями к памяти и ожидаемым качеством. README указывает английский язык, однако сведения о полном наборе поддерживаемых языков, архитектуре и длине контекста не приведены. Сильной стороной являются разнообразные варианты квантизации, позволяющие выбирать между качеством и требованиями к ресурсам; версии Q6, Q5 и Q4 отмечены как рекомендуемые, а Q4_K_M описана как подходящий вариант стандартного размера. Более компактные варианты экономят память, но могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0.

bunnycore/Qwen-2.5-3b-Evol-CoT — языковая чат-модель, созданная слиянием нескольких моделей на базе Qwen 2.5; в README указаны Replete-LLM-V2.5-Qwen-3b, Qwen-2.5-3b-RP и Qwen-2.5-3b-Mix-Data-lora. Для слияния применён метод DARE TIES через mergekit, базой названа bunnycore/Qwen-2.5-3b-RP. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст. В репозитории указана лицензия не была в предоставленных данных, поэтому условия использования определить нельзя.

Qwen2.5-3B-Instruct-bf16 — преобразованная в формат MLX модель семейства Qwen2.5, опубликованная mlx-community на основе Qwen/Qwen2.5-3B-Instruct. Это плотная авторегрессионная языковая модель на 3,1 млрд параметров для диалоговой генерации текста; карточка указывает интерфейс чата и вызова инструментов. Модель принимает текст и генерирует текст, а заявленная длина контекста составляет 32 768 токенов. Модель предназначена для диалоговых приложений и генерации ответов, а также для сценариев, где требуется интерфейс вызова инструментов. В README указана конвертация с помощью mlx-lm 0.18.1; метаданные описывают связь с Qwen/Qwen2.5-3B как дообучение, а карточка уточняет, что исходником преобразования была Qwen/Qwen2.5-3B-Instruct. Репозиторий содержит веса safetensors и ориентирован на MLX. В карточке указан английский язык; лицензия обозначена как other, поэтому конкретные условия следует сверять с лицензией исходной модели и файлами репозитория. Это компактная модель по сравнению с крупными языковыми моделями, однако качество ответов и вызова инструментов зависит от запроса и реализации приложения.

bunnycore/Qwen2.5-3B-Loki — объединённая авторегрессионная языковая модель семейства Qwen2.5, созданная с помощью mergekit методом TIES на основе Qwen/Qwen2.5-3B и моделей Qwen2.5-3B-RP-Mix и Qwen2.5-3B-MiniMix. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и доступна в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогового взаимодействия; также поддерживает интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. Карточка не сообщает языковую специализацию и лицензию, поэтому их нельзя уточнить. Качество и поведение унаследованы от объединённых моделей; отдельных результатов оценки и конкретных ограничений в карточке нет.

bunnycore/Qwen-2.5-3B-Remix — объединённая модель генерации текста на основе архитектуры Qwen2, созданная с помощью mergekit методом TIES из bunnycore/Replete-Qwen-2.5-3b-CoT-RP и bunnycore/Qwen-3b-chatml-Rp-lora_model. Модель содержит 3,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Языки, доменная специализация и конкретные сценарии применения в карточке не описаны. Лицензия не указана в предоставленных данных.

Qwen2.5-3B-RuoZhiBa-Instruct — чат-модель, созданная дообучением Qwen/Qwen2.5-3B-Instruct на наборе hfl/ruozhiba_gpt4 с помощью LLaMA-Factory. Она построена на архитектуре Qwen2 с 3,1 млрд параметров и предназначена для генерации текста и диалогов по инструкциям; в метаданных также заявлен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Её контекст составляет 32 768 токенов. Базовая модель поддерживает более 29 языков, включая английский, китайский и русский, однако карточка этой версии отмечает английский и китайский. Модель распространяется в формате Safetensors; лицензия указана как other, без уточнения условий в доступных данных.

talzoomanzoo/qwen2_5_3b_uid_reference_lr3e6_step4 — дообученная языковая модель на базе Qwen/Qwen2.5-3B, опубликованная пользователем talzoomanzoo. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Контекст модели — до 32 768 токенов. Модель хранится в формате safetensors и использует библиотеку Transformers. Карточка не содержит описания целевых данных или специализированной области применения, поэтому её можно охарактеризовать как общую текстовую модель. Указана лицензия other; конкретные условия использования из доступных данных установить нельзя.

bunnycore/Qwen2.5-7B-CyberRombos — языковая модель, созданная слиянием методом TIES моделей rombodawg/Rombos-LLM-V2.5-Qwen-7b и fblgit/cybertron-v4-qw7B-MGS на базе Qwen/Qwen2.5-7B. Модель имеет плотную архитектуру Qwen2ForCausalLM и 7,1 млрд параметров; для запуска используется библиотека Transformers, веса представлены в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для подготовки ответов и ведения беседы с пользователем; в метаданных также отмечен интерфейс вызова инструментов. Заявленная длина контекста составляет 131072 токена. Данные о конкретных языковых специализациях и лицензии в предоставленных источниках отсутствуют.

Qwen-2.5-7B-Deep-Stock-v2 — слитая разговорная языковая модель от bunnycore, созданная методом Model Stock с помощью mergekit. В качестве основы использована fblgit/cybertron-v4-qw7B-UNAMGS; в слияние также вошли FuseChat-Qwen-2.5-7B-Instruct, Intelligence-R1-Distill-7B, DeepSeek-R1-Distill-Qwen-MFANN-Slerp-7b и предыдущая версия модели. Модель построена на плотной архитектуре Qwen2 с 7,1 млрд параметров, работает через Transformers и принимает текст для генерации текста в диалоговом формате. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Подходит для диалогов и генерации ответов; слияние с моделями для инструкций и дистиллятами DeepSeek-R1 предполагает ориентацию на следование инструкциям и рассуждения, однако README не приводит оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана. Как и у других слитых моделей, качество и стабильность ответов могут зависеть от запроса; фактические пределы контекста и поддержка вызова инструментов зависят от используемого окружения.

Thamed-Chowdhury/qwen-2.5-7B-DPO-split1-16bit-chunk34 — дообученная диалоговая модель семейства Qwen2, разработанная Thamed-Chowdhury на основе Thamed-Chowdhury/qwen-2.5-7B-DPO-split1-16bit-chunk12. Модель с архитектурой Qwen2ForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста в диалогах; в метаданных также отмечен интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке заявлено обучение с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0. Подтверждённый язык карточки — английский.

Карточка модели filippovg199/Qwen2.5-7B-Instruct-abliterated-v2 на Hugging Face совпадает с карточкой huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2, поэтому описание составлено по ней. Qwen2.5-7B-Instruct-abliterated-v2 — доработанная методом abliteration версия инструктивной языковой модели Qwen2.5-7B-Instruct, созданная huihui-ai. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалогов и генерации текста; она поддерживает контекст до 32 768 токенов и предназначена для работы через библиотеку Transformers. В карточке отмечены чат-возможности и интерфейс вызова инструментов. Версия позиционируется как менее ограниченная в отказах на запросы, чем исходная модель. В README приведены оценки IF_Eval 77,82, MMLU Pro 42,03 и TruthfulQA 57,81; результаты отдельных тестов отличаются от исходной Qwen2.5-7B-Instruct. Метаданные указывают языковые теги для китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского. Модель распространяется по лицензии Apache-2.0.

DhruvalLabs/Qwen2.5-7B-Instruct-GGUF — набор квантизированных версий текстовой генеративной модели Qwen2.5-7B-Instruct. Исходную модель разработала команда Qwen, а представленные GGUF-квантизации подготовлены Dhptl с использованием quant-kit. Модель предназначена для диалогов, генерации текста и работы в качестве локального ассистента; поддерживается запуск через llama.cpp, Ollama, LM Studio, Open WebUI и Jan. В карточке явно указан английский язык. Это семимиллиардная instruction-tuned языковая модель в формате GGUF с вариантами квантизации от Q2_K до Q8_0. Размер файлов составляет примерно от 2,81 до 5,31 ГБ, а рекомендуемым вариантом назван Q4_K_M как компромисс между качеством и требованиями к памяти; для него требуется около 5,9 ГБ RAM. Более сильное сжатие уменьшает потребление памяти, но заметнее снижает качество, тогда как Q6_K и Q8_0 ближе к исходному качеству и требуют больше ресурсов. В README не указаны размер контекста и мультимодальные возможности; приведён пример использования с контекстом 4096 токенов. Лицензия — Apache-2.0. Заявленные оценки сохранения 97–99% качества не подтверждены фактическими результатами в карточке, поскольку бенчмарки предлагается запускать самостоятельно.

Sakalti/Qwen2.5-7B-Mini — языковая модель, созданная автором репозитория с помощью mergekit методом Model Stock на основе Qwen/Qwen2.5-7B-Instruct. В конфигурации указано объединение диапазонов слоёв исходной модели; в метаданных размер модели указан как 2,2 млрд параметров, а формат весов — safetensors. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст длиной до 32 768 токенов. Метаданные также отмечают интерфейс вызова инструментов, но README не описывает его применение или качество. Модель распространяется по лицензии Apache-2.0.

Qwen-2.5-7b-TitanFusion-v5-Exp — объединённая языковая модель на базе архитектуры Qwen2, созданная сообществом с помощью mergekit и метода TIES. В объединение вошли huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2, Cran-May/T.E-8.1, Qwen/Qwen2.5-Coder-7B, Qwen/Qwen2.5-Math-7B, happzy2633/qwen2.5-7b-ins-v3 и katanemo/Arch-Function-7B. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый режим и интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. Включение кодовой, математической и функционально ориентированных моделей предполагает применение для программирования, решения математических задач и диалогов с инструментами, однако README не приводит отдельных результатов оценки этих возможностей. Репозиторий содержит веса в формате safetensors и предназначен для Transformers. Лицензия в предоставленных данных не указана.

Jongbin-kr/qwen2.5-coder-7b-verireason-grpo-official-full-ft — дообученная модель генерации текста на базе Jongbin-kr/qwen2.5-coder-7b-verireason_sft-reasoning_official-full-ft. Разработчик карточки указывает, что обучение выполнялось с использованием TRL; архитектура — плотная Qwen2, размер — 7,1 млрд параметров. Модель предназначена для генерации ответов в диалоговом формате. Базовая модель описана в каталоге как Qwen2.5-Coder-7B-Instruct, настроенная для диалога, рассуждений и программирования. Контекст составляет до 32 768 токенов; репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Карточка не приводит результатов оценки качества или подробных ограничений; возможности программирования и рассуждений следуют из описания базовой модели. Лицензия в предоставленных данных не указана.

netcat420 создал эту объединённую модель на основе двух вариантов Qwen2.5-Coder-7B-Instruct: Qwen2.5-Coder-Scholar-7B-Abliterated-MFANN и huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated. Веса объединены методом SLERP с помощью mergekit; модель представляет собой плотную авторегрессионную архитектуру Qwen2 на 7,1 млрд параметров и распространяется в формате safetensors для Transformers. Модель предназначена для генерации текста в диалоговом режиме, включая задачи, связанные с кодом. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и имеет интерфейс для вызова инструментов. В карточке не приведены сведения о языковом охвате и результаты сравнительных оценок качества. Лицензия в доступных данных не указана. Поскольку модель объединяет варианты с пометкой abliterated, поведение защитных ограничений может отличаться от исходных моделей; применимость для конкретных сценариев следует оценивать отдельно.

Theros создал эту объединённую языковую модель семейства Qwen2.5 с помощью mergekit и метода SCE. В качестве базовой использована Theros/Qwen2.5-ColdBrew-R1-test4; в объединение также вошли ZeroXClem/Qwen2.5-7B-Qandora-CySec, bunnycore/Qwen-2.5-7B-Deep-Stock-v4 и ZeroXClem/Qwen2.5-7B-HomerCreative-Mix. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и формат safetensors. Она предназначена для генерации текста и диалогов; заявленная длина контекста — до 131 072 токенов. Карточка не сообщает о специализированных языках или областях применения. Лицензия в предоставленных данных не указана, поэтому условия использования следует проверять на странице репозитория Hugging Face. Это тестовый вариант ColdBrew R1, и его качество для конкретных задач следует оценивать отдельно.

DavidAU/Qwen2.5-QwQ-35B-Eureka-Cubed-abliterated-uncensored — текстовая причинная языковая модель семейства Qwen2, предназначенная для диалогов, генерации текста и задач рассуждения. Это объединённая модель на основе huihui-ai/DeepSeek-R1-Distill-Qwen-32B-abliterated, huihui-ai/QwQ-32B-abliterated и huihui-ai/TinyR1-32B-Preview-abliterated; автор описывает её как вариант QwQ-32B, усиленный методом Cubed. Веса доступны в формате safetensors для использования с Transformers и преобразования в другие форматы. Модель содержит 33,9 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка ориентирует её на диалоги, многошаговое рассуждение, планирование, ответы на вопросы, творческое письмо и генерацию развёрнутых текстов. Автор сообщает об улучшениях в детализации, качестве и креативности вывода, но эти оценки основаны на его собственных тестах. В карточке указана версия с удалёнными отказами и без цензурных ограничений; лицензия не указана в предоставленных данных. Для общения рекомендуется шаблон ChatML; результат зависит от шаблона и параметров генерации.

Qwen2-NextGen-8b — текстовая генеративная модель, созданная powermove72 объединением моделей newsbang/Homer-v1.0-Qwen2.5-7B и AIDC-AI/Marco-o1 с помощью LazyMergekit. Она предназначена для диалогов и генерации текста; архитектура — плотная Qwen2ForCausalLM, размер — 8 млрд параметров, контекст — до 32 768 токенов. Объединение выполнено методом passthrough с выбором диапазонов слоёв из каждой модели, объединённым токенизатором и весами float16. Модель можно применять для ответов на вопросы, выполнения текстовых инструкций и других задач генерации текста в чат-сценариях. Карточка не уточняет языковой охват и отдельные специализированные области. Репозиторий распространяет веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

TeichAI/Qwen3-14B-GPT-5.2-High-Reasoning-Distill — плотная авторегрессионная языковая модель семейства Qwen3 на 14 млрд параметров, дообученная TeichAI на базе unsloth/Qwen3-14B. Модель предназначена для генерации текста и диалогового взаимодействия; карточка также указывает интерфейс вызова инструментов. Длина контекста составляет 40 960 токенов. Модель обучена на наборе TeichAI/gpt-5.2-high-reasoning-250x с использованием Unsloth и библиотеки TRL от Hugging Face. Она может применяться для диалоговых ответов и генерации текста с рассуждениями. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных результатов тестирования.

NVIDIA Qwen3-14B NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3-14B, разработанной Alibaba и подготовленной с помощью NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста и может использоваться в AI-агентах, чат-ботах, RAG-системах и других приложениях на основе искусственного интеллекта. Модель построена на архитектуре Transformers и содержит около 14,8 млрд параметров. Она принимает и генерирует текстовые последовательности, поддерживает контекст до 131K токенов и использует квантизацию весов и активаций линейных операторов в трансформерных блоках до формата FP4. Модель подготовлена для инференса через TensorRT-LLM, оптимизирована для систем с GPU NVIDIA, включая микроархитектуру Blackwell, и рассчитана прежде всего на Linux. Версия Model Optimizer — 0.35.0. К сильным сторонам относятся уменьшенное представление модели за счёт FP4-квантизации, поддержка длинного контекста и возможность производительного развёртывания на совместимом оборудовании NVIDIA. Ограничения включают зависимость от TensorRT-LLM и совместимой NVIDIA-платформы; сведения о языках, результатах тестирования, обучающих данных и характеристиках качества в карточке не раскрыты. Использование регулируется лицензией Apache 2.0 и допускается для коммерческих и некоммерческих задач.

MLX-версия инструкционной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen и конвертированной сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.3. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение пользовательских инструкций в приложениях на базе mlx-lm. Из README известно, что модель представлена в 4-битном формате квантования и распространяется как text-generation-модель. Архитектура, общее число параметров, число активных параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Преимущество версии заключается в адаптации для экосистемы MLX; ограничением является отсутствие подробных сведений о характеристиках, качестве и производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; приведённый пример ориентирован на запуск через Python и применение chat template токенизатора.

Qwen3-30B-A3B-Instruct-2507-GGUF — это GGUF-квантизированная версия языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной Qwen и квантизированной компанией Second State Inc. Модель предназначена для генерации текста в формате text-generation и диалогового использования через шаблон chatml, включая работу как сервиса LlamaEdge. В README также указан prompt template для взаимодействия с системными и пользовательскими сообщениями. Модель имеет архитектуру Mixture-of-Experts, о чём свидетельствует обозначение 30B-A3B, однако подробные характеристики архитектуры и языков в README не приведены. Поддерживается контекст размером до 256 000 токенов. Доступны варианты GGUF с разной точностью квантизации от 2 до 8 бит, а также f16; размеры файлов составляют примерно от 3,28 до 16,4 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые, поскольку обеспечивают баланс между размером и потерей качества. Сильной стороной модели являются большой контекст и широкий выбор вариантов квантизации, позволяющий адаптировать требования к памяти и качеству. Ограничения связаны с потенциальной потерей качества при низкой точности квантизации; кроме того, версия LlamaEdge в README указана как находящаяся в разработке. Модель распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B-Instruct-2507-MLX-4bit — это 4-битная квантованная версия языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Квантование в формате MLX выполнила команда LM Studio с использованием mlx_lm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и использования в инструкционно-ориентированных сценариях, включая локальные приложения и диалоговые системы, совместимые с MLX и LM Studio. В исходных данных указано, что базовая модель имеет обозначение 30B-A3B, однако дополнительные сведения об архитектуре, поддерживаемых языках, размере контекста, модальностях и производительности отсутствуют. Ключевое преимущество этой версии — уменьшенный размер представления благодаря 4-битному квантованию и оптимизация для Apple Silicon, что делает её подходящей для локального инференса при ограниченных ресурсах. При этом квантование может снижать точность по сравнению с исходной моделью, а фактические требования к памяти и качество зависят от конкретного устройства и сценария. Модель распространяется по лицензии Apache-2.0.