II.6Документация и сопровождение разработки

Карточка модели cold368733/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели JMullings/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели lyNjx/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

onnx-community/Qwen2.5-0.5B-Instruct-ONNX — это ONNX-версия инструкционно дообученной причинной языковой модели Qwen2.5-0.5B-Instruct. Исходную модель разработала команда Qwen, а ONNX-веса опубликованы сообществом ONNX Community для использования, в частности, с Transformers.js и локальными приложениями. Модель предназначена для генерации текста, диалогов, следования инструкциям, ответов на вопросы, создания структурированных ответов, а также базовых задач по программированию и математике. Архитектура Qwen2 с 494 млн параметров использует causal language modeling; доступны ONNX-варианты квантования и FP16. Модель поддерживает текстовую модальность, 32 768 токенов контекста и языки zho, eng, fra, spa, por, deu, ita, rus, jpn, kor, vie, tha и ara. К сильным сторонам относятся компактный размер, мультиязычность, поддержка диалогового режима и возможность запуска в ONNX-совместимых средах, включая браузерные сценарии. Из-за небольшого размера модели её качество и глубина рассуждений ниже, чем у более крупных моделей семейства. Модель распространяется по лицензии Apache 2.0 исходной Qwen-модели.

Карточка модели pcuenq/Qwen2.5-0.5B-Instruct-with-new-merges-serialization на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

bunnycore/Qwen-2.5-3b-Evol-CoT-v2 — чат-модель для генерации текста, созданная сообществом bunnycore с помощью mergekit. Это объединение моделей семейства Qwen2 методом TIES на основе bunnycore/Qwen-2.5-3b-Evol-CoT; в слияние также включены варианты Mix-Data-lora, RP и qwen-2.5-3b-lora_model. Модель имеет плотную архитектуру Qwen2ForCausalLM, 3,1 млрд параметров и контекст до 32 768 токенов; веса доступны в формате safetensors и рассчитаны на Transformers. Модель предназначена для диалоговых ответов и генерации текста. В метаданных указана возможность работы через интерфейс вызова инструментов, но специальных прикладных областей или поддерживаемых языков карточка не описывает. Лицензия в предоставленных данных не указана.

mlx-community/Qwen2.5-3B-Instruct-4bit — преобразованная в формат MLX и 4-битно квантованная инструктивная языковая модель для диалоговой генерации текста. Репозиторий mlx-community создан на основе Qwen/Qwen2.5-3B-Instruct; исходную конвертацию выполнили с помощью mlx-lm версии 0.18.1. Модель построена на плотной архитектуре Qwen2, содержит 3,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель подходит для ответов на вопросы, диалога и генерации текста по инструкциям. Метаданные также указывают интерфейс вызова инструментов. README описывает использование через mlx-lm; репозиторий предназначен для MLX. Лицензия указана как other, поэтому условия использования следует сверять с лицензией исходной модели и репозитория.

bunnycore/Qwen2.5-3B-MiniMix — слитая разговорная языковая модель, созданная с помощью mergekit и метода TIES на базе Qwen/Qwen2.5-3B. В объединение вошли Qwen/Qwen2.5-3B-Instruct, bunnycore/Qwen-2.5-3b-Evol-CoT и bunnycore/Qwen-2.5-3b-Rp-lora_model. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2 для генерации текста и работает через библиотеку Transformers; заявленный контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Сочетание инструкционной и CoT-моделей ориентировано на выполнение инструкций и рассуждения; также доступны чат-возможности и интерфейс вызова инструментов. Поддерживаемые языки и качество на отдельных задачах в карточке не описаны. Веса опубликованы в формате Safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя. Как результат слияния нескольких моделей, поведение MiniMix может отличаться от исходных моделей; перед применением следует проверить ответы и вызов инструментов на целевых сценариях.

Qwen2.5-72B-Instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-72B-Instruct, разработанной командой Qwen. Квантизацию выполнил legraphista с использованием llama.cpp версии b3787 и калибровочного набора IMatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в совместимых локальных средствах инференса, таких как llama.cpp. Модель основана на версии с 72 миллиардами параметров и исходным форматом BF16. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и более компактных IQ-квантизаций; размеры файлов составляют примерно от 29,81 до 145,42 ГБ. Для ряда вариантов применена IMatrix, что направлено на повышение качества при квантизации. В метаданных указан английский язык; сведения о других языках, архитектуре и размере контекста в представленном README не указаны. Сильная сторона модели — широкий выбор уровней квантизации, позволяющий подобрать компромисс между качеством, размером и требованиями к ресурсам, а также поддержка формата GGUF и IMatrix для многих компактных вариантов. Ограничения включают очень высокие требования к памяти даже для квантизированных файлов, зависимость совместимости и производительности от используемого движка и оборудования, а также возможное снижение качества при сильной квантизации. Модель распространяется по лицензии Qwen; подробные условия указаны в лицензии исходной модели.

MaziyarPanahi/Qwen2.5-7B-Instruct-GGUF — это набор файлов модели в формате GGUF для Qwen2.5-7B-Instruct, разработанной командой Qwen. Квантованные версии опубликованы пользователем MaziyarPanahi и предназначены для локального запуска задач генерации текста, включая диалоговое взаимодействие и другие сценарии применения instruction-tuned модели. Модель содержит варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат GGUF поддерживается llama.cpp и совместимыми инструментами, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, Faraday.dev, candle и ctransformers. В README не указаны архитектурные детали, объём контекста, поддерживаемые языки, модальности, результаты оценивания или конкретные ограничения качества. Лицензия в предоставленных данных не указана. Для использования необходимо учитывать условия лицензии исходной модели Qwen2.5-7B-Instruct и правила распространения опубликованных квантованных файлов.

Qwen2.5-7B-Instruct-Q4_K_M-GGUF — это квантизированная версия инструкционной языковой модели Qwen2.5-7B-Instruct, преобразованная пользователем paultimothymooney в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp в командной строке или в режиме сервера. Модель имеет размер 7B параметров и использует квантизацию Q4_K_M, что рассчитано на более экономичное использование памяти по сравнению с полноразмерной версией. Указана поддержка английского языка и текстовая модальность. В примере запуска серверу передаётся контекст размером 2048 токенов, однако максимальный размер контекста в карточке отдельно не указан. К сильным сторонам относятся совместимость с экосистемой llama.cpp, возможность локального развёртывания и сниженные требования к ресурсам благодаря квантизации. Ограничения связаны с тем, что карточка не содержит подробных сведений о качестве, бенчмарках, аппаратных требованиях и полном наборе поддерживаемых языков. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-7B-Ins-v3-GGUF — это квантизированная версия текстовой генеративной модели happzy2633/qwen2.5-7b-ins-v3, подготовленная пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев; в README также указан запуск через LM Studio. Рекомендуемый формат промпта использует специальные маркеры ролей system, user и assistant. Доступны варианты от исходных весов F16 размером 15,24 ГБ до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Более высокие уровни обычно сохраняют лучшее качество, а компактные варианты подходят для систем с ограниченным объёмом оперативной памяти. Для ARM-процессоров предлагаются специальные варианты Q4_0, требующие поддержки sve или i8mm; некоторые из них не рекомендуются для Mac и Windows. Модель относится к классу 7B, однако точные сведения об архитектуре, поддерживаемых языках, максимальном контексте, мультимодальности, результатах тестирования и ограничениях исходной модели в предоставленном README отсутствуют. Лицензия также не указана, поэтому условия коммерческого и иного использования необходимо уточнять на странице исходной модели.

netcat420 объединил модели jeffmeloy/Qwen2.5-7B-nerd-uncensored-v0.9 и netcat420/Qwen2.5-MFANN-7b методом SLERP с помощью mergekit. Это плотная авторегрессионная языковая модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров; веса опубликованы в формате safetensors. Модель предназначена для диалоговой генерации текста, а интерфейс репозитория также отмечает поддержку вызова инструментов. Модель принимает текст и генерирует текст. Заявленное базовое контекстное окно составляет 32 768 токенов. Карточка характеризует её как uncensored, но не приводит оценок качества или подробных ограничений применения. Лицензия в предоставленных данных не указана.

jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

Qwen2.5-7B Fine-tuned — это текстовая генеративная модель, разработанная waguriagent на базе Qwen/Qwen2.5-7B-Instruct от команды Qwen. Модель дообучена методом LoRA, объединена с базовыми весами и представлена в формате GGUF с 4-битным квантованием Q4_K_M для эффективного локального запуска. Модель предназначена для диалогов, генерации и обработки текста, включая работу через Ollama, llama.cpp и llama-cpp-python. Она использует архитектуру Qwen2 с примерно 7,6 млрд параметров, поддерживает контекст до 32 768 токенов и формат запросов ChatML. В README явно указан английский язык; другие языки не заявлены. Размер файла составляет около 4,4 ГБ, а для запуска рекомендуется примерно 6 ГБ RAM или VRAM, поэтому модель подходит для потребительских GPU с 8 ГБ видеопамяти. Ключевое преимущество модели — сочетание относительно компактного размера, низких требований к памяти и небольших потерь качества по сравнению с полноточной версией. Ограничения связаны с 4-битным квантованием, возможным снижением качества относительно моделей с большей разрядностью, а также с унаследованными от базовой модели знаниями, предвзятостями и ограничениями. Дообучение на специализированном наборе данных могло сузить универсальные способности, поэтому модель следует проверять на собственных задачах перед использованием в production. Модель распространяется по лицензии Apache 2.0.

ypszn/Qwen2.5-Coder-0.5B-Instruct-Gensyn-Swarm-dormant_omnivorous_walrus — компактная текстовая генеративная модель из семейства Qwen2.5-Coder, опубликованная на Hugging Face пользователем ypszn. По метаданным, она содержит около 494 млн параметров, работает через библиотеку Transformers и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для инструкционного текстового вывода, включая сценарии, связанные с генерацией и обработкой программного кода.

Qwen2.5-Coder-1.5B-Instruct-GGUF — квантованные модели семейства Qwen2.5-Coder-1.5B-Instruct, разработанного Qwen и подготовленного в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и работы с программным кодом в диалоговом режиме, включая задачи программирования и использования в чат-приложениях. Указан английский язык, применяется шаблон запросов ChatML. Модель имеет размер 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантования от 2 до 8 бит, f16, с размером файлов примерно от 676 МБ до 3,09 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более агрессивное квантование уменьшает требования к памяти, но может заметно снижать качество ответов. Модель рассчитана на локальный запуск через LlamaEdge и совместима с llama.cpp. README не содержит подробностей об архитектуре, полном наборе поддерживаемых языков, результатах оценки или специфических ограничениях качества. Распространяется по лицензии Apache 2.0.

ThomasBaruzier/Qwen2.5-Coder-3B-Instruct-GGUF — набор GGUF-квантизаций инструкционно дообученной модели Qwen2.5-Coder-3B-Instruct. Исходную модель разработала команда Qwen, а данный репозиторий содержит варианты, подготовленные с использованием llama.cpp и метода imatrix с калибровочным файлом Bartowski. Модель предназначена для генерации и обработки текста, прежде всего для задач программирования и чат-сценариев. Это текстовая модель с архитектурой и характеристиками базовой Qwen2.5-Coder-3B; в README указано около 3 миллиардов параметров, поддерживается английский язык, а заявленный тип конвейера — text-generation. Модель ориентирована на локальный запуск в формате GGUF, причём доступны варианты квантизации от IQ1_S до Q5_K_M с размером примерно от 754 МБ до 2121 МБ. Разные варианты позволяют выбирать компромисс между требованиями к памяти и качеством; в приведённых измерениях более крупные квантизации обычно показывают меньшую perplexity и более высокую точность. Сильными сторонами являются компактный размер, возможность локального использования через llama.cpp и наличие большого выбора квантизаций для устройств с разными ресурсами. Ограничения включают потери качества, зависящие от степени квантизации, неизвестные в README размер контекста и набор поддерживаемых языков помимо английского, а также отсутствие сведений о мультимодальности. Модель распространяется по лицензии qwen-research; точные условия следует уточнять в лицензии исходной Qwen/Qwen2.5-Coder-3B-Instruct.

legraphista/Qwen2-7B-Instruct-IMat-GGUF — это набор GGUF-версий инструкционной языковой модели Qwen2-7B-Instruct, разработанной командой Qwen и дополнительно квантизированной пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в локальных приложениях через совместимые с GGUF инструменты и llama.cpp. Модель содержит около 7 миллиардов параметров и создана на основе исходной версии с форматом BF16. Доступны варианты от BF16 и FP16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда низкобитных вариантов применена IMatrix — калибровочная матрица, призванная сохранить качество при уменьшении размера модели. Размеры файлов варьируются примерно от 3,02 до 15,24 ГБ. В карточке указана поддержка английского языка; сведения о контекстном окне и дополнительных модальностях отсутствуют. Основные преимущества — большое количество вариантов квантования, возможность подобрать баланс между размером, требованиями к памяти и качеством, а также поддержка формата GGUF. Низкобитные версии экономичнее по ресурсам, но могут сильнее терять качество по сравнению с BF16 или FP16. Точные характеристики производительности, контекстного окна и поведения на других языках в README не указаны. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen3-0.6B-MLX-bf16 — конвертированная в формат MLX версия компактной плотной языковой модели Qwen3-0.6B. Модель содержит около 507,9 млн параметров, использует архитектуру Qwen3ForCausalLM и рассчитана на контекст до 40 960 токенов. Конверсия выполнена из Qwen/Qwen3-0.6B с помощью mlx-lm версии 0.24.0. Модель предназначена для генерации текста и диалогов, а также поддерживает интерфейс вызова инструментов. Метаданные характеризуют базовую модель как многоязычную и пригодную для рассуждений; отдельные языки в доступных данных не перечислены. Формат MLX ориентирован на запуск в экосистеме MLX. Модель распространяется по лицензии Apache-2.0.

Это финальная модель, подготовленная для инференса и предназначенная для генерации кода после supervised fine-tuning. Она основана на Qwen3-1.7B-Base и содержит 1,7 млрд параметров; архитектура — плотная авторегрессионная Qwen3ForCausalLM. Обучение включало данные для кодирования и равномерное воспроизведение обучающих примеров; указан шаг оптимизатора 102. Модель принимает текст и генерирует текст, в том числе код, а контекст составляет до 32 768 токенов. Модель подходит для генерации фрагментов кода и ответов на запросы по программированию. В карточке указаны Transformers и формат Safetensors. Условия лицензии в предоставленных данных не описаны.

Qwen3-1.7B-cpt-tesi_all — дообученная модель на базе Qwen/Qwen3-1.7B, опубликованная пользователем ferrazzipietro. Это плотная авторегрессионная языковая модель на 1,7 млрд параметров для генерации текста и диалогов; в каталоге указана поддержка чата. Она принимает текст и генерирует текст, использует библиотеку Transformers и формат весов safetensors. Базовая модель поддерживает несколько языков и рассчитана на генерацию, рассуждения, код и выполнение инструкций, однако сведения о датасете и специализации этого дообучения отсутствуют, поэтому приписывать ему отдельные навыки нельзя. Длина контекста составляет 40 960 токенов. Модель распространяется по лицензии Apache-2.0.

Qwen3-30B-A1.5B-High-Speed — текстовая MoE-модель, которую DavidAU дообучил на основе Qwen/Qwen3-30B-A3B-Base. Вариант использует четыре эксперта из 128 вместо восьми, что, по заявлению автора, примерно вдвое повышает скорость генерации; README сообщает об использовании 1,5 млрд активных параметров из 30 млрд, тогда как метаданные указывают 2,6 млрд параметров. Модель предназначена для диалогов и генерации текста, а также поддерживает интерфейс вызова инструментов. Автор сообщает о контексте 32K токенов и дополнительных 8K для вывода; метаданные каталога указывают нативное окно в 40 960 токенов. Репозиторий содержит веса SafeTensors для использования через Transformers и как исходник для создания квантованных вариантов. Автор приводит примеры прироста скорости на CPU и GPU, но отмечает, что тестирование качества было ограниченным и более сложные задачи могут лучше работать на обычном варианте или версии с большим числом активных экспертов. Для запуска предлагается использовать шаблон Jinja или ChatML. Модель многоязычная, но конкретные языки в карточке не перечислены. Лицензия в предоставленных данных не указана.

mlx-community/Qwen3-30B-A3B-4bit — это 4-битная версия модели Qwen3-30B-A3B, преобразованная в формат MLX из базовой модели Qwen/Qwen3-30B-A3B с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и запуска в среде MLX, в том числе через библиотеку mlx-lm на совместимом оборудовании Apple Silicon. Ключевые характеристики включают формат MLX, 4-битное квантование и назначение text-generation. README не содержит сведений о точной архитектуре, количестве активных и общих параметров, поддерживаемых языках, размере контекста, модальностях, результатах тестирования, сильных сторонах и ограничениях качества. Модель распространяется по лицензии Apache 2.0.

Qwen3-30B-A3B-Thinking-2507-MLX-4bit — это 4-битная квантованная версия языковой модели Qwen3-30B-A3B-Thinking-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm и оптимизировано для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и локального запуска в сценариях, где важны совместимость с экосистемой Apple и сниженное потребление памяти по сравнению с полноразмерной версией. Архитектура, поддерживаемые языки, размер контекстного окна, модальности и специализированные задачи в README не указаны. Известно, что модель относится к семейству Qwen3 и имеет конфигурацию 30B-A3B, а 4-битное представление обеспечивает более эффективное развертывание, потенциально с компромиссом между требованиями к ресурсам и точностью. Модель распространяется по лицензии Apache-2.0. Следует учитывать, что квантованная версия может наследовать ограничения исходной модели, включая вероятность неточных, вредных или неподходящих ответов.

Qwen3-4B-expert-IF — плотная языковая модель семейства Qwen3 от автора репозитория David6995, дообученная методом supervised fine-tuning на базе Qwen/Qwen3-4B-Base для следования инструкциям. Она предназначена для генерации ответов на текстовые запросы и диалогового использования; метаданные также отмечают интерфейс вызова инструментов. Модель содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 65 536 токенов. Репозиторий содержит полные веса BF16, конфигурацию и токенизатор. Модель распространяется по лицензии Apache 2.0. README не описывает обучающие данные, языковой охват или результаты оценки качества, поэтому специализацию и надёжность в конкретных областях оценить по доступным сведениям нельзя.

OP12138/qwen3-4b-grpo — разговорная языковая модель семейства Qwen3, разработанная на базе плотной архитектуры Qwen3ForCausalLM. Модель содержит 3,7 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. Репозиторий содержит веса в формате safetensors и поддерживает запуск через Transformers. README сообщает о дообучении с использованием TRL, однако базовая модель указана как None, поэтому определить её идентификатор нельзя. Модель предназначена для диалоговой генерации текста. В карточке не описаны конкретная специализация, обучающие данные или результаты оценки качества. Лицензия в предоставленных данных не указана.

Qwen3-4B-Instruct-2507-4bit-DWQ-2510 — это квантизированная 4-битная версия языковой модели Qwen3-4B-Instruct-2507 в формате MLX. Модель разработана сообществом mlx-community на основе исходной модели Qwen, созданной командой Qwen, и преобразована в формат MLX с использованием mlx-lm версии 0.28.2. Модель предназначена для генерации текста и диалоговых сценариев с применением инструкционного режима. Она подходит для использования через библиотеку mlx-lm, включая обработку сообщений в формате чата и генерацию ответов по текстовым подсказкам. Известны размер исходной модели — 4 миллиарда параметров — и 4-битное квантование DWQ, позволяющее уменьшить требования к хранению и вычислительным ресурсам по сравнению с полноразмерными вариантами. Модель работает с текстом; сведения о поддерживаемых языках, размере контекстного окна, архитектурных деталях, результатах тестирования и ограничениях качества в README не указаны. Для использования требуется библиотека mlx-lm и среда, совместимая с MLX. Модель распространяется по лицензии Apache 2.0.

conmiga1 дообучил плотную языковую модель Qwen3-4B-Instruct-2507 с помощью Unsloth и библиотеки Hugging Face TRL. Модель содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает текст для генерации текста; заявленная длина контекста — 262 144 токена. В карточке указаны чат-возможности и интерфейс вызова инструментов. Модель предназначена для диалоговой генерации текста и сценариев, где требуется вызывать инструменты через соответствующий интерфейс. Карточка не описывает специализацию дообучения или результаты оценки качества. Распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen3-4B-Instruct-2507-MLX-5bit — это 5-битно квантованная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью Qwen3-4B-Instruct-2507. Ключевые характеристики: архитектура и возможности базовой модели Qwen3-4B-Instruct-2507, около 4 миллиардов параметров, текстовая модальность и 5-битное представление MLX. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Основные преимущества модели — уменьшенный объём памяти и оптимизация для локального запуска на Apple Silicon при сохранении совместимости с экосистемой MLX. Ограничения связаны с квантованием и характеристиками базовой 4B-модели; точное влияние на качество, производительность и перечень поддерживаемых сценариев в README не описано. Модель распространяется по лицензии Apache-2.0.