II.6Документация и сопровождение разработки

Карточка модели Silin1590/Qwen-0d5B-Int-AbstraL-v2 на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

CEIA-POSITIVO/Qwen-1.7B-capado — компактная языковая модель для генерации текста и диалогового взаимодействия, опубликованная в репозитории CEIA-POSITIVO на Hugging Face. По метаданным она относится к семейству Qwen3, использует библиотеку Transformers и содержит около 1,6 млрд параметров. Модель предназначена для продолжения и генерации текста, создания ответов в чатах, прототипирования conversational-приложений и локального запуска задач, не требующих крупной модели. Она поддерживает контекст длиной до 40 960 токенов и распространяется в формате safetensors. README не содержит сведений о разработчике, лицензии, языках обучения, процедуре дообучения, оценивании или специальных предметных областях. Поэтому модель следует рассматривать как универсальную генеративную модель с неполностью документированными характеристиками; перед использованием в продуктивных или чувствительных сценариях необходимы самостоятельные проверки качества, безопасности и соблюдения условий лицензии.

Qwen2-0.5B-Instruct — инструкционно дообученная языковая модель семейства Qwen2, разработанная командой Qwen. Это плотная авторегрессионная модель на архитектуре Transformer с 494 млн параметров; она принимает текст и генерирует текст в формате диалога. Контекст составляет до 32 768 токенов. Модель предназначена для общения, генерации и понимания текста, а также может применяться к задачам рассуждения, математики и программирования. Модель компактна и поддерживает многоязычный токенизатор, но метаданные карточки отмечают английский язык. В приведённом сравнении она показала улучшение относительно Qwen1.5-0.5B-Chat на тестах MMLU, HumanEval и GSM8K. Эти результаты не гарантируют аналогичное качество в конкретных приложениях. Модель распространяется под лицензией Apache-2.0.

Карточка модели Gaery0611/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

ThomasBaruzier/Qwen2.5-0.5B-Instruct-GGUF — это набор GGUF-квантизаций инструкционно дообученной языковой модели Qwen2.5-0.5B-Instruct, разработанной командой Qwen при Alibaba Cloud и подготовленной ThomasBaruzier для запуска с llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, следования инструкциям, работы со структурированными данными и создания структурированных ответов, включая JSON. Набор поддерживает варианты квантизации с размером примерно от 302 до 507 МБ, а также F16-версию размером около 949 МБ. Это каузальная Transformer-модель на 0,49 млрд параметров, из которых 0,36 млрд приходятся на параметры без эмбеддингов. Архитектура использует RoPE, SwiGLU, RMSNorm, bias в QKV attention, связанные входные и выходные эмбеддинги и Grouped-Query Attention с 14 головами для Q и 2 для KV; модель содержит 24 слоя. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся небольшой размер, возможность локального запуска, мультиязычность, улучшенное следование инструкциям, генерация длинных текстов, поддержка кода и математики, а также заметная устойчивость к разным системным промптам. Квантизации позволяют выбрать компромисс между размером, качеством и точностью: по приведённой таблице F16 обеспечивает наивысшие показатели, а более компактные варианты снижают требования к памяти, но могут ухудшать качество. Модель относится к текстовым, мультимодальность не заявлена. Лицензия — Apache-2.0.

Qwen2.5-0.5B-Instruct-GPTQ-Int4 — компактная инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это GPTQ-квантизированная 4-битная версия базовой модели Qwen2.5-0.5B-Instruct, предназначенная для генерации текста и диалоговых сценариев, включая чат-ассистентов, следование инструкциям, работу со структурированными данными и формирование структурированных ответов, в том числе JSON. Модель также ориентирована на задачи программирования и математики, однако README не содержит подробных результатов оценки. Модель относится к causal language models и использует архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV attention и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд не являются эмбеддингами, 24 слоя и GQA с 14 головами для Q и 2 для KV. Поддерживается контекст до 32 768 токенов и генерация до 8192 токенов. Модель текстовая, поддерживает более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Ключевые преимущества — небольшой размер, 4-битное представление, поддержка длинного контекста, многоязычность и улучшенное следование инструкциям. Ограничения README не раскрывает количественно; как компактная модель с 0,49 млрд параметров, она может уступать более крупным моделям в сложных рассуждениях и качестве генерации. Модель распространяется по лицензии Apache-2.0. Для использования рекомендуется актуальная версия библиотеки transformers; версии ниже 4.37.0 не поддерживают архитектуру Qwen2.

Mungert/Qwen2.5-14B-Instruct-1M-GGUF — это GGUF-версия инструкционной языковой модели Qwen2.5-14B от команды Qwen, подготовленная пользователем Mungert. Модель предназначена для генерации текста и диалоговых сценариев, включая работу чат-ассистента, ответы на инструкции и локальный запуск на системах с ограниченными ресурсами. В метаданных указаны английский язык и задача text-generation; название модели указывает на поддержку контекста до 1 миллиона токенов, однако подробные характеристики контекстного окна в README не приведены. Ключевая особенность сборки — ультранизкая 1–2-битная квантизация с динамическим распределением точности IQ-DynamicGate. Для разных слоёв применяются форматы IQ1 и IQ2, а критические embedding- и output-слои защищаются квантизацией Q5_K. Такой подход снижает требования к памяти и подходит для CPU, edge-устройств и GPU с ограниченным VRAM, но может уступать моделям с более высокой точностью и требует проверки качества именно на Qwen2.5-14B, поскольку приведённые в README бенчмарки выполнены на Llama-3-8B-Instruct. Размер файлов, конкретный вариант квантизации и скорость зависят от выбранного GGUF-файла. Лицензия — Apache-2.0.

TheRains/Qwen2.5-14B-Instruct-Q4_K_M-GGUF — это квантизированная версия Qwen2.5-14B-Instruct, преобразованная в формат GGUF разработчиком TheRains с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp в режиме командной строки или сервера. Модель содержит 14 миллиардов параметров, относится к инструкционно настроенным текстовым моделям и поддерживает английский язык. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полной версией, что делает модель более подходящей для локального запуска на совместимом CPU или GPU. В README указан пример использования с контекстом 2048 токенов, однако это может быть параметром конкретного запуска, а не максимальным контекстом модели. К сильным сторонам относятся локальное выполнение, совместимость с экосистемой llama.cpp и более низкие аппаратные требования благодаря квантизации. Ограничения включают поддержку только текстовой модальности, отсутствие в карточке подробных характеристик качества, языкового охвата и производительности, а также возможные потери точности из-за квантизации. Указана лицензия Apache-2.0; подробности следует уточнять в лицензии исходной модели Qwen2.5-14B-Instruct.

Карточка модели tayaee/Qwen2.5-1.5B-Korean-ORPO-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

moazeldegwy/Qwen2.5-1.5B-Reasoning-Hybrid-GRPO-G8-v2 — языковая модель семейства Qwen2, разработанная moazeldegwy и дообученная на основе moazeldegwy/Qwen2.5-1.5B-Reasoning-Hybrid-SFT. Это плотная авторегрессионная модель с 1,5 млрд параметров для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов, модель принимает текст и выдаёт текст. Модель подходит для диалоговых ассистентов и генерации ответов с рассуждениями. В карточке указано, что обучение выполнялось с Unsloth и библиотекой TRL. Поддерживаемый язык карточки — английский. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-2B-Instruct — компактная текстовая языковая модель семейства Qwen2, представленная win10. По карточке она собрана с помощью LazyMergekit из повторяющихся ссылок на Qwen/Qwen2.5-1.5B-Instruct; метаданные каталога классифицируют её как дообученную производную этой базовой модели. Модель предназначена для диалогов, генерации текста и структурированных ответов, включая сценарии с интерфейсом вызова инструментов. Архитектура — плотная Qwen2ForCausalLM, размер — 2,7 млрд параметров, контекст — 32 768 токенов. Доступен формат safetensors. Сведения о лицензии и поддерживаемых языках в предоставленных данных отсутствуют. Качество, безопасность ответов и фактическая эффективность вызова инструментов отдельно не описаны.

bunnycore/Qwen-2.5-3b-Evol-CoT-V3 — языковая модель на архитектуре Qwen2.5, созданная разработчиком bunnycore с помощью слияния предварительно обученных моделей методом Model Stock через mergekit. В состав вошли варианты Evol-CoT, RP и Mix-Data-lora; в качестве основы указаны Qwen/Qwen2.5-3B и адаптированные модели bunnycore. Модель предназначена для генерации текста и диалогового применения. Она содержит 3,1 млрд параметров, работает с текстом и имеет контекстное окно до 32 768 токенов. В карточке не указаны специализация по естественным языкам и конкретные предметные области. Модель распространяется в формате safetensors. Условия лицензии в предоставленных данных не приведены.

bartowski/Qwen2.5-3B-GGUF — набор GGUF-квантизованных вариантов базовой языковой модели Qwen2.5-3B, опубликованный и квантизованный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через совместимые инструменты, включая llama.cpp и LM Studio; в README также указан специальный формат промпта с ролями system, user и assistant. Доступны варианты от полного формата F32 размером 12,35 ГБ до сильно сжатых вариантов IQ3_M размером 1,49 ГБ. Большинство сборок используют квантизацию Q4–Q8, а некоторые сохраняют embedding- и output-веса в формате Q8_0 для потенциального улучшения качества. Для ARM-процессоров предусмотрены отдельные варианты Q4_0_4_4, Q4_0_4_8 и Q4_0_8_8; их совместимость зависит от поддержки соответствующих инструкций. Более качественные варианты требуют больше оперативной памяти, а компактные варианты снижают требования к памяти ценой качества. Модель относится к текстовым, поэтому README не подтверждает поддержку изображений, аудио или других модальностей. Языки, размер контекста, конкретные архитектурные характеристики базовой модели и результаты бенчмарков в предоставленных данных не указаны. Лицензия также не указана, поэтому условия коммерческого и иного использования следует уточнять в исходном репозитории Qwen/Qwen2.5-3B и у опубликованного набора.

Qwen2.5-3B-RP-Thinker-V2 — объединённая модель генерации текста, созданная Bunnycore с помощью mergekit методом Model Stock на основе Qwen/Qwen2.5-3B-Instruct с включением PowerInfer/SmallThinker-3B-Preview и bunnycore/Qwen2.5-3B-RP-Mix. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для диалогов и генерации текста; доступны интерфейс вызова инструментов и контекст до 32 768 токенов. Модель подходит для диалоговых сценариев и задач, где полезны рассуждения, следование инструкциям и стиль RP, унаследованные от объединённых моделей. Она загружается через Transformers, веса представлены в формате safetensors. В карточке указана лицензия Apache-2.0? нет; условия лицензирования по предоставленным данным установить нельзя.

LaTexT/qwen2.5-7b-gz3-sentence-iter2-w0.2 — дообученная компанией или исследовательской группой LaTexT модель Qwen2.5-7B-Instruct с архитектурой Qwen2 и 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Карточка связывает её с экспериментом LaTexT: строка таблицы 1 статьи «Qwen2.5-7B LaTexT m=3 sentence».

graelo/Qwen2.5-7B-Instruct-1M-AWQ — это 4-битная GEMM-квантизованная версия модели Qwen/Qwen2.5-7B-Instruct-1M, разработанной командой Qwen. Модель относится к классу instruction-tuned языковых моделей с примерно 7 миллиардами параметров и предназначена для выполнения инструкций и генерации текста. Из идентификатора базовой модели следует поддержка контекста до 1 миллиона токенов, однако сведения о языках, модальностях и точной архитектуре в README не приведены. Квантизация до 4 бит может снизить требования к памяти и сделать запуск модели более доступным, но потенциально сопровождается потерей качества по сравнению с исходной версией и требует совместимого программного обеспечения для формата AWQ/GEMM. README не содержит результатов тестирования, подробностей о производительности или рекомендуемых сценариях использования. Модель распространяется по лицензии Apache-2.0.

HarithSami дообучил эту плотную языковую модель на основе unsloth/qwen2.5-7b-instruct. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс для вызова инструментов. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face. Доступны веса в формате safetensors. Лицензия — Apache-2.0. Данные описания не уточняют, на каких именно данных выполнялось дообучение и насколько хорошо модель справляется с конкретными задачами или языками.

Optitransfer представил Qwen2.5-7B-Instruct-converge-collective-v1 — объединённую модель для диалогов и генерации текста, созданную на основе Qwen2.5-7B-Instruct и восьми донорских моделей четырёх семейств. Слияние выполнено методом converge: тензоры согласуются между архитектурами, объединяются через целочисленный CRDT-механизм и сохраняются в формате safetensors. Заявлены 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации ответов и других текстовых сценариев. В README описаны точное воспроизведение результата с проверкой SHA-256 и результаты парного сравнения с исходной моделью: улучшения неоднородны, отдельные показатели снизились. Поддерживается английский язык; метаданные также отмечают интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0. Это слитый чекпойнт одной группы из девяти моделей; README указывает на регрессии по отдельным бенчмаркам и на то, что выравнивание базисов между архитектурами остаётся открытой исследовательской задачей.

bunnycore/Qwen2.5-7B-RRP-1M — разговорная языковая модель семейства Qwen2.5, созданная объединением модели Qwen/Qwen2.5-7B-Instruct-1M и LoRA-адаптера bunnycore/Qwen-2.5-7B-1M-RRP-v1-lora. Веса представлены в формате Safetensors; архитектура — плотная Qwen2ForCausalLM с 7,1 млрд параметров. Модель рассчитана на генерацию текста, диалоги, ролевые сценарии и ответы с рассуждением; контекст поддерживает до 1 010 000 токенов. В README описана настройка LoRA на наборах данных для рассуждений и ролевого общения, а также возможность включать режим размышлений через специальный тег в системном запросе. Указаны результаты Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество в конкретных задачах. Лицензия в предоставленных сведениях не указана.

Qwen2.5-Coder-1.5B-4bit — языковая модель семейства Qwen2, преобразованная mlx-community в формат MLX из Qwen/Qwen2.5-Coder-1.5B с помощью mlx-lm 0.18.1. Каталог связывает её с Qwen/Qwen2.5-1.5B как с базовой моделью, дообученной для генерации текста. Модель содержит 1,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации кода и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Карточка сообщает о 4-битном варианте MLX, а репозиторий содержит веса safetensors. Поддерживаемый язык карточки — английский. Модель распространяется по лицензии Apache-2.0. Компактный размер удобен для локального запуска на совместимом оборудовании Apple через MLX; точность и качество ответов могут быть ограничены размером модели и 4-битным представлением весов.

Qwen2.5-Coder-1.5B-Instruct-MLX-8bit — это компактная инструкционная языковая модель для генерации текста и работы с исходным кодом. Базовую модель разработала команда Qwen, а MLX-квантизацию в формате 8-bit подготовил bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на программирование, взаимодействие в формате чата и использование в code agents. Она обучалась с применением до 5,5 триллиона токенов, включая исходный код, данные для выравнивания текста и кода и синтетические данные. Поддерживается контекст до 32 тысяч токенов; в README явно указан английский язык. Архитектура и точное число параметров в карточке не описаны, однако из названия следует размер класса 1,5B. К сильным сторонам относятся специализация на коде, инструкционный режим, поддержка длинного контекста и оптимизация MLX для Apple Silicon. Ограничения связаны с компактным размером модели, возможными ошибками или неточностями при генерации кода и отсутствием заявленной поддержки других языков в предоставленных данных. Модель распространяется по лицензии Apache 2.0.

Qwen2.5-Coder-1.5B-Instruct-Q8_0-GGUF — это преобразованная в формат GGUF версия инструкционной модели Qwen2.5-Coder-1.5B-Instruct. Модель опубликована ggml-org и создана на основе модели Qwen, разработанной командой Qwen. Квантование Q8_0 выполнено с использованием llama.cpp через сервис GGUF-my-repo. Модель предназначена для генерации текста и работы с программным кодом в диалоговых и других сценариях, поддерживаемых llama.cpp. В README указаны языки с поддержкой английского языка, а также теги, связанные с кодом, чатом и семейством Qwen Coder. Известен размер базовой модели — 1,5 млрд параметров; формат GGUF оптимизирован для локального запуска через llama.cpp. В качестве примера указан контекст длиной 2048 токенов, однако это значение относится к рекомендуемой команде запуска, а не обязательно к максимальному контексту модели. К сильным сторонам относятся небольшой размер, инструкционная настройка, специализация на задачах программирования и удобство локального использования на совместимом оборудовании. Ограничения включают неизвестные из этого README качество на конкретных языках программирования, бенчмарках и задачах, а также отсутствие информации о мультимодальности; по имеющимся данным модель является текстовой. Модель распространяется по лицензии Apache-2.0.

Shaurya-saini дообучил модель unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit на архитектуре Qwen2.5 Coder. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате; базовая модель ориентирована на задачи программирования. Модель принимает текст и формирует текстовые ответы, поддерживает контекст до 32 768 токенов и английский язык. Модель подходит для диалоговых сценариев с запросами по коду и генерацией текста. В карточке не описаны обучающие данные и конкретная специализация дообучения, поэтому качество для отдельных задач и отличие от базовой модели оценить нельзя. Распространяется по лицензии Apache-2.0.

Qwen2.5-CoderX-7B-v0.5-i1-GGUF — это набор квантованных файлов в формате GGUF для модели oscar128372/Qwen2.5-CoderX-7B-v0.5. Квантизацию выполнил mradermacher. Модель основана на семействе Qwen2.5 и имеет размер 7 миллиардов параметров. Модель предназначена для генерации текста и кода, следования инструкциям, проектирования алгоритмов и задач, связанных с Python и физическим моделированием. В описании указана поддержка английского языка. Доступны варианты квантизации от крайне компактных IQ1 до более качественного Q6_K размером примерно от 2,0 до 6,4 ГБ, что позволяет выбирать между требованиями к памяти, скоростью и качеством. Сильной стороной являются разнообразные GGUF-варианты, включая imatrix-квантизации, совместимые с экосистемой локального запуска GGUF. Ограничения зависят от выбранного варианта: низкобитные версии могут заметно терять в качестве, а некоторые прямо помечены как имеющие очень низкое качество. Размер контекста, мультимодальность, результаты оценивания и подробности архитектуры в README не указаны. Лицензия модели — Apache-2.0.

Xiaojian9992024/Qwen2.5-Dyanka-7B-Preview — объединённая методом TIES языковая модель, созданная разработчиком Xiaojian9992024 с помощью mergekit на основе нескольких моделей семейства Qwen2.5. В состав слияния вошли gz987/qwen2.5-7b-cabs-v0.3, rombodawg/Rombos-LLM-V2.5-Qwen-7b, suayptalha/Clarus-7B-v0.1, prithivMLmods/WebMind-7B-v0.1, fblgit/cybertron-v4-qw7B-MGS и Xiaojian9992024/Qwen2.5-THREADRIPPER-Small. Модель с архитектурой Qwen2 имеет 7,1 млрд параметров и контекст длиной 32 768 токенов. Она предназначена для генерации текста и диалогового общения; для запуска доступны веса safetensors и библиотека Transformers. В карточке приведены результаты оценивания, включая 76,40% на IFEval и 36,62% на BBH. Лицензия — Apache-2.0. Карточка не уточняет целевые языки и ограничения качества; результаты тестов не гарантируют качество на конкретных пользовательских задачах.

Qwen2.5-MOE-2X7B-DeepSeek-Abliterated-UNCensored-19B-gguf — текстовая generative-модель от DavidAU, основанная на архитектуре Qwen2.5 MOE и объединяющая два 7B-компонента DeepSeek/Qwen 2.5: обычный и abliterated (в основном uncensored) варианты. За счёт shared expert итоговый размер составляет немного более 19 млрд параметров. Модель распространяется в формате GGUF и предназначена для генерации текста. Модель ориентирована на универсальное применение: рассуждения и «thinking», решение математических и логических задач, мозговой штурм, ответы на вопросы, создание историй, сюжетов и другого художественного текста. Она поддерживает английский и китайский языки, имеет контекстное окно 128k токенов и, по описанию автора, особенно склонна к математическим, логическим и научным задачам. Архитектура MOE обеспечивает необычное поведение и потенциально более сильное рассуждение по сравнению с отдельной 7B-моделью, но модель не обязательно превосходит полноценные 14B- или 32B-модели. К сильным сторонам относятся широкий диапазон рабочих температур, способность сохранять рассуждение при различных настройках sampling и сочетание reasoning с творческой генерацией. Ограничения включают возможное появление китайских символов при англоязычных запросах, нестабильность рассуждений на высоких температурах и заметную вариативность ответов; для сложных задач может потребоваться несколько генераций или разбиение задачи на этапы. Для корректной работы требуется использовать встроенный Jinja Template, предпочтительно DeepSeek Tokenizer; рекомендуются контекст от 8k токенов и квантизации IQ4/Q4 или выше. Модель распространяется по лицензии Apache-2.0.

Rookied/qwen2-mini — компактная диалоговая языковая модель на архитектуре Qwen2 с 1,5 млрд параметров, дообученная на базе Qwen/Qwen2-1.5B-Instruct. Она предназначена для генерации текста и диалоговых сценариев. В метаданных указан контекст до 32 768 токенов и формат весов safetensors. Модель может отвечать на запросы и вести диалог, используя возможности базовой инструктивной модели. README сообщает значение loss 1,5767 на наборе оценки, но не раскрывает датасет, методику оценки или конкретные улучшения после дообучения. Модель распространяется по лицензии Apache-2.0.

duyntnet/Qwen3-0.6B-imatrix-GGUF — набор imatrix-квантизаций модели Qwen3-0.6B в формате GGUF, опубликованный пользователем duyntnet на Hugging Face. Это причинная языковая модель для генерации текста, диалогов, следования инструкциям, решения задач, написания кода и локального запуска через совместимые приложения и inference-клиенты, включая llama.cpp, KoboldCPP, Ollama, LM Studio и GPT4All. Базовая модель содержит около 0,6 млрд параметров, из которых 0,44 млрд приходятся на параметры без эмбеддингов. Она имеет 28 слоёв, Grouped-Query Attention с 16 головами запросов и 8 головами ключей и значений, а также контекст длиной до 32 768 токенов. Qwen3 поддерживает переключение между режимами с рассуждением и без него, предназначенными соответственно для сложных логических, математических и программных задач либо для более быстрой генерации и обычного диалога. Семейство заявляет поддержку более 100 языков и диалектов, включая многоязычные инструкции и перевод. К сильным сторонам относятся малый размер, возможность локального использования в GGUF-совместимой инфраструктуре, поддержка рассуждений и широкий спектр текстовых сценариев. Ограничениями являются отсутствие мультимодальности в заявленных характеристиках, небольшой по современным меркам объём модели и потенциальная зависимость качества и скорости от выбранного уровня квантизации; конкретные варианты квантизации в README не перечислены. В карточке указана лицензия «other», но её точные условия не приведены, поэтому перед использованием необходимо проверить лицензионные условия исходной Qwen3-0.6B и опубликованных файлов.

Это готовая к использованию модель Qwen3 с 1,7 млрд параметров, созданная в проекте RL-Forgetting-Experiments-3 на основе Qwen/Qwen3-1.7B-Base. Она дообучена методом supervised fine-tuning на данных для программирования; указаны упорядоченная последовательность обучения и шаг оптимизатора 102. Модель построена на плотной архитектуре Qwen3ForCausalLM и предназначена для генерации текста, в том числе кода и ответов в диалоговом формате. Она принимает текст и выдаёт текст, а максимальный контекст составляет 32 768 токенов. Модель подходит для генерации фрагментов кода, решения задач программирования и диалоговой помощи при разработке. Карточка не приводит оценок качества или подробностей о языках программирования и лицензии, поэтому выводы о точности и условиях коммерческого использования сделать нельзя.

Dajumon/Qwen3-1.7B-base-MED-ChatVector — языковая модель для генерации текста на базе семейства Qwen3, опубликованная на Hugging Face пользователем dajumon. В метаданных указаны размер 1,7 млрд параметров, библиотека Transformers и задача text-generation; архитектура и сведения о разработчике в доступных материалах подробно не описаны. Модель поддерживает контекст до 40 960 токенов и может использоваться как основа для генерации и продолжения текста, а также для создания прикладных решений после дополнительной настройки.