II.5Безопасность программного кода и цепочки поставок

Qwen2.5-Coder-32B-Instruct-GPTQ-Int8 — инструкционная GPTQ-квантизованная версия 8-битной модели Qwen2.5-Coder-32B из семейства специализированных языковых моделей Qwen для программирования, разработанного командой Qwen. Модель предназначена для генерации, анализа и исправления программного кода, создания code agents, а также решения математических и общих текстовых задач. Это авторегрессионная causal language model на архитектуре Transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV-слоях внимания. Модель содержит около 32,5 млрд параметров, 64 слоя и использует GQA с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется дополнительная настройка YaRN. Основная заявленная языковая поддержка — английский язык. Модель работает в режиме текст-в-текст и не предназначена для обработки изображений или других мультимодальных данных. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, сохранение математических и общих способностей, а также уменьшенное потребление памяти благодаря 8-битной квантизации. Ограничениями являются высокие требования к вычислительным ресурсам, возможное снижение качества или производительности на длинных контекстах при использовании статического YaRN и необходимость совместимой версии Transformers и корректной конфигурации развёртывания. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-Instruct-GGUF — инструкционная версия специализированной серии больших языковых моделей для работы с кодом, разработанная командой Qwen. Модель предназначена для генерации, анализа, исправления и рассуждений по программному коду, а также для создания code agents и решения математических и общеязыковых задач. Доступна в формате GGUF для локального запуска, в частности с llama.cpp. Это авторегрессионная causal language model на архитектуре transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV и группированным запросным вниманием: 32,5 млрд параметров, 64 слоя, 40 голов Q и 8 голов KV. Базовая длина контекста GGUF-версии составляет 32 768 токенов. Указана поддержка квантований q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. В README заявлены улучшенные возможности генерации, рассуждений и исправления кода; модель обучалась на 5,5 трлн токенов, включая исходный код, текстово-кодовые данные и синтетические данные. Язык в метаданных указан как английский. Сильными сторонами являются специализация на программировании, поддержка длинного контекста и доступность нескольких уровней квантования для разных требований к памяти. Ограничения связаны с размером модели и вычислительными ресурсами, необходимыми для локального запуска; для GGUF-версии полноразмерный контекст ограничен 32 768 токенами, а расширение до 131 072 токенов в README указано для неграфовых GGUF-вариантов через YARN и vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-14B-Instruct-GGUF — это инструкционно дообученная языковая модель для работы с кодом из серии Qwen2.5-Coder, разработанная командой Qwen при Alibaba Cloud. Модель предназначена для генерации, анализа, рассуждений и исправления программного кода, а также для создания кодовых агентов и решения задач, связанных с математикой и общими текстовыми запросами. Модель является каузальной языковой моделью в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-слоях внимания. Она содержит 14,7 млрд параметров, 48 слоёв и использует Grouped Query Attention с 40 головами для Q и 8 для KV. Полная длина контекста GGUF-версии составляет 32 768 токенов. Заявлена поддержка английского языка; модальность — текстовая. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также возможность локального запуска через совместимые инструменты, включая llama.cpp. Ограничения включают контекст до 32 768 токенов в GGUF-версии; для последовательностей до 131 072 токенов README рекомендует использовать не-GGUF-версии, поскольку расширение контекста через YARN в указанном сценарии поддерживается только vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-Instruct-GPTQ-Int4 — инструкционная, GPTQ-квантизированная 4-битная версия каузальной языковой модели Qwen2.5-Coder, разработанная командой Qwen. Модель предназначена прежде всего для генерации, анализа и исправления программного кода, задач code reasoning и создания кодовых агентов, сохраняя способности к математике и общим текстовым задачам. В карточке явно указан английский язык. Модель содержит около 32,5 млрд параметров, из них 31 млрд без учёта embedding, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV-проекциях внимания; применяется GQA с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов. Для более длинных входов требуется включение YaRN, что может снижать производительность на коротких текстах при статическом масштабировании. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также снижение требований к памяти благодаря 4-битной квантизации. Ограничения включают возможную потерю качества из-за квантизации и необходимость корректной настройки длинного контекста. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Qwen2.5-Coder-7B-Instruct-GGUF — квантизированная версия инструкционно дообученной модели Qwen2.5-Coder-7B-Instruct, созданная QuantFactory на основе обновлённых весов от 6 ноября 2024 года с использованием llama.cpp. Исходная модель относится к семейству специализированных языковых моделей Qwen для работы с кодом, разработанному командой Qwen; базовая модель указана как Qwen/Qwen2.5-Coder-7B. Модель предназначена для генерации, анализа, исправления и рассуждений по программному коду, а также для диалоговых сценариев и создания кодовых агентов. Она сохраняет возможности в математике и общих задачах. Модель поддерживает текстовый ввод и вывод, относится к causal language models и рассчитана на английский язык согласно метаданным карточки. Архитектура включает RoPE, SwiGLU, RMSNorm и смещения в QKV-внимании; используется Grouped Query Attention с 28 головами для Q и 4 для KV. Размер модели — 7,61 млрд параметров, из них 6,53 млрд без учёта embedding, число слоёв — 28. Заявленная максимальная длина контекста составляет 131 072 токена, однако конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких текстах. Квантизация и формат GGUF ориентированы на запуск через llama.cpp и могут уменьшать требования к памяти по сравнению с полной версией, но конкретные характеристики зависят от варианта квантизации, который в карточке не указан. Модель распространяется по лицензии Apache-2.0.

Карточка модели jamiefutch/Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF на Hugging Face совпадает с карточкой FreedomAISVR/Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF, поэтому описание составлено по ней. Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF — это квантованная в формате GGUF MXFP4 версия модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M, дообученной Empero AI на базе Qwen3.5-9B. Это мультимодальная модель с архитектурой Qwen3.5 и зрительным энкодером SigLIP ViT; основной файл использует 4-битный формат MXFP4, а для обработки изображений нужен отдельный файл mmproj в F16. Репозиторий распространяется под лицензией Apache-2.0. Модель предназначена для диалогов с рассуждениями, работы с изображениями, вызова инструментов и задач с длинным контекстом, включая анализ кода и документов. README заявляет контекст до 1 048 576 токенов, а также сильные стороны в математике, кибербезопасности и биомедицинских темах. Поддерживаются английский язык и интерфейс вызова инструментов в стиле OpenAI/Qwen3.5. Зрительная часть унаследована от базовой модели и не дообучалась; README также предупреждает, что модель может уверенно выдавать ошибочные идентификаторы CVE и дозировки лекарств. Для критически важных ответов нужны внешняя проверка и инструменты, а для пользовательских развёртываний README рекомендует добавить собственный слой безопасности. Ответы начинаются с блока рассуждений, поэтому требуется достаточный лимит генерации.

DeepSeek-Coder-V2-Instruct — открытая языковая модель для работы с кодом, разработанная DeepSeek AI. Представленная версия является AWQ-квантизированным вариантом instruct-модели DeepSeek-Coder-V2, предназначенной для диалогового взаимодействия и выполнения инструкций в задачах программирования, математического рассуждения и обработки текста. Модель построена на архитектуре Mixture-of-Experts (MoE) семейства DeepSeekMoE и имеет 236 млрд общих параметров, из которых при обработке активируется около 21 млрд. Контекст поддерживает до 128 тысяч токенов. DeepSeek-Coder-V2 расширяет поддержку языков программирования с 86 до 338 и сохраняет возможности для общих языковых задач. Данная версия квантизирована в формате int4/AWQ; для неё указано значение perplexity 5,325 на квантизированной оценке. Сильные стороны модели — специализация на генерации, анализе и сопровождении кода, математическом рассуждении, большой контекст и сниженные требования к памяти благодаря квантизации. Ограничения включают возможную потерю качества из-за квантизации, высокие вычислительные требования крупной MoE-модели и отсутствие в представленном README подробных сведений о языках естественного общения, точном формате запуска и системных требованиях. Модель распространяется по лицензии DeepSeek License; в метаданных указано имя лицензии deepseek-license.

Qwen2.5-Coder-7B-Instruct-GPTQ-Int8 — инструкционная causal language model из серии специализированных моделей для программирования Qwen2.5-Coder, разработанной командой Qwen. Модель предназначена для генерации, анализа, рассуждений и исправления кода, создания code agents, а также общих текстовых и математических задач. Указанный репозиторий содержит GPTQ-квантизированную 8-битную версию базовой модели Qwen/Qwen2.5-Coder-7B-Instruct. Модель построена на архитектуре Transformers с RoPE, SwiGLU, RMSNorm и bias в QKV-проекциях внимания. Она содержит 7,61 млрд параметров, 28 слоёв и использует Grouped-Query Attention: 28 голов для Q и 4 для KV. Заявленная максимальная длина контекста — до 131 072 токенов, однако текущая конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN. Поддерживается текстовый ввод и вывод, основным языком в метаданных указан английский. Сильные стороны модели — специализация на программировании, улучшенные возможности генерации, рассуждений и исправления кода, а также сниженные требования к памяти благодаря 8-битной GPTQ-квантизации. При использовании YaRN на коротких текстах возможно снижение производительности из-за статического коэффициента масштабирования. Для работы рекомендуется актуальная версия transformers; также поддерживается развёртывание через vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-Mythos-Class-Agentic — производная 27-миллиардная плотная модель семейства Qwen, созданная на основе OBLITERATUS/Qwen3.8-27B-OBLITERATED и объединённая с Qwen/Qwen3.8-27B. Разработчик позиционирует её как конфигурацию для диалогов и агентных сценариев с вызовом инструментов; в README заявлены исправленный шаблон чата, поддержка интерфейсов Hermes Agent, Aider и OpenCode, разбиение задач на иерархические этапы и протокол самопроверки рассуждений. В README заявлено контекстное окно 131 072 токена и генерация до 16 384 токенов за один ответ. Указаны гибридная архитектура Mamba SSM и линейного внимания, а также варианты весов BF16, FP8 и AWQ в формате Safetensors; метаданные подтверждают dense-архитектуру семейства Qwen3.5 и наличие интерфейса вызова инструментов. Карточка описывает специализацию на программировании, системных задачах и кибербезопасности, но не предоставляет независимой проверки заявленных оценок и характеристик. Поддерживаются английский, китайский и арабский языки по карточке модели. Лицензия — Apache-2.0.

Qwen3-Coder-Next — открытая языковая модель с открытыми весами, разработанная командой Qwen. Данная GGUF-версия предназначена для локального запуска, прежде всего в качестве основы для coding agents и разработки в IDE или CLI-средах. Модель ориентирована на генерацию и анализ кода, длительное рассуждение, работу с инструментами, выполнение сложных многошаговых задач и восстановление после ошибок выполнения. Это causal language model, прошедшая этапы предварительного обучения и постобучения. Общий размер составляет 80 млрд параметров, из которых при генерации активируется около 3 млрд; без учёта embedding — 79 млрд. Архитектура использует Mixture of Experts с 512 экспертами и 10 активируемыми экспертами, а также гибридные блоки Gated DeltaNet и Gated Attention; модель содержит 48 слоёв. Нативная длина контекста — 262 144 токена. Поддерживается только режим без скрытого рассуждения: модель не формирует блоки <think></think>. README не указывает поддерживаемые языки. К сильным сторонам относятся высокая эффективность по числу активируемых параметров, большой контекст, развитые возможности tool calling и пригодность для интеграции с различными средами разработки, включая Claude Code, Qwen Code, Qoder, Kilo, Trae и Cline. Ограничения включают специализированную ориентацию на программирование, работу только в non-thinking mode и необходимость значительных вычислительных ресурсов для размещения полной модели, несмотря на малое число активируемых параметров. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-14B-Instruct-GGUF — квантованная версия инструкционной модели Qwen2.5-Coder-14B-Instruct, разработанной командой Qwen. Формат GGUF подготовлен bartowski на основе llama.cpp; модель предназначена для локального использования и генерации текста с акцентом на программный код и взаимодействие в формате чата. Модель рассчитана на задачи разработки программного обеспечения и использование в code agents. По заявленным данным, она обучалась на объёме до 5,5 триллиона токенов, включавшем исходный код, текстово-кодовые соответствия и синтетические данные. Поддерживается контекст до 128K токенов благодаря масштабированию RoPE с коэффициентом 4,0. В карточке указана поддержка английского языка; параметры модальности ограничены текстом. Ключевое преимущество модели — специализация на коде, инструкциях и агентских сценариях, а также большой контекст, полезный для работы с крупными файлами и проектами. К ограничениям относятся возможные ошибки, неточности и нежелательный контент, характерные для генеративных моделей, а также влияние квантования на качество и требования к ресурсам. Модель распространяется по лицензии Apache 2.0.

duyntnet/Qwen2.5-Coder-14B-Instruct-imatrix-GGUF — набор imatrix-квантизаций 14-миллиардной instruction-tuned модели Qwen2.5-Coder, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации, анализа, рассуждений и исправления программного кода, а также для создания code agents и решения задач, связанных с математикой и общими языковыми компетенциями. Репозиторий распространяет модель в формате GGUF для запуска через llama.cpp, KoboldCPP, Ollama и совместимые интерфейсы. Это авторегрессионная causal language model на базе архитектуры Transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Модель содержит 14,7 млрд параметров, из них 13,1 млрд без учёта embedding, 48 слоёв и схему GQA с 40 головами Q и 8 головами KV. Заявлена поддержка контекста до 131 072 токенов, однако стандартная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN с коэффициентом 4. Модель обучалась на 5,5 трлн токенов, включая исходный код, текстово-кодовые данные и синтетические данные. В метаданных указано владение английским языком; сведения о мультимодальности отсутствуют. Сильными сторонами являются специализация на программировании, улучшенные возможности генерации, рассуждений и исправления кода, а также поддержка длинного контекста и локального запуска благодаря GGUF-квантизациям. Ограничения включают зависимость характеристик от конкретного варианта квантизации и настроек инференса, необходимость дополнительной конфигурации для контекста свыше 32 768 токенов и отсутствие подробных сведений о точных параметрах квантизации. Лицензия обозначена как other; конкретные условия использования в README не приведены.

Qwen2.5-Coder-32B-Instruct-AWQ — инструкционная версия специализированной серии больших языковых моделей для программирования Qwen2.5-Coder, разработанной командой Qwen от Alibaba Cloud. Модель предназначена для генерации, анализа, рассуждений и исправления исходного кода, а также для создания приложений на основе code agents. Она сохраняет возможности в математике и общих текстовых задачах и может использоваться в диалоговых сценариях и задачах text generation. Это причинная языковая модель на архитектуре Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и Grouped-Query Attention: 40 голов для Q и 8 для KV. Модель содержит 32,5 млрд параметров, 64 слоя и 31 млрд параметров без учёта эмбеддингов. В данном репозитории представлена 4-битная AWQ-квантизированная версия после дообучения по инструкциям. Заявлена поддержка контекста до 131 072 токенов; для входов свыше 32 768 токенов требуется включение YaRN, при этом статическое масштабирование может ухудшать производительность на коротких текстах. В README указан английский язык. Сильные стороны модели — специализация на программировании, улучшенные генерация, рассуждение и исправление кода, большой контекст и сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможное снижение качества или скорости при работе с длинным контекстом через YaRN, а также неуказанные в README точные требования к оборудованию, пропускная способность и результаты отдельных тестов. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-7B-Instruct-GPTQ-Int4 — инструкционная языковая модель для работы с программным кодом из семейства Qwen2.5-Coder, разработанного командой Qwen при Alibaba Cloud. Модель предназначена для генерации, анализа, исправления и объяснения кода, а также для использования в чат-ассистентах и кодовых агентах. Она сохраняет возможности базовой модели в математике и общих задачах. В карточке указано, что модель ориентирована на английский язык. Это causal language model на архитектуре Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV и GQA: 28 голов для Q и 4 для KV. Модель содержит 7,61 млрд параметров, из них 6,53 млрд без учёта embedding, и 28 слоёв. Доступна GPTQ-квантизация до 4 бит, уменьшающая требования к памяти по сравнению с полноразмерной версией. Максимальная длина контекста заявлена до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких запросах. Сильными сторонами модели являются специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также компактный размер и 4-битная квантизация, удобные для локального или ограниченного по ресурсам развёртывания. Ограничения включают зависимость качества и скорости от оборудования и настроек инференса, а также возможное ухудшение производительности при использовании статического YaRN. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B Abliterated — мультимодальная плотная модель на 27 млрд параметров, созданная mlasli на основе Qwen/Qwen3.6-27B. Вариант подготовлен с помощью Heretic v1.4.0: из модели удалено направление отказов, чтобы уменьшить отказы при запросах для исследований безопасности и других сценариев. Модель предназначена для диалогов, работы с изображениями, программирования и агентных задач; карточка также указывает поддержку нескольких языков. Контекст составляет 262 тыс. токенов с возможностью расширения до 1 млн. README заявляет, что абляция сохраняет общие возможности базовой модели, но не добавляет новых знаний или навыков. Для запуска требуется около 55 ГБ VRAM в BF16, 28 ГБ в 8-битном или 17 ГБ в 4-битном режиме. Лицензия — Apache-2.0.

unsloth/Qwen3-Coder-Next-FP8-Dynamic — FP8 Dynamic 2.0-квантизированная версия открытой весовой языковой модели Qwen3-Coder-Next, разработанная Qwen и адаптированная Unsloth. Модель предназначена прежде всего для coding agents, локальной разработки, генерации и анализа кода, длительных многошаговых задач, работы с инструментами и интеграции с CLI- и IDE-средами. Это авторегрессионная causal language model с гибридной архитектурой Gated DeltaNet, Gated Attention и Mixture of Experts. Всего модель содержит 80 млрд параметров, из которых активируются 3 млрд; без учёта embedding — 79 млрд. Архитектура включает 48 слоёв, 512 экспертов MoE, 10 активируемых экспертов и один общий эксперт. Нативная длина контекста — 262 144 токена. Модель работает только в non-thinking режиме и не генерирует блоки <think></think>. README не указывает поддерживаемые языки или мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильные стороны модели — высокая вычислительная эффективность при малом числе активных параметров, поддержка длинного контекста, многошагового агентного рассуждения, сложного использования инструментов и восстановления после ошибок выполнения. Ограничения включают высокие требования к памяти и инфраструктуре из-за общего размера 80 млрд параметров; при нехватке памяти рекомендуется уменьшать контекст. Модель распространяется по лицензии Apache-2.0.

Карточка модели roskosmos19/Rhea-4B-Coding-max на Hugging Face совпадает с карточкой roskosmos19/Orca-2-4B-Coding-max, поэтому описание составлено по ней. Rhea-4B-Coding — дообученная Roskosmos19 модель для программирования на базе Aquiles-ai/Athenea-4B-Coding. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров; она работает через Transformers, принимает текст и генерирует текст. В карточке заявлено контекстное окно до 262 144 токенов. Модель предназначена для рассуждений о коде, его написания и дополнения, отладки, проектирования алгоритмов и понимания программ. Она обучена на программных данных с трассами рассуждений и ориентирована на многошаговый цикл: первоначальная реализация, самопроверка на ошибки и улучшение итогового решения. Также заявлена поддержка сценариев с агентными инструментами. Модель рассчитана на задачи разработки с несколькими языками программирования; метаданные указывают английский язык. Карточка описывает её как uncensored и предназначенную для исследований и экспериментов. Лицензия — Apache-2.0. Качество рассуждений и работы с инструментами зависит от запроса и настроек инференса; отдельные результаты оценки в карточке не приведены.

TechxGenus/DeepSeek-Coder-V2-Lite-Instruct-AWQ — AWQ-квантизированная версия DeepSeek-Coder-V2-Lite-Instruct, разработанная командой DeepSeek AI. Это инструкционно настроенная языковая модель для работы с кодом, программирования, генерации и объяснения исходного кода, а также задач математического и общего рассуждения. Модель построена на архитектуре Mixture-of-Experts (MoE) семейства DeepSeekMoE и содержит 16 млрд параметров, из которых при обработке активируется около 2,4 млрд. Контекстное окно составляет 128 000 токенов. Семейство DeepSeek-Coder-V2 заявляет поддержку 338 языков программирования; модель предназначена прежде всего для текстовых и кодовых сценариев и не относится к мультимодальным моделям. Формат AWQ ориентирован на более эффективное размещение и выполнение модели по сравнению с полноразмерными весами, однако README не приводит конкретных требований к оборудованию или результатов именно для этой квантизированной версии. Сильными сторонами являются специализация на программировании, большой контекст, MoE-архитектура с относительно небольшим числом активных параметров и поддержка широкого набора языков программирования. Ограничения включают отсутствие в README подробных сведений о качестве AWQ-версии, аппаратных требованиях, точности квантизации и языках естественного общения. Для модели указана лицензия deepseek-license; условия следует проверять в прилагаемом LICENSE и соглашении на использование модели.

Muse Glimmer-30B — мультимодальная причинная языковая модель, разработанная Meta Superintelligence Lab и представленная в квантованном формате professorf для воспроизводимости исследований. Модель предназначена прежде всего для автономных агентных задач на пользовательском оборудовании: многошагового рассуждения, вызова инструментов, написания и отладки кода, выполнения длительных рабочих процессов и восстановления после ошибок. Она рассчитана на локальную работу без облачной инфраструктуры и сетевого доступа и совместима с различными агентными оркестраторами, включая OpenClaw и Hermes Agent. Модель содержит около 29,6 млрд параметров и построена как плотный causal Transformer с выделенным perception encoder примерно на 1,8 млрд параметров для обработки изображений. Поддерживаются входные данные в виде текста и изображений, а на выходе генерируется текст. Архитектура включает 52 слоя, скрытое измерение 6656, механизм GQA, SwiGLU, локальное и глобальное внимание с окном 2048 токенов, контекст длиной 131 072 и более токенов и до 4096 визуальных токенов на изображение. Модель обучалась на данных более чем на 100 языках; дата отсечения знаний — 4 января 2026 года. К сильным сторонам относятся интеграция рассуждения, надёжного использования инструментов, мультимодального анализа, планирования и восстановления после сбоев, а также оптимизация для локального запуска. Квантование примерно до 4 бит позволяет разместить языковую часть менее чем в 20 ГБ и использовать модель в конфигурациях на 24 или 32 ГБ памяти; заявленная деградация качества составляет около 0,2% для варианта на 32 ГБ и 1,0% для варианта на 24 ГБ по среднему результату 15 бенчмарков. Для ускорения генерации предусмотрен speculative decoding с drafter-моделью DFlash. Ограничения включают высокие требования к памяти, зависимость производительности от аппаратной конфигурации и то, что модель поддерживает изображения только на входе. Лицензия — Apache 2.0.

QuantFactory/Qwen2.5-Coder-14B-Instruct-GGUF — это квантизированная версия инструкционно дообученной языковой модели Qwen2.5-Coder-14B-Instruct, созданная QuantFactory с использованием llama.cpp. Базовую модель разработала команда Qwen; она предназначена для генерации, анализа и исправления программного кода, решения задач по программированию, создания code agents, а также для математических и общеязыковых сценариев. Модель представляет собой causal language model на архитектуре transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV-матрицах внимания. Она содержит 14,7 млрд параметров, из них 13,1 млрд без учёта embedding, 48 слоёв и групповое запросное внимание GQA с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать качество на коротких текстах. В README указан английский язык, модальность — текст. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, улучшенная пригодность для прикладных инструментов разработки и сохранение математических и общих языковых возможностей. Ограничения связаны с требованиями к вычислительным ресурсам, особенностями развёртывания квантизированной версии и возможным влиянием статического масштабирования YaRN на производительность. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen2.5-Coder-32B-Instruct-FP8-dynamic — это вариант instruction-tuned языковой модели Qwen2.5-Coder-32B-Instruct, опубликованный Red Hat AI и представленный в формате FP8 dynamic quantization. Базовую модель разработала команда Qwen компании Alibaba Cloud. Это каузальная текстовая модель, ориентированная прежде всего на генерацию, понимание, исправление и рассуждение по программному коду, а также на использование в кодовых ассистентах и code-agent сценариях. Исходная модель содержит около 32,5 млрд параметров, построена на архитектуре Qwen2 с 64 слоями и Grouped-Query Attention: 40 голов для запросов и 8 для ключей и значений. Заявлена поддержка контекста до 131 072 токенов; базовая конфигурация рассчитана на 32 768 токенов, а для более длинных входов применяется YaRN. Модель работает с текстом на входе и выходе. Qwen2.5-Coder обучалась на корпусе свыше 5,5 трлн токенов и демонстрирует возможности работы более чем с 40 языками программирования, включая генерацию, завершение, рефакторинг и исправление кода. Вариант FP8 dynamic квантует веса и активации линейных операторов трансформера с 16 до 8 бит, что примерно вдвое снижает требования к памяти и размер файлов и может повысить пропускную способность матричных вычислений. Компромиссом является использование квантизированной версии вместо исходной точности; конкретные результаты потери качества для этого репозитория в найденной карточке не приведены. Для исходной Qwen2.5-Coder-32B-Instruct указана лицензия Apache 2.0, однако на странице точного репозитория RedHatAI отдельная лицензия и полноценная карточка модели не указаны.

Qwen2.5-Coder-7B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-Coder, разработанной командой Qwen и опубликованной в репозитории Unsloth. Модель предназначена прежде всего для работы с исходным кодом: генерации, рассуждений по коду, исправления ошибок, задач code completion и создания основы для code agents. Она также сохраняет способности к математике и общим текстовым задачам. Модель является авторегрессионной causal language model на 7,61 млрд параметров, из которых 6,53 млрд не относятся к эмбеддингам. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV-проекциях; предусмотрены 28 слоёв и Grouped Query Attention с 28 головами Q и 4 головами KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется настройка YaRN. Указанный язык — английский. Сильными сторонами модели являются специализация на программировании, улучшенные возможности генерации, анализа и исправления кода, большой контекст и сниженные требования к памяти благодаря 4-битному представлению. Это базовая, а не instruction-tuned модель, поэтому её не рекомендуют использовать непосредственно для диалогов без дополнительного обучения или постобработки. Для запуска рекомендуется актуальная версия transformers и, при необходимости, vLLM; статическое масштабирование YaRN может снижать качество или производительность на коротких текстах. Лицензия — Apache 2.0.

QuantFactory/Qwen2.5-Coder-7B-GGUF — квантизированная версия языковой модели Qwen2.5-Coder-7B, созданная QuantFactory с использованием llama.cpp на базе Qwen/Qwen2.5-7B. Модель предназначена для генерации, анализа и исправления программного кода, задач code reasoning, заполнения кода и построения приложений, включая code agents. Она также сохраняет возможности для математики и общих текстовых задач, однако базовая, не дообученная версия не рекомендуется для диалогового использования. Это каузальная языковая модель с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещений QKV в механизме внимания. Модель содержит 7,61 млрд параметров, из них 6,53 млрд — без учёта embedding-слоя, имеет 28 слоёв и групповое разделение запросов и ключей/значений: 28 голов Q и 4 головы KV. Заявлена поддержка контекста до 131 072 токенов; для входов свыше 32 768 токенов требуется настройка YaRN, при этом статическое масштабирование может снижать качество на коротких текстах. В README указан английский язык и текстовая модальность. К сильным сторонам относятся специализация на программировании, улучшения генерации, рассуждения и исправления кода, а также возможность работы с длинным контекстом. Ограничения включают необходимость корректной настройки YaRN для очень длинных входов, потенциальное влияние этой настройки на короткие тексты и отсутствие рекомендаций использовать базовую модель для обычных разговоров. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-Next-FP8 — открытая языковая модель компании Qwen, предназначенная прежде всего для coding agents, локальной разработки и интеграции с CLI- и IDE-инструментами. Она ориентирована на генерацию и анализ кода, длительные многошаговые задачи, использование инструментов и восстановление после ошибок выполнения. Модель поддерживает интеграцию с различными средами разработки, включая Claude Code, Qwen Code, Qoder, Kilo, Trae и Cline. Это причинная языковая модель с гибридной архитектурой Gated DeltaNet, Gated Attention и Mixture of Experts. Всего она содержит 80 млрд параметров, из которых активируется около 3 млрд; число параметров без учёта эмбеддингов составляет 79 млрд. Архитектура включает 48 слоёв, 512 экспертов MoE, 10 активируемых экспертов и одного общего эксперта. Нативная длина контекста — 262 144 токена. Доступна версия с fine-grained FP8-квантизацией с размером блока 128, что предназначено для более эффективного локального и серверного запуска. К сильным сторонам относятся высокая эффективность по числу активных параметров, поддержка длинного контекста и возможности агентного взаимодействия. Ограничение состоит в том, что модель работает только в режиме без рассуждений и не формирует блоки <think></think>; README также предупреждает о возможных проблемах с памятью при использовании максимального контекста. Модель распространяется по лицензии Apache 2.0.

Qwen2.5-Coder-14B — плотная причинная языковая модель для кода, разработанная командой Qwen. Это базовый чекпойнт серии Qwen2.5-Coder на 14,7 млрд параметров (13,1 млрд без эмбеддингов), полученный дообучением Qwen2.5-14B на данных с исходным кодом, текстово-кодовым соответствием и синтетическими примерами. Архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV; модель содержит 48 слоёв и поддерживает генерацию текста через Transformers. Модель предназначена для генерации, анализа и исправления кода, а также для задач с заполнением пропусков в коде и создания кодовых агентов. Она сохраняет способности к математике и общим языковым задачам. Контекст конфигурации составляет 32 768 токенов; с YaRN модель можно настроить на обработку контекста до 131 072 токенов. Разработчики не рекомендуют использовать базовую версию для диалогов без дополнительного постобучения. Для длинных запросов масштабирование YaRN может повлиять на качество обработки коротких текстов. Лицензия — Apache-2.0.

Qwen2.5-Coder-14B-Instruct-bnb-4bit — 4-битная квантизированная версия инструкционной языковой модели Qwen2.5-Coder-14B-Instruct, разработанной командой Qwen. Модель предназначена для генерации, анализа и исправления программного кода, задач кодового рассуждения, текстово-кодового взаимодействия и создания приложений на основе code agents. Она также сохраняет возможности для математических и общих языковых задач. Модель относится к causal language models и использует архитектуру Qwen2.5-Coder с RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. В названии указано 14 млрд параметров и 4-битное представление bnb, однако README не приводит подробные характеристики именно этой версии, включая точную длину контекста, число слоёв, модальности и список поддерживаемых языков. Указан английский язык. К сильным сторонам относятся специализация на программировании, улучшения в генерации, рассуждении и исправлении кода, а также сниженные требования к памяти благодаря квантизации. Ограничения и результаты конкретной версии в README подробно не описаны. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется использовать актуальную версию библиотеки transformers; версии ниже 4.37.0 могут вызывать ошибку, связанную с архитектурой qwen2.

Карточка модели blestv85/Qwen2.5-Coder-32B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

Qwen2.5-Coder-3B-Instruct-GGUF — инструкционно дообученная языковая модель для работы с программным кодом из серии Qwen2.5-Coder, разработанная командой Qwen. Она предназначена для генерации, анализа, рассуждений и исправления кода, а также для создания диалоговых приложений и code agents. Модель сохраняет общие способности в математике и других текстовых задачах. Модель использует авторегрессионную архитектуру causal language model с RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Она содержит 3,09 млрд параметров, 36 слоёв и GQA с 16 головами для Q и 2 для KV. Полный контекст составляет 32 768 токенов. Репозиторий предоставляет GGUF-квантизации q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0, подходящие для локального запуска, в частности через llama.cpp. В метаданных указан английский язык; модальность — текстовая. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждения и исправление кода, а также широкий выбор квантизаций для локального использования. Ограничения включают размер контекста 32 768 токенов для GGUF-версии и отсутствие заявленной поддержки последовательностей до 131 072 токенов в этом формате; для такой длины рекомендуется использовать не-GGUF-модели. Указана лицензия qwen-research; точные условия следует уточнять в файле лицензии.

Replete-Coder-Qwen2-1.5b — дообученная Rombodawg модель семейства Qwen2 с 1,5 млрд параметров для генерации кода и ответов общего назначения. Она предназначена для написания и преобразования кода более чем на 100 языках программирования, помощи в вопросах безопасности кода и уязвимостей, математических задач и диалогового использования. Обучение проводилось на инструкционных данных: около 75% посвящено коду и 25% — задачам общего назначения; README описывает набор примерно из 3,9 млн строк и около 1 млрд токенов. Модель поддерживает диалоговый шаблон ChatML и вызов функций. Модель принимает текст и выдаёт текст. Метаданные указывают контекст до 131 072 токенов, однако README сообщает, что дообучение проводилось с окном 8 192 токена и качество при более длинном контексте не гарантируется. Указаны веса в формате safetensors и лицензия Apache-2.0. Заявление об отсутствии ограничений в обучающих данных отражает описание автора, но не гарантирует точность ответов или безопасное поведение модели.

Карточка модели fanie123/Qwen2.5-Coder-14B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-14B, поэтому описание составлено по ней. Qwen2.5-Coder-14B — плотная причинная языковая модель для кода, разработанная командой Qwen. Это базовый чекпойнт серии Qwen2.5-Coder на 14,7 млрд параметров (13,1 млрд без эмбеддингов), полученный дообучением Qwen2.5-14B на данных с исходным кодом, текстово-кодовым соответствием и синтетическими примерами. Архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV; модель содержит 48 слоёв и поддерживает генерацию текста через Transformers. Модель предназначена для генерации, анализа и исправления кода, а также для задач с заполнением пропусков в коде и создания кодовых агентов. Она сохраняет способности к математике и общим языковым задачам. Контекст конфигурации составляет 32 768 токенов; с YaRN модель можно настроить на обработку контекста до 131 072 токенов. Разработчики не рекомендуют использовать базовую версию для диалогов без дополнительного постобучения. Для длинных запросов масштабирование YaRN может повлиять на качество обработки коротких текстов. Лицензия — Apache-2.0.