II.5Безопасность программного кода и цепочки поставок

gdubicki/Qwen3-Coder-Next-NVFP4-GB10 — публичное зеркало модели saricles/Qwen3-Coder-Next-NVFP4-GB10 с побайтно идентичными весами. В основе лежит Qwen3-Coder-Next, разработанная Alibaba и командой Qwen; NVFP4-квантизацию выполнил saricles с использованием LLM Compressor и калибровки на части набора ultrachat_200k. Модель предназначена прежде всего для генерации кода и развёртывания через Transformers или vLLM, в частности на системах DGX Spark с GPU GB10. Модель использует гибридную архитектуру qwen3_next: 48 слоёв, включая 36 слоёв с линейным вниманием DeltaNet и 12 слоёв с полным вниманием, а также latent MoE с 512 экспертами, из которых для каждого токена активны 10 экспертов и один общий. Всего модель содержит 79,7 млрд параметров, при этом около 3 млрд активны на токен. Квантизация NVFP4 уменьшает размер на диске до 45,9 ГБ; отдельные компоненты сохранены в BF16, а KV-кэш для слоёв полного внимания поддерживает FP8. Максимальная длина контекста составляет 262 144 токена, заявлен язык English. Сильными сторонами являются большой контекст, низкое число активных параметров на токен, сниженные требования к памяти и отсутствие KV-кэша у слоёв DeltaNet. На DGX Spark заявлены скорость около 61 токена в секунду для одного запроса и до примерно пяти одновременных сессий при максимальном контексте. Ограничения включают зависимость от совместимого NVFP4/Marlin-стека и специализированного оборудования; приведённые показатели относятся к конфигурации DGX Spark с vLLM и не гарантируют аналогичную производительность в других средах. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

MaziyarPanahi/speechless-code-mistral-7b-v2.0-Mistral-7B-Instruct-v0.1 — слитая модель на архитектуре Mistral для генерации текста в ответ на инструкции и диалоговые запросы, включая задачи программирования. Она объединяет Mistral-7B-Instruct-v0.1 и uukuguy/speechless-code-mistral-7b-v2.0 методом SLERP; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Модель рассчитана прежде всего на английский язык и код. Модель может помогать писать и объяснять код, отвечать на вопросы и следовать текстовым инструкциям. В репозитории доступны веса Safetensors. Лицензия — Apache-2.0.

Agents-A1-4B-kimi-Preview-heretic — текстовая чат-модель для задач программирования и агентных сценариев, опубликованная автором hotdogs. Это дообученная и изменённая с помощью abliteration версия hotdogs/Agents-A1-4B-kimi-Preview; в README указана архитектура на базе InternScience/Agents-A1-4B. Модель имеет архитектуру Qwen3.5 dense, около 3,4 млрд параметров по метаданным и контекст до 262 144 токенов. Распространяется в формате safetensors с весами BF16; лицензия — AGPL-3.0. Модель предназначена для генерации кода, планирования и отладки, пошаговых рассуждений, многоходовых диалогов и вызова инструментов в агентных сценариях. README сообщает, что модель прошла abliteration для снижения склонности к отказам и заявляет сохранение качества работы с кодом; эти показатели приведены автором и не являются независимой оценкой. Карточка отмечает английский и тайский языки, а также поддержку сценариев с кодом на нескольких языках программирования. Версия обозначена как preview, а автор предупреждает, что модель может выдавать оскорбительный, вредный или неподходящий контент.

Code Llama 13B — базовая генеративная модель Meta для синтеза и понимания кода. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, содержащий 12,9 млрд параметров. Данная версия представлена в формате Transformers и принимает текст, выдавая текст; она поддерживает контекст до 16 384 токенов. Модель предназначена для продолжения и дополнения кода, включая infilling, а также для адаптации к разным задачам генерации и анализа кода. Она рассчитана на английский язык и языки программирования; это базовая версия, а не вариант для следования инструкциям или специализированная Python-модель. Модель может генерировать неточный или нежелательный код, поэтому результаты требуют проверки и тестирования в целевом приложении. Использование регулируется лицензией Meta Llama 2; карточка указывает на наличие коммерческой лицензии Meta.

DeepSeek-Coder-V2-Base — базовая языковая модель для кода, разработанная DeepSeek. Это продолженное предобучение промежуточного чекпойнта DeepSeek-V2 на дополнительных 6 триллионах токенов; модель использует архитектуру Mixture-of-Experts семейства DeepSeek-V2. Для данного репозитория в метаданных указаны 18,1 млрд параметров, а контекст составляет до 163 840 токенов. Модель предназначена для генерации и продолжения кода, вставки кода в заданный фрагмент, а также для задач программирования и математических рассуждений. README заявляет поддержку 338 языков программирования и сохранение возможностей для общих языковых задач; её можно запускать через Transformers и vLLM. Это базовая, а не instruct-версия, поэтому README не описывает её как специально настроенную для следования пользовательским инструкциям. В README указана лицензия, но её тип в доступных данных не раскрыт; перед использованием следует проверить условия лицензирования в репозитории. Для запуска полной BF16-версии README приводит требование 8 GPU с 80 ГБ памяти каждая.

Fireball-12B-v1.01a — дообученная EpistemeAI языковая модель на архитектуре Mistral, основанная на EpistemeAI/Fireball-12B-v1.0. Модель содержит 12,1 млрд параметров и предназначена для генерации текста, выполнения инструкций и помощи с программированием. В README описаны supervised fine-tuning на наборах Code Alpaca и Alpaca Cleaned, а также два этапа ORPO дообучения на предпочтениях. Модель принимает текст и генерирует текст. В карточке указаны мультиязычные и программные данные, а рекомендуемый шаблон запросов — Alpaca. Метаданные указывают контекст до 1 024 000 токенов; в README для исходной модели Mistral Nemo приводится окно 128k, поэтому заявленная длина контекста для этой версии в источниках расходится. Модель выпущена под лицензией Apache 2.0. По README, у базовой модели нет встроенных механизмов модерации; для контролируемого применения следует предусмотреть отдельную модерацию.

Gemma-4-12B-Coder-fable5-composer2.5-4bit — 4-битная MLX-квантизированная версия модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная на базе google/gemma-4-12B-it. Конвертацию и публикацию выполнило сообщество MLX. Модель предназначена для генерации текста, программного кода и решения задач, требующих рассуждений, включая локальное использование в чат-режиме через библиотеку mlx-lm. Указана текстовая специализация; поддерживаемые языки, контекстное окно и дополнительные модальности в README не раскрыты. Архитектура описана как Gemma-4 с размером 12 млрд параметров, а 4-битная квантизация снижает требования к памяти при заявленном сохранении почти исходных возможностей рассуждения и программирования. Основное преимущество — оптимизация для локального запуска на компьютерах Apple Silicon с использованием MLX и возможность свободного использования, изменения и распространения. Ограничения включают зависимость от экосистемы MLX и Apple Silicon для целевого сценария, а также потенциальные потери качества, связанные с квантизацией; фактические показатели производительности и качества в README не приведены. Лицензия — Apache 2.0.

cyankiwi/KAT-Coder-V2.5-Dev-AWQ-INT4 — квантованная версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и опубликованной cyankiwi. Модель предназначена для генерации кода и агентного программирования, включая сценарии с использованием инструментов. Открытые веса совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. Это текстовая MOE-модель с общим числом параметров 35 млрд и примерно 3 млрд активируемых параметров. Визуальные и мультимодальные компоненты в открытой версии отсутствуют. В README указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер файлов модели составляет 24,43 ГБ; вариант AWQ-INT4 ориентирован на более экономичное размещение и запуск по сравнению с полноразмерными весами. К сильным сторонам относятся заявленная высокая производительность в задачах Agentic Coding среди моделей сопоставимого масштаба, а также снижение ряда аномальных поведений после SFT- и RL-обучения, включая некорректные метки инструментов и повторения в одном диалоге. Ограничения включают текстовый характер модели и отсутствие мультимодальности; конкретное максимальное окно контекста в предоставленных данных не указано. Лицензия — Apache-2.0.

Kimi-K2.6-GGUF — версия открытой мультимодальной агентной модели Kimi K2.6 от Moonshot AI, подготовленная Unsloth в формате GGUF с использованием квантования. Модель предназначена для длительных и сложных задач программирования, создания интерфейсов по текстовым и визуальным входным данным, автономного выполнения действий и оркестрации групп специализированных агентов. Модель использует архитектуру Mixture-of-Experts (MoE): около 1 трлн общих параметров, из которых 32 млрд активируются для каждого токена. Она содержит 61 слой, 384 эксперта с выбором 8 экспертов на токен, механизм внимания MLA, активацию SwiGLU и словарь размером 160 тысяч токенов. Контекст составляет 256 тысяч токенов. Для обработки изображений используется vision encoder MoonViT с 400 млн параметров. Заявлены сильные результаты в долгосрочном кодировании на Rust, Go и Python, DevOps, оптимизации производительности, генерации веб-интерфейсов и агентном поиске; поддерживается координация до 300 субагентов и 4000 шагов. Ключевые ограничения связаны с чрезвычайно большими требованиями к ресурсам: например, вариант UD-Q8_K_XL занимает около 595 ГБ. README не содержит полного перечня поддерживаемых языков и подробных требований к оборудованию или программному окружению. Указана лицензия modified-MIT; конкретные условия её применения следует проверять в официальных материалах модели.

Millie 35B-A3B 9GB — компактная версия модели для генерации кода и выполнения агентных задач, опубликованная llmsforall. Это MoE-модель с 35 млрд параметров и примерно 3 млрд активных параметров на токен, построенная на архитектуре Qwen3.5-35B-A3B и созданная на основе Agents-A1. По данным карточки, модель принимает изображения и поддерживает контекст до 262 тысяч токенов. Вариант сжат до файла GGUF объёмом около 9 ГБ: веса экспертов представлены в формате ternary mask-and-sign с точностью 1,69 бита на параметр. Для запуска требуется форк llama.cpp от llmsforall с соответствующими ядрами для Metal, Vulkan или CPU; обычный llama.cpp этот формат не загружает. Метаданные указывают задачу text-generation, чат-возможность и лицензию Apache-2.0. Известное ограничение — специальный формат весов привязывает запуск к совместимому форку.

MiMo-7B-RL-0530 — языковая модель Xiaomi из семейства MiMo, дообученная с подкреплением для математических и программных рассуждений. Это плотная авторегрессионная модель на 7 млрд параметров с контекстом до 65 536 токенов; репозиторий содержит веса в формате safetensors, а метаданные указывают совместимость с Transformers и диалоговый режим с интерфейсом вызова инструментов. Модель предназначена для решения математических задач, генерации и анализа кода, а также диалоговых сценариев, где требуется пошаговое рассуждение. В README описано обучение с подкреплением на задачах математики и программирования с проверкой ответов по правилам. Заявлены результаты, сопоставимые с OpenAI o1-mini, однако они относятся к оценкам разработчиков и конкретным бенчмаркам. Модель принимает и генерирует текст. Метаданные не перечисляют языки, поэтому описание не приписывает ей конкретный набор языков. Лицензия — MIT. Практическое качество может зависеть от формулировки запроса и задачи; результаты рассуждений и сгенерированный код требуют проверки.

MiniMax-M2.5-PRISM-LITE — разговорная модель Ex0bit на базе MiniMaxAI/MiniMax-M2.5, дообученная с помощью конвейера PRISM-LITE. Она предназначена для генерации текста в диалогах, программирования, решения сложных многошаговых задач и работы с агентными сценариями. В карточке заявлены архитектура MoE и подавление чрезмерных отказов при сохранении основных возможностей исходной модели; GGUF-файлы представлены в вариантах IQ1_M и IQ2_M. Указаны английский и китайский языки. Лицензия обозначена как other; README описывает базовую лицензию как модифицированную MIT.

Карточка модели chenqinyuluguan/NeoHorse-1-4B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-4B, поэтому описание составлено по ней. NeoHorse-1-4B — плотная причинно-языковая модель примерно на 3,4 млрд параметров, разработанная TokenRhythm дообучением Qwen/Qwen3.5-4B. Это прототип для текстовых агентных сценариев: диалогов, вызова инструментов, программирования, рассуждений и следования инструкциям. Модель распространяется в формате Safetensors; карточка указывает контекст до 262 144 токенов и совместимость с Transformers, а README описывает локальный запуск через SGLang и vLLM с OpenAI-совместимым API. В README заявлен прирост среднего результата на десяти бенчмарках относительно исходной Qwen3.5-4B. Выпуск содержит только языковые веса: визуальные веса отсутствуют, поэтому этот репозиторий предназначен для текстового вывода, даже несмотря на мультимодальные возможности базовой модели. Фактическая длина контекста при обслуживании зависит от памяти GPU и настроек сервера. Лицензия — Apache-2.0.

OpenCodeInterpreter-DS-6.7B-GGUF — это набор файлов модели в формате GGUF, подготовленный MaziyarPanahi для оригинальной модели m-a-p/OpenCodeInterpreter-DS-6.7B, разработанной организацией m-a-p. Модель относится к классу генеративных текстовых моделей и предназначена прежде всего для работы с программным кодом и задач генерации текста. Модель имеет размер 6,7 млрд параметров и поддерживает несколько вариантов квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые инструменты, включая text-generation-webui, LM Studio, GPT4All и llama-cpp-python, в том числе с GPU-ускорением. В README явно указан английский язык; другие языки, длина контекста, архитектурные детали и результаты оценки не описаны. К сильным сторонам относятся возможность выбора компромисса между качеством и потреблением памяти, а также широкая совместимость с локальными средствами инференса. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, и отсутствием в README подробных данных о производительности, поддерживаемых языках программирования и точных сценариях применения. Указанная лицензия — Apache-2.0.

Ornith-1.0-35B-NVFP4 — квантованная версия модели Ornith-1.0-35B, разработанной DeepReinforce. Это агентная модель для программирования с механизмом self-scaffolding, построенная на архитектуре qwen3_5_moe: MoE-модель с 35 млрд параметров и визуальной башней Qwen3-VL. Она поддерживает обработку текста и изображений и заявлена для английского, китайского, японского и французского языков. Модель использует квантование NVFP4 W4A4 с размером группы 16 и форматом compressed-tensors nvfp4-pack-quantized. Большинство линейных слоёв переведено в NVFP4, а визуальная башня, маршрутизаторы MoE и lm_head сохранены в bf16. Размер весов составляет около 21,9 ГБ вместо 70,3 ГБ в bf16, благодаря чему модель рассчитана на запуск на паре GPU по 16 ГБ через vLLM. В README приведена конфигурация обслуживания с контекстом до 8192 токенов; поддерживается переключение режима рассуждений. Сильные стороны модели — пригодность для агентного программирования, поддержка мультимодальных сценариев, существенно меньшие требования к памяти и сохранение качества после квантования. В тестах HumanEval+ и MBPP+ она показала соответственно 93,9% и 80,6% pass@1 с включённым рассуждением. Ограничения включают необходимость совместимой инфраструктуры vLLM и GPU, а также значительный расход токенов в режиме рассуждений; для оценки кода требуется выделять не менее 6500 токенов и извлекать ответ после блока </think>. Модель и квантованный производный вариант распространяются по лицензии MIT.

PXA Coder 35B — кодовая мультимодальная модель от PXA Network. Это смесь экспертов на архитектуре Qwen MoE с гибридным вниманием: 34,7 млрд параметров и заявленный контекст 262 144 токена. Репозиторий содержит GGUF-веса PXQ4 и F16, а для обработки изображений — отдельный vision-проектор. Модель предназначена для генерации и изменения кода, отладки, рефакторинга, работы с несколькими файлами и крупными кодовыми базами, а также для многошаговых агентных сценариев с использованием инструментов. Она принимает текст и изображения и выдаёт текст; заявлены возможности чата, программирования и анализа изображений. В основе — объединение моделей Qwen 3.6 и Qwen 3.8 с последующим обучением под руководством более крупной модели. Для запуска требуется движок PXA; модель не работает со стандартными сборками llama.cpp, LM Studio, Ollama или text-generation-webui. В карточке отмечено, что поведение отказа намеренно ослаблено и на защитные ограничения модели нельзя полагаться. Лицензия — Apache-2.0.

ThomasBaruzier/Qwen2.5-Coder-1.5B-Instruct-GGUF — набор квантизированных версий инструкционной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и решения задач, связанных с программным кодом, включая чатовые сценарии и работу с запросами на естественном языке. В карточке указана поддержка английского языка. Модель имеет около 1,5 млрд параметров и распространяется в формате GGUF для использования с llama.cpp. Доступны варианты квантизации от IQ1_S до Q5_K_M с размером файлов примерно от 416 МБ до 1,05 ГБ. Квантизация выполнена с использованием imatrix и калибровочного файла Bartowski; варианты различаются соотношением размера, perplexity и точности. Более компактные варианты требуют меньше памяти, но заметнее теряют качество, тогда как версии с более высокой разрядностью обеспечивают лучшие показатели. Ограничения карточки не описывают контекстное окно, полный набор языков, аппаратные требования и подробные результаты на прикладных тестах. Модель ориентирована на текстовую модальность и не предназначена для обработки изображений или других мультимедийных данных. Указана лицензия Apache-2.0.

Qwen2.5-Coder-1.5B-Instruct-MLX-8bit — это компактная инструкционная языковая модель для генерации текста и работы с исходным кодом. Базовую модель разработала команда Qwen, а MLX-квантизацию в формате 8-bit подготовил bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на программирование, взаимодействие в формате чата и использование в code agents. Она обучалась с применением до 5,5 триллиона токенов, включая исходный код, данные для выравнивания текста и кода и синтетические данные. Поддерживается контекст до 32 тысяч токенов; в README явно указан английский язык. Архитектура и точное число параметров в карточке не описаны, однако из названия следует размер класса 1,5B. К сильным сторонам относятся специализация на коде, инструкционный режим, поддержка длинного контекста и оптимизация MLX для Apple Silicon. Ограничения связаны с компактным размером модели, возможными ошибками или неточностями при генерации кода и отсутствием заявленной поддержки других языков в предоставленных данных. Модель распространяется по лицензии Apache 2.0.

Esper 3.1 — дообученная Valiant Labs модель на базе Qwen3.5-27B, предназначенная для рассуждений в программировании, проектировании архитектуры и DevOps. Она подходит для помощи разработчикам и инженерам: от анализа сложных задач и написания кода до настройки инфраструктуры, CI/CD и систем облачного развёртывания. В README также заявлены навыки в MLOps, проектировании систем ИИ и общих рассуждениях. Модель имеет плотную архитектуру Qwen3.5 и 22,3 млрд параметров по метаданным; максимальный контекст составляет 262 144 токена. Она принимает текст и изображения и генерирует текст. В карточке указан английский язык. Модель распространяется в формате Safetensors, лицензия — Apache-2.0. Качество на конкретных задачах и требования к аппаратным ресурсам README не уточняет.

Qwen3.5-9B-Claude-Deckard-Agent-Coder-Heretic-qx86-hi-mlx — языковая модель, опубликованная nightmedia. Это merge-модель на базе семейства Qwen3.5-9B, созданная методом NuSLERP с использованием компонентов Qwen3.5-9B-Agent от armand0e и Qwopus3.5-9B-Coder от Jackrong, а также нескольких промежуточных моделей nightmedia и DavidAU. В описании также указана интеграция с MLX и квантизация qx86-hi. Модель предназначена для программирования, агентских сценариев, рассуждений, генерации и продолжения текстов, включая художественную прозу, ролевые диалоги и различные жанры письма. Поддерживаются английский и китайский языки. Заявленный размер — 9 млрд параметров; точная длина контекста и полный перечень поддерживаемых модальностей не указаны. В шаблоне чата предусмотрено переключение режимов рассуждения с помощью тегов <|think_on|> и <|think_off|>, а также управление сохранением рассуждений через <|think_remember|> и <|think_forget|>. Для варианта qx86-hi приведены perplexity 4,155, пиковое потребление памяти около 15,47 ГБ и скорость около 672 токенов в секунду; эти показатели зависят от оборудования и реализации. К сильным сторонам относятся сочетание агентских и кодовых навыков, поддержка глубокого рассуждения и творческой генерации, а также относительно умеренные требования к памяти благодаря квантизации. Ограничения включают отсутствие подробных независимых оценок качества, неизвестную длину контекста и потенциально менее предсказуемое поведение merge- и uncensored-модели. Лицензия указана как Apache-2.0.

Qwen3.8-Flash-Next-ik-llama-GGUF — это текстовая GGUF-конверсия модели Qwen3.8-Flash-Next, опубликованная пользователем ji-farthing. Файлы собраны непосредственно из BF16-релиза Qwen и предназначены для локального запуска через ik_llama.cpp, прежде всего для генерации текста и агентских задач, включая программирование. Модель использует архитектуру с маршрутизируемыми экспертами, а также поддерживает собственную MTP-head для speculative decoding. Доступны варианты квантизации IQ3_KT и IQ4_KT объёмом соответственно 80,22 и 88,42 ГиБ. Отдельно поставляется MTP-head IQ4_KT объёмом 2,21 ГиБ; она не является самостоятельной моделью и должна загружаться вместе с основной моделью. Указан контекст до 131 072 токенов. Модель текстовая, сведения о поддерживаемых языках в README не приведены. Для работы требуются ik_llama.cpp и сборка с поддержкой qwen4exp MTP; маршрутизируемые эксперты требуют примерно 50,4 ГиБ RAM или VRAM для IQ3_KT и 58,6 ГиБ для IQ4_KT. Ключевые сильные стороны — квантизация с importance matrix, настроенная для агентского программирования, сохранение собственного механизма MTP и высокая эффективность использования памяти за счёт размещения PLE-таблицы на диске. По приведённым измерениям на коде IQ4_KT показывает perplexity 1,8209 против 1,7218 у BF16-версии, а IQ3_KT — 1,8273. Ограничения включают очень большой размер файлов, высокие требования к оперативной памяти и необходимость специализированного runtime; MTP увеличивает объём вычислительного буфера. Лицензия указана как qwen-community-license-1.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — квантованная GGUF-версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen и подготовленной Second State Inc. Модель предназначена для генерации текста и работы с задачами программирования в формате инструкций; конкретные поддерживаемые языки программирования и естественные языки в README не указаны. Модель рассчитана на использование с LlamaEdge и совместима с шаблоном запросов chatml. Указан контекст размером до 256 000 токенов. Доступны варианты квантования GGUF от Q2_K до Q8_0, а также f16; рекомендуемыми названы Q4_K_M, Q5_K_M и Q5_K_S, обеспечивающие различный баланс между размером файла и потерей качества. Описанная конфигурация использует Q5_K_M размером около 5,85 ГБ. Архитектура, точное число активируемых параметров, поддержка мультимодальности и фактические характеристики качества в README не раскрыты. Ограничения связаны с потерями качества при низкобитном квантовании и необходимостью совместимого окружения для запуска. Модель распространяется по лицензии Apache-2.0. Для запуска через LlamaEdge требуется соответствующая версия LlamaEdge и GGUF-файл модели; в README указано, что поддержка LlamaEdge находится в стадии подготовки.

Это пакет слоёв GGUF для модели Qwen3-Coder-30B-A3B-Instruct-UD-Q4_K_XL, подготовленный Mesh LLM на основе unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF. Он сохраняет исходное распределение GGUF в отдельных артефактах по слоям для распределённого инференса на локальном кластере Mesh LLM. Модель предназначена для генерации кода и диалоговых сценариев, включая локальный приватный запуск, обслуживание на нескольких машинах, когда полный файл не помещается на одном узле, и работу через локальный API, совместимый с OpenAI Chat Completions. Вариант пакета обозначен как UD-Q4_K_XL; репозиторий содержит layer-package, а не единый файл GGUF. Пакет основан на семействе Qwen3 и исходной инструкционной модели для программирования. Лицензионные условия следует сверять с карточкой исходной модели; в доступном README конкретная лицензия не приведена.

Это пакет слоёв GGUF для модели Qwen3-Coder-480B-A35B-Instruct, подготовленный Mesh LLM для распределённого инференса на локальном кластере из нескольких машин. Пакет основан на unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF и сохраняет исходные веса в варианте UD-Q4_K_XL, разделёнными на артефакты по слоям. Для запуска используется библиотека mesh-llm; модель поддерживает чат и совместимый с OpenAI API сценарий /v1/chat/completions. Модель предназначена для локального приватного инференса, в том числе когда полный GGUF слишком велик для одного компьютера. Семейство Qwen3-Coder ориентировано на задачи программирования и генерации текста. Пакет позволяет объединять вычислительные ресурсы нескольких машин, но требует подходящего кластера и Mesh LLM. Сведения о лицензии, контекстном окне и языковой поддержке следует уточнять в карточке исходной модели unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF.

DavidAU/Qwen3-Zero-Coder-Reasoning-0.8B-NEO-EX-GGUF — англоязычная текстовая generative-модель для программирования, разработанная DavidAU на базе DavidAU/Qwen3-Zero-Coder-Reasoning-0.8B и распространяемая в формате GGUF. Модель ориентирована на генерацию и анализ кода, мозговой штурм, решение задач и пошаговое рассуждение при разработке. Она может формировать блоки рассуждений перед ответом и подходит для интерактивной работы с подробными инструкциями и итеративным улучшением кода. Заявлены архитектура на платформе Qwen3, 42 слоя и 464 тензора; модель описана как объединение двух моделей размером 0,6B. Максимальный контекст составляет 40 000 токенов, рекомендуемый — от 8 000 до 16 000. Поддерживаются шаблоны Jinja или ChatML. Репозиторий содержит варианты GGUF с разными уровнями квантования и модификациями NEO Imatrix; в README отмечается, что некоторые более компактные кванты могут лучше подходить для отдельных сценариев, тогда как старшие кванты способны давать более качественные решения на сложных задачах. Сильными сторонами являются высокая скорость работы, компактный размер, специализация на коде и способность решать многоэтапные задачи. Ограничения включают возможные повторы блоков кода, чрезмерно длинные рассуждения и зависимость качества от уровня квантования и настроек генерации; для сложных запросов рекомендуется несколько генераций и тщательная формулировка требований. Модель распространяется по лицензии Apache-2.0.

ClaudioItaly/Qwen-Density — объединённая языковая модель на базе Qwen2.5-Coder-7B-Instruct, созданная с помощью mergekit и метода TIES. В конфигурации указаны 7,1 млрд параметров, архитектура Qwen2 для авторегрессионной генерации текста и формат safetensors с точностью bfloat16; базовая модель перечислена трижды с одинаковыми настройками слияния. Модель предназначена для генерации текста в диалоговом формате и может применяться для задач программирования, включая написание, анализ и исправление кода, унаследованные от базовой модели. Контекст составляет до 32 768 токенов. Метаданные указывают интерфейс вызова инструментов, однако README не приводит отдельной оценки качества или примеров работы именно этой сборки. Лицензия в предоставленных данных не указана.

Qwopus3.5-9B-v3 — языковая reasoning-модель, разработанная Jackrong на базе unsloth/Qwen3.5-9B. Она дообучена с акцентом на повышение стабильности и корректности рассуждений, а также эффективности вывода; в описании проекта упоминаются reasoning distillation, структурное выравнивание и применение Unsloth. Основная специализация — программирование, решение задач и сценарии, где важны последовательные рассуждения и обобщение между типами задач. Модель относится к классу 9B и заявлена для работы с английским, китайским и корейским языками. В карточке также указан pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах и мультимодальной архитектуре не приведены. Точная длина контекста, формат квантованных вариантов и другие характеристики инференса не указаны. Для оценки заявлены результаты HumanEval: 87,80% base pass@1 и 82,93% plus pass@1 на 164 задачах, но результаты получены авторами модели в описанных ими условиях и не гарантируют аналогичную эффективность в других сценариях. Сильными сторонами модели являются ориентация на программирование, улучшенные показатели на указанном тесте относительно Qwen3.5-9B и стремление к более коротким и стабильным цепочкам рассуждений. Ограничения включают отсутствие полной информации о качестве на широком спектре задач, контекстном окне, требованиях к ресурсам и возможностях мультимодальной обработки. Модель распространяется по лицензии Apache-2.0.

Rewnozom — разговорная языковая модель для рассуждений и оркестрации, разработанная на основе Qwen/Qwen2.5-7B-Instruct-1M. Это дообученная плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM, 7,1 млрд параметров и контекстом до 1 010 000 токенов. Основной формат весов — safetensors; модель совместима с токенизатором и архитектурой Qwen2 и рассчитана на использование через chat template в Transformers. Модель предназначена для генерации ответов в сценариях, где важны логика, явные ограничения и структурированное выполнение задач: помощи в разработке ПО и проверке кода, планирования реализации и декомпозиции задач, а также поддержки агентных процессов, включая поиск, управление памятью и проверку разрешений. Обучающие данные ориентированы на формальное рассуждение и оркестрацию; для разрешений, переходов состояния и фактического исполнения предполагается детерминированный контроллер. Карточка указывает английский язык. Лицензия — Apache 2.0, как у базовой модели. Модель может выдавать ошибочные или неподтверждённые утверждения; сгенерированный код следует проверять и тестировать, а системный промпт не заменяет валидацию.

Smaug-Agentic — дообученная Abacus.AI модель на основе мультимодальной Kimi K3 от Moonshot AI, предназначенная для агентной работы и рассуждений, прежде всего в задачах программирования. Это плотная с точки зрения представления модели архитектура Kimi K3 с Mixture-of-Experts на 2,8 трлн параметров; обучение изменило поведение, сохранив архитектуру, токенизатор и визуальный энкодер MoonViT-V2 базовой модели. Контекст составляет 1 млн токенов, доступны ввод текста и изображений и генерация текста. Модель дообучена на отфильтрованных многоходовых траекториях программирования с использованием инструментов. По оценкам разработчика, она улучшает показатели базовой модели на ряде тестов рассуждений и агентного программирования; измерения проводились в указанных разработчиком условиях и не являются независимым сравнением. Модель рассчитана на интеграцию с агентными фреймворками, совместимыми с контрактом OpenAI chat completions. Для повторной отправки истории некоторые OpenAI-совместимые серверы требуют удаления нестандартных полей. Лицензия указана как other; конкретные условия следует сверить с лицензией репозитория.

Terminus-Qwen3-8b-i1-GGUF — это квантизированная версия языковой модели Terminus-Qwen3-8b, разработанной OrionLLM и преобразованной в формат GGUF пользователем mradermacher. Модель обучалась на наборе данных OrionLLM/OpenAgentInstruct и ориентирована на генерацию текста, агентские сценарии, рассуждения, работу с терминалом и задачи, связанные с разработкой программного обеспечения, включая SWE-bench. Модель относится к текстовым Transformer-моделям и содержит около 8 млрд параметров. В README указан английский язык, поддержка мультимодальности и размер контекстного окна не заявлены. Репозиторий предоставляет варианты квантизации i1 от IQ1_S до Q6_K с размером файлов примерно от 2,2 до 6,8 ГБ. Квантизация позволяет запускать модель с меньшими требованиями к памяти; при этом низкие уровни квантизации могут заметно снижать качество. В качестве компромисса между размером, скоростью и качеством рекомендован вариант i1-Q4_K_M. Модель подходит для локального запуска в совместимых инструментах, поддерживающих GGUF, особенно для текстовых ассистентов и агентских рабочих процессов. Ограничениями являются заявленная ориентация на английский язык, отсутствие сведений о контекстном окне и неравномерное качество разных вариантов квантизации. Указанная лицензия — Apache-2.0.