II.2Создание и понимание программного кода

RedHatAI/Qwen3-Coder-Next-FP8-dynamic — это квантизированная версия языковой модели Qwen/Qwen3-Coder-Next, разработанная Red Hat. Модель построена на архитектуре Qwen3NextForCausalLM, принимает текст и генерирует текст и предназначена прежде всего для задач генерации и обработки программного кода. Поддержка инструментов и вызовов функций предусмотрена при развертывании через vLLM. В модели используется квантизация весов и активаций в формат FP8 для линейных операторов внутри трансформерных блоков. Это снижает число битов на параметр с 16 до 8 и примерно на 50% уменьшает требования к дисковому пространству и памяти GPU. Размер модели, языки и максимальная длина контекста в README не указаны. Для работы рекомендуется vLLM; формат хранения — compressed-tensors. В представленном тестировании на SWE-Bench Lite модель получила результат 53 против 49,33 у исходной Qwen3-Coder-Next. Ограничение заключается в том, что приведена только оценка на задаче SWE-Bench Lite, поэтому по этим данным нельзя полноценно судить о качестве на других сценариях и о влиянии квантизации на все типы запросов. Модель распространяется по лицензии Apache-2.0.

btbtyler09/Qwen3-Coder-Next-GPTQ-4bit — квантизированная версия Qwen3-Coder-Next, разработанного командой Qwen и дополнительно подготовленного пользователем btbtyler09. Это языковая модель для генерации кода, общего чата и сценариев с вызовом инструментов, предназначенная для запуска в средах инференса vLLM и SGLang. Модель использует архитектуру Qwen3NextForCausalLM с гибридом линейного и полного внимания, включая DeltaNet. Она построена по схеме Mixture-of-Experts: содержит около 80 млрд параметров, из которых примерно 3 млрд активируются для каждого токена; на каждом шаге выбираются 10 из 512 экспертов. Архитектура включает 48 слоёв, контекстное окно до 262 144 токенов и поддержку инструментального вызова. Экспертные модули квантизированы в INT4 методом GPTQ с размером группы 32, тогда как внимание, общие эксперты, эмбеддинги, нормализации и LM head сохранены в FP16. Размер модели составляет около 47 ГБ вместо примерно 160 ГБ у исходной BF16-версии. К преимуществам относятся существенное уменьшение размера и требований к памяти при сохранении качества: на тесте wikitext-2-raw-v1 ухудшение perplexity относительно исходной модели составило около 0,8%. Ограничения связаны с необходимостью совместимого программного обеспечения и значительных вычислительных ресурсов для работы крупной MoE-модели; README не указывает точные языки, на которых она обучалась, и не приводит более подробных сравнений для задач программирования. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Intel/Qwen3-Coder-Next-int4-AutoRound — это квантованная версия языковой модели Qwen/Qwen3-Coder-Next, разработанная с использованием Intel AutoRound. Модель предназначена для генерации текста и решения задач программирования, включая создание исходного кода, например реализацию алгоритмов. Она поддерживает стандартные сценарии работы через Hugging Face Transformers и сервер vLLM. Модель использует симметричную INT4-квантизацию с group_size 128, что снижает требования к памяти по сравнению с полноразмерной версией. Точные сведения о размере модели, поддерживаемых языках, модальностях и длине контекста в предоставленных данных не указаны. Модель может генерировать фактически неверные, предвзятые, оскорбительные или иным образом нежелательные ответы, поэтому перед использованием в приложениях необходимы тестирование безопасности и проверка результатов. Условия лицензирования должны соответствовать лицензии исходной модели Qwen/Qwen3-Coder-Next; конкретная лицензия в README не указана.

inferencerlabs/Qwen3-Coder-Next-MLX-Q9 — это текстовая генеративная модель для задач программирования, основанная на Qwen/Qwen3-Coder-Next и адаптированная для запуска с использованием MLX. Репозиторий inferencerlabs предоставляет её в формате квантования q9, созданного модифицированной версией MLX. README не содержит точных сведений о разработчике базовой модели, размере, архитектуре, поддерживаемых языках и длине контекста. Модель предназначена для генерации текста и, прежде всего, для сценариев, связанных с написанием и обработкой кода. По приведённым результатам тестирования, на системе с M3 Ultra и 512 ГБ оперативной памяти она достигала примерно 68 токенов в секунду при одиночном запросе и 159 токенов в секунду суммарно при пакетной обработке шести запросов, используя около 83,5 ГиБ памяти. Ключевая особенность модели — высокоточное q9-квантование с заявленным близким к исходному качеством в тестах программирования. Для q9 указаны perplexity 1,21093, точность токенов 97,55% и показатель пропущенной дивергенции 10,50%; эти значения совпадают с приведёнными для q8.5 и немного уступают базовой модели. Ограничения включают высокие требования к памяти, зависимость производительности от оборудования и отсутствие в README сведений о лицензии. Условия использования базовой модели также необходимо уточнять отдельно.

Это квантизированная в MXFP4 версия модели Mattepiu/Qwen3-Coder-Next-REAP-48B-A3B в формате GGUF. Она предназначена для генерации текста и диалогового использования; название базовой модели указывает на специализацию семейства Qwen3 Coder на задачах программирования. В метаданных задача модели обозначена как text-generation, а среди возможностей указана поддержка чата. В README приведены рекомендованные параметры генерации: temperature=1.0, top_p=0.95 и top_k=40. Квантизация MXFP4 уменьшает точность представления весов; подробности о качестве, требованиях к памяти и ограничениях применения в карточке не раскрыты. Лицензия в предоставленных данных не указана.

Qwen3-Coder-Next-Uncensored-Heretic-GGUF — набор GGUF-квантизаций модели llmfan46/Qwen3-Coder-Next-Uncensored-Heretic, созданной независимым разработчиком llmfan46 на основе Qwen3-Coder-Next от Qwen. Модель предназначена прежде всего для локальной разработки, программирования и агентских сценариев, включая работу с инструментами, длительные цепочки рассуждений, восстановление после ошибок выполнения и интеграцию с CLI/IDE-средами. Доступна для llama.cpp, LM Studio, Ollama и других совместимых инструментов. Архитектура исходной модели — каузальная языковая модель с гибридной структурой Gated DeltaNet, Gated Attention и Mixture of Experts. Всего 80 млрд параметров, из которых активируются 3 млрд; 79 млрд параметров относятся к неэмбеддинговым. Модель содержит 48 слоёв, 512 экспертов MoE, из которых активируются 10, и поддерживает контекст до 262 144 токенов. Указан только текстовый режим и режим без рассуждений с блоками <think></think>; сведения о поддерживаемых языках в README не приведены. Это декензурированная версия: по данным автора, она показала 8 отказов из 100 против 100 из 100 у оригинальной модели при KL-дивергенции 0,1488, что указывает на значительно меньшее число отказов при сохранении близости к исходной модели. Основное ограничение — отсутствие подробных независимых оценок качества и языкового охвата, а также необходимость выбирать компромисс между размером и качеством среди вариантов от BF16 до Q3_K_S. Модель распространяется по лицензии Apache-2.0.

DavidAU/Qwen3-Zero-Coder-Reasoning-0.8B-NEO-EX-GGUF — англоязычная текстовая generative-модель для программирования, разработанная DavidAU на базе DavidAU/Qwen3-Zero-Coder-Reasoning-0.8B и распространяемая в формате GGUF. Модель ориентирована на генерацию и анализ кода, мозговой штурм, решение задач и пошаговое рассуждение при разработке. Она может формировать блоки рассуждений перед ответом и подходит для интерактивной работы с подробными инструкциями и итеративным улучшением кода. Заявлены архитектура на платформе Qwen3, 42 слоя и 464 тензора; модель описана как объединение двух моделей размером 0,6B. Максимальный контекст составляет 40 000 токенов, рекомендуемый — от 8 000 до 16 000. Поддерживаются шаблоны Jinja или ChatML. Репозиторий содержит варианты GGUF с разными уровнями квантования и модификациями NEO Imatrix; в README отмечается, что некоторые более компактные кванты могут лучше подходить для отдельных сценариев, тогда как старшие кванты способны давать более качественные решения на сложных задачах. Сильными сторонами являются высокая скорость работы, компактный размер, специализация на коде и способность решать многоэтапные задачи. Ограничения включают возможные повторы блоков кода, чрезмерно длинные рассуждения и зависимость качества от уровня квантования и настроек генерации; для сложных запросов рекомендуется несколько генераций и тщательная формулировка требований. Модель распространяется по лицензии Apache-2.0.

Saikrishna2511/qwen-multitask — компактная модель, дообученная автором на базе Qwen2.5-Coder-0.5B-Instruct для генерации кода и документации. Это плотная авторегрессионная архитектура Qwen2 с 494 млн параметров; модель загружает текстовые запросы и генерирует текст. Для задач используются разные префиксы промптов: описание задачи на естественном языке для создания Python-кода, Java-код для перевода в Python и Python-код для генерации документации. Модель рассчитана прежде всего на работу с Python; качество перевода Java зависит от покрытия обучающими данными. Контекст составляет 32 768 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers; лицензия Apache-2.0.

Qwen-Qwen2.5-Coder-14B-Instruct-GGUF — набор GGUF-квантизированных вариантов модели Qwen2.5-Coder-14B-Instruct, подготовленный Featherless AI Quants. Модель предназначена для генерации текста и прежде всего для задач программирования: написания, дополнения и объяснения кода, а также работы с инструкциями в формате instruct. В README не указаны точные сведения о поддерживаемых языках, длине контекста, архитектуре исходной модели и используемых модальностях, поэтому их характеристики нельзя определить достоверно. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 5,5 до 15 ГБ. Разные уровни квантизации позволяют выбирать между меньшими требованиями к ресурсам и потенциальным сохранением качества исходной модели, однако README не содержит результатов сравнительных оценок. Файлы предназначены для запуска в совместимой с форматом GGUF инфраструктуре. Разработчик исходной модели — Qwen, а квантизацию выполнила команда Featherless AI Quants. Ограничения включают зависимость характеристик от выбранного варианта квантизации и отсутствие в README данных о производительности, системных требованиях, качестве на конкретных тестах и ограничениях применения. Лицензия в README не указана.

Qwen-Qwen2.5-Coder-7B-llamafied — версия Qwen/Qwen2.5-Coder-7B от llamafy, представленная в формате Llama для совместимости с программами, поддерживающими этот формат. Это плотная авторегрессионная модель с 7,1 млрд параметров; метаданные указывают библиотеку Transformers и формат весов Safetensors. Модель предназначена для генерации текста, в том числе программного кода, и поддерживает диалоговый интерфейс. Модель основана на дообученной для кода Qwen2.5-Coder-7B. Указанная длина контекста — 4096 токенов. Карточка заявляет совместимость с программами, поддерживающими формат Llama, однако конкретные результаты конвертации и совместимость отдельных функций не описаны. Лицензия в предоставленных данных не указана.

Qwen3-Coder-30B-A3B-Instruct-GGUF — инструкция-ориентированная текстовая модель для генерации кода и работы с запросами на естественном языке. Базовую модель Qwen3-Coder-30B-A3B-Instruct разработала команда Qwen, а представленные файлы в формате GGUF подготовлены и квантизированы TensorBlock. Модель предназначена для локального запуска и совместима с llama.cpp начиная с указанного коммита. Доступны варианты квантизации от Q2_K до Q5_0 с размером файлов примерно от 11,3 до 21,1 ГБ. В README указано обозначение 30B-A3B, однако подробности архитектуры, число активных параметров, поддерживаемые языки, контекстное окно и мультимодальные возможности не описаны. Варианты квантизации позволяют выбирать между меньшим потреблением памяти и качеством; рекомендуемым назван Q4_K_M как сбалансированный по размеру и качеству, тогда как Q2_K и некоторые Q3-варианты имеют существенные потери качества. Модель подходит для программирования, генерации и редактирования кода, а также для локальных приложений, использующих текстовую генерацию. Ограничения связаны с потерями качества при низкой квантизации и отсутствием в предоставленных данных сведений о производительности, языковом покрытии и максимальной длине контекста. Распространение заявлено по лицензии Apache-2.0.

Qwopus3.5-27B-v3.5 — дообученная Jackrong мультимодальная модель на основе Qwen3.5-27B. Версия 3.5 продолжает Qwopus3.5-27B-v3 с примерно вдвое большим объёмом данных SFT; новая архитектура и отдельный этап RL не заявлены. Модель предназначена для структурированных рассуждений, диалогов, программирования, работы с инструментами и многошаговых агентных сценариев. Метаданные также указывают поддержку анализа изображений и интерфейс вызова инструментов. Архитектура — плотная Qwen3.5 для генерации текста и работы с изображениями; в репозитории представлены веса Safetensors. Заявлена лицензия Apache-2.0. В карточке приведены результаты на выбранных подмножествах MMLU-Pro и SWE-подобном наборе тестов; оценки предварительные и не заменяют независимую проверку на полном наборе задач. Среди ограничений автор отмечает нестабильность рассуждений в отдельных случаях, зависимость работы с инструментами от интеграции со средой и возможность ухудшения отдельных показателей выравнивания. Данные README о языковом охвате шире явно перечисленных в метаданных языков, поэтому в языковые теги включены только указанные там коды.

Qwopus-3.6-27B-Coder — это модель для агентного программирования и рассуждений, разработанная Jackrong на базе Qwopus3.6-27B-v2 и представленная в формате GGUF. Она дообучена для генерации и исправления кода, работы с репозиториями, многошагового выполнения задач, структурированных вызовов инструментов, function calling и взаимодействия с агентными средами. В обучении использовались датасеты с траекториями рассуждений и агентного поведения, включая TraceInversion и lambda/hermes-agent-reasoning-traces. Модель представляет собой плотную модель с 27 миллиардами параметров и поддержкой длинного контекста, однако точная длина контекста в README не указана. Заявлены мультимодальные сценарии image-text-to-text и поддержка работы с изображениями, а также языки English, Chinese, Spanish, Russian и Japanese. Среди сильных сторон указаны ориентация на repository-level задачи, отладку, генерацию патчей, оркестрацию инструментов и сложное логическое рассуждение. Для базовой модели приведены результаты 87,43% на MMLU-Pro и 75,25% на SWE-bench Verified, а для этой версии заявлен результат 67,0% на SWE-bench Verified в режиме без рассуждений. Модель рассчитана на разработческие рабочие процессы, где требуется последовательное использование инструментов и обработка обратной связи от среды. Ограничения включают отсутствие в README подробностей о точной архитектуре, размере контекстного окна, вариантах квантования GGUF и фактических возможностях мультимодального ввода. Лицензия модели — Apache-2.0.

maci0/Qwopus3.6-27B-Coder-NVFP4 — это квантованная версия модели Jackrong/Qwopus3.6-27B-Coder, опубликованная в формате NVFP4. Модель предназначена для агентского программирования, генерации и анализа кода, работы с инструментами и задач, требующих рассуждений в thinking mode. Заявлена поддержка сценариев vision-language, однако подробности о возможностях обработки изображений в README не приведены. Модель имеет плотную архитектуру с 27 млрд параметров, занимает около 18 ГБ и поддерживает контекст до 256K токенов. Она рассчитана на английский и китайский языки. Квантование выполнено по схеме W4A4 с использованием GPTQ, error-compensated rounding и MSE observer; веса упакованы в формат compressed-tensors nvfp4-pack-quantized. Основной целевой стек запуска — vLLM на GPU NVIDIA Blackwell. Для набора wikitext-2 указана perplexity 6.63. К сильным сторонам относятся существенное уменьшение размера модели, ориентация на задачи программирования и совместимость с оптимизированным запуском в vLLM. Ограничения связаны с потерями, возможными при 4-битном квантовании, зависимостью от совместимого оборудования и неполным описанием мультимодальных возможностей. Лицензия — Apache-2.0.

Qwopus3.8-27B-Flash-ATX-IQ4_XS-M-GGUF — это GGUF-квантизированная версия модели Jackrong/Qwopus3.8-27B-Flash, являющейся дообученной моделью на базе Qwen3.8-27B. Рецепт квантизации разработан jakeatx с использованием llama.cpp и собственной importance matrix, рассчитанной для этой модели. Модель предназначена для генерации текста, программирования, агентских сценариев, RAG-анализа и задач с длинным контекстом, включая speculative decoding с MTP-головой. Модель содержит 27,32 млрд параметров и 866 тензоров, использует ту же архитектуру, что и базовая модель, а также включает MTP-слой. Основной формат весов — IQ4_XS с точечными повышениями точности до Q5_0, Q6_K и Q8_0; средний размер составляет 4,60 бита на вес, а файл модели занимает около 14,6 GiB. Рецепт рассчитан на видеокарты RTX 3090 или 3090 Ti с 24 ГБ памяти и позволяет использовать заполненный контекст до 200 тысяч токенов с 8-битным KV-кэшем. В измерениях на RTX 3090 Ti модель показывала преимущество по скорости декодирования над Q4_K_S на контекстах 16–64K, однако на 100K выигрыш был небольшим и зависел от принятия черновых токенов. Сильные стороны модели — эффективная работа на одной видеокарте, поддержка длинного контекста, специализированная оптимизация для короткого рассуждения и агентских циклов, а также ускорение за счёт MTP и speculative decoding. Ограничения включают потери, характерные для 4-битной квантизации, зависимость производительности от acceptance rate черновых токенов и необходимость совместимой сборки llama.cpp с поддержкой используемых ядер и MTP. Модель распространяется по лицензии Apache-2.0.

BennyDaBall/Qwopus3.8-27B-Flash-NVFP4 — локальная квантованная версия модели Qwopus3.8-27B-Flash, разработанной Jackrong. Это GGUF-модель для запуска через llama.cpp и LM Studio, оптимизированная прежде всего для видеокарт NVIDIA Blackwell, включая RTX 5090. Модель предназначена для программирования, агентских сценариев, работы с инструментами и функциями, генерации кода и диалоговых приложений. В основе находится плотная текстовая модель с 27 млрд параметров и 64 текстовыми слоями, использующая NVFP4 для основных матриц внимания, Gated DeltaNet и MLP. В модели сохранена высокоточная MTP-компонента для встроенного speculative decoding без отдельной draft-модели. Выходные, embedding- и крупные MTP-тензоры имеют более высокую точность, а малые служебные тензоры сохранены в F32. Поддерживается контекст до 262 144 токенов. Модель мультимодальная: для анализа изображений используется отдельный совместимый BF16 vision projector. Заявлены языки English, Chinese, Spanish, Russian и Japanese. К сильным сторонам относятся уменьшенный размер по сравнению с исходной BF16-версией, встроенное ускорение генерации через MTP, поддержка изображений, tool use и function calling, а также готовый шаблон чата с поддержкой мультимодального ввода и сохранения reasoning-контента. Основные ограничения связаны с требованиями к окружению: оптимизация и проверка выполнены на одной RTX 5090 с 32 ГБ памяти, необходима свежая сборка llama.cpp с поддержкой NVFP4, мультимодальности и draft-mtp, а старые runtime могут не загрузить тензоры типа 40. Для работы с изображениями требуется дополнительный файл mmproj; доступный контекст в таком режиме может быть уменьшен из-за расхода памяти. Модель распространяется по лицензии Apache-2.0.

Qwopus3.8-27B-GGUF — это набор GGUF-квантизаций модели Qwopus3.8-27B, опубликованный nom666. Модель создана как весовое слияние Qwen3.8-27B с компонентами Qwopus3.6-27B-v2, содержащими дистиллированный стиль рассуждений Opus. Базовую модель разработала команда Qwen, а исходный вклад в дистилляцию Qwopus принадлежит Jackrong. Это не дообучение с градиентами, а арифметическое слияние весов. Модель предназначена прежде всего для генерации текста, инструкционного взаимодействия, программирования и агентских циклов, особенно в режиме без рассуждений. Она сохраняет архитектуру Qwen3.8: 64 слоя, скрытое представление размером 5120, гибридную архитектуру GDN и full attention, словарь примерно на 248 тысяч токенов, контекст до 262 144 токенов и встроенную MTP-голову для speculative decoding. Экспорт в формате nextn позволяет использовать спекулятивное декодирование через llama.cpp. Доступны варианты с 4- и 8-битной квантизацией размером примерно от 16 до 27 ГБ. Сильные стороны модели — высокая эффективность по числу токенов, улучшенное следование инструкциям в non-thinking режиме и совместимость с быстрым локальным обслуживанием через llama.cpp. В приведённых тестах 4-битная версия набрала 37 из 38 заданий в наборе instruct/code/math, а в thinking-режиме сопоставила базовую модель на сложном наборе, используя примерно на 45% меньше токенов рассуждений. Ограничения включают меньшую стабильность на самых сложных задачах в режиме рассуждений и риск превышения жёсткого лимита токенов; для таких сценариев базовая Qwen3.8 может быть предпочтительнее. Лицензия — Apache-2.0.

BenevolenceMessiah/QwQ-32B-Coder-Fusion-9010-1x-TIES-v1.0 — слияние языковых моделей, созданное с помощью mergekit методом TIES. В качестве базовой модели использована huihui-ai/QwQ-32B-Coder-Fusion-9010, также в слияние включена rombodawg/Rombos-Coder-V2.5-Qwen-32b; веса объединены с нормализацией и сохранены в формате bfloat16. Модель предназначена для диалоговой генерации текста, рассуждений и помощи с программированием. Она построена на архитектуре Qwen2, содержит 32 млрд параметров и рассчитана на контекст до 32 768 токенов. Карточка указывает интерфейс чата и вызова инструментов. Модель опубликована в формате safetensors и использует библиотеку Transformers. README не содержит сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя. Поскольку это слияние QwQ- и Qwen2.5-Coder-производных моделей, качество ответов и кода может зависеть от задачи; отдельные результаты оценки в карточке не приведены.

ReasonFlux-Coder-7B — языковая модель для генерации кода, представленная разработчиками семейства ReasonFlux-Coders. В README указано, что модели семейства обучены с помощью алгоритма CURE, который совместно развивает способности к написанию кода и генерации модульных тестов; отдельные численные результаты для версии 7B не приведены. Модель предназначена для генерации кода и тестов, а также для использования в агентных сценариях программирования и подходах с масштабированием вычислений на этапе вывода. Это плотная причинная модель архитектуры Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов. Метаданные указывают на поддержку чата и интерфейса вызова инструментов. Репозиторий содержит веса Safetensors. Лицензия MIT. README не сообщает об ограничениях качества или поддерживаемых естественных языках; заявленное сравнение с другими моделями относится к семейству в целом и не позволяет установить результаты именно версии 7B.

HA-Siala/RefactoringPy-full-v0.1 — дообученная модель семейства Mistral для анализа Python-кода: она выявляет недостатки кода и предлагает его рефакторинг. Это плотная авторегрессионная языковая модель с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст с кодом и выдаёт текст с предложенной переработанной версией. Карточка не раскрывает базовую модель, обучающие данные и метрики качества. Для безопасного использования следует проверять предложения модели: они могут содержать ошибки или менять поведение программы. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

Relace Search — модель для агентного поиска по кодовой базе. Она использует инструменты `view_file` и `grep` параллельно, чтобы находить файлы, относящиеся к запросу пользователя; в карточке подход противопоставлен RAG. README обрывается после описания агентного характера поиска, поэтому дополнительные сведения о разработчике, архитектуре, размере, языках, контексте и лицензии установить нельзя.

Replete-Coder-Instruct-8b-Merged-GGUF — это набор GGUF-квантизаций инструкционной модели для генерации текста и работы с исходным кодом. Базовую модель разработала команда Replete-AI, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска в сценариях программирования, генерации и дополнения кода, а также выполнения текстовых инструкций. Доступны варианты от полноразмерного F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Размер файлов варьируется примерно от 3 до 32 ГБ, что позволяет выбирать между качеством и требованиями к оперативной памяти. Указано, что наиболее качественные варианты Q6 и Q5, а Q4 предлагают хороший баланс размера и качества. Модель имеет 8 миллиардов параметров; сведения о поддерживаемых языках, размере контекста, архитектуре и мультимодальности в README не приведены. К сильным сторонам относятся широкий выбор квантизаций, возможность локального использования через совместимое программное обеспечение и сохранение высокого качества у вариантов Q6 и Q5. Более компактные варианты экономят память, но могут заметно уступать по качеству, особенно Q2 и Q3. Модель распространяется по лицензии Apache-2.0.

teknium/Replit-v1-CodeInstruct-3B — языковая модель для генерации кода и выполнения инструкций, разработанная Teknium на основе Replit Code v1. Это плотная авторегрессионная модель семейства MPT с архитектурой MPTForCausalLM, дообученная на наборах CodeAlpaca и GPTeacher Code-Instruct примерно на 25 тысячах пар «инструкция — ответ» в формате Alpaca. Модель принимает текстовые инструкции и выдаёт текст, в том числе код. Карточка описывает сценарии работы с инструкциями по программированию; сведения о поддерживаемых языках программирования и длине контекста не приведены. Модель подходит для генерации фрагментов кода по запросу и ответов на вопросы о программировании. Для загрузки README указывает необходимость trust_remote_code=True и предупреждает о проблемах с device="auto". Репозиторий содержит веса PyTorch. Лицензия — CC BY-SA 4.0.

Карточка модели roskosmos19/Rhea-4B-fast-0409 на Hugging Face совпадает с карточкой roskosmos19/Orca-2-4B-hight, поэтому описание составлено по ней. Rhea-4B-Agentic — дообученная модель из линейки Rhea/Athenea, представленная rosкошмос19 как оптимизированный вариант для программирования и агентных сценариев. Она построена на архитектуре Qwen3ForCausalLM и содержит 3,7 млрд параметров. Модель генерирует текст, поддерживает диалог и интерфейс вызова инструментов; контекст — 32 768 токенов. Модель предназначена для генерации и анализа кода, рассуждений при решении технических задач и работы агента с инструментами. По заявлению авторов, она использует однопроходную генерацию с необязательным режимом рассуждений, что сокращает задержку и стоимость по сравнению с многошаговой схемой исходной линейки. В карточке упоминаются рекомендации по запуску в vLLM, SGLang и llama.cpp, но файлы модели представлены в формате safetensors. Модель выпущена по лицензии Apache 2.0. Карточка описывает её как оптимизированную для агентных и кодовых задач, однако не приводит результатов сравнительных оценок; для высокой скорости авторы рекомендуют использовать не более 16–24 тысяч токенов контекста.

Ring-flash-linear-2.0-128k — языковая модель компании inclusionAI для генерации текста и диалогов. Она основана на Ling-flash-base-2.0 и дополнительно обучена на 1 трлн токенов. Модель использует гибридную архитектуру линейного и стандартного внимания и разреженную MoE-схему; в README заявлена производительность на уровне плотной модели с 40 млрд параметров при активации 6,1 млрд. Метаданные указывают общий размер 5,5 млрд параметров. Модель предназначена для рассуждений, программирования, научных и математических задач, а также работы с длинными входными и выходными текстами. Нативное контекстное окно составляет 131 072 токена; README указывает на возможность расширения до 512 тыс. токенов с помощью YaRN. Заявлены ускоренная генерация и эффективность обработки длинного контекста. Поддерживаются интерфейсы чата и вызова инструментов. Модель принимает и генерирует текст; в метаданных указан английский язык. Распространяется по лицензии MIT.

Rombos-Coder-V2.5-Qwen-32b-GGUF — квантизированная версия модели Rombos-Coder-V2.5-Qwen-32b, разработанной rombodawg и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации и обработки кода, а также связанных с программированием текстовых запросов. В карточке указана поддержка английского языка и размер базовой модели 32B параметров. Модель квантизирована с использованием llama.cpp и imatrix; доступны варианты от Q3 до Q8 с размером файлов примерно от 15 до 35 ГБ. Версии с более высокой точностью сохраняют лучшее качество, тогда как младшие варианты требуют меньше оперативной памяти, но могут заметнее терять в качестве. Для запуска рекомендуются llama.cpp и LM Studio; в README также приведён шаблон чата с ролями system, user и assistant. Архитектура, размер контекстного окна, дополнительные модальности и результаты оценивания в карточке не указаны. Для отдельных вариантов существуют ограничения по аппаратной платформе: некоторые сборки оптимизированы для ARM и требуют соответствующих инструкций, а их использование на macOS и Windows не рекомендуется. Модель распространяется по лицензии Apache-2.0.

mondk/Safetensors.chatgpt-gpt-codex-V2 — разговорная генеративная модель на архитектуре Qwen3, выпущенная в формате Safetensors. По карточке, она ориентирована на помощь с кодом и стремится давать более аккуратные ответы и отвечать быстрее, хотя автор отмечает небольшое снижение точности кода. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Это дообучение mondk/Safetensors.chatgpt-gpt-gpt5.1-thinking на наборах данных с диалогами, шутками и примерами для задач кодирования. Метаданные отмечают чат и интерфейс вызова инструментов; основной сценарий — генерация текста, в том числе ответы в диалоге и помощь при написании кода. Подтверждённая лицензия — Apache-2.0.

Salience-27B-R6-i1-GGUF — набор GGUF-квантизаций модели Salience-27B-R6, разработанный vectionlabs на базе Qwen3.8. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев и вызова инструментов; заявлена поддержка мультимодальных задач с обработкой изображений через отдельный vision encoder mmproj. Основной язык — английский. Это плотная модель примерно на 27 млрд параметров с гибридной архитектурой: 48 из 64 слоёв используют линейное внимание с рекуррентным состоянием, а остальные — обычное внимание. Для запуска рекомендуется llama.cpp; пример конфигурации использует контекст до 32 768 токенов, шаблон чата jinja и reasoning-формат deepseek. Квантизации используют importance matrix и распределение битов по тензорам, что особенно направлено на сохранение качества вызова инструментов и агентского поведения. Доступны варианты от IQ2_XXS и IQ2_M до Q6_K; размер файлов составляет примерно 8,2–21 ГБ. Сильными сторонами являются поддержка рассуждений, кода, инструментов, длинного контекста и изображений, а также возможность запуска на системах с ограниченной памятью благодаря широкому выбору квантизаций. При этом низкие уровни IQ2 и Q2 не рекомендуются: качество заметно снижается, а ошибки могут сильнее накапливаться при увеличении длины контекста. Для обработки изображений требуется отдельный файл vision encoder; без jinja-шаблона возможны некорректные вызовы инструментов. Модель и квантизации распространяются по лицензии Apache-2.0.

loubnabnl/santacoder-code-to-text — дообученная разработчиком модель BigCode на базе bigcode/santacoder для генерации текстовых описаний по коду. Она предназначена для преобразования кода, в том числе из Jupyter-ноутбуков, в текстовое описание. Модель использует архитектуру GPT-2 и доступна в формате PyTorch; максимальная длина контекста составляет 2048 токенов. Для модели указана лицензия OpenRAIL.

Sarvam-105B — созданная Sarvam AI языковая модель с архитектурой Mixture-of-Experts и MLA-style attention. По README, у неё 10,3 млрд активных параметров, 128 экспертов с маршрутизацией top-8 и контекст до 128 тыс. токенов; метаданные Hugging Face указывают общий размер 9,7 млрд параметров. Модель предназначена для генерации текста и диалогов, сложных рассуждений, математики, программирования и агентных сценариев, включая веб-поиск и техническую диагностику. При обучении особое внимание уделялось индийскому контексту и 22 языкам Индии. В метаданных перечислены английский и ряд языков Южной Азии; карточка заявляет сильные результаты на тестах рассуждений и агентных задач. Для запуска README описывает использование Transformers и варианты развёртывания через vLLM и SGLang, включая специальные настройки. Модель распространяется по лицензии Apache 2.0.