II.5Безопасность программного кода и цепочки поставок

Qwen2.5-Coder-7B-Instruct-GGUF — инструкционно дообученная языковая модель для генерации текста и программного кода из семейства Qwen2.5-Coder, разработанного командой Qwen компании Alibaba Cloud. Она предназначена для генерации, анализа и исправления кода, рассуждений о программировании, создания code agents, а также для задач, где требуется сочетание навыков работы с кодом, математикой и общими текстовыми запросами. Модель поддерживает английский язык; README не подтверждает поддержку других языков. Модель представляет собой causal language model в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в Attention QKV. Она содержит 7,61 млрд параметров, из них 6,53 млрд без учёта embedding, 28 слоёв и механизм GQA с 28 головами для Q и 4 для KV. Полная длина контекста этой GGUF-версии — 32 768 токенов. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, поддержка локального запуска через llama.cpp и несколько вариантов квантования. Ограничение GGUF-версии — контекст 32 768 токенов; заявленное расширение до 131 072 токенов с YARN относится к другим условиям и, согласно README, требует vLLM и не-GGUF моделей. Лицензия — Apache 2.0.

Qwen3-Coder-30B-A3B-Instruct-GPTQ-Int8 — это квантизированная в формате GPTQ Int8 версия текстовой причинно-следующей языковой модели Qwen3-Coder-30B-A3B-Instruct. Базовую модель разработала команда Qwen, а данную квантизированную сборку опубликовала QuantTrio. Модель предназначена прежде всего для генерации и анализа программного кода, агентного программирования, вызова инструментов и сценариев агентного взаимодействия с браузером, а также для понимания репозиториев и работы с большими объёмами контекста. Архитектура модели — Mixture-of-Experts: 30,5 млрд параметров всего, из которых 3,3 млрд активируются при обработке запроса. Модель содержит 48 слоёв, 128 экспертов и активирует 8 экспертов; используется Grouped Query Attention с 32 головами запросов и 4 головами ключей и значений. Заявлена нативная длина контекста 262 144 токена с возможностью расширения до 1 млн токенов с помощью YaRN, однако для этой сборки в примере запуска vLLM указана длина 32 768 токенов. К сильным сторонам относятся высокая эффективность разреженной MoE-архитектуры, поддержка длинного контекста, задачи программирования и tool calling. Модель работает только в режиме без рассуждений и не формирует блоки <think></think>. Для запуска рекомендуется vLLM версии 0.10.0; пример конфигурации рассчитан на один узел с четырьмя GPU и требует включения expert parallelism. Размер файлов модели составляет около 30 ГБ, поэтому необходимы значительные аппаратные ресурсы. Распространение заявлено по лицензии Apache 2.0.

Rnj-1.5-Instruct — диалоговая языковая модель Essential AI, дообученная на основе EssentialAI/rnj-1. Она содержит 8,3 млрд параметров и использует плотную архитектуру семейства Gemma 3 Text с чередованием блоков локального и глобального внимания. Окно контекста расширено до 163 840 токенов; модель рассчитана на диалоги, программирование и работу с длинными текстами, включая кодовые репозитории и научные материалы. Модель предназначена для генерации и анализа кода, понимания контекста проекта, ответов на вопросы по длинным документам и использования инструментов в диалоговом интерфейсе. В README отмечены результаты на оценках длинного контекста и SWE-Bench, но они не гарантируют аналогичного качества в конкретных задачах. Модель оптимизирована для понимания длинного контекста, а не для его продолжительной генерации: при очень длинных ответах иногда появляются бессмысленные токены. Распространяется по лицензии Apache 2.0.

MiMo-V2.6-Distill-Qwen-9B GGUF — набор общественных GGUF-квантизаций модели Xiaomi MiMo, основанной на 9B-чекпойнте MiMo-V2.6-Distill-Qwen-9B от Xiaomi MiMo и архитектуре Qwen3.5-9B. Пакет предназначен для запуска через llama.cpp и включает квантизированные файлы языковой модели, а также совместимый BF16 multimodal projector для обработки изображений. Модель ориентирована на программирование, универсальные агентные задачи, visual coding, кибербезопасность, использование инструментов и мультимодальные сценарии с изображениями. Указана гибридная архитектура Qwen3.5 и нативный контекст до 262 144 токенов, однако практическая длина контекста зависит от выбранной квантизации, настроек KV-cache, среды выполнения и доступной памяти. Поддержка видео данным релизом не заявлена; сведения о языках в карточке явно не указаны, хотя калибровочные данные включают английский, китайский, код, tool- и agent-тексты. Доступно несколько вариантов квантизации с размером примерно от 1,97 до 9,53 GB. Q8_0 обеспечивает наибольшую близость к BF16, а IQ4_XS и Q5_K_S обозначены как компромисс между требованиями к памяти и сохранением точности. Низкобитные варианты Q2, IQ2, IQ1 и Q1 имеют заметно худшую fidelity и рекомендованы только для экспериментального использования. Приведённые измерения отражают совпадение следующего токена на ограниченной выборке, а не качество решения задач, программирования, tool use или визуального понимания. Лицензия указана как other; конкретные условия upstream-лицензии не определены.

Qwen2.5-Coder-1.5B-Instruct-GGUF — инструкционно дообученная языковая модель для работы с программным кодом из серии Qwen2.5-Coder, разработанной командой Qwen. Модель предназначена для генерации, анализа, рассуждений и исправления кода, а также для использования в чат-ботах и кодовых агентах. Она сохраняет базовые способности Qwen2.5 в математике и общих задачах. Модель представляет собой каузальную языковую модель в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, 28 слоёв и механизм GQA с 12 головами для Q и 2 для KV. Заявленная длина контекста — 32 768 токенов. Поддерживаются варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. В метаданных указан английский язык; мультимодальность не заявлена. К сильным сторонам относятся специализация на генерации, понимании и исправлении кода, компактный размер и наличие нескольких вариантов квантования для запуска с разными требованиями к памяти. Ограничения включают меньший масштаб по сравнению со старшими моделями серии и отсутствие заявленной поддержки контекста до 131 072 токенов в GGUF-версии; для такого расширения README рекомендует не-GGUF-модели и указывает поддержку YARN для этой задачи в vLLM. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-32B-Instruct-bnb-4bit — 4-битная версия модели Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen и подготовленной с использованием Unsloth. Это каузальная языковая модель, ориентированная прежде всего на работу с программным кодом. Модель предназначена для генерации, анализа и исправления кода, решения задач программирования, кодового рассуждения и создания приложений с использованием code agents. Она также сохраняет возможности базовой серии Qwen2.5 в математике и общих текстовых задачах. В README заявлена поддержка английского языка. Суффикс bnb-4bit указывает на 4-битное квантованное представление, рассчитанное на более экономичное использование памяти. Заявлено 32 миллиарда параметров, однако приведённые в README подробности об архитектуре, числе слоёв и контекстном окне относятся к другой конфигурации Qwen2.5-Coder объёмом 0,5 миллиарда параметров и не подтверждают характеристики именно этой версии. Поэтому точные параметры архитектуры и размер контекста данной сборки следует уточнять отдельно. Модель распространяется по лицензии Apache-2.0.

BCCard/Qwen2.5-Coder-32B-Instruct-FP8-Dynamic — квантизированная версия Qwen2.5-Coder-32B-Instruct, разработанная BC Card. Это текстовая causal language model для генерации, анализа и исправления программного кода, решения задач по программированию, code reasoning и создания code agents. Модель также сохраняет способности к математике и общим текстовым задачам. Входом и выходом служит текст; заявленный язык — английский. Модель использует FP8-квантизацию весов и активаций и предназначена для эффективного инференса, в частности с vLLM версии 0.5.2 и новее. Для исходной серии Qwen2.5-Coder заявлена архитектура на базе transformers с RoPE, SwiGLU, RMSNorm и GQA; для версии 32B README указывает до 128K токенов контекста, однако конфигурация этого репозитория описана как рассчитанная на 32 768 токенов, а расширение до больших контекстов требует YaRN и может снижать производительность на коротких запросах. В документации README также встречаются противоречивые сведения о размере и архитектуре, поэтому точные параметры данной сборки следует проверять по её конфигурации. Сильными сторонами модели являются специализация на коде, поддержка генерации, рассуждений и исправления программ, а также снижение требований к памяти благодаря FP8. Ограничениями выступают зависимость производительности от совместимого оборудования и конфигурации инференса, возможное ухудшение эффективности при статическом масштабировании длинного контекста и неполная согласованность описания параметров в README. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-7B — плотная авторегрессионная языковая модель семейства Qwen2, подготовленная Unsloth на основе Qwen/Qwen2.5-Coder-7B. Она предназначена прежде всего для генерации, анализа и исправления программного кода, а также может применяться в задачах кодовых агентов и рассуждений. В метаданных указаны 7,1 млрд параметров, архитектура Qwen2ForCausalLM, формат safetensors и контекст до 32 768 токенов; README базовой модели сообщает о поддержке расширения контекста до 131 072 токенов с YaRN, но это требует настройки. Модель принимает текст и генерирует текст. README описывает базовую версию как предварительно обученную и не рекомендует использовать её для диалогов без последующего дообучения. В карточке указаны английский язык и лицензия Apache-2.0. Сведения README о 5,5 трлн обучающих токенов и архитектурных деталях относятся к серии Qwen2.5-Coder и исходной модели; они не подтверждают отдельные особенности обучения этой копии Unsloth.

NVFP4/Qwen3-Coder-30B-A3B-Instruct-FP4 — это квантизированная в формате FP4 версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen и подготовленной с использованием NVIDIA Model Optimizer. Модель относится к классу каузальных языковых моделей и предназначена прежде всего для генерации и анализа программного кода, агентного программирования, работы с инструментами и сценариев agentic browser-use. Она поддерживает специальный формат вызова функций и интеграцию с платформами и инструментами, включая Qwen Code и CLINE. Модель имеет 30,5 млрд параметров, из которых активируется 3,3 млрд. Архитектура включает 48 слоёв, MoE-механизм со 128 экспертами и 8 активируемыми экспертами, а также GQA с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 млн токенов с использованием YaRN, что подходит для анализа репозиториев и других объёмных контекстов. Модель работает только в non-thinking режиме и не генерирует блоки <think></think>. К сильным сторонам относятся высокая эффективность за счёт разреженной MoE-архитектуры и FP4-квантизации, поддержка длинного контекста, задач программирования и вызова инструментов. Ограничения включают отсутствие режима reasoning с явной генерацией рассуждений, повышенные требования к памяти и вычислительным ресурсам при использовании длинного контекста, а также возможное снижение качества из-за квантизации по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — GGUF-версия инструкционной модели Qwen3-Coder, разработанной командой Qwen и опубликованной в данной сборке Unsloth. Это авторегрессионная причинная языковая модель, предназначенная прежде всего для генерации и анализа кода, агентского программирования, работы с репозиториями и сценариев агентского использования браузера. Модель поддерживает специальный формат вызова функций и совместима с инструментами и платформами, включая Qwen Code и CLINE. Архитектура использует mixture-of-experts: всего 30,5 млрд параметров, из которых при обработке токена активируется около 3,3 млрд; предусмотрено 128 экспертов, активируются 8. Модель содержит 48 слоёв и применяет Grouped-Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN её можно расширить до 1 млн токенов, что подходит для анализа крупных кодовых баз. Поддерживается только режим без рассуждений: модель не генерирует блоки <think></think>. К сильным сторонам относятся эффективность разреженной MoE-архитектуры, большой контекст и ориентация на программирование и агентские задачи. Ограничения включают отсутствие режима рассуждений и зависимость практической производительности от используемого GGUF-квантизованного варианта и аппаратного обеспечения; конкретные параметры квантизации в README не указаны. Лицензия — Apache 2.0.

Карточка модели falloutxvats/Aero-Qwen2.5-Coder-32B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

CodeQwen1.5-7B-Chat-GGUF — специализированная языковая модель для работы с программным кодом, основанная на Qwen1.5 и разработанная командой Qwen. Это трансформерная decoder-only модель, предварительно обученная на примерно 3 триллионах токенов кода. Представленная версия распространяется в формате GGUF с несколькими уровнями квантования, включая q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать баланс между качеством, размером файла и требованиями к ресурсам. Модель предназначена для генерации и понимания кода, исправления ошибок, задач text-to-SQL и диалогового взаимодействия по вопросам программирования. Она поддерживает контекст длиной до 64K токенов, 92 языка программирования и использует Group Query Attention (GQA) для более эффективного вывода. К сильным сторонам относятся специализация на коде, заявленная конкурентоспособность на ряде бенчмарков и поддержка длинного контекста. Ограничения включают зависимость качества и скорости от выбранного уровня квантования, а также необходимость запуска через совместимое программное обеспечение, например llama.cpp. Модель распространяется по лицензии tongyi-qianwen; точные условия следует уточнять в файле лицензии репозитория.

MiniMax-M1-40k — открытая по весам языковая модель MiniMax AI для рассуждений, генерации текста и работы в агентных сценариях. Она использует гибридную архитектуру Mixture-of-Experts с механизмом lightning attention и обучалась с подкреплением на задачах от математических рассуждений до программной инженерии. Вариант 40k рассчитан на бюджет рассуждений до 40 тысяч токенов; метаданные указывают 21,6 млрд параметров и контекст до 10 240 000 токенов. Модель подходит для решения сложных математических задач, написания и анализа кода, работы с длинными документами и использования инструментов через интерфейс function calling. В карточке приведены результаты тестирования на математических, программных, агентных и длинноконтекстных задачах; авторы рекомендуют температуру 1,0 и top_p 0,95. Модель принимает и генерирует текст. README описывает её как модель общего назначения, но не перечисляет поддерживаемые естественные языки. Лицензия репозитория — Apache-2.0. Для воспроизведения результатов стоит учитывать, что оценки SWE-bench получены на выбранном подмножестве задач с описанной авторами методикой.

MiniMax-M1-80k — открытая по весам языковая модель компании MiniMax для рассуждений и генерации текста. Она построена на гибридной архитектуре Mixture-of-Experts с механизмом lightning attention и содержит 21,6 млрд параметров согласно метаданным. Модель развита на основе MiniMax-Text-01 и обучалась с использованием масштабного обучения с подкреплением на задачах от математики до программной инженерии. Версия 80k рассчитана на расширенное пошаговое рассуждение с бюджетом мышления до 80 тысяч токенов. Заявленная длина контекста — 10 240 000 токенов; модель предназначена для сложных задач с длинными входами, включая решение математических задач, программирование, анализ кода и работу с инструментами. Поддерживает диалоговый режим и интерфейс вызова инструментов. В README разработчик сообщает о высоких результатах на ряде задач по математике, программированию, использованию инструментов и пониманию длинного контекста; приведённые оценки зависят от методики и настроек генерации. Модель работает с текстом и выдаёт текст, а также структурированные вызовы функций. Лицензия — Apache 2.0. README не уточняет поддерживаемые естественные языки.

unsloth/Qwen2.5-Coder-32B-Instruct — инструктивная 32-миллиардная языковая модель для программирования из семейства Qwen2.5-Coder, опубликованная Unsloth как дообученная версия Qwen/Qwen2.5-Coder-32B-Instruct. Это плотная авторегрессионная модель архитектуры Qwen2, рассчитанная на генерацию текста и диалоговое взаимодействие; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации, анализа и исправления кода, рассуждений о программном коде и создания кодовых агентов. Она также сохраняет возможности в математике и общих задачах. В метаданных указан английский язык; README описывает серию как ориентированную на код, но не приводит перечень поддерживаемых языков программирования. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache 2.0. README содержит противоречащие идентификатору модели сведения о модели 0,5B и её архитектурных характеристиках, поэтому эти детали здесь не приписываются версии 32B; оценка сходства с GPT-4o приведена в README как заявление авторов без описания результатов оценки.

Qwen2.5-Coder-32B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-32B-Instruct. Исходную модель разработала команда Qwen, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации, анализа и обработки программного кода, а также для диалогового взаимодействия с применением формата системных и пользовательских сообщений. Доступны варианты с разными уровнями квантизации — от Q8_0 до Q3 и IQ-серий — размером примерно от 14,8 до 34,8 ГБ. Более качественные варианты требуют больше памяти, а компактные позволяют экономить ресурсы с некоторым снижением качества. Формат GGUF поддерживает локальный запуск через совместимые инструменты, включая llama.cpp и LM Studio. В README явно указан английский язык; сведения о других языках, архитектуре, размере контекста и мультимодальности отсутствуют. Некоторые варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки, поэтому совместимость следует проверять отдельно. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-A3B-Coder-MTP-GGUF — это квантизированная GGUF-версия специализированной на коде модели, разработанная ManniX-ITA на основе ManniX-ITA/Qwen3.6-27B-A3B-Coder и Qwen/Qwen3.6-35B-A3B. Модель использует архитектуру Qwen3.5-MoE с 26,66 млрд параметров, из которых около 3 млрд активируются при обработке токена. Она создана методом экспертного прореживания: число экспертов сокращено с 256 до 184 в каждом слое с сохранением маршрутизатора, механизмов внимания, нормализаций, MTP-головы и vision-компонента базовой модели. По умолчанию используется маршрутизация top-10. Доступны многочисленные варианты квантизации, включая F16, Q2–Q8 и IQ-серии. Модель предназначена прежде всего для генерации, анализа и исправления программного кода, а также для задач рассуждения, следования инструкциям и обработки визуальных данных. В README заявлена поддержка английского языка; среди целевых языков программирования упоминаются Rust, Java и JavaScript. На тестах модель показывает особенно сильные результаты в HumanEval, GSM8K и MultiPL-E, где достигает 0,970, 0,970 и 0,840 соответственно. При этом её средний результат немного уступает полной базовой модели, а показатели GPQA-Diamond, MATH-500 и IFEval ниже, поэтому она оптимизирована именно под кодовые сценарии, а не под универсальное качество. Ограничением является склонность к чрезмерно длинным рассуждениям на открытых задачах, особенно на GPQA и AIME; в отдельных случаях модель может израсходовать значительную часть контекста до формирования ответа. Для управления длиной рассуждений рекомендуется использовать соответствующие параметры llama.cpp и при необходимости переключаться на маршрутизацию top-8. Контекстное окно в предоставленных данных не указано. Модель распространяется по лицензии Apache-2.0.

Mungert/Qwen3.6-27B-GGUF — квантованное представление открытой модели Qwen3.6-27B, разработанной командой Qwen. Репозиторий содержит веса в формате GGUF, сгенерированные с помощью llama.cpp. Модель представляет собой каузальную языковую модель с vision encoder и предназначена для локального запуска и интеграции с совместимыми инструментами вывода. Основные сценарии применения — программирование, работа с интерфейсным кодом, анализ репозиториев и агентные задачи разработки. Модель также поддерживает обработку изображений благодаря мультимодальной архитектуре. Она содержит около 27 млрд параметров, 64 слоя и имеет нативный контекст 262 144 токена с заявленной возможностью расширения до 1 010 000 токенов. В архитектуре используются Gated DeltaNet, Gated Attention и feed-forward блоки. Поддерживаемые языки в README не указаны. К сильным сторонам относятся ориентация на реальные задачи разработки, работа с длинным контекстом и сочетание текстовых и визуальных входов. Ограничения, требования к конкретному уровню квантования и потреблению ресурсов для данного файла в README не приведены; характеристики зависят от выбранного GGUF-варианта и оборудования. Модель распространяется по лицензии Apache 2.0.

Qwen3-Coder-30B-A3B-Instruct-FP8 — инструкционная каузальная языковая модель семейства Qwen3-Coder, разработанная командой Qwen. Она предназначена прежде всего для программирования, агентского написания кода, вызова инструментов, использования браузера и понимания крупных репозиториев. Модель подходит для генерации и редактирования кода, решения задач разработки и интеграции в системы, совместимые с Qwen Code, CLINE и форматом function calling. Модель использует архитектуру Mixture-of-Experts: 30,5 млрд параметров всего, из которых при генерации активируется 3,3 млрд; предусмотрено 128 экспертов, одновременно активны 8. Она содержит 48 слоёв и использует Grouped-Query Attention с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN заявлена возможность расширения до 1 млн токенов. Доступен чекпойнт с мелкозернистой FP8-квантизацией с размером блока 128. README не указывает перечень поддерживаемых языков и модальностей; по описанию это текстовая модель. Сильными сторонами являются эффективность благодаря разреженной активации параметров, длинный контекст, ориентация на агентские сценарии и развитые возможности вызова инструментов. Модель работает только в режиме без рассуждений и не формирует блоки <think></think>. Ограничения включают высокие требования к памяти при большом контексте и известную проблему fine-grained FP8 в Transformers при распределённом инференсе; для нескольких устройств может потребоваться CUDA_LAUNCH_BLOCKING=1. Модель распространяется по лицензии Apache-2.0.

AskMeCodes/Qwen3-Coder-30B-A3B-Instruct-GGUF — GGUF-версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Это причинная языковая модель для генерации текста, ориентированная прежде всего на программирование, агентное написание кода, использование браузера и работу с крупными репозиториями. Модель поддерживает интеграцию с инструментами и платформами вроде Qwen Code и CLINE через специальный формат вызова функций. Архитектура основана на Mixture-of-Experts: всего 30,5 млрд параметров, из которых при обработке активируется около 3,3 млрд. Модель содержит 48 слоёв, 128 экспертов, из которых активируются 8, и использует GQA с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена; с использованием Yarn заявлена возможность расширения до 1 млн токенов. Модель работает только в режиме без рассуждений и не генерирует блоки <think></think>; поддержка изображений и конкретный набор языков в карточке не указаны. К сильным сторонам относятся высокая эффективность за счёт разреженной MoE-архитектуры, поддержка длинного контекста и специализация на задачах программирования и агентных сценариях. Ограничением является отсутствие режима thinking, а фактические требования к оборудованию, производительность квантованной GGUF-версии и совместимость с конкретными рантаймами зависят от используемого формата и программного обеспечения. Лицензия — Apache 2.0.

cyankiwi/Qwen3-Coder-Next-AWQ-4bit — это 4-битная AWQ-квантизованная версия Qwen3-Coder-Next, базовой модели, разработанной командой Qwen. Модель представляет собой авторегрессионную языковую модель для генерации текста, ориентированную прежде всего на программирование, coding agents и локальную разработку. Модель предназначена для написания и анализа кода, длительных агентных сценариев, использования инструментов, работы с CLI и IDE, а также восстановления после ошибок выполнения. Она имеет 80 млрд параметров всего, из которых активируются 3 млрд, 79 млрд приходятся на параметры без эмбеддингов. Архитектура включает 48 слоёв с гибридным сочетанием Gated DeltaNet, Gated Attention и Mixture of Experts: 512 экспертов, 10 активируемых экспертов и один общий эксперт. Нативная длина контекста составляет 262 144 токена. Модель работает только в режиме без рассуждений и не генерирует блоки <think></think>; поддержка модальностей и список языков в README не указаны. Сильными сторонами являются высокая вычислительная эффективность за счёт малого числа активируемых параметров, большой контекст и развитые возможности для агентного взаимодействия и вызова инструментов. Ограничения включают необходимость совместимого программного обеспечения и аппаратных ресурсов для эффективного запуска крупной модели, несмотря на квантизацию; при нехватке памяти рекомендуется уменьшать длину контекста. Модель распространяется по лицензии Apache-2.0.

DeepSeek-Coder-V2-Lite-Instruct-GGUF — квантованная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанной DeepSeek-ai и преобразованной в формат GGUF компанией Second State Inc. Это инструкционная модель типа deepseek, ориентированная на работу с программным кодом и взаимодействие в формате диалога. Модель предназначена для генерации, дополнения и анализа кода, а также для решения задач разработки через текстовые инструкции. В README указана поддержка контекста до 128 000 токенов при запуске через LlamaEdge версии 0.12.3 и выше. Данные о точном размере модели, языках программирования и естественных языках, а также о поддержке мультимодальности не приведены. Доступно несколько вариантов квантования от Q2_K до Q8_0 и f16. Q4_K_M рекомендован как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с малой потерей качества; более низкая разрядность уменьшает размер файла, но может существенно ухудшать качество. Размеры файлов варьируются от 6,43 ГБ для Q2_K до 31,4 ГБ для f16. Использование регулируется лицензией deepseek-license; в метаданных она обозначена как other.

MiMo-V2.6-Flash-RL — мультимодальная модель генерации текста Xiaomi из серии MiMo-V2.6, обученная с подкреплением для агентных сценариев и самоулучшения. Карточка описывает семейство как разреженную MoE-архитектуру с обработкой текста, изображений, видео и аудио и контекстом до 1 млн токенов; указаны визуальный и аудиокодировщики, а также спекулятивный декодер. Метаданные репозитория, однако, описывают загруженную модель как плотную 12-миллиардную MiMoV2ForCausalLM в формате safetensors FP8, а pipeline_tag задаёт генерацию текста. Модель предназначена для диалогов, работы с инструментами, программирования и продолжительных агентных задач, а мультимодальные возможности семейства рассчитаны на понимание изображений, видео и аудио. В отчёте Xiaomi описаны обучение смешанным RL на задачах кодирования, общих агентов, визуального анализа и кибербезопасности, а также методы оценки траекторий и дистилляции. По карточке указана лицензия MIT. Поскольку сведения о размере и архитектуре в README относятся к серии, а метаданные конкретного репозитория расходятся с ними, характеристики репозитория следует считать более конкретными для загруженного чекпойнта.

Qwen2.5-Coder-7B — плотная причинная языковая модель семейства Qwen2, разработанная командой Qwen. Это базовая предварительно обученная модель на 7,1 млрд параметров, дообученная на основе Qwen/Qwen2.5-7B с упором на программный код. Она предназначена для генерации кода, рассуждений о коде и исправления ошибок, а также может служить основой для кодовых агентов и дальнейшей адаптации под прикладные задачи. Модель принимает текст и генерирует текст. Архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях внимания QKV; заявленная длина контекста в метаданных — 32 768 токенов. Карточка описывает возможности обработки контекста до 131 072 токенов с YaRN, но для этого нужна дополнительная настройка; постоянный коэффициент масштабирования YaRN может снижать качество на коротких входах. Разработчик не рекомендует использовать базовую модель для диалогов без постобучения. Репозиторий распространяется под лицензией Apache-2.0.

AlexAtomic/qwen3-coder-30b-a3b-GGUF — это квантизированная версия Qwen3-Coder-30B-A3B-Instruct, подготовленная AlexAtomic для Atomic Chat в формате GGUF. Модель предназначена прежде всего для агентного программирования, использования браузерных агентов и других задач генерации и анализа кода. Она поддерживает вызов инструментов через специальный формат, совместимый, в частности, с Qwen Code и CLINE, и может работать полностью локально и офлайн. В основе лежит причинная языковая модель с архитектурой Mixture-of-Experts и GQA: 30,5 млрд параметров всего, из которых 3,3 млрд активируются на каждом токене; используется 128 экспертов, 8 из них активны, всего 48 слоёв, 32 Q-head и 4 KV-head. Нативное окно контекста составляет 262 144 токена и может быть расширено примерно до 1 млн с помощью YaRN. Модель работает только в non-thinking режиме и не формирует блоки рассуждений <think></think>. Репозиторий содержит линейку квантов GGUF с importance matrix, что помогает сохранить качество низкобитных вариантов ближе к исходной модели. Доступны варианты от Q2_K до Q8_0; Q4_K_M рекомендован как сбалансированный вариант по размеру, скорости и качеству, а Q6_K и Q8_0 — для максимальной точности. Ограничения включают неизбежные потери качества при низкой битности, значительные требования к оперативной памяти или VRAM и необходимость применять chat template Qwen3 Coder с параметром --jinja. Лицензия — Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct — инструктивная языковая модель для программирования от команды Qwen. Это причинная модель семейства Qwen3 MoE: всего 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; в архитектуре 48 слоёв и 128 экспертов, из которых задействуются 8. Модель принимает текст и выдаёт текст, поддерживает контекст до 262 144 токенов и интерфейс вызова инструментов. Модель предназначена для генерации и анализа кода, агентного программирования и использования в браузерных сценариях. Большое окно контекста помогает разбирать целые репозитории; модель также поддерживает специальный формат вызова функций. Выпускается только в режиме без рассуждений (non-thinking) и не генерирует блоки ``` в ответах. Доступна по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-AWQ-4bit — это 4-битная AWQ-квантизированная версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Модель предназначена для генерации и анализа кода, агентного программирования, использования инструментов и браузера, а также понимания репозиториев и других задач, связанных с разработкой программного обеспечения. Она относится к каузальным языковым моделям и работает в режиме генерации текста без режима рассуждений и блоков <think></think>. Модель построена по Mixture-of-Experts-архитектуре: содержит 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; включает 48 слоёв, 128 экспертов, 8 активируемых экспертов и Grouped Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN может быть расширена до 1 млн токенов. README не указывает поддерживаемые языки и модальности; по описанию модель ориентирована прежде всего на текстовые и программные данные. Сильные стороны модели — эффективность за счёт разреженной активации экспертов, длинный контекст, поддержка вызова функций и сценариев agentic coding, совместимость с инструментами и платформами вроде Qwen Code и CLINE. К ограничениям относятся необходимость подходящего аппаратного обеспечения и снижение требований к памяти именно за счёт 4-битной квантизации, которая может влиять на качество по сравнению с полной точностью; конкретные показатели такого влияния в README не приведены. Модель распространяется по лицензии Apache-2.0.

Карточка модели honore-250/Umucuzi-Coder на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

TheBloke/deepseek-coder-33B-instruct-AWQ — это 4-битная AWQ-квантизированная версия DeepSeek Coder 33B Instruct, разработанной компанией DeepSeek и опубликованной TheBloke. Модель предназначена для задач программирования и компьютерных наук: генерации и объяснения кода, ответов на технические вопросы и работы в сценариях ассистента программиста. Согласно шаблону запросов, она ориентирована только на вопросы, связанные с computer science, и может отказываться отвечать на политически чувствительные, связанные с безопасностью и приватностью, а также другие нетехнические вопросы. Модель основана на архитектуре DeepSeek с 33B параметров и представлена в формате AWQ с 4-битными весами, групповым размером 128 и длиной последовательности 16 384 токена. Файлы поставляются в виде шардированных safetensors; указанный размер репозитория составляет около 18,01 ГБ. Это текстовая модель без заявленной поддержки изображений или других модальностей. Языки обучения и полный перечень поддерживаемых языков в README не указаны. К сильным сторонам относятся сниженные требования к памяти и высокая скорость инференса при сохранении качества, сопоставимого с распространёнными настройками GPTQ. Модель рассчитана на GPU-инференс и поддерживает AutoAWQ, text-generation-webui и Hugging Face Text Generation Inference; сведения о совместимости vLLM в README ограничены моделями Llama и Mistral. Лицензия обозначена как other с названием deepseek; подробные условия следует уточнять в файле LICENSE исходного репозитория.

Kimi K3 — открытая мультимодальная модель с весами от Moonshot AI для агентных сценариев, рассуждений и работы с большими контекстами. В карточке указана архитектура Kimi Delta Attention (KDA), Attention Residuals и разреженный MoE с 896 экспертами, из которых активируются 16; размер модели — 2,8 трлн параметров. Модель принимает текст, изображения и видео, а заявленное контекстное окно составляет 1 млн токенов. Модель предназначена для длительных задач разработки, включая анализ больших репозиториев и управление инструментами, а также для исследовательской и аналитической работы с текстом и визуальными материалами. Она поддерживает режим рассуждения с настраиваемым уровнем усилий и предоставляет reasoning_content. Веса выпущены по лицензии Kimi K3 License; подробные условия лицензии в предоставленных материалах не раскрыты.