II.5Безопасность программного кода и цепочки поставок

Карточка модели LiveUK/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

unsloth/Kimi-K2.7-Code-GGUF — GGUF-квантизированная версия Kimi K2.7 Code, разработанная Moonshot AI и подготовленная Unsloth. Модель ориентирована на агентное программирование и выполнение сложных долгосрочных задач разработки программного обеспечения, включая сквозные рабочие процессы с кодом. По данным README, по сравнению с Kimi K2.6 она повышает качество на практических задачах и примерно на 30% сокращает расход токенов рассуждения. Модель использует архитектуру Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров. Она содержит 61 слой, 384 эксперта, из которых для каждого токена выбираются 8, механизм внимания MLA, активацию SwiGLU и словарь размером 160 тысяч токенов. Контекстное окно составляет 256 тысяч токенов. Также предусмотрен vision-энкодер MoonViT на 400 млн параметров, поэтому модель поддерживает обработку визуальной информации наряду с текстом и кодом. Главные сильные стороны — специализация на программировании, агентных сценариях, работе с длинным контекстом и высокая токеновая эффективность. Ограничениями являются очень большой общий размер модели и значительные требования к вычислительным ресурсам: согласно README, вариант UD-Q8_K_XL занимает около 595 ГБ, а характеристики конкретных GGUF-квантов могут отличаться. Модель распространяется по лицензии Modified MIT; точные условия следует проверять в прилагаемом файле лицензии.

unsloth/Qwen3.6-27B — мультимодальная модель с открытыми весами, основанная на Qwen/Qwen3.6-27B и дообученная после предварительного обучения. Она предназначена для диалогов, программирования, агентных сценариев и работы с изображениями; модель поддерживает вызов инструментов и рассчитана на разработчиков, использующих Transformers и совместимые среды запуска. Архитектура — плотная причинная языковая модель с визуальным энкодером, 27 млрд параметров; контекст составляет 262 144 токена и может расширяться до 1 010 000 токенов. Модель принимает текст и изображения и генерирует текст. В карточке отмечены улучшения в работе с кодом, включая фронтенд-задачи и рассуждение по репозиториям, а также сохранение контекста рассуждений между сообщениями. README упоминает текстовый, графический и видеоввод, однако метаданные классифицируют модель только как image-text-to-text. Указанная лицензия — Apache-2.0.

Claude Opus 4.1 — обновлённая флагманская модель Anthropic с улучшенными возможностями программирования, рассуждений и выполнения агентных задач. Её можно применять для помощи при разработке ПО, решения сложных задач и сценариев, где модель выполняет последовательные действия от имени пользователя. В README указано, что модель набрала 74,5% на SWE-bench Verified. Данных о размере, архитектуре, модальностях, языках, контексте и лицензии в предоставленных материалах нет.

DeepSeek-V4-Flash-0731 — официальная версия модели DeepSeek-V4-Flash, разработанная DeepSeek AI. Она предназначена прежде всего для агентных сценариев, включая работу с инструментами, автоматизацию, разработку программного обеспечения, задачи Code Agent и full-stack разработку. По данным README, модель превосходит DeepSeek-V4-Pro (Preview) на приведённых тестах и сопоставима с сильнейшими проприетарными моделями по ряду агентных и программных задач. Модель имеет ту же структуру, что и DeepSeek-V4-Flash-DSpark, с подключённым модулем speculative decoding. Количество параметров, число активируемых параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Для работы используется библиотека Transformers, а запуск поддерживается через vLLM и SGLang. Предусмотрены уровни reasoning_effort low, high и max, регулирующие объём рассуждений перед ответом. К сильным сторонам относятся улучшенные агентные возможности, высокая результативность в задачах программирования, автоматизации и работы с инструментами, а также поддержка ускоренного speculative decoding через DSpark. Ограничения включают отсутствие Jinja-шаблона чата: для кодирования сообщений и разбора ответов требуется использовать предоставленные Python-скрипты из папки encoding. Для развёртывания необходима специализированная конфигурация инференса и совместимое оборудование; в README приведён пример запуска на узле с 4 GPU GB300. Модель распространяется по лицензии MIT.

Карточка модели ANGELOSEGRETO/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели charleshyella/MISS_V0 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Openai_gpt-oss-20b-CODER-NEO-CODE-DI-MATRIX-GGUF — это специализированная GGUF-квантизация базовой модели openai/gpt-oss-20b, подготовленная DavidAU. Вариант ориентирован прежде всего на генерацию и анализ программного кода, а также поддерживает общий чат, рассуждения, решение задач и мозговой штурм. Для оптимизации заявлены отдельные NEO- и CODER-наборы данных, объединённые в Dual Imatrix (DI-Matrix), применённые к квантизированным версиям модели. Модель использует архитектуру Mixture of Experts с 20B параметров и поддерживает до 24 экспертов, при этом в README рекомендуются 4–8 активных экспертов в зависимости от сценария. Указаны языки и возможности работы преимущественно для английского языка, контекст до 128k токенов, использование инструментов и browsing. Доступны варианты IQ4_NL и MXFP4_MOE; наборы MXFP4_MOE предназначены для эффективного сжатия, но README отмечает проблемы совместимости и качества для некоторых конфигураций. Разработчик сообщает о тестировании на сложных задачах программирования, однако результаты приведены без независимых бенчмарков. Сильные стороны модели — специализация на коде, поддержка длинного контекста, MoE-архитектура и несколько вариантов квантизации. К ограничениям относятся зависимость качества от выбранного числа активных экспертов, параметров сэмплирования и конкретного кванта, а также возможные проблемы MXFP4_MOE из-за особенностей тензоров исходной модели. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-7B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанный пользователем ThomasBaruzier на основе модели Qwen/Qwen2.5-Coder-7B-Instruct. Квантизации созданы с использованием llama.cpp и опции imatrix, с калибровочным файлом Bartowski. Модель предназначена для генерации текста и работы с программным кодом в сценариях локального запуска через совместимое программное обеспечение, включая llama.cpp. В метаданных указан английский язык, однако подробные сведения о языковой поддержке и контекстном окне отсутствуют. Доступны варианты квантизации IQ и Q2–Q5 с размером примерно от 1,8 до 5,2 ГБ. Они позволяют выбирать компромисс между требованиями к памяти и качеством: согласно приведённой таблице, меньшая perplexity и более высокая точность обычно достигаются у более крупных вариантов, при этом лучшие показатели среди указанных имеют Q5_K_S и Q5_K_M. Ограничения зависят от выбранного уровня квантизации: компактные варианты требуют меньше ресурсов, но могут сильнее терять качество. Лицензия — Apache-2.0.

Карточка модели dshive/Qwen3.6-27B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-27B, поэтому описание составлено по ней. Qwen3.6-27B — открытая модель с весами от команды Qwen, представленная как постобученная модель в формате Hugging Face Transformers. Это причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров; она поддерживает чат и интерфейс вызова инструментов. Модель предназначена для программирования, агентных сценариев и работы с изображениями, а README также описывает ввод видео. Указанная длина контекста — 262 144 токена с возможностью расширения до 1 010 000 токенов. В README отмечены задачи на уровне репозитория, разработка интерфейсов и сохранение контекста рассуждений между сообщениями. Модель можно запускать через Transformers и использовать с vLLM, SGLang и KTransformers; для высоких нагрузок авторы рекомендуют специализированные серверы инференса. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct — причинная языковая модель семейства Qwen3-Coder, разработанная командой Qwen. Представленная карточка относится к GGUF-версии Userb1az. Модель предназначена прежде всего для генерации и анализа кода, агентского программирования, работы с инструментами и агентского взаимодействия с браузером, а также для понимания репозиториев и выполнения задач разработки в средах вроде Qwen Code и CLINE. Модель использует mixture-of-experts (MoE) архитектуру: всего 30,5 млрд параметров, из которых при обработке активируются 3,3 млрд; предусмотрено 48 слоёв, 128 экспертов и 8 активируемых экспертов. Используется Grouped Query Attention с 32 головами запросов и 4 головами ключей/значений. Нативная длина контекста составляет 262 144 токена, а с применением YaRN может быть расширена до 1 млн токенов. Это текстовая модель без мультимодальных возможностей, поддерживающая только режим без рассуждений и не генерирующая блоки <think></think>. Языки в карточке явно не указаны. К сильным сторонам относятся заявленная производительность в задачах агентского программирования и browser-use, эффективная MoE-активация и большой контекст для работы с кодовыми базами. Ограничения включают необходимость значительных вычислительных ресурсов при работе с полным контекстом, возможные ошибки нехватки памяти и зависимость от совместимого программного обеспечения; для GGUF-версии конкретные требования к квантизации и аппаратному обеспечению не приведены. Модель распространяется по лицензии Apache-2.0.

nvidia/Qwen3-Coder-480B-A35B-Instruct-NVFP4 — текстовая авторегрессионная языковая модель на архитектуре Transformers, созданная на основе Qwen3-Coder-480B-A35B-Instruct от Alibaba и квантизированная NVIDIA с помощью Model Optimizer. Модель предназначена для генерации кода и текста, а также для использования в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. NVIDIA указывает, что не является владельцем или разработчиком исходной модели, а предоставляет подготовленную квантизированную версию. Модель содержит 480 млрд параметров, принимает и возвращает текстовые последовательности и поддерживает контекст до 256K токенов. Веса и активации линейных операторов в трансформерных блоках квантизированы в формат FP4, что сокращает число бит на параметр с 16 до 4, а требования к дисковому пространству и памяти GPU примерно в 3,5 раза. Версия рассчитана на запуск с TensorRT-LLM на GPU NVIDIA Blackwell, предпочтительно в Linux; заявленная конфигурация тестирования использовала B200. По результатам указанных тестов FP4-версия показала 0,481 на LiveCodeBench и 0,415 на SciCode против 0,486 и 0,412 соответственно у BF16-версии. Языки и дополнительные модальности в README не указаны. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование, однако перед внедрением требуется дополнительная проверка на данных конкретного сценария.

YOYO-AI/QwQ-coder-32B — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом SCE из Qwen/Qwen2.5-Coder-32B, Qwen/QwQ-32B и Qwen/Qwen2.5-Coder-32B-Instruct. Модель содержит 32 млрд параметров и принимает текстовые запросы, генерируя текст, включая программный код; доступны интерфейсы чата и вызова инструментов. Модель предназначена для генерации и анализа кода, помощи в программировании и создания кодовых агентов. Заявленная длина контекста — 131 072 токена. Веса опубликованы в формате Safetensors и используются через Transformers. В метаданных не перечислены поддерживаемые естественные языки. Модель распространяется по лицензии, сведения о которой в предоставленных данных отсутствуют.

Claude Opus 4.7 — модель семейства Opus, разработанная Anthropic для длительно работающих асинхронных агентов. Она развивает возможности Claude Opus 4.6 в программировании и агентных сценариях. Доступный фрагмент карточки обрывается до описания характеристик и конкретных задач, поэтому размер, архитектуру, модальности, языки и контекст модели установить по нему нельзя.

CodeLlama 34B Python — языковая модель для генерации и решения задач программирования, разработанная Meta на базе CodeLlama 34B Python. Версия из этого репозитория преобразована TheBloke в формат GGUF и предназначена для локального запуска через llama.cpp и совместимые приложения и библиотеки. Модель имеет архитектуру LLaMA и размер 34 миллиарда параметров. Она ориентирована на работу с программным кодом и использует текстовый ввод и вывод; заявленный язык — code, без указания поддержки конкретных естественных языков. Модель подходит для написания кода по описанию задачи, соблюдения заданных ограничений и проверки решения на примерах. README не указывает размер контекстного окна и точные характеристики обучения. Ключевое преимущество версии — доступность нескольких вариантов квантования GGUF, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между качеством, потреблением памяти и скоростью работы. Ограничения связаны с потерями качества при использовании более агрессивного квантования, высокой вычислительной нагрузкой 34-миллиардной модели и специализацией преимущественно на коде. Репозиторий распространяется по лицензии Llama 2.

unsloth/Devstral-Small-2507-unsloth-bnb-4bit — 4-битная версия Devstral Small 1.1, подготовленная Unsloth на основе моделей Mistral AI. Devstral разработана в сотрудничестве Mistral AI и All Hands AI как агентная языковая модель для задач программной инженерии, включая исследование кодовых баз, вызов инструментов, редактирование нескольких файлов и работу в составе coding-агентов. Модель содержит 24 миллиарда параметров, использует текстовую модальность и поддерживает контекст до 128 тысяч токенов. Она поддерживает формат function calling Mistral и особенно ориентирована на использование с OpenHands. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского и ряда других языков. Токенизатор Tekken имеет словарь размером 131 тысяча токенов. Сильными сторонами модели являются специализация на агентном программировании, большой контекст, поддержка инструментов и возможность локального запуска, в том числе на одной RTX 4090 или Mac с 32 ГБ оперативной памяти. В SWE-Bench Verified указано качество 53,6% при использовании OpenHands Scaffold. Ограничения включают текстовую природу модели без поддержки изображений и необходимость корректной настройки шаблона запросов и инструментального взаимодействия. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию.

GLM-5.1-FP8 — языковая модель для генерации текста, разработанная командой zai-org (Z.ai). Это флагманская модель следующего поколения, ориентированная прежде всего на агентную разработку программного обеспечения и выполнение сложных инженерных задач с использованием инструментов. Модель предназначена для написания и модификации кода, генерации репозиториев, работы в терминале, поиска информации и длительных многошаговых сессий. По данным README, GLM-5.1 лучше справляется с неоднозначными задачами, умеет декомпозировать проблему, проводить эксперименты, анализировать результаты, выявлять блокеры и пересматривать стратегию в ходе сотен итераций и тысяч вызовов инструментов. Среди заявленных результатов — 58,4% на SWE-Bench Pro, 42,7% на NL2Repo, 63,5% на Terminal-Bench 2.0 и лидирующие показатели на CyberGym и BrowseComp. Модель доступна в FP8-квантизованном варианте и интегрируется с Transformers. В карточке указаны английский и китайский языки, однако сведения о точной архитектуре, числе параметров, размере контекста, поддерживаемых модальностях и системных требованиях отсутствуют. Основные сильные стороны — программирование, агентное взаимодействие с инструментами, длительное планирование и итеративная оптимизация. Ограничения связаны с отсутствием подробных технических характеристик и тем, что приведённые результаты зависят от конкретных бенчмарков, конфигураций и способов использования инструментов. Лицензия — MIT.

Карточка модели ahmed-amedo-1/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели prashim98/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

MiMo-Ornith-9B-AGSI-Abliterated-HQ — объединённая модель на 9,7 млрд параметров, созданная OliviaRossi на основе Xiaomi MiMo-V2.6-Distill-Qwen-9B и Ornith-1.5-9B. В карточке заявлены слияние AGSI и настройка Abliterix, направленная на удаление механизмов отказа. Архитектура — Qwen3_5ForConditionalGeneration с сочетанием линейного внимания GatedDeltaNet и обычного внимания; модель содержит 32 слоя и поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов, рассуждений, программирования и агентных сценариев с вызовом инструментов и выполнением терминальных команд. Автор заявляет поддержку английского и китайского языков, а также сохранение возможностей рассуждения и работы с инструментами после слияния. Репозиторий использует формат safetensors; лицензия — Apache-2.0. Карточка заявляет удаление встроенных механизмов отказа, поэтому модель может отвечать на запросы в областях безопасности и администрирования без обычных ограничений отказа. Эти сведения и характеристики AGSI/Abliterix приведены автором и не сопровождаются в предоставленной карточке независимой проверкой; фактическое качество и безопасность ответов могут зависеть от сценария использования.

Nex-N2-mini — открытая агентная языковая модель компании Nex-AGI, дообученная на базе Qwen3.5-35B-A3B-Base. Она предназначена для разработки программного обеспечения, вызова инструментов, выполнения задач в терминале и исследований с поиском, включая длительные рабочие процессы с обратной связью от среды. Модель объединяет планирование, реализацию, проверку и отладку; заявлены адаптивная глубина рассуждений и согласованный подход к разным агентным задачам. Модель доступна в формате safetensors, работает с библиотекой Transformers и поддерживает диалог. В README описана поддержка function calling и явных трасс рассуждений; для локального развёртывания Nex-AGI рекомендует собственную сборку sglang. Для Nex-N2-mini приведён пример запуска на сервере с двумя H100. Лицензия — Apache-2.0. README заявляет результаты на агентных и программных бенчмарках, но часть таблицы опущена, а подробные показатели Nex-N2-mini в доступном тексте ограничены. Модель ориентирована на сложные агентные сценарии, поэтому её практическая эффективность зависит от окружения, инструментов и вычислительных ресурсов.

CISCai/Qwen2.5-Coder-32B-Instruct-SOTA-GGUF — это квантизированная версия Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и кода в диалоговом формате, включая написание, дополнение и исправление программ. Она поддерживает сценарий Fill-in-the-Middle и использует шаблон запросов ChatML. Модель основана на архитектуре Qwen2 и содержит 32 млрд параметров. Поставляется в формате GGUFv3 с вариантами квантизации от 1 до 4 бит, включая IQ1_S, IQ1_M, IQ2, IQ3 и IQ4 с importance matrix. Размер файлов составляет примерно от 6,8 ГБ, а требуемый объём оперативной памяти — от 7,8 ГБ, в зависимости от варианта. Базовая длина контекста составляет 32 768 токенов; для отдельных файлов доступны варианты с YaRN и контекстом до 131 072 токенов. Основные преимущества — возможность локального запуска через llama.cpp и совместимые интерфейсы, а также снижение требований к памяти благодаря квантизации. При этом наиболее компактные варианты сопровождаются существенной или высокой потерей качества, поэтому выбор файла требует компромисса между размером и точностью. В README язык указан как английский; сведения о поддержке других языков отсутствуют. Файлы совместимы с llama.cpp начиная с версии от 27 февраля 2024 года. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.6-35B-A3B-MLX-8bit — MLX-версия открытой мультимодальной модели Qwen3.6-35B-A3B, подготовленная Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для работы с текстом и изображениями, агентного программирования, анализа репозиториев, фронтенд-разработки и сценариев с вызовом инструментов. Модель поддерживает улучшенное сохранение контекста рассуждений между сообщениями и обработку вложенных структур при tool calling. Архитектура использует Mixture of Experts: всего 35 млрд параметров, из которых при генерации активируется около 3 млрд. Модель содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий эксперт, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. В README не указано, какие языки поддерживаются. К сильным сторонам относятся высокая вычислительная эффективность разреженной MoE-архитектуры, поддержка визуального ввода, длинного контекста, агентного кодирования и локального запуска через MLX. Ограничения включают необходимость совместимой MLX-инфраструктуры и отсутствие в предоставленных данных подробных результатов бенчмарков, требований к оборудованию и описания возможных ограничений качества. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.

WaveCut/Qwen3.8-Flash-Next-REAM-288-Q8E-MLX — квантизированная MLX-версия модели WaveCut/Qwen3.8-Flash-Next-REAM-288, построенная на базе Qwen3.8-Flash-Next. Разработчик карточки — WaveCut; метод REAM создан исследователями Samsung SAIL Montréal. Модель относится к мультимодальному классу image-text-to-text, однако в README подробно описано преимущественно применение для текстовой генерации и agentic coding. Она предназначена для программирования, рефакторинга, математических и общих текстовых задач, а также работы с английским, русским, кодом и редкими сущностями. Точный размер базовой модели и длина контекста в README не указаны. Архитектура использует mixture-of-experts: сохранено 288 экспертных слотов, а 224 удаляемых эксперта не отбрасываются, а объединяются с наиболее похожими сохранёнными экспертами. Основная часть модели квантизирована до 4 бит, экспертные веса представлены в 8-битном формате с группировкой gs64; модель совместима с mlx-vlm и поддерживает стандартный runtime с qwen4_exp. По сравнению с REAP-288 объединение экспертов лучше сохраняет близость к исходной 512-экспертной модели по KL-метрике, а опубликованные 4-битные сравнения показывают сопоставимые или немного более высокие результаты на HumanEval, GSM8K и тесте редких имён, хотя различия статистически незначимы. Ограничение — большой размер текущей сборки: около 107 ГБ, из-за чего она не помещается на GPU с 80 ГБ памяти; генеративное тестирование именно этой сборки не проводилось. Для спекулятивного декодирования требуется отдельный MTP drafter. Лицензия указана как qwen-community-license-1.0.

Qwen3-Coder-30B-A3B-Instruct-Q8_0-GGUF — это версия модели Qwen3-Coder-30B-A3B-Instruct, преобразованная в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo проекта ggml.ai. Модель разработана командой Qwen; данный репозиторий поддерживается ggml-org и предназначен для запуска средствами llama.cpp. Модель относится к классу text-generation и ориентирована на задачи генерации текста и кода в сценариях локального инференса через llama.cpp, включая запуск в командной строке или в режиме сервера. Из доступных данных известно, что используется конфигурация Q8_0 с 30B параметров и архитектурой Mixture of Experts с активной частью 3B параметров, однако сведения о поддерживаемых языках, модальностях и размере контекста в карточке не приведены. Формат GGUF и интеграция с llama.cpp упрощают запуск на совместимом оборудовании, но требования к ресурсам и фактическая производительность зависят от аппаратной конфигурации. Лицензия указана как Apache-2.0. Подробные характеристики, ограничения и рекомендации по применению следует уточнять в карточке исходной модели Qwen/Qwen3-Coder-30B-A3B-Instruct, на которую ссылается README.

unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF — GGUF-версия инструкционной модели Qwen3-Coder-480B-A35B-Instruct, разработанной командой Qwen и опубликованной Unsloth. Это каузальная языковая модель для генерации текста и кода, ориентированная на агентное программирование, использование браузера и другие задачи разработки, включая работу с репозиториями и интеграцию с инструментами вроде Qwen Code и CLINE. Модель использует архитектуру Mixture-of-Experts: 480 млрд параметров всего, из которых 35 млрд активируются при обработке запроса; включает 62 слоя, 160 экспертов и 8 активируемых экспертов, а также Grouped-Query Attention с 96 головами Q и 8 KV-головами. Нативный контекст составляет 262 144 токена, с возможностью расширения до 1 млн токенов посредством YaRN. Модель поддерживает только режим без рассуждений и не генерирует блоки <think></think>. Данные о поддерживаемых языках и мультимодальности в README не указаны; заявлена текстовая генерация. Сильными сторонами являются большой контекст, понимание кода на уровне репозитория и высокая производительность в агентных сценариях. Ограничения включают значительный общий размер модели и необходимость совместимого программного окружения; конкретные требования к оборудованию и производительности для GGUF-вариантов в README не приведены. Модель распространяется по лицензии Apache-2.0.

GadflyII/Qwen3-Coder-Next-NVFP4 — квантованная версия модели Qwen3-Coder-Next, разработанной командой Qwen. Модель предназначена прежде всего для генерации текста и задач программирования, а также для сценариев инференса, где важны уменьшенное потребление памяти и поддержка длинного контекста. Она распространяется в формате compressed-tensors и рассчитана на использование с vLLM. Модель построена на архитектуре Qwen3NextForCausalLM, объединяющей Hybrid DeltaNet, attention и Mixture-of-Experts (MoE). Она содержит 80 млрд параметров, из которых около 3 млрд активируются на каждом токене, использует 512 экспертов, 10 активных экспертов и одного общего эксперта, а также 48 слоёв. Заявленная длина контекста составляет 262 144 токена. Квантование NVFP4 применяется к весам и активациям; размер модели уменьшен примерно со 149 ГБ в BF16 до 45 ГБ. В тестах достигнута работа с контекстом до 128K токенов при FP8 KV cache. К сильным сторонам относятся значительное снижение требований к памяти, MoE-архитектура с малым числом активных параметров и поддержка длинного контекста. На MMLU-Pro квантованная версия показала точность 51,27% против 52,90% у BF16, то есть снижение составило 1,63 процентного пункта. Для работы требуется vLLM с поддержкой NVFP4, версия 0.16.0 или новее, и Transformers 5.0.0 или новее; для многографических систем на Blackwell могут потребоваться специальные исправления vLLM. Модель распространяется по лицензии Apache 2.0, как и базовая модель.