II.5Безопасность программного кода и цепочки поставок

Карточка модели Svenuks/Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на Hugging Face совпадает с карточкой medismera/Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic, поэтому описание составлено по ней. medismera представил производную модель Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на основе слияния Qwen3.8-27B-OBLITERATED и Qwen/Qwen3.8-27B. Это плотная модель семейства Qwen3.5 с 27 млрд параметров для диалоговой генерации текста и работы в агентных сценариях. В карточке заявлены шаблон чата с поддержкой вызова инструментов, разбиение задач на иерархические этапы, протокол самопроверки рассуждений и контекст до 131 072 токенов; максимальная длина генерации указана как 16 384 токена. Модель предназначена для программирования, анализа системных журналов и телеметрии, многошаговых технических задач и взаимодействия с инструментами через совместимые агентные среды. Указаны английский, китайский и арабский языки. Репозиторий описывает веса в формате Safetensors и приводит варианты BF16, FP8 и AWQ в ветках; для запуска рекомендуются SGLang и vLLM. Лицензия — Apache-2.0. Заявления README о качестве вызова инструментов, результатах бенчмарков и отсутствии отказов приведены автором и не являются независимой оценкой. Это текстовая модель: метаданные не указывают вход или выход изображений, несмотря на мультимодальные возможности базовой модели.

Карточка модели zabred/Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на Hugging Face совпадает с карточкой medismera/Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic, поэтому описание составлено по ней. medismera представил производную модель Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на основе слияния Qwen3.8-27B-OBLITERATED и Qwen/Qwen3.8-27B. Это плотная модель семейства Qwen3.5 с 27 млрд параметров для диалоговой генерации текста и работы в агентных сценариях. В карточке заявлены шаблон чата с поддержкой вызова инструментов, разбиение задач на иерархические этапы, протокол самопроверки рассуждений и контекст до 131 072 токенов; максимальная длина генерации указана как 16 384 токена. Модель предназначена для программирования, анализа системных журналов и телеметрии, многошаговых технических задач и взаимодействия с инструментами через совместимые агентные среды. Указаны английский, китайский и арабский языки. Репозиторий описывает веса в формате Safetensors и приводит варианты BF16, FP8 и AWQ в ветках; для запуска рекомендуются SGLang и vLLM. Лицензия — Apache-2.0. Заявления README о качестве вызова инструментов, результатах бенчмарков и отсутствии отказов приведены автором и не являются независимой оценкой. Это текстовая модель: метаданные не указывают вход или выход изображений, несмотря на мультимодальные возможности базовой модели.

Qwen2.5-Coder-14B-Instruct-MLX-8bit — 8-битная MLX-квантизация модели Qwen2.5-Coder-14B-Instruct, разработанной Qwen. Квантизацию предоставил bartowski на основе инструментов mlx-examples; модель распространяется в рамках программы Community Models LM Studio, но LM Studio не является её создателем или владельцем. Модель предназначена для генерации и обработки текста и программного кода, прежде всего для сценариев с code agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, текстово-кодовые связи и синтетические данные. Заявлена поддержка длинного контекста до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. Указан английский язык; README также отмечает совместимость с компьютерами Mac на Apple Silicon. Ключевые сильные стороны модели — специализация на задачах программирования, поддержка длинного контекста и локальный запуск через MLX на совместимых устройствах. Ограничения включают зависимость от Apple Silicon для заявленной совместимости, а также возможные неточные, вредные или неподходящие ответы, характерные для генеративных моделей; конкретные результаты зависят от сценария использования. Модель распространяется по лицензии Apache-2.0.

Карточка модели luxuansang/Qwythos-9B-v2 на Hugging Face совпадает с карточкой empero-ai/Qwythos-9B-v2, поэтому описание составлено по ней. Qwythos-9B-v2 — модель генерации текста и рассуждений от Empero AI, дообученная на базе empero-ai/Qwythos-9B-Claude-Mythos-5-1M методом FTPO. Она предназначена для диалогов, многошаговых рассуждений, решения задач и генерации кода; разработчик сообщает, что в этой версии устранено зацикливание при генерации, восстановлена голова MTP и сохранены возможности предыдущей версии. Модель построена на гибридной архитектуре Qwen3.5-9B с чередованием линейного внимания Gated-DeltaNet и полного внимания. Контекст заявлен до 1 млн токенов с YaRN. Хотя базовый стек поддерживает мультимодальность, README описывает практическое использование как текстовое. Основной язык карточки — английский. Модель подходит для исследовательских и технических сценариев, включая программирование, кибербезопасность и анализ научных вопросов. По внутренним оценкам разработчика, знания и рассуждения в целом сохранены относительно предыдущей версии; это обновление направлено прежде всего на устойчивость генерации, а не на рост возможностей. Известное ограничение — результат HumanEval ниже, чем у исходной Qwen3.5-9B; показатели бенчмарков получены на внутреннем тестовом наборе. Модель намеренно не ограничивает ответы на чувствительные темы. Лицензия — Apache-2.0.

unsloth/Kimi-K3-GGUF — GGUF-версия открытой мультимодальной агентной модели Kimi K3, разработанной Moonshot AI и подготовленной Unsloth. Модель предназначена для длительных задач программирования, работы с большими репозиториями, использования терминальных инструментов, глубокого исследования, автоматизации знаний и мультимодальных сценариев, включая работу с визуальными материалами, интерактивными интерфейсами, CAD и видеомонтажом. Модель построена на архитектуре Mixture-of-Experts с общим числом параметров 2,8 трлн и примерно 104 млрд активируемых параметров. Она использует Kimi Delta Attention (KDA), Attention Residuals и Stable LatentMoE: из 896 экспертов для каждого токена выбираются 16. Архитектура включает 93 слоя, в том числе 69 KDA- и 24 Gated MLA-слоя, а также один плотный слой. Kimi K3 поддерживает нативную работу с текстом, изображениями и видео и имеет контекстное окно до 1 млн токенов. К сильным сторонам относятся большой контекст, нативная мультимодальность, высокая масштабируемость MoE и ориентация на автономные многоэтапные задачи с минимальным контролем человека. Для запуска GGUF-версии требуется совместимый llama.cpp fork Unsloth или Unsloth Studio; доступны варианты квантования, при этом Q8 обозначен как вариант без потерь точности относительно полной точности и существенно больше Q4. Языки модели в README не указаны. Веса распространяются по лицензии Kimi K3 License; точные условия следует проверять в тексте этой лицензии.

Agnes 2.5 Pro Alpha — мультимодальная модель рассуждений, разработанная Agnes AI и дообученная на Qwen/Qwen3.5-397B-A17B. Она принимает текст и изображения и предназначена для программирования, научных задач, анализа длинных контекстов и агентных сценариев с вызовом инструментов. Модель поддерживает контекст до 1 млн токенов и генерацию до 65 536 токенов; заявлены расширенное рассуждение и понимание изображений. Модель подходит для анализа репозиториев и отладки кода, синтеза технических документов, научного решения задач и визуального анализа. В README указаны сравнительные оценки на бенчмарках, но таблица результатов в предоставленном тексте опущена. Модель доступна в формате safetensors; для локального запуска README рекомендует 8 GPU класса NVIDIA H200 и около 1 ТБ свободного места. Лицензия — Apache-2.0. Ответы могут содержать ошибки; для важных решений и действий инструментов требуется проверка.

Claude Sonnet 4.6 — модель семейства Sonnet, разработанная Anthropic. По карточке модели она предназначена для программирования, работы с агентами и профессиональных задач; заявлены сильные результаты в итеративной разработке, навигации по сложным кодовым базам и управлении проектами от начала до конца.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-GGUF — это набор моделей в формате GGUF на базе Qwen3.8-27B, первоначально разработанной Qwen / Alibaba Cloud. Некорректированные и оптимизированные для программирования веса предоставлены DavidAU, а сборка и упаковка выполнены Solstice-AI. Модель ориентирована на генерацию и анализ кода, агентные сценарии, сложное алгоритмическое проектирование, математические рассуждения и задачи, связанные с SWE-bench. Также заявлена поддержка обработки изображений через отдельный мультимодальный vision-проектор mmproj-BF16.gguf. Основная модель имеет размер 27B параметров и поставляется в вариантах квантования от Q4_K_M до Q8_0; рекомендуемый Q4_K_M занимает около 16,81 ГБ. Заявлены контекст до 131 072 токенов, языки English и Chinese, управление интенсивностью рассуждений через reasoning_effort, детерминированный XML-вызов инструментов и поддержка Multi-Token Prediction для speculative decoding. Для ускорения вывода доступны MTP-модели и DSpark drafter; README заявляет ускорение speculative decoding до 1,8 раза. Сильные стороны модели — специализация на программировании, поддержка многофайлового рефакторинга, инструментального взаимодействия, мультимодального ввода и нескольких уровней точности. Ограничения включают значительные требования к памяти, зависящие от выбранного квантования, а также необходимость совместимого программного обеспечения и отдельных компонентов для vision и speculative decoding. Модель распространяется по лицензии Apache-2.0.

Tess-4-9B — мультимодальная модель с 9,65 млрд параметров, созданная Мигелем Тиссера на базе Qwen/Qwen3.5-9B-Base. Это плотная архитектура Qwen3.5 для генерации текста по текстовым и визуальным входам; веса доступны в формате BF16 Safetensors и лицензированы по Apache 2.0. Модель предназначена для агентного программирования, анализа больших кодовых баз и документов, сложных задач по математике и естественным наукам, отладки и технических рассуждений. Она дообучена на 64K-токенных агентных трассах и поддерживает вызов инструментов, чат и обработку изображений. В карточке приведены результаты тестов, в том числе 88% на GSM8K и 62% на GPQA Diamond при лимите генерации 24K токенов; отдельные сложные примеры выигрывали от увеличения лимита до 48K. Для корректной работы следует сохранять встроенный шаблон чата Qwen3.5 и разрешать большой бюджет генерации на трудных задачах. Полные веса BF16 занимают около 19,3 ГБ; совместимость требует актуальной версии Transformers с поддержкой Qwen3.5. Упомянутые в README сборки GGUF содержат только текстовую модель и не поддерживают унаследованный путь обработки изображений.

Laguna S 2.1-NVFP4 — квантизированный вариант модели Laguna S 2.1, разработанный компанией Poolside. Это текстовая Mixture-of-Experts-модель, ориентированная на агентное программирование, работу с инструментами и длительные задачи на локальном компьютере. Модель поддерживает нативное рассуждение с чередованием этапов обдумывания и вызовов инструментов, причём рассуждение можно включать или отключать для каждого запроса. Модель содержит 117,6 млрд параметров, из которых 8,5 млрд активируются на каждом токене, 256 экспертов и одного общего эксперта. Архитектура включает 48 слоёв: 12 слоёв с глобальным вниманием и 36 слоёв со Sliding Window Attention, размер окна которого составляет 512 токенов. Используются per-head gating, позиционные rotary scales и соотношение локального и глобального внимания 3:1. Контекстное окно — до 1 048 576 токенов, модальность — text-to-text. KV-кэш квантизирован в FP8, а веса NVFP4 занимают примерно 71 ГБ. Сильные стороны модели — высокая эффективность инференса и сниженные требования к KV-кэшу благодаря разреженной MoE-архитектуре, поддержка сверхдлинного контекста, локальное развёртывание и специализация на разработке программного обеспечения. При контексте в 1 млн токенов возможно снижение качества. NVFP4 в настоящее время некорректно работает в SGLang; для локального использования заявлена поддержка vLLM, Transformers и TRT-LLM, а также Ollama и llama.cpp с другими форматами весов. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию для коммерческих и некоммерческих целей.

Laguna XS.2-INT4 — текстовая Mixture-of-Experts модель, разработанная Poolside для агентного программирования и длительных рабочих процессов на локальном компьютере. Она предназначена для генерации и анализа кода, взаимодействия с инструментами и решения задач, требующих последовательного выполнения множества действий. Модель поддерживает встроенное рассуждение между вызовами инструментов, которое можно включать и отключать для каждого запроса. Модель содержит 33 млрд параметров, из которых 3 млрд активируются для каждого токена, и включает 40 слоёв: 30 со Sliding Window Attention и 10 с глобальным вниманием. В 30 слоях используется механизм per-head gating; окно локального внимания составляет 512 токенов. Реализована смешанная схема внимания в соотношении 3:1, а KV-cache квантизирован в FP8. Это text-to-text модель с контекстом до 262 144 токенов, 256 экспертами и одним общим экспертом. Вариант INT4 ориентирован на экономичное локальное развёртывание и, согласно карточке, может запускаться на Mac с 36 ГБ оперативной памяти; заявлена поддержка vLLM, Transformers и Ollama. Сильными сторонами являются малое число активируемых параметров, сниженные требования к KV-cache, длинный контекст и специализация на агентных задачах программирования. Ограничения связаны с тем, что модель предназначена прежде всего для текстовых и кодовых сценариев, а INT4-квантизация может влиять на качество по сравнению с версиями BF16 или FP8. Приведённые результаты бенчмарков получены в конкретной экспериментальной конфигурации и не гарантируют аналогичную производительность в других условиях. Модель распространяется по лицензии Apache 2.0, допускающей использование и модификацию в коммерческих и некоммерческих целях.

SKT AI LABS представила SKT-NRS/NRS_QWEN_MYTHOS_1M — дообученную модель на архитектуре Qwen3.5-9B для диалогов, рассуждений и генерации текста. Карточка заявляет контекст до 1 048 576 токенов с масштабированием YaRN и настройку на примерах по программированию, математике и логике. Метаданные также указывают поддержку изображений в базовой мультимодальной архитектуре Qwen, хотя описание модели сосредоточено на текстовых сценариях. Модель предназначена для анализа длинных документов и кодовых баз, пошаговых рассуждений, программирования и вызова инструментов, включая Python и веб-поиск. Заявлены диалоговый режим и оптимизация инференса, однако сведения о скорости и стократном повышении качества являются утверждениями авторов без приведённых сравнительных результатов. Для обработки вывода могут потребоваться специальные меры из-за блоков <think>; критические ответы следует проверять из-за риска галлюцинаций. Лицензия в предоставленных данных не указана.

Qwen2.5-Coder-32B-Instruct-MLX-4bit — 4-битная MLX-квантизация модели Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen. Квантизацию предоставил bartowski на основе инструментов mlx-examples; модель распространяется в рамках сообщества LM Studio и предназначена для работы на Mac с Apple Silicon. Модель ориентирована на генерацию и обработку кода, чат-взаимодействие и сценарии с code agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, текстово-кодовые соответствия и синтетические данные. Поддерживается длинный контекст до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. В метаданных указан английский язык. Формат MLX 4-bit снижает требования к памяти по сравнению с полноразмерной версией, однако квантизация может влиять на качество и точность результатов; модель также способна генерировать неточный, вредный или неподходящий контент. Лицензия — Apache-2.0.

Devstral Small 1.1 — языковая модель для агентной разработки программного обеспечения, созданная в сотрудничестве Mistral AI и All Hands AI. Эта версия представлена в формате GGUF и предназначена для работы с llama.cpp, LM Studio и другими совместимыми средствами локального запуска. Модель специализируется на задачах программной инженерии: исследовании кодовых баз, редактировании нескольких файлов, использовании инструментов и работе в составе coding-агентов, включая OpenHands. Это текстовая модель без поддержки изображений. Она содержит 24 миллиарда параметров, использует токенизатор Tekken с размером словаря 131 тысяча токенов и поддерживает контекст до 128 тысяч токенов. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского и ряда других языков. К сильным сторонам относятся ориентация на агентное программирование, большой контекст, поддержка формата function calling Mistral и возможность локального запуска; для GGUF доступны варианты BF16, Q8_0, Q5_K_M и Q4_K_M. Ограничением является текстовая специализация без vision-возможностей, а качество и требования к ресурсам зависят от выбранной квантизации. Согласно README, компактная версия может запускаться на одной RTX 4090 или Mac с 32 ГБ оперативной памяти. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию.

unsloth/MiniMax-M3-GGUF — это экспериментальная GGUF-версия мультимодальной модели MiniMax-M3, разработанной MiniMax и подготовленной в формате GGUF проектом Unsloth. Модель предназначена для работы с текстом, изображениями и видео, включая диалоговые сценарии, генерацию и анализ кода, агентские задачи и длительное взаимодействие с пользователем. Архитектура модели сочетает Mixture of Experts (MoE) и механизм разреженного внимания MiniMax Sparse Attention (MSA). Всего модель содержит около 428 млрд параметров, из которых на каждый токен активируется примерно 23 млрд; используется 128 экспертов, четыре из которых активны для каждого токена, и 60 слоёв. Заявлена длина контекста до 1 млн токенов. Поддерживаются режимы thinking для сложного рассуждения, агентских задач и долгого сотрудничества и non-thinking для сценариев, чувствительных к задержке, например чата и автодополнения кода. К сильным сторонам относятся нативная мультимодальность, заявленная эффективность на длинном контексте и высокие результаты в задачах программирования и агентского взаимодействия. Ограничения этой версии связаны с экспериментальным статусом: поддержка MiniMax-M3 в llama.cpp предварительная, а MiniMax Sparse Attention пока не поддерживается, поэтому используется плотное внимание. Модель очень велика и требует значительных ресурсов, включая распределение вычислений между несколькими GPU или размещение весов в оперативной памяти CPU. Для использования указана MiniMax Community License.

Smoffyy/Qwen3.6-27B-Instruct-Revised-GGUF — производная от Qwen3.6-27B, разработанного командой Qwen, и конвертация в формат GGUF, выполненная Smoffyy с использованием llama.cpp. Модель предназначена для диалоговых задач, программирования, агентских сценариев, работы с репозиториями и frontend-разработки. Она также поддерживает обработку изображений при использовании файла mmproj-f16.gguf. В основе лежит каузальная языковая модель с vision-энкодером на 27 млрд параметров, 64 слоями и нативным контекстом до 262 144 токенов; заявлена возможность расширения контекста до 1 010 000 токенов. Доступны различные уровни квантования GGUF. Вариант Revised сохраняет возможности исходной модели, но содержит исправленный и улучшенный шаблон чата с поддержкой роли developer, управлением режимом reasoning и другими исправлениями. По умолчанию используется режим без рассуждений; включение и отключение reasoning задаётся через системный промпт. Для запуска рекомендуется выбирать q5_k_m и выше при наличии от 48 ГБ VRAM, q4_k_m как сбалансированный вариант при наличии от 24 ГБ, а q3_k_m для систем с 8–12 ГБ. Ограничения зависят от выбранного уровня квантования и доступной памяти; для мультимодальной работы требуется дополнительный mmproj-файл. Модель и производные распространяются по лицензии Apache 2.0.

Qwen3.8-27B-Imatrix-Mtp-1m — это сборка модели Qwen3.8-27B в формате GGUF, подготовленная Brian6145 на основе официальных весов Qwen Team. Модель ориентирована на следование инструкциям, программирование, отладку и устранение неисправностей, а также на агентские сценарии и задачи с длинными последовательностями. В карточке указаны английский и китайский языки и модальность image-text-to-text. Модель имеет размер 27B параметров и поддерживает контекст до 1 000 000 токенов благодаря расширению RoPE по официальной схеме YaRN; исходный предел составлял 262 144 токена. В каждый файл встроена рабочая Multi-Token Prediction head, совместимая со speculative decoding в llama.cpp и LM Studio. Доступны варианты F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M с imatrix и Q3_K_M. MTP может заметно ускорять генерацию, особенно при длинном контексте. Для запуска требуется сборка llama.cpp с поддержкой draft-mtp либо LM Studio 2.28.2 или совместимая версия. Контекст в 1M токенов требует значительного объёма VRAM; рекомендуется использовать квантованный KV-кэш. Статическое масштабирование YaRN может немного ухудшать качество на коротких текстах, поэтому для таких задач предпочтительна официальная версия модели. Распространение разрешено по лицензии Apache-2.0.

Claude Sonnet 4 — модель Anthropic, представленная как развитие Sonnet 3.7. Она предназначена для задач программирования и рассуждений; в карточке отмечены улучшенные точность и управляемость, а также результат 72,7% на SWE-bench. Метаданные каталога относят модель к задаче image-text-to-text, однако доступные материалы не описывают её архитектуру, размер, модальности, языки или длину контекста.

Dagger-Qwen3.6-27B-GGUF-MTP — модель от peculiar-ragdoll, основанная на ThinkingCap-Qwen3.6-27B от bottlecapai, который, в свою очередь, является вариантом Qwen3.6-27B. Это GGUF-сборка для запуска через llama.cpp и совместимые среды, ориентированная на рассуждения, агентное программирование, генерацию кода и длительные многошаговые диалоги. В карточке также заявлена поддержка сценариев image-text-to-text и тег vision, однако подробности мультимодальной реализации не указаны. Модель имеет плотную архитектуру размером 27B параметров, заявленный нативный контекст — 262 144 токена, поддерживаемые языки — английский и китайский. Отличительная особенность этой версии — сохранённая MTP-голова nextn для speculative decoding: при поддержке со стороны runtime она может ускорять генерацию без изменения точности. Для vLLM и SGLang заявлено ускорение примерно в 1,5–2 раза, тогда как в llama.cpp требуются свежая сборка и специальный режим; актуальные релизные версии могут не поддерживать MTP. Сильные стороны модели — компактные ответы без лишнего текста, высокая эффективность рассуждений, способность сохранять связность в длинных агентных сессиях и эффективное использование контекстного окна. Главные ограничения — высокие требования к оперативной памяти из-за плотной архитектуры и дорогого KV-кэша; полный контекст 262 144 токена требует около 31,1 ГБ при 8-битном KV-кэше или 38,6 ГБ при 16-битном. Реальное ускорение MTP зависит от среды запуска. Лицензия — Apache-2.0.

Gemini 3.5 Flash — мультимодальная модель Google для работы с текстом и изображениями. В карточке она описана как высокопроизводительная модель уровня Flash, ориентированная на скорость и низкую стоимость при решении задач рассуждения и программирования. Модель подходит для анализа изображений и текста, помощи с кодом и сценариев с параллельным выполнением агентных задач. Подробности об архитектуре, размере, поддерживаемых языках, длине контекста и лицензии в предоставленных данных отсутствуют.

GLM-5.2 в репозитории unsloth/GLM-5.2 — производная версия флагманской языковой модели GLM-5.2 от Z.ai, подготовленная Unsloth. Это генеративная MoE-модель на базе архитектуры glm_moe_dsa с 30,4 млрд параметров, предназначенная для диалога, программирования, рассуждений и длительных задач. Метаданные указывают поддержку интерфейса вызова инструментов и английского и китайского языков. Модель поддерживает контекст до 1 048 576 токенов, что подходит для работы с большими документами и многоэтапными задачами. В README заявлены улучшенная работа с длинным контекстом, гибкие уровни усилий при программировании и ускорение спекулятивного декодирования. Весы доступны в формате safetensors; для локального запуска перечислены Transformers, vLLM, SGLang и другие фреймворки. Лицензия — MIT. Это текстовая модель: она принимает текст и генерирует текст. Заявленные возможности и результаты бенчмарков приведены разработчиками; качество может различаться в зависимости от задачи и способа запуска.

Laguna XS 2.1-NVFP4 — текстовая Mixture-of-Experts модель, разработанная poolside для агентного программирования и длительных многошаговых задач на локальном компьютере. Модель содержит 33 млрд параметров, из которых 3 млрд активируются на каждом токене, и поддерживает контекст до 262 144 токенов. Архитектура включает 40 слоёв, 256 экспертов и одного общего эксперта. В 30 слоях используется Sliding Window Attention с окном 512 токенов, а в 10 слоях — глобальное внимание; KV-кэш квантизирован в FP8. Модель работает в режиме text-to-text, поддерживает встроенное рассуждение с чередованием этапов мышления и вызовов инструментов, а также включение и отключение thinking для отдельных запросов. К сильным сторонам относятся сниженные требования к памяти и возможность локального запуска; заявлена работа на Mac с 36 ГБ оперативной памяти. Модель ориентирована прежде всего на генерацию и исправление кода, использование инструментов и агентные сценарии, однако README не содержит полного перечня поддерживаемых языков и не описывает ограничения качества за пределами приведённых бенчмарков. Вариант распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — опубликованная NVIDIA полноточная версия разговорной языковой модели, представленная на Hugging Face в виде GGUF BF16. Она предназначена прежде всего для разработчиков, которым нужны исходные веса для дообучения, адаптации к предметной области, исследований и подготовки собственных квантованных вариантов. Модель использует гибридную архитектуру Mixture-of-Experts с чередующимися слоями Mamba-2 и MoE, отдельными слоями Attention и механизмом Multi-Token Prediction; всего в ней 30 млрд параметров, из которых активно используются 3 млрд. Модель подходит для диалога, рассуждений, следования инструкциям, задач с кодом и работы в агентных системах. Контекст достигает 1 млн токенов на подходящем оборудовании; на одной H100 в README приведена проверка до 256 тыс. токенов из-за ограничений памяти. Основные языки — английский и языки программирования; также поддерживаются испанский, французский, немецкий, итальянский, японский и китайский. README указывает, что модель готова к коммерческому применению, однако метаданные Hugging Face обозначают лицензию как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров семейства Qwen3.5, разработанная командой Ornith AI. Она развивает Ornith-1.0 за счёт цикла самоулучшения с генерацией обучающих задач, поиском стратегий решения и обучением с подкреплением. Модель предназначена для агентных сценариев, программирования и выполнения многошаговых задач с использованием инструментов; поддерживает диалог и вызовы функций через совместимый с OpenAI API интерфейс. Модель принимает и генерирует текст. Заявленное базовое окно контекста составляет 262 144 токена; с масштабированием YaRN в README описано расширение примерно до миллиона токенов, которое может немного снижать качество на обычных запросах. Версия на 9B рассчитана на эффективное развёртывание, включая обслуживание на одной 80-гигабайтной GPU; веса в bf16 занимают около 19 ГБ. Карточка описывает бенчмарки для программных и агентных задач, но сами численные результаты здесь не приведены. Лицензия — MIT.

Qwen3.6-27B-Text-NVFP4-MTP (GGUF) — производная текстовая сборка Qwen3.6-27B, подготовленная для запуска через llama.cpp на NVIDIA DGX Spark. Разработчик убрал модуль обработки изображений и квантовал веса в NVFP4 с помощью nvidia-modelopt; голова MTP сохранена в BF16 для спекулятивного декодирования. Репозиторий также объединяет эту сборку с Qwen3.6-27B и sakamakismile/Qwen3.6-27B-Text-NVFP4-MTP. Модель предназначена прежде всего для программирования и рассуждений в платформе .init: она подходит для помощи при разработке ПО, анализа кодовых баз и работы с длинными техническими документами. README заявляет контекст до 128K токенов и скорость около 40 токенов в секунду на DGX Spark при коротком контексте и включённом спекулятивном декодировании; для длинного контекста указано около 25–35 токенов в секунду. Это показатели для конкретной конфигурации оборудования и настроек. Это текстовая модель с поддержкой чата; обработка изображений отключена. README описывает английский язык, но не подтверждает поддержку других языков. Лицензия — Apache-2.0. Сборка ориентирована на llama.cpp и DGX Spark; заявленные характеристики скорости и использования памяти зависят от оборудования и параметров запуска.

AEON-7 выпустил раннюю BF16-версию Qwen3.8-27B, полученную аблитерацией базовой модели Qwen/Qwen3.8-27B для более прямых ответов и ослабления отказов. Это плотная мультимодальная модель с архитектурой семейства Qwen3.5 и примерно 27 млрд параметров; текстовая генерация — основная задача, также заявлена поддержка изображений. Карточка описывает запуск через Transformers и проверку сервинга через vLLM на NVIDIA H200; указанное в примере ограничение контекста — 16 384 токена, а для подходящего оборудования README упоминает исходное окно до 262 000 токенов. Модель предназначена для диалогов, следования инструкциям, программирования, многошаговых рассуждений и вызова инструментов. Ослабление отказов делает ответы более прямыми, но авторы предупреждают, что это ранний выпуск, а на очень длинных запросах возможны повторы и потеря связности. Визуальная башня и голова MTP оставлены без изменений относительно базы. Лицензия — Apache-2.0; веса доступны в формате safetensors, BF16.

Qwen3.8-27B-iMatrix-NVFP4-MTP-GGUF — квантизированная мультимодальная версия модели Qwen3.8-27B, разработанная автором cdiamond на основе Qwen/Qwen3.8-27B. Модель предназначена для работы в llama.cpp и сценариев, связанных с программированием, инфраструктурными задачами, вызовами инструментов, агентскими системами и обработкой изображений. Указан контекст до 256 тысяч токенов; поддержка зрения реализуется через отдельный проектор mmproj-Qwen3.8-27B-F16.gguf. Модель поставляется в формате GGUF и имеет размер 17,1 ГБ. Это смешанная квантизация примерно 5,01 BPW: основная часть весов использует NVFP4, а чувствительные матрицы внимания, Gated DeltaNet, поздние FFN-слои, эмбеддинги и выходная голова хранятся с более высокой точностью Q5_K, Q6_K или Q8_0. В GGUF встроен обученный MTP-слой для ускорения генерации. Калибровка проводилась на данных агентских сессий, включавших код, инфраструктуру, вызовы инструментов и польско-английские диалоги, однако эти данные не распространяются. Сильные стороны модели — сочетание компактного размера, поддержки длинного контекста, мультимодальности и высокой скорости на совместимом оборудовании. В описанных тестах она достигала 50,441 токена в секунду в производственной серии и обрабатывала заполненный контекст объёмом 261 500 входных токенов без усечения и нехватки памяти. Результаты зависят от GPU, версии llama.cpp и используемых патчей; часть измерений получена на локальной ветке runtime, не вошедшей на момент публикации в upstream. Модель не является дообученной версией, а представляет собой квантизацию базовой модели. Лицензия — Apache-2.0.

Tess-4-27B-GGUF — набор GGUF-квантизаций модели Tess-4-27B, разработанной Migel Tissera и построенной на базе Qwen/Qwen3.6-27B от команды Qwen. Это агентная модель с поддержкой рассуждений, которая адаптирует глубину рассуждения к сложности задачи. Модель предназначена для диалогов, программирования, рефакторинга кода, структурированного вывода, решения сложных задач и создания локальных AI-агентов. Модель имеет размер 27B параметров и поставляется в вариантах Q4_K_M, Q6_K и Q8_0 с размерами примерно от 16,5 до 28 ГБ. Основной формат — GGUF, ориентированный на локальный запуск через llama.cpp, LM Studio и Ollama. Для обработки изображений предусмотрен отдельный vision projector mmproj, что добавляет мультимодальный режим с поддержкой входных изображений. Также доступны MTP-головы для speculative decoding: они могут ускорять генерацию примерно в 1,5–2 раза на подходящих задачах без изменения результата. Используется шаблон чата семейства Qwen3.5 с выделенным блоком рассуждений, однако поддерживаемые языки и размер контекстного окна в карточке не указаны. Сильные стороны модели — агентный характер, масштабирование рассуждений по сложности, поддержка кода и структурированного вывода, локальная работа и мультимодальный режим при подключении projector. Ограничения связаны с высокими требованиями к оперативной памяти или VRAM, потерями точности при использовании более агрессивной квантизации и необходимостью современного runtime llama.cpp для распознавания архитектуры qwen35. Для запуска требуется выбрать подходящий вариант квантизации, а для изображений и ускорения — установить дополнительные файлы. Модель распространяется по лицензии Apache 2.0.

Cogito v2 Preview 70B — диалоговая языковая модель с настройкой по инструкциям, разработанная командой DeepCogito на основе Meta Llama 3.1 70B. Это плотная авторегрессионная модель примерно на 69,5 млрд параметров для генерации текста; она работает в стандартном режиме или может включать расширенное рассуждение и самоанализ. Для включения режима рассуждения в Transformers предусмотрен параметр enable_thinking в шаблоне чата либо специальная системная инструкция. Модель предназначена для программирования, задач STEM, следования инструкциям и общих диалогов. В README заявлена поддержка инструментов, параллельных вызовов инструментов и более чем 30 языков. Контекст составляет до 128 тысяч токенов по README и 131 072 токена по метаданным. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия Llama 3.1 разрешает коммерческое использование на условиях лицензии Meta.

GLM-4.7-REAP-218B-A32B-GGUF — GGUF-версия разреженной языковой модели GLM-4.7, подготовленная Unsloth. Модель с архитектурой Sparse Mixture-of-Experts (SMoE) создана методом REAP (Router-weighted Expert Activation Pruning), который удаляет избыточные эксперты, сохраняя независимое управление маршрутизатора оставшимися экспертами. Модель содержит 218 млрд параметров, из которых 32 млрд активируются для каждого токена, включает 92 слоя, 96 экспертов с активацией 8 экспертов на токен, использует GQA с 96 Q- и 8 KV-головами и поддерживает контекст до 202 752 токенов. Модель предназначена для генерации текста и кода, агентских рабочих процессов, понимания репозиториев, многошаговых сценариев и function calling. Заявлена близкая к исходной GLM-4.7 производительность при сокращении размера примерно на 40% по сравнению с полной моделью на 355 млрд параметров. Это делает её привлекательной для локального развертывания, сред с ограниченными ресурсами и исследовательских задач. Поддерживаются текстовые сценарии; заявленный язык в карточке — английский. К сильным сторонам относятся сохранение возможностей генерации кода, агентного программирования и вызова функций, отсутствие необходимости в дополнительном дообучении после pruning, а также совместимость с llama.cpp при использовании параметра --jinja. Для запуска требуется значительный объём памяти из-за общего размера модели; конкретные характеристики квантования GGUF, результаты оценки именно этой версии и требования к оборудованию в карточке не указаны. Модель распространяется по лицензии MIT.