II.5Безопасность программного кода и цепочки поставок

bartowski/openbuddy-qwen2.5coder-32b-v24.1q-200k-GGUF — это набор GGUF-квантизаций модели OpenBuddy/openbuddy-qwen2.5coder-32b-v24.1q-200k, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и кода, включая локальный запуск через llama.cpp и LM Studio. Доступен специальный формат промптов с ролями system, user и assistant. Модель содержит 32 млрд параметров, поддерживает контекст до 200 тысяч токенов и относится к семейству Qwen2.5-Coder. В README указана поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского и финского языков. Это текстовая модель без заявленной поддержки изображений или других мультимодальных входов. Доступны варианты от F16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3; они позволяют выбирать баланс между качеством, размером файлов и требованиями к памяти. Наиболее качественными названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и варианты Q4_K. Сильные стороны модели — большой контекст, специализация исходной модели на коде, широкий выбор квантизаций и возможность локального запуска. Ограничения включают значительные требования к памяти для 32-миллиардной модели, а более сильная квантизация может снижать качество. Некоторые варианты оптимизированы для ARM и требуют определённых инструкций процессора; варианты Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 не рекомендуется использовать на Mac. Модель распространяется по лицензии Apache-2.0.

Orion-zhen/Qwen2.5-Coder-7B-Instruct-AWQ — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-Coder-7B, разработанной командой Qwen. Это каузальная текстовая модель для генерации, анализа, исправления и рассуждений о программном коде, а также для задач кодовых агентов и общих математических и текстовых сценариев. Модель обучалась с использованием корпуса alvarobartt/openhermes-preferences-coding; для калибровки AWQ применялся этот же датасет. Модель содержит 7,61 млрд параметров, из которых 6,53 млрд не относятся к embedding, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в attention QKV; применяется GQA с 28 головами для Q и 4 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется включение YaRN. Основные заявленные языки — английский и китайский. Модель работает в режиме text generation и поддерживается Transformers. Сильные стороны — специализация на программировании, улучшенные генерация, исправление и понимание кода, большой контекст и сниженные требования к памяти благодаря AWQ-квантизации. При использовании YaRN на коротких текстах возможное падение производительности связано со статическим коэффициентом масштабирования. README не содержит отдельных результатов тестирования именно этой AWQ-версии, поэтому её фактическую точность и скорость следует проверять отдельно. Модель распространяется по лицензии Apache-2.0.

Qwythos-27B-v1 — открытая полноразмерная дообученная модель Empero AI на базе Qwen/Qwen3.5-27B. Это плотная мультимодальная модель с 64 текстовыми слоями, гибридным вниманием Gated-DeltaNet и полным модулем зрения; она принимает текст и изображения и генерирует текст. Модель прошла полнопараметрические этапы SFT, DPO и ESFT до обучения с подкреплением, сохранив штатную поддержку вызова инструментов и предсказания нескольких токенов. Модель предназначена для диалогов и рассуждений, задач STEM, работы с терминальными и инструментальными сценариями, а также технических вопросов в областях кибербезопасности и биомедицины. Заявлена конфигурация контекста до 1 048 576 токенов с расширением YaRN. Шаблон чата поддерживает нативный формат вызова функций Qwen3.5. Зрение унаследовано от базовой модели: параметры визуального модуля не дообучались, а понимание изображений не оценивалось. Большой контекст с YaRN может немного ухудшать качество на коротком контексте. Модель намеренно не ограничивает ответы на чувствительные технические темы, поэтому для использования нужны подходящие правила и проверка результатов. Лицензия — Apache-2.0.

TheBloke/CodeLlama-70B-Instruct-GGUF — это квантизированная версия CodeLlama 70B Instruct, разработанной Code Llama и преобразованной TheBloke в формат GGUF. Модель предназначена для генерации и понимания программного кода, а также для диалоговых сценариев с инструкциями. Она относится к семейству Llama и доступна в вариантах квантизации от 2 до 8 бит для запуска на CPU и GPU. Модель содержит около 70 миллиардов параметров и работает как текстовая модель генерации с поддержкой входных инструкций и запросов на естественном языке и коде. Формат GGUF совместим с llama.cpp и рядом локальных интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Разные уровни квантизации позволяют выбирать компромисс между требованиями к памяти, скоростью и сохранением качества, однако более сильная квантизация может снижать точность ответов. В README не указаны поддерживаемые естественные языки и размер контекстного окна. Модель распространяется по лицензии Llama 2. Для работы требуется совместимый рантайм, например llama.cpp, а конкретные требования к ресурсам зависят от выбранного варианта квантизации.

CodeLlama 70B Python — большая языковая модель для генерации и работы с программным кодом, разработанная Code Llama. Данная версия представляет собой квантизированные файлы модели CodeLlama 70B Python в формате GGUF, подготовленные TheBloke на вычислительном оборудовании Massed Compute. Модель предназначена прежде всего для задач, связанных с программированием на Python, включая генерацию кода и локальный текстовый inference. Она основана на архитектуре Llama, имеет 70 миллиардов параметров и работает в режиме text-generation. В README указано, что язык модели — code; сведения о поддерживаемых естественных языках, модальностях и размере контекста не приведены. GGUF поддерживает различные уровни квантизации от 2 до 8 бит, что позволяет запускать модель с разным компромиссом между требованиями к памяти и качеством, используя llama.cpp и совместимые интерфейсы. Сильными сторонами являются специализация на программном коде, крупный размер модели и возможность CPU+GPU-инференса в локальных приложениях. Ограничениями выступают высокие требования к вычислительным ресурсам, зависящие от выбранного уровня квантизации, а также отсутствие в предоставленных данных подробных оценок качества и характеристик контекстного окна. Модель распространяется по лицензии Llama 2.

mlx-community/GLM-5.1-MXFP4-Q8 — MLX-квантизированная версия текстовой генеративной модели GLM-5.1, разработанной Z.ai (zai-org) и опубликованной в формате MLX сообществом mlx-community. Базовая модель предназначена прежде всего для агентной разработки программного обеспечения, генерации и анализа кода, длительных рассуждений, работы с терминалом и использования инструментов. Она поддерживает текстовый ввод и вывод; сведения о поддержке изображений или аудио для этой версии не указаны. По опубликованным конфигурациям GLM-5.1 относится к архитектуре glm_moe_dsa и использует decoder-only causal language model с Mixture-of-Experts: 78 слоёв, 256 маршрутизируемых экспертов и 8 активных экспертов на токен. Размер модели составляет примерно 744 млрд параметров, максимальная позиционная длина указана как 202 752 токена. Версия MXFP4-Q8 предназначена для запуска через MLX и использует 4-битное MXFP4-квантизирование с отдельными компонентами в 8-битном представлении; это существенно уменьшает объём хранения по сравнению с полной версией, но модель всё равно требует очень значительных аппаратных ресурсов. Сильные стороны модели — ориентация на сложные программные и агентные задачи, большой контекст и возможность локального запуска в MLX-совместимой среде. Ограничения включают крайне большой размер, высокие требования к памяти и потенциально низкую производительность на неподходящей или распределённой конфигурации оборудования; официальная карточка именно этой производной версии практически не содержит описания и результатов оценки. Для базовой GLM-5.1 указана лицензия MIT, но для репозитория mlx-community/GLM-5.1-MXFP4-Q8 отдельные лицензионные условия не указаны, поэтому их следует проверить перед коммерческим использованием.

Карточка модели Scrappy-Doo/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Kimi-K2-Instruct-0905-BF16 — версия модели Kimi K2-Instruct-0905, опубликованная Unsloth и основанная на модели Moonshot AI. Это языковая модель с архитектурой Mixture-of-Experts (MoE): в README указаны 1 трлн параметров всего и 32 млрд активируемых параметров. Репозиторий содержит веса в формате safetensors; метаданные каталога указывают 37,9 млрд параметров и контекст до 262 144 токенов. Модель предназначена для диалогов, задач программирования и работы в роли агента, в том числе с вызовом инструментов. В README отмечены улучшения в агентном программировании и создании интерфейсов, а увеличенный контекст подходит для длительных задач и больших фрагментов кода. Интерфейс модели текстовый; языки модели не перечислены в предоставленных данных. Метаданные указывают лицензию other, поэтому конкретные условия использования следует сверять с лицензией и уведомлениями в репозитории. Большой размер модели требует соответствующих ресурсов для локального запуска. Оценки в README получены на указанных бенчмарках и не гарантируют качество для каждого сценария.

Laguna XS 2.1 — языковая модель Poolside для агентного программирования и длительных рабочих сценариев на локальном компьютере. Это текстовая модель text-to-text, представленная в формате GGUF для llama.cpp и совместимая с vLLM и SGLang. Она предназначена прежде всего для задач разработки программного обеспечения, включая работу с терминалом, вызов инструментов и многошаговое выполнение задач. Модель использует архитектуру Mixture-of-Experts: 33 млрд параметров всего, из которых 3 млрд активируются на каждом токене. В ней 40 слоёв, 256 экспертов и один общий эксперт; 30 слоёв используют sliding window attention с окном 512 токенов, а 10 — глобальное внимание. Поддерживаются интерleaved reasoning между вызовами инструментов, сохранение рассуждений и включение или отключение режима рассуждений для отдельных запросов. Контекстное окно составляет до 262 144 токенов, а KV-кэш хранится в формате FP8 для снижения требований к памяти. К сильным сторонам относятся сочетание большого общего числа параметров с малым числом активных параметров, поддержка длинного контекста, инструментального взаимодействия и локального запуска. Для локального использования рекомендована квантизация Q4_K_M размером 20,3 ГБ; полноточная версия BF16 занимает 66,9 ГБ. Ограничением является то, что поддержка Laguna XS 2.1 на момент публикации README ещё не включена в основную ветку llama.cpp и требует сборки из специальной ветки или pull request. Модель рассчитана на программную инженерию и агентные сценарии, поэтому её пригодность для других задач следует проверять отдельно. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях при соблюдении условий лицензии и политики допустимого использования Poolside.

Laguna XS.2-NVFP4 — текстовая Mixture-of-Experts-модель компании Poolside, предназначенная для агентного программирования и длительных рабочих процессов на локальном компьютере. Модель является вариантом Laguna XS.2 с квантованием NVFP4 и FP8-кэшем ключей и значений (KV cache). Она поддерживает генерацию текста, использование инструментов и встроенное рассуждение между вызовами инструментов с возможностью включать и отключать режим рассуждения для отдельных запросов. Модель содержит 33 млрд параметров, из которых 3 млрд активируются на каждом токене, 40 слоёв и 256 экспертов с одним общим экспертом. В 30 слоях используется Sliding Window Attention с окном 512 токенов и покомпонентным управлением на уровне голов внимания, а в 10 слоях — глобальное внимание. Контекстное окно составляет 262 144 токена. Модель работает в режиме text-to-text, использует FP8-кэш KV для снижения требований к памяти и рассчитана на локальный запуск, включая компьютеры Mac с 36 ГБ оперативной памяти. Поддерживаются vLLM, Transformers, SGLang и TRT-LLM. Сильные стороны модели — сочетание большого контекстного окна, низкого числа активируемых параметров, уменьшенных требований к KV-кэшу и ориентации на задачи разработки ПО, включая работу с терминалом и многошаговые агентные сценарии. В README не указаны поддерживаемые естественные языки и подробные ограничения качества; приведённые результаты бенчмарков относятся к Laguna XS.2 в варианте BF16 и не являются прямой оценкой NVFP4. Модель распространяется по лицензии Apache 2.0, допускающей использование и модификацию в коммерческих и некоммерческих целях.

MiMo-V2.5-Pro — открытая языковая модель Xiaomi на архитектуре Mixture-of-Experts (MoE), предназначенная для агентных сценариев, сложной разработки ПО и задач с длинными последовательностями действий. В README указаны 1,02 трлн параметров всего и 42 млрд активных параметров; метаданные каталога указывают 27,7 млрд параметров, поэтому размер в описании опирается на данные README. Модель использует чередование локального скользящего и глобального внимания и три модуля Multi-Token Prediction; заявленная длина контекста достигает 1 048 576 токенов. Модель рассчитана на диалог, генерацию кода, следование инструкциям и длительную работу с инструментами. Заявлены поддержка вызова инструментов и сохранение связности при траекториях с тысячами вызовов; доступны веса в формате FP8, а метаданные указывают библиотеку Transformers. В README описано обучение на 27 трлн токенов и последующая настройка с SFT, агентным RL и дистилляцией от нескольких учителей. Модель принимает текст и генерирует текст. В карточке указаны английский и китайский языки. Лицензия — MIT. Заявления о качестве в README основаны на приведённых авторами оценках; для развёртывания на контексте до миллиона токенов потребуются совместимые движок и вычислительные ресурсы.

PeppX/Ornith-1.0-9B-Uncensored-GGUF — GGUF-квантизированная версия модели PeppX/Ornith-1.0-9B-Uncensored, разработанная PeppX. Это текстовая генеративная модель для локального запуска, ориентированная на программирование, рассуждения, агентские сценарии, генерацию текста, кибербезопасность и red-team-задачи. Модель позиционируется как uncensored и abliterated: из базовой модели удалено направление, связанное с отказами, без дополнительного обучения и тонкой настройки. Модель имеет плотную архитектуру Qwen 3.5 с 32 слоями и примерно 9 млрд параметров, поддерживает контекст до 262 144 токенов и английский язык. Доступны варианты квантования Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 5,6 до 9,5 ГБ; они рассчитаны на локальный запуск с помощью llama.cpp, LM Studio или Ollama. Заявлены сохранение исходных возможностей в кодировании, математике, рассуждениях и следовании инструкциям, а также низкое расхождение с базовой моделью по KL-дивергенции 0,0827, однако приведённые показатели зависят от методики оценки. Ключевая особенность модели — заявленный авторами нулевой уровень отказов, что может быть полезно для исследовательских, тестовых и red-team-сценариев, но одновременно повышает риск генерации небезопасного или вредоносного контента. Ограничения включают зависимость качества и скорости от выбранной квантизации и оборудования, а также отсутствие в README подробных данных о мультимодальности, обучающем наборе и результатах независимых бенчмарков. Модель распространяется по лицензии MIT.

Карточка модели xieloser/Qwen2.5-Coder-14B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-14B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-14B-Instruct — инструкция-ориентированная языковая модель для программирования от команды Qwen. Это плотная причинная Transformer-модель семейства Qwen2 с 14 млрд параметров по метаданным; карточка указывает архитектурные компоненты RoPE, SwiGLU и RMSNorm, 48 слоёв и grouped-query attention. Модель дообучена на базе Qwen/Qwen2.5-Coder-14B и предназначена для генерации и анализа кода в диалоговом формате. Модель помогает создавать код, рассуждать о нём и исправлять ошибки, а также подходит для разработки кодовых агентов и сохраняет общие способности, включая математику. Карточка описывает контекст до 131 072 токенов с применением YaRN для обработки входов длиннее 32 768 токенов; метаданные указывают нативный контекст 32 768 токенов. Для загрузки рекомендуется актуальная версия Transformers, для развёртывания — vLLM. Лицензия Apache 2.0. Среди ограничений: при включении статического YaRN масштабирования в vLLM производительность на коротких текстах может снизиться. Подробные результаты оценки и требования к памяти в предоставленной карточке не приведены.

Qwen2.5-Coder-32B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwen2.5-Coder-32B-Instruct, разработанной Qwen и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и работы с программным кодом, включая сценарии чат-взаимодействия и задачи, где требуется понимание или создание кода. В README указан английский язык, а для общения используется шаблон ChatML. Модель имеет размер 32 млрд параметров и поддерживает контекст до 128 000 токенов при запуске через LlamaEdge. Доступны варианты с разной степенью квантизации — от Q2_K до Q8_0, а также F16; размер файлов составляет примерно от 12,3 до 34,8 ГБ, причём варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу между качеством и размером. Более сильная квантизация уменьшает требования к ресурсам, но может заметно снижать качество. Модель подходит для локального развёртывания и использования через LlamaEdge версии 0.14.14 или новее, включая запуск как сервиса или командного приложения. README не указывает мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Распространение осуществляется по лицензии Apache 2.0.

duyntnet/Qwen2.5-Coder-3B-Instruct-imatrix-GGUF — набор imatrix-квантизированных версий инструкционно дообученной языковой модели Qwen2.5-Coder-3B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации, анализа и исправления программного кода, а также для создания code agents и решения задач, связанных с математикой и общими текстовыми сценариями. Она работает как causal language model и поддерживает запуск через llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и другие совместимые интерфейсы. Исходная модель содержит 3,09 млрд параметров, 36 слоёв и поддерживает контекст до 32 768 токенов. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-проекциях внимания, связанные эмбеддинги слов и grouped-query attention: 16 голов для Q и 2 для KV. В карточке указана английская локализация; заявленная модальность — текст, формат репозитория — GGUF. Обучение включало предварительное и последующее дообучение на данных с исходным кодом, связями между текстом и кодом и синтетическими примерами. К сильным сторонам относятся специализация на программировании, генерации, рассуждении и исправлении кода, а также возможность локального запуска благодаря GGUF-квантизации. Ограничения включают отсутствие заявленной поддержки других модальностей и языков, кроме английского, а качество и требования к ресурсам зависят от выбранного варианта квантизации. Лицензия указана как other, без подробных условий в README.

Qwen2.5-Coder-7B-Instruct — инструкционная версия каузальной языковой модели для работы с программным кодом, разработанная командой Qwen. Это дообученная версия Qwen/Qwen2.5-Coder-7B с архитектурой Qwen2 и 7,1 млрд параметров по метаданным. Модель принимает текстовые запросы и генерирует текст, включая код; поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации, анализа и исправления кода, рассуждений о коде и создания кодовых агентов. README описывает архитектуру на базе Transformers с RoPE, SwiGLU и RMSNorm, а также контекст до 131 072 токенов при настройке YaRN для длинных входов. В конфигурации по умолчанию используется контекст 32 768 токенов. Для длинных контекстов масштабирование YaRN может снижать качество на коротких запросах. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers; README рекомендует актуальную версию библиотеки. Лицензия — Apache-2.0. Карточка подтверждает прежде всего английский язык; отдельный список поддерживаемых языков программирования и оценка качества именно этой instruct-версии здесь не приведены.

Qwen2.5-Coder-7B-Instruct-MLX-8bit — это 8-битная MLX-квантизация инструкционно дообученной языковой модели Qwen2.5-Coder-7B-Instruct. Базовую модель разработала команда Qwen, квантизацию предоставил bartowski на основе инструментов mlx-examples. Модель предназначена для генерации текста и кода, диалогового взаимодействия, задач программирования и использования в code agent-сценариях, в частности на компьютерах Mac с Apple Silicon. Модель обучалась на объёме до 5,5 триллиона токенов, включая исходный код, данные для связывания текста и кода и синтетические данные. Заявлена поддержка длинного контекста до 128 000 токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. В карточке явно указан английский язык; другие языки и дополнительные модальности не заявлены. Ключевое ограничение — специализация на текстовых и кодовых задачах, а также необходимость совместимого оборудования Apple Silicon для данной MLX-версии. Как и другие языковые модели, она может генерировать неточный, вредный или нежелательный контент. Модель распространяется по лицензии Apache-2.0. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

RootMonsteR/Qwen3-14B-Abliterated-GGUF — это квантизированная GGUF-версия модели RootMonsteR/Qwen3-14B-Abliterated, созданной на основе Qwen/Qwen3-14B. Модель разработана RootMonsteR с применением метода directional ablation из Heretic v1.3.0: заявленная цель — сохранить способности к рассуждению, программированию и tool-calling, одновременно существенно сократив количество автоматических отказов. По данным карточки, доля отказов снижена примерно с 99 до 10 из 100 тестов при KL-дивергенции 0,0333. Модель предназначена для локального текстового диалога, автономных агентов, вызова инструментов и функций, авторизованных исследований безопасности, защитных инструментов, CTF, обучения и изучения поведения моделей без отказов. Доступны варианты Q5_K_M размером около 10,5 ГБ и Q4_K_M размером около 9 ГБ; Q5_K_M рекомендуется для агентов и более надёжного формирования JSON, а Q4_K_M — при ограниченном объёме памяти. Поддерживаются llama.cpp, Ollama, LM Studio, Jan и KoboldCpp; заявлен контекст до 32 768 токенов. Указаны режимы рассуждения и без рассуждения, а также встроенный шаблон чата Qwen3. Сильными сторонами являются низкая стоимость локального запуска, сохранение исходных возможностей Qwen3-14B после квантизации, поддержка reasoning и tool-calling, а также сниженное количество рефлексивных отказов. Ограничения включают возможное ухудшение точности формата вызовов инструментов у Q4_K_M при агрессивных настройках генерации, более низкую скорость работы на CPU и необходимость использовать семплирование вместо жадного декодирования. Модель распространяется по лицензии Apache-2.0. Снижение отказов повышает требования к контролю применения: использование должно соответствовать законодательству, договорным обязательствам и согласованному объёму работ.

Это дообученная языковая модель DavidAU на базе Qwen3-30B-A3B-Thinking-2507 с адаптером Brainstorm 20X. Она предназначена для диалогов, рассуждений, генерации текста и особенно для написания, анализа и отладки кода на популярных и менее распространённых языках программирования. Модель использует архитектуру MoE; в README указаны 42 млрд параметров, 67 слоёв и контекст до 256 тыс. токенов. Метаданные каталога указывают 3,5 млрд параметров, поэтому оценки общего размера в источниках расходятся. Модель принимает текст и выдаёт текст. Карточка описывает её как универсальную, с поддержкой длинного контекста и режима рассуждений; языковые теги метаданных — английский, французский, китайский и немецкий. Репозиторий содержит веса в SafeTensors и допускает использование через Transformers; лицензия — Apache-2.0. README также описывает исходные веса как источник для преобразования в другие форматы, но это не меняет указанный формат файлов репозитория.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-AWQ — это квантованная версия модели Qwen3.8-27B TURBO Fable Cold Fusion. Исходную модель и слияние весов GAIN разработал DavidAU, а квантование и упаковку выполнила Solstice-AI. Модель предназначена для программирования, агентной разработки, отладки репозиториев, решения задач на рассуждение и управления компьютером или мобильными устройствами. По данным README, заявлены поддержка английского и китайского языков, мультимодальный ввод изображений и видео, а также контекст до 262 144 токенов. Архитектура описывается как гибридная: 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а 25% — Grouped-Query Attention. Модель содержит Multi-Token Prediction для спекулятивного декодирования и поставляется с визуальным проектором mmproj-BF16.gguf. Формат — AWQ INT4 (W4A16), поэтому модель рассчитана на экономичное инференс-развёртывание с использованием Anvil, vLLM или SGLang, но квантование может снижать точность по сравнению с полноразмерными весами и требует совместимого оборудования и программного стека. README приводит высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench и ARC, однако условия и независимая воспроизводимость этих оценок требуют проверки. Указана лицензия Apache 2.0; заявленная модификация alignment-механизмов означает, что модель может иметь меньше встроенных отказов и требует осторожного применения.

Qwen3.8-9B-Coder — компактная кодовая языковая модель, разработанная Empero на основе дистилляции Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B. LisyNeko выполнил дообучение для задач программирования и восстановил поддержку изображений с помощью vision-проектора. Модель перепакована nullsumlabs в формате GGUF для совместимости с LM Studio, llama.cpp и Ollama. Модель предназначена для генерации, исправления и рефакторинга кода, объяснения ошибок, решения математических и логических задач, следования инструкциям и вызова функций. Поддерживает текстовый и графический ввод, заявленный язык — английский. Нативное контекстное окно составляет 262 144 токена. Архитектура qwen35 представляет собой гибридную causal language model с чередованием Linear SSM/Gated DeltaNet и Gated Attention, 33 блоками, grouped-query attention и встроенным multi-token prediction. Доступная сборка Q4_K_M занимает около 5,8 ГБ, а vision-проектор в формате BF16 — около 879 МБ. Сильными сторонами являются специализация на программировании, дистиллированные трассы рассуждений, поддержка function calling, большой контекст и возможность работы с изображениями. Ограничения включают зависимость от GGUF-совместимых приложений вместо стандартного Transformers pipeline, необходимость отдельного vision-проектора для обработки изображений и возможные потери качества из-за квантования Q4_K_M. Модель распространяется по лицензии Apache-2.0.

Ring-2.5-1T — языковая модель команды Ling Team для диалогов, сложных рассуждений и многошагового выполнения задач. Карточка описывает её как модель с гибридной архитектурой линейного внимания Ling 2.5, развивающей Ling 2.0: часть слоёв GQA заменена на сочетание MLA и Lightning Linear Attention. В метаданных указаны архитектура семейства Bailing Hybrid, класс MoE и 59 млрд параметров; веса доступны в формате safetensors с compressed-tensors. Модель предназначена для математических и логических задач, программирования, поиска с использованием инструментов и длительных агентных сценариев, включая задачи разработки ПО. Заявленная длина контекста — 128K токенов с расширением до 256K посредством YaRN; метаданные указывают нативный контекст 131072 токена. Карточка сообщает о сильных результатах на ряде сложных тестов, но также отмечает ограничения в эффективности использования токенов, следовании инструкциям и выполнении реалистичных сложных задач. Модель выпущена под лицензией MIT. README сообщает, что обучение Ring-2.5-1T продолжается; отдельный технический отчёт на момент публикации карточки не представлен.

Salience-27B-R4 — предварительная плотная мультимодальная модель Vection Labs на 27,2 млрд параметров, построенная на Qwen3.6. Она принимает текст, изображения и видео и генерирует текст. Модель предназначена для сложных задач разработки ПО: написания и отладки кода, редактирования репозиториев, работы через терминальные инструменты и количественных рассуждений. В архитектуре используется гибридное линейное и полное внимание, а также MTP-голова для ускорения декодирования. Нативное окно контекста составляет 262 144 токена; с YaRN его можно расширить до 1 048 576 токенов. Модель поддерживает диалог, код, вызовы инструментов и анализ изображений; в README также заявлен анализ видео. Она рассчитана на инженерные сценарии, включая понимание скриншотов, диаграмм и документов. Модель выпущена как preview, поэтому возможны шероховатости. Ответы могут содержать вымышленные API или факты, а сгенерированный код следует проверять перед запуском. Не предназначена для принятия ответственных решений без проверки человеком. Лицензия — Apache-2.0.

Dolphin 2.9.4 Llama 3.1 8B — диалоговая модель на архитектуре Llama 3.1, дообученная Эриком Хартфордом и Cognitive Computations на базе Meta-Llama-3.1-8B. Она содержит около 7,5 млрд параметров, использует формат ChatML и поддерживает контекст до 131 072 токенов; при дообучении использовалась длина последовательности 8 192 токена. Модель предназначена для диалога и следования инструкциям, написания и разбора кода, математических задач и сценариев с агентными функциями и вызовом инструментов. В карточке заявлена поддержка инструкций на многих языках и высокая подчиняемость системным инструкциям. Это неконтент-фильтрованная модель, поэтому для публичного сервиса разработчик рекомендует самостоятельно добавить слой выравнивания. Распространяется по лицензии Llama 3.1.

Gemini 3.8 Flash — модель Google из семейства Gemini Flash. В карточке указаны улучшения по сравнению с Gemini 3.7 Flash в задачах разработки программного обеспечения, агентных сценариях и многошаговых рассуждениях. Метаданные каталога классифицируют модель как image-text-to-text. Имеющихся сведений недостаточно, чтобы описать её размер, контекст, языковую поддержку, условия лицензии или ограничения; эти характеристики здесь не предполагаются.

GLM-5 — диалоговая языковая модель семейства GLM, разработанная Z.ai. Она предназначена для решения сложных задач программирования и системной инженерии, многошаговых рассуждений и длительных агентных сценариев с использованием инструментов. В карточке описана модель на 744 млрд параметров с 40 млрд активных параметров; применяются архитектура MoE и механизм DeepSeek Sparse Attention (DSA), рассчитанный на эффективную работу с длинным контекстом. Метаданные этого репозитория указывают 30,4 млрд параметров и контекст до 202 752 токенов. Модель генерирует текст, поддерживает диалог и интерфейс вызова инструментов. В карточке заявлена поддержка английского и китайского языков. Для локального развёртывания README упоминает vLLM, SGLang и xLLM. Репозиторий распространяется по лицензии MIT. Размер модели и расхождение между описанием архитектуры в README и параметрами репозитория требуют внимания при выборе конкретного чекпойнта и конфигурации развёртывания.

Mellum2-12B-A2.5B-Claude-4.6-4.8-Opus-Thinking-GGUF — это GGUF-квантизированная версия модели на базе JetBrains Mellum2-12B-A2.5B-Thinking, опубликованная пользователем yuxinlu1. Модель ориентирована на программную инженерию, генерацию и анализ кода, решение технических задач и рассуждения. По данным карточки, она дополнительно настроена на reasoning-трассах Claude Opus 4.6, 4.7 и 4.8 и формирует рассуждения в блоках <think> перед ответом. Модель использует архитектуру Mixture-of-Experts: всего около 12,15 млрд параметров, из которых 2,5 млрд активируются для каждого токена. В архитектуре указаны 28 слоёв, 64 эксперта и 8 активных экспертов, а максимальная длина контекста составляет 131K токенов. Это текстовая causal language model без мультимодальности. Доступны квантизации Q2_K, Q4_K_M, Q6_K и Q8_0; рекомендуемым вариантом названа Q4_K_M. Поддерживаются локальный запуск через llama.cpp, а также приложения LM Studio, Jan и Ollama при наличии актуальной поддержки архитектуры mellum2. К сильным сторонам относятся высокая скорость генерации, локальная работа без API и облачных сервисов, большой контекст и сравнительно небольшое число активных параметров на токен. Для Q4_K_M заявлена скорость около 440 токенов в секунду на RTX 5090, однако этот показатель зависит от оборудования и настроек. Ограничения включают необходимость свежей версии llama.cpp с поддержкой mellum2, зависимость качества от выбранной квантизации и отсутствие в карточке независимых benchmark-результатов. Модель распространяется по лицензии Apache-2.0.

MiniMax-M3 — мультимодальная модель компании MiniMax для диалогов, работы с изображениями и видео, программирования и агентных задач. Она принимает текст и визуальные данные, объединяя их обработку благодаря обучению на смешанных модальностях с самого начала. Модель содержит около 428 млрд параметров, из которых активируется около 23 млрд. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA) и поддерживает контекст до 1 млн токенов. Разработчик заявляет об ускорении обработки длинного контекста относительно M2 и о сильных результатах в длительных агентных задачах, включая программирование и совместную работу. Модель доступна через MiniMax Agent и API, а также для локального запуска на Transformers с весами safetensors. Лицензия указана как other; конкретные условия следует проверить в карточке модели. В README не перечислены поддерживаемые естественные языки и отдельные ограничения качества.

Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров семейства Qwen3.5, представленная в карточке как лёгкая модель семейства Ornith-1.5. Она предназначена для диалогов и агентных сценариев, включая программирование, решение задач с инструментами и работу с длинными входными данными. Модель поддерживает вызов инструментов через совместимый с OpenAI интерфейс и контекст до 262 144 токенов; README описывает расширение окна примерно до миллиона токенов с помощью YaRN, с возможным снижением качества на обычных запросах. В карточке Ornith-1.5 описана как результат развития Ornith-1.0 с генерацией обучающих задач, поиском стратегий и обучением с подкреплением; указанная модель позиционируется как вариант для эффективного развёртывания. Представлены результаты бенчмарков для программных и агентных задач, а также измерения показывают меньше отказов, чем у сравниваемой исходной модели. Репозиторий содержит веса safetensors и использует Transformers. Лицензия — MIT. README указывает на плотную архитектуру Qwen3.5 и размер около 9 млрд параметров, однако также описывает семейство как основанное на Qwen3.5 и Gemma4; точную связь именно этого чекпойнта с базовой моделью из доступных сведений установить нельзя. Метаданные включают тег image-text-to-text, но карточка описывает текстовое поколение и не подтверждает визуальный ввод для этой версии.

Proximus-2x7B-v1 — языковая модель семейства Mixtral, созданная preemware с помощью LazyMergekit как смесь экспертов из beowolx/MistralHermes-CodePro-7B-v1 и preemware/Prox-MistralHermes-7B. В конфигурации указана базовая модель mlabonne/NeuralHermes-2.5-Mistral-7B; эксперты ориентированы на программирование и кибербезопасность. Модель предназначена для генерации текста и диалоговых сценариев, включая помощь с кодом и вопросы по информационной и сетевой безопасности. Архитектура — Mixtral MoE с классом MixtralForCausalLM; в репозитории доступны веса safetensors. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результаты оценки качества и не описывает конкретные меры безопасности; ответы по кибербезопасности и сгенерированный код требуют проверки.