II.5Безопасность программного кода и цепочки поставок

Granite-8B-Code-Instruct-128K — языковая модель для программирования, разработанная IBM Research. Это плотная decoder-only модель семейства Llama с 8,1 млрд параметров, дообученная на базе ibm-granite/granite-8b-code-base-128k. Модель принимает текстовые инструкции и код, поддерживает контекст до 128 000 токенов и выдаёт текст. Модель предназначена для генерации и объяснения кода, а также для создания программных помощников, работающих с длинным контекстом, например с содержимым репозитория. Обучение сочетает короткие и длинные примеры, чтобы поддерживать задачи на уровне нескольких файлов и сохранять возможности при коротких запросах. В обучающие данные входили наборы для программирования, математики, SQL и диалогов с помощником. Модель выпущена IBM Research 18 июля 2024 года и распространяется по лицензии Apache 2.0. Авторы не рекомендуют применять её в новых проектах: для них предназначены более новые модели семейства Granite. Качество может быть ниже для языков программирования, слабо представленных в обучении; перед использованием в критических приложениях рекомендуется проверка безопасности и настройка под целевую задачу.

Карточка модели IQuestLab/IQuest-Coder-V1-14B-Thinking на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

Карточка модели IQuestLab/IQuest-Coder-V1-7B-Thinking на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

Laguna-S-2.1-Uncensored-APEX-GGUF — квантизированная GGUF-версия модели Laguna S 2.1, опубликованная SC117 на основе официальной модели poolside. Это модель Mixture-of-Experts для агентного программирования, долгосрочных задач и сценариев с использованием инструментов. Версия дополнительно обработана с помощью abliterix Trial 16 для существенного снижения частоты отказов и затем квантизирована в смешанной точности APEX с использованием imatrix. Модель имеет около 118 млрд параметров в общей сложности и около 8 млрд активных параметров на токен. Архитектура включает 256 маршрутизируемых экспертов и одного общего эксперта с выбором top-10, GQA, а также чередование глобального и скользящего оконного внимания: 48 слоёв, из которых 12 используют глобальное внимание, а 36 — локальное с окном 512 токенов. Заявлена поддержка контекста примерно до 1 млн токенов и опционального встроенного рассуждения с использованием инструментов. В README явно указан английский язык; сведения о других языках и мультимодальности не приведены. К сильным сторонам относятся высокая ёмкость MoE при сравнительно небольшом числе активных параметров, ориентация на программирование и длинные рабочие процессы, а также уменьшенная склонность к отказам. Ограничения связаны с тем, что это uncensored-редакция: её поведение может существенно отличаться от официальной Laguna-S-2.1, поэтому необходимы оценка безопасности, контроль доступа и аудит. Модель распространяется по лицензии OpenMDW-1.1; также следует учитывать условия poolside.

Llama-3.1-Nemotron-Ultra-253B-CPT-v1 — базовая языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct и предназначенная для дальнейшей адаптации под конкретные приложения и предметные области. Это плотный декодерный Transformer с нестандартными блоками, выбранными методом Neural Architecture Search: в части блоков пропущено или заменено внимание, а слои FFN имеют разные пропорции и могут объединяться. Модель прошла дистилляцию и продолжительное предобучение; в README указано 253 млрд параметров, тогда как метаданные Hugging Face указывают 697,9 млрд. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык и задачи с кодом. NAS-архитектура уменьшает требования к памяти и повышает пропускную способность и задержку относительно родительской модели; README сообщает, что для инференса модель помещается на одном узле с 8 H100. Она сохраняет часть возможностей следования инструкциям родительской модели, но заявлена прежде всего как основа для дообучения, а не как специализированный чат- или reasoning-чекпойнт. NVIDIA заявляет готовность к коммерческому использованию. В метаданных лицензия обозначена как other; перед применением следует проверить условия лицензии и использования NVIDIA. Крупный размер модели требует мощной вычислительной инфраструктуры; возможности на русском языке в карточке не заявлены.

LongLLaMA-Code-7B — языковая модель для генерации кода, разработанная командой LongLLaMA во главе с Шимоном Творковским. Это плотная авторегрессионная модель LongLLaMAForCausalLM на 6,6 млрд параметров, построенная на основе Code Llama и дообученная методом Focused Transformer (FoT) для работы с длинным контекстом. Репозиторий содержит веса PyTorch; модель выпущена как исследовательский предварительный релиз. Модель предназначена для генерации и продолжения кода, а также для рассуждений над длинными текстовыми и программными входами. В README указано, что обучение FoT проводилось на контекстах до 32 тысяч токенов, а механизм памяти позволяет расширять эффективный контекст; для LongLLaMA-Code приведён пример извлечения данных из последовательностей до 256 тысяч токенов. Метаданные каталога указывают нативный контекст в 4096 токенов. Метод обрабатывает длинные входы окнами и использует кэш памяти в выбранных слоях. В README отмечено улучшение результата на GSM8K с 13% до 17,4% после продолжения предобучения без дообучения на данных этой задачи. Модель ориентирована на код, однако количественные характеристики контекстного извлечения не гарантируют такое же качество на всех задачах и длинах. Лицензия указана как Llama 2; перед использованием следует проверить её условия и применимость к конкретному сценарию.

Valiant Labs разработала Esper 4 — дообученную мультимодальную модель на базе Muse-Glimmer-30B для программирования, проектирования систем и задач DevOps и MLOps. Модель рассчитана на работу как чат- и кодовый помощник, в том числе в агентных сценариях и при разработке, развёртывании и эксплуатации ИИ-систем. Архитектура — плотная Muse Glimmer; модель принимает текст и изображения и выдаёт текст. В метаданных указан английский язык, поддержка зрения и формат весов safetensors. README описывает обучение на сложных примерах для DevOps, архитектуры, программирования и разработки ИИ, включая данные, созданные с помощью DeepSeek-V4-Pro. Модель распространяется по лицензии Apache-2.0. Заявления о запуске на настольных и мобильных устройствах приведены в README, но фактические требования к памяти и производительность не уточнены; также не указана длина контекста.

Nxcode-CQ-7B-orpo-IMat-GGUF — это набор квантизованных GGUF-вариантов модели NTQAI/Nxcode-CQ-7B-orpo, подготовленный legraphista с использованием llama.cpp версии b3067. Модель предназначена для генерации текста и, судя по тегу code и названию исходной модели, ориентирована прежде всего на задачи, связанные с программным кодом. README не содержит точных сведений о поддерживаемых языках, контекстном окне и перечне специализированных сценариев. Исходная модель имеет размер 7B параметров и исходный формат BF16. Доступны варианты от BF16 и F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K, IQ4 и IQ3; размеры файлов составляют примерно от 3,05 до 14,50 ГБ. Для ряда низкобитных вариантов применена IMatrix-квантизация с использованием указанного калибровочного набора, что позволяет выбирать между качеством и требованиями к памяти. Файлы представлены в формате GGUF и предназначены для запуска в совместимой инфраструктуре, включая llama.cpp. Главные преимущества — широкий выбор уровней квантизации, возможность локального запуска и снижение требований к памяти по сравнению с полноразмерными вариантами. Ограничения связаны с тем, что квантизация может влиять на качество генерации, а README не приводит результатов оценки, сведений о мультимодальности или точных характеристик архитектуры. Для модели указана лицензия tongyi-qianwen-research; в качестве ссылки на условия лицензии приведён документ CodeQwen1.5-7B.

CISCai/OpenCodeInterpreter-DS-6.7B-SOTA-GGUF — это набор квантованных моделей в формате GGUF на основе OpenCodeInterpreter DS 6.7B, разработанной Multimodal Art Projection (M-A-P). Модель относится к семейству DeepSeek и предназначена для генерации текста, прежде всего для задач программирования и ответов на вопросы по computer science. Указан английский язык. В репозитории представлены файлы с различными вариантами квантования, рассчитанные на запуск через llama.cpp и совместимые сторонние интерфейсы и библиотеки. Ключевая особенность — квантование с importance matrix, обученной примерно на 1 млн токенов ответов из датасета CodeFeedback-Filtered-Instruction. Доступны варианты от 1 до 4 бит с эффективной точностью примерно от 1,56 до 4,5 бит на вес. Размер файлов составляет около 1,5–2,8 ГБ и выше в зависимости от метода; требуемый объём RAM начинается примерно от 3,5 ГБ. Более компактные варианты экономят память, но могут приводить к существенной или значительной потере качества. Для корректной токенизации и лучших результатов рекомендуется свежая сборка llama.cpp. Модель лицензирована по Apache 2.0. README не содержит сведений о размере контекста, мультимодальности, полном наборе поддерживаемых языков или результатах сравнительных тестов, поэтому эти характеристики нельзя надёжно определить.

OpenThinkerAgent-32B-SFT-316 — дообученная командой OpenThoughts-Agent модель на основе Qwen/Qwen3-32B. Она обучена методом full-parameter SFT на 316 примерах траекторий агента и предназначена для диалоговой работы с задачами программной инженерии, командной строкой и техническими вопросами. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 29,7 млрд параметров и принимает текстовый ввод с контекстом до 40 960 токенов. В README приведены результаты оценки в среде terminus-2: модель показала 16,3 на SWE-Bench-Verified-100, 24,2 на OpenThoughts-TBLite и 13,1 на Terminal-Bench 2.0; оценки получены как pass@1, усреднённый по трём случайным прогонам. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Ornith-1.5-27B-A3B-CoderX — кодовая модификация модели Ornith-1.5-35B-A3B, созданная разработчиками Ornith. Это текстовая MoE-модель для генерации кода и диалоговых сценариев; в ней 40 слоёв и около 26,7 млрд параметров, из которых активны примерно 3 млрд. Модель получена экспертным прореживанием: число экспертов в каждом слое сокращено с 256 до 184, а маршрутизация top-8 и голова MTP сохранены. README указывает, что веса BF16, а оставленные эксперты побитово совпадают с базовой моделью; дообучение и дистилляция не применялись. Модель предназначена для написания и дополнения кода, решения задач программирования и диалогового использования с вызовом инструментов. Контекст составляет 262 144 токена. В карточке заявлен английский язык. В приведённых тестах модель показала сильный результат на LiveCodeBench v6, однако большинство сравнений основано на единичных запусках; авторы рекомендуют считать небольшие различия ничьей. На тесте вызова инструментов зафиксированы ошибки планирования и работы с контекстом, а измеренная оценка отмечена как нижняя граница из-за сбоя инфраструктуры. Лицензия — Apache-2.0.

Ornith-1.5-35B-A3B-REAP-50-GGUF — квантизированная GGUF-версия модели Ornith-1.5-35B-A3B, подготовленная пользователем Ttimms на основе модели от ornith-ai. Это гибридная архитектура Gated-DeltaNet и Mixture-of-Experts (MoE): после 50%-порогового pruning методом REAP число экспертов сокращено с 256 до 128, удалена MTP-голова, а итоговый объём составляет примерно 19 млрд параметров. Модель предназначена для генерации текста и ориентирована прежде всего на англоязычные сценарии. Модель подходит для локального запуска и задач программирования: для исходной модели до квантизации заявлены результаты HumanEval+ 84,2%, MBPP+ 89,2% и SWE-bench Verified 44,0%. Благодаря примерно 3 млрд активных параметров она может обеспечивать быструю инференс-работу на CPU и Apple Silicon. Доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемый Q4_K_M занимает около 11,4 ГБ, тогда как Q8_0 требует более 16 ГБ памяти или выгрузки части вычислений на CPU. Для запуска требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; также подходят LM Studio, KoboldCpp, Jan и text-generation-webui. Поддержка Ollama на момент публикации ожидала обновления встроенного llama.cpp. В README не указаны размер контекста и мультиязычные возможности; заявлен только английский язык. Из ограничений также следует учитывать удаление vision tower и MTP-головы, зависимость от совместимого рантайма и компромисс между качеством и объёмом памяти при выборе квантизации. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

Pyrex-8B-Instruct-Uncensored — дообученная модель для генерации кода и задач разработки ПО, опубликованная ImposterOnline. В карточке она описана как модель класса 8B с архитектурой Transformer и компонентами RoPE, SwiGLU, RMSNorm и GQA; метаданные Hugging Face указывают архитектуру Qwen2, 7,1 млрд параметров и формат safetensors. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Заявленная длина контекста — 32 768 токенов, при этом обучение проводилось на последовательностях длиной 4 096 токенов. Модель предназначена для генерации кода, многошаговой отладки и сценариев агентного программирования с вызовом функций. В README приведены результаты HumanEval и MBPP; качество на других задачах не установлено этими оценками. Модель дообучена методом QLoRA на смесях наборов данных для программирования и вызова функций. Лицензия — MIT. В карточке модель названа uncensored и заявлено отсутствие встроенных фильтров безопасности. Автор рекомендует проверять выходы в изолированной среде перед использованием в критичных системах; качество на контекстах длиннее 4 096 токенов не проверено. Метаданные и README расходятся в числе параметров (7,1B и 7,6B соответственно), поэтому точный размер следует считать неоднозначным.

Qwable-v1 — открытая по весам модель для агентного программирования, созданная lordx64 на основе Qwen3.6-35B-A3B. Это цепочка дообучений: сначала Qwen обучили на трассировках рассуждений Claude Opus 4.7, затем на примерах агентного использования инструментов Claude Fable-5. Модель имеет архитектуру Qwen MoE с 35 млрд параметров и примерно 3 млрд активных параметров; в репозитории опубликованы веса safetensors в bf16. Она принимает текст и генерирует текст, включая рассуждения и команды инструментам в XML-формате. В первую очередь предназначена для сценариев агентного программирования: чтения и редактирования файлов, анализа кода и запуска команд. Для вызова инструментов нужен системный промпт с описанием формата и доступных инструментов; XML-вызовы требуют обёртки для интеграции с API инструментов vLLM. Модель также подходит для чата и общих вопросов, но узкий набор примерно из 5 тысяч примеров ограничивает надёжность на задачах за пределами агентного программирования. Указана лицензия AGPL-3.0.

Domeoneyyddkk/qwen2.5-coder-merged — слитая языковая модель на архитектуре Qwen2, созданная методом DARE TIES с помощью mergekit на основе Qwen2.5-Coder-7B-Instruct и Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, рассчитана на диалоговую генерацию текста и кода; доступна в формате safetensors для библиотеки Transformers и поддерживает контекст до 32 768 токенов. Модель подходит для генерации и объяснения кода, помощи в программировании и обычных диалоговых задач. В конфигурации слияния использованы веса 0,65 для Qwen2.5-Coder-7B-Instruct и 0,35 для Qwen2.5-7B-Instruct. README и метаданные не приводят сведений о лицензии, поэтому условия использования следует сверить с лицензиями исходных моделей и правилами публикации слитых весов.

Esper 4 — дообученная Valiant Labs модель на базе Qwen3.6-27B, предназначенная для агентного программирования, проектирования архитектуры, DevOps и MLOps. Она подходит для работы в агентных фреймворках и как самостоятельный чат- и кодовый ассистент. Модель имеет плотную архитектуру семейства Qwen3.5, около 22,3 млрд параметров и контекстное окно 262 144 токена. Метаданные указывают поддержку задач генерации текста и обработки изображений с выдачей текста; в README основной акцент сделан на кодировании и инженерных задачах. Для дообучения использованы наборы сложных примеров по программированию, DevOps и архитектуре, созданные с помощью DeepSeek-V4-Pro. Карточка отмечает английский язык. Esper 4 ориентирована на сложные агентные запросы, разработку и эксплуатацию AI-систем; автор также заявляет возможность локального запуска и быструю серверную генерацию. Лицензия — Apache-2.0. README не приводит независимых оценок качества, поэтому заявленные улучшения не следует считать подтверждёнными сравнительным тестированием.

Qwen3.8-Flash-Coder-44GB-Selective-INT8 — разреженная MoE-модель для генерации и изменения программного кода, опубликованная Jab1718. Это вариант контрольной точки Jab1718/qwen3.8-flash-coder-85gb-bf16 с избирательной INT8-квантизацией экспертных слоёв; согласно карточке, роутеры, механизмы внимания и ряд общих модулей сохранены в BF16. В метаданных указаны 5,1 млрд параметров, архитектура Qwen4ExpForCausalLM и контекст до 262 144 токенов. Модель предназначена для написания, отладки и изменения кода, включая работу в сценариях coding agent. Карточка описывает размещение весов размером 44,29 ГБ и приводит результаты собственного тестирования на задачах программирования; эти результаты не гарантируют аналогичного качества на других задачах. Модель принимает текст и генерирует текст. В метаданных перечислены английский, вьетнамский и китайский языки. Репозиторий распространяется по лицензии Apache-2.0. Для запуска требуются значительные ресурсы GPU; README заявляет возможность размещения на двух GPU по 32 ГБ, однако совместимость зависит от программного обеспечения и конфигурации оборудования.

Карточка модели XXXMARK/Qwen3-Coder-Next на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

MaziyarPanahi/Qwen3-Coder-Next-GGUF — это набор файлов модели в формате GGUF для Qwen3-Coder-Next, исходно разработанной командой Qwen. Квантованные версии подготовил MaziyarPanahi. Модель предназначена для генерации текста и, исходя из названия исходной модели, ориентирована на задачи, связанные с программированием, однако подробные сведения о специализации и результатах оценки в README не приведены. Главная характеристика этой версии — распространение в формате GGUF с вариантами квантования 2-, 3-, 4-, 5-, 6- и 8-бит. Формат поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие, что позволяет запускать модель локально с использованием CPU или GPU в зависимости от конкретного инструмента. Размер исходной модели, архитектура, поддерживаемые языки, модальности и размер контекста в README не указаны. Лицензия также не указана, поэтому условия использования следует уточнять в материалах исходной модели Qwen3-Coder-Next и репозитории квантованной версии.

Карточка модели tomhu/Qwen3-Coder-Next-SWE-Prune-ACTIVATION-70 на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Карточка модели tomhu/Qwen3-Coder-Next-SWE-Prune-GATE-70 на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Это пакет слоёв GGUF для модели Qwen3-Coder-Next-UD-Q4_K_XL, подготовленный Mesh LLM на основе unsloth/Qwen3-Coder-Next-GGUF. Он распределяет исходную модель по отдельным артефактам слоёв для инференса на локальном кластере Mesh LLM; в метаданных указан формат GGUF и библиотека mesh-llm. Пакет предназначен для локального приватного запуска, распределения вычислений между несколькими машинами, когда модель не помещается на одном хосте, и обслуживания чатов через локальный API, совместимый с OpenAI. Это вариант квантования UD-Q4_K_XL; подробности об архитектуре, размере, контексте, языках и лицензии следует смотреть в карточке исходной модели.

Trinity-2-Codestral-22B-v0.2-GGUF — набор GGUF-квантизаций базовой модели migtissera/Trinity-2-Codestral-22B-v0.2, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель относится к задачам генерации текста и ориентирована прежде всего на работу с кодом; запуск возможен через llama.cpp и LM Studio. Доступны варианты от исходных весов F16 размером 44,50 ГБ до компактных квантов IQ3 и Q3 размером около 10–12 ГБ, а также форматы Q4, Q5, Q6 и Q8. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а варианты Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 оптимизированы для более быстрой инференции на ARM и CPU. В README не указаны архитектура, поддерживаемые языки, модальности и размер контекстного окна. Для работы рекомендуется использовать шаблон prompt format с ролями system, user и assistant. Сильной стороной набора является широкий выбор компромиссов между качеством, размером и скоростью запуска; варианты Q5–Q6 заявлены как высококачественные, а Q4 — как практичные для систем с ограниченными ресурсами. К ограничениям относятся возможная потеря качества при низких уровнях квантования и отсутствие подробных сведений о возможностях исходной модели. Лицензия указана как other, без дополнительных условий в представленном README.

Vedika-Code-Pro-v1 — языковая модель Veda Labs, предназначенная для программирования и задач рассуждения. В метаданных Hugging Face указаны архитектура VedikaCodeProV1ForCausalLM, плотный тип архитектуры, 44,9 млрд параметров, библиотека Transformers и формат Safetensors. README приводит другие характеристики размера: 1,6 трлн общих параметров и 49 млрд активируемых; это расхождение не позволяет однозначно установить фактический размер модели. Заявлена длина контекста около 1 млн токенов. Модель принимает текст и генерирует текст; README указывает на форматирование сообщений, совместимое с OpenAI, и отдельные скрипты кодирования, поскольку в выпуске нет шаблона чата Jinja. Она рассчитана на помощь в написании кода и рассуждениях, в том числе в сценариях разработки. Язык программирования и поддерживаемые естественные языки в доступных данных не перечислены. Лицензия — MIT.

MiMo-V2.6-Flash-RL — мультимодальная модель Xiaomi из серии MiMo-V2.6, обученная с подкреплением для задач агентного взаимодействия и самоулучшения по обратной связи. Она предназначена для генерации текста, работы с инструментами, программирования и мультимодального понимания; обучение объединяет задачи кодирования, визуальные сценарии, агентов общего назначения и кибербезопасность. В README архитектура описана как разреженная MoE с 309 млрд общих и 15 млрд активируемых параметров, 1 млн токенов контекста, обработкой текста, изображений, видео и аудио, а также визуальным и аудиокодировщиками. Метаданные Hugging Face, однако, указывают 12 млрд параметров и архитектуру dense MiMoV2ForCausalLM в формате safetensors FP8; поэтому точный размер и тип архитектуры опубликованной версии противоречивы. Метаданные также указывают поддержку английского и китайского языков. Для развёртывания README приводит рецепты SGLang и vLLM и интерфейс вызова инструментов. Модель распространяется по лицензии MIT. README приводит результаты отдельных бенчмарков, но не задаёт гарантий качества для конкретных задач; работа с длинным контекстом и мультимодальными входами требует совместимого программного обеспечения и достаточных вычислительных ресурсов.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — модель для генерации текста и решения сложных многошаговых задач, дообученная на базе Qwen3.5-9B. Она создана с применением supervised fine-tuning, LoRA и дистилляции рассуждений из Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Основной акцент сделан на структурированном анализе, планировании, декомпозиции задач и более лаконичных ответах. Модель предназначена для математики и логики, программирования и системного анализа, научных, инженерных, юридических, медицинских и финансовых задач, а также для сценариев, связанных с безопасностью и adversarial reasoning. В карточке указана текстовая модальность, pipeline text-generation и поддержка английского, китайского и корейского языков. Размер базовой модели — 9B параметров; размер контекста и точные требования к аппаратным ресурсам не указаны. Сильными сторонами модели считаются многошаговое рассуждение, отслеживание ограничений, последовательное планирование, междисциплинарный охват и анализ отказов или атак. При этом дистилляция и специализированное дообучение могут ухудшать обобщение в некоторых широких сценариях и приводить к частичному забыванию знаний базовой модели, поэтому модель рекомендуется оценивать на целевых задачах перед внедрением. Лицензия — Apache-2.0.

Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF — это квантованная в формате GGUF MXFP4 версия модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M, дообученной Empero AI на базе Qwen3.5-9B. Это мультимодальная модель с архитектурой Qwen3.5 и зрительным энкодером SigLIP ViT; основной файл использует 4-битный формат MXFP4, а для обработки изображений нужен отдельный файл mmproj в F16. Репозиторий распространяется под лицензией Apache-2.0. Модель предназначена для диалогов с рассуждениями, работы с изображениями, вызова инструментов и задач с длинным контекстом, включая анализ кода и документов. README заявляет контекст до 1 048 576 токенов, а также сильные стороны в математике, кибербезопасности и биомедицинских темах. Поддерживаются английский язык и интерфейс вызова инструментов в стиле OpenAI/Qwen3.5. Зрительная часть унаследована от базовой модели и не дообучалась; README также предупреждает, что модель может уверенно выдавать ошибочные идентификаторы CVE и дозировки лекарств. Для критически важных ответов нужны внешняя проверка и инструменты, а для пользовательских развёртываний README рекомендует добавить собственный слой безопасности. Ответы начинаются с блока рассуждений, поэтому требуется достаточный лимит генерации.

stelterlab/Qwen3-Coder-30B-A3B-Instruct-AWQ — экспериментальная AWQ-квантизованная версия Qwen3-Coder-30B-A3B-Instruct, разработанная stelterlab на основе оригинальных весов Qwen AI. Квантизация выполнена в формате INT4 GEMM с использованием llm-compressor от vLLM Project. Модель предназначена для генерации и анализа кода, агентного программирования, работы с браузером и задач, требующих понимания репозиториев и вызова инструментов. Это каузальная языковая MoE-модель с 30,5 млрд параметров, из которых активируются 3,3 млрд. Она содержит 48 слоёв, 128 экспертов и активирует 8 экспертов на запрос; используется GQA с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN может расширяться до 1 млн токенов. Модель поддерживает только режим без рассуждений и не генерирует блоки <think></think>; заявлены возможности function calling и интеграция с инструментами для агентного программирования. README не указывает полный перечень поддерживаемых языков. К сильным сторонам относятся сочетание большого общего объёма параметров с малым числом активируемых параметров, длинный контекст, ориентация на код и поддержка инструментов. Ограничения связаны с экспериментальным статусом данной квантизованной сборки и возможными требованиями к памяти и вычислительным ресурсам при работе с длинным контекстом; при нехватке памяти рекомендуется уменьшать контекст. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V3.1-Terminus — языковая модель, разработанная командой DeepSeek-AI. Это обновлённая версия DeepSeek-V3.1, построенная на той же архитектуре, что и DeepSeek-V3, и основанная на DeepSeek-V3.1-Base. Обновление сохраняет исходные возможности модели, улучшает согласованность языка, снижая смешение китайского и английского текста и появление аномальных символов, а также повышает эффективность Code Agent и Search Agent. Модель предназначена для рассуждений без инструментов, генерации и анализа кода, работы поисковых агентов и агентских сценариев с использованием инструментов. По данным сравнительных тестов, улучшения особенно заметны в BrowseComp, SimpleQA, SWE Verified, SWE-bench Multilingual и Terminal-bench, хотя на отдельных задачах результаты немного ниже, чем у DeepSeek-V3.1. В README не указаны точный размер модели, число параметров, поддерживаемые языки, модальности и размер контекста. Для локального запуска предусмотрены материалы на базе репозитория DeepSeek-V3 и обновлённый пример инференса; отмечена известная проблема с форматом данных FP8 для параметров self_attn.o_proj, которую планируют исправить в будущих релизах. Модель и веса распространяются по лицензии MIT.

medismera представил производную модель Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на основе слияния Qwen3.8-27B-OBLITERATED и Qwen/Qwen3.8-27B. Это плотная модель семейства Qwen3.5 с 27 млрд параметров для диалоговой генерации текста и работы в агентных сценариях. В карточке заявлены шаблон чата с поддержкой вызова инструментов, разбиение задач на иерархические этапы, протокол самопроверки рассуждений и контекст до 131 072 токенов; максимальная длина генерации указана как 16 384 токена. Модель предназначена для программирования, анализа системных журналов и телеметрии, многошаговых технических задач и взаимодействия с инструментами через совместимые агентные среды. Указаны английский, китайский и арабский языки. Репозиторий описывает веса в формате Safetensors и приводит варианты BF16, FP8 и AWQ в ветках; для запуска рекомендуются SGLang и vLLM. Лицензия — Apache-2.0. Заявления README о качестве вызова инструментов, результатах бенчмарков и отсутствии отказов приведены автором и не являются независимой оценкой. Это текстовая модель: метаданные не указывают вход или выход изображений, несмотря на мультимодальные возможности базовой модели.