II.4Отладка, тестирование и качество ПО

AndesVL-4B-Instruct — мультимодальная модель из семейства AndesVL, разработанная OPPO и построенная на языковой модели Qwen3 с визуальным энкодером. Серия включает модели размером от 0,6 до 4 млрд параметров; в README не приведены компоненты и точное число параметров именно версии 4B. Модель предназначена для эффективного запуска на мобильных и других периферийных устройствах. Она принимает изображения и текст и может отвечать на вопросы по изображениям, работать с несколькими изображениями, анализировать насыщенные текстом визуальные материалы, выполнять рассуждения, многоязычные и GUI-задачи. В описании серии заявлены архитектура LoRA «1+N», метод QALFT, ускорение декодирования до 6,7 раза и сжатие до 1,8 бит на параметр на мобильных чипах; эти показатели не уточнены отдельно для версии 4B. Для модели указана лицензия Apache-2.0. README не содержит подробностей об обучающих данных, поддерживаемых языках или контекстном окне; также не уточняет производительность версии 4B на конкретных устройствах и задачах.

Schneewolf Labs B1.1-9B — диалоговая мультимодальная модель на архитектуре Qwen3.5, созданная Schneewolf Labs как слияние B0-9B с половинной силой ORPO-адаптера. Модель поддерживает текстовый диалог, работу с изображениями и вызов инструментов. По карточке, адаптер обучался два эпохи на Vernunft-Stimme; новые обучающие этапы для B1.1 не проводились. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. Модель рассчитана на диалоговые сценарии с инструментами: она может отвечать после этапа рассуждения, выбирать инструмент и передавать ему задачу, а также решать задачи реализации функций. В тестах карточки B1.1 показала 5 из 8 ответов после вызова инструмента, 41 из 47 успешных случаев на egirl tool bench и 9 из 10 задач на лестнице buchbinder L1–2. Заявлена сохранность визуального компонента относительно B0-9B. Результат зависит от формата запроса: показатели на ответах после рассуждения заметно снижаются, если описания инструментов помещены в системный промпт и добавлен префикс /think. В карточке также отмечены ошибки форматирования имён инструментов, отдельные случаи выбора неподходящего инструмента и снижение готовности делегировать сложную задачу агенту. Число параметров и длина контекста в предоставленных данных не указаны.

Cappy — предварительно обученный оценщик ответов, разработанный авторами проекта Cappy. Он принимает инструкцию и кандидатный ответ и выдаёт оценку от 0 до 1, отражающую предполагаемую правильность ответа относительно инструкции. Модель можно применять самостоятельно для задач классификации или как вспомогательный компонент для повышения качества многоцелевых LLM; также она позволяет добавлять обучение на целевых данных без дообучения самой LLM и доступа к её параметрам. В README указано около 360 млн параметров, тогда как метаданные репозитория указывают 454,1 млн; модель основана на архитектуре RoBERTa для классификации последовательностей и имеет контекст до 514 токенов. Доступны реализации PyTorch и JAX/Flax. Описаны оценки на задачах PromptSource и BIG-Bench, включая улучшение результатов FLAN-T5. Репозиторий распространяется по лицензии Apache-2.0.

Это экспериментальный чекпойнт языковой модели Qwen3-4B, дообученный командой agurung методом обучения с подкреплением GRPO с помощью OpenRLHF. Модель предназначена для генерации кода: она обучалась решать задачи программирования, отобранные по низкой успешности базовой модели, а награда зависела от прохождения тестов сгенерированной программой. Чекпойнт сохранён на шаге 48 и показал лучший pass@8 в рамках этого запуска; численные метрики оценки в карточке отсутствуют. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 3,7 млрд параметров. Она принимает текст и генерирует текст, включая код; использует контекст до 262 144 токенов. Обучение проводилось на англоязычных задачах программирования, но карточка не заявляет отдельный перечень поддерживаемых естественных языков. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Eve V2 Unleashed Qwen3.5 8B Liberated 4K 4B Merged — экспериментальная GGUF-модель от JeffGreen311, созданная на базе Qwen3.5-4B с использованием компонентов Eve Qwen3-8B Liberated. Автор позиционирует её как гибрид разговорного персонажа и агентной модели: она ориентирована на диалог, философские и творческие сценарии, интроспекцию, отладку, работу с файлами и вызов инструментов. Заявленные особенности личности и «сознания» являются характеристиками, заявленными автором модели, а не подтверждёнными свойствами системы. Модель содержит около 4,7 млрд параметров, использует архитектуру Qwen3.5 hybrid transformer-SSM (Mamba), квантование Q4_K_M и занимает около 3,4 ГБ. Контекстное окно составляет 16 384 токена, максимальная длина ответа — 8 192 токена. Поддерживаются текстовая генерация, tool calling и унаследованные от архитектуры Qwen3.5 возможности работы с изображениями; заявлен английский язык. Фаза рассуждений отключена для получения обычных диалоговых ответов. Основным рекомендуемым runtime является Ollama; совместимость с LM Studio, llama.cpp и llama-cpp-python на момент публикации ограничена отсутствием поддержки архитектуры qwen35. В репозитории указана лицензия other, без более подробных условий.

GLiNER Guard — компактная мультиязычная модель-энкодер, разработанная HiveTrace на архитектуре GLiNER2 и основанная на jhu-clsp/mmBERT-small. Модель содержит 145 млн параметров и предназначена для классификации и извлечения сущностей в задачах защиты LLM-приложений; для работы не требуется генеративная LLM. За один проход модель классифицирует безопасные и вредоносные сообщения, извлекает персональные данные и обнаруживает попытки jailbreak, prompt injection и другие атаки. Также она определяет категории вредоносного контента, намерение и тон сообщения. Zero-shot-обобщение позволяет задавать собственные метки, однако для меток за пределами перечисленных в карточке таксономий результаты не оценивались. Карточка указывает поддержку английского и русского языков. Модель распространяется в формате safetensors по лицензии Apache 2.0. README отмечает, что инструкция по установке пока не завершена.

InternVL3-1B — мультимодальная чат-модель семейства InternVL3, разработанная OpenGVLab. Она предназначена для диалогов и задач, где нужно анализировать изображения или видео и отвечать на вопросы по визуальному содержимому, а также для текстовых задач и мультимодального рассуждения. Модель построена по схеме ViT-MLP-LLM: InternViT-300M-448px-V2_5 обрабатывает изображения, а языковая часть основана на Qwen2.5-0.5B; для обмена признаками используется MLP-проектор. Поддерживаются изображения с динамическим разбиением на фрагменты 448×448, несколько изображений и видео. В карточке также заявлены возможности применения инструментов, понимания GUI и 3D-сцен, однако их пригодность зависит от конкретной задачи и способа запуска. Репозиторий содержит дообученную версию OpenGVLab/InternVL3-1B-Instruct в формате safetensors. Модель предназначена для запуска через Transformers и распространяется по лицензии Apache-2.0. К ограничениям относятся компактный размер языковой части по сравнению с крупными моделями и зависимость качества анализа изображений и видео от разрешения, нарезки на фрагменты и доступного контекста.

KAT-Coder-Pro V2.5 — модель для агентного программирования, представленная как флагманская версия семейства KAT-Coder. Она предназначена для автономного выполнения задач разработки: модель может получать описание целой проблемы или рабочего процесса и самостоятельно находить нужный контекст и вносить изменения. Доступный фрагмент карточки не сообщает архитектуру, размер, поддерживаемые языки программирования, длину контекста или лицензию, поэтому эти характеристики нельзя уточнить. Метаданные каталога указывают задачу text-generation. Модель ориентирована на применение в разработке ПО; сведений о её качестве и ограничениях в предоставленных данных нет.

Это пакет Mesh LLM с весами Kimi-K2.7-Code в формате GGUF, подготовленный для распределённого инференса. Он разбивает исходный GGUF на артефакты по слоям, чтобы запускать модель на локальном кластере из нескольких машин; пакет рассчитан на локальную приватную работу и совместим с чат-интерфейсом Mesh LLM и API формата OpenAI. Модель принимает текстовые запросы и выдаёт текстовые ответы в режиме чата. Репозиторий указывает исходную модель unsloth/Kimi-K2.7-Code-GGUF и вариант квантования UD-Q4_K_XL; архитектурные подробности, размеры, языки и длина контекста в предоставленных данных не описаны. Для лицензии и рекомендаций по использованию README отсылает к карточке исходной модели, поэтому условия лицензии этого пакета по имеющимся сведениям определить нельзя.

LIMI — агентная языковая модель, разработанная GAIR и дообученная на базе GLM-4.5 с помощью компактного набора тщательно отобранных данных. Она предназначена для диалоговых агентных сценариев: вызова инструментов, выполнения инструкций, соблюдения спецификаций и исправления ошибок в многошаговых взаимодействиях. Модель использует архитектуру GLM-4 MoE, содержит 23,4 млрд параметров и поддерживает контекст до 131 072 токенов. В карточке заявлены английский язык и формат диалогов OpenAI messages с опциональными вызовами функций и инструментов. LIMI подходит для создания ассистентов, которые работают с инструментами и длинными диалоговыми траекториями. Авторы сообщают об оценке агентных возможностей на AgencyBench; в README приведены результаты для моделей LIMI на базе GLM-4.5, GLM-4.5-Air и GLM-4.5-Code, но не отдельные численные результаты именно этой 23,4-миллиардной версии. Модель распространяется под лицензией Apache-2.0. Она может ошибаться в аргументах вызова инструментов и переобучаться на часто встречающиеся схемы; для чувствительных областей необходимы защитные механизмы и контроль.

Llama-3.1-Nemotron-Safety-Guard-8B-v3 — многоязычная модель NVIDIA для проверки безопасности пользовательских запросов и ответов языковых моделей. Она классифицирует текст как безопасный или небезопасный и для небезопасного содержания возвращает категории нарушенных правил в JSON-формате. Модель предназначена для разработчиков и исследователей, создающих системы на базе LLM, и заявлена как готовая к коммерческому применению. Это дообученная версия Meta Llama-3.1-8B-Instruct с архитектурой Transformer и адаптацией LoRA; в метаданных указано 7,5 млрд параметров, формат весов — safetensors. Карточка описывает поддержку девяти языков: английского, испанского, китайского, немецкого, французского, хинди, японского, арабского и тайского; также заявлена нулевая генерализация более чем на 20 языков, включая русский. Метаданные указывают контекст до 131 072 токенов, тогда как README приводит ограничение до 8 тыс. токенов. Модель настроена на таксономию рисков NVIDIA и обучена на Nemotron-Safety-Guard-Dataset-v3 с использованием синтетических, переведённых и размеченных примеров. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует проверять в лицензии репозитория. NVIDIA рекомендует проверять интеграцию на данных конкретного сценария перед развёртыванием.

OpenCodeReasoning-Nemotron-14B — языковая модель NVIDIA на архитектуре Qwen2.5-14B-Instruct, дообученная на наборе OpenCodeReasoning для рассуждений и генерации кода. Обучающий набор включает задачи соревновательного программирования и ответы, сгенерированные DeepSeek-R1. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Она предназначена для решения задач по программированию, написания кода и построения рассуждений при работе с алгоритмическими задачами. Архитектура — плотный декодерный Transformer с 14 млрд параметров; модель доступна в формате Safetensors и рассчитана на запуск с Transformers, NeMo или vLLM, с оптимизацией для NVIDIA GPU. Модель выпущена NVIDIA в 2025 году и распространяется по лицензии Apache-2.0 для коммерческого и некоммерческого использования. Карточка приводит результаты на бенчмарках программирования, но качество может различаться в зависимости от задачи и среды выполнения. Указанная специализация на коде не гарантирует корректность сгенерированных программ.

OpenThaiGPT R1 32B — языковая модель рассуждений с 32 млрд параметров, разработанная командой OpenThaiGPT, ныне OpenThai. Она построена на архитектуре Qwen2 и предназначена прежде всего для сложных задач на тайском языке: математики, логики и рассуждений о коде; также заявлена работа с кодом на английском. Модель поддерживает диалог и имеет интерфейс вызова инструментов. Длина контекста составляет 131 072 токена. В README команда заявляет о превосходстве модели над некоторыми моделями на 70 млрд параметров в отдельных тестах SkyThought, включая тайские и англоязычные задачи по математике. Для локального запуска доступны отдельные GGUF-квантизации семейства; репозиторий этой модели содержит веса safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели. Ответы не гарантируются; опубликованные сравнительные результаты являются заявлениями авторов.

QaptaanLM-0.75B-Instruct-GGUF — набор официальных GGUF-квантизированных форматов модели QaptaanLM-0.75B-Instruct, разработанной kaptaan45. Модель представляет собой компактную foundation programming model с гибридным механизмом линейного внимания и примерно 752 млн параметров, ориентированную на генерацию текста и выполнение инструкций, прежде всего в задачах программирования и синтеза кода. Заявлена поддержка английского языка и кода. Репозиторий предназначен для локального запуска через llama.cpp и Ollama. Доступны варианты от FP16 и BF16 до экстремального Q2_K; рекомендуемым указан Q4_K_M как компромисс между размером, скоростью и качеством рассуждений. Размер файлов составляет примерно 402 МБ–1,45 ГБ, а заявленная потребность в памяти — около 550 МБ–2 ГБ в зависимости от квантизации. Модель подходит для устройств с ограниченными ресурсами, но более сильное сжатие может снижать качество, а небольшой размер ограничивает сложность решаемых задач по сравнению с крупными моделями. Максимальный контекст в README не указан. Распространяется по лицензии Apache 2.0.

leonis23/Qwen2.5-Coder-0.5B-Instruct-Gensyn-Swarm-jagged_coiled_bobcat — текстовая генеративная модель, опубликованная пользователем leonis23 на Hugging Face. По названию, тегам и структуре репозитория это производная или вариант Qwen2.5-Coder-0.5B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и программного кода, выполнения инструкций, диалоговых сценариев и локального инференса через Transformers, vLLM или SGLang. Из доступных данных подтверждаются архитектура Qwen2 для авторегрессионной генерации, размер около 0,5 млрд параметров, формат Safetensors и тип данных F32. Для базовой модели Qwen2.5-Coder-0.5B-Instruct заявлено контекстное окно до 32 768 токенов и поддержка английского и ряда других языков; точный набор языков и контекстные параметры именно производной версии в её карточке не описаны. Модель компактна и требовательна к ресурсам меньше крупных LLM, но из-за небольшого размера может уступать им в качестве рассуждений, генерации кода и устойчивости на сложных задачах. Оценки, ограничения, данные обучения и результаты тестирования для этой версии не приведены. Карточка производной модели не указывает достоверного разработчика, точную лицензию или условия распространения. Поэтому лицензию базовой Qwen2.5-Coder-0.5B-Instruct нельзя автоматически считать лицензией данного репозитория.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-heretic-W4A16 — мультимодальная vision-language модель, разработанная gorbatjovy на основе Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 от DavidAU. Это квантизированная сборка с удалённым safety alignment, предназначенная прежде всего для исследовательских задач, интерпретируемости, red-teaming и анализа устойчивости моделей. Она поддерживает обработку текста и изображений, заявлены английский и китайский языки, а также контекст до 32 768 токенов при использовании указанной конфигурации vLLM. Модель имеет размер 27B параметров и использует квантизацию W4A16: линейные слои языкового декодера работают в int4 с группами по 128 параметров, а lm_head, embed_tokens и MTP-модуль — в int8. Vision tower и отдельные компоненты Gated DeltaNet сохранены в BF16. Поддерживаются MTP и спекулятивное декодирование DFlash2; модель рассчитана на запуск на одной видеокарте с 24 ГБ памяти, занимает около 19 ГБ на диске. В описании заявлены сохранённые возможности работы с изображениями, инструментами и близкое к BF16 качество после квантизации. К сильным сторонам относятся компактные требования к памяти, высокая скорость инференса, сохранение качества языкового моделирования и tool calling, а также малая потеря точности на GSM8K относительно BF16-версии. Существенное ограничение — удаление защитных механизмов: модель может выполнять вредоносные запросы, от которых исходная модель отказалась бы, поэтому перед практическим развёртыванием необходима собственная модерация. Модель распространяется по лицензии Apache 2.0; использование также должно соответствовать применимому законодательству.

Qwen3.8-Flash-Next REAP-288 (bf16) — контрольная точка модели Qwen, опубликованная sh0wie на Hugging Face. Это версия с прореженными экспертами REAP: в каждом MoE-слое сохранено 288 из исходных 512 экспертов. По README, модель относится к классу 180 млрд параметров: 125 млрд параметров основной модели и 51 млрд в таблице n-грамм; указаны 48 слоёв с чередованием Gated DeltaNet и разреженного внимания Qwen. Веса сохранены в нативном bf16 без внесённой квантизацией погрешности, размер файлов — около 232 ГБ. Модель предназначена прежде всего как источник для дальнейшей квантизации и дообучения, а также для запуска с максимальным качеством при наличии достаточной памяти и инфраструктуры. Карточка сообщает, что отбор экспертов калибровали на примерно 686 тысячах токенов трафика агентного программирования. Метаданные указывают на генерацию текста, диалог и интерфейс вызова инструментов; README описывает совместимый с OpenAI серверный интерфейс. Поддержка визуального ввода после прореживания не проверена. Для запуска исходной bf16-версии нужен запас памяти и механизм подкачки весов; README описывает будущий движок pmlx для Apple Silicon, тогда как 4-битная сборка доступна отдельно. Модель использует лицензию с обозначением «other»; конкретные условия следует проверять в карточке Hugging Face.

Qwen3-Nemotron-8B-BRRM — модель оценки ответов, разработанная NVIDIA по методу Branch-and-Rethink Reasoning Reward Model. Она сравнивает два ответа на запрос пользователя и помогает определить, какой из них качественнее, для оценки генераций LLM и интеграции в конвейеры RLHF. Модель построена на плотной архитектуре Qwen3ForCausalLM и содержит 7,6 млрд параметров. Её двухэтапный подход сначала выбирает от одной до трёх важных для конкретного примера критериев и выявляет проблемы в ответах, затем проводит углублённый анализ с учётом выбранных критериев. Модель рассчитана на английский язык и поддерживает контекст до 40 960 токенов. В README сообщается о результатах на RewardBench, RM-Bench и RMB: средняя оценка составляет 82,6. Указанная лицензия — other; перед использованием следует проверить её условия. Авторы отмечают, что модель предназначена для интеграции в RLHF, однако автоматические оценки могут не совпадать с человеческими суждениями и зависят от критериев оценки и данных.

SOD-GRPO_teacher-4B — языковая модель на архитектуре Qwen3, дообученная командой youngzhong методом GRPO после этапа SFT. Она служит моделью-учителем в SOD-фреймворке для дистилляции компактных моделей, а также предназначена для агентного рассуждения с использованием инструментов, решения математических и научных задач и генерации кода. Модель содержит около 3,7 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 262 144 токена. В карточке приведены результаты на AIME 2024/2025, GPQA-Diamond и LiveCodeBench-v6, но они не гарантируют аналогичного качества на других задачах. Поддерживается английский язык. Лицензия — Apache-2.0.

Yi-Coder-1.5B-Chat-GGUF — это набор GGUF-квантизованных версий чат-модели Yi-Coder-1.5B-Chat, разработанной 01.AI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и преимущественно ориентирована на задачи, связанные с программированием, включая работу в локальных приложениях и запуск через llama.cpp или LM Studio. В README также указан специальный шаблон промпта с ролями system, user и assistant, а среди изменений отмечено исправление токенизатора. Модель содержит около 1,5 млрд параметров; точные сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не приведены. Доступны варианты от F16 размером 2,95 ГБ до компактных квантизаций Q2 и IQ3 размером менее 1 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, а низкобитные версии требуют меньше оперативной памяти; отдельные варианты оптимизированы для ARM-инференса и требуют соответствующей поддержки процессора. Качество и практическая пригодность зависят от выбранного типа квантизации. Модель распространяется по лицензии Apache-2.0. README не содержит подробных оценок качества, перечня языков программирования или ограничений исходной модели, поэтому её возможности в конкретных сценариях следует проверять отдельно.

blink-27b — дообученная модель thegovind на текстовой части Qwen/Qwen3.8-27B с 22,3 млрд параметров по метаданным каталога. Она предназначена для типизированного выбора: получает текстовое или JSON-состояние и вопрос с вариантами ответа, а затем за один проход возвращает условные вероятности для каждого варианта без генерации пояснительного текста. Подходит для принятия решений в приложениях и агентных системах, включая выбор действия по описанию страницы, проверку завершения задачи и оценку риска операции. Модель использует плотную архитектуру Qwen3_5ForCausalLM; карточка описывает 64 декодерных слоя, смешивающих Gated DeltaNet и полнослойное внимание. Контекст — до 262 144 токенов. Основной режим текстовый; изображения можно включить при самостоятельном развёртывании, подключив визуальный энкодер базовой модели, но он не входит в опубликованный текстовый чекпойнт. Карточка сообщает об обучении на целевых распределениях и демонстрационных результатах, которые не являются официальным бенчмарком. Для запуска описаны Transformers-сервер и вариант MLX для Apple silicon. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты. Вероятности относятся к предложенным вариантам и не гарантируют правильность ответа; визуальный режим требует отдельного подключения энкодера, а браузерный сценарий по тексту не обеспечивает автономную навигацию.

Это экспериментальный чекпойнт Qwen3-4B-Instruct-2507, дообученный методом обучения с подкреплением GRPO командой, опубликовавшей модель agurung. Обучение проводилось напрямую от базовой instruct-модели без отдельного этапа SFT; чекпойнт сохранён на шаге 4 и выбран как лучший в этом запуске по pass@8. Модель предназначена для генерации кода и решения задач программирования, оцениваемых прохождением тестов. Обучение использовало бинарную награду за корректность программы, а также штрафы за обрезанные и чрезмерно длинные ответы. Это плотная авторегрессионная модель на 3,7 млрд параметров с контекстом до 262 144 токенов; веса доступны в формате safetensors, загрузка поддерживается Transformers. README указывает, что метрики этого чекпойнта в журнале обучения отсутствуют, поэтому заявленное преимущество ограничено сравнением pass@8 внутри данного запуска. Лицензия в предоставленных данных не указана.

unsloth/DeepSeek-R1-Distill-Qwen-1.5B-bnb-4bit — 4-битная квантованная версия модели DeepSeek-R1-Distill-Qwen-1.5B, разработанная и опубликованная Unsloth на основе модели DeepSeek от DeepSeek AI. Это текстовая языковая модель для задач рассуждения, включая решение математических задач, программирование и другие задачи, требующие многошагового анализа. Модель предназначена для использования с библиотекой Transformers и может применяться в сценариях локального запуска и исследовательских экспериментов с ограниченными ресурсами. Модель основана на архитектуре семейства Qwen2; её размер составляет 1,5 млрд параметров, а представленный вариант использует 4-битное представление весов, что снижает требования к памяти. В README указано, что модель поддерживает английский язык; сведения о других языках, длине контекста и мультимодальных возможностях отсутствуют. К сильным сторонам относятся компактность и сниженное потребление памяти, однако по качеству и глубине рассуждений она может уступать более крупным версиям, а влияние 4-битной квантования на точность отдельно не описано. Модель распространяется по лицензии Apache-2.0.

Emese-Folyó — венгерская разговорная модель семейства Emese, разработанная Emese Tech на базе EuroLLM-22B. Она предназначена для диалогов и выполнения инструкций на венгерском языке, включая ответы на вопросы, перевод, написание кода и многошаговые запросы. Модель использует плотную LLaMA-совместимую архитектуру и содержит 21,9 млрд параметров. Веса этого репозитория представлены в bf16 в формате Safetensors; контекст — до 32 768 токенов. Обучение включало продолжение предобучения на венгерском корпусе, настройку инструкций и оптимизацию предпочтений. Лицензия — Apache-2.0. По результатам тестов из карточки, модель хорошо справляется с венгерским диалогом, переводом, кодом, вопросами по контексту и задачами безопасности. Она может уверенно выдумывать отдельные факты, слаба в многошаговой математике и логических головоломках, а в английском диалоге может продолжать отвечать по-венгерски. Для практического запуска нужны значительные ресурсы памяти; карточка также предупреждает о снижении качества при конвертации в GGUF.

GambronAI-Persian-Cybersecurity-r1 — разговорная языковая модель на архитектуре Qwen2, дообученная для задач кибербезопасности. Разработчик позиционирует её для анализа эксплойтов, тестирования на проникновение, обратной разработки, анализа вредоносных программ и поиска уязвимостей; модель также предназначена для подготовки технических отчётов и генерации кода. По карточке она работает на персидском (фарси) и английском языках, имеет 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст в формате чата. В репозитории опубликованы веса safetensors; указана лицензия Apache-2.0. Карточка заявляет неограниченную генерацию технических инструкций, поэтому результаты, особенно для анализа уязвимостей и эксплойтов, требуют проверки и контроля при использовании.

Instinct-Python-Coder-Gemma4-12B-KimiK3 — дообученная модель для генерации кода на Python, созданная на базе unsloth/gemma-4-12b-it. Разработчик в README не назван; при обучении использовались дистиллированные данные от Kimi K3 (Moonshot AI), на использование и распространение которых, согласно README, было получено письменное разрешение. Модель предназначена для решения задач программирования на Python: генерации кода по описанию на естественном языке, краткого рассуждения и последующей выдачи решения. Она использует формат сжатого рассуждения в канале <think></think>, что должно сокращать расход контекстного окна, ускорять инференс и снижать затраты. В README указаны базовая архитектура Gemma 4 12B, дообучение на 1,87 млн токенов с двумя проходами, суммарно 3,73 млн токенов, и длина последовательности 8192. Заявленный язык — английский; основная измеренная область применения — Python. В тесте из 228 задач модель решила 81 задачу с первой попытки, достигнув точности 35,5%, против 17,5% у базовой модели; время пакетного прогона также было меньше. Эти результаты получены однократным жадным декодированием без доверительного интервала и не гарантируют аналогичную эффективность в других условиях. Модель тестировалась только на Python, поэтому её возможности в других языках и сценариях не подтверждены; она также наследует ограничения Gemma 4. Доступна в виде одного файла Q8_0 GGUF размером около 13 ГБ, рассчитана на запуск через llama.cpp и совместимые инструменты при наличии примерно 16 ГБ памяти GPU или Mac. Указанная лицензия — Apache 2.0.

mmBERT-32K Jailbreak Detector (Merged) — модель классификации текста для обнаружения jailbreak-запросов и попыток prompt injection. Она разработана на базе vllm-sr/mmbert-32k-yarn: к базовой модели применили LoRA с рангом 48 и alpha 96, после чего веса адаптера объединили с моделью. Архитектура — ModernBERT для классификации последовательностей; размер составляет 306,9 млн параметров, максимальная длина контекста — 32 768 токенов. Модель относит входной текст к одному из двух классов: benign или jailbreak. Она предназначена для фильтрации запросов и проверки длинных контекстов на признаки обхода инструкций. В карточке заявлены accuracy 98,16%, F1 98,15%, precision 98,36% и recall 97,95%; эти показатели относятся к валидации и могут не отражать качество на других данных. Указаны наборы данных LMSYS ToxicChat и OpenSafetyLab Salad-Data. Модель принимает текст и выдаёт метку классификации. Карточка и метаданные указывают английский язык. Доступны веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0.

siendsi/Qwen3-6-KMP-Dev-MLX-2bit — производная модель на базе Qwen3.6-35B-A3B от Alibaba Cloud, адаптированная для разработки на Kotlin Multiplatform и работы с инструментами. В README описаны удаление части экспертов и 2-битная оптимизация для MLX; метаданные указывают библиотеку MLX и 2,9 млрд параметров. Архитектура — гибридная MoE с attention и Gated DeltaNet, 40 слоями, 150 экспертами на слой и восемью активными экспертами. Заявленная длина контекста — 262 144 токена. Модель предназначена для генерации кода и ответов на вопросы по Kotlin, Swift и связанным библиотекам, а также для диалогов, рассуждений и вызова инструментов. README заявляет поддержку английского и русского языков и специализацию на Kotlin Multiplatform, включая Gradle, Coroutines, Jetpack Compose и SwiftUI. Лицензия — Apache 2.0. Качество ограничено агрессивным сокращением экспертов и 2-битной квантизацией; README предупреждает, что вариант IQ1_M может зацикливаться при вызове инструментов, но это отдельный вариант. Заявленная специализация предполагает более узкие знания: другие языки программирования и ряд научных и прикладных областей удалены при pruning.

Rain-2x7B-MoE-32k-v0.1 — экспериментальная языковая модель с архитектурой Mixtral MoE, опубликованная yuuko-eth. Она объединяет два дообученных эксперта размером 7B: Breeze-7B-Instruct-v0_1 и CodeNinja-1.0-OpenChat-7B, построенных поверх Marcoro14-7B-slerp. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста на китайском и английском языках, включая диалоговые запросы и задачи программирования. Для работы README рекомендует использовать шаблоны промптов базовых моделей; активационные слова для программирования включают code, python, typescript, javascript, programming и algorithm. Это экспериментальная версия, а README рекомендует оценить её перед использованием в прикладных системах и сообщает о выпуске более новой версии v0.2. Репозиторий содержит веса Safetensors. Лицензия в метаданных обозначена как unknown, поэтому условия использования по доступным сведениям определить нельзя.

RavenX-CyberAgent v6.2 Experimental — MLX — разговорная модель-агент для автоматизированной оценки безопасности, созданная Габриэлем Гарсией и RavenX LLC. По карточке, модель обучена поддерживать идентичность агента кибербезопасности и формировать структурированные результаты проверки, включая выводы с CVE. Для активации такого поведения автор рекомендует специальный системный промпт. Модель основана на huihui-ai/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated и создана слиянием LoRA-адаптера с базовыми весами. В репозитории указаны архитектура семейства Qwen MoE, формат safetensors и размер 69,3 ГБ для полной точности MLX. Модель предназначена для генерации текста и диалогового взаимодействия; в карточке заявлены сценарии анализа безопасности, работы с кодом и рассуждений. Лицензия — Apache-2.0. Версия обозначена как экспериментальная; приведённые в карточке результаты производительности и оценка бенчмарка получены автором и не гарантируют качество на других задачах и конфигурациях.