II.4Отладка, тестирование и качество ПО

Granite Guardian 3.2 5B — модель IBM Research для выявления рисков в запросах, ответах и диалогах с ИИ. Это разреженная версия Granite Guardian 3.1 8B: при итеративном удалении и восстановлении параметров было удалено около 30% исходных параметров. Модель содержит 5,8 млрд параметров, использует архитектуру GraniteForCausalLM и принимает текст, формируя текстовый ответ. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для проверки вредоносного контента, предвзятости, попыток обхода ограничений, насилия, ненормативной лексики, сексуального контента и иных рисков. В RAG-сценариях она оценивает релевантность найденного контекста, соответствие ответа контексту и релевантность ответа запросу. В агентных системах может выявлять синтаксические и смысловые ошибки вызовов функций и связанные с ними галлюцинации. Для риск-оценки модель следует применять в предусмотренном шаблоном режиме, получая ответы «да» или «нет». README сообщает о конкурентных результатах на стандартных бенчмарках, но не приводит их полную таблицу для этой версии. Модель может давать неожиданные или небезопасные результаты при использовании вне предписанного режима и быть уязвима к состязательным атакам. Лицензия — Apache 2.0.

KAT-Coder-V2.5-Dev-OptiQ-4bit — это квантованная версия модели KAT-Coder-V2.5-Dev, разработанная сообществом mlx-community на базе модели Kwaipilot. Модель предназначена для генерации и анализа программного кода, а также для сценариев, где требуется рассуждение перед формированием ответа. Она реализована для MLX и ориентирована на локальный запуск на компьютерах Apple Silicon без PyTorch и облачных сервисов. Архитектура модели — qwen3_5_moe: разреженная MoE-система с 256 маршрутизируемыми экспертами, сочетающая гибридные линейные слои и полное внимание. Используется смешанная статическая квантизация 4/8 бит с целевым показателем около 4,5 бит на параметр: 400 проекций представлены в 4-битном формате, 111 — в 8-битном. Размер модели на диске составляет около 20 ГБ. В README указан английский язык; другие языки, размер контекста и поддерживаемые модальности не заявлены. Сильными сторонами модели являются локальная работа на Apple Silicon, сниженный объём хранения благодаря квантизации и совместимость с MLX-инструментами, включая mlx-lm и optiq. Для запуска рекомендуется пакет optiq; он также предоставляет OpenAI-совместимый локальный API и квантизацию KV-кэша. Ограничения включают ориентацию прежде всего на задачи программирования, требования к совместимому оборудованию и отсутствие в README данных о точности, производительности, языковой поддержке за пределами английского и контекстном окне. Модель распространяется по лицензии Apache-2.0.

LettuceDetect — модель KRLabsOrg для выявления галлюцинаций в ответах немецкого языка в RAG-сценариях. Это дообученный EuroBERT-210M с архитектурой EuroBertForTokenClassification и 211,7 млн параметров. Модель получает контекст и ответ и помечает на уровне токенов фрагменты ответа, которые не подтверждаются контекстом; предсказания можно объединить в диапазоны, чтобы показать проблемные места. Модель обучена на немецкой версии датасета RagTruth, переведённой с исходного RAGTruth. Поддерживает контекст до 8192 токенов и рассчитана на применение в мультиязычных RAG-системах, хотя карточка описывает именно немецкую модель. В README приведены F1 66,70% на тесте Translated RAGTruth-DE и 68,32% на вручную проверенной выборке из 300 примеров; показатели относятся к описанным наборам оценки. Модель распространяется по лицензии MIT.

LoggenixMoE133M — небольшая причинно-языковая модель с архитектурой Mixture-of-Experts, разработанная kshitijthakkar и обученная с нуля на наборах данных для анализа первопричин, генерации кода и рассуждений. В метаданных указаны 92,5 млн параметров, семейство Qwen3 MoE и контекст 1024 токена; карточка README приводит другое число — 133 млн параметров, из них примерно 80 млн активны на шаге, и описывает восемь экспертов с маршрутизацией Top-2. Модель предназначена для следования инструкциям, анализа первопричин, структурированного суммирования, генерации кода на Python и диалоговых сценариев. Её можно дообучать для узких задач на устройствах с ограниченными ресурсами и использовать как основу специализированных агентов; токенизатор содержит специальные токены для взаимодействия с инструментами. Заявлена поддержка Transformers и форматов PyTorch/Safetensors. README указывает, что модель обучена с нуля, поэтому связь архитектуры с Qwen3 не означает, что она основана на базовой модели Qwen3. Репозиторий распространяется по лицензии Apache-2.0. Карточка предостерегает от длинного контекста, ответов на фактические вопросы с высокими ставками и применения в критически важных системах без надзора.

Abiray/Muse-Glimmer-30B-GGUF — набор GGUF-квантов мультимодальной модели Muse-Glimmer-30B, разработанной meta-models и дистиллированной из Muse Spark. Репозиторий подготовлен с использованием llama.cpp и предназначен для локального запуска модели, включая сценарии на потребительском оборудовании. Модель ориентирована на автономные агентные рабочие процессы, многошаговое рассуждение с длинным горизонтом, задачи программирования, включая SWE-bench, и надёжный вызов функций. Поддерживается обработка изображений через отдельный мультимодальный vision projector в формате GGUF; базовая модель и проектор загружаются раздельно. Заявлены 30 млрд параметров, контекст до 131 072 токенов и архитектура с визуальным проектором на основе ViT размером около 1,8 млрд параметров. Сведения о поддерживаемых языках в README не указаны. Доступны варианты квантования от Q8_0 до IQ3_XXS размером примерно от 29,6 до 11,5 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Вариант Q4_K_M обозначен как оптимальный компромисс и рассчитан примерно на 20–24 ГБ памяти, а Q8_0 обеспечивает качество, близкое к BF16, но требует 32–48 ГБ. Более сильное сжатие уменьшает требования к памяти, однако может снижать точность рассуждений и восприятия. Лицензия — Apache-2.0.

Nemotron-3-Nano-Omni-AEON-Ultimate-Uncensored-BF16 — экспериментальная модификация мультимодальной модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 от AEON-7. Это вариант BF16 с удалённым механизмом отказов методом ортогонализации подпространства в остаточном потоке; модель предназначена для диалогов, рассуждений, генерации кода и работы с изображениями и аудио. Архитектура NemotronH сочетает Mamba2, attention и MoE; в мультимодальный стек входят зрительная башня RADIO и аудиоэнкодер Parakeet. Метаданные указывают поддержку английского языка и задач генерации текста и any-to-any. Автор сообщает, что мультимодальные веса сохранены без изменений, а в точечных проверках сохранились арифметика, перевод, код и другие навыки. При этом релиз помечен как альфа: внутренние испытания выявили зацикливание рассуждений, пустые или повторяющиеся ответы и ухудшение в многоходовых диалогах; разработчик рекомендует считать модель исследовательским артефактом. Лицензия в метаданных обозначена как other, поэтому условия использования следует уточнить по карточке модели.

Карточка модели testsavantai/prompt-injection-defender-tiny-v0 на Hugging Face совпадает с карточкой testsavantai/prompt-injection-defender-large-v0, поэтому описание составлено по ней. testsavantai/prompt-injection-defender-large-v0 — англоязычный классификатор TestSavantAI для обнаружения вредоносных prompt injection и jailbreak-запросов, предназначенных для атак на большие языковые модели. Модель дообучена на базе Microsoft DeBERTa-v3-base и использует архитектуру DeBERTa для классификации последовательностей; размер составляет 211,6 млн параметров, максимальная длина контекста — 512 токенов. Модель помогает оценивать входящие запросы как вредоносные или добросовестные, чтобы защищать LLM-приложения, сохраняя полезные запросы и снижая число ошибочных блокировок. В карточке упомянуты тестирование на наборах для косвенных prompt injection, jailbreak-сценариев и red teaming, включая Microsoft-BIPIA, JailbreakBench и Garak. Для запуска можно использовать библиотеку Transformers; веса опубликованы в формате safetensors. Модель предназначена для англоязычного текста. Качество классификации зависит от того, насколько атаки и добросовестные запросы в реальном приложении похожи на примеры обучения и оценки; карточка не приводит конкретных численных результатов. Лицензия в предоставленных данных не указана.

Qwen2.5-Coder-1.5B-Instruct-MLX-8bit — это компактная инструкционная языковая модель для генерации текста и работы с исходным кодом. Базовую модель разработала команда Qwen, а MLX-квантизацию в формате 8-bit подготовил bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на программирование, взаимодействие в формате чата и использование в code agents. Она обучалась с применением до 5,5 триллиона токенов, включая исходный код, данные для выравнивания текста и кода и синтетические данные. Поддерживается контекст до 32 тысяч токенов; в README явно указан английский язык. Архитектура и точное число параметров в карточке не описаны, однако из названия следует размер класса 1,5B. К сильным сторонам относятся специализация на коде, инструкционный режим, поддержка длинного контекста и оптимизация MLX для Apple Silicon. Ограничения связаны с компактным размером модели, возможными ошибками или неточностями при генерации кода и отсутствием заявленной поддержки других языков в предоставленных данных. Модель распространяется по лицензии Apache 2.0.

BenevolenceMessiah/Qwen2.5-Coder-32B-Instruct-abliterated-Q4_K_M-GGUF — это квантизированная версия в формате GGUF модели huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated, основанной на Qwen2.5-Coder-32B-Instruct. Репозиторий подготовлен BenevolenceMessiah с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и прежде всего для работы с программным кодом в диалоговом формате. Модель имеет 32 миллиарда параметров, поддерживает текстовую модальность и, согласно метаданным карточки, английский язык. Используется квантизация Q4_K_M, рассчитанная на запуск через llama.cpp на совместимом CPU или GPU. README показывает применение в командной строке и через сервер llama.cpp; в примере сервер запускается с контекстом 2048 токенов, однако максимальный размер контекста в карточке не указан. К сильным сторонам относятся специализация на задачах программирования, instruct-формат и удобство локального запуска в GGUF через llama.cpp. К ограничениям относятся неизвестные из README точные характеристики исходной модели, фактическая производительность и качество на разных языках и задачах, а также возможная потеря точности из-за квантизации. Модель обозначена как abliterated и uncensored, поэтому её поведение в части защитных ограничений может отличаться от исходной версии. Указана лицензия Apache-2.0.

Qwen2.5-Coder-3B-Instruct-MLX-8bit — 8-битная MLX-квантизация инструкционно дообученной модели Qwen2.5-Coder-3B-Instruct. Исходную модель разработала команда Qwen, а данную квантизированную версию подготовил bartowski на основе инструментов mlx-examples; модель распространяется в каталоге lmstudio-community. Модель предназначена для генерации и обработки программного кода, использования в чат-сценариях и code agent системах. Она поддерживает контекст до 32 тысяч токенов и рассчитана на запуск на компьютерах Mac с Apple Silicon. В обучении использовалось до 5,5 триллиона токенов, включая исходный код, текстово-кодовые связи и синтетические данные. В README явно указан английский язык; сведения о поддержке других языков и точной архитектуре не приведены. К сильным сторонам относятся специализация на задачах программирования, ориентация на агентные сценарии, большой контекст и возможность локального запуска на совместимых устройствах. Ограничения включают небольшой по современным меркам размер в 3 миллиарда параметров, зависимость от Apple Silicon и риски неточных, небезопасных или неподходящих ответов, характерные для генеративных моделей. Лицензия указана как qwen-research; подробные условия доступны по ссылке на лицензию исходной модели Qwen2.5-Coder-3B-Instruct.

Kondara/Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантованная версия модели Qwen/Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и прежде всего для работы с программным кодом, включая задачи программирования и чат-взаимодействия. Модель имеет размер 7B параметров, относится к семейству Qwen2.5-Coder и представлена в формате квантования Q4_K_M, что позволяет запускать её локально с llama.cpp через CLI или сервер. В карточке указана поддержка английского языка; другие языки и мультимодальные возможности не заявлены. В качестве примера запуска используется контекст длиной 2048 токенов, но максимальный размер контекста в README не указан. К сильным сторонам относятся специализация на коде, инструкционное обучение и возможность локального запуска в компактном квантованном формате. Ограничения связаны с размером 7B, возможным снижением точности из-за квантования и отсутствием подробных данных о качестве, поддерживаемых языках программирования и максимальном контексте. Лицензия — Apache-2.0, унаследованная от исходной модели.

Skywork o1 Open-Llama-3.1-8B — разговорная языковая модель команды Skywork компании Kunlun Inc., дообученная на базе Meta-Llama-3.1-8B-Instruct с данными для пошагового рассуждения. Это плотная причинно-следственная модель семейства Llama с 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалогов и решения задач, требующих рассуждений: математических и логических задач, планирования, самопроверки, вопросов на здравый смысл, а также задач программирования. Разработчики описывают трёхэтапное обучение, включающее обучение рефлексивным рассуждениям, обучение с подкреплением и планирование; заявленные улучшения основаны на результатах бенчмарков, приведённых в карточке модели. Модель распространяется в формате safetensors. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует проверять в лицензии репозитория. Разработчики предупреждают о возможных непредсказуемых рисках и просят не развёртывать модель в интернет-сервисах без соответствующей проверки безопасности.

Tessa-Rust-T1 — языковая модель на архитектуре Qwen2, разработанная Ravi, Ernest и командой Tesslate на основе Qwen/Qwen2.5-Coder-7B-Instruct. Модель дообучена для генерации и понимания кода на Rust; содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Опубликована в формате safetensors под лицензией Apache-2.0. Модель предназначена для создания функций, структур, трейтов и модулей по текстовому запросу, рефакторинга Rust-кода, написания тестов, CLI-инструментов и API-обработчиков. Карточка также описывает её интеграцию с агентами для работы с контекстом проекта и зависимостями. Основной язык карточки — английский; целевой язык программирования — Rust. Среди заявленных сильных сторон — генерация идиоматичного Rust-кода и понимание заимствований, времён жизни, трейтов и распространённых шаблонов. Сложная асинхронность, макросы, управление временами жизни и unsafe-код могут требовать проверки и доработки; для редких библиотек модель может предлагать неверные API, а управление Cargo.toml и сложными сценариями сборки ограничено. Карточка рекомендует не менее 12 ГБ видеопамяти для bf16, но фактические требования зависят от конфигурации и квантизации.

ThinkPRM-1.5B — генеративная модель процессной оценки рассуждений, разработанная командой Launch и дообученная на базе R1-Distill-Qwen-1.5B. Она проверяет решения по шагам: формирует текстовые критические замечания и оценки корректности каждого шага, а также может оценивать решение целиком. Модель предназначена для проверки математических и научных рассуждений, верификации кода, ранжирования кандидатных решений в Best-of-N и поддержки поиска по дереву рассуждений. Для обучения использовано около 1 000 синтетических примеров проверочных цепочек рассуждений, сверенных с метками PRM800K. Модель имеет плотную архитектуру Qwen2, 1,5 млрд параметров и контекст до 131 072 токенов; принимает текст и генерирует текстовые объяснения и оценки. В карточке указаны результаты на ProcessBench, MATH-500, AIME '24, GPQA-Diamond и LiveCodeBench. Модель может чрезмерно уверенно выдавать оценки, близкие к 0 или 1; ранняя ошибочная оценка шага может повлиять на последующие, а результат зависит от формата решения и промпта. Лицензия — Apache-2.0.

AynCoding-Gemma2 — модель для генерации и рефакторинга кода, созданная на базе Google Gemma 2 2B Instruct и адаптированная для рассуждений в духе классической арабской логики Manṭiq и лексикографии Ishtiqāq. В README заявлен протокол Chain-of-Thought перед генерацией кода, а также внимание к типизации, структуре AST, обработке состояний, зависимостей и ошибок. Модель предназначена для синтеза кода по спецификациям, архитектурного рефакторинга и аудита кода. Карточка описывает проверку на примере ограничителя частоты запросов и приводит результаты внутреннего статического аудита; эти показатели относятся к заявленным автором оценкам. Репозиторий содержит GGUF-файл и конфигурацию для Ollama, а в примере llama-cpp-python задан контекст 8192 токена. В метаданных указаны задачи генерации текста, поддержка чата и кода, языки английский и арабский. Производная модель связана с google/gemma-2-2b-it; указан формат GGUF и лицензия Gemma. Практические результаты могут отличаться от приведённых в карточке; подробности о точности на независимых тестах не представлены.

Builder117 разработала дообученный классификатор на базе DistilBERT для обнаружения опасных фрагментов в текстах, сгенерированных LLM. Модель относит текст к классу SAFE или MALICIOUS и предназначена для проверки вывода перед его показом пользователям или передачей другим системам. Классификатор выявляет признаки XSS, SQL- и командных инъекций, обхода путей и UNION-атак. Его можно встроить в конвейер проверки безопасности вывода LLM; модель также описана как часть набора LLM Threat Shield для обнаружения угроз OWASP LLM Top 10. Архитектура — DistilBERT для классификации последовательностей, формат весов — safetensors, максимальная длина контекста — 512 токенов. Указан английский язык, лицензия Apache-2.0. Модель может пропускать закодированные полезные нагрузки, не учитывает контекст построения запросов и способна ошибочно помечать документацию по безопасности, в которой цитируются атакующие строки.

HikmaAI разработала мультиязычный классификатор prompt injection на базе microsoft/mdeberta-v3-base, дообучив его для бинарного определения обычного текста и попыток внедрения инструкций. Модель предназначена для проверки пользовательских запросов и текстов перед передачей их языковой модели или другому компоненту приложения. Это encoder-модель DeBERTa v3 с 306 млн параметров и контекстом до 512 токенов. Она поддерживает 11 языков: английский, вьетнамский, хинди, тайский, китайский, японский, русский, арабский, шведский, испанский и итальянский. Доступны форматы ONNX FP32, FP16 и INT8; метаданные указывают библиотеку Optimum и pipeline text-classification. В карточке сообщается о точности 0,995 на валидации и полноте 0,9709 при выбранном пороге, но эти показатели зависят от набора данных и не гарантируют аналогичное качество в эксплуатации. Модель выдаёт метку «обычный текст» или «prompt injection» и подходит для многоязычного предварительного фильтра запросов. Она не заменяет проверку безопасности всей системы и может ошибаться на новых формулировках, доменах или языковых вариантах. Лицензия — Apache-2.0.

J.A.R.V.I.S. Titan V15 MoE — инструкция-настроенная модель для генерации текста, разработанная Dhanesh в рамках программы автономных рассуждений J.A.R.V.I.S. Titan. README указывает базовую модель dhanesh-hf/Jarvis-Titan-M4-Merged и обучение на 121,5 млн токенов с примерами математики, программирования, пошаговых рассуждений и выполнения действий агентами. Метаданные указывают 7,1 млрд параметров, контекст до 32 768 токенов, поддержку диалогов и кода; карточка описывает MoE-архитектуру в стиле DeepSeekMoE с восемью маршрутизируемыми экспертами и общим экспертом, хотя заявленное число параметров в README отличается от метаданных. Модель предназначена для математических рассуждений, синтеза и исправления кода, диалогов и агентных сценариев. В README описаны 28 слоёв, выбор двух маршрутизируемых экспертов и общего эксперта на токен, а также механизм памяти M4 Tri-Brid. Указанный в README режим окна SWA составляет 2048 токенов; метаданные заявляют нативный контекст в 32 768 токенов. Основной язык карточки — английский. Лицензия обозначена как other, поэтому конкретные условия следует сверить с лицензией репозитория.

KAT-Coder-V2.5-Dev-REAP-205E-MTP-GGUF — это квантизированная и структурно обрезанная GGUF-версия модели Kwaipilot/KAT-Coder-V2.5-Dev, опубликованная автором gbuzhf. Модель предназначена для генерации и обработки программного кода, включая code-instruct, исправление ошибок, использование инструментов и задачи рассуждения. Заявлена поддержка английского и китайского языков; модель мультимодальность не заявлена. Это Mixture-of-Experts-модель с 205 экспертами на слой вместо исходных 256, при этом для каждого токена активируются 8 экспертов. Число параметров уменьшено примерно с 34,7 до 28,3 млрд, сохранены исходная архитектура, словарь размером 262 тысячи токенов и контекстное окно базовой модели, точный размер которого в README не указан. Обрезка выполнена методом REAP на 2,6 млн токенов собственных ответов KAT-Coder-V2.5-Dev. Дополнительно встроена MTP-голова, заимствованная из Qwen/Qwen3.6-35B-A3B; её обрезка выполнена по величине весов без калибровочных данных, поэтому является приближённой. По измерениям относительно исходной BF16-модели совпадение наиболее вероятного токена составляет около 94,6%, а рост perplexity — 3,62%; автор оценивает потерю качества как сопоставимую с хорошей 4-битной квантизацией. Эти результаты получены на текстах, близких к калибровочным данным, и могут быть оптимистичными; downstream-бенчмарки для программирования не проводились, поэтому сохранение качества на HumanEval, MBPP или SWE-bench не подтверждено. Доступны мастер-версия BF16 и несколько GGUF-вариантов квантизации, включая IQ4_XS, Q4_K_XL, Q5_K_S и Q6_K. В README указана лицензия other, без дополнительных условий.

LettuceDetect от KRLabsOrg — модель для выявления галлюцинаций в ответах RAG. Она принимает контекст и ответ и выполняет токенную классификацию, отмечая фрагменты ответа, которые не подтверждаются контекстом. Модель построена дообучением EuroBERT-210m, имеет около 211,7 млн параметров и поддерживает контекст до 8192 токенов. Модель рассчитана на китайский язык и обучена на китайской версии датасета RagTruth. Она предназначена для проверки ответов на основе документов и подсветки неподтверждённых утверждений. В опубликованной оценке на переведённом RAGTruth-CN указана F1-мера 74,41%; результаты могут отличаться на других данных. Лицензия — MIT.

LFM2.5-8B-A1B-UltraCoder-L3 — экспериментальная модель для генерации и анализа кода, разработанная Susant-Achary на основе семейства LiquidAI LFM2.5-8B-A1B. Модель дообучалась в два этапа: продолженное предварительное обучение на качественном исходном коде Python из набора openbmb/UltraData-Code и supervised fine-tuning на задачах, включающих условия, рассуждения и решения. Она предназначена для программирования на Python, алгоритмического решения задач, генерации кода и использования в качестве coding assistant. Это причинная языковая модель с разреженной архитектурой Mixture-of-Experts: около 8,3 млрд параметров, из которых примерно 1,5 млрд активируются для каждого токена. Модель содержит 24 слоя и 32 эксперта, при этом для обработки токена активируются 4 эксперта. Заявленная длина контекста составляет 8 192 токена, хотя исходная модель поддерживает до 131 072 токенов. Артефакты совместимы с Hugging Face Transformers и llama.cpp; для локального запуска предоставлен вариант квантования Q4_K_M в формате GGUF. Сильная сторона модели — специализация на задачах программирования и улучшение результатов относительно базовой LFM2.5-8B-A1B в указанных тестах EvalPlus, включая HumanEval, HumanEval+, MBPP и MBPP+. Ограничения включают экспериментальный статус, фокус преимущественно на Python и заявленный контекст 8 192 токена; универсальность за пределами задач кодирования отдельно не подтверждена. В метаданных указана лицензия other, без подробного описания условий использования.

Это квантованная версия MiMo-V2.6-Distill-Qwen-9B от Xiaomi MiMo, подготовленная FreedomAISVR в формате GGUF MXFP4 для запуска через llama.cpp. Исходная модель — дообученная методом SFT мультимодальная модель на 9 млрд параметров на основе Qwen3.5-9B; репозиторий распространяет её веса в более компактном формате. Модель сочетает слои Mamba-2 и полного внимания, включает визуальный энкодер и поддерживает контекст до 262 144 токенов. Для обработки изображений и видео требуется отдельный файл mmproj. Модель предназначена для агентного программирования и инженерии ПО, работы с инструментами и автоматизацией, анализа интерфейсов и изображений, связанных с кодом, а также задач кибербезопасности. README приводит результаты Xiaomi на кодовых бенчмарках, но они не были независимо проверены для этой сборки. Это исследовательская SFT-модель, представленная как отправная точка для дальнейшего обучения агентному поведению, а не как готовое производственное решение. Лицензия — MIT. К известным ограничениям относятся отсутствие весов MTP, включённый по умолчанию режим рассуждения и высокая потребность в памяти KV-кэша при длинном контексте. MXFP4 снижает точность представления весов; на GPU, отличных от NVIDIA Blackwell, производительность может быть ниже. Данных о поддерживаемых естественных языках в использованных источниках нет.

MiniMax-M3-Coder-Small — компактная сборка MiniMax-M3 для программирования и агентных сценариев, подготовленная OsaurusAI для устройств Apple Silicon. Модель основана на MiniMaxAI/MiniMax-M3 и использует разреженную архитектуру MiniMax M3 VL; сохранены мультимодальные возможности для работы с изображениями. Сборка занимает около 84 ГБ и применяет формат JANG: смешанную квантизацию с AWQ-масштабированием и сокращением набора маршрутизируемых экспертов методом REAP. Оставлено 70 из 128 экспертов; веса экспертов имеют разрядность 2 бита, разрядность внимания — 8 бит. Для запуска требуется собственная среда Osaurus на Apple Silicon: модель не загружается через Transformers, vLLM или обычные загрузчики MLX. В README заявлен результат HumanEval pass@1 100% на адаптивной оценке из 82 задач, однако это результат конкретного теста, а не гарантия качества в других условиях. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и у базовой модели MiniMaxAI/MiniMax-M3 перед применением.

Pearl-3x7B — языковая модель Louis Brulé Naudet для диалогов, программирования и математических задач. Это объединение трёх моделей в архитектуре Mixture of Experts на основе Mixtral, примерно 7,1 млрд параметров; репозиторий содержит веса Safetensors, модель рассчитана на контекст до 32 768 токенов и использует библиотеку Transformers. Модель предназначена для ответов в чате, генерации и объяснения кода, а также решения математических задач. В карточке указан английский язык. Модель выпущена под лицензией Apache-2.0. README заявляет специализацию на анализе данных, однако не приводит результатов оценки, поэтому качество на конкретных задачах не подтверждено.

unsloth/Phi-4-reasoning-plus-GGUF — GGUF-версия модели Phi-4-reasoning-plus, разработанной Microsoft Research и подготовленной для распространения Unsloth. Это открытая по весам текстовая модель генерации для диалогов и задач, требующих рассуждений, прежде всего математики, естественных наук и программирования. Модель дообучалась методом supervised fine-tuning на синтетических и отфильтрованных общедоступных данных, а также с применением reinforcement learning. В основе лежит плотная decoder-only Transformer-архитектура с 14 млрд параметров и контекстом до 32 тыс. токенов. Модель принимает текстовые запросы, предпочтительно в формате чата, и генерирует текстовые ответы на английском языке. Ответы состоят из блока цепочки рассуждений и последующего блока суммаризации. Версия GGUF предназначена для запуска в совместимых инструментах, включая llama.cpp; для включения режима рассуждений в llama.cpp требуется параметр --jinja. Сильной стороной модели является повышенная точность благодаря дополнительному reinforcement learning и специализации на сложных задачах рассуждения, математике, науке и коде. Ограничением служит более высокая задержка: модель в среднем генерирует примерно на 50% больше токенов. README не содержит отдельной информации о специфических ограничениях качества или требованиях к аппаратным ресурсам именно этой GGUF-квантизации. Указанная лицензия — MIT.

testsavantai/prompt-injection-defender-large-v0 — англоязычный классификатор TestSavantAI для обнаружения вредоносных prompt injection и jailbreak-запросов, предназначенных для атак на большие языковые модели. Модель дообучена на базе Microsoft DeBERTa-v3-base и использует архитектуру DeBERTa для классификации последовательностей; размер составляет 211,6 млн параметров, максимальная длина контекста — 512 токенов. Модель помогает оценивать входящие запросы как вредоносные или добросовестные, чтобы защищать LLM-приложения, сохраняя полезные запросы и снижая число ошибочных блокировок. В карточке упомянуты тестирование на наборах для косвенных prompt injection, jailbreak-сценариев и red teaming, включая Microsoft-BIPIA, JailbreakBench и Garak. Для запуска можно использовать библиотеку Transformers; веса опубликованы в формате safetensors. Модель предназначена для англоязычного текста. Качество классификации зависит от того, насколько атаки и добросовестные запросы в реальном приложении похожи на примеры обучения и оценки; карточка не приводит конкретных численных результатов. Лицензия в предоставленных данных не указана.

Карточка модели testsavantai/prompt-injection-defender-small-v0 на Hugging Face совпадает с карточкой testsavantai/prompt-injection-defender-large-v0, поэтому описание составлено по ней. testsavantai/prompt-injection-defender-large-v0 — англоязычный классификатор TestSavantAI для обнаружения вредоносных prompt injection и jailbreak-запросов, предназначенных для атак на большие языковые модели. Модель дообучена на базе Microsoft DeBERTa-v3-base и использует архитектуру DeBERTa для классификации последовательностей; размер составляет 211,6 млн параметров, максимальная длина контекста — 512 токенов. Модель помогает оценивать входящие запросы как вредоносные или добросовестные, чтобы защищать LLM-приложения, сохраняя полезные запросы и снижая число ошибочных блокировок. В карточке упомянуты тестирование на наборах для косвенных prompt injection, jailbreak-сценариев и red teaming, включая Microsoft-BIPIA, JailbreakBench и Garak. Для запуска можно использовать библиотеку Transformers; веса опубликованы в формате safetensors. Модель предназначена для англоязычного текста. Качество классификации зависит от того, насколько атаки и добросовестные запросы в реальном приложении похожи на примеры обучения и оценки; карточка не приводит конкретных численных результатов. Лицензия в предоставленных данных не указана.

QwOpus-4.6-Coder-3B — компактная языковая модель для генерации текста и программного кода, разработанная пользователем ryzdfm на базе Qwen2.5-Coder-3B-Instruct от команды Qwen. Модель дообучена методом supervised fine-tuning с LoRA на 3 209 примерах рассуждений, дистиллированных из наборов данных с траекториями Claude Opus и другими образцами пошагового reasoning. Она ориентирована на локальный запуск на потребительском оборудовании и поддерживает формирование структурированных рассуждений в тегах <think> перед итоговым ответом. Модель предназначена прежде всего для генерации и объяснения кода, решения алгоритмических, математических и логических задач, а также сценариев, где важны пошаговый анализ и проверка решения. Заявлены Python и JavaScript, однако полный перечень поддерживаемых языков не указан. Это текстовая autoregressive-модель с параметрами масштаба 3B и максимальной длиной последовательности 4096 токенов. Для запуска доступны варианты квантования Q4_K_M, Q3_K_M и Q8_0; версия Q4_K_M требует около 2,1 ГБ видеопамяти и, по данным README, обеспечивает примерно 88 токенов в секунду на RTX 3050 4GB. Сильные стороны модели — небольшой размер, высокая скорость, возможность приватного локального использования и выраженный стиль структурированного reasoning. Ограничения связаны с масштабом 3B: модель может испытывать трудности при генерации длинного многoфайлового кода и проектировании сложных систем; глубина рассуждений уступает более крупным моделям, а ответы могут содержать ошибки и требуют проверки. В метаданных указаны английский язык и лицензия Apache-2.0.

AEON-7 Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 — дообученная версия мультимодальной модели Qwen3.6-27B с архитектурой Qwen3_5ForConditionalGeneration и 27 млрд параметров. Разработчик применил abliteration: удалил направление отказа, чтобы модель реже отказывалась и продолжала рассуждение на темах, ограничиваемых обычным выравниванием. Карточка также сообщает о восстановлении исходной MTP-головы для спекулятивного декодирования в vLLM. Модель предназначена для диалогов, генерации текста, программирования, рассуждений, агентных сценариев и задач с изображениями. В метаданных указана мультиязычная поддержка, включая английский и китайский; контекст описан как длинный, но его точная длина не приведена. Весы доступны в BF16 в формате safetensors, лицензия — Apache-2.0. Отключение отказов может привести к выдаче вредоносного или небезопасного контента, а заявления о сохранении возможностей и сравнительных преимуществах основаны на данных карточки и не являются независимой оценкой. Автор указывает, что модель устарела и рекомендует более новую линейку Qwen3.8.

Модель lordx64/Qwen3.6-35B-A3B-Kimi-K2.6-Reasoning-Distilled — дообученная методом дистилляции версия Qwen3.6-35B-A3B, созданная автором lordx64. Она обучена на примерно 7,8 тыс. примеров рассуждений Kimi K2.6 и воспроизводит более подробный, пошаговый стиль ответов с явными блоками рассуждений. Архитектура — разреженная Mixture-of-Experts с 35 млрд параметров, из которых около 3 млрд активны на каждом токене; заявленная длина контекста — 64 тыс. токенов. Модель предназначена для сложных STEM-задач, конкурсной математики, пошагового анализа кода, логических задач и агентного планирования. Она принимает текст и генерирует текст; карточка указывает английский язык. Длинные цепочки рассуждений могут увеличить задержку и расход токенов, а дистилляция не добавляет знаний сверх возможностей базовой модели. Автор предупреждает, что приведённые в README результаты оценки зависят от используемого конвейера и для ряда тестов ненадёжны. Дополнительное обучение безопасности не проводилось. Лицензия Apache-2.0 разрешает коммерческое и исследовательское применение.