II.4Отладка, тестирование и качество ПО

EpistemeAI/Llama-3.2-3B-Agent007-Coder — дообученная модель для генерации текста и кода на основе Llama 3.2 3B Instruct. Разработчик карточки — EpistemeAI; базовая модель — unsloth/llama-3.2-3b-instruct-bnb-4bit. Это плотный авторегрессионный трансформер семейства Llama с 3,2 млрд параметров, поддержкой диалогового формата и интерфейса вызова инструментов. В метаданных указан контекст до 131 072 токенов. Модель дообучена на Agent dataset, CodeAlpaca-20k и magpie-ultra-v0.1 и предназначена для программирования, диалоговых помощников и агентных сценариев. Она принимает и генерирует текст, включая код; в карточке базового семейства перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Доступна под лицензией Apache 2.0. Показатели качества на задачах кодирования для этой конкретной версии в карточке не приведены.

marin-8b-instruct-i1-GGUF — это GGUF-квантизированная версия языковой модели marin-8b-instruct, разработанной сообществом marin-community и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста и выполнения инструкций на английском языке. В основе лежит модель размером 8 миллиардов параметров; точные сведения об архитектуре и размере контекстного окна в README не указаны. Обучение или дообучение проводилось с использованием наборов данных для программирования, рассуждений, математики, естественных рассуждений и диалоговых взаимодействий, включая AceCode-87K, Bespoke-Stratos-17k, dolphin-r1, Natural Reasoning, OpenThoughts-114k-math и smoltalk. Основное преимущество — доступность множества вариантов GGUF-квантизации с разным соотношением размера, скорости и качества, что позволяет запускать модель на устройствах с ограниченными ресурсами. При этом низкобитные варианты могут заметно терять в качестве; в README отдельно отмечены ограничения некоторых конфигураций, а рекомендуемым назван вариант i1-Q4_K_M. Модель распространяется по лицензии Apache-2.0.

Mellum2-12B-A2.5B-Instruct-GGUF — GGUF-квантизированная версия инструкционной языковой модели Mellum2, разработанной JetBrains и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста по инструкциям, включая задачи программирования, рассуждений, ответов на вопросы и вызова функций. В README заявлена поддержка английского языка и текстовая модальность. Модель основана на Mellum2-12B-A2.5B-Instruct; из идентификатора следует обозначение 12B-A2.5B, однако подробности архитектуры и контекстного окна не указаны. Доступны варианты от BF16 до различных уровней квантования GGUF, что позволяет выбирать между качеством и требованиями к памяти. Для запуска указаны llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Приведены результаты на наборах для программирования, математики, следования инструкциям, вызова функций и оценки безопасности, но они не верифицированы. Лицензия модели — Apache 2.0. Ограничениями являются отсутствие в предоставленных данных подробной информации об архитектуре, размере контекста, полном наборе языков, системных требованиях и качестве работы на языках, кроме английского; перед использованием также может потребоваться обновление программного обеспечения для поддержки модели.

WhiskyAKM/MiniCPM5-2B-GGUF — квантизированная версия модели openbmb/MiniCPM5-2B, подготовленная в формате GGUF с использованием инструментов проекта llama.cpp. Модель предназначена для локального запуска на устройствах с ограниченными ресурсами, создания локальных ассистентов, coding agents, сценариев вызова инструментов и задач, требующих компактной модели. Это плотная Transformer-модель архитектуры LlamaForCausalLM с 2,52 млрд параметров, 42 слоями и grouped-query attention: 16 голов запросов и 2 головы ключей и значений. Поддерживается контекст до 131 072 токенов, языки — английский и китайский. Модель поддерживает режим рассуждений, управляемый параметром enable_thinking, а также XML-стиль вызова инструментов. Доступны варианты от BF16 до 4-битных квантов; Q4_K_M обозначен как сбалансированный вариант по качеству и размеру, его файл занимает около 1,5 ГБ. К сильным сторонам относятся небольшой размер, возможность локального развертывания, длинный контекст и поддержка спекулятивного декодирования с draft-моделями MiniCPM5-2B-DSpark, что может ускорять генерацию. К ограничениям относятся поддержка только текстовой модальности и заявленных языков, а также потенциальная потеря качества при использовании более агрессивной квантизации. Модель распространяется по лицензии Apache-2.0.

Venti MiseAI 1.1 — локальный ИИ-ассистент от Venti Labs, дообученный на базе Qwen/Qwen2.5-Coder-7B. Модель предназначена для генерации и рефакторинга кода, решения технических задач и подготовки документации. По карточке она содержит 7 млрд параметров и распространяется в формате GGUF с квантизацией Q8_0; заявлена поддержка запуска через Ollama, llama.cpp и LM Studio, в том числе на потребительских GPU с 8 ГБ видеопамяти. Модель принимает текстовые запросы и выдаёт текст, включая программный код. Разработчик заявляет, что после загрузки MiseAI работает локально и не отправляет данные в облако. В метаданных указан английский язык карточки, но конкретный набор поддерживаемых естественных языков не описан. Лицензия — Apache-2.0.

NeoHorse-1-4B-Max-Heretic-Uncensored-TURBO — разговорная текстовая модель от prithivMLmods на базе TokenRhythm/NeoHorse-1-4B, дообученной на Qwen3.5-4B. Вариант обработан инструментом Heretic для снижения числа отказов; модель рассчитана на диалоги, выполнение инструкций, использование инструментов, программирование и рассуждения. Модель имеет плотную архитектуру Qwen3.5 и около 3,4 млрд параметров, поддерживает контекст до 262 144 токенов и английский язык. В репозитории доступны веса Safetensors и сборки GGUF разных уровней квантования для запуска через Transformers или llama.cpp. Лицензия — Apache 2.0. Карточка помечает модель как экспериментальную: возможны артефакты, поэтому ответы следует проверять. Снижение числа отказов также означает, что модель может отвечать на запросы, которые обычно отклоняются.

NeoHorse-1-9B-MERNIK-GGUF — семейство GGUF-квантизаций базовой модели TokenRhythm/NeoHorse-1-9B, подготовленное пользователем wepiqx методом MERNIK. Модель предназначена для генерации текста и кода, включая задачи программирования на Python и разработку небольших проектов. В карточке указана поддержка английского языка; по результатам тестов модель также способна генерировать русский текст и интерфейсы. Архитектура базовой модели и максимальная длина контекста не раскрыты, однако для проверки использовался контекст 8192 токена, а в рекомендациях предлагается 16384 токена. Доступны варианты размером примерно от 3,65 до 6,83 ГБ с разными уровнями квантования, включая Q2, Q4, Q8 и F16. Сильной стороной являются возможности генерации рабочего кода при существенно меньшем размере по сравнению с полноточными вариантами. В тесте HumanEval версия MERNIK-6500-Q8 показала pass@1 85,98% (141 из 164 задач), а MERNIK-5100-Q4 — 82,93%; младшая версия MERNIK-3650-Q2 достигла 23,78% и подходит преимущественно для коротких функций, но не для полноценных проектов. Результаты зависят от размера квантизации, настроек выборки и доступного контекста. Для сложных рассуждений и длинных задач рекомендуется увеличенный лимит генерации; при слишком малом бюджете модель может не раскрыть потенциал. Для запуска заявлена совместимость с llama.cpp и llama-server, включая шаблон чата Jinja. Модель распространяется по лицензии Apache-2.0. В README приведены рекомендации по параметрам генерации, включая temperature 0,6, top_p 0,95 и top_k 20 для практической работы с кодом; использование presence_penalty 1,5 не рекомендуется, поскольку оно вызывало сбои на тестовом стенде.

OctoGeeX — инструкционно дообученная языковая модель для генерации кода и выполнения текстовых инструкций. Согласно README, её разработали в рамках проекта BigCode, дообучив CodeGeeX2 на CommitPackFT и OASST; в метаданных указаны архитектура ChatGLM, 7,5 млрд параметров и библиотека Transformers. Модель работает с текстом, поддерживает английский и китайский языки и более 100 языков программирования. Родная длина контекста — 8192 токена. Модель подходит для генерации и дополнения кода, а также для ответов на инструкции. README рекомендует оформлять запрос с префиксом «Question: » и завершать его строкой «Answer:». Указанные в карточке обучения включают предварительное обучение с целью Fill-in-the-Middle и последующее инструкционное дообучение. Модель опубликована в формате PyTorch. В README не приведены условия лицензии, поэтому их нельзя уточнить по доступным сведениям. Данные о размере модели расходятся: README называет 6 млрд параметров, а метаданные — 7,5 млрд.

Open-MOPD-SmolLM3-3B-Final — англоязычная плотная языковая модель BytedTsinghua-SIA для генерации текста, дообученная методом онлайн-дистилляции с несколькими учителями. Модель основана на BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT и имеет около 3,1 млрд параметров; архитектура — SmolLM3ForCausalLM. Репозиторий содержит веса safetensors, а карточка указывает лицензию Apache-2.0. Модель предназначена для решения математических задач, генерации кода и выполнения инструкций в диалоговом формате. Обучение использовало отдельных RL-учителей для этих трёх областей и маршрутизацию запросов к соответствующему учителю. Указанная длина контекста — 65 536 токенов; в оценивании использовалось до 32 768 токенов. В карточке приведены результаты на наборах AIME24/25, LiveCodeBench v5/v6, IFEval и IFBench_test. Модель поддерживает английский язык. Бенчмарк-карточка отмечает, что одиночная генерация с жадным декодированием не сопоставима с опубликованными результатами: для их воспроизведения требуется описанный протокол семплирования. Приведённые оценки отражают тестовые наборы и протокол карточки, а не гарантируют качество на других задачах.

FreedomAISVR/Ornith-1.0-35B-MXFP4-MOE-GGUF — квантизированная версия Ornith-1.0-35B от deepreinforce-ai, модели для программирования и агентных сценариев, основанной на Qwen 3.5. Она предназначена для генерации кода и выполнения задач coding agent, включая формирование плана или каркаса решения и последующие шаги. Модель имеет архитектуру MoE с 35 млрд параметров, из которых активны около 8 млрд на токен, 256 экспертов и 40 слоёв; используется гибридное внимание с локальными и полными слоями. Контекстное окно — 262 тысячи токенов. В репозитории веса представлены в формате GGUF с квантизацией MXFP4 для экспертных весов и Q8_0 для остальных тензоров. Карточка описывает вариант как рассчитанный на эффективное развёртывание на одной видеокарте; указывает минимум 20 ГБ видеопамяти и рекомендует 24 ГБ или больше для полного размещения модели на GPU. Лицензия — MIT.

Sara121/Ornith-1.0-9B-Engineering — плотная языковая модель семейства Qwen3.5, дообученная для ответов на инженерные вопросы. Она создана слиянием QLoRA-адаптера Epoch 2 с базовой моделью ornith-ai/Ornith-1.0-9B и опубликована как самостоятельная модель Transformers в формате Safetensors. Модель содержит 7,2 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для ответов на вопросы по инженерным темам и решения задач разработки. В оценке на фиксированной выборке из 902 примеров адаптер Epoch 2 превзошёл базовую модель по token F1; точное совпадение ответов оставалось низким. Лицензия — MIT. Результаты оценки основаны на лексических метриках и не подтверждают фактическую или нормативную корректность ответов. README рекомендует проверять модель перед применением в производстве и процессах, чувствительных к соблюдению требований.

Ornith-1.5-Cyclos-1M-Uncensored — это мультимодальная модель для диалогов, разработанная на основе семейства Ornith и изменённая автором репозитория с помощью LoRA дообучения. Веса LoRA объединены с базовой моделью; архитектура — Qwen3.5 MoE для условной генерации текста и изображений. Модель принимает текст и изображения и выдаёт текст. Дообучение было сосредоточено на программировании, агентных сценариях, анализе рынков и торговли, классификации содержимого и вызове инструментов. Размер базовой модели — 35 млрд параметров; репозиторий содержит веса BF16 в формате safetensors. Контекст расширен с исходных 262 144 до 1 048 576 токенов с помощью YaRN. Это расширение выполнено для инференса, а не обучено на последовательностях такой длины: качество за пределами исходного контекста не проверялось и может снижаться. В README указана поддержка vLLM и SGLang; для BF16-весов объёмом около 67 ГБ требуется значительная видеопамять, а на описанной системе с 32 ГБ VRAM использовалась выгрузка части весов в оперативную память через vLLM. Аудио модель не поддерживает, заявленных бенчмарков нет. Лицензия — Apache-2.0.

Это компактная языковая модель Phi-3 Mini Instruct семейства Phi-3, представленная в репозитории tuong-nguyen-prd. Модель имеет плотную архитектуру Phi3ForCausalLM и около 3,7 млрд параметров; она дообучена следовать инструкциям с помощью supervised fine-tuning и direct preference optimization. В README вариант назван 128K, однако метаданные этой копии указывают длину контекста 4096 токенов. Модель предназначена для генерации текста в диалоговом формате, включая рассуждения, математику и программирование. Её позиционируют для сценариев с ограниченными вычислительными ресурсами и требованиями к низкой задержке; карточка также описывает улучшения в следовании инструкциям, структурированном выводе и понимании длинного контекста. Основной заявленный язык — английский. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией MIT. Как и другие языковые модели, она может выдавать неточные, ненадёжные, предвзятые или оскорбительные ответы; её качество и безопасность следует оценивать для конкретного применения, особенно в сценариях с высокими рисками.

Phi-4-mini-instruct-mlx-fp16 — версия модели Microsoft Phi-4-mini-instruct, преобразованная SkyStar-tech в формат MLX для запуска на устройствах Apple с использованием mlx-lm. Это плотная авторегрессионная языковая модель с 3,8 млрд параметров и контекстом до 4096 токенов. Она предназначена для диалогов, генерации текста и кода, а также рассуждений в приложениях с ограниченными ресурсами. Поддерживает английский, русский и другие языки, перечисленные в карточке модели. Репозиторий использует формат safetensors и лицензию MIT; README указывает преобразование в MLX с помощью mlx-lm 0.31.2.

mlx-community/Qwen2.5-Coder-7B-4bit — версия модели Qwen2.5-Coder-7B, преобразованная сообществом mlx-community в формат MLX с 4-битной квантизацией. Модель представляет собой плотную авторегрессионную языковую модель семейства Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и кода, диалогового взаимодействия и работы с интерфейсом вызова инструментов. Её можно использовать для написания и продолжения кода, объяснения фрагментов программ и помощи в разработке. Квантизация сокращает требования к памяти; README указывает на использование через mlx-lm. В метаданных указана лицензия Apache-2.0. Карточка модели не сообщает отдельные результаты оценки качества или специфические ограничения; как квантизированная версия, она может отличаться по качеству от исходной модели.

unsloth/Qwen3.6-35B-A3B-NVFP4 — открытая NVFP4-квантизированная версия модели Qwen3.6-35B-A3B, разработанная Unsloth на базе модели Qwen. Это каузальная языковая модель с визуальным энкодером, предназначенная для диалоговых и мультимодальных сценариев, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозитория. Модель распространяется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель содержит 35 млрд параметров, из которых 3 млрд активируются при обработке токена. Архитектура включает 40 слоёв, сочетает Gated DeltaNet, Gated Attention и Mixture of Experts с 256 экспертами, из которых используются 8 маршрутизируемых и 1 общий. Размер скрытого представления составляет 2048, размер словаря — 248 320 токенов. Поддержка изображений заявлена через vision encoder, однако список языков и максимальная длина контекста в README не указаны. Ключевые преимущества версии — сниженное потребление памяти, возможность работы на GPU с 32 ГБ VRAM, встроенный модуль Multi-Token Prediction для speculative decoding и заявленная скорость до 1,56 раза выше других NVFP4-квантизаций. К ограничениям относятся возможные потери точности из-за квантизации, зависимость производительности от аппаратного обеспечения и backend vLLM, а также отсутствие в предоставленных данных подробностей о языковой поддержке и контексте. Лицензия — Apache-2.0.

Qwen3.8-27B-IU4-Kairic-Edge — производительная квантованная версия Qwen3.8-27B, разработанная Kairic.ai для локального запуска на графических процессорах AMD Strix Halo с архитектурой gfx1151, включая Radeon 8060S. Модель предназначена для генерации текста и программного кода, а также для сценариев локального инференса с ускоренной обработкой промптов и многотокенной верификацией. Модель использует 27B-параметрическую языковую архитектуру Qwen3.8 и формат GGUF, а её вычислительный маршрут сочетает 4-битные активации и веса с нативными AMD IU4 matrix-инструкциями. Концепция Dual View объединяет авторитетное представление GGUF с тремя специализированными файлами-компаньонами Prompt Forge для отдельных фаз вычислений. Заявлена поддержка контекста размером до 256K токенов, prompt caching и native MTP4; сведения о языках в README не указаны. К сильным сторонам относятся высокая скорость генерации, ускоренная обработка промптов, существенное сокращение времени повторной обработки кэшируемых префиксов и результаты на тестах HumanEval. На воспроизведённой задаче структурированной генерации коэффициент принятия черновых токенов составил 99,73%, однако производительность зависит от совместимого оборудования и поддерживаемых форм вычислений. Для работы требуется специальная сборка Kairic Edge v1.2; стандартный llama.cpp не поддерживает необходимые sidecar-файлы и параметр --kairic-edge. Лицензия модели — Apache-2.0.

Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed — квантованная версия Qwen3.8-27B, адаптированная для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена прежде всего для локального программирования, генерации текста и работы с инструментами вроде OpenCode, Claude Code и совместимых с OpenAI или Anthropic API приложений. Разработчик базовой модели — Qwen; данный MLX-пакет подготовлен Youssofal для MTPLX. Модель использует динамическое 4-битное квантование с группами по 32 веса: наиболее чувствительные компоненты частично сохранены в 8- или 16-битном формате, включая MTP-голову. Архитектура сохраняет native multi-token prediction с глубиной MTP 3, что позволяет MTPLX применять спекулятивное декодирование на Apple Silicon. Размер загрузки составляет 20,4 ГБ, пиковое потребление unified memory — около 23,6 ГБ, контекстное окно — 262 144 токена. Указанные в README языки не перечислены, но приведённая проверка включает многоязычный текст. Главное преимущество — высокая скорость локальной генерации при близости к исходной модели: заявлены показатели до 87,6 токена в секунду в отдельных сценариях и около 58,7 токена в секунду на средней задаче программирования на M5 Max. По данным автора, точность согласования с bf16-чекпойнтом составляет 96% top-1, а спекулятивная генерация сохраняет исходное распределение выборки. Ограничения включают зависимость от MTPLX и Apple Silicon, требование не менее 32 ГБ unified memory, а также неизбежные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-MLX-4bit — 4-битная квантованная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX; модель оптимизирована для запуска на устройствах с Apple Silicon. Модель предназначена для генерации текста и, судя по названию исходной модели, ориентирована на задачи, связанные с программированием, однако README не содержит подробностей о поддерживаемых языках программирования, естественных языках, архитектуре, размере активной части модели, контекстном окне или доступных модальностях. Указан только формат text-generation и 4-битное представление, которое снижает требования к памяти и делает локальный запуск на Apple Silicon более практичным, но может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии Apache-2.0. LM Studio не является создателем исходной модели и не гарантирует её точность, безопасность или пригодность для конкретных задач; результаты могут быть ошибочными или неподходящими и требуют проверки.

mlx-community/Qwen3-Coder-Next-bf16 — конвертированная в формат MLX версия Qwen/Qwen3-Coder-Next, подготовленная сообществом mlx-community. Это языковая модель с архитектурой Qwen3 Next и причинным декодером, предназначенная для генерации кода и работы в кодирующих агентах, включая многошаговую разработку и взаимодействие с инструментами. Модель поддерживает диалоговый режим, принимает текст и генерирует текст; заявленная длина контекста составляет 262144 токена, общее число параметров — 2,3 млрд. Репозиторий содержит веса в формате safetensors и предназначен для запуска с MLX, в частности через mlx-lm. Лицензия — Apache-2.0. README указывает на конвертацию исходной модели в формат MLX; метаданные также связывают её с Qwen/Qwen3-Coder-Next.

DavidAU/Qwen3-Jan-Nano-128k-6B-Brainstorm20x — инструкцияционная языковая модель для генерации текста, кода и диалогов. В основе лежит Menlo/Jan-nano-128k; автор сообщает о применении адаптера Brainstorm 20x, настроенного на улучшение генерации кода и решения задач. В метаданных архитектура указана как плотная Qwen3ForCausalLM, размер — 5,4 млрд параметров, формат весов — safetensors. Модель принимает текст и поддерживает контекст до 131 072 токенов. Карточка описывает её применение для программирования, многошаговых задач, творческого письма и мозгового штурма. Автор отмечает более подробную и нюансированную прозу, а также более строгое следование инструкциям; эти наблюдения представлены как субъективные результаты тестирования. Указанная лицензия — Apache-2.0. Для запуска README рекомендует шаблон Jinja или ChatML и приводит настройки сэмплирования; для сложных многошаговых задач автор советует варианты квантования Q6 или Q8. Карточка не приводит независимых бенчмарков, поэтому заявления об улучшениях не следует считать подтверждённой оценкой качества.

Qwen3-Swallow-8B-RL-v0.2 — созданная проектом Swallow LLM двуязычная языковая модель на архитектуре Qwen3 с плотной архитектурой и 7,6 млрд параметров. Это версия семейства Qwen3-Swallow, дообученная на основе tokyoTech-llm/Qwen3-Swallow-8B-SFT-v0.2 с обучением с подкреплением по проверяемым вознаграждениям (RLVR). Модель предназначена для диалогов и генерации текста на японском и английском языках, включая перевод между ними, математические и программные задачи, а также рассуждения. Обучение включало данные по математике и коду с цепочками рассуждений и диалоговые данные. Модель поддерживает контекст до 40 960 токенов по метаданным; разработчики рекомендуют ограничивать длину контекста 32 768 токенами или меньше и запускать модель через vLLM для более воспроизводимого поведения. Модель обычно выполняет рассуждения по умолчанию и не поддерживает переключатель режима рассуждений. Разработчики сообщают, что модель не обучалась специально для вызова инструментов, а её применение в этом сценарии требует дополнительной посттренировки. Также отмечено, что модель находится на ранней стадии разработки и не настроена для полного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

mlx-community/Qwopus3.6-35B-A3B-Coder-bf16 — конвертированная в BF16 MLX-версию модели Jackrong/Qwopus3.6-35B-A3B-Coder. Репозиторий сохраняет шаблон чата и конфигурацию мультимодального процессора для текста, кода, изображений и видео; модель предназначена для инференса на компьютерах Apple Silicon с использованием MLX и mlx-vlm. Модель относится к семейству Qwen3.5 MoE и поддерживает диалог, программирование, работу с изображениями и вызов инструментов. В метаданных указаны английский, китайский, испанский, русский и японский языки, однако подробности исходной карточки о качестве и сценариях доступны по ссылке на базовую модель. Репозиторий распространяется по лицензии Apache 2.0.

Карточка модели CrossNow/Qwythos-27B-v1 на Hugging Face совпадает с карточкой empero-ai/Qwythos-27B-v1, поэтому описание составлено по ней. Qwythos-27B-v1 — открытая полноразмерная дообученная модель Empero AI на базе Qwen/Qwen3.5-27B. Это плотная мультимодальная модель с 64 текстовыми слоями, гибридным вниманием Gated-DeltaNet и полным модулем зрения; она принимает текст и изображения и генерирует текст. Модель прошла полнопараметрические этапы SFT, DPO и ESFT до обучения с подкреплением, сохранив штатную поддержку вызова инструментов и предсказания нескольких токенов. Модель предназначена для диалогов и рассуждений, задач STEM, работы с терминальными и инструментальными сценариями, а также технических вопросов в областях кибербезопасности и биомедицины. Заявлена конфигурация контекста до 1 048 576 токенов с расширением YaRN. Шаблон чата поддерживает нативный формат вызова функций Qwen3.5. Зрение унаследовано от базовой модели: параметры визуального модуля не дообучались, а понимание изображений не оценивалось. Большой контекст с YaRN может немного ухудшать качество на коротком контексте. Модель намеренно не ограничивает ответы на чувствительные технические темы, поэтому для использования нужны подходящие правила и проверка результатов. Лицензия — Apache-2.0.

Qwythos-9B-Claude-Mythos-5-1M-GGUF — это GGUF-квантизации модели Qwythos-9B-Claude-Mythos-5-1M, разработанной Empero. Модель предназначена для запуска в llama.cpp, Ollama, LM Studio, jan, KoboldCpp и других совместимых средах. Она создана на основе Qwen3.5-9B и дообучена более чем на 500 миллионах токенов трасс Claude Mythos и Claude Fable с использованием внутреннего инструмента Empero AI rethink. Модель ориентирована на рассуждения, агентские сценарии, вызов функций, анализ кибербезопасности и биомедицинских задач. Она поддерживает нативный function calling по спецификации Qwen3.5, английский язык и контекст до 1 048 576 токенов благодаря масштабированию RoPE YaRN. Это мультимодальная модель с поддержкой изображений: для обработки изображений требуется отдельный файл vision projector mmproj, унаследованный от Qwen3.5-9B. Заявлены возможности описания изображений, OCR, чтения графиков и таблиц, понимания интерфейсов и документов, а также базового пространственного анализа. Доступны варианты квантизации от Q4_K_M до Q8_0 и BF16, включая версии с MTP для спекулятивного декодирования. Q4_K_M указан как рекомендуемый компромисс между размером и качеством. Сильными сторонами являются большой контекст, рассуждения, поддержка инструментов и локального мультимодального запуска. Ограничения включают зависимость производительности и качества от выбранной квантизации, поддержки MTP конкретным рантаймом и наличия отдельного vision projector для изображений; подробные результаты оценки и полное описание возможностей находятся в карточке базовой модели. Модель распространяется по лицензии Apache-2.0.

Replete-Coder-Instruct-8b-Merged-GGUF — это набор GGUF-квантизаций инструкционной модели для генерации текста и работы с исходным кодом. Базовую модель разработала команда Replete-AI, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска в сценариях программирования, генерации и дополнения кода, а также выполнения текстовых инструкций. Доступны варианты от полноразмерного F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Размер файлов варьируется примерно от 3 до 32 ГБ, что позволяет выбирать между качеством и требованиями к оперативной памяти. Указано, что наиболее качественные варианты Q6 и Q5, а Q4 предлагают хороший баланс размера и качества. Модель имеет 8 миллиардов параметров; сведения о поддерживаемых языках, размере контекста, архитектуре и мультимодальности в README не приведены. К сильным сторонам относятся широкий выбор квантизаций, возможность локального использования через совместимое программное обеспечение и сохранение высокого качества у вариантов Q6 и Q5. Более компактные варианты экономят память, но могут заметно уступать по качеству, особенно Q2 и Q3. Модель распространяется по лицензии Apache-2.0.

seldonium-2x7b-MoE-v0.1 — языковая модель архитектуры Mixture of Experts (Mixtral), созданная объединением Locutusque/Hercules-4.0-Mistral-v0.2-7B и Open-Orca/Mistral-7B-OpenOrca с помощью LazyMergekit. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и сочетает специализацию компонентов на программировании, логических задачах и анализе. Её можно использовать для написания функций и алгоритмов, работы со структурами данных, решения логических задач и оценки аргументов. Базовая модель Open-Orca ориентирована на инструкции и генерацию текста на английском языке; карточка этой модели не подтверждает отдельную поддержку других языков. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0.

speechless-code-mistral-7b-v1.0-Mistral-7B-Instruct-v0.2-slerp — объединённая методом SLERP модель MaziyarPanahi на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/speechless-code-mistral-7b-v1.0. Она предназначена для диалоговой генерации текста и ответов на инструкции, включая задачи, связанные с программным кодом. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Метаданные указывают Apache-2.0; веса доступны в формате safetensors. Данные карточки не уточняют языки, на которых модель лучше всего работает, и не приводят отдельной оценки качества или ограничений по задачам.

Карточка модели Jiunsong/SuperGemma-4-12b-abliterated на Hugging Face совпадает с карточкой enkato64bit/SuperGemma-4-12b-abliterated, поэтому описание составлено по ней. SuperGemma-4-12b-abliterated — дообученный инструкционный чекпойнт на 12 млрд параметров, созданный на основе google/gemma-4-12B-it. Разработчик объединил обработку направления отказов в весовом пространстве с дополнительным постобучением для следования инструкциям, программирования, технических ответов на корейском языке, форматирования JSON и вызовов инструментов. Модель распространяется как единый чекпойнт без необходимости подключать адаптер во время работы. Модель предназначена для диалогов, выполнения инструкций и генерации кода. README описывает снижение лишних отказов и приводит результаты внутренних и публичных проверок, однако они не гарантируют качество на других запросах. В метаданных также заявлена мультимодальная архитектура семейства Gemma 4 с возможностью работы с изображениями, видео и аудио у базовой модели; явное подтверждение этих входов для данного чекпойнта в README отсутствует. Модель загружается через Transformers, веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка указывает английский и корейский языки; дополнительное постобучение особенно ориентировано на технические ответы на корейском.

The-Trinity-Coder-7B — языковая модель для генерации кода, созданная слиянием трёх моделей: CodeNinja-1.0-OpenChat-7B, NeuralExperiment-7b-MagicCoder-v7.5 и Speechless-Zephyr-Code-Functionary-7B. Слияние выполнено методом TIES; модель использует плотную архитектуру Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации и дополнения кода, помощи в программировании, логических рассуждений и решения математических задач. В карточке заявлена поддержка языков программирования, включая Python, C, C++, Rust, Java и JavaScript. Модель работает с текстовыми запросами и выдаёт текст, в том числе код. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результаты сравнительной оценки качества; практическая точность и качество кода могут зависеть от задачи и формулировки запроса.