II.4Отладка, тестирование и качество ПО

Vontra/Qwen3.8-Flash-Next-MLX-4bit-MTP — это 4-битная MLX-конверсия мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen. Конверсия выполнена из официального BF16-чекпойнта для запуска на Apple Silicon через MLX и сохраняет штатный блок MTP для speculative decoding. Модель предназначена для диалогов и генерации текста, а также для сценариев vision-language с обработкой изображений при наличии совместимого MLX-VLM и runtime. Архитектура представляет собой vision-language sparse MoE на базе Qwen4Exp с языковой частью на 125 млрд параметров, из которых активны около 6 млрд, и контекстом до 262 144 токенов. Используются Gated DeltaNet, Qwen Sparse Attention, разреженные mixture-of-experts-слои, расширенные gated residual streams, hashed bigram и trigram embeddings, а также один draft-блок MTP объёмом 4 млрд параметров. Основные языковые и MTP-модули квантизованы в 4 бита с размером группы 32; мультимодальные модули и router gates сохранены в BF16. Формат весов — MLX safetensors, общий размер — около 113,2 ГБ. К сильным сторонам относятся существенно сниженный по сравнению с BF16 объём весов, поддержка длинного контекста и потенциальное ускорение декодирования благодаря native MTP. На Apple M3 Studio в указанной конфигурации скорость генерации выросла с 27,83 до 31,44 токена в секунду, однако результаты зависят от длины контекста, версии runtime, состояния кэша, памяти и температуры. Для работы требуется runtime с явной поддержкой архитектуры qwen4_exp и native MTP; старые версии могут быть несовместимы, а поддержка изображений зависит от версий MLX-VLM и oMLX. Модель распространяется по Qwen Community License 1.0.

bartowski/Qwen_Qwen3.5-9B-GGUF — это GGUF-квантизированная версия модели Qwen3.5-9B, разработанной Qwen и подготовленной bartowski. Модель предназначена для задач image-text-to-text, то есть обработки текстовых и визуальных входных данных с генерацией текста. Она подходит для локального запуска через llama.cpp и совместимые инструменты, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. В репозитории представлены варианты от BF16 до более компактных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, объёмом примерно от 4,9 до 18,4 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp; для некоторых конфигураций поддерживаются MTP-слои и режим draft-mtp. Более компактные варианты снижают требования к оперативной памяти, но могут уступать по качеству более высокоточным версиям. Архитектура, языки и размер контекстного окна в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

WINTER-FROST-3 — дообученная brucoder модель для генерации текста и диалогов. Она основана на WINTER-FROST-2-PRO, использует плотную архитектуру Qwen2 и содержит 7,1 млрд параметров. Модель принимает текст и поддерживает контекст длиной до 32 768 токенов; в карточке указан английский язык. В метаданных также отмечен интерфейс взаимодействия с инструментами. Модель подходит для текстовых запросов, диалогов и сценариев, где нужно вызывать инструменты через соответствующий интерфейс. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Лицензия — Apache-2.0.

Agnes-3.0-Flash Preview GGUF — набор квантизированных сборок базовой модели Agnes-AI/Agnes-3.0-Flash, опубликованный quimmedes. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями и видео, а также для локального запуска через совместимый runtime llama.cpp. Доступны варианты квантования от Q3 до Q9 и несколько альтернативных сборок с разным распределением точности между компонентами модели. Архитектура основана на гибридной схеме с recurrent SSM- и attention-слоями: 72 слоя, включая 54 delta-rule и 18 global attention, дополнительная параллельная SwiGLU-ветвь в каждом слое, около 32,63 млрд параметров, размер скрытого состояния 5120, словарь из 248 320 токенов и один MTP-слой. Поддерживаются текст, изображения и видео; точный набор языков и максимальная длина контекста в README не указаны, хотя приведён пример запуска с контекстом 32 768 токенов. Модель использует тот же токенизатор и шаблон чата, что и Qwen3.8-27B, но имеет дополнительные слои и переобученные проекционные матрицы. Ключевое преимущество сборок — сочетание гибридного внимания, поддержки длинного контекста, мультимодальности и выбора размера файла: от 12,12 до 32,28 GiB для основной линейки. Для работы требуется патченная версия cafe-llama.cpp; стандартная llama.cpp не поддерживает необходимые тензоры и может завершиться ошибкой или некорректно загрузить модель. Указанные требования к видеопамяти и параметры запуска ориентированы на карту 24 ГБ, однако фактические возможности зависят от выбранного квантования и длины контекста. Модель и сборки распространяются по лицензии Apache-2.0.

Arcee-SuperNova-v1 — текстовая модель Arcee AI для диалогов и выполнения инструкций. В основе лежит Llama-3.1-70B-Instruct; модель объединяет дистиллированную версию Llama-3.1-405B-Instruct, вариант, дообученный на синтетических данных Evol-Kit, и вариант, оптимизированный с помощью Direct Preference Optimization (DPO). В метаданных указаны архитектура LlamaForCausalLM, 69,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для ответов на разнообразные запросы, следования инструкциям, математических задач и использования как основы для дальнейшего обучения с подкреплением на основе человеческой обратной связи. Поддерживает генерацию текста и диалоговый сценарий; в метаданных также заявлен интерфейс вызова инструментов. Для использования указана лицензия Llama 3. Карточка описывает объединение нескольких подходов к обучению, но не приводит количественных оценок качества или результатов сравнительных тестов.

AutomatosX AX-Qwen3.8-27B-MLX-AXQ-6bit-MTP — это смешанно-точный квантованный MLX-чекпойнт на базе Qwen/Qwen3.8-27B, преобразованный компанией AutomatosX непосредственно из исходной модели BF16. Модель предназначена для генерации текста и запуска на устройствах Apple Silicon через MLX-LM, а также для нативного выполнения в AX Engine и интеграции с oMLX Lightning MTP. Модель имеет плотную архитектуру Qwen3_5ForConditionalGeneration и 27,36 млрд логических параметров. Основной языковой тракт квантован с использованием AXQuant 1.6.2; заявленный класс хранения — 6 bit, измеренный общий показатель с учётом MTP составляет 6,0001 BPW. Голова multi-token prediction и vision tower сохранены в BF16. Поддерживаются текст и vision-сценарии, аудио не поддерживается. Максимальный заявленный контекст — 262 144 токена, однако практический предел зависит от объёма unified memory. Размер весов составляет около 20,84 ГБ, полный загрузочный объём — около 20,86 ГБ. Сильными сторонами являются сохранение повышенной точности для отдельных компонентов, наличие MTP и vision tower, а также оптимизация под Apple Silicon. При этом стандартный запуск через MLX-LM гарантирует только текстовый inference и может не использовать MTP, vision-компоненты и метаданные AXQuant. Заявления об ускорении MTP ограничены профилями, указанными в сертификатах, поэтому фактическую производительность следует проверять в целевой конфигурации. Репозиторий содержит MLX Safetensors и не содержит весов PyTorch или GGUF. Модель распространяется по лицензии Apache-2.0.

Citaman/command-r-4-layer — созданная Citaman модель семейства Cohere, полученная слиянием весов модели Citaman/command-r-5-layer методом SLERP с помощью mergekit. Это плотная авторегрессионная языковая модель примерно на 5,4 млрд параметров для генерации текста и диалогового взаимодействия; в метаданных также указана поддержка интерфейса вызова инструментов. Модель принимает текст и выдаёт текст, а заявленная длина контекста составляет 8192 токена. Модель подходит для диалоговых ассистентов и генерации ответов или продолжений текста. Доступны веса в формате safetensors; в README для слияния указан тип bfloat16. Лицензия в предоставленных данных не указана.

Command R7B (12-2024) — компактное обновление модели Command R+, выпущенное Cohere в декабре 2024 года. Она предназначена для генерации текста и рассчитана на быстрые ответы при работе с дополненной поиском генерацией (RAG), вызовом инструментов и агентными сценариями, где требуется сложное рассуждение. Модель подходит для создания помощников, которые отвечают на вопросы с опорой на документы, используют подключённые инструменты и выполняют многошаговые задачи. В доступных сведениях не указаны размер, архитектура, контекст, языки и лицензия, поэтому их нельзя надёжно описать.

Это квантизированная instruction-tuned модель Gemma 3 12B, разработанная Google и представленная сообществом abhishekchohan в формате для размещения на Hugging Face. Модель предназначена для диалоговых сценариев и задач генерации текста, а также заявлена как image-text-to-text модель, то есть может обрабатывать текстовые и визуальные данные. В репозитории предусмотрены chat template и средства разбора tool calls для использования с vLLM. Модель использует архитектуру Gemma 3 с 12 миллиардами параметров и квантизацию W4A16, выполненную с помощью LLM Compressor: веса представлены в 4-битной точности, а активации — в 16-битной. Это существенно снижает требования к памяти и делает модель более подходящей для развёртывания на потребительском оборудовании при сохранении хорошего качества работы, однако квантизация может влиять на точность по сравнению с полной версией. Языки и размер контекстного окна в README не указаны. Для запуска рекомендуется vLLM с соответствующими chat template, parser для Gemma и поддержкой автоматического выбора инструментов. Модель распространяется на условиях Gemma license; перед использованием необходимо ознакомиться с условиями и принять лицензию Google на Hugging Face.

GLM-5.3-Quark-MXFP4 — текстовая авторегрессионная модель для генерации текста, созданная Advanced Micro Devices (AMD) на базе GLM-5.3 от zai-org. Модель предназначена для задач обработки и генерации текста, включая математическое рассуждение и другие сценарии, поддерживаемые базовой моделью. Заявленные языки — английский и китайский; входные и выходные данные представлены в текстовой форме. Архитектура модели обозначена как GlmMoeDsaForCausalLM. Для оптимизации инференса применена посттренировочная квантизация AMD Quark V0.12: router experts и shared experts используют MXFP4, а слои self-attention — FP8 с покомпонентной блочной квантизацией. Слой lm_head, эмбеддинги и некоторые дополнительные слои сохранены в исходном формате. Максимальная длина контекста в приведённой конфигурации vLLM составляет 32 768 токенов, однако размер модели и полная спецификация контекстного окна в README не указаны. Модель ориентирована на запуск через vLLM на системах Linux с ускорителями AMD MI350 или MI355 и ROCm 7.1.1; в README также указаны PyTorch 2.10.0 и Transformers 5.15.1. На тесте GSM8K она получила 91,28 против 91,89 у исходной GLM-5.3, что соответствует восстановлению 99,34% исходного результата и указывает на небольшую потерю точности после квантизации. Лицензия обозначена как glm-5.3; также указано, что модификации защищены авторским правом Advanced Micro Devices, Inc. за 2026 год.

JoyFox-OmniFlow-9B — мультимодальная модель общего назначения от JoyFox на основе OpenBMB MiniCPM-o 4.5. Она поддерживает диалог на английском, китайском и других языках, выполнение инструкций, ответы на сложные вопросы, математические рассуждения, генерацию кода, ролевые сценарии и вызов инструментов. Модель принимает текст, изображения, видеокадры и аудио, а также поддерживает потоковое взаимодействие в режиме full-duplex с одновременным аудио- и визуальным вводом и текстовым или речевым выводом. Архитектура MiniCPMO включает языковую модель, визуальный и аудиоэнкодеры, мультимодальные проекционные слои и модуль синтеза речи. В README указан размер 9B, а метаданные сообщают 7,6 млрд параметров; контекст — до 40 960 токенов. Релиз распространяется в BF16 Safetensors и включает ресурсы для TTS и клонирования голоса по образцу аудио. Для полной потоковой генерации речи требуются дополнительные зависимости minicpmo-utils[all]. Модель загружается через Transformers; в README описана проверка полной загрузки на GPU NVIDIA RTX PRO 6000 Blackwell. Независимые внешние результаты бенчмарков не приведены; качество потокового взаимодействия зависит от конфигурации аудио и видео и среды выполнения. Возможны неточные, предвзятые или неподходящие ответы, а схемы и аргументы вызова инструментов требуют проверки. Лицензия — Apache-2.0.

Карточка модели glxiexie/LFM2.5-2.6B на Hugging Face совпадает с карточкой developerjeremylive/LFM2.5-2.6B-etheroi, поэтому описание составлено по ней. LFM2.5-2.6B-etheroi — многоязычная текстовая модель на 2,6 млрд параметров, созданная на базе LiquidAI/LFM2.5-2.6B-Base и дообученная для агентных сценариев. Она использует гибридную архитектуру LFM2: 30 слоёв, включая блоки коротких свёрток и GQA, и поддерживает контекст до 131 072 токенов. Модель предназначена для локального и периферийного развёртывания; карточка указывает поддержку Transformers, vLLM и SGLang. Модель подходит для вызова инструментов, выполнения многошаговых инструкций, извлечения данных, RAG и работы с длинным контекстом. Она поддерживает английский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. По карточке, она не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other; конкретные условия следует проверить в репозитории модели.

salamanderDixon/LFM2.5-2.6B-heretic — декензурированная версия текстовой модели LiquidAI/LFM2.5-2.6B, созданная с помощью Heretic v1.4.0. Это плотная причинно-языковая модель семейства LFM2 с 2,6 млрд параметров, рассчитанная на диалоговое использование и локальное развёртывание. Модель принимает текст и генерирует текст; заявленный контекст — 131 072 токена, поддерживается 16 языков, включая русский. Версия Heretic изменяет поведение отказов: в приведённом сравнении отказы снизились с 96 до 4 из 100, а KL-дивергенция относительно исходной модели составляет 0,0263. Исходная карточка рекомендует семейство для агентных сценариев, вызова инструментов, извлечения данных, RAG и работы с длинным контекстом, но не рекомендует его для агентного программирования и задач, требующих обширных знаний. Репозиторий использует формат safetensors и библиотеку Transformers. Указана лицензия other; конкретные условия лицензии в предоставленных данных не раскрыты.

llama-3.1-70B-lumitron — объединённая авторами модели nonetrix языковая модель на основе архитектуры Llama 3.1. Она создана методом task arithmetic с помощью mergekit: в объединение вошли nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и NeverSleep/Lumimaid-v0.2-70B. Модель содержит 69,5 млрд параметров, использует формат safetensors и доступна через библиотеку Transformers; заявленная длина контекста — 131072 токена. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и инструкции. Метаданные также отмечают интерфейс вызова инструментов. Карточка не приводит результатов оценки качества или отдельных гарантий работы этих возможностей. Лицензия в предоставленных данных не указана.

Llama3.1-Flammades-70B — диалоговая языковая модель на архитектуре Llama 3.1, разработанная FlammenAI. Это дообученная версия nbeerbower/Llama3.1-Gutenberg-Doppel-70B: модель адаптировали методом ORPO на наборах flammenai/Date-DPO-NoAsterisks и jondurbin/truthy-dpo-v0.1, используя два ускорителя H100 в течение трёх эпох. Модель содержит 69,5 млрд параметров, работает с текстом и имеет контекст длиной до 131 072 токенов. Модель предназначена для диалоговой генерации текста и ответов на инструкции. В карточке приведены результаты Open LLM Leaderboard: средний балл 35,74, IFEval — 70,58, BBH — 52,55; эти показатели отражают оценки на указанных тестах, а не гарантируют качество в конкретном сценарии. Для запуска доступен формат Safetensors и библиотека Transformers. Лицензия — Llama 3.1 Community License.

Megrez2-3x7B-A3B-Preview — предварительная версия языковой модели от Infinigence на архитектуре Mixture-of-Experts (MoE). Модель обучена на 5 трлн токенов; в карточке указано 3×7 млрд параметров, из которых активируются 3 млрд. Метаданные каталога указывают 2,7 млрд параметров. Модель принимает текстовые запросы и генерирует текст, в том числе в диалоговом режиме; заявлена длина контекста 163 840 токенов. Модель предназначена для генерации ответов и диалогов, а также для задач рассуждения и работы с агентами; разработчик описывает её как компактную модель с MoE, сочетающую сильные стороны экспертной и плотной архитектур. Доступны веса в формате safetensors, поддерживаются Transformers, vLLM и SGLang. Для инференса рекомендуется Transformers версии 4.52.4 или новее. Модель распространяется по лицензии Apache-2.0. Это preview-релиз: разработчик сообщает, что будущая официальная версия будет обучена на большем объёме данных и получит улучшенные способности к рассуждению и агентной работе. README не приводит численные результаты бенчмарков, поэтому качество для конкретных сценариев следует оценивать отдельно.

Карточка модели SillyTilly/Meta-Llama-3.1-70B на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-70B, поэтому описание составлено по ней. NousResearch/Meta-Llama-3.1-70B — текстовая большая языковая модель, разработанная Meta и представленная в репозитории NousResearch. Это плотная авторегрессионная модель семейства Llama 3.1 с архитектурой оптимизированного Transformer и Grouped-Query Attention; объём — 69,5 млрд параметров. Модель принимает и генерирует текст, а контекстное окно составляет до 131 072 токенов. Модель предназначена для генерации текста и многоязычного диалогового взаимодействия: её можно применять как основу для чат-ассистентов, а также для адаптации под различные задачи генерации естественного языка. Поддерживаемые языки — английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Карточка описывает инструктивно настроенные модели семейства как прошедшие SFT и RLHF, но не уточняет отдельно тип настройки именно этого репозитория. К преимуществам относятся большой контекст и поддержка нескольких языков. Возможны ошибки и небезопасные ответы; качество на языках вне перечисленных поддерживаемых языков не гарантируется. Модель распространяется по пользовательской коммерческой лицензии Llama 3.1 Community License, условия которой следует проверить перед использованием.

Это набор GGUF-квантизированных версий instruct-модели meta-llama/Llama-3.1-8B-Instruct, подготовленный командой featherless-ai-quants. Модель относится к задачам генерации текста и предназначена для диалоговых сценариев, следования инструкциям и локального или серверного запуска в совместимых средах, поддерживающих формат GGUF. В основе лежит языковая модель Llama 3.1 с 8 миллиардами параметров; README не уточняет архитектуру, языки и размер контекстного окна. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8 ГБ. Более компактные варианты снижают требования к памяти, тогда как версии с более высокой точностью потенциально лучше сохраняют исходное качество, но требуют больше ресурсов. Сильной стороной набора является выбор уровней квантизации для разных аппаратных ограничений и сценариев развертывания. Ограничения включают возможные потери качества из-за квантизации и необходимость использовать совместимое программное обеспечение для GGUF. Лицензия в README не указана; условия использования следует уточнять по лицензии исходной модели Llama 3.1 и условиям распространения данного набора.

Tess-4-27B-GGUF — это квантизированная версия модели Tess-4-27B, разработанной migtissera. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. По данным карточки, модель ориентирована на мультимодальные сценарии image-text-to-text, агентные задачи, рассуждения, работу с длинным контекстом и использование инструментов. Указана архитектурная принадлежность к семейству Qwen3, однако точный размер контекста, поддерживаемые языки и подробные характеристики модальностей в README не приведены. Доступны варианты от BF16 до низкоразрядных Q2–Q8-квантизаций; размеры файлов составляют примерно от 13 до 55 ГБ. Варианты Q5–Q6 обозначены как высококачественные, а Q4_K_M — как типичный вариант для большинства сценариев. Сильной стороной являются различные уровни квантизации, позволяющие выбирать между качеством, скоростью и требованиями к памяти, а также поддержка экосистемы llama.cpp. Более низкоразрядные варианты экономят память, но могут заметно уступать по качеству; некоторые форматы являются устаревшими или не рекомендуются. Модель и её квантизированные варианты распространяются по лицензии Apache-2.0.

Mistral Large 3 2512 — крупная языковая модель, разработанная компанией Mistral. Она использует разреженную архитектуру mixture-of-experts: 41 млрд активных параметров при 675 млрд параметров всего. Модель позиционируется как наиболее производительная модель Mistral на момент выпуска и предназначена для задач, требующих возможностей большой языковой модели. Предоставленные сведения не содержат данных о поддерживаемых языках, модальностях, длине контекста или конкретных сценариях применения. Модель выпущена под лицензией Apache 2.0, что допускает её использование на условиях этой лицензии. По имеющимся данным нельзя оценить фактическое качество на отдельных задачах, требования к аппаратному обеспечению и ограничения, связанные с безопасностью или областью применения.

OpenChat 3.6 8B 20240522 — языковая модель семейства OpenChat, разработанная командой OpenChat и основанная на Meta Llama 3 8B. Данный репозиторий содержит её GGUF-квантизации, предназначенные для локального запуска и эффективного развертывания. Модель работает в режиме генерации текста и диалогов, поддерживает совместимый с OpenAI ChatCompletion API сервер и может использоваться через OpenChat Web UI. Модель имеет около 8 миллиардов параметров, относится к текстовым моделям и обучалась с применением подхода C-RLFT на данных смешанного качества. README не указывает точный размер контекстного окна и перечень поддерживаемых языков. Для работы рекомендуется шаблон подсказок на основе формата Llama 3; сервер оптимизирован для высокой пропускной способности и, согласно README, может запускаться на потребительском GPU с 24 ГБ памяти. Квантизация снижает требования к ресурсам, но конкретные варианты GGUF могут различаться по размеру и качеству. Сильными сторонами заявлены производительность на уровне открытых 8B-моделей и улучшенное следование инструкциям и few-shot-шаблонам по сравнению с некоторыми альтернативами. Ограничениями являются зависимость качества и скорости от выбранного типа квантизации, а также отсутствие в предоставленных данных подробных результатов тестирования, точного контекстного окна и языкового охвата. Репозиторий распространяется по лицензии Llama 3; условия её применения следует учитывать при использовании модели.

ChaoticNeutrals/Prima-LelantaclesV5-7b — слитая методом DARE TIES текстовая модель на архитектуре Mistral, опубликованная ChaoticNeutrals. В объединение вошли Test157t/Pasta-Lake-7b и Test157t/Prima-LelantaclesV4-7b-16k; README указывает, что обе модели использованы с весом 1. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста с контекстом до 32 768 токенов по метаданным.

recursal/QRWKV6-7B-Instruct — диалоговая модель генерации текста объёмом 7,1 млрд параметров, разработанная в рамках проекта RADLADS. Она использует архитектуру RWKV6Qwen2 и преобразование трансформеров с softmax-вниманием в декодеры с линейным вниманием методом дистилляции. Модель предназначена для генерации текста и общения; в метаданных также заявлен интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Подход RADLADS нацелен на сохранение качества исходной модели при более эффективном инференсе с постоянной стоимостью обработки каждого нового токена. Для загрузки через Transformers требуются пользовательские компоненты архитектуры и параметр trust_remote_code=True. Модель распространяется по лицензии Apache 2.0.

FiditeNemini/Qwen2.5-14B-DeepSeek-R1-1M-Uncensored — объединённая модель на 14 млрд параметров, созданная с помощью mergekit и метода TIES на основе mkurman/Qwen2.5-14B-DeepSeek-R1-1M с включением huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2. Она использует архитектуру Qwen2 с плотной языковой моделью для генерации текста и диалогов; заявленная длина контекста составляет около 1,01 млн токенов. Модель предназначена для диалогового взаимодействия и генерации текста с поддержкой интерфейса вызова инструментов. Многоязычная поддержка, включая конкретные языки, в предоставленных данных не описана. В названии и базовой модели указано ослабление отказов, поэтому поведение модели может быть менее ограничительным. Файлы представлены в формате safetensors; лицензия в доступных данных не приведена.

CultriX/Qwen2.5-14B-Hyperionv5 — объединённая языковая модель семейства Qwen2.5, созданная CultriX с помощью mergekit и метода DARE TIES. В основе объединения указана CultriX/Qwen2.5-14B-Wernickev3; также в него вошли другие варианты Qwen и дообученные модели семейства, перечисленные в карточке. Модель предназначена для генерации текста и диалогового общения. Она имеет плотную архитектуру Qwen2ForCausalLM, содержит 14 млрд параметров и поддерживает контекст до 131 072 токенов. Метаданные указывают интерфейс для вызова инструментов. Карточка не описывает специализированную предметную область или список поддерживаемых естественных языков. В репозитории представлены веса safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.

Theros/Qwen2.5-ColdBrew-R1-test4 — объединённая авторами модель генерации текста на архитектуре Qwen2, созданная с помощью mergekit методом SLERP из Theros/Qwen2.5-ColdBrew-R1-test2 и bunnycore/Qwen-2.5-7B-Stock-Deep-Bespoke-v2. Она предназначена для диалогов и генерации текста; в метаданных также указана возможность chat. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст. Родной контекст составляет 131 072 токена. Репозиторий использует формат safetensors, библиотека — Transformers. В карточке не указаны специальные отраслевые сценарии или перечень поддерживаемых естественных языков. Лицензия в предоставленных данных не приведена.

Qwen2.5-VL-7B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2.5-VL, разработанная командой Qwen. Представленная версия распространяется в формате GGUF и квантизирована bartowski на базе llama.cpp. Размер модели — 7B параметров, лицензия — Apache 2.0. Модель предназначена для задач image-text-to-text: анализа изображений и текста, ответов на вопросы по визуальному содержимому, распознавания объектов, работы с текстами, таблицами, диаграммами, иконками, графикой и макетами. Она также рассчитана на сценарии визуального агента, включая рассуждение и динамическое управление инструментами, компьютером или телефоном, а также на генерацию структурированных данных и стабильных JSON-ответов. Заявлена поддержка нескольких языков, однако их точный перечень в README не указан. Ключевая характеристика модели — контекст длиной до 128 тысяч токенов. Сильными сторонами являются мультимодальный анализ сложных визуальных материалов, работа со структурированным выводом и применение в агентских сценариях. README не содержит результатов benchmark-тестов, подробностей архитектуры, информации о конкретном варианте квантизации, системных требованиях и количественной оценке ограничений, поэтому фактическое качество и требования к ресурсам следует проверять отдельно.

Qwen3.5-4B-heretic — доработанная модель coder3101 на базе мультимодальной Qwen/Qwen3.5-4B от Qwen. Это плотная модель с причинным языковым ядром и визуальным энкодером: она принимает текст и изображения и генерирует текст. Базовая архитектура насчитывает 4 млрд параметров и сочетает Gated Delta Networks с механизмом внимания; нативный контекст составляет 262 144 токена, с расширением до 1 010 000 токенов. В карточке заявлена поддержка 201 языка и диалекта для семейства Qwen3.5. Модель предназначена для диалога, рассуждений, работы с изображениями и вызова инструментов. Вариант heretic получен методом abliteration и заметно реже отказывается отвечать: в приведённом сравнении отказы снизились с 94 из 100 у исходной модели до 4 из 100, при KL-дивергенции 0,0406. Это изменение поведения может повысить риск нежелательных ответов; результаты приведены в README и не описывают качество на широком наборе задач. Репозиторий содержит веса в формате Safetensors для Transformers и совместимых движков. Лицензия — Apache-2.0.

Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-GGUF — неофициальный релиз модели, подготовленный chimingw на основе AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16. Релиз представляет собой конвертацию и квантизацию исходной модели в формате GGUF без дополнительного обучения, дообучения, слияния или изменения выравнивания. Модель предназначена для локального запуска через совместимый runtime, включая llama.cpp; размещённый на Hugging Face хостинг inference отключён. Архитектура указана как Qwen3_5ForConditionalGeneration с типом qwen3_5 и размером 27B параметров. Это мультимодальная vision-language модель с поддержкой текста и изображений, английского и китайского языков, а также заявленной интеграцией function calling. Максимальный контекст по метаданным составляет 262 144 позиции, однако фактическая доступная длина зависит от runtime и объёма памяти. В комплект входят варианты квантизации Q8_0, Q6_K, Q5_K_M и Q4_K_M, а также отдельный BF16 мультимодальный проектор; для использования нужные файлы и split-части необходимо хранить вместе. Сильными сторонами релиза являются большой контекст, мультимодальность, несколько вариантов компромисса между качеством и требованиями к памяти и сохранение исходного BF16 набора файлов. Поведение при работе с текстом, изображениями, рассуждениями, инструментами и длинным контекстом зависит от выбранного варианта, клиента, prompt format, runtime и аппаратных ресурсов. Заявления исходного автора о характеристиках uncensored-модификации не были независимо проверены создателем GGUF-релиза и не являются результатами оценки данных артефактов. Модель распространяется по Apache License 2.0 согласно заявленной лицензии источника.

QUASAR-QAT/Qwen3.8-27B-QUASAR-NVFP4 — 4-битная NVFP4-версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и квантованной методом QUASAR. Модель предназначена для задач image-text-to-text, reasoning, работы с изображениями и текста, а также агентских и сценариев с длинным контекстом. Точный набор поддерживаемых языков в README не указан. Модель содержит 27 млрд параметров; все 496 из 496 линейных слоёв трансформера, включая компоненты attention и gated delta-net, представлены в формате NVFP4 W4A4. Размер модели составляет 19,7 ГБ. Она поддерживает контекст до 262 144 токенов при запуске через vLLM, а на видеокарте с 32 ГБ памяти, например RTX 5090, рекомендуется ограничить его 65 536 токенами. Для ускорения генерации заявлена поддержка speculative decoding с MTP. Ключевое преимущество — существенное уменьшение размера при сохранении качества, близкого к BF16-версии: результат GPQA-Diamond составляет 0,909 против 0,914 у оригинальной модели, а на AIME'26 заявлен результат 100%. Модель требует NVIDIA GPU с аппаратной поддержкой FP4, то есть Blackwell с compute capability 10.0 и выше, поэтому не подходит для систем без совместимого оборудования. Запуск возможен напрямую через vLLM без этапа конвертации. Модель распространяется по лицензии Apache 2.0.