II.4Отладка, тестирование и качество ПО

RedHatAI/Qwen3.5-35B-A3B-FP8-dynamic — мультимодальная разреженная MoE-модель, созданная RedHatAI на основе Qwen/Qwen3.5-35B-A3B от Alibaba Cloud. Она принимает текст и изображения, а генерирует текст. Модель ориентирована на рассуждения, вызов инструментов, обработку визуально-текстовых запросов и обычные текстовые сценарии генерации и анализа. Модель содержит 35 млрд параметров, из которых около 3 млрд активируются для отдельного запроса, и использует FP8-квантизацию весов и активаций. Квантизация выполнена с помощью LLM Compressor в формате compressed-tensors и предназначена для эффективного инференса через vLLM. В FP8 преобразованы линейные операторы трансформерных блоков, тогда как визуальный энкодер, некоторые компоненты attention и MoE, маршрутизатор экспертов и эмбеддинги сохранены в исходной точности. Это примерно вдвое снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Сильными сторонами модели являются сочетание языковых и визуальных возможностей, поддержка reasoning, tool calling, speculative decoding с Multi-Token Prediction и возможность запуска в текстовом режиме с освобождением памяти под KV-cache. Модель валидирована с vLLM 0.18.0, RHAIIS 3.4 и RHOAI 3.4. В предоставленных данных не указаны поддерживаемые языки, размер контекстного окна и численные результаты тестов, поэтому влияние квантизации на качество и ограничения по отдельным задачам оценить нельзя. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-4B-GGUF — компактная мультимодальная модель семейства Qwen3.5, разработанная командой Qwen и подготовленная в формате GGUF компанией Unsloth. Она предназначена для локального запуска, а также для задач, связанных с обработкой текста и изображений: рассуждений, программирования, визуального понимания и агентских сценариев. Модель поддерживает 201 язык и диалект. Это каузальная языковая модель с vision-энкодером и гибридной архитектурой, объединяющей Gated Delta Networks, Gated Attention и разреженный Mixture-of-Experts. Модель содержит около 4 млрд параметров, 32 слоя и имеет нативную длину контекста 262 144 токена с возможностью расширения до 1 010 000 токенов. Указанные характеристики делают её ориентированной на эффективный инференс с относительно низкими требованиями к ресурсам, однако фактическая скорость и доступный контекст зависят от используемого движка и оборудования. Сильные стороны модели — сочетание текстовых и визуальных возможностей, широкий языковой охват, длинный контекст и пригодность для локального развертывания и дообучения с помощью Unsloth. Ограничения, включая качество на конкретных языках, типах изображений и прикладных задачах, в README подробно не описаны и требуют самостоятельного тестирования. Модель распространяется по лицензии Apache 2.0.

FastFlowLM/Qwen3.5-9B-NPU2 — мультимодальная каузальная языковая модель с vision encoder, основанная на Qwen/Qwen3.5-9B. Модель предназначена для обработки текста и изображений, включая задачи рассуждения, программирования, работы с агентами и визуального понимания. Она поставляется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель содержит 9 млрд параметров, 32 слоя и использует гибридную архитектуру Gated Delta Networks со sparse Mixture-of-Experts и Gated Attention. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта, однако подробные сведения о распределении качества между языками в README не приведены. Сильными сторонами являются мультимодальность, длинный контекст, высокая эффективность архитектуры и ориентация на производительный инференс с низкой задержкой. Ограничения, требования к аппаратному обеспечению и характеристики варианта NPU2 отдельно не описаны; приведённые результаты тестов относятся к базовой Qwen3.5-9B и не обязательно отражают поведение FastFlowLM/Qwen3.5-9B-NPU2. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — мультимодальная модель, созданная HauhauCS на основе Qwen/Qwen3.6-35B-A3B. Это вариант с усиленным удалением отказов: по заявлению автора, модель не отказывается от запросов и сохраняет функциональность исходной модели, хотя иногда может добавлять короткие дисклеймеры. Подходит для диалогов, генерации и анализа текста, программирования, рассуждений, а также работы с изображениями и видео. Модель использует архитектуру MoE с 35 млрд общих параметров и примерно 3 млрд активных параметров на один проход. Она содержит 256 экспертов, из которых для каждого токена выбираются 8, включает 40 слоёв и гибридное сочетание linear attention и full softmax attention в соотношении 3:1. Заявлен нативный контекст до 262K токенов. Поддерживаются текст, изображения и видео; в README указаны английский, китайский и многоязычный режимы. Для работы с изображениями требуется дополнительный файл mmproj. Основные преимущества — высокая заявленная устойчивость к отказам, мультимодальность, большой контекст и доступность множества GGUF-квантизаций, включая оптимизированные HauhauCS варианты K_P. Ограничения включают отсутствие встроенных защитных ограничений в Aggressive-варианте, значительные требования к памяти: размер файлов варьируется примерно от 11 до 44 ГБ, а также необходимость корректно настроить совместимый runtime, например llama.cpp или LM Studio. Для сохранения возможностей режима рассуждений рекомендуется использовать контекст не менее 128K токенов. Модель распространяется по лицензии Apache-2.0.

KridgeDookie/Qwen3.8-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS — мультимодальная производная модель на базе Qwen/Qwen3.8-27B. Она сохраняет гибридную текстово-визуальную архитектуру исходной модели, имеет 27 млрд параметров и распространяется в формате BF16 Safetensors, а также в нескольких текстовых вариантах GGUF. Модель заявлена как многоязычная и предназначена для диалогов, генерации и анализа текста, программирования, работы с JSON, объяснений, математических задач и обработки изображений. Для запуска в Transformers рекомендуется около 56 ГБ памяти под веса без учёта служебных расходов и KV-кэша; в примере для Ollama указан контекст 32768 токенов, но это не подтверждает максимальный контекст модели. Основная особенность версии PHILADELPHIA CLASS — существенное снижение отказов от ответа. По внутренним автоматизированным проверкам авторов, модель не отказала в 842 основных и 126 отложенных запросах, а также прошла 23 из 24 проверок связности; эти результаты не являются независимым аудитом или публичными бенчмарками, причём часть тестовых запросов использовалась при настройке преобразования. Возможные ограничения включают отсутствие гарантии сохранения исходных показателей рассуждений, точности, программирования и компьютерного зрения, зависимость поведения от квантования и серверной части, а также отсутствие MTP-головы, из-за чего недоступно спекулятивное декодирование на её основе. Safetensors предназначен для проверенного мультимодального режима, тогда как GGUF-файлы являются текстовыми и требуют отдельного совместимого vision projector для работы с изображениями. Модель выпущена по лицензии Apache License 2.0.

Qwen3.8-27B-Uncensored-FP8-MTP — мультимодальная модель на базе JonathanColetti/Qwen3.8-27B-Uncensored, опубликованная пользователем pramoths. Репозиторий содержит FP8-квантизацию и сохраняет vision tower и рабочую MTP-голову для speculative decoding. Модель относится к семейству Qwen3.8 и поддерживает текстовые и визуальные задачи; заявленные языки — английский, китайский и тайский. Модель предназначена для генерации текста и кода, извлечения информации, анализа изображений и таблиц, а также ускоренного инференса через vLLM и MTP. Размер исходной модели — 27B параметров, веса занимают около 30 ГБ. Контекст поддерживается до 262 144 токенов. Основные матричные операции квантизированы в FP8 с блоками 128×128 и форматом E4M3, тогда как нормализации, рекуррентные компоненты, vision tower, lm_head, embed_tokens и некоторые части MTP сохранены в BF16. По приведённым измерениям, модель близка к официальной Qwen3.8-27B-FP8 по точности на задачах извлечения, программирования и анализа изображений; скорость достигает 132 токенов в секунду при одном запросе и 1 373 токенов в секунду при конкуренции 16. Уровень принятия спекулятивных токенов MTP составляет около 52%. Модель изменена в сторону отсутствия стандартных отказов, поэтому её поведение отличается от официальной версии. Для эффективной работы необходимы GPU с поддержкой FP8 tensor cores, например Ada Lovelace, Hopper или Blackwell; на Ampere совместимость FP8-пути не проверена, а видеокарты с 24 ГБ памяти недостаточны для запуска на одной карте. Для длинного контекста на 47–48 ГБ VRAM требуется FP8 KV-кэш. Указана лицензия Apache-2.0.

Spark-X2.5-4B-GGUF — компактная языковая модель общего назначения, разработанная XHToken и представленная в формате GGUF. Модель предназначена для диалогов, написания и перевода текстов, рассуждений, программирования, использования инструментов и агентских сценариев. Это текстовая модель размером 4 млрд параметров с гибридной архитектурой внимания, нативной длиной контекста до 1 млн токенов и поддержкой более 200 языков, включая английский и китайский. К сильным сторонам относятся компактный размер, широкий набор прикладных задач, многоязычность и возможность локального запуска через llama.cpp, Ollama, LM Studio и Unsloth. Для работы требуется совместимая версия программного обеспечения с поддержкой архитектуры spark2_5: llama.cpp b10828 или новее, Ollama v0.34.1 или новее либо соответствующая версия LM Studio. README не содержит подробных результатов тестирования, требований к ресурсам и сведений о поддерживаемых модальностях помимо обработки текста. Модель распространяется по лицензии Apache License 2.0.

ThinkingCap Qwen3.8 27B — дообученная Bottlecap AI мультимодальная модель на базе Qwen/Qwen3.8-27B, предназначенная для диалогов, сложных задач с рассуждениями и агентных сценариев. Она принимает текст и изображения и выдаёт текст; карточка относит её к задаче image-text-to-text и отмечает поддержку vision и chat. В тестах авторов модель сохраняла среднюю точность, близкую к базовой, при сокращении числа токенов рассуждения в среднем на 37%; на задачах длинного контекстного поиска точность сохранилась и число токенов рассуждения снизилось на 39%. Авторы рекомендуют режим reasoning_effort=xhigh. Модель распространяется в формате safetensors через Transformers; лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и базовой модели перед внедрением.

Dans-PersonalityEngine-V1.3.0-24b-GGUF — текстовая генеративная модель, опубликованная под идентификатором Mungert/Dans-PersonalityEngine-V1.3.0-24b-GGUF. Она создана на базе Mistral-Small-3.1-24B-Base-2503 и представлена в формате GGUF; сборка выполнена с использованием llama.cpp. В README не указано имя отдельной организации-разработчика, однако модель связана с серией Dans и использует наборы данных PocketDoc и других авторов. Модель предназначена для универсальной генерации текста, ролевого общения, написания и редактирования историй, работы с инструкциями, математикой, рассуждениями, кодом, инструментами и специализированными темами, включая химию, биологию, климат, право, медицину и финансы. Заявлены английский, арабский, немецкий, французский, испанский, хинди, португальский, японский и корейский языки. Мультимодальность не заявлена, поэтому модель следует рассматривать как текстовую. Ключевая особенность — низкобитные варианты квантования IQ-DynamicGate с адаптивным распределением точности по слоям, ориентированные на снижение требований к памяти при сохранении качества. Такие варианты подходят для ограниченных по памяти GPU, CPU и периферийных устройств, но могут уступать более точным форматам по качеству. Приведённые в README результаты относятся к тестам Llama-3-8B, а не непосредственно к этой 24-миллиардной модели, поэтому их нельзя напрямую считать её характеристиками. Размер контекста для данной модели не указан. Лицензия — Apache-2.0.

cyankiwi/gemma-4-31B-it-qat-AWQ-INT4 — это квантованный вариант мультимодальной модели Gemma 4 31B, разработанной Google DeepMind и опубликованный пользователем cyankiwi. Модель основана на google/gemma-4-31B-it-qat-q4_0-unquantized и предназначена для работы с текстом и изображениями с генерацией текстового ответа. Она ориентирована на генерацию текста, программирование, рассуждения, мультимодальный анализ и агентские сценарии с поддержкой вызова функций. Модель относится к семейству Gemma 4 с архитектурой, использующей гибридный механизм внимания, и имеет размер около 20,90 ГБ. Для версии 31B заявлено контекстное окно до 256K токенов. Указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Квантование с использованием Quantization-Aware Training и формата AWQ-INT4 снижает требования к памяти при сохранении качества, близкого к полноформатным вариантам, что упрощает локальное развертывание. Ограничения включают значительные требования к вычислительным ресурсам по сравнению с меньшими моделями, а также возможные потери качества и совместимости, характерные для низкобитного квантования. В README аудио указано только для вариантов Gemma 4 E2B, E4B и 12B, поэтому для данной версии поддержка аудио не подтверждена. Модель распространяется по лицензии Apache 2.0; при использовании необходимо также учитывать условия лицензии Gemma 4.

Huozi 3.0 — большая языковая модель, разработанная Центром социального вычисления и информационного поиска Харбинского технологического института (HIT-SCIR). Это дообученная для следования инструкциям версия Chinese-Mixtral-8x7B с архитектурой разреженной смеси экспертов Mixtral (MoE): в README указано 46,7 млрд параметров, из которых при генерации активируются около 13 млрд. Модель поддерживает контекст до 32 768 токенов и принимает текст, выдавая текст. Модель предназначена для диалогов и выполнения инструкций на китайском и английском языках. В карточке заявлены возможности рассуждать над математическими задачами, генерировать код, работать с длинными текстами и давать более безопасные ответы; поддерживаются сценарии развёртывания через Transformers, vLLM и OpenAI-совместимый API. В метаданных репозитория указано 7,2 млрд параметров, что расходится с описанием полного MoE-чекпойнта в README. Репозиторий содержит веса в формате safetensors. В README для исходного кода указана лицензия Apache 2.0; коммерческое использование модели требует регистрации и письменного разрешения правообладателя. Модель может выдавать фактически ошибочные, предвзятые или вредоносные ответы, поэтому результаты следует проверять.

Inkling-Small-NVFP4 — мультимодальная авторегрессионная модель, разработанная Thinking Machines и представленная в виде NVFP4-квантизованной версии модели Inkling-Small. Она принимает текст, изображения и аудио, а генерирует текст. Модель предназначена для разработчиков AI-приложений, включая агентные и tool-use системы, ассистентов программирования, чат-ботов и решения с retrieval-augmented generation, а также для диалогов, следования инструкциям и общих языковых и мультимодальных задач. Поддерживаются английский язык и, согласно описанию, общие мультиязычные сценарии, а также работа с несколькими языками программирования. Архитектура представляет собой 42-слойный decoder-only transformer с разреженным Mixture-of-Experts: из 256 экспертов для каждого токена выбираются 6, дополнительно активны 2 общих эксперта. Модель использует гибридные локальные и глобальные слои внимания, иерархический patch encoder для изображений и дискретное токенизирование аудио, объединяя модальности в общем скрытом пространстве. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд; поддерживается формат NVFP4, а исходная модель также выпускается в BF16. Для изображений рекомендован размер каждой стороны от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью желательно менее двух минут. Размер контекстного окна в README не указан. Модель доступна с открытыми весами для исследований, дообучения и интеграции в сторонние продукты, а также может запускаться локально через совместимые инструменты экосистемы Transformers. К сильным сторонам относятся мультимодальность, MoE-архитектура с небольшим числом активных параметров и поддержка сценариев, требующих обработки текста, изображений и аудио. Ограничениями являются высокая общая параметрическая ёмкость и требования к инфраструктуре, а также отсутствие в предоставленном описании подробных результатов бенчмарков и точных характеристик контекста. Лицензия — Apache 2.0; дополнительно для использования действует политика допустимого применения разработчика.

J.A.R.V.I.S. — дообученная разговорная языковая модель автора hadadrjt на базе Qwen3-14B, представленная как базовая и облегчённая версия публичного релиза. Это плотная авторегрессионная модель с 14 млрд параметров, контекстом до 40 960 токенов и форматом Safetensors; она предназначена для генерации текста, диалогов и интеграции в чат-боты, агентные сценарии, инструменты и автоматизированные процессы. README описывает ответы на вопросы, объяснения, перевод, написание кода, суммаризацию и творческое письмо. Модель принимает текст и генерирует текст. В README также упоминаются аудио- и графические функции в основном Space, однако они недоступны в терминальной и OpenAI-совместимой версиях API и не подтверждены как возможности этой модели из репозитория. Лицензия — Apache-2.0. Автор предупреждает о возможных предвзятых или ошибочных ответах и не рекомендует применять модель в критически важных сценариях без проверки человеком.

MiniCPM-SALA — языковая модель OpenBMB с 7,9 млрд параметров для генерации текста и диалогов. Она использует гибридную архитектуру: 25% слоёв со sparse attention InfLLM-v2 и 75% с linear attention Lightning Attention. Модель рассчитана на обработку очень длинного контекста: в карточке заявлена длина 524 288 токенов, а README описывает поддержку до миллиона токенов. Модель подходит для диалогов и задач, требующих анализа длинных документов или больших контекстов; заявлены сохранение общих способностей, включая знания, математику и программирование. Для работы через Transformers требуется CUDA 12 или новее и компиляция зависимостей. Модель распространяется по лицензии Apache-2.0. Ответы следует проверять самостоятельно.

NULLXES SHINRA-4B-INSTRUCT — плотная decoder-only Transformer-модель семейства SHINRA, разработанная NULLXES. Это instruction-tuned чекпойнт примерно на 3,9 млрд параметров с архитектурой ShinraForCausalLM, группированным вниманием GQA, RoPE и контекстом 32 768 токенов. Модель предназначена для диалогов и следования инструкциям, генерации кода, многоязычных ответов, подготовки структурированных JSON-выводов и черновиков вызовов инструментов. Обучение включает предварительное обучение, SFT и DPO. В данных заявлены тексты и код, математика и научные материалы, а также диалоги и примеры работы с инструментами. Карточка указывает английский, русский, немецкий, французский, испанский, китайский, японский, корейский и арабский языки; доля английского при предварительном обучении преобладала. Модель рассчитана на исследовательское применение и интеграцию в продукты NULLXES. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты. По заявлению разработчика, модель уступает крупным моделям в многошаговых рассуждениях и на редких языках; фильтры безопасности эвристические, поэтому возможны вредоносные ответы. Работа с контекстом длиннее 8192 токенов использует экстраполяцию RoPE и требует отдельной проверки качества. Пользовательская архитектура при загрузке через Hugging Face требует trust_remote_code=True.

QuantFactory/Qwen2.5-14B-GGUF — это квантизированная версия базовой языковой модели Qwen2.5-14B, созданная QuantFactory с использованием llama.cpp. Исходную модель разработала команда Qwen. Модель предназначена для генерации текста, продолжения текста и последующего дообучения, включая supervised fine-tuning, RLHF и continued pretraining. Разработчики не рекомендуют использовать базовую версию непосредственно для диалогов без дополнительного обучения. Модель относится к каузальным языковым моделям и содержит 14,7 млрд параметров, из которых 13,1 млрд не относятся к embedding-слою. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm и смещения в attention QKV; предусмотрены 48 слоёв и Grouped-Query Attention с 40 головами Q и 8 головами KV. Контекстное окно составляет до 131 072 токенов, поддерживается генерация длинных текстов. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. К сильным сторонам относятся улучшенные знания, возможности в программировании и математике, следование инструкциям, работа со структурированными данными и генерация структурированных ответов, включая JSON, а также поддержка длинного контекста. К ограничениям относятся базовый, а не instruction-tuned характер модели и необходимость использования совместимого программного окружения; для работы рекомендуется актуальная версия transformers, поскольку версии ниже 4.37.0 могут вызывать ошибку совместимости. Модель распространяется по лицензии Apache-2.0.

Unsloth представил эту версию инструктивно дообученной языковой модели Qwen2.5 с 1,5 млрд параметров. Это плотная авторегрессионная модель семейства Qwen2, рассчитанная на диалоги и генерацию текста; метаданные также отмечают интерфейс для вызова инструментов. Архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и grouped-query attention. Контекст модели — 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель подходит для чат-ботов, следования инструкциям, генерации длинных и структурированных ответов, включая JSON, а также задач по программированию и математике. В карточке заявлена поддержка более 29 языков, среди них английский, китайский и русский; метаданные отдельно подтверждают английский. Модель загружается через Transformers и сохранена в формате safetensors. Лицензия — Apache-2.0. Компактный размер упрощает применение модели по сравнению с более крупными версиями семейства, однако качество и устойчивость могут быть ниже, чем у более крупных моделей; README не приводит подробных результатов оценки именно этого репозитория. Для работы требуется достаточно свежая версия Transformers: README предупреждает о проблемах с версиями ниже 4.37.0.

QuantFactory/Qwen2.5-3B-Instruct-GGUF — квантизированная версия модели Qwen2.5-3B-Instruct, созданная QuantFactory с использованием llama.cpp на основе Qwen/Qwen2.5-3B-Instruct. Это каузальная языковая модель для генерации текста и диалоговых сценариев, включая следование инструкциям, ответы на вопросы, написание длинных текстов, работу со структурированными данными и генерацию JSON. Она также ориентирована на задачи программирования и математики. Модель содержит 3,09 млрд параметров, имеет 36 слоёв и архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов. Используется Grouped-Query Attention: 16 голов для Q и 2 для KV. Поддерживается контекст до 32 768 токенов и генерация до 8192 токенов. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Квантизация в формате GGUF предназначена для локального запуска через совместимое программное обеспечение на базе llama.cpp и может снизить требования к вычислительным ресурсам по сравнению с полноразмерной моделью. README не содержит сведений о конкретном уровне квантизации, точных требованиях к памяти, производительности или ограничениях качества, поэтому их нельзя определить по предоставленным данным. Модель распространяется по лицензии qwen-research; указанная лицензия доступна по ссылке на исходную модель Qwen/Qwen2.5-3B-Instruct.

RedHatAI/Qwen2-72B-Instruct-FP8 — это текстовая instruction-tuned модель для диалоговых и ассистентских сценариев, созданная Neural Magic на основе Qwen2-72B-Instruct. Модель принимает текст и генерирует текст; заявлена для коммерческого и исследовательского использования на английском языке. Модель содержит 72 млрд параметров и использует FP8-квантизацию весов и активаций линейных операторов в трансформерных блоках. Симметричная поканальная схема не используется: применяется симметричная поквантовая схема с одним масштабным коэффициентом на тензор. Это примерно вдвое снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битной версией. Модель подготовлена для инференса через vLLM версии 0.5.0 и выше; в примерах развертывания и оценки используется максимальная длина контекста 4096 токенов. К сильным сторонам относятся существенное снижение требований к ресурсам при сохранении качества исходной модели: средний результат на OpenLLM benchmark составляет 80,34 против 79,97 у неквантизированной версии. Ограничения включают ориентацию на английский язык, необходимость совместимого FP8-оборудования и программного стека для эффективного запуска, а также отсутствие в README сведений о поддержке изображений или других модальностей. Лицензия указана как tongyi-qianwen; применение должно соответствовать условиям этой лицензии и законодательству.

RedHatAI/Qwen3.5-9B-FP8-dynamic — это квантованная версия мультимодальной модели Qwen3.5-9B, разработанная RedHatAI на базе Qwen/Qwen3.5-9B. Модель принимает текст и изображения, генерирует текст и предназначена для задач диалога, следования инструкциям, рассуждений и обработки визуально-текстовых запросов. Для развёртывания предусмотрена интеграция с vLLM; доступен также режим только языковой модели с меньшими требованиями к памяти. В модели применена динамическая FP8-квантизация весов и активаций линейных операторов в трансформерных блоках. Активации квантизуются во время вывода с использованием масштабирования по тензору, без калибровочных данных. Размер модели на диске сокращён с 19,3 до 14,0 ГБ, примерно на 27%. В README указана возможность запуска через vLLM с параметром максимальной длины контекста 262144 токена, однако отдельные сведения о языках модели не приведены. По опубликованным оценкам, квантованная версия сохраняет около 98,4–99,9% результатов исходной модели на тестах GSM8k-Platinum, MMLU-Pro, IFEval, Math 500, AIME 2025 и GPQA Diamond. Основные преимущества — уменьшенный объём хранения и потенциально более эффективный инференс при сохранении близкого к исходному качества. Ограничение заключается в небольшом снижении показателей на всех приведённых тестах; фактические требования к аппаратному обеспечению и производительность зависят от конфигурации. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-mixed-NVFP4-FP8 — это квантованная версия Qwen3.8-Flash-Next, подготовленная командой Primitive AI. Модель предназначена для мультимодальных сценариев image-text-to-text, генерации текста, рассуждений и вызова инструментов. Она поддерживает работу через Transformers и vLLM, включая tool calling с thinking, parser qwen3_coder и speculative decoding MTP. Модель имеет размер около 183,7 ГБ и использует смешанную точность NVFP4, FP8 и BF16 в формате compressed-tensors. Полноразмерные и линейные attention-проекции переведены в FP8, что сокращает нагрузку на память и ускоряет декодирование. Заявлена работа на одной GPU Blackwell с 96 ГБ видеопамяти и примерно 100 ГБ оперативной памяти; измерения проводились при контексте 32 768 токенов и до 36 последовательностей. Нативный контекст базовой модели указан как 262 144 токена, а для более длинного контекста предлагается RoPE-масштабирование YaRN. По данным карточки, модель сохраняет сопоставимое с обычной NVFP4-сборкой качество при показателях 92,2 для knowledge, 84,8 для call и 56,7 для abstain, а также достигает 84,4 токена в секунду в однопоточном режиме и 526 токенов в секунду при concurrency 32. Основное ограничение — необходимость использовать переменную VLLM_GDN_DECODE_KERNEL=triton: стандартное CUDA-ядро может зависать при высокой конкуренции. Для запуска также требуются специальные параметры vLLM, значительный объём RAM и совместимое оборудование Blackwell. Модель распространяется по лицензии Qwen Community 1.0.

Карточка модели unsloth/Qwen3-Next-80B-A3B-Thinking на Hugging Face совпадает с карточкой Qwen/Qwen3-Next-80B-A3B-Thinking, поэтому описание составлено по ней. Qwen3-Next-80B-A3B-Thinking — языковая модель с открытыми весами от команды Qwen, предназначенная для сложных задач рассуждения и диалогового применения. Она работает только в режиме размышления и может формировать длинные цепочки рассуждений. Модель построена на причинной архитектуре Qwen3-Next с разреженной смесью экспертов (MoE) и сочетает Gated DeltaNet с Gated Attention для работы с длинным контекстом. Всего в ней 80 млрд параметров, из которых активны около 3 млрд; метаданные каталога указывают 2,3 млрд параметров. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000 токенов. Поддерживаются генерация текста, чат и интерфейс вызова инструментов. Модель подходит для многошагового анализа, решения сложных задач и работы с большими текстовыми контекстами. В README заявлены высокие результаты на тестах рассуждения и эффективность инференса, но эти сравнения приведены разработчиком. Для запуска нужны совместимые версии Transformers, SGLang или vLLM и значительные вычислительные ресурсы; README рекомендует несколько GPU и отмечает риск нехватки памяти при длинном контексте. Лицензия — Apache 2.0.

Это конвертированная в формат Llama версия инструктивной языковой модели Qwen2.5-7B-Instruct. Репозиторий создан llamafy; модель предназначена для программ, совместимых с форматом Llama. По метаданным, это плотная причинная языковая модель на 7,1 млрд параметров с контекстом до 4096 токенов, сохранённая в safetensors и используемая через библиотеку Transformers. Модель подходит для диалогов и генерации текста, включая код и структурированные ответы, которые поддерживает базовая Qwen2.5-7B-Instruct. В метаданных указаны языки китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Лицензия в предоставленных данных не указана.

NobodyWho/Qwen_Qwen3-4B-GGUF — это квантизированная версия текстовой instruction-following модели Qwen3-4B, разработанной командой Qwen. Репозиторий предоставляет модель в формате GGUF, адаптированном прежде всего для инференса через библиотеку NobodyWho; GGUF-квантизации подготовлены bartowski. Модель предназначена для генерации текста, диалоговых приложений, выполнения инструкций и сценариев с вызовом инструментов или функций. Она поддерживает режим рассуждений с явным выводом пошагового решения и работает более чем со 100 языками. Указана только текстовая модальность. Модель содержит около 4 миллиардов параметров и поддерживает контекст длиной до 32 768 токенов. В README приведён вариант Q4_K_M, однако характеристики других вариантов квантизации могут отличаться. К сильным сторонам относятся сравнительно небольшой размер, переносимый формат GGUF, поддержка мультиязычной генерации, инструментальных вызовов и режима рассуждений. Ограничения включают неизвестную дату отсечения знаний и отсутствие опубликованных бенчмарков в данном README; также квантизация может влиять на качество и скорость по сравнению с исходной моделью. Лицензия — Apache 2.0.

Rombo-LLM-V2.5-Qwen-7b — дообученная разработчиком Rombo-Org языковая модель на архитектуре Qwen2, основанная на Qwen/Qwen2.5-7B-Instruct. В README указано, что модель получена непрерывным дообучением и объединением instruct- и базовой версий методом TIES; заявлено повышение производительности относительно исходных моделей. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста и диалогов. Максимальная длина контекста составляет 131 072 токена. В метаданных указаны интерфейс вызова инструментов и формат весов safetensors; README также упоминает наличие квантованных версий GGUF. Модель опубликована по лицензии Apache-2.0.

Thanatos-27B-HERETIC — языковая модель от FoolDev, созданная на базе heretic-org/Qwen3.8-27B-heretic-ara. Это плотная модель с 27 млрд параметров, распространяемая в формате GGUF и предназначенная для локального запуска через llama.cpp и Ollama. Репозиторий репакует и квантует базовую модель; дополнительное обучение в нём не выполняется. Упоминания Claude Fable 5 и перечисленных наборов данных приведены в README как неподтверждённая атрибуция, а не надёжная история обучения. Модель ориентирована на генерацию текста, диалоговые сценарии, рассуждения, агентские задачи и программирование. Заявлены мультимодальные возможности, однако для обработки изображений рекомендуется использовать llama.cpp напрямую: поддержка vision в Ollama для этой архитектуры, согласно README, работает некорректно. Модель поддерживает языки, включая английский, китайский, русский, испанский, французский, немецкий, японский, корейский, арабский, украинский и другие. Нативный контекст составляет 262 144 токена, с расширением до 1 010 000 токенов посредством YaRN. К сильным сторонам относятся большой контекст, плотная архитектура, поддержка локального инференса и сниженный уровень отказов, характерный для версии Heretic. Ограничения включают высокие требования к памяти: для полного контекста необходим значительный объём RAM или VRAM, а выбор квантизации влияет на размер модели и качество. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V4-Flash-DSpark — это вариант контрольной точки DeepSeek-V4-Flash, разработанный DeepSeek AI. Он не является отдельной моделью: к тому же чекпойнту подключён дополнительный модуль speculative decoding для ускорения инференса. Для запуска предусмотрен отдельный пример инференса, однако подробности его использования в представленных данных не приведены. Базовая DeepSeek-V4-Flash — языковая модель архитектуры Mixture-of-Experts с 284 млрд общих параметров, из которых 13 млрд активируются при обработке токена. Модель поддерживает контекст до 1 млн токенов и поставляется в смешанной точности FP4 + FP8: параметры MoE-экспертов используют FP4, а большинство остальных параметров — FP8. В архитектуре применяются гибридное внимание Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections; обучение проводилось на более чем 32 трлн токенов с использованием оптимизатора Muon и последующего дообучения с SFT, GRPO и on-policy distillation. Модель предназначена для задач работы с длинным контекстом, генерации и анализа текста, рассуждений, программирования и агентских сценариев. Её сильные стороны — большой контекст, относительно небольшое число активных параметров для MoE-модели и оптимизации, направленные на снижение вычислительных затрат и потребления KV-кэша. При этом README не содержит сведений о поддерживаемых языках, конкретных ограничениях качества, системных требованиях и характеристиках speculative decoding. Модель распространяется по лицензии MIT.

Arabic250/gemma-4-E4B-it-GGUF — это 4-битная GGUF-версия instruction-tuned модели Gemma 4 E4B, разработанной Google DeepMind и подготовленной в формате GGUF командой Unsloth. Модель предназначена для локального запуска и дообучения, включая работу на ноутбуках и мобильных устройствах, а также для использования в Unsloth Studio и средах на базе llama.cpp. Модель принимает текст и изображения, поддерживает аудио на нативном уровне и генерирует текст. Вариант E4B имеет около 4,5 млрд эффективных параметров, 42 слоя, контекстное окно до 128K токенов и словарь размером 262K токенов. Архитектура использует гибридное внимание: локальные скользящие окна чередуются с глобальным вниманием. Gemma 4 поддерживает более 140 языков, режимы рассуждения, генерацию текста, программирование, мультимодальное понимание, tool calling и агентские сценарии. К сильным сторонам относятся компактный размер, возможность эффективного локального развертывания, длинный контекст, мультимодальность и поддержка структурированных диалогов с системными инструкциями. Ограничением являются возможные потери точности из-за 4-битной квантизации, а также требования к совместимому программному обеспечению и оборудованию; конкретные показатели производительности для данной сборки в README не приведены. Модель распространяется по лицензии Apache 2.0.

GLM-5.3-Flash — мультимодальная языковая модель, размещённая и поддерживаемая AMAImedia в составе платформы автоматизации профессионального мультиязычного дубляжа NOESIS. В README также указано имя основателя AMAImedia Ильи Болотникова. Модель относится к серии GLM-5 и выпущена 27 августа 2026 года. Модель предназначена для задач генерации текста, программирования, работы с агентами, обработки длинного контекста и мультимодальных сценариев с изображениями. Заявлена поддержка английского и китайского языков. GLM-5.3-Flash имеет 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса, что ориентировано на повышение эффективности. Архитектура сочетает разреженное и линейное внимание, Manifold-Constrained Hyper-Connections (mHC), а обучение проводилось на мультимодальном корпусе. Модель можно запускать локально через Transformers, vLLM, SGLang, TokenSpeed и KTransformers; для развёртывания рекомендуются bfloat16 или поддерживаемые фреймворком квантованные варианты. В README указана лицензия MIT. К ограничениям относятся высокая вычислительная требовательность из-за общего размера модели, необходимость уточнять совместимость версий библиотек, требования к видеопамяти, конфигурацию tensor parallelism и фактически поддерживаемую длину контекста. Заявлены контекстные режимы до 131 072 токенов в примере развёртывания, а в отдельных оценках использовались контексты до 300 000 и 1 000 000 токенов, но это не следует считать гарантированной рабочей конфигурацией для всех сценариев.

JiRack Ultra 1B — компактная языковая модель от CMSManhattan для генерации текста и диалогов. Она построена на архитектуре Qwen2, содержит около 1,5 млрд параметров и оптимизирована для инференса на CPU. В карточке заявлены переработанная архитектура с поддержкой тернарных BitNet-признаков, обновлённый токенизатор с тегами маршрутизации, вызова инструментов и робототехники, а также контекст до 131 072 токенов. Доступны веса Safetensors и варианты GGUF с разными уровнями квантования. Модель предназначена для локального запуска на малоресурсном оборудовании, диалоговых сценариев, использования как экспертной модели в RAG-системах и интеграции с агентами и инструментами. Карточка также описывает применение в задачах программирования и робототехники, однако метаданные подтверждают только задачу генерации текста, а заявленные возможности токенизатора не доказывают качество этих специализированных сценариев. В метаданных перечислены 14 языков: английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. Веса опубликованы по лицензии MIT, разрешающей коммерческое использование и распространение. При этом Docker-образ, готовые Ollama-сборки и клиенты интерфейса, согласно карточке, распространяются на отдельных коммерческих условиях.