II.4Отладка, тестирование и качество ПО

Это точная копия весов, токенизатора и конфигурации Llama 3.1 8B Instruct от Meta, размещённая Positron AI как зафиксированный исходный снимок для собственных GPTQ-квантизаций организации. Модель представляет собой плотную авторегрессионную языковую модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов; поддерживает диалоги и генерацию текста, включая интерфейс вызова инструментов. Модель предназначена для инструкционного диалога и генерации текста. Метаданные перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Репозиторий использует формат safetensors и лицензию Llama 3.1. Это неизменённая перепубликация базовой модели, поэтому её возможности и ограничения соответствуют исходной карточке Meta; отдельные оценки качества и дополнительные ограничения в этой карточке не приведены.

LLaMa-3.1-Instruct-13B — языковая модель, созданная сообществом mergekit-community с помощью mergekit из unsloth/Meta-Llama-3.1-8B-Instruct. Применён метод passthrough: в итоговую модель включены указанные диапазоны слоёв исходной модели. Это плотная архитектура Llama для генерации текста и диалогов; размер составляет 12,5 млрд параметров, нативный контекст — до 131 072 токенов. Модель подходит для ответов на вопросы, диалоговых сценариев и генерации текста; метаданные также указывают интерфейс вызова инструментов. В репозитории используются веса safetensors, библиотека — Transformers. В карточке указана лицензия исходной модели Llama 3.1: используйте модель в соответствии с её условиями.

hugging-quants/Meta-Llama-3.1-8B-Instruct-AWQ-INT4 — созданная сообществом квантованная версия Meta-Llama-3.1-8B-Instruct, первоначально разработанной Meta AI. Это генеративная текстовая instruction-tuned модель на 8 млрд параметров для многоязычного диалога, ответов на вопросы и других задач генерации текста. Указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель использует архитектуру Llama 3.1 и формат AWQ INT4: исходные веса FP16 преобразованы с помощью AutoAWQ в 4-битное представление GEMM с zero-point quantization и размером группы 128. Версия предназначена для запуска через Transformers, AutoAWQ или Text Generation Inference; для загрузки контрольной точки требуется около 4 ГиБ VRAM, не считая KV-кэша и CUDA graphs. Квантование снижает требования к памяти, но может влиять на качество по сравнению с исходной FP16-версией. В README максимальный контекст модели не указан. Модель распространяется по лицензии Llama 3.1; для использования необходимо учитывать условия этой лицензии. Это текстовая модель без поддержки изображений или других модальностей, а сведения о конкретных ограничениях качества и результатах бенчмарков для данной квантованной версии не приведены.

Mistral-7B-Instruct-v0.3 — инструкционная языковая модель семейства Mistral, разработанная Mistral AI и преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.16.0. Модель содержит около 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для диалогового взаимодействия, генерации ответов на инструкции, написания и преобразования текста, суммирования и ответов на вопросы. Формат MLX ориентирован на запуск через библиотеку mlx-lm на совместимом оборудовании Apple. Модель распространяется по лицензии Apache-2.0.

Kaoeiri выпустил объединённую модель для генерации текста на основе Mistral-Small-Instruct-2409 и mistral-small-springdragon-qlora. Слияние выполнено методом task arithmetic с помощью mergekit; архитектура — плотная Mistral, модель содержит 22 млрд параметров и работает с контекстом до 131 072 токенов. Репозиторий содержит веса в формате safetensors, для работы указана библиотека Transformers. Модель предназначена для диалогов и генерации текста; метаданные также отмечают интерфейс вызова функций. Она поддерживает текстовый ввод и выдаёт текст. Лицензия в предоставленных данных не указана.

Smoffyy/Qwen3.5-4B-Instruct-Pure-GGUF — это GGUF-квантизированная версия официальной модели Qwen3.5-4B, разработанной командой Qwen. Автор репозитория создал её с помощью официальных инструментов llama.cpp, напрямую преобразовав исходные веса без модификаций и дополнительных настроек. Модель предназначена для локального запуска в приложениях на базе llama.cpp и совместимых инструментах. Модель поддерживает мультимодальные сценарии с текстом и изображениями; для включения возможностей компьютерного зрения требуется отдельный файл mmproj-f16.gguf. Архитектура исходной Qwen3.5 описывается как гибридная и включает Gated Delta Networks и разреженную Mixture-of-Experts. Указана поддержка 201 языка и диалекта. В README приведён пример запуска с контекстом 64K: для квантизации q4_k_m такое использование требует около 7 ГБ памяти GPU. Режим рассуждений можно включать или отключать через параметр enable_thinking в запросе или конфигурацию шаблона чата. К сильным сторонам относятся близость к официальным весам, доступность различных уровней квантизации и возможность локального использования на ограниченном оборудовании. К ограничениям относятся потенциальная потеря качества из-за квантизации, зависимость требований к памяти от выбранного варианта и необходимость дополнительного multimodal-проектора для работы с изображениями. Модель и производные распространяются по лицензии Apache 2.0.

Myric/Qwen3.6-35B-A3B-APEX-GGUF — это квантизированная GGUF-версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для генерации текста и запуска через llama.cpp; доступна в вариантах APEX i-quality и i-compact, включая версии v2 с более точным хранением отдельных коэффициентов состояния. Лицензия — Apache 2.0. Модель использует разреженную MoE-архитектуру с 40 слоями, 256 маршрутизируемыми и одним общим экспертом, гибридом GatedDeltaNet и периодического полноразмерного внимания, а также головкой NextN/MTP. Объём параметров — 35 млрд, из которых около 3 млрд активируются на токен. Квантизация выполнена со специально рассчитанной PyTorch importance matrix, охватывающей все слои и MTP-головку; заявлена высокая близость к эталонной квантизации по perplexity. Доступны текстовый режим и мультимодальный режим с отдельным vision-проектором, однако сам проектор в состав репозитория не входит. Рекомендуемый размер контекста в примере запуска — 32 768 токенов. Сильными сторонами являются MoE-эффективность, сохранение качества при уменьшении размера модели, поддержка tool calling через шаблоны llama.cpp и возможность работы с vision при подключении совместимого проектора. Ограничения связаны с крупным размером файлов: 23,5 ГБ для i-quality и 17,4 ГБ для i-compact; для видеокарт с 16 ГБ требуется размещать маршрутизируемые эксперты на CPU. Для мультимодального запуска нужен отдельный mmproj-файл, а качество и скорость зависят от выбранного уровня квантизации и доступной памяти.

Svenuks/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — мультимодальная версия Qwen3.6-35B-A3B, подготовленная HauhauCS. Это модель типа Mixture of Experts с 35 млрд параметров, из которых около 3 млрд активируются при каждом проходе; используется 256 экспертов, из них 8 выбираются для каждого токена. Архитектура включает 40 слоёв и сочетает линейное внимание с полным softmax-вниманием в соотношении 3:1. Модель поддерживает текст, изображения и видео, языки English, 中文 и другие языки, заявленные как multilingual, а её нативный контекст составляет 262K токенов. Модель предназначена для диалогов, генерации и анализа текста, рассуждений, программирования, а также мультимодальных сценариев с обработкой изображений и видео. Вариант Aggressive отличается усиленным снятием встроенных отказов: согласно README, он генерирует ответы без отказов, хотя иногда может добавлять короткие дисклеймеры. Для работы с изображениями требуется отдельный файл mmproj, а для llama.cpp рекомендуется использовать флаг --jinja и контекст не менее 128K токенов для сохранения возможностей рассуждения. Модель распространяется в формате GGUF с вариантами квантования от IQ2_M и Q2_K_P до Q8_K_P; доступны файлы размером примерно от 11 до 44 ГБ. Квантования K_P оптимизированы с использованием importance matrix и анализа конкретной модели, что должно улучшать сохранение качества при умеренном увеличении размера файла. README не приводит результатов независимых тестов, поэтому фактическое качество и производительность зависят от квантования и оборудования. Отсутствие отказов может быть преимуществом для исследовательских и творческих задач, но одновременно означает ослабление защитных ограничений и повышенные риски небезопасного использования. Указанная лицензия — Apache 2.0.

RentedNoodle/Qwen3.8-27B-GSQ-RCO-IQ3_XXS-Uncensored — это квантизированная GGUF-версия модели Qwen3.8-27B, созданная на основе abliterated-чекпойнта huihui-ai/Huihui-Qwen3.8-27B-abliterated. Это не новая дообученная модель: снижение выраженности отказов унаследовано от Huihui, а квантизация выполнена по методологии GSQ/RCO, разработанной ISTA-DASLab. Модель ориентирована на генерацию текста, диалоги, рассуждения, программирование, извлечение информации, работу с инструментами и мультимодальные сценарии, заявленные для базовой Qwen3.8. В README явно указаны английский и китайский языки, а также поддержка long-context и vision; конкретные характеристики мультимодального ввода для этого файла отдельно не подтверждены. Модель использует смешанную 3-битную квантизацию IQ3_XXS с размером файла около 9,75 GiB и примерно 27,3 млрд параметров. Сохранена MTP-head для speculative decoding, а 96 чувствительных тензоров оставлены в BF16. Заявлен контекст до 196K токенов с KV-кэшем q4_0 на видеокарте с 16 ГБ памяти, однако полноценная точность извлечения на всём окне 196K ещё не подтверждена: основные проверки проводились при 32K и 64K. Есть шаблон froggeric-qwen3.8-tool-use.jinja для вызова инструментов. Сильные стороны модели — возможность размещения большого контекста на одной 16-ГБ GPU, поддержка MTP и заметное ускорение генерации при совместимом llama.cpp, а также хорошие результаты в тестах извлечения из контекста, базового tool calling, связности диалога и смешанных задач. Ограничения связаны с потерями качества из-за квантизации и abliteration: для конкретного файла GPQA-Diamond составил 60,6% без рассуждений и 61,6% с рассуждениями, а расширенный тест вызова инструментов дал 9/14. Снижение отказов не гарантирует универсального соблюдения запросов, поэтому ответственность за безопасное и соответствующее требованиям использование несёт развёртывающая сторона. Модель распространяется по лицензии Apache-2.0.

nakedlittlezombie/Qwen3-VL-8B-Thinking-heretic — мультимодальная модель класса image-text-to-text из семейства Qwen3-VL, разработанная командой Qwen; данный репозиторий содержит веса версии Qwen3-VL-8B-Thinking. В README не приведено отдельное описание изменений варианта «heretic» относительно базовой модели. Модель предназначена для совместного понимания и генерации текста по изображениям и видео, визуального восприятия и рассуждений, OCR, анализа документов, STEM- и математических задач, пространственного анализа, генерации Draw.io/HTML/CSS/JS по визуальным материалам, а также взаимодействия с графическими интерфейсами и инструментами. Она может использоваться в сценариях визуальных агентов, анализа длительных видео и многошагового мультимодального вывода. Указан размер 8B параметров и Thinking-режим с усиленным рассуждением; архитектура заявлена как dense, а модель поддерживает текстовые, графические и видеовходы. Среди архитектурных особенностей названы Interleaved-MRoPE для временных и пространственных измерений, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками. Контекст составляет 256K токенов с возможностью расширения до 1M. OCR поддерживает 32 языка, однако полный перечень языков не указан. Сильными сторонами являются визуальное и пространственное рассуждение, обработка длинного контекста, видео и документов, а также агентные сценарии. Ограничения и точные показатели производительности в текстовом виде не приведены. Модель распространяется по лицензии Apache-2.0.

ZEUS-8B-V26 — объединённая языковая модель на архитектуре Llama 3.1, созданная с помощью mergekit методом DARE TIES. В объединение вошли instruct- и reasoning-модели, включая HuatuoGPT-o1, Skywork-o1, Llama-3.1-Storm, SauerkrautLM и другие; базой в README названа unsloth/Meta-Llama-3.1-8B-Instruct. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов; интерфейс также поддерживает вызов инструментов. Метаданные указывают библиотеку Transformers и формат safetensors. В README приведены результаты Open LLM Leaderboard, включая 67,08% на IFEval и 32,25% на BBH; эти показатели относятся к указанной оценке и сами по себе не гарантируют качество в других сценариях. Данные о лицензии и поддерживаемых языках в предоставленных источниках отсутствуют. В README также не описаны специальные ограничения на применение.

google/gemma-3n-E2B-it-litert-lm — компактная instruction-tuned мультимодальная модель семейства Gemma, разработанная Google DeepMind на основе технологий, использованных при создании Gemini. Модель предназначена для эффективного запуска на устройствах с ограниченными ресурсами, включая смартфоны, ноутбуки, браузеры и собственную облачную инфраструктуру, с использованием LiteRT-LM. Модель поддерживает текстовые запросы и документы, изображения, аудио и видео на входе, формируя текстовые ответы. Она подходит для вопросов и ответов, суммаризации, рассуждений, анализа изображений, транскрибации и других задач понимания контента. Заявлена поддержка данных более чем на 140 разговорных языках. Контекст составляет до 32K токенов, максимальная длина вывода — до 32K токенов за вычетом входного запроса; изображения кодируются в 256 токенов, аудио — со скоростью 6,25 токена в секунду. Gemma 3n использует архитектуру Matformer и технологию выборочной активации параметров, благодаря чему E2B имеет эффективный размер около 2B параметров при меньших требованиях к ресурсам, чем модели с сопоставимым полным размером. В репозитории доступна квантизованная версия с весами int4 и активациями float. Это обеспечивает высокую скорость инференса на совместимом CPU, GPU и NPU, однако фактическая производительность зависит от устройства, аппаратного ускорения и настроек выполнения. Модель ориентирована на генерацию текста и не предназначена для выдачи мультимодальных данных. Использование регулируется лицензией Gemma и условиями Google; доступ к модели на Hugging Face требует принятия соответствующих условий. Авторы — Google DeepMind.

unsloth/gemma-3n-E2B-it-unsloth-bnb-4bit — это квантизированная 4-битная instruction-tuned версия модели Gemma 3n E2B, подготовленная Unsloth на базе google/gemma-3n-E2B-it. Исходную модель разработала Google DeepMind. Gemma создана как семейство компактных открытых моделей для эффективного запуска, в том числе на устройствах с ограниченными ресурсами. Модель предназначена для диалогов, ответов на вопросы, обработки и суммаризации документов и других задач генерации текста. Семейство Gemma 3n поддерживает мультимодальный ввод текста, изображений, видео и аудио с генерацией текста, однако в данном README для этой версии отдельно указано, что в текущей конфигурации поддерживается только текст. Максимальный контекст составляет 32K токенов; заявленная языковая поддержка включает английский, а обучение проводилось на данных более чем на 140 разговорных языках. Ключевая особенность Gemma 3n — технология выборочной активации параметров, обеспечивающая эффективный размер около 2B параметров при меньших требованиях к ресурсам. Формат Unsloth bnb 4bit снижает требования к памяти, но может сопровождаться потерей точности по сравнению с полноточной версией. Для корректной работы рекомендуется использовать chat template Gemma 3n и параметры temperature 1.0, top_k 64 и top_p 0.95. Модель распространяется по лицензии Gemma; условия использования определяются официальными Terms of Use Google.

NobodyWho/Google_Gemma4-E2B-GGUF — это GGUF-квантизация инструкционно настроенной мультимодальной модели Gemma 4 E2B от Google DeepMind, переопубликованная для библиотеки NobodyWho. Квантизации BF16, Q8_0 и Q4_K_M предоставлены unsloth; базовая модель — google/gemma-4-E2B-it. Модель предназначена для диалоговой генерации текста, следования инструкциям, рассуждений и нативного tool calling с грамматически ограниченным выводом. Она поддерживает анализ изображений через дополнительную проекционную модель mmproj-BF16.gguf, работает с текстом и изображениями, поддерживает более 140 языков и рассчитана на контекст до 131 072 токенов. Эффективный размер составляет примерно 2,3 млрд параметров, что делает модель ориентированной на локальное и on-device использование. Для всех перечисленных вариантов квантизации заявлена успешная проверка tool calling: 14 из 14 тестов. К сильным сторонам относятся мультимодальность, длинный контекст, многоязычность, поддержка вызова инструментов и доступность компактной Q4_K_M-версии. Для работы с изображениями требуется отдельная проекционная модель, а характеристики качества могут зависеть от выбранной квантизации; конкретные результаты бенчмарков в README не приведены. Модель распространяется по лицензии Apache 2.0.

Granite-3.3-8B-Base — базовая языковая модель IBM Granite Team для генерации и преобразования текста. Это плотный decoder-only трансформер на 8,2 млрд параметров с контекстом до 131 072 токенов. Архитектура использует GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги; модель распространяется в формате safetensors и по лицензии Apache 2.0. Модель предназначена для продолжения текста и задач с длинным контекстом: суммаризации, классификации, извлечения информации и ответов на вопросы. Поддержка Fill-in-the-Middle позволяет генерировать код или текст с учётом заданного префикса и суффикса. README указывает поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель не проходила safety alignment, поэтому может выдавать проблемный контент; возможны предвзятость, дезинформация и дословное воспроизведение фрагментов обучающих данных. Для практических задач, требующих специализированного поведения, IBM рекомендует использовать базовую модель как основу для дообучения.

InternLM2.5-20B — плотная авторегрессионная языковая модель семейства InternLM2.5, разработанная командой InternLM. Модель содержит 19,3 млрд параметров и предназначена для генерации текста и диалоговых сценариев, включая рассуждения и работу с длинными документами. В метаданных указан контекст до 262 144 токенов; карточка семейства также сообщает о проверках на контекстах до 1 млн токенов, но это значение не подтверждено для данного репозитория метаданными. Разработчик сообщает об улучшении результатов рассуждений относительно InternLM2 и приводит оценки на MMLU, CMMLU и BBH. Карточка не перечисляет конкретные поддерживаемые языки, поэтому модель можно описать как языковую без выделения основного языка. Она может генерировать предвзятый, дискриминационный или иной вредный текст. Код распространяется по Apache-2.0; для весов README указывает открытый доступ для академических исследований и необходимость запросить бесплатное разрешение на коммерческое использование.

SteelStorage выпустила слитую диалоговую языковую модель на архитектуре Llama с 69,5 млрд параметров. Веса объединены методом Model Stock с помощью mergekit: базой послужила NaniDAO/Llama-3.3-70B-Instruct-ablated, также включены abacusai/Dracarys2-Llama-3.1-70B-Instruct и nbeerbower/Llama-3.1-Nemotron-lorablated-70B. Модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате; метаданные также указывают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Данные не уточняют поддерживаемые естественные языки, лицензию или ограничения по использованию, поэтому их нельзя определить по доступной карточке.

deltanym/llama-3.1-120b-instruct — текстовая разговорная модель, созданная методом слияния через mergekit на основе meta-llama/Llama-3.1-70B-Instruct. В карточке указана конфигурация passthrough; модель использует плотную архитектуру семейства Llama и формат safetensors. Метаданные указывают 120,8 млрд параметров и контекстное окно до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения, включая сценарии с интерфейсом вызова инструментов. В основе лежит многоязычная instruct-модель Meta; README описывает её как воспроизведение Meta-Llama-3-120B-Instruct с использованием Llama 3.1 70B вместо Llama 3. Лицензия в предоставленных данных не указана.

NousResearch/Llama-3.2-1B — текстовая языковая модель семейства Llama 3.2, разработанная Meta и опубликованная NousResearch. Это авторегрессионный трансформер с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и распространяется в формате Safetensors через Transformers. Модель предназначена для генерации текста и может служить основой для диалоговых помощников, поиска знаний и суммаризации, а также для мобильных приложений и систем с ограниченными ресурсами. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. README также указывает на поддержку генерации кода. Компактный размер и длинный контекст позволяют использовать модель в ресурсоограниченных средах. Как небольшая модель, она может уступать более крупным моделям в качестве ответов и безопасности; для конкретного применения рекомендуется оценивать результаты и предусматривать защитные меры. Использование регулируется лицензией Llama 3.2 Community License — специальным соглашением, допускающим коммерческое и исследовательское применение при соблюдении условий лицензии и Acceptable Use Policy.

LongCat-Flash-Thinking-2601 — разработанная Meituan большая языковая модель для рассуждений и агентных сценариев. В карточке описана обновлённая версия семейства LongCat-Flash-Thinking с архитектурой Mixture-of-Experts и 560 млрд общих параметров; метаданные Hugging Face указывают 17,7 млрд параметров. Модель обучали на многошаговом использовании инструментов и поиске, включая подкрепляющее обучение в разнообразных средах с шумом. Модель предназначена для диалогов, сложных рассуждений, вызова инструментов, агентного поиска и задач, где нужно координировать несколько инструментов. Шаблон чата поддерживает чередование рассуждений и вызовов инструментов, а режим Heavy Thinking предназначен для особенно трудных задач. Метаданные указывают контекст до 983 040 токенов и формат safetensors. Модель принимает текст и генерирует текст, в том числе ответы в диалоге и структурированные вызовы инструментов. Карточка отмечает сильные результаты на агентных задачах и обобщение на новых сценариях, однако модель не оценивалась полноценно для всех прикладных задач. Лицензия — MIT.

EnlistedGhost/Ministral-3-8B-Reasoning-2512-GGUF — это конвертированная и квантованная версия Ministral-3-8B-Reasoning-2512-BF16, первоначально разработанной MistralAI. Модель распространяется в формате GGUF и предназначена для запуска через Ollama и llama.cpp. Модель ориентирована на диалоговые задачи, рассуждения и работу с текстом и изображениями. Она поддерживает мультимодальный сценарий image-text-to-text, включая чтение изображений, а также многоязычную работу с английским, французским, испанским, немецким, итальянским, португальским, нидерландским, китайским, японским, корейским, арабским и русским языками. Заявлен размер 8B параметров; точная длина контекста базовой модели не указана, но шаблон чата предусматривает скользящее окно примерно из 46 взаимодействий. К сильным сторонам относятся совместимость с Ollama и llama.cpp, наличие vision-проекторов для мультимодальной обработки и несколько вариантов квантования, позволяющих выбирать компромисс между качеством и требованиями к ресурсам. Ограничением является отмеченная автором проблема с шаблоном чата: при загрузке с Hugging Face он может некорректно активировать теги рассуждений. Модель выпущена под лицензией Apache-2.0.

MiroThinker-1.7-mini-GGUF — GGUF-квантизированная версия языковой модели MiroThinker-1.7-mini, разработанной командой MiroMind AI. Модель создана для агентных сценариев, глубокого исследования, сложных вопросов и многошагового анализа с использованием инструментов. Она ориентирована на выполнение длинных цепочек рассуждений и поддерживает до 300 вызовов инструментов в рамках одной задачи. Модель содержит 30 млрд параметров и имеет контекстное окно до 256 тыс. токенов. Указана поддержка английского языка; модальность — текстовая. В качестве базовой модели обозначена Qwen/Qwen3-235B-A22B-Thinking-2507. GGUF-версия была создана с использованием llama.cpp. К сильным сторонам относятся большой контекст, многошаговое рассуждение и ориентация на исследовательские агентные процессы. Ограничения включают зависимость качества от корректной интеграции инструментов и значительные требования к вычислительным ресурсам; конкретный вариант квантования в README не указан. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9b-Opus-Openclaw-Distilled-i1-GGUF — это квантизированная в формате GGUF версия модели Qwen3.5-9b-Opus-Openclaw-Distilled. Исходную модель разработал ykarout, а квантизацию выполнил mradermacher. Модель основана на Qwen3.5 и имеет размер около 9 млрд параметров. Модель предназначена для генерации текста, диалоговых сценариев, reasoning-задач, агентских приложений и использования инструментов. В метаданных заявлены поддержка vision, conversational- и agentic-сценариев, а также интеграция с Transformers и text-generation-inference. Указаны языки: английский, арабский, испанский, латынь, турецкий, немецкий, чешский и китайский. Контекстное окно и точная архитектура в README не указаны. Основное преимущество — наличие набора GGUF-квантизаций разных размеров, включая imatrix-вариант, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. При этом низкобитные варианты могут заметно снижать качество; README отдельно характеризует некоторые из них как предназначенные для крайних случаев или имеющие низкое качество. Для обработки изображений могут потребоваться дополнительные mmproj-файлы из связанного репозитория. Модель распространяется по лицензии Apache-2.0.

mmangkad/Qwen3.6-35B-A3B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.6-35B-A3B, разработанной Alibaba и подготовленной с использованием NVIDIA Model Optimizer. Модель предназначена для генерации текста и может применяться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе ИИ. Модель построена на архитектуре Transformers и имеет 35 млрд параметров, из которых 3 млрд активируются при работе. Она принимает и генерирует текст, поддерживает контекст длиной до 262 тысяч токенов. Веса и активации линейных операторов в MoE-компонентах transformer-блоков квантизированы в формат NVFP4, что ориентировано на эффективный инференс на GPU NVIDIA. Указана совместимость с NVIDIA Blackwell, Linux и SGLang; тестирование проводилось на B300. Данные о поддерживаемых языках и полном составе обучающего набора не раскрыты. Сильные стороны модели — предварительная NVFP4-квантизация, большой контекст и оптимизация для развертывания на совместимом оборудовании NVIDIA. Для запуска требуется SGLang, по README рекомендуется актуальная версия из основной ветки. Модель может воспроизводить токсичные формулировки и общественные предубеждения из исходных данных, а также генерировать неточные, неполные или нерелевантные ответы. Распространение и использование разрешены по лицензии Apache 2.0 с учетом требований и ограничений базовой модели.

TheDrainFlorist/Qwen3.6-35B-A3B-VQ-4.6bpw — векторно-квантизированная версия модели Qwen3.6-35B-A3B от Qwen, адаптированная для Apple Silicon и экосистемы MLX. Модель предназначена для генерации текста и работы с изображениями; текстовый режим поддерживается через mlx-lm, а мультимодальный — через mlx-vlm. В метаданных указан английский язык. Архитектура включает MoE с 35 млрд параметров и 256 экспертами; точный размер контекста в README не указан. Размер сборки составляет около 18,7 GiB вместе с vision tower, поэтому она рассчитана на запуск на Mac с 32 ГБ памяти. По приведённым измерениям, на корпусах WikiText и кода перплексия близка к исходной версии bf16: 0,991x и 1,004x соответственно, при этом сборка значительно компактнее bf16 и показывает лучшие результаты, чем распространённая 4-битная версия. К ограничениям относятся зависимость от поддержки ключа model_file в загрузчике и необходимость mlx-vlm версии не ниже 0.6.16 для изображений; качество и показатели могут зависеть от корпуса и конкретного сценария. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется использовать актуальные версии mlx-lm и mlx-vlm; README также указывает совместимость с exo. Это квантизированная сборка, поэтому показатели совпадения токенов с bf16 ниже, чем у 8-битной версии, несмотря на близкую перплексию.

lyf/Qwen3.8-27B-Heretic-ARA-NVFP4-MTP-VL — мультимодальная версия модели Qwen3.8-27B-Heretic-ARA, подготовленная lyf и распространяемая как квантизированный релиз на базе heretic-org/Qwen3.8-27B-heretic-ara. Модель предназначена для генерации текста, рассуждений, вызова инструментов, а также анализа изображений и видео через vision/video tower. Поддерживаются английский и китайский языки. Основные веса преобразованы в формат NVFP4 W4A4 с использованием compressed-tensors, при этом vision/video tower и 15 нативных BF16-тензоров MTP сохранены. MTP поддерживает speculative decoding с рекомендуемым числом спекулятивных токенов 3. Релиз ориентирован на запуск в vLLM с CUDA 13 на GPU Blackwell, в частности RTX 5090. Для текстового режима заявлена практическая длина контекста до 192K токенов и агрессивная конфигурация до 256K; мультимодальный режим требует существенно больше видеопамяти и обычно ограничивается диапазоном 32K–96K. Сильными сторонами являются сочетание низкой разрядности, мультимодальности, длинного контекста и ускорения генерации через MTP. Ограничения включают зависимость от совместимого стека vLLM/CUDA и GPU Blackwell, высокие требования к видеопамяти, рекомендованную однопоточную конфигурацию и необходимость самостоятельно проверять лимиты изображений, видео и кэша энкодера перед эксплуатацией. Модель распространяется по лицензии Apache-2.0.

Avesed/Qwen3.8-27B-INT8-W8A8 — квантизированная версия Qwen/Qwen3.8-27B, разработанная Avesed. Это плотная гибридная vision-language-модель с линейным механизмом внимания GatedDeltaNet, периодическими слоями полного внимания, встроенной vision-башней и MTP-головой для speculative decoding. Модель поддерживает английский и китайский языки, а также обработку изображений и текста; точный размер контекста в README не указан. Модель предназначена для генерации и анализа текста, рассуждений, решения математических задач, перевода, двуязычных сценариев и задач с изображениями. Квантизация INT8 применяется к весам и активациям по схеме W8A8: используются симметричные INT8-веса и динамические INT8-активации, тогда как наиболее чувствительные к качеству компоненты, включая embeddings, lm_head, vision tower и MTP head, сохранены в bf16. Объём модели составляет около 30 ГБ; для запуска рекомендуется две видеокарты по 24 ГБ с tensor parallelism. Сильная сторона сборки — высокая скорость prefill: на двух RTX 3090 зафиксировано около 4408 токенов/с против 2276 токенов/с у INT4-сборки, при этом доступно speculative decoding через MTP. Скорость decode ниже, около 73 токенов/с, поскольку INT8 требует больше пропускной способности памяти. На GSM8K модель показала 96,8% на выборке из 250 задач; также проверены англо-китайская генерация и перевод, работа vision-пути и reasoning-параметров. MMLU-Pro не тестировалась. Модель распространяется по лицензии Apache-2.0 и предназначена для запуска через vLLM.

JANGQ-AI подготовила JANG_4S — квантованный 4-битный вариант Qwen/Qwen3.8-Flash-Next для запуска на компьютерах Apple Silicon через MLX и vMLX. В основе лежит экспериментальная архитектура Qwen4: разреженная MoE-модель на 125 млрд параметров с 6 млрд активных, большой хешированной n-граммной таблицей эмбеддингов, гибридными слоями Gated DeltaNet и Qwen Sparse Attention, а также башнями для обработки изображений и видео. В этой сборке сохранена голова многотокенного предсказания; таблица эмбеддингов может обслуживаться с SSD при поддержке рантайма. Модель предназначена для диалога, рассуждений, анализа изображений и видео и агентных сценариев с вызовом инструментов. Она принимает текст, изображения и видео, а контекст составляет 262 144 токена с возможностью расширения до 1 млн через YaRN. По заявлению карточки, квантование оценивали сравнением с bf16 на 5 931 отложенной позиции; качество выражено метриками KL и совпадения предсказаний. Для работы требуются значительные ресурсы: файлы занимают около 71,8 ГиБ, заявленный резидентный объём при обслуживании таблицы с SSD — около 53 ГиБ. Вызовы инструментов используют диалект Qwen XML, поэтому рантайм должен поддерживать соответствующий парсер; карточка предупреждает о несовместимости с Hermes-only парсерами. Лицензия указана как other, её конкретные условия в предоставленных данных не раскрыты.

airoboros-l2-7b-2.2.1 — экспериментальная инструкция-настроенная языковая модель jondurbin на архитектуре Llama. Это обновлённая версия airoboros-l2-7b-2.2: в обучении использованы преимущественно синтетические данные набора airoboros-2.2.1, обновлены примеры написания текстов, добавлены более длинные контекстные блоки и удалены данные для ролевых сценариев. Модель содержит 6,6 млрд параметров, работает с контекстом до 4096 токенов и распространяется в формате PyTorch по лицензии Llama 2. Модель предназначена для следования инструкциям, ответов на вопросы по предоставленному контексту, суммаризации, написания текстов и кода. Также она может формировать JSON- или YAML-подобные аргументы и планы для сценариев вызова функций, но выполнение этих планов требует отдельной реализации. Карточка отмечает склонность к инструкциям вместо непринуждённого общения и ролевой игры. Для диалога используется формат с маркерами USER и ASSISTANT; для вопросов по источникам автор рекомендует явные разделители контекста и инструкции не выдумывать ответ при нехватке сведений. Модель может галлюцинировать, поэтому её ответы и планы следует проверять; для предотвращения продолжения от лица пользователя нужно настроить критерии остановки генерации.

DeepSeek-V2.5-1210-FP8 — квантованная версия языковой модели DeepSeek-V2.5-1210, разработанная Neural Magic. Модель принимает текст и генерирует текст, предназначена для задач генерации и обработки естественного языка, включая развертывание чат-сервисов и других приложений на базе causal language model. В README указано, что модель доступна для инференса через библиотеку Transformers и оптимизирована для vLLM версии 0.5.2 и выше. Модель использует архитектуру DeepSeek-V2.5-1210 и формат квантования FP8 для весов и активаций. Квантованию подвергаются линейные операторы в блоках трансформера, за исключением маршрутизаторов MLP. Переход с 16 на 8 бит примерно на 50% уменьшает размер модели на диске и требования к памяти GPU. Указанный максимальный размер контекста для примера развертывания составляет 4096 токенов; язык в карточке заявлен как английский. На OpenLLM Leaderboard V1 модель получила средний результат 77,8, практически совпавший с результатом неквантованной версии 77,82. Сильными сторонами модели являются снижение требований к дисковой и GPU-памяти при сохранении близкой к исходной результативности, а также поддержка эффективного инференса и OpenAI-совместимой подачи через vLLM. Ограничения включают зависимость от совместимого стека vLLM, необходимость использования tensor parallelism для конфигурации из примера и отсутствие в README подробных сведений о числе параметров, полном списке языков и характеристиках исходной архитектуры. Модель распространяется по лицензии DeepSeek; точные условия указаны в файле лицензии по ссылке, приведенной в карточке.