I.11Классификация, ранжирование и сопоставление

OndeviceAI-T5-v1 — модель для генерации и преобразования текста, разработанная как дообученная версия paust/pko-t5-large. Она построена на архитектуре T5 с 403,9 млн параметров и предназначена для задач формата text-to-text. Модель сохраняется в формате safetensors и распространяется по лицензии CC BY 4.0. Карточка не описывает конкретную прикладную задачу, языковые возможности или результаты оценки качества.

mlx-community/openai-privacy-filter-4bit — конверсия модели openai/privacy-filter в формат MLX с 4-битным представлением; карточка указывает mlx-embeddings версии 0.1.1. Базовая модель — двунаправленный разреженный MoE-классификатор токенов, который размечает персональные данные в тексте BIOES-метками по восьми категориям: имена людей, адреса электронной почты, телефоны, URL, адреса, даты, номера счетов и секреты. Модель предназначена для обнаружения и последующей фильтрации или маскирования персональных данных, в том числе локально на устройствах Apple с MLX. Она содержит 145,4 млн параметров по метаданным; README указывает 1,5 млрд параметров и 50 млн активных параметров у исходной базовой модели. Контекст составляет до 131 072 токенов. Лицензия — Apache-2.0. Карточка не описывает точность на разных языках или условия оценки, поэтому качество распознавания вне перечисленных типов данных не следует предполагать.

Ornith-1.5-35B-A3B-GPTQ-Int4-sym-G128-MTP-BF16-MixedCal-v2 — неофициальная локальная GPTQ-квантизация модели ornith-ai/Ornith-1.5-35B-A3B, подготовленная SergiioB для запуска на Intel Arc Pro B70 с использованием vLLM XPU. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений; доступен также режим только языковой модели. Поддерживаемые языки в README не указаны. Это MoE-модель с квантизацией GPTQ симметричного INT4 по группам 128. Квантизированы проекции маршрутизируемых экспертов, тогда как attention, маршрутизатор, shared experts, embeddings, lm_head, MTP-компоненты и vision tower сохранены в BF16. Артефакт содержит один MTP-слой для speculative decoding. В примерах конфигурации указан контекст 16 384 токена, а для мультимодального режима проверен лимит 131 072 токена; более длинные режимы требуют дополнительной настройки памяти. Сильные стороны модели — существенное уменьшение размера до примерно 24,45 ГБ, совместимость с Intel Arc Pro B70 и поддержка MTP1, которая в приведённых измерениях повышала скорость генерации по сравнению с режимом без speculative decoding. Ограничения включают зависимость от конкретного стека vLLM XPU, аппаратных и конфигурационных параметров, необходимость оставлять vision tower и MTP в BF16, а также отсутствие независимого воспроизведения измерений и заявленных task-suite оценок качества. MTP4 в приведённом тесте оказался медленнее режима без speculative decoding. Модель распространяется по лицензии Apache-2.0.

Ornith-1.5-397B-GGUF — квантованная версия модели Ornith-1.5-397B, разработанной ornith-ai и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель содержит 397 млрд параметров и предназначена для генерации текста, а также работы с изображениями при использовании дополнительного файла mmproj. Модель поддерживает текстовые и визуальные входные данные, однако сведения о языках, длине контекста и внутренней архитектуре в предоставленных данных отсутствуют. Квантованные варианты доступны с разным балансом качества и требований к памяти: рекомендуемым универсальным вариантом назван Q4_K_M размером 241,81 ГБ, а варианты Q5 и Q6 обеспечивают более высокое качество при значительно большем размере. Версии Q2 и Q3 экономят память, но характеризуются более низким качеством. Преимуществами являются очень крупный размер модели, поддержка мультимодального ввода, использование imatrix-квантизации и совместимость с экосистемой llama.cpp. Ограничения включают крайне высокие требования к оперативной памяти или памяти GPU, отсутствие speculative decoding и зависимость работы с изображениями от отдельного mmproj-файла. Модель распространяется по лицензии MIT.

Pritesh-2711/piibench-deberta-base — модель PII-детекции на базе DeBERTa-v3-base, выпущенная как итоговая модель проекта PIIBench. Это дообученный классификатор токенов на архитектуре DeBERTa-v2 с 211,6 млн параметров; он размечает фрагменты текста, содержащие персональные и другие чувствительные данные. Модель обучена на подготовленных разделах многоисточникового бенчмарка PIIBench и рассчитана на контекст до 512 токенов. Модель предназначена для поиска PII в текстовых записях и оценки текста по типам сущностей. В README сообщается F1 0,6455 на полном тестовом наборе из 100 002 записей с 82 типами сущностей; полнота составила 0,6645, точность — 0,6277. Эти результаты относятся к указанному экспериментальному варианту набора и не гарантируют качество на других данных. Репозиторий выпущен под лицензией `other`; конкретные условия использования следует проверять в файлах лицензии модели.

PiVoT-10.7B-Mistral-v0.2-RP-GGUF — квантизированная версия языковой модели Pivot 10.7B Mistral V0.2 RP, разработанной Jeonghwan Park и преобразованной в формат GGUF пользователем TheBloke. Модель относится к семейству Mistral, предназначена для генерации текста и поддерживает английский язык. Модель имеет размер 10,7 млрд параметров и распространяется в вариантах GGUF с квантизацией от 2 до 8 бит, что позволяет запускать её локально с использованием CPU и GPU. Для взаимодействия рекомендуется шаблон Mistral «[INST] {prompt} [/INST]». Файлы совместимы с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Сильной стороной модели является возможность локального запуска на различном оборудовании благодаря нескольким уровням квантизации. При этом README не содержит данных о размере контекстного окна, результатах тестирования, качестве по отдельным задачам, мультимодальности или поддержке языков помимо английского. Квантизация может влиять на качество генерации по сравнению с исходной версией в формате FP16. Модель распространяется по лицензии CC BY-SA 4.0.

Карточка модели perplexity-ai/pplx-pii-masking-vllm на Hugging Face совпадает с карточкой perplexity-ai/pplx-pii-masking-vllm-tmp, поэтому описание составлено по ней. Это преобразованная для обслуживания через vLLM версия модели Perplexity AI pplx-pii-masking. Она использует плотную архитектуру Qwen3ForTokenClassification с 507,9 млн параметров и принимает текст, присваивая токенам BIOES-метки для обнаружения имён людей, адресов электронной почты и телефонов, адресов, URL, дат, номеров счетов, секретов и других персональных данных. Дополнительный выход оценивает чувствительность последовательности. Модель поддерживает английский и демонстрирует работу на немецком; контекст по метаданным — 32 768 токенов. Веса перенесены без переобучения и квантизации: изменены формат упаковки и структура голов для совместимости с vLLM. Проверки в карточке показывают совпадение меток с исходной моделью на приведённых примерах. Для декодирования меток и оценки чувствительности нужны сырые логиты без активации. Токенизатор обрезает входы длиннее 4096 токенов, поэтому длинный текст следует обрабатывать частями; границы найденных фрагментов могут не точно совпадать с границами символов, а оценку чувствительности рекомендуется калибровать перед использованием как порога. У репозитория указана лицензия other; карточка сообщает, что модель приватна и ожидает синхронизации с официальным выпуском.

Prima-Pastacles-7b — объединённая языковая модель семейства Mistral, созданная авторами репозитория Nitral-Archive методом SLERP из Locutusque/Hercules-2.5-Mistral-7B и Test157t/Pasta-PrimaMaid-7b. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; опубликованные веса представлены в формате safetensors, тип точности в конфигурации слияния — bfloat16. Контекст составляет до 8192 токенов. Модель предназначена для генерации текста и может использоваться в сценариях общения и продолжения текста. README приводит результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Модель создана с помощью mergekit; лицензия указана как other, поэтому условия использования следует сверять с карточкой модели и лицензиями исходных моделей.

PULI-LlumiX-32K instruct — дообученная для выполнения инструкций версия NYTK/PULI-LlumiX-32K, опубликованная пользователем ariel-ml. Это плотная авторегрессионная языковая модель семейства LLaMA-2 примерно на 6,6 млрд параметров. Веса доступны в формате safetensors с точностью float16; модель принимает диалог в шаблоне ChatML и поддерживает контекст до 32 768 токенов. Модель дообучена на наборе boapps/szurkemarha: по README, обучение включало около 30 тысяч инструкций и три эпохи с LoRA. Она предназначена для диалоговых ответов, выполнения текстовых инструкций и генерации текста на венгерском и английском языках, в том числе с длинным контекстом. Указана лицензия Llama 2; использование регулируется её условиями. В карточке нет результатов бенчмарков, поэтому качество для конкретных задач не подтверждено.

RedHatAI/Qwen2-0.5B-Instruct-FP8 — это квантованная FP8-версия языковой модели Qwen2-0.5B-Instruct, разработанная Neural Magic. Модель принимает и генерирует текст и предназначена для диалоговых сценариев в формате ассистента, включая коммерческое и исследовательское использование на английском языке. Модель основана на архитектуре Qwen2 и использует FP8-квантизацию весов и активаций линейных операторов в блоках трансформера. Квантизация снижает число битов на параметр с 16 до 8, что примерно вдвое уменьшает требования к дисковому пространству и памяти GPU. Модель рассчитана на эффективный инференс с vLLM версии 0.5.0 и выше; заявленная максимальная длина контекста в конфигурации оценки составляет 4096 токенов. Это текстовая модель без поддержки других модальностей. По результатам OpenLLM benchmark средний балл составляет 42,94 против 42,96 у неквантованной версии, что указывает на близкое сохранение качества при меньших требованиях к ресурсам. Ограничениями являются небольшой размер модели, ориентация на английский язык и не предназначенное для использования применение на других языках, а также необходимость учитывать возможные ограничения качества, характерные для малых языковых моделей. Модель распространяется по лицензии Apache-2.0.

joaHofmann/Qwen2.5-0.5B-DPO — дообученная с помощью TRL модель Qwen/Qwen2.5-0.5B-Instruct. Это плотная авторегрессионная языковая модель семейства Qwen2, содержащая 494 млн параметров и предназначенная для диалогов и генерации текста по запросу. Её можно использовать для ответов на вопросы и выполнения инструкций в приложениях на базе Transformers. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В карточке не приведены результаты оценивания качества или сведения о поддерживаемых естественных языках. Лицензия в предоставленных данных не указана.

Qwen2.5-3B-Instruct-Sheldon-SFT-v2-merged-GGUF — набор GGUF-квантизаций базовой модели zachchxn/Qwen2.5-3B-Instruct-Sheldon-SFT-v2-merged, опубликованный пользователем tinyopsec. Модель предназначена для генерации текста и запуска в локальных средах, поддерживающих GGUF, включая llama.cpp, llama-cpp-python, LM Studio и Ollama. Указан английский язык. Модель относится к семейству Qwen2.5, имеет около 3 млрд параметров и представляет собой instruct-модель, дополнительно обученную методом supervised fine-tuning (SFT). Доступны варианты с точностью от 16 до 2 бит и размером примерно от 6,2 до 1,1 ГБ. Вариант Q4_K_M рекомендуется как компромисс между качеством и размером; варианты с меньшей разрядностью подходят для устройств с ограниченными ресурсами, но могут заметнее терять в качестве. Основные ограничения — отсутствие в README подробностей о тренировочных данных, результатах оценки, максимальном контексте, поддерживаемых языках помимо английского и специализированных сценариях применения. Файлы распространяются по лицензии Apache-2.0. Квантизация выполнена с использованием llama.cpp.

FriendliAI/Qwen2-VL-7B-Instruct — копия модели Qwen2-VL-7B-Instruct, размещённая FriendliAI. В README указано, что в tokenizer.json добавлены отсутствовавшие токены; метаданные связывают репозиторий с Qwen/Qwen2-VL-7B как с базовой моделью для дообучения. Это плотная мультимодальная модель с архитектурой Qwen2-VL и 7,1 млрд параметров, предназначенная для диалоговых задач с изображениями. Она принимает текст и изображения и формирует текстовые ответы; базовая модель также описана как способная понимать видео, однако поддержка видео именно этой копией в README не подтверждена. Контекст составляет 32 768 токенов. Модель подходит для вопросов по изображениям, описания визуального содержимого и диалогового взаимодействия с визуальными данными. Карточка указывает библиотеку Transformers и формат safetensors. Лицензия — Apache-2.0. README не описывает отдельного дообучения или оценок качества этой копии.

Kiffaz11/Qwen3-0.6b-ifrlvr-grpo — дообученная методом GRPO модель Qwen3-0.6B, созданная для следования инструкциям и решения задач с проверяемыми ответами. Она предназначена для генерации текста и диалогов; в README описаны результаты на тестах соблюдения программно проверяемых ограничений IFEvalG и IFEval, а также на GSM8K. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит около 507,9 млн параметров и поддерживает контекст до 40 960 токенов. По данным README, обучение проводилось в TRL в течение 1200 шагов на смеси задач с ограничениями и GSM8K. В тестах авторов модель улучшила следование инструкциям в режимах с рассуждением и без него; прирост на GSM8K показан в режиме без рассуждений, тогда как в режиме с рассуждениями результаты по математике и MMLU номинально ниже базовой модели, без статистически значимого ухудшения. Это компактная текстовая модель общего назначения, разработанная на основе Qwen/Qwen3-0.6B. Лицензия — Apache-2.0.

PollardWeights/Qwen3-30B-A3B-Pollard — квантизированная версия модели Qwen3-30B-A3B, разработанная Pollard Weights на базе Qwen от Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, Ollama, LM Studio и совместимые приложения. Поддерживает только текстовый ввод; заявленный язык — английский. Модель использует архитектуру qwen3_moe и содержит около 30,5 млрд параметров. Это набор GGUF-вариантов с измеренным распределением разрядности по чувствительности отдельных слоёв, а не равномерным сжатием. Доступны варианты размером примерно от 7,54 до 25,12 ГБ: IQ1_KT, IQ3_S, IQ4_XS и Q6_K. Наименьший вариант рассчитан на устройства примерно с 10 ГБ RAM или VRAM, а Q6_K требует около 27 ГБ с запасом под контекст. Для IQ-вариантов trellis необходим ik_llama.cpp, тогда как K-кванты работают в стандартном llama.cpp. Ключевое преимущество — существенное уменьшение размера относительно версии f16: с 61,06 до 7,54 ГБ, при сохранении качества лучше равномерной однобитной trellis-квантизации по указанным тестам WikiText-2. Ограничения включают потерю качества из-за квантизации, отсутствие заявленной поддержки других модальностей и языков, а также то, что приведённые измерения выполнены на одном наборе данных и одной машине. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

ertghiu256/Qwen3-4B-distill-deepseek-opus-gemini — дообученная языковая модель на архитектуре Qwen3 с плотной архитектурой и примерно 3,7 млрд параметров. Она создана ertghiu256 на базе Qwen3-4B с использованием Unsloth и библиотеки Hugging Face TRL; в обучении использовались наборы данных с примерами рассуждений DeepSeek, Claude Opus и Gemini. Модель предназначена для генерации текста и диалогов, включая задачи рассуждения; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст, рассчитана на английский язык и имеет контекстное окно 40 960 токенов. Доступна в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества, поэтому конкретные преимущества в сравнении с базовой Qwen3-4B не подтверждены.

Qwen3-4B-Instruct-2507 LiteRT-LM — это оптимизированный для локальной генерации текста вариант модели Qwen3-4B-Instruct-2507, разработанный сообществом LiteRT-LM на основе чекпойнта Qwen. Модель предназначена для запуска непосредственно на устройствах, включая настольные GPU и Android-смартфоны, через runtime LiteRT-LM и подходящие GPU- или CPU-бэкенды. Указанный сценарий применения — текстовая генерация и интеграция в продукты с on-device AI. Доступный артефакт имеет размер около 2536 MiB и поддерживает контекст длиной 2048 токенов. Он использует смешанное квантование: веса подходящих линейных проекций представлены в blockwise INT4 с размером группы 32, эмбеддинги токенов — в weight-only INT8, а нормализации, операции редукции и KV-кэш сохраняются в формате с плавающей точкой. Для выполнения внимания и работы с кэшем применяются StableHLO composite ops LiteRT-LM. В README заявлен английский язык; другие языки не указаны. Сильными сторонами являются уменьшенный размер, возможность локального запуска и высокая производительность на совместимом GPU: в приведённых измерениях на Samsung Galaxy S26 достигнуты примерно 306 токенов/с на этапе prefill и 19,9 токена/с при декодировании, при этом пиковое потребление памяти составило около 1,53 ГБ. Производительность и потребление памяти зависят от устройства, версии runtime, бэкенда, термального состояния и настроек. Ограничениями являются контекст в 2048 токенов, необходимость совместимого LiteRT-LM окружения и заметное время инициализации GPU. Модель распространяется по лицензии Apache-2.0.

Карточка модели electroglyph/Qwen3-4B-Instruct-2507-uncensored-v2 на Hugging Face совпадает с карточкой Manitec/Qwen3-4B-Instruct-2507-uncensored-v2, поэтому описание составлено по ней. Manitec выпустил Qwen3-4B-Instruct-2507-uncensored-v2 — минимально дообученную версию Qwen3-4B-Instruct-2507, предназначенную для диалоговой генерации текста. Автор заявляет, что модель почти не отказывает в ответах, но по умолчанию не должна быть чрезмерно оскорбительной и лучше следует подробным инструкциям. Модель использует плотную архитектуру Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов. Она работает с текстом, поддерживает чат и интерфейс вызова инструментов; README описывает дообучение в течение двух эпох с низкой скоростью обучения. По метаданным, модель распространяется в формате safetensors под лицензией Apache-2.0. Заявления о поведении основаны на описании автора; карточка приводит сравнение perplexity и KL divergence с родительской моделью, но не содержит полной методики или независимой оценки. Дообучающий датасет не опубликован, поэтому его состав и возможное влияние на ответы проверить нельзя.

arianraje/qwen3-4b-mamba2-hybrid-stage2a-kd — это экспериментальная гибридная языковая модель на базе Qwen3-4B, опубликованная как промежуточный чекпойнт сравнительного исследования. В ней 27 из 36 слоёв внимания заменены микшерами Mamba2, а каждый четвёртый слой сохраняет полное внимание; всего модель содержит 3,7 млрд параметров. Модель дообучена дистилляцией логитов от Qwen/Qwen3-4B и рассчитана на генерацию текста и диалоговые сценарии. Контекст — до 40 960 токенов по метаданным; описанное обучение этого этапа проводилось на последовательностях длиной 4 096 токенов. В тесте RULER модель хорошо справляется с поиском одиночного фрагмента, но качество извлечения нескольких ключей и ответов на несколько запросов снижается с ростом контекста, особенно на 32K. Проверки на здравый смысл и математику не проводились. Для загрузки требуется Transformers с trust_remote_code=True; быстрые ядра требуют mamba-ssm и causal-conv1d, иначе работа медленнее и требует больше памяти. Лицензия — Apache-2.0.

Карточка модели dragonstorm123/qwen3.5-4b-sft на Hugging Face совпадает с карточкой dragonstorm123/qwen3.5-4b-sft-disambiguation, поэтому описание составлено по ней. Мультимодальная модель Qwen3.5-4B, дообученная разработчиком dragonstorm123 на базе Qwen/Qwen3.5-4B с использованием Unsloth и библиотеки TRL. Предназначена для диалогового взаимодействия и задач image-text-to-text: модель принимает текст и изображения и формирует текстовые ответы. В метаданных также заявлены возможности работы с изображениями и интерфейс вызова инструментов. Модель содержит 4 млрд параметров и распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает обучающие данные и специальные ограничения применения; качество на конкретных задачах зависит от сценария использования.

zeromodels/qwen3.5-9b — конвертированная для Keras 3 мультимодальная модель на основе Qwen3.5-9B от команды Qwen. Она принимает изображения и текст и генерирует текст; текстовый вариант загрузки использует языковую часть без визуального энкодера. Архитектура включает визуальный модуль Qwen3-VL и плотный текстовый декодер с гибридом Gated-DeltaNet и gated full attention. Веса хранятся в формате bfloat16; одна реализация работает с TensorFlow, PyTorch и JAX. Модель предназначена для диалогов и анализа изображений с текстовыми запросами, а также для текстовых сценариев с использованием языковой части. В метаданных указаны 9 млрд параметров у базовой модели Qwen3.5-9B. Репозиторий лицензирован по Apache 2.0; подробности об исходной модели и условиях её использования следует сверять с карточкой Qwen/Qwen3.5-9B.

Модель dealignai/Qwen3.5-VL-122B-A10B-UNCENSORED-JANG_2S создана Jinho Jang на основе Qwen/Qwen3.5-122B-A10B. Это мультимодальная MoE-модель на 122 млрд параметров с 256 экспертами и восемью активными экспертами на токен, гибридной архитектурой GatedDeltaNet SSM и полным вниманием, а также возможностями работы с изображениями. Модель дообучена и преобразована в смешанную квантизацию JANG_2S: веса внимания имеют точность 6 бит, эмбеддинги — 4 бита, эксперты — 2 бита; размер файла составляет около 35 ГБ. Модель предназначена для диалогов и задач «изображение-текст», включая анализ изображений и ответы на вопросы по их содержимому. В карточке также заявлен интерфейс вызова инструментов. Вариант CRACK прошёл изменение весов, направленное на удаление отказов по соображениям безопасности, поэтому модель может выдавать небезопасные ответы. Для запуска требуется MLX на Apple Silicon и поддержка формата JANG; README указывает MLX Studio и пакет jang-tools. Лицензия — Apache-2.0.

mlx-community/Qwen3.6-35B-A3B-nvfp4 — это MLX-версия модели Qwen3.6-35B-A3B, преобразованная сообществом mlx-community с использованием mlx-vlm 0.4.4. Модель предназначена для мультимодальных задач, прежде всего для обработки изображений и текста, включая генерацию текстового описания изображения. Формат рассчитан на использование в экосистеме MLX. В карточке указано, что модель имеет размер 35B и конфигурацию A3B, однако подробности архитектуры, поддерживаемые языки, размер контекста и точный набор модальностей не приведены. Ключевое преимущество — адаптация к MLX и возможность запуска через mlx-vlm, что делает модель ориентированной на соответствующую программно-аппаратную экосистему. Ограничения и результаты бенчмарков в README не описаны. Модель распространяется по лицензии Apache-2.0. Для получения полного описания возможностей рекомендуется обращаться к карточке исходной модели Qwen/Qwen3.6-35B-A3B.

saga404/Qwen3.8-9B-heretic-uncensored-Q5_0-GGUF — это преобразованная в формат GGUF версия модели rohit267/Qwen3.8-9B-heretic-uncensored. Конвертация выполнена с использованием llama.cpp и сервиса GGUF-my-repo; исходная карточка указывает на семейство Qwen и размер около 9 млрд параметров. Модель предназначена для генерации текста на английском языке и может использоваться в сценариях рассуждений, дообучения с учителем и function calling, согласно заявленным тегам. Формат GGUF ориентирован на локальный запуск через llama.cpp, включая работу из командной строки и предоставление серверного API. В README приведён пример использования с контекстом 2048 токенов, однако максимальный размер контекста модели не указан. Ключевая особенность — квантование Q5_0, позволяющее снизить требования к памяти по сравнению с полноразмерными весами, при возможном компромиссе между качеством и эффективностью. Модель заявлена как uncensored/decensored, поэтому её поведение в отношении ограничений безопасности может отличаться от стандартных версий; результаты оценки качества и безопасности не приведены. Данные о точной архитектуре, поддерживаемых модальностях помимо текста, производительности и рекомендуемых ресурсах отсутствуют. Лицензия — Apache-2.0. Для запуска требуется совместимое ПО llama.cpp; конкретные требования к аппаратному обеспечению в карточке не указаны.

Qwen3.8-Flash-Next-heretic-2-IQ4_XS-GGUF — это квантизированная GGUF-версия модели Qwen3.8-Flash-Next-heretic-2, подготовленная для запуска через llama.cpp. Репозиторий содержит пять основных IQ4_XS-шардов, набор из шести MTP/NextN-шардов для speculative decoding и совместимый мультимодальный проектор Q8_0. Модель основана на версии trohrbaugh/Qwen3.8-Flash-Next-heretic-2; исходная конверсия закреплена на конкретной ревизии проекта spiritfather/Qwen3.8-Flash-Next-heretic-2-i1-GGUF. Сведения о точном числе параметров, архитектуре, языках и размере контекста в карточке не указаны. Модель предназначена для генерации текста и обработки изображений в сценариях image-text-to-text, включая мультимодальные запросы и задачи визуального grounding. Формат ориентирован на эффективное размещение и кэширование весов, в частности в средах Runpod Serverless. Для изображений требуется отдельный проектор mmproj в формате Q8_0. MTP-вариант поддерживает ускорение генерации посредством speculative decoding при использовании сборки llama.cpp с PR #27836; в README приведены рекомендуемые параметры запуска для IQ4-класса. К сильным сторонам относятся сниженный размер квантизированных весов, поддержка мультимодального ввода и возможность ускоренной генерации с MTP. Ограничения связаны с необходимостью совместимой сборки llama.cpp, отдельного мультимодального проектора и корректного набора шардов; характеристики качества, производительности и языкового покрытия не приведены. Указана лицензия Qwen Community License версии qwen-community-1.0, условия которой распространяются на upstream-модель и конверсию.

kikekewl/Qwen3.8-Flash-Next-MLX-BF16 — это MLX-версия модели Qwen3.8-Flash-Next, подготовленная пользователем или организацией kikekewl для работы в экосистеме MLX. В карточке указано, что модель относится к классу image-text-to-text и предназначена для задач генерации текста на основе текстовых и, вероятно, визуальных входных данных. Конкретные сценарии применения не раскрыты. Модель имеет формат BF16 и основана на Qwen/Qwen3.8-Flash-Next. Сведения об архитектуре, количестве параметров, поддерживаемых языках, размере контекста, качестве, требованиях к оборудованию и особенностях мультимодальной обработки в карточке отсутствуют. Использование регулируется лицензией qwen-community-1.0; подробные условия доступны в файле LICENSE.

Qwen3.8-Flash-Next-Uncensored-ROCmFP4-STRIX_LEAN-GGUF — квантизированная GGUF-версия модели Qwen3.8-Flash-Next, разработанная пользователем kingjones777 на основе Qwen/Qwen3.8-Flash-Next и orcarouter/Qwen3.8-Flash-Next-Uncensored. Модель предназначена для генерации текста, включая рассуждения, создание JSON, программирование и суммаризацию документов. Вариант Uncensored распространяется как исследовательский артефакт с удалённым поведением отказа и защитными ограничениями, поэтому его следует использовать осознанно и контролировать результаты. Модель использует архитектуру qwen4exp и формат GGUF с типами ROCmFP4, ориентированными на ускорение через AMD ROCm. Карточка указывает совместимость прежде всего с AMD Ryzen AI Max+ 395 и GPU gfx1151; стандартная версия llama.cpp этот файл не загружает, требуется специальная сборка ROCmFPX с поддержкой qwen4exp и ROCmFP4. Заявлена работа с контекстом до 128K в режиме speculative decoding при применении исправлений, однако размер модели, точный объём контекстного окна в обычном режиме, языки и модальности в карточке не указаны. Сильными сторонами являются аппаратно-ориентированная FP4-квантизация, поддержка speculative decoding с MTP-головой и заметное ускорение на отдельных сценариях: в приведённых измерениях прирост достигал 34% для reasoning при коротком контексте, хотя для кода и длинных документов результат зависел от настроек и иногда был хуже обычной генерации. Для запуска требуются специальная сборка, патчи и совместимое оборудование; производительность и совместимость с другими платформами не подтверждены. Лицензия указана как qwen-community-1.0, тип лицензии — other.

kaiz0603 дообучил мультимодальную модель Qwen3-VL-4B-Instruct для диалогового взаимодействия с изображениями. Она принимает текст и изображения и формирует текстовые ответы; архитектура Qwen3-VL — плотная модель с 4 млрд параметров. Модель подходит для вопросов по изображениям, визуального анализа и OCR. В метаданных также заявлен интерфейс вызова инструментов, но сведения о его настройке в карточке отсутствуют. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-30B-A3B-Instruct-MLX-6bit — это 6-битно квантованная мультимодальная модель для задач преобразования изображений и текста в текст. Исходную модель Qwen3-VL-30B-A3B-Instruct разработала команда Qwen, а квантование в формате MLX подготовила команда LM Studio с использованием mlx_vlm. Модель предназначена для работы с визуально-текстовыми запросами, включая анализ изображений и генерацию ответов по их содержимому. Модель оптимизирована для запуска на устройствах Apple Silicon с использованием фреймворка MLX. В её названии указаны 30B параметров и конфигурация A3B, однако README не содержит подробностей об архитектуре, поддерживаемых языках, размере контекстного окна и точном перечне мультимодальных возможностей. Квантование снижает требования к памяти по сравнению с полной версией, но может сопровождаться некоторой потерей точности. Лицензия модели — Apache-2.0.

Qwen3-VL-8B-Heretic-1.3.0 — экспериментальная аблитерированная версия Qwen3-VL-8B-Instruct, созданная сообществом с использованием Heretic v1.3.0 и опубликованная для интеграции с ComfyUI. Модель предназначена для генерации текста и работы с изображениями и текстом в формате vision-language, а также для использования в ComfyUI и Transformers. Поддерживаются английский и китайский языки. Модель не поддерживает специальные токены для режима рассуждений. Архитектура — Qwen3VLForConditionalGeneration, около 8 млрд параметров, точность bf16 и контекст до 8192 токенов. По данным README, аблитерация существенно снизила частоту отказов при сохранении большинства исходных возможностей: изменено 53 из 398 тензоров, а среднее изменение на восьми тестах составило менее 1%. При этом наблюдается заметное снижение результата TruthfulQA, а уменьшение защитных ограничений может повысить риск генерации вредного или недостоверного содержания. Полная версия Hugging Face и форматы safetensors для ComfyUI сохраняют поддержку зрения. Варианты GGUF лишены vision encoder и предназначены только для использования как текстовый энкодер в рабочих процессах ComfyUI-GGUF, а не как самостоятельная vision-language модель. Доступны варианты bf16, FP8, NVFP4 и различные уровни GGUF-квантизации. Лицензия — Apache-2.0.