WuQi-V3-Onyx-27B GGUF — персонализированная модель, разработанная Alniyat5f на основе Qwen3.8-27B с последующим обучением LoRA.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Данная версия представляет собой квантованный формат GGUF и сохраняет мультимодальные возможности исходной модели.
Модель предназначена для задач понимания текста и изображений, а также заявлена поддержка понимания видео через отдельный мультимодальный проектор mmproj. Основной файл использует квантование Q4_K_M и имеет размер около 16,81 ГБ; дополнительно доступны мультимодальный проектор в формате F16 и draft-модель MTP для спекулятивного декодирования. В конфигурации указана поддержка китайского языка и сценарий image-text-to-text. Размер базовой модели — 27B параметров.
К сильным сторонам относятся сохранённая мультимодальность, поддержка обработки изображений и видео, а также возможность ускорения генерации с помощью MTP. Ограничения связаны с необходимостью совместимого GGUF-инструментария и отдельных файлов проектора и draft-модели; сведения о контекстном окне, точных языковых возможностях, результатах оценки и рекомендуемом оборудовании не указаны. Модель распространяется по лицензии Apache 2.0.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
[!Note] 基于 Qwen3.8-27B（Apache 2.0）LoRA 后训练的个性化实例模型WuQi-V3-Onyx-27B——GGUF 量化版。 完整保留多模态（mmproj）+ 投机解码（MTP draft）。
| 文件 | 大小 | 说明 |
|---|---|---|
| WuQi-V3-Onyx-27b-Q4_K_M.gguf | 16.81G | 主模型（Q4_K_M——含 MTP nextn 张量） |
| mmproj-WuQi-V3-Onyx-27b-f16.gguf | 0.93G | 多模态投影（图像/视频理解） |
| mtp-WuQi-V3-Onyx-27b-Q4_0.gguf | 2.01G | MTP 投机解码 draft（Q4_0 量化） |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).