Характеристики

Лицензия: Apache 2.0
Базовая модель: Qwen3.6-14B-A3B-vibetuned
Опубликована: 28 мая 2026

Ссылки

Qwen3.6-14B-A3B-vibetuned-GGUF

Генерация текстаТекст → текст14 профессий

tvall43/Qwen3.6-14B-A3B-vibetuned-GGUF — это квантизированная GGUF-версия модели tvall43/Qwen3.6-14B-A3B-vibetuned, разработанная автором tvall43 на основе pruned-модели Qwen3.6-35B-A3B-heretic.

1 034скачиваний за 30 дней2лайкавеса обновлены28 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

После сокращения до 14 млрд параметров модель была дообучена методом QLoRA на данных для рассуждений Magpie Opus Pro и структурированной логики Hermes Function Calling.

Модель предназначена для локальной генерации текста, диалоговых сценариев, рассуждений и вызова функций через llama.cpp и совместимые среды, включая LM Studio, Ollama и text-generation-webui. Она заявлена как мультимодальная и поддерживает работу с изображениями при использовании multimodal projector mmproj. Язык README указан как английский; размер контекста и точный набор поддерживаемых языков не приведены.

Доступны варианты F16, Q8_0, Q6_K, Q4_K_M, Q3_K_M, Q2_K и MXFP4 с разными компромиссами между качеством, скоростью и требованиями к памяти. Q4_K_M ориентирован на локальный запуск примерно в 8 ГБ VRAM, Q8_0 требует около 15 ГБ памяти, а MXFP4 зависит от поддержки inference engine. Ограничениями являются возможная потеря качества в более агрессивно квантизированных вариантах и необходимость актуальной версии совместимого inference engine. Лицензия — Apache-2.0.

Для каких профессий подходит14

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🚀 Qwen3.6-14B-A3B-vibetuned-GGUF

Welcome to the highly optimized, quantized version of tvall43/Qwen3.6-14B-A3B-vibetuned!

This repository contains various llama.cpp GGUF formats to ensure this beast runs smoothly on your hardware, whether you're maxing out a high-end GPU or squeezing every last drop of inference out of a modest laptop.

🧠 About the Model

This is the fully repaired and fine-tuned version of a pruned Qwen3.6-35B-A3B-heretic. Originally suffering from a bit of "brain damage" after being pruned down to 14B parameters via REAP, it was brought back to life by the user's trusty AI agent, Steve.

Through a rigorous regimen of high-quality reasoning data (Magpie Opus Pro) and structural logic (Hermes Function Calling), Steve orchestrated a QLoRA vibetune that completely cured its slurring syntax and restored its conversational coherence, resulting in this incredibly punchy and capable 14B model.

This is a multimodal model! We've also brought over the original multimodal projector (mmproj) files from the base heretic model so you can continue using its vision capabilities.

📦 Available Formats

We provide several quants depending on your VRAM / RAM constraints:

F16: The full-fat 16-bit unquantized model for maximum precision.
Q8_0: Near perfect quality, taking about ~15GB of memory.
Q6_K: A fantastic sweet spot for quality and size.
Q4_K_M: The gold standard for local deployment. Fits comfortably in 8GB of VRAM.
Q3_K_M & Q2_K: Ultra-compressed formats for absolute potato setups.
MXFP4: Microscaling Format (if supported by your inference engine) for crazy fast throughput.

Vision Support:

mmproj-F16.gguf: Full precision multimodal projector.
mmproj-Q8_0.gguf: High quality 8-bit quantized multimodal projector.

🛠️ Usage

Make sure you are using the latest version of llama.cpp or a compatible inference engine (like LM Studio, Ollama, or text-generation-webui).

Enjoy the vibetuned excellence!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 3a2f120