This repository contains quantized GGUF versions of the original model from from huihui-ai/Huihui-Qwen3.8-27B-abliterated
No finetuning or training was performed.
Характеристики
- Лицензия
- Apache 2.0
- Базовая модель
- Huihui-Qwen3.8-27B-abliterated
- Библиотека
- transformers
- Опубликована
- 16 авг 2026
Ссылки
Huihui-Qwen3.8-27B-abliterated-Q6_K-GGUF
Huihui-Qwen3.8-27B-abliterated-Q6_K-GGUF — это квантизированная версия модели Huihui-Qwen3.8-27B-abliterated, разработанной huihui-ai и опубликованной пользователем ajaeger74.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Репозиторий содержит вариант в формате GGUF с квантизацией Q6_K; дополнительное дообучение или обучение для этой версии не выполнялось.
Модель предназначена для диалоговых сценариев и задач image-text-to-text, то есть обработки и генерации текста на основе текстовых и, вероятно, визуальных входных данных. В метаданных указаны совместимость с Transformers и llama.cpp, а также размер базовой модели 27B. Модель описана как abliterated и uncensored, однако README не содержит подробностей о поддерживаемых языках, размере контекста, конкретной архитектуре и практических ограничениях.
Распространение осуществляется по лицензии Apache-2.0. Ключевое преимущество этой версии — существенное уменьшение требований к вычислительным ресурсам за счёт квантизации Q6_K при сохранении формата GGUF для локального запуска. Ограничения связаны с отсутствием в README результатов тестирования, сравнений качества и точных требований к оборудованию.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).
- Ревизия весов
- 85df477