These are quantizations of the model Huihui-Qwen3-VL-8B-Instruct-abliterated
Original model: https://huggingface.co/huihui-ai/Huihui-Qwen3-VL-8B-Instruct-abliterated
Download the latest llama.cpp to use them.
Характеристики
- Базовая модель
- Huihui-Qwen3-VL-8B-Instruct-abliterated
- Опубликована
- 2 ноя 2025
Ссылки
Huihui-Qwen3-VL-8B-Instruct-abliterated-GGUF
Изображение и текст → текст4 профессии
Huihui-Qwen3-VL-8B-Instruct-abliterated-GGUF — это набор квантованных версий мультимодальной модели Huihui-Qwen3-VL-8B-Instruct-abliterated, опубликованный пользователем noctrex.
10 229скачиваний за 30 дней28лайковвеса обновлены2 ноя 2025
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. В качестве базовой модели указана разработка huihui-ai; исходная модель доступна на Hugging Face.
В представленном README не указаны точная архитектура, размеры квантования, поддерживаемые языки, длина контекста, перечень модальностей за пределами общего image-text-to-text и результаты тестирования. Ключевая особенность этой публикации — использование формата GGUF и квантования, что потенциально упрощает локальный запуск и снижает требования к ресурсам, однако конкретные компромиссы между качеством и производительностью зависят от выбранного файла. Для использования требуется актуальная версия llama.cpp. Лицензия и условия коммерческого или иного использования в README не указаны.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельI.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).
- Ревизия весов
- 97426eb