/ Модель

Характеристики

Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Базовая модель
Holo-3.1-9B
Библиотека
transformers
Опубликована
2 июн 2026

Holo-3.1-9B-GGUF

Изображение и текст → текст7 профессий

Holo-3.1-9B-GGUF — это локально запускаемая GGUF-версия мультимодальной vision-language модели Holo-3.1-9B, разработанной Hcompany и опубликованной в данном формате пользователем prithivMLmods.

2 499скачиваний за 30 дней12лайковвеса обновлены2 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для создания компьютерных агентов, работающих с браузерами, настольными и мобильными интерфейсами, а также для автоматизации пользовательских интерфейсов, UI grounding и бизнес-процессов.

Модель поддерживает обработку текста и изображений, ориентирована на английский язык и имеет около 9 млрд параметров. В заявленных возможностях — native function calling для интеграции с агентскими фреймворками и выполнение действий в графических интерфейсах. Репозиторий содержит варианты квантования от Q2_K до Q8_0, а также BF16 и F16; размер файлов составляет примерно от 3,83 до 17,9 ГБ, отдельно предоставляются мультимодальные проекторы mmproj. Это позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью локального запуска.

Сильные стороны модели — мультимодальность, поддержка компьютерного и мобильного использования, интеграция с агентами и возможность локального развертывания с оптимизированными квантованными контрольными точками. Ограничения README не описывает подробно: не указаны длина контекста, конкретная архитектура, результаты бенчмарков, требования к оборудованию и поддерживаемые языки помимо английского. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Holo-3.1-9B-GGUF

Holo3.1: Fast & Local Computer Use Agents

Model Description

Holo3.1 is our latest family of Vision-Language Models (VLMs) for computer use agents. Building on Holo3, it expands support beyond browser and desktop automation to mobile environments, introduces native function-calling support for seamless integration with agent frameworks, and enables local deployment through optimized quantized checkpoints.

The Holo3.1 family spans model sizes from 0.8B to 35B-A3B parameters. Across computer use, UI grounding, mobile automation, and business workflows, Holo3.1 delivers strong performance while improving deployment flexibility and cost efficiency.

[!NOTE] For more information, please visit the original model card: https://huggingface.co/Hcompany/Holo-3.1-9B


Model Files

File NameQuant TypeFile SizeFile Link
Holo-3.1-9B.BF16.ggufBF1617.9 GBDownload
Holo-3.1-9B.F16.ggufF1617.9 GBDownload
Holo-3.1-9B.Q2_K.ggufQ2_K3.83 GBDownload
Holo-3.1-9B.Q3_K_L.ggufQ3_K_L4.93 GBDownload
Holo-3.1-9B.Q3_K_M.ggufQ3_K_M4.62 GBDownload
Holo-3.1-9B.Q3_K_S.ggufQ3_K_S4.26 GBDownload
Holo-3.1-9B.Q4_0.ggufQ4_05.31 GBDownload
Holo-3.1-9B.Q4_K_M.ggufQ4_K_M5.63 GBDownload
Holo-3.1-9B.Q4_K_S.ggufQ4_K_S5.35 GBDownload
Holo-3.1-9B.Q5_0.ggufQ5_06.31 GBDownload
Holo-3.1-9B.Q5_K_M.ggufQ5_K_M6.47 GBDownload
Holo-3.1-9B.Q5_K_S.ggufQ5_K_S6.31 GBDownload
Holo-3.1-9B.Q6_K.ggufQ6_K7.36 GBDownload
Holo-3.1-9B.Q8_0.ggufQ8_09.53 GBDownload
Holo-3.1-9B.mmproj-bf16.ggufmmproj-bf16922 MBDownload
Holo-3.1-9B.mmproj-f16.ggufmmproj-f16922 MBDownload
Holo-3.1-9B.mmproj-q8_0.ggufmmproj-q8_0624 MBDownload

Quants Usage

(sorted by size, not necessarily quality. IQ-quants are often preferable over similar sized non-IQ quants)

Here is a handy graph by ikawrakow comparing some lower-quality quant types (lower is better):

image.png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
a007835

0 моделей