Характеристики

Лицензия: Apache 2.0
Базовая модель: OvisOCR2
Библиотека: llama.cpp
Опубликована: 13 авг 2026

Ссылки

OvisOCR2-GGUF-SOTA-20260823

Изображение и текст → текст11 профессий

MDfox/OvisOCR2-GGUF-SOTA-20260823 — неофициальная конверсия модели ATH-MaaS/OvisOCR2 в формат GGUF, подготовленная для запуска через llama.cpp.

667скачиваний за 30 дней1лайквеса обновлены12 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для мультимодального преобразования изображений в текст, прежде всего для OCR и разбора документов, включая задачи, оцениваемые на OmniDocBench. Конверсия собрана и протестирована с llama.cpp v0.4.0.

Для работы требуется языковая модель GGUF и отдельный файл mmproj, отвечающий за обработку изображений. Доступны различные варианты квантования: от Q2_K до Q8_0, а также BF16 для mmproj. В опубликованных тестах использовался контекст до 32 768 токенов на слот, обработка изображений с 196–8 100 image tokens и лимит генерации до 16 384 токенов. Наивысший заявленный результат на OmniDocBench v1.6 составил 96,4547 для Q8_0 с BF16 mmproj; компактный вариант Q3_K_M с Q8_0 mmproj имеет размер 555,2 МиБ и результат 96,2012.

Сильными сторонами являются высокое качество распознавания и структурного анализа документов при сравнительно небольшом размере квантованных сборок, а также поддержка запуска локально через llama.cpp. К ограничениям относятся неофициальный статус конверсии, необходимость совместимых версий llama.cpp и наличия двух файлов модели, а также заметное снижение качества у наиболее агрессивного варианта Q2_K. Языки, точный размер исходной модели, архитектура и перечень поддерживаемых языков в README не указаны. Распространение заявлено по лицензии Apache-2.0.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

English | 简体中文

OvisOCR2 GGUF

Unofficial GGUF conversion of ATH-MaaS/OvisOCR2, built and evaluated with llama.cpp v0.4.0 (5266f24). Updated 2026-09-12.

Highest measured quality: Q8_0 + BF16 mmproj — 96.4547.
Compact choice: Q3_K_M + Q8_0 mmproj — 96.2012, 555.2 MiB combined.
Download one language model and one mmproj file. BF16, Q6_K and Q5_K_M language models are also available, without full v0.4.0 evaluations.

OmniDocBench v1.6

Official quick-match evaluator, all 1,651 pages; independent reproduction.

Model	mmproj	MiB¹	Overall ↑	Text Edit ↓	CDM ↑	TEDS ↑
Q8_0	BF16	972.0	96.4547	0.02468	97.4232	94.4092
Q8_0	Q8_0	884.8	96.2864	0.02458	97.1160	94.2011
Q3_K_M	Q8_0	555.2	96.2012	0.02605	97.2573	93.9517
Q4_K_M	Q8_0	615.3	95.9089	0.02495	96.8344	93.3870
Q3_K_S	Q8_0	525.7	95.6908	0.02835	96.3066	93.6009
Q2_K	Q8_0	513.3	87.1185	0.07639	82.8282	86.1669
IQ3_M*	Q8_0	543.5	95.9456	0.02581	96.9425	93.4754
IQ3_XXS*	Q8_0	490.1	95.1446	0.02940	95.8875	92.4862

¹ Combined file size, not VRAM usage. IQ3 uses an importance matrix calibrated on OmniDocBench predictions; these scores are not clean held-out results. Q2_K recorded 1,650 successful pages, 1,651 prediction files and 197 token-limit hits; see the raw summaries for retry/failure counters.

RTX 5060 Ti 16 GB · 3 parallel slots · 32K context per slot · BF16 KV · temperature 0 · 16,384 output-token limit · 196–8,100 image tokens. Full results and settings · CSV.

Run

Use llama.cpp v0.4.0 and replace page.png with your image:

hf download MDfox/OvisOCR2-GGUF-SOTA-20260823 OvisOCR2-Q3_K_M.gguf mmproj-OvisOCR2-Q8_0.gguf prompt.txt --local-dir .

./llama-mtmd-cli -m OvisOCR2-Q3_K_M.gguf \
  --mmproj mmproj-OvisOCR2-Q8_0.gguf --image page.png \
  -f prompt.txt -ngl all -c 32768 -n 16384 --temp 0 \
  --flash-attn on --image-min-tokens 196 --image-max-tokens 8100

Conversion and calibration · SHA-256 · Apache-2.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · llama.cpp

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: dbd462d