/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
PaddleOCR-VL-1.6
Библиотека
transformers
Опубликована
28 мая 2026

PaddleOCR-VL-1.6-GGUF

Описание изображенийИзображение → текст13 профессий

PaddleOCR-VL-1.6-GGUF — набор квантованных версий мультимодальной модели PaddleOCR-VL-1.6, разработанной PaddlePaddle и распространяемой в формате GGUF пользователем mradermacher.

1 170скачиваний за 30 дней12лайковвеса обновлены28 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для распознавания и структурированного анализа документов по изображениям: извлечения текста, определения компоновки страниц, обработки таблиц, формул, диаграмм, печатей и других элементов, а также задач image-to-text и document parsing. Указана поддержка английского, китайского и других многоязычных сценариев.

README не содержит сведений о точной архитектуре, количестве параметров или размере исходной модели, контекстном окне и перечне поддерживаемых языков. Доступны варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K, Q5_K, Q6_K, Q8_0 и f16 размером примерно от 0,3 до 1,0 ГБ. Более сильное квантование уменьшает требования к ресурсам, но может снижать качество; в README варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как быстрый вариант с лучшим качеством.

Модель удобна для локального запуска в совместимых с GGUF инструментах и позволяет выбирать компромисс между скоростью, размером файла и качеством. Ограничения включают отсутствие подробных данных о результатах тестирования, производительности, требованиях к оборудованию и точных характеристиках исходной модели. Указана лицензия Apache-2.0.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

About

static quants of https://huggingface.co/PaddlePaddle/PaddleOCR-VL-1.6

For a convenient overview and download list, visit our model page for this model.

weighted/imatrix quants are available at https://huggingface.co/mradermacher/PaddleOCR-VL-1.6-i1-GGUF

Usage

If you are unsure how to use GGUF files, refer to one of TheBloke's READMEs for more details, including on how to concatenate multi-part files.

Provided Quants

(sorted by size, not necessarily quality. IQ-quants are often preferable over similar sized non-IQ quants)

LinkTypeSize/GBNotes
GGUFQ2_K0.3
GGUFQ3_K_S0.3
GGUFQ3_K_M0.4lower quality
GGUFQ3_K_L0.4
GGUFIQ4_XS0.4
GGUFQ4_K_S0.4fast, recommended
GGUFQ4_K_M0.4fast, recommended
GGUFQ5_K_S0.4
GGUFQ5_K_M0.4
GGUFQ6_K0.5very good quality
GGUFQ8_00.6fast, best quality
GGUFf161.016 bpw, overkill

Here is a handy graph by ikawrakow comparing some lower-quality quant types (lower is better):

image.png

And here are Artefact2's thoughts on the matter: https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / Model Request

See https://huggingface.co/mradermacher/model_requests for some answers to questions you might have and/or if you want some other model quantized.

Thanks

I thank my company, nethype GmbH, for letting me use its servers and providing upgrades to my workstation to enable this work in my free time.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
39d08d7

0 моделей