/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qianfan-OCR
Библиотека
llama.cpp
Опубликована
19 мар 2026

Qianfan-OCR-GGUF

Изображение и текст → текст12 профессий

Qianfan-OCR-GGUF — набор GGUF-квантизированных версий мультимодальной модели baidu/Qianfan-OCR, разработанной Baidu.

962скачиваний за 30 дней16лайковвеса обновлены9 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для распознавания текста и анализа документов по изображениям, включая сценарии document intelligence и OCR. Она использует архитектуру InternVL Chat с языковой основой Qwen3 примерно на 4,7 млрд параметров и поддерживает мультиязычные задачи image-text-to-text. Квантизация выполнена Reza2kn с использованием llama.cpp.

Доступны варианты от F16 размером около 9,4 ГБ до Q2_K размером около 1,7 ГБ. Версии различаются компромиссом между размером, скоростью и качеством: F16 сохраняет точность в формате half precision, Q8_0 близка к исходному качеству, а Q4_K_M указана как рекомендуемая и занимает около 2,8 ГБ. Для работы в llama.cpp требуются файл модели и соответствующий multimodal projector; модель принимает изображения документов и текстовые запросы. В README приведены результаты исходной модели на OmniDocBench и OCRBench, но подробные сведения о поддерживаемых языках, длине контекста и ограничениях распознавания не указаны. Распространение заявлено по лицензии Apache License 2.0 с сохранением уведомлений и условий сторонних компонентов.

Для каких профессий подходит12

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qianfan-OCR — GGUF Quantizations

GGUF quantizations of baidu/Qianfan-OCR.

Original model: InternVL Chat architecture with Qwen3 LLM backbone (~4.7B params). Quantized by Reza2kn using llama.cpp.

Files

FilenameQuantSizeQuality
Qianfan-OCR-f16.ggufF16~9.4 GBLossless (half precision)
Qianfan-OCR-q8_0.ggufQ8_0~5.0 GBNear-lossless
Qianfan-OCR-q6_k.ggufQ6_K~3.8 GBExcellent
Qianfan-OCR-q5_k_m.ggufQ5_K_M~3.3 GBVery good
Qianfan-OCR-q5_k_s.ggufQ5_K_S~3.2 GBVery good
Qianfan-OCR-q4_k_m.ggufQ4_K_M~2.8 GBGood (recommended)
Qianfan-OCR-q4_k_s.ggufQ4_K_S~2.7 GBGood
Qianfan-OCR-q4_0.ggufQ4_0~2.6 GBLegacy 4-bit
Qianfan-OCR-q3_k_m.ggufQ3_K_M~2.2 GBModerate
Qianfan-OCR-q3_k_s.ggufQ3_K_S~2.1 GBModerate
Qianfan-OCR-q2_k.ggufQ2_K~1.7 GBLow quality

Usage (llama.cpp)

llama-cli -m Qianfan-OCR-q4_k_m.gguf --mmproj Qianfan-OCR-mmproj.gguf \
  --image document.jpg -p "Please OCR this document."

Original Model

See baidu/Qianfan-OCR for full documentation, benchmarks (OmniDocBench 93.12, OCRBench 880), and usage examples.

Licensing and attribution

This model distribution is licensed under the Apache License, Version 2.0. See LICENSE. Existing third-party copyright, license, and attribution notices remain applicable.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · llama.cpp

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
c85ede0

0 моделей