/ Модель

Характеристики

Лицензия
Apache 2.0
Архитектура
qwen2_5_vl · dense
Базовая модель
Dolphin-v2
Библиотека
transformers
Опубликована
24 дек 2025

Dolphin-v2-f32-GGUF

Изображение и текст → текст15 профессий

Dolphin-v2-f32-GGUF — это мультимодальная vision-language модель для интеллектуального разбора документов.

1 606скачиваний за 30 дней2лайкавеса обновлены24 дек 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Базовая модель Dolphin-v2 разработана ByteDance, а данный репозиторий prithivMLmods содержит её варианты в формате GGUF с разными уровнями квантования. Модель основана на Qwen2.5-VL-3B, насчитывает около 3 млрд параметров и использует vision encoder Native Resolution Vision Transformer (NaViT) вместе с авторегрессионным декодером.

Модель предназначена для OCR и структурированного понимания цифровых документов, PDF-файлов, отсканированных и сфотографированных страниц. Она распознаёт заголовки, абзацы, формулы с выводом в LaTeX, таблицы в HTML, код, списки, изображения и другие элементы, возвращая их с абсолютными координатами на странице. Двухэтапная архитектура сначала различает цифровые и фотографированные документы, а затем применяет параллельный поэлементный или целостный разбор. Поддерживаются английский и китайский языки; заявлены сценарии локального использования в медицине, юриспруденции и финансах.

К сильным сторонам относятся высокая точность анализа структуры и порядка чтения, распознавания формул и таблиц, устойчивость к искажениям, наклонам и перспективе, а также возможность локального запуска. Для вариантов модели указаны размеры от примерно 791 МБ до 12,3 ГБ; производительность исходной модели заявлена на уровне 0,1729 кадра в секунду на GPU с 8–12 ГБ VRAM, при этом она может превосходить универсальные VLM по скорости и точности. Конкретные характеристики зависят от выбранного GGUF-варианта: более сильное квантование уменьшает требования к памяти, но может снижать качество. Размер контекста и подробные требования к программному обеспечению не указаны. Лицензия — Apache 2.0.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Dolphin-v2-f32-GGUF

ByteDance Dolphin-v2 is a 3B-parameter vision-language model built on Qwen2.5-VL-3B with Native Resolution Vision Transformer (NaViT) encoder and autoregressive decoder, designed as a universal document parsing solution via a document-type-aware two-stage architecture that classifies digital-born vs. photographed documents before applying hybrid strategies—element-wise parallel parsing for clean PDFs and holistic parsing for distorted scans. It supports 21 element categories (headings sec_0-5, paragraphs, formulas in LaTeX, HTML tables, indented code blocks, figures, lists, etc.) with absolute pixel coordinates for precise localization, achieving state-of-the-art OmniDocBench v1.5 scores of 89.45 overall (+14.78 over original Dolphin), 0.054 edit distance for text/reading order, 86.72% CDM for formulas, and 87.02/90.48 TEDS/TEDS-S for tables at 0.1729 FPS on 8-12GB VRAM GPUs. Specialized modules (P_formula, P_code, P_table, P_paragraph) enable structured JSON/Markdown/HTML outputs for privacy-focused local inference in healthcare/legal/finance, outperforming general VLMs in speed (2x faster) and accuracy across distortions, skews, and perspectives.

Dolphin-v2 [GGUF]

File NameQuant TypeFile SizeFile Link
Dolphin-v2.BF16.ggufBF166.18 GBDownload
Dolphin-v2.F32.ggufF3212.3 GBDownload
Dolphin-v2.IQ4_XS.ggufIQ4_XS1.75 GBDownload
Dolphin-v2.Q2_K.ggufQ2_K1.27 GBDownload
Dolphin-v2.Q3_K_L.ggufQ3_K_L1.71 GBDownload
Dolphin-v2.Q3_K_M.ggufQ3_K_M1.59 GBDownload
Dolphin-v2.Q3_K_S.ggufQ3_K_S1.45 GBDownload
Dolphin-v2.Q4_K_M.ggufQ4_K_M1.93 GBDownload
Dolphin-v2.Q4_K_S.ggufQ4_K_S1.83 GBDownload
Dolphin-v2.Q5_K_M.ggufQ5_K_M2.22 GBDownload
Dolphin-v2.Q5_K_S.ggufQ5_K_S2.17 GBDownload
Dolphin-v2.Q6_K.ggufQ6_K2.54 GBDownload
Dolphin-v2.Q8_0.ggufQ8_03.29 GBDownload
Dolphin-v2.f16.ggufF166.18 GBDownload
Dolphin-v2.i1-IQ1_M.ggufi1-IQ1_M850 MBDownload
Dolphin-v2.i1-IQ1_S.ggufi1-IQ1_S791 MBDownload
Dolphin-v2.i1-IQ2_M.ggufi1-IQ2_M1.14 GBDownload
Dolphin-v2.i1-IQ2_S.ggufi1-IQ2_S1.06 GBDownload
Dolphin-v2.i1-IQ2_XS.ggufi1-IQ2_XS1.03 GBDownload
Dolphin-v2.i1-IQ2_XXS.ggufi1-IQ2_XXS948 MBDownload
Dolphin-v2.i1-IQ3_M.ggufi1-IQ3_M1.49 GBDownload
Dolphin-v2.i1-IQ3_S.ggufi1-IQ3_S1.46 GBDownload
Dolphin-v2.i1-IQ3_XS.ggufi1-IQ3_XS1.39 GBDownload
Dolphin-v2.i1-IQ3_XXS.ggufi1-IQ3_XXS1.28 GBDownload
Dolphin-v2.i1-IQ4_NL.ggufi1-IQ4_NL1.83 GBDownload
Dolphin-v2.i1-IQ4_XS.ggufi1-IQ4_XS1.74 GBDownload
Dolphin-v2.i1-Q2_K.ggufi1-Q2_K1.27 GBDownload
Dolphin-v2.i1-Q2_K_S.ggufi1-Q2_K_S1.2 GBDownload
Dolphin-v2.i1-Q3_K_L.ggufi1-Q3_K_L1.71 GBDownload
Dolphin-v2.i1-Q3_K_M.ggufi1-Q3_K_M1.59 GBDownload
Dolphin-v2.i1-Q3_K_S.ggufi1-Q3_K_S1.45 GBDownload
Dolphin-v2.i1-Q4_0.ggufi1-Q4_01.83 GBDownload
Dolphin-v2.i1-Q4_1.ggufi1-Q4_12 GBDownload
Dolphin-v2.i1-Q4_K_M.ggufi1-Q4_K_M1.93 GBDownload
Dolphin-v2.i1-Q4_K_S.ggufi1-Q4_K_S1.83 GBDownload
Dolphin-v2.i1-Q5_K_M.ggufi1-Q5_K_M2.22 GBDownload
Dolphin-v2.i1-Q5_K_S.ggufi1-Q5_K_S2.17 GBDownload
Dolphin-v2.i1-Q6_K.ggufi1-Q6_K2.54 GBDownload
Dolphin-v2.imatrix.ggufimatrix3.39 MBDownload
Dolphin-v2.mmproj-Q8_0.ggufmmproj-Q8_0848 MBDownload
Dolphin-v2.mmproj-bf16.ggufmmproj-bf161.34 GBDownload
Dolphin-v2.mmproj-f16.ggufmmproj-f161.34 GBDownload
Dolphin-v2.mmproj-f32.ggufmmproj-f322.67 GBDownload

Quants Usage

(sorted by size, not necessarily quality. IQ-quants are often preferable over similar sized non-IQ quants)

Here is a handy graph by ikawrakow comparing some lower-quality quant types (lower is better):

image.png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
78e5bbd

0 моделей