/ Модель

Характеристики

Контекст
131 072 токена
Параметры
1,5 млрд
Лицензия
Apache 2.0
Архитектура
dots_ocr · dense
Базовая модель
dots.mocr
Библиотека
transformers
Опубликована
16 апр 2026

dots.mocr-FP8

Генерация текстаТекст → текст3 профессии

dots.mocr-FP8 — мультимодальная модель для задач image-text-to-text, представляющая FP8-квантизированную версию rednote-hilab/dots.mocr.

503скачиваний за 30 дней1лайквеса обновлены16 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель опубликована под идентификатором binedge/dots.mocr-FP8; базовая модель разработана rednote-hilab. Она предназначена для сценариев, где требуется обработка изображений и генерация текстового ответа, однако конкретные прикладные задачи, поддерживаемые языки и особенности поведения в README не указаны.

Ключевая особенность версии — динамическая FP8-квантизация текстового backbone с использованием llm-compressor. Квантизации подверглись Linear-слои, а модель сохранена в формате compressed-tensors. Модуль lm_head и пользовательский vision tower исключены из квантизации; vision tower сохранён в формате BF16. Размер модели, архитектура, число параметров, поддерживаемые модальности и максимальная длина контекста в предоставленных данных не указаны.

К преимуществам относятся снижение требований к хранению и потенциальное ускорение инференса по сравнению с полноразмерной версией при сохранении vision tower в BF16. Ограничения связаны с отсутствием подробных сведений о качестве, совместимости, производительности, языках и контексте, а также с возможными особенностями поддержки FP8 и compressed-tensors в конкретной инфраструктуре. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

dots.mocr-FP8

FP8-quantized version of rednote-hilab/dots.mocr.

This model was quantized with llm-compressor using FP8 dynamic activation quantization for the text backbone. The custom vision tower was intentionally excluded from quantization and kept in BF16.

Quantization details

  • Base model: rednote-hilab/dots.mocr
  • Quantization tool: llm-compressor
  • Saved format: compressed-tensors
  • Quantization scheme: FP8_DYNAMIC
  • Targets: Linear
  • Ignored modules:
    • lm_head
    • .*vision_tower.*

Quantization recipe

from llmcompressor import oneshot
from llmcompressor.modifiers.quantization import QuantizationModifier

recipe = QuantizationModifier(
    targets="Linear",
    scheme="FP8_DYNAMIC",
    ignore=[
        "lm_head",
        "re:.*vision_tower.*",
    ],
)

oneshot(model=model, recipe=recipe)

model.save_pretrained("binedge/dots.mocr-FP8", save_compressed=True)
processor.save_pretrained("binedge/dots.mocr-FP8")

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Нельзя запустить

Модели нужен код из репозитория; запуск откроется после проверки совместимости.

Класс архитектуры
DotsOCRForCausalLM
Ревизия весов
2be26bf

0 моделей