These are quantizations of the model Chandra-OCR
Original model: https://huggingface.co/datalab-to/chandra
Try to use the best quality you can run.
For the mmproj, try to use the F32 version as it will produce the best results. F32 > BF16 > F16
noctrex/Chandra-OCR-GGUF — набор GGUF-квантизаций модели Chandra-OCR, базовая модель которой опубликована организацией datalab-to.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для преобразования изображений в текст и задач OCR, включая обработку визуальных документов. README не содержит подробностей об архитектуре, размере, поддерживаемых языках, длине контекста или точном наборе визуальных возможностей.
Доступны варианты квантизации, позволяющие запускать модель с различными требованиями к ресурсам. Для мультимодального проектора mmproj рекомендуется версия F32 как наиболее качественная; далее по ожидаемому качеству указаны BF16 и F16. Конкретные компромиссы между качеством, скоростью и потреблением памяти для вариантов GGUF не описаны. Лицензия в предоставленных данных не указана.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
These are quantizations of the model Chandra-OCR
Original model: https://huggingface.co/datalab-to/chandra
Try to use the best quality you can run.
For the mmproj, try to use the F32 version as it will produce the best results. F32 > BF16 > F16
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).