Мультимодальная модель на базе Qwen2-VL для извлечения текста и ответов по изображениям документов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
olmOCR-7B-0225-preview-bf16 — конверсия модели allenai/olmOCR-7B-0225-preview в формат MLX, подготовленная сообществом mlx-community с помощью mlx-vlm версии 0.1.14. Это мультимодальная модель на архитектуре Qwen2-VL с 7,1 млрд параметров, дообученная на базе Qwen/Qwen2-VL-7B-Instruct. Она предназначена для преобразования изображений документов в текст и ответа на запросы по их содержимому.
Модель принимает текст и изображения, выдаёт текст; поддерживаемая длина контекста составляет 32 768 токенов. В карточке указан английский язык и лицензия Apache-2.0. Для подробностей о назначении и качестве авторы отсылают к карточке исходной модели.
README содержит лишь краткое описание конверсии и отсылает к карточке исходной модели, поэтому подробные ограничения качества здесь не приведены.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from allenai/olmOCR-7B-0225-preview using mlx-vlm version 0.1.14.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/olmOCR-7B-0225-preview-bf16 --max-tokens 100 --temp 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.