DeepSeek-V4-Flash-Vision-Exp-GGUF — это квантизированная версия модели DeepSeek-V4-Flash-Vision-Exp, разработанной DeepSeek и опубликованной в формате GGUF организацией ggml-org.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для задач image-text-to-text, то есть обработки изображений и генерации текстовых ответов по ним, и может запускаться с помощью llama.app.
В состав входит vision encoder с компонентом mmproj в формате Q8_0, обеспечивающим обработку визуальных входных данных. Доступны варианты квантования, включая Q2; для них, согласно README, пока не используется imatrix-калибровка. Другие характеристики, включая размер модели, архитектуру, поддерживаемые языки и размер контекста, не указаны.
Модель распространяется по лицензии MIT. Она автоматически сконвертирована с использованием инструментария ggml-org/convert. Ключевые ограничения — неполнота документации и отсутствие imatrix-калибровки для вариантов Q2, что может влиять на их качество.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Run with https://llama.app
llama serve -hf ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF
[!IMPORTANT] This model is automatically converted using https://github.com/ggml-org/convert
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).