MiniCPM-V-4.6-GGUF
Original model: https://huggingface.co/openbmb/MiniCPM-V-4.6
MiniCPM-V-4.6-GGUF — это GGUF-версия мультимодальной модели MiniCPM-V-4.6, разработанной командой OpenBMB.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
По указанному pipeline_tag модель предназначена для задач image-text-to-text, то есть для обработки изображений вместе с текстовыми запросами и генерации текстовых ответов.
В предоставленных данных не указаны точная архитектура, число параметров, поддерживаемые языки, размер контекста, набор модальностей помимо обработки изображений и текста, а также конкретные сценарии применения и ограничения производительности. Известно, что модель распространяется в формате GGUF, предназначенном для совместимого локального запуска средствами, поддерживающими этот формат.
Модель выпущена по лицензии Apache-2.0. Для детального описания возможностей, требований к оборудованию, доступных квантовок и рекомендаций по использованию следует обратиться к исходной модели openbmb/MiniCPM-V-4.6.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Original model: https://huggingface.co/openbmb/MiniCPM-V-4.6
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).