Характеристики

Базовая модель: MiniCPM-o-2_6
Опубликована: 29 янв 2025

Ссылки

MiniCPM-o-2_6-GGUF

Изображение и текст → текст11 профессий

MiniCPM-o-2_6-GGUF — квантованная в формате GGUF версия мультимодальной модели MiniCPM-o-2_6, разработанной командой OpenBMB.

1 212скачиваний за 30 дней8лайковвеса обновлены29 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Квантизацию выполнил bartowski на основе llama.cpp версии b4585. Модель предназначена для мультимодального взаимодействия, включая анализ изображений, оптическое распознавание текста, работу с несколькими изображениями и видео, а также задачи, связанные с речью и аудио: распознавание речи, синтез речи, клонирование голоса и потоковые голосовые диалоги в реальном времени.

Модель поддерживает изображения с произвольным соотношением сторон объёмом до 1,8 млн пикселей, например 1344×1344. Она заявлена как end-to-end omni-модальная и мультиязычная; README также указывает поддержку vision, audio и speech, но не перечисляет конкретные языки, размер модели, точную архитектуру или максимальную длину текстового контекста. Формат GGUF и совместимость с llama.cpp делают модель ориентированной на локальный запуск, включая сценарии на мобильных устройствах, однако требования к памяти и производительность зависят от варианта квантизации и оборудования.

Сильными сторонами являются сочетание обработки изображений, видео, аудио и речи, поддержка потокового мультимодального взаимодействия и работа с изображениями высокого разрешения. Возможные ограничения — зависимость качества и скорости от квантизации и локальной инфраструктуры, а также риск неточных или неподходящих ответов, характерный для мультимодальных моделей. В README не указана лицензия модели, поэтому условия её использования следует уточнять в документации оригинальной модели MiniCPM-o-2_6 и соответствующего GGUF-файла.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей I.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953модели I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

💫 Community Model> MiniCPM o 2_6 by Openbmb

👾 LM Studio Community models highlights program. Highlighting new & noteworthy models by the community. Join the conversation on Discord.

Model creator: openbmb Original model: MiniCPM-o-2_6 GGUF quantization: provided by bartowski based on llama.cpp release b4585

Technical Details

Supports images of any aspect ratio up to 1.8 million pixels (e.g. 1344x1344)

End to end omni modal

See more in their technical report (here)[https://openbmb.notion.site/MiniCPM-o-2-6-A-GPT-4o-Level-MLLM-for-Vision-Speech-and-Multimodal-Live-Streaming-on-Your-Phone-185ede1b7a558042b5d5e45e6b237da9]

Special thanks

🙏 Special thanks to Georgi Gerganov and the whole team working on llama.cpp for making all of this possible.

Disclaimers

LM Studio is not the creator, originator, or owner of any Model featured in the Community Model Program. Each Community Model is created and provided by third parties. LM Studio does not endorse, support, represent or guarantee the completeness, truthfulness, accuracy, or reliability of any Community Model. You understand that Community Models can produce content that might be offensive, harmful, inaccurate or otherwise inappropriate, or deceptive. Each Community Model is the sole responsibility of the person or entity who originated such Model. LM Studio may not monitor or control the Community Models and cannot, and does not, take responsibility for any such Model. LM Studio disclaims all warranties or guarantees about the accuracy, reliability or benefits of the Community Models. LM Studio further disclaims any warranty that the Community Model will meet your requirements, be secure, uninterrupted or available at any time or location, or error-free, viruses-free, or that any errors will be corrected, or otherwise. You will be solely responsible for any damage resulting from your use of or access to the Community Models, your downloading of any Community Model, or use of any other Community Model provided by or through LM Studio.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: 5a92de6