Ministral-3-3B-Instruct-2512-GGUF
This model is converted from mistralai/Ministral-3-3B-Instruct-2512-BF16 to GGUF using convert_hf_to_gguf.py
To use it:
llama-server -hf ggml-org/Ministral-3-3B-Instruct-2512-GGUF
Ministral-3-3B-Instruct-2512-GGUF — инструкционная мультимодальная модель, разработанная Mistral AI и представленная в формате GGUF.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Она преобразована из базовой модели mistralai/Ministral-3-3B-Instruct-2512-BF16 с помощью конвертера Hugging Face в GGUF.
Модель предназначена для задач image-text-to-text, то есть обработки текстовых и визуальных входных данных с генерацией текстового ответа. Обозначение 3B указывает на размер примерно 3 миллиарда параметров. Формат GGUF ориентирован на использование в совместимых инструментах локального запуска, включая llama.cpp и llama-server. В README не указаны поддерживаемые языки, размер контекста, точные особенности архитектуры, требования к ресурсам и результаты оценки качества, поэтому сильные стороны и ограничения можно описать только в общих чертах: модель удобна для локального развертывания в экосистеме GGUF, но её практические возможности зависят от используемого рантайма и аппаратной конфигурации. Распространяется по лицензии Apache-2.0.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model is converted from mistralai/Ministral-3-3B-Instruct-2512-BF16 to GGUF using convert_hf_to_gguf.py
To use it:
llama-server -hf ggml-org/Ministral-3-3B-Instruct-2512-GGUF
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).