Ministral-3-3B-Reasoning-2512-GGUF
This model is converted from mistralai/Ministral-3-3B-Reasoning-2512 to GGUF using convert_hf_to_gguf.py
To use it:
llama-server -hf ggml-org/Ministral-3-3B-Reasoning-2512-GGUF
Ministral-3-3B-Reasoning-2512-GGUF — это конвертированная в формат GGUF версия модели Ministral-3-3B-Reasoning-2512, разработанной Mistral AI.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для задач генерации текста с поддержкой визуально-текстового ввода, что отражено в типе pipeline image-text-to-text. В README указано, что конвертация выполнена с использованием скрипта convert_hf_to_gguf.py.
Модель подходит для локального запуска и интеграции с инструментами, совместимыми с форматом GGUF, включая llama-server. Из идентификатора следует, что модель относится к классу 3B, однако точные сведения об архитектуре, размере контекста, поддерживаемых языках, модальностях и вариантах квантования в README не приведены. Сильными сторонами являются компактный размер и возможность использования в локальной инфраструктуре, но производительность и требования к ресурсам зависят от конкретной конфигурации запуска.
Лицензия модели — Apache 2.0. README указывает базовую модель mistralai/Ministral-3-3B-Reasoning-2512, но не содержит дополнительных ограничений, результатов оценки или подробностей о допустимых сценариях коммерческого использования.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model is converted from mistralai/Ministral-3-3B-Reasoning-2512 to GGUF using convert_hf_to_gguf.py
To use it:
llama-server -hf ggml-org/Ministral-3-3B-Reasoning-2512-GGUF
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).