Ministral-3-8B-Instruct-2512-GGUF
This model is converted from mistralai/Ministral-3-8B-Instruct-2512-BF16 to GGUF using convert_hf_to_gguf.py
To use it:
llama-server -hf ggml-org/Ministral-3-8B-Instruct-2512-GGUF
Ministral-3-8B-Instruct-2512-GGUF — это конвертированная в формат GGUF версия модели Ministral-3-8B-Instruct-2512-BF16, разработанной Mistral AI; конвертацию выполнил ggml-org с использованием convert_hf_to_gguf.py.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для задач image-text-to-text, то есть обработки текстово-визуальных запросов и генерации текста на их основе.
Из доступных данных известно, что модель содержит 8 миллиардов параметров и поставляется в формате GGUF, ориентированном на запуск с совместимыми инструментами, включая llama-server. Исходная модель использует формат BF16. Сведения о поддерживаемых языках, размере контекста, конкретных модальностях и рабочих характеристиках в README не указаны, поэтому их нельзя достоверно оценить.
Модель распространяется по лицензии Apache-2.0. README не содержит подробных данных о сильных сторонах, ограничениях, требованиях к аппаратному обеспечению или результатах тестирования.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model is converted from mistralai/Ministral-3-8B-Instruct-2512-BF16 to GGUF using convert_hf_to_gguf.py
To use it:
llama-server -hf ggml-org/Ministral-3-8B-Instruct-2512-GGUF
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).