Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это GGUF-версия Mistral-Small-4-119B-2603, подготовленная noctrex с квантизацией MXFP4 для тензоров MoE и BF16 для остальных тензоров. Для работы автор рекомендует использовать актуальную версию llama.cpp; для файла mmproj рекомендует вариант F32 для наилучшего качества. Основа — мультимодальная модель Mistral AI для диалогов, рассуждений, программирования, агентных задач и анализа изображений и документов; в карточке репозитория основной pipeline указан как генерация текста.
BF16 для неквантизированных тензоров сохраняет их исходную точность и может давать более высокое качество, чем вариант с Q8, но на некоторых архитектурах работает медленнее. Репозиторий создан 17 марта 2026 года. Лицензия в предоставленных данных не указана.
Сценарии применения
диалоговые ответы и продолжение текста
решение задач с рассуждением
генерация и объяснение программного кода
выполнение агентных задач
анализ изображений и документов при использовании мультимодального компонента
Ограничения
BF16 для части тензоров может работать медленнее на некоторых архитектурах; автор рекомендует использовать актуальную версию llama.cpp. Для анализа изображений требуется mmproj; его F32-вариант рекомендован для наилучшего качества.
Для каких профессий подходит15
Разделы каталога профессий, в задачах которых используется эта модель
For the mmproj file, the F32 version is recommended for best results. F32 > BF16 > F16
The mainline standard is to use MXFP4 for the MoE tensors, and Q8 for the rest.
So I created a new variant, where the other tensors are BF16 instead of Q8.
On some architectures BF16 will be slower, but its the highest quality, essentialy its the original tensors from the model copied over unquantized.
This model here has been quantized like this.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров