/ Модель

Характеристики

Контекст
262 144 токена
Параметры
13,4 млрд
Лицензия
Apache 2.0
Архитектура
ministral3 · dense
Базовая модель
Ministral-3-14B-Instruct-2512-BF16
Библиотека
transformers
Опубликована
4 апр 2026

Ministral-3-14B-Instruct-2512-textonly-NVFP4

Генерация текстаТекст → текст15 профессий

Ministral-3-14B-Instruct-2512-textonly-NVFP4 — текстовая производная модели Ministral-3-14B-Instruct-2512-BF16 от Mistral, подготовленная сообществом ppetermann.

585скачиваний за 30 дней0лайковвеса обновлены4 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и использования в формате instruct, включая развёртывание сервиса вывода через vLLM и OpenAI-совместимый API.

Модель содержит только языковую часть исходного мультимодального чекпойнта: поддержка изображений и другие функции компьютерного зрения удалены. Она основана на архитектуре MistralForCausalLM и имеет заявленный размер исходной модели 14B параметров. Веса полностью квантизованы в формате NVFP4 и сохранены в формате compressed-tensors, что ориентировано на эффективное выполнение при поддержке соответствующего аппаратного и программного стека. README не указывает языки, размер контекста и точные характеристики качества.

Сильными сторонами являются уменьшенный формат хранения и ориентация на производительное серверное инференс-развёртывание; автор сообщает около 21 токена в секунду на запрос при работе через vLLM на машине с GB10. Ограничения включают отсутствие мультимодальности и зависимость от совместимости с vLLM и NVFP4. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Ministral-3-14B-Instruct-2512 text-only NVFP4

This repository contains a text-only and NVFP4-quantized derivative of:

What this is

The original upstream checkpoint is multimodal. This repo contains:

  • the text-only language model extracted from the original checkpoint
  • quantized to full NVFP4
  • saved in compressed-tensors format
  • adjusted for vLLM loading

I'm running this with about 21 token/s per request in vllm using the openai style api on a GB10 based machine.

The Hugging Face UI may report unusual parameter and tensor-type information for this model. That is expected for compressed NVFP4 artifacts and should not be interpreted as the original dense model having changed to a literal 5B FP32/BF16 model.

Important notes

  • This is not the original upstream model.
  • This is not multimodal. Vision/image support was removed during extraction.
  • This repo is intended primarily for vLLM serving.
  • The config.json was patched to use:
"architectures": ["MistralForCausalLM"]

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
Ministral3ForCausalLM
Ревизия весов
f2add03

0 моделей