Мультиязычная модель Mistral AI в формате MLX для потоковой транскрипции речи с низкой задержкой.
335скачиваний за 30 дней3лайкавеса обновлены9 фев 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Voxtral Mini 4B Realtime — преобразованная в формат MLX модель Mistral AI для потокового распознавания речи. Репозиторий содержит вариант с точностью float16, рассчитанный на запуск через библиотеку mlx-audio на устройствах Apple Silicon.
Модель принимает аудио и выдаёт текстовую транскрипцию с низкой задержкой. Она поддерживает потоковую обработку, а скользящее оконное внимание в причинном аудиокодировщике и декодере позволяет работать с длинными аудиопотоками. Архитектура включает аудиокодировщик примерно на 0,6 млрд параметров и языковой декодер примерно на 3,4 млрд параметров; общий размер — около 4 млрд параметров. Поддерживаются арабский, немецкий, английский, испанский, французский, хинди, итальянский, нидерландский, португальский, китайский, японский, корейский и русский языки. В README для ряда тестов приводятся показатели WER при разных задержках; рекомендованная настройка задержки транскрипции — 480 мс.
Модель подходит для потоковой транскрипции речи и расшифровки длинных записей. Для распознавания рекомендуется жадное декодирование с температурой 0.0. Доступна по лицензии Apache-2.0.,
Сценарии применения
потоковая расшифровка речи в реальном времени
транскрипция аудио на русском и других поддерживаемых языках
субтитры для прямых трансляций и разговоров
расшифровка длинных англоязычных записей
Ограничения
Для рекомендуемого качества README советует температуру 0.0 и задержку транскрипции 480 мс; меньшая задержка может ухудшать точность. Репозиторий содержит вариант float16 в формате MLX для использования с mlx-audio.
Для каких профессий подходит5
Разделы каталога профессий, в задачах которых используется эта модель
from mlx_audio.stt.utils import load
model = load("mlx-community/Voxtral-Mini-4B-Realtime-2602-fp16")
# Transcribe audio
result = model.generate("audio.wav")
print(result.text)
# Streaming transcription
for chunk in model.generate("audio.wav", stream=True):
print(chunk, end="", flush=True)
# Adjust transcription delay (lower = faster but less accurate)
result = model.generate("audio.wav", transcription_delay_ms=480)