Мультиязычная 6-битная версия Voxtral для потокового распознавания и транскрипции речи.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
mlx-community/Voxtral-Mini-4B-Realtime-6bit — конвертированная в формат MLX версия Voxtral-Mini-4B-Realtime-2602 от Mistral AI. Это мультиязычная модель для распознавания и потоковой транскрипции речи, предназначенная для обработки аудио с низкой задержкой. Репозиторий использует safetensors и библиотеку MLX; в названии указана 6-битная точность. Базовая модель связана с этой версией как дообученная. Модель распространяется по лицензии Apache-2.0.
В карточке не приведены результаты оценки качества или подробные ограничения применения; 6-битное представление может влиять на точность относительно исходных весов.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model mlx-community/Voxtral-Mini-4B-Realtime-6bit was converted to MLX format from mistralai/Voxtral-Mini-4B-Realtime-2602 using voxmlx.
pip install voxmlx
from voxmlx import transcribe
text = transcribe("audio.flac", model_path="mlx-community/Voxtral-Mini-4B-Realtime-6bit")
print(text)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon.