Четырёхбитная версия Whisper Small в формате MLX для распознавания и транскрибирования речи.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
mlx-community/whisper-small-4bit — версия Whisper Small, подготовленная mlx-community для запуска в формате MLX и с 4-битным представлением весов. Репозиторий создан конвертацией openai/whisper-small с помощью mlx-audio-plus версии 0.1.4; модель предназначена для распознавания речи и транскрибирования аудио. Whisper Small — мультиязычная модель OpenAI, способная также переводить аудио на английский язык.
Модель принимает аудио и выдаёт текст. Она распространяется по лицензии Apache-2.0 и рассчитана на запуск через библиотеку mlx-audio-plus. Доступные сведения не описывают точность на конкретных языках или типах записей; результат может зависеть от качества аудио и условий записи.
В карточке нет данных о точности модели на отдельных языках и типах аудио. Перевод аудио на английский указан для базовой Whisper Small; README этой версии подробно не описывает языковые характеристики.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from openai/whisper-small using mlx-audio-plus version 0.1.4.
pip install -U mlx-audio-plus
mlx_audio.stt --model mlx-community/whisper-small-4bit --audio audio.mp3
from mlx_audio.stt import transcribe
result = transcribe(
audio="audio.mp3",
model="mlx-community/whisper-small-4bit",
)
print(result["text"])
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx-audio-plus
MLX-модели работают только на Apple Silicon.