Производная модели mlx-community/whisper-large-v3-turbo-4bit. 4-битная версия Whisper large-v3-turbo в формате MLX для распознавания речи и преобразования аудио в текст на устройствах Apple.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Карточка модели hudsonai-app/whisper-large-v3-turbo-4bit на Hugging Face совпадает с карточкой mlx-community/whisper-large-v3-turbo-4bit, поэтому описание составлено по ней.
mlx-community/whisper-large-v3-turbo-4bit — мультиязычная модель распознавания речи на базе OpenAI Whisper large-v3-turbo, преобразованная сообществом mlx-community в формат MLX с 4-битным представлением. Она предназначена для преобразования аудиозаписей в текст и запуска на устройствах Apple через библиотеку mlx-audio-plus. Модель принимает аудио и выдаёт текст; исходная модель также поддерживает перевод речи в текст. Репозиторий распространяется по лицензии Apache-2.0.
Качество распознавания зависит от разборчивости записи и может снижаться при шуме или нескольких одновременно говорящих людях. Для запуска в формате MLX требуется совместимая среда Apple.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from openai/whisper-large-v3-turbo using mlx-audio-plus version 0.1.4.
pip install -U mlx-audio-plus
mlx_audio.stt --model mlx-community/whisper-large-v3-turbo-4bit --audio audio.mp3
from mlx_audio.stt import transcribe
result = transcribe(
audio="audio.mp3",
model="mlx-community/whisper-large-v3-turbo-4bit",
)
print(result["text"])
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx-audio-plus
MLX-модели работают только на Apple Silicon.