4-битная версия MOSS-Transcribe-Diarize для распознавания речи в аудио и диаризации говорящих с использованием MLX.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
vanch007/mlx-MOSS-Transcribe-Diarize-4bit — 4-битная квантизированная версия модели MOSS-Transcribe-Diarize, подготовленная для MLX. Она принимает аудиозаписи и предназначена для распознавания речи с разметкой говорящих. Вариант использует аффинную квантизацию MLX с 4 битами и размером группы 64 для текстового backbone; аудиоэнкодер Whisper и VQ-адаптер не квантизированы. Модель подойдёт для транскрибирования аудиофайлов и определения смены говорящих, в том числе при локальном запуске в окружении MLX.
Репозиторий распространяется по лицензии Apache-2.0. В карточке и метаданных не приведены показатели точности, поддерживаемые языки, размер модели или длина контекста.
В README и метаданных нет результатов оценки качества или перечня поддерживаемых языков; квантизация текстового backbone может влиять на качество распознавания.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
4bit MLX weight-only quantized variant of vanch007/mlx-MOSS-Transcribe-Diarize.
Quantization uses MLX affine quantization with bits=4 and group_size=64 on the text backbone, excluding the Whisper audio encoder and VQ adaptor.
python -m moss_transcribe_diarize.mlx.cli /path/to/input.wav \
--model vanch007/mlx-MOSS-Transcribe-Diarize-4bit \
--out-dir runs/mlx_4bit_example
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon.