8-битная MLX-версия MOSS-Transcribe-Diarize для распознавания речи и разделения аудиозаписи по говорящим.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это 8-битная версия модели MOSS-Transcribe-Diarize, подготовленная для запуска через MLX. В README указано, что квантизован текстовый блок модели методом affine quantization с bits=8 и group_size=64; аудиоэнкодер Whisper и VQ-адаптер не квантизованы. По метаданным архитектура обозначена как плотная модель MossTranscribeDiarizeForConditionalGeneration, библиотека — MLX.
Модель предназначена для распознавания речи и диаризации говорящих в аудиозаписях. Пример запуска из README принимает WAV-файл и сохраняет результаты в указанную папку. Метаданные также указывают поддержку генерации текста.
Модель распространяется по лицензии Apache-2.0. Квантизация затрагивает только текстовый блок; README не приводит измерений качества или требований к ресурсам.
В README не приведены результаты оценки качества или перечень поддерживаемых языков. Квантизован только текстовый блок; аудиоэнкодер Whisper и VQ-адаптер оставлены без квантизации.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
8bit MLX weight-only quantized variant of vanch007/mlx-MOSS-Transcribe-Diarize.
Quantization uses MLX affine quantization with bits=8 and group_size=64 on the text backbone, excluding the Whisper audio encoder and VQ adaptor.
python -m moss_transcribe_diarize.mlx.cli /path/to/input.wav \
--model vanch007/mlx-MOSS-Transcribe-Diarize-8bit \
--out-dir runs/mlx_8bit_example
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon.