/ Модель

Характеристики

Контекст
131 072 токена
Размер весов
2,5 ГБ
Лицензия
Apache 2.0
Архитектура
omnivoice · dense
Базовая модель
OmniVoice
Библиотека
mlx
Опубликована
15 мая 2026

OmniVoice

Синтез речиТекст → аудио3 профессии

Конверсия многоязычной OmniVoice для MLX на Apple Silicon, предназначенная для синтеза речи и zero-shot клонирования голоса.

178скачиваний за 30 дней3лайкавеса обновлены30 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OmniVoice (MLX) — конверсия многоязычной модели синтеза речи OmniVoice, разработанной k2-fsa, для запуска на компьютерах Apple Silicon с библиотекой MLX. Модель преобразует текст в речь и поддерживает zero-shot клонирование голоса. Вариант по умолчанию использует веса fp32; в коллекции также представлены версии fp32 и bfloat16.

Модель предназначена для генерации речи на разных языках и создания озвучки голосом, заданным аудиопримером. Репозиторий содержит преобразованные веса MLX, конфигурацию и токенизатор из официального чекпойнта, а также необходимые компоненты аудиотокенизатора. Размер и длина контекста в предоставленных данных не указаны. Лицензия — Apache-2.0; сведения об upstream-модели и её репозитории остаются авторитетными для использования вне MLX.

Сценарии применения

  • озвучивание текста на разных языках
  • создание речи с голосом по аудиопримеру
  • быстрое прототипирование синтеза речи на Apple Silicon

Ограничения

Для надёжного кодирования голоса при клонировании требуется полный аудиотокенизатор; облегчённые компоненты могут декодировать аудио, но не обеспечивают надёжный путь кодирования голоса говорящего. Эта сборка рассчитана на MLX и Apple Silicon.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Part of the OmniVoice MLX collection.

OmniVoice (MLX)

Apple MLX weights for k2-fsa/OmniVoice, a massively multilingual zero-shot TTS model. This is a community MLX conversion for Apple Silicon; the upstream model card, license, and repository remain authoritative for non-MLX usage.

TL;DR

Variantdefault fp32 entry
Best fordefault entry; same role as the fp32 baseline
Runtimeailuntx/OmniVoice-MLX
Official codek2-fsa/OmniVoice
FormatMLX safetensors + tokenizer/config assets
HardwareApple Silicon recommended; HF Spaces Linux CPU fallback can be slow

Quick Start

hf download mlx-community/OmniVoice --local-dir ./models/OmniVoice

git clone https://github.com/ailuntx/OmniVoice-MLX.git
cd OmniVoice-MLX
python -m venv .venv
.venv/bin/pip install -e .

Run a minimal generation from the MLX helper repository:

.venv/bin/python scripts/infer_mlx.py \
  --model ./models/OmniVoice \
  --text "Hello from OmniVoice MLX." \
  --language en \
  --output output.wav

Variants

VariantBest for
OmniVoicedefault entry
OmniVoice-fp32high-precision baseline
OmniVoice-bfloat16high-quality Apple Silicon use
OmniVoice-8bitsmaller local checkpoint
OmniVoice-4bitsmallest checkpoint and Space default

Layout

OmniVoice/
├── config.json
├── model.safetensors / shards
├── tokenizer files
├── audio_tokenizer/
└── mlx_manifest.json

Conversion Notes

ComponentSourceMLX handling
main modelk2-fsa/OmniVoiceconverted to MLX weights
tokenizer/configofficial checkpointcopied for runtime compatibility
audio tokenizerofficial OmniVoice assetsincluded as a required subcomponent

Validation

Local MLX smoke tests were used during conversion. For voice cloning checks, use a full audio tokenizer; slim tokenizer assets can decode audio but do not provide a reliable speaker-encoding path.

License

License follows the upstream OmniVoice release.

Citation

@misc{omnivoice-mlx,
  title  = {OmniVoice-MLX: Apple MLX port of OmniVoice},
  author = {ailuntx},
  year   = {2026},
  url    = {https://github.com/ailuntx/OmniVoice-MLX},
}

@article{zhu2026omnivoice,
  title   = {OmniVoice: Towards Omnilingual Zero-Shot Text-to-Speech with Diffusion Language Models},
  author  = {Zhu, Han and Ye, Lingxuan and Kang, Wei and Yao, Zengwei and Guo, Liyong and Kuang, Fangjun and Han, Zhifeng and Zhuang, Weiji and Lin, Long and Povey, Daniel},
  journal = {arXiv preprint arXiv:2604.00688},
  year    = {2026},
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
OmniVoice
Ревизия весов
defe4bd

0 моделей