/ Модель

Характеристики

Архитектура
irodori_tts · dense
Базовая модель
Irodori-TTS-v4-Small
Библиотека
mlx-audio
Опубликована
10 авг 2026

Irodori-TTS-v4-Small-fp16

Синтез речиТекст → аудио3 профессии

Японская модель преобразует текст в речь, поддерживает клонирование голоса по аудиореференсу и создание голоса по текстовому описанию.

30скачиваний за 30 дней1лайквеса обновлены10 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Irodori-TTS-v4-Small-fp16 — японская модель синтеза речи из текста, преобразованная проектом mlx-community в формат MLX из Aratako/Irodori-TTS-v4-Small. Она объединяет клонирование голоса по образцу речи, VoiceDesign по текстовому описанию голоса и автоматический прогноз длительности речи в одном чекпойнте. Модель предназначена для локального синтеза речи с библиотекой mlx-audio; в репозитории поставляются текстовый энкодер ModernBERT-ja-310m с токенизатором и японский аудиокодек Semantic-DACVAE-Japanese-32dim, поэтому для инференса не требуются дополнительные загрузки.

Для клонирования можно подать референсную аудиозапись длительностью до 120 секунд; несколько аудиоклипов кодируются отдельно и объединяются. При генерации по описанию голоса без референсного аудио короткие тексты менее чем примерно из семи токенов могут озвучиваться дважды из-за прогноза длительности; это поведение соответствует исходной реализации PyTorch. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Сценарии применения

  • синтез японской речи из текста
  • клонирование голоса по аудиозаписи до 120 секунд
  • создание голоса по текстовому описанию
  • генерация речи с автоматическим прогнозом длительности

Ограничения

Короткие тексты менее чем примерно из семи токенов при генерации по описанию голоса без референсного аудио могут озвучиваться дважды; для обхода README рекомендует передать референс или настроить duration_scale либо seconds. Лицензия в предоставленных материалах не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/Irodori-TTS-v4-Small-fp16

This model was converted to MLX format from Aratako/Irodori-TTS-v4-Small using mlx-audio version 0.4.7.

Use with mlx-audio

pip install -U mlx-audio

Command line

mlx_audio.tts.generate --model mlx-community/Irodori-TTS-v4-Small-fp16 --text "こんにちは、Irodori TTSのMLX版です。" --ref_audio reference.wav

Python

from mlx_audio.tts.generate import generate_audio

generate_audio(
    text="こんにちは、Irodori TTSのMLX版です。",
    model="mlx-community/Irodori-TTS-v4-Small-fp16",
    ref_audio="reference.wav",
    file_prefix="output",
)

Notes

  • Unified v4 model: voice cloning, VoiceDesign (caption) and automatic duration prediction in one checkpoint.
  • The ModernBERT-ja-310m text encoder weights and its tokenizer are bundled, and the Semantic-DACVAE-Japanese-32dim codec ships in dacvae/, so inference needs no additional downloads.
  • Reference audio: up to 120s. Passing a list of clips encodes each separately and concatenates them, which matches training better than one long recording.
  • With a caption but no reference audio, the duration predictor roughly doubles the length of short texts (under ~7 tokens) and the model reads the sentence twice to fill the window. This matches the reference PyTorch implementation. Pass reference audio, or set duration_scale / seconds.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx-audio

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Ревизия весов
ed5ae49

0 моделей