/ Модель

Характеристики

Параметры
3,5 млн
Лицензия
CC BY-NC 4.0
Архитектура
vits · dense
Базовая модель
mms-tts-ach
Опубликована
4 апр 2026

mms-tts-luo-baseline

Синтез речиТекст → аудио3 профессии

Подготовленный к дообучению чекпойнт VITS для адаптации синтеза речи на луо на основе акустического донора ачоли.

161скачиваний за 30 дней0лайковвеса обновлены4 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Синтез речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели сгенерируют результат по каждой задаче. Опубликованный тест появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это подготовленный к дообучению контрольный чекпойнт WAXAL MMS-TTS для синтеза речи на языке луо. Его описывает rnjema-unima; модель основана на VITS и использует facebook/mms-tts-ach как акустический донор, поскольку готового чекпойнта MMS-TTS для луо нет. В репозитории находятся конфигурационные файлы, а веса не хранятся: при запуске обучения скрипт загружает их из базовой модели.

Чекпойнт предназначен для независимого дообучения на конфигурации luo_tts набора google/WaxalNLP и последующего преобразования текста на луо в речь. Архитектура VITS выполняет синтез сквозным способом, без отдельного вокодера; в метаданных указано 3,5 млн параметров. Донор ачоли служит начальной акустической и просодической основой, которую требуется адаптировать к луо.

Лицензия модели — CC-BY-NC-4.0; данные WAXAL в README указаны под CC-BY-SA-4.0. Чекпойнт не предназначен для непосредственного вывода без загрузки донорских весов и дообучения на целевом языке.

Сценарии применения

  • дообучение синтеза речи на луо на корпусе WAXAL
  • создание системы озвучивания текста на луо после адаптации
  • эксперименты по переносу синтеза речи с ачоли на луо

Ограничения

В репозитории нет весов: для работы требуется базовый чекпойнт facebook/mms-tts-ach и дообучение на данных луо. Исходная модель для ачоли используется как прокси и сама по себе не гарантирует корректный синтез на луо.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

WAXAL MMS-TTS — Luo (luo)

Fine-tuning-ready checkpoint for Luo (luo).

WAXAL dataset configgoogle/WaxalNLP — luo_tts
Data providerLoud and Clear
WAXAL data licenseCC-BY-SA-4.0
Base modelfacebook/mms-tts-ach
Model licenseCC-BY-NC 4.0 (MMS base; governs fine-tuned model)

⚠️ Proxy checkpoint

facebook/mms-tts-luo does not exist in MMS-TTS coverage (1107 languages). This repository fine-tunes from the closest available linguistic donor:

Proxy donorfacebook/mms-tts-ach
Ranked alternativesach, nyn, lug
Other WAXAL languages sharing this donornone

Proximity rationale: Luo (luo) has no MMS checkpoint. Proxy: ach (Acholi; both are Western Nilotic, Nilo-Saharan — same subgroup with closely related phonology, tone system, and lexicon). Secondary: nyn (Nyankole, Bantu, geographically co-located by Loud and Clear). Tertiary: lug (Luganda, Bantu, same recording provider).

Each recipient language is fine-tuned independently from the same donor base. Donor weights provide acoustic/prosodic warm-start; WAXAL fine-tuning adapts them to the target language.

What this repository adds

facebook/mms-tts-* Hub checkpoints are inference-only releases that crash run_vits_finetuning.py. This repository applies three patches:

FileChange
config.jsonpad_token_id set to 0 (was null)
tokenizer_config.jsonpad_token entry added
preprocessor_config.jsonAdded — VitsFeatureExtractor config from ylacombe/mms-tts-eng-train

Model weights are not stored here. _name_or_path in config.json points to facebook/mms-tts-ach, so run_vits_finetuning.py loads weights from that checkpoint at training time.

preprocessor_config.json

Downloaded verbatim from ylacombe/mms-tts-eng-train. Values are VITS architecture constants shared by all MMS-TTS languages.

FieldValue
feature_extractor_typeVitsFeatureExtractor
feature_size80
hop_length256
max_wav_value32768.0
n_fft1024
padding_sideright
padding_value0.0
return_attention_maskFalse
sampling_rate16000
spec_gain1

Usage in finetune-hf-vits

{
  "model_name_or_path":     "rnjema-unima/mms-tts-luo-baseline",
  "feature_extractor_name": "rnjema-unima/mms-tts-luo-baseline",
  "dataset_name":           "google/WaxalNLP",
  "dataset_config_name":    "luo_tts",
  "audio_column_name":      "audio",
  "text_column_name":       "text",
  "train_split_name":       "train",
  "eval_split_name":        "validation"
}

Inference (after fine-tuning)

from transformers import VitsModel, VitsTokenizer
import torch, scipy

model     = VitsModel.from_pretrained("your-org/your-finetuned-model")
tokenizer = VitsTokenizer.from_pretrained("your-org/your-finetuned-model")

inputs = tokenizer("Your text in Luo.", return_tensors="pt")
with torch.no_grad():
    out = model(**inputs)

scipy.io.wavfile.write("output.wav", model.config.sampling_rate,
    out.waveform.squeeze().numpy())

Technical details

ArchitectureVITS (end-to-end, no separate vocoder)
MMS match typeproxy
pad_token_id0
vocab_size28
is_uromanfalse
sampling_rate16000 Hz

References

BibTex Citation:

This model was developed by Vineel Pratap et al. from Meta AI. If you use the model, consider citing the MMS paper:

@article{pratap2023mms, title={Scaling Speech Technology to 1,000+ Languages}, author={Vineel Pratap and Andros Tjandra and Bowen Shi and Paden Tomasello and Arun Babu and Sayani Kundu and Ali Elkahky and Zhaoheng Ni and Apoorv Vyas and Maryam Fazel-Zarandi and Alexei Baevski and Yossi Adi and Xiaohui Zhang and Wei-Ning Hsu and Alexis Conneau and Michael Auli}, journal={arXiv}, year={2023} }

Notable Acknowledgements:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
VitsModel
Ревизия весов
07a5493

0 моделей