/ Модель

Характеристики

Параметры
3,5 млн
Лицензия
CC BY 4.0
Архитектура
vits · dense
Базовая модель
vits-vctk-with-discriminator
Библиотека
transformers
Опубликована
13 июн 2026

bam-vits-pseudo-ipa-train

Синтез речиТекст → аудио3 профессии

Экспериментальный недообученный чекпойнт VITS для продолжения обучения синтезу речи на бамбара с псевдо-IPA предобработкой.

10скачиваний за 30 дней0лайковвеса обновлены3 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Синтез речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели сгенерируют результат по каждой задаче. Опубликованный тест появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это экспериментальный чекпойнт синтеза речи на языке бамбара, созданный RobotsMali путём дообучения VITS-модели ylacombe/vits-vctk-with-discriminator. Веса сохранены в форме VitsModelForPreTraining вместе с генератором и дискриминатором и предназначены прежде всего для продолжения обучения; для обычного инференса после обучения авторы предлагают экспортировать вариант без дискриминатора. Размер модели — около 3,5 млн параметров, файлы представлены в формате safetensors.

Модель обучалась на небольшом шумном корпусе спонтанной речи бамбара с псевдо-IPA предобработкой текста. Преобразование не применяется токенизатором автоматически, поэтому при продолжении обучения и диагностическом синтезе требуется использовать тот же cleaner. Чекпойнт прошёл лишь 200 эпох и существенно недообучен; авторы не обнаружили заметного улучшения относительно варианта с обычным текстом, а результат не проверялся статистически.

Модель подходит для экспериментов и продолжения обучения синтезу речи на бамбара, но не считается сошедшейся или готовой к практическому использованию. Не представлены оценки разборчивости, качества голоса, сходства диктора, безопасности, смещений, приватности или запоминания данных. Лицензия — CC BY 4.0.

Сценарии применения

  • продолжение обучения синтеза речи на бамбара
  • эксперименты с псевдо-IPA для произношения бамбара
  • диагностическая генерация речи из текста на бамбара
  • исследование переноса VITS на малоресурсный язык

Ограничения

Чекпойнт существенно недообучен после 200 эпох на небольшом шумном корпусе и не должен считаться сошедшимся. Псевдо-IPA преобразование эвристическое и требует одинаковой предобработки при обучении и диагностическом инференсе; формальные оценки качества не приведены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Bambara VITS — pseudo-IPA training checkpoint

RobotsMali/bam-vits-pseudo-ipa-train retains the generator and discriminator in VitsModelForPreTraining form for continued training. It corresponds to RobotsMali/bam-vits-pseudo-ipa, whose discriminator was removed for inference.

Substantially undertrained. It received 200 epochs on a small, noisy corpus, far below VITS training budgets of hundreds of thousands of steps (approximately 200,000 is our reference). Continue training and evaluate it; do not treat it as converged.

Usage: required text preprocessing

The pseudo-IPA transform is the only intended experimental difference from the plain-input line. The tokenizer does not apply it automatically. Use the same cleaner for training and any diagnostic inference:

import re


def clean_bambara_pseudo_ipa(text):
    """Translate Bambara text into the pseudo-IPA form used for training."""
    if not text or not isinstance(text, str):
        return ""
    text = text.lower()
    nasal_map = {
        "aan": "ãã", "ɛɛn": "ɛ̃ɛ̃", "een": "ẽẽ", "iin": "ĩĩ",
        "ɔɔn": "ɔ̃ɔ̃", "oon": "õõ", "uun": "ũũ", "an": "ã",
        "ɛn": "ɛ̃", "en": "ẽ", "in": "ĩ", "ɔn": "ɔ̃", "on": "õ",
        "un": "ũ",
    }
    for ortho, ipa in nasal_map.items():
        text = re.sub(rf"{ortho}(?![aeɛioɔu])", ipa, text)
    for b_char, ipa_char in {"j": "dʒ", "c": "tʃ", "ɲ": "ɲ", "ŋ": "ŋ"}.items():
        text = text.replace(b_char, ipa_char)
    text = re.sub(r"[^a-zɛɔɲŋãẽĩõṹ̀̂̌̄\s.,!?ʃʒ]", "", text)
    return re.sub(r"\s+", " ", text).strip()

Continue training

Use the RobotsMali repository, which imports this cleaner and the custom training model:

git clone https://github.com/RobotsMali-AI/vits-bam.git
cd vits-bam
python -m pip install -r requirements.txt
cd monotonic_align && python setup.py build_ext --inplace && cd ..
cp config/bam-vits-pseudo-ipa.yaml config/my-pseudo-ipa-experiment.yaml

Set model.model_name_or_path and model.tokenizer_name to RobotsMali/bam-vits-pseudo-ipa-train, keep model.pseudo_ipa: true, configure your dataset columns/output path, then run:

accelerate launch run_vits_finetuning.py config/my-pseudo-ipa-experiment.yaml

The checkpoint is about 323 MB because it includes the discriminator. Use push_vits_model.py --inference_only after training to export a normal transformers.VitsModel.

Provenance and experiment

Training followed English VCTK ylacombe/vits-vctk-with-discriminator → top20-speakers from RobotsMali/afvoices-notag. The split has 21,253 train and 1,128 test examples of spontaneous, variably noisy ASR speech. Tagged transcripts were excluded. The config uses 200 epochs, batch 80, learning rate 0.0005, FP16, and 22.05 kHz audio.

The hypothesis was that IPA-like input might improve transfer from an English checkpoint trained with English phonetics. We observed no remarkable improvement in quality or convergence, and plain Bambara often sounded slightly more natural. Bambara's largely phonetic orthography and the large acoustic mismatch may explain this. The finding is informal and not statistically validated.

Limitations and responsible use

The cleaner is heuristic pseudo-IPA, not a complete linguistic transcription. No MOS, intelligibility, speaker similarity, safety, bias, privacy, or memorization evaluation is reported. Undertraining and noisy, limited data can propagate poor prosody, pronunciation errors, speaker leakage, and demographic imbalance. The participant-to-speaker-index mapping was not exported.

For every derivative, document data and preprocessing, evaluate quality and consent, and disclose synthetic audio. Do not use this checkpoint for impersonation, deception, or safety-critical speech.

References

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
VitsModelForPreTraining
Ревизия весов
192dad1

0 моделей