/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
499 млн
Лицензия
CC BY-SA 4.0
Архитектура
qwen2 · dense
Опубликована
13 янв 2025

OuteTTS-0.3-500M

Генерация текстаТекст → текст3 профессии

Многоязычная модель OuteAI на базе Qwen2.5-0.5B для синтеза речи из текста и интеграции TTS в LLM.

434скачиваний за 30 дней36лайковвеса обновлены17 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OuteTTS-0.3-500M — модель синтеза речи от OuteAI на архитектуре Qwen2, созданная на базе Qwen2.5-0.5B. Она преобразует текст в речь и рассчитана на интеграцию речевых возможностей в существующие LLM. Модель обучалась на данных с примерно 10 000 часами аудио; размер по метаданным — 499,1 млн параметров, длина контекста — 32 768 токенов.

Поддерживаются английский, японский, корейский, китайский, французский и немецкий языки. Версия 0.3 улучшает связность и естественность речи, в том числе за счёт обработки знаков пунктуации. В README также заявлена экспериментальная настройка голоса, но она может работать непоследовательно. Генерация лучше подходит для фрагментов длительностью около 30 секунд, причём образец голоса сокращает доступную длительность генерации.

Модель опубликована под лицензией CC-BY-SA-4.0. Базовая модель Qwen2.5-0.5B указана в README с лицензией Apache-2.0.

Сценарии применения

  • озвучивание текста на английском, японском, корейском, китайском, французском и немецком
  • генерация коротких речевых фрагментов с учётом пунктуации
  • добавление синтеза речи в приложения на базе LLM
  • эксперименты с настройкой голоса по образцу говорящего

Ограничения

Настройка голоса находится на ранней экспериментальной стадии и может давать непоследовательные результаты. Модель лучше работает с генерацией примерно до 30 секунд за раз; референсный образец голоса сокращает доступную длительность.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

OuteTTS Version 0.3

OuteTTS version 0.3 introduces multiple model variants tailored for diverse use cases. This release significantly enhances the naturalness and coherence of speech synthesis by adding punctuation support, improving the flow and clarity of generated speech. The following punctuation marks are supported: '.', '!', '?', ',', '"', '„', '¡', '¿', '…', '...', '。', '!', '?', ',', '؟'. These are converted into special tokens, for instance, . is transformed into <|period|>. Additionally, the models were trained on refined and extended datasets, offering broader linguistic coverage. With this version, two new languages, German (de) and French (fr), are supported, bringing the total to six languages: English (en), Japanese (jp), Korean (ko), Chinese (zh), French (fr), and German (de).

OuteTTS is a solution designed to extend any existing large language model (LLM) with text-to-speech (TTS) and speech-to-speech capabilities. By preserving the original architecture, it ensures high compatibility with a broad range of libraries and tools, making it easy to integrate speech functionalities without compromising on flexibility.

Experimental voice control features are also included, though they are in very early stage of development. Due to limited data, these features may produce inconsistent results and might sometimes be ignored by the model.

Special thanks to Hugging Face 🤗 for providing the GPU grant that made training this model possible!

Available Variants

OuteTTS-0.3-500M

  • Base: Qwen2.5-0.5B (Apache-2.0)
  • TTS Model License: CC-BY-SA-4.0
  • Training: 10,000 hours of speech audio (~4 billion tokens)
  • Supported Languages: en, jp, ko (small dataset), zh, fr, de

OuteTTS-0.3-1B

  • Base: OLMo-1B (Apache-2.0)
  • TTS Model License: CC-BY-NC-SA-4.0 (Incorporates the Emilia dataset, for improved quality)
  • Training: 20,000 hours of speech audio (~8 billion tokens)
  • Supported Languages: en, jp, ko, zh, fr, de

Showcase Video


Installation

Install the OuteTTS package via pip:

pip install outetts --upgrade

Usage

Quick Start: Full Basic Example

import outetts

# Configure the model
model_config = outetts.HFModelConfig_v2(
    model_path="OuteAI/OuteTTS-0.3-1B",
    tokenizer_path="OuteAI/OuteTTS-0.3-1B"
)
# Initialize the interface
interface = outetts.InterfaceHF(model_version="0.3", cfg=model_config)

# You can create a speaker profile for voice cloning, which is compatible across all backends.
# speaker = interface.create_speaker(audio_path="path/to/audio/file.wav")
# interface.save_speaker(speaker, "speaker.json")
# speaker = interface.load_speaker("speaker.json")

# Print available default speakers
interface.print_default_speakers()
# Load a default speaker
speaker = interface.load_default_speaker(name="en_male_1")

# Generate speech
gen_cfg = outetts.GenerationConfig(
    text="Speech synthesis is the artificial production of human speech.",
    temperature=0.1,
    repetition_penalty=1.1,
    max_length=4096,
    speaker=speaker,
)
output = interface.generate(config=gen_cfg)

# Save the generated speech to a file
output.save("output.wav")

Additional Usage Examples

[!IMPORTANT] For additional usage examples and recommendations, visit the: GitHub repository.

Generation Performance

[!IMPORTANT] The model performs best with 30-second generation batches. This window is reduced based on the length of your speaker samples. For example, if the speaker reference sample is 10 seconds, the effective window becomes approximately 20 seconds. I am currently working on adding batched generation capabilities to the library, along with further improvements that are not yet implemented.


Dataset Attribution

The OuteTTS-0.3-500M training data incorporates various publicly available speech datasets. Below is a summary of the key data sources:

  • Mozilla Common Voice: CC-0
  • MLCommons People's Speech Dataset (selected portions): CC-BY 4.0
  • Noisy Speech Database (Edinburgh DataShare): CC BY 4.0
  • Multilingual LibriSpeech (MLS): CC BY 4.0
  • CSTR VCTK Corpus (Edinburgh DataShare): CC BY 4.0
  • THCHS-30 (Open Speech and Language Resources): Apache-2.0
  • Zeroth-Korean (Open Speech and Language Resources): CC BY 4.0
  • Aishell (Open Speech and Language Resources): Apache-2.0
  • Other permissively licensed datasets

Credits & References

Special acknowledgment to the open-source community and researchers for their valuable contributions.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
7e7c988

0 моделей