/ Модель

Характеристики

Контекст
512 токенов
Лицензия
Apache 2.0
Базовая модель
Dia-1.6B
Опубликована
9 мая 2025

aurora-1.6b-complete

Синтез речиТекст → аудио3 профессии

Aurora-1.6B — дообученная многоязычная модель синтеза речи и вокала с управлением эмоциями и заявленным клонированием голоса.

17скачиваний за 30 дней5лайковвеса обновлены9 мая 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Aurora-1.6B — дообученная на многоязычных и певческих наборах данных модель синтеза речи на основе Dia-1.6B. Она предназначена для генерации речи и вокала по тексту с управлением выразительностью через теги говорящего и эмоций; карточка также заявляет клонирование голоса по короткому аудиопримеру и генерацию невербальных вокализаций, таких как смех, кашель и вздохи. Заявлены итальянский, английский, польский, немецкий, французский и другие языки; размер модели — 1,6 млрд параметров по названию семейства. Репозиторий содержит веса в формате safetensors.

Модель подходит для озвучивания текста, диалогов с эмоциональной подачей, создания певческого вокала и голосовых персонажей. Базовая Dia-1.6B ориентирована на англоязычный синтез диалоговой речи с управлением голосом и эмоциями по аудиоусловию. Качество клонирования, перечень дополнительных языков и ограничения применения в карточке подробно не описаны. Лицензия — Apache-2.0.

Сценарии применения

  • озвучивание текста на итальянском, английском, польском, немецком и французском
  • генерация эмоциональных реплик для диалогов и голосовых персонажей
  • создание певческого вокала по тексту или стилевому примеру
  • клонирование голоса по короткому аудиопримеру
  • генерация смеха, кашля и вздохов в озвучке

Ограничения

Качество клонирования голоса и поддержка языков сверх перечисленных в метаданных не подтверждены подробными оценками в карточке. Для генерации требуется подходящий текстовый ввод; для клонирования заявлен короткий аудиопример.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Aurora-1.6B: Multilingual Emotion and Singing TTS Model

A fine-tuned version of Dia-1.6B trained on multilingual and singing datasets, with full emotion control and zero-shot voice cloning.

Features

  • Multilingual Support
    Natural speech in Italian, English, Polish, German, French, and more.
  • Emotion Control
    Use speaker tags or emotion tokens (e.g. [S1], [happy], [sad]) to modulate expressiveness.
  • Singing Capabilities
    Generate melodic vocals by providing singing prompts or style references.
  • Zero-Shot Voice Cloning
    Clone any speaker’s voice from a short audio sample.
  • Nonverbal Vocalizations
    Embed realistic effects like (laughs), (coughs), or (sighs) inline.

Usage

from dia.model import Dia
import soundfile as sf

# Load the Aurora-1.6B model
model = Dia.from_pretrained("Lorenzob/aurora-1.6b")

# Generate a happy spoken line followed by singing
text = "[S1][happy] Hello world! Now sing 'Happy Birthday to You'"
audio = model.generate(text)

# Save output at 44.1 kHz
sf.write("output.wav", audio, 44100)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура ? неизвестна transformers в образе рантайма.

Ревизия весов
8590c05

0 моделей