/ Модель

Характеристики

Контекст
65 536 токенов
Параметры
3,9 млрд
Размер весов
7,1 ГБ
Лицензия
Apache 2.0
Архитектура
step1 · dense
Опубликована
13 фев 2025

Step-Audio-TTS-3B

Генерация текстаТекст → текст3 профессии

Step-Audio-TTS-3B — многоязычная модель StepFun для синтеза выразительной речи, рэпа и напевания из текста.

149скачиваний за 30 дней197лайковвеса обновлены17 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Step-Audio-TTS-3B — модель синтеза речи, разработанная командой StepFun. Это плотная авторегрессионная языковая модель семейства Step1 с 3,9 млрд параметров, обученная в парадигме диалога LLM на масштабном синтетическом наборе данных и использующая два аудиокодбука. Репозиторий также содержит вокодер для синтеза речи и отдельный вокодер, оптимизированный для напевания.

Модель предназначена для преобразования текста в речь с управлением голосовым стилем и эмоциональной выразительностью. Она поддерживает несколько языков, а также генерацию рэпа и напевания. В README заявлены результаты CER уровня SOTA на тесте SEED TTS Eval; подробности сравнительных таблиц в доступной карточке опущены.

Веса доступны в форматах ONNX и Safetensors. Лицензия — Apache-2.0. В карточке не приведены конкретные языки, длина контекста и количественные оценки качества для отдельных языков или режимов; заявленные возможности стоит учитывать с этим ограничением.

Сценарии применения

  • синтез речи из текста
  • озвучивание текста с заданной эмоцией
  • генерация речи с управлением голосовым стилем
  • синтез рэп-вокала по тексту
  • генерация напевания

Ограничения

В карточке не перечислены поддерживаемые языки и не приведены подробные количественные результаты по языкам и режимам генерации. Заявление о результатах уровня SOTA дано без доступных в карточке сравнительных таблиц.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Step-Audio-TTS-3B

Step-Audio-TTS-3B represents the industry's first Text-to-Speech (TTS) model trained on a large-scale synthetic dataset utilizing the LLM-Chat paradigm. It has achieved SOTA Character Error Rate (CER) results on the SEED TTS Eval benchmark. The model supports multiple languages, a variety of emotional expressions, and diverse voice style controls. Notably, Step-Audio-TTS-3B is also the first TTS model in the industry capable of generating RAP and Humming, marking a significant advancement in the field of speech synthesis.

This repository provides the model weights for StepAudio-TTS-3B, which is a dual-codebook trained LLM (Large Language Model) for text-to-speech synthesis. Additionally, it includes a vocoder trained using the dual-codebook approach, as well as a specialized vocoder specifically optimized for humming generation. These resources collectively enable high-quality speech synthesis and humming capabilities, leveraging the advanced dual-codebook training methodology.

Performance comparison of content consistency (CER/WER) between GLM-4-Voice and MinMo.

Results of TTS Models on SEED Test Sets.

  • StepAudio-TTS-3B-Single denotes dual-codebook backbone with single-codebook vocoder*

Performance comparison of Dual-codebook Resynthesis with Cosyvoice.

More information

For more information, please refer to our repository: Step-Audio.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Step1ForCausalLM
Ревизия весов
9ddb7cb

0 моделей