/ Модель

Характеристики

Лицензия
CC BY-NC 4.0
Базовая модель
EmoVoice
Опубликована
4 окт 2026

LoopTTS-Refiner-1.5B

Генерация аудиоТекст → аудио

LoopTTS Refiner 1.5B преобразует речь с расшифровкой и текстовой инструкцией в аудио с исправленной или заданной просодией.

32скачиваний за 30 дней0лайковвеса обновлены4 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LoopTTS Refiner 1.5B — чекпойнт Refiner-компонента проекта LoopTTS, основанный на дообученной EmoVoice 1.5B. По входной аудиозаписи, её расшифровке и инструкции на естественном языке модель генерирует исправленную речь с заданными просодическими характеристиками, например эмоцией, темпом, высотой тона и ударением. Это PyTorch-модель размером 1,5 млрд параметров; опубликованный репозиторий содержит только чекпойнт, а для запуска требуются отдельные Qwen2.5-1.5B и CosyVoice-300M-SFT.

Модель предназначена для исследований управляемой генерации речи и коррекции просодии. Поддерживаемый входной сценарий принимает WAV-записи длительностью до 25 секунд и текстовую расшифровку с инструкцией; тестовая конфигурация генерирует аудио с частотой 22 050 Гц. Карточка указывает английский язык. Модель может изменять слова, характеристики голоса или предполагаемую эмоцию, а эквивалентность выходов на опубликованном чекпойнте пока не проверена. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое; заявленное назначение — некоммерческие исследования.

Сценарии применения

  • изменение эмоции речи по текстовой инструкции
  • коррекция темпа и высоты тона в речевой записи
  • расстановка акцента на заданном слове
  • генерация исправленной речи по исходной записи и расшифровке

Ограничения

Модель может менять слова, голосовые характеристики и заданную эмоцию; результаты следует проверять. Чекпойнт не является самодостаточным пакетом, для инференса нужны отдельные зависимости, а эквивалентность выходов не проверена.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LoopTTS Refiner 1.5B

This repository contains the Refiner checkpoint only for LoopTTS (arXiv:2608.28970). Given an input utterance, its transcript, and a natural-language instruction, the Refiner generates corrected speech. The Filter and Judge stages are outside this release.

Checkpoint

FileDescription
model.ptRefiner 1.5B checkpoint, epoch 31 / step 7190 (6,408,626,894 bytes)
config.yamlPortable summary of the evaluated inference configuration
SHA256SUMSCheckpoint checksum

SHA-256 of model.pt: 995185563a1ae25c2fcc57e0e06b7e196252f8a5745b521902166093ab38580f.

The checkpoint was selected from the project's tested TTS_refiner_v1_1.5B_from_FTEmoVoice_GTGlobal_useRAWprompt run. The March 28, 2026 Refiner test script points to this epoch and step, and the adjacent inference log records the same checkpoint being loaded. It is fine-tuned from EmoVoice 1.5B.

Use

The LoopTTS standalone inference instructions provide one command that accepts an input WAV, transcript, and prosody instruction. The script implements the Refiner input packing and greedy decoding directly. It needs no EmoVoice checkout or patch; command-line paths are relative to the LoopTTS repository.

The runtime needs Qwen2.5-1.5B and CosyVoice-300M-SFT in addition to this checkpoint. These are separate dependencies from their original publishers; they are not included in this repository.

Example instruction: Speak with an angry emotion at a moderate speed and high pitch. Stress the word 'no'.

Intended use and limitations

This model is provided for noncommercial research on controllable speech and prosody correction. It was evaluated with greedy decoding, three CosyVoice code layers, a 22,050 Hz output rate, and raw_audio_position=end. The released input preparation supports WAV utterances up to 25 seconds. The model may change words, speaker characteristics, or intended emotion; review outputs before using them in a study.

model.pt is a PyTorch checkpoint read with torch.load; load it only from this repository or another source you trust. The checkpoint alone is not a self-contained inference package. The standalone script has not yet been run against the released checkpoint, so output equivalence remains unverified.

License and attribution

The Refiner checkpoint is released under CC BY-NC 4.0. The fine-tuning base is EmoVoice, whose authors state that their pretrained models are noncommercial. The LoopTTS Refiner inference code uses CC BY-NC 4.0; portions adapted from upstream EmoVoice retain their MIT attribution. Qwen and CosyVoice dependencies retain their own licenses.

Citation

@inproceedings{song2026loopt,
  title     = {Diagnose, Then Refine: A Closed-Loop TTS System with AudioLLM-Guided Correction},
  author    = {Song, Zeyang and Liu, Tianchi and Wang, Tianrui and Xu, Chenglin and Guo, Yiwen and Li, Haizhou},
  booktitle = {Proceedings of the 2026 Conference on Empirical Methods in Natural Language Processing},
  year      = {2026},
  eprint    = {2608.28970},
  archivePrefix = {arXiv},
  url       = {https://arxiv.org/abs/2608.28970}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
79f07ef

0 моделей