/ Модель

Характеристики

Лицензия
CC BY-NC 4.0
Библиотека
pytorch
Опубликована
11 июл 2026

USEF-Laura-TSE

Обработка аудиоАудио → аудио

Двухэтапная аудиомодель выделяет речь выбранного говорящего из смеси и улучшает её естественность.

0скачиваний за 30 дней0лайковвеса обновлены11 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

USEF-Laura-TSE — система выделения целевого говорящего из смеси речи, опубликованная авторами работы Discriminative–Generative Target Speaker Extraction with Decoder-Only Language Models. Она состоит из двух этапов: дискриминативный фронтенд USEF-TFGridNet извлекает целевого говорящего, а генеративный бэкенд на основе Laura и decoder-only языковой модели улучшает естественность и воспринимаемое качество речи.

Для генерации доступны авторежим и неавторежим; в неавторежиме настраивается параметр ratio от 0 до 1. Модель принимает аудио и выдаёт аудио. Репозиторий содержит контрольные точки PyTorch; для бэкенда отдельно нужны модель FunCodec и её конфигурация. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Авторы выпустили контрольные точки и код инференса; статья находится на рассмотрении, код обучения планируется опубликовать позже.

Сценарии применения

  • выделение речи выбранного собеседника из записи с несколькими говорящими
  • извлечение целевого голоса из шумной или смешанной речи
  • улучшение естественности и воспринимаемого качества извлечённой речи

Ограничения

Код обучения пока не опубликован, а для генеративного бэкенда отдельно требуются FunCodec и конфигурация. Лицензия CC BY-NC 4.0 не допускает коммерческое использование.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

USEF-Laura-TSE

This repository provides the official model checkpoints for Discriminative–Generative Target Speaker Extraction with Decoder-Only Language Models.

The paper is currently under review. At this stage, we release the model checkpoints and inference code only. The training code will be made publicly available after the review process is complete.

Model Description

USEF-Laura-TSE is a two-stage target speaker extraction system that combines:

  • a discriminative USEF-TFGridNet front-end for extracting the target speaker from a speech mixture; and
  • a Laura-based generative back-end built with a decoder-only language model for improving perceptual quality and speech naturalness.

The generative back-end supports both autoregressive (AR) and non-autoregressive (NAR) inference. NAR inference additionally supports a configurable ratio between 0.0 and 1.0.

Model Files

FileDescription
usef_laura_tse.pthComplete USEF-Laura-TSE checkpoint, including the generative model and integrated front-end parameters.
usef_front_end.pthUSEF-TFGridNet front-end checkpoint used to initialize the model structure.

The FunCodec model and configuration required by the generative back-end are downloaded separately by the inference release.

Installation

Clone the official inference repository and install its dependencies:

git clone https://github.com/ZBang/USEF-Laura-TSE.git
cd USEF-Laura-TSE
python -m pip install -r requirements.txt

Download the released checkpoints:

python scripts/download_models.py

Inference

Autoregressive inference:

bash infer.sh --mode ar --output both

Non-autoregressive inference:

bash infer.sh --mode nar --ratio 1.0 --output both

The --output option supports front, generative, and both. See the GitHub repository for manifest formats, checkpoint paths, and complete usage instructions.

License

This model is released under the Creative Commons Attribution-NonCommercial 4.0 International License. Third-party components and models remain subject to their original licenses.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · pytorch

Нельзя запустить

Обработка «аудио → аудио» пока не поддерживается.

Ревизия весов
6fa209e

0 моделей