/ Модель

Характеристики

Лицензия
Apache 2.0
Опубликована
28 сен 2026

PhysWave

Генерация аудиоТекст → аудио

PhysWave генерирует управляемое пространственное аудио по текстовому акустическому описанию и путевым точкам.

24скачиваний за 30 дней0лайковвеса обновлены6 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PhysWave — набор предварительно обученных контрольных точек для генерации пространственного звука, представленный авторами работы «PhysWave: Physics-Guided Latent Diffusion Models for Controllable Spatial Audio Generation» (EMNLP 2026). Модель создаёт пространственное аудио по акустическому описанию и путевым точкам либо по инструкции на естественном языке, которую предварительно разбирает API.

В состав входят диффузионная модель с текстовым и маршрутным кондиционированием и четырёхканальный аудио-VAE. Результат — примерно 10 секунд аудио с частотой 16 кГц в формате амбисоники первого порядка и порядке каналов W, X, Y, Z; для пространственного прослушивания требуется амбисонический декодер. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Сценарии применения

  • создание пространственного звука по акустическому описанию
  • генерация звука с заданной траекторией источника
  • подготовка амбисонических звуковых эффектов для сцен и демонстраций

Ограничения

Модель генерирует одноканальный источник в амбисонике первого порядка длительностью около 10 секунд; для пространственного воспроизведения нужен амбисонический декодер.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

PhysWave

Pretrained checkpoints for PhysWave: Physics-Guided Latent Diffusion Models for Controllable Spatial Audio Generation (EMNLP 2026).

Code and instructions · Paper · Demos

PhysWave generates single-source spatial audio from an acoustic caption and waypoints, or a natural-language instruction parsed by an API. Output is approximately 10 seconds of 16 kHz first-order ambisonic audio in W, X, Y, Z channel order. Use an ambisonic decoder for spatial listening.

Checkpoints

Both files are required:

FileModel
physwave.ckptText- and waypoint-conditioned diffusion model
vae.ckptFour-channel audio VAE

Usage

Follow the installation instructions in the code repository. From its root, download the weights and model metadata:

python -m pip install huggingface_hub
hf download 10wind/PhysWave config.json physwave.ckpt vae.ckpt --local-dir checkpoints
python -m physwave --condition examples/telephone_static.json --output outputs/telephone.wav

config.json describes the audio format and checkpoint files. Inference uses the two .ckpt files through the code repository.

See the code README for Gemini/OpenRouter configuration and more examples.

Citation

If you use PhysWave in your research, please cite:

@inproceedings{yao2026physwave,
  title={PhysWave: Physics-Guided Latent Diffusion Models for Controllable Spatial Audio Generation},
  author={Yao, Lingfeng and Huang, Chenpei and Yang, Xingke and Geng, Ziye and Luo, Changqing and Wang, Hao and Liu, Jiang and Pan, Miao},
  booktitle = {Proceedings of the 2026 Conference on Empirical Methods in Natural Language Processing},
  year      = {2026}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура ? неизвестна transformers в образе рантайма.

Ревизия весов
2c32a94

0 моделей