/ Профессии
Универсальные способности и операции

I.9Аудио и музыка

В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

АудиоТекст
AI-задач
15
в этой профессии
Подходящих моделей
4 835
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
АудиоТекст

Рекомендованные модели

4 835 моделей
Загрузки
Лайки
Дата выхода
211–240 из 4 835
Ayeminko
VoxCPM2

Карточка модели Ayeminko/VoxCPM2 на Hugging Face совпадает с карточкой Tha456/VoxCPM2, поэтому описание составлено по ней. VoxCPM2 — модель синтеза речи, представленная в карточке Tha456. Это авторегрессионная диффузионная модель без токенизатора с архитектурой LocEnc → TSLM → RALM → LocDiT, основанной на MiniCPM-4. Размер модели — 2 млрд параметров; она использует AudioVAE V2 и генерирует речь с частотой 48 кГц. Модель предназначена для многоязычного преобразования текста в речь, создания голоса по текстовому описанию и клонирования голоса по короткому аудиофрагменту, в том числе с управлением стилем. По README поддерживает 30 языков, включая русский, и заявляет потоковую генерацию в реальном времени. Репозиторий использует формат safetensors и библиотеку voxcpm. Лицензия Apache-2.0 разрешает коммерческое использование. Качество Voice Design и управления стилем может меняться между запусками; результаты зависят от языка, а очень длинный или выразительный ввод иногда вызывает нестабильность. README запрещает использовать модель для имитации личности, мошенничества и дезинформации и рекомендует маркировать сгенерированную речь.

81июль 2026
textaudioapache-2.0hugging-face
eadx
VoxCPM2

Карточка модели eadx/VoxCPM2 на Hugging Face совпадает с карточкой Tha456/VoxCPM2, поэтому описание составлено по ней. VoxCPM2 — модель синтеза речи, представленная в карточке Tha456. Это авторегрессионная диффузионная модель без токенизатора с архитектурой LocEnc → TSLM → RALM → LocDiT, основанной на MiniCPM-4. Размер модели — 2 млрд параметров; она использует AudioVAE V2 и генерирует речь с частотой 48 кГц. Модель предназначена для многоязычного преобразования текста в речь, создания голоса по текстовому описанию и клонирования голоса по короткому аудиофрагменту, в том числе с управлением стилем. По README поддерживает 30 языков, включая русский, и заявляет потоковую генерацию в реальном времени. Репозиторий использует формат safetensors и библиотеку voxcpm. Лицензия Apache-2.0 разрешает коммерческое использование. Качество Voice Design и управления стилем может меняться между запусками; результаты зависят от языка, а очень длинный или выразительный ввод иногда вызывает нестабильность. README запрещает использовать модель для имитации личности, мошенничества и дезинформации и рекомендует маркировать сгенерированную речь.

131июль 2026
textaudioapache-2.0hugging-face
reaksmeydev
VoxCPM2

Карточка модели reaksmeydev/VoxCPM2 на Hugging Face совпадает с карточкой Tha456/VoxCPM2, поэтому описание составлено по ней. VoxCPM2 — модель синтеза речи, представленная в карточке Tha456. Это авторегрессионная диффузионная модель без токенизатора с архитектурой LocEnc → TSLM → RALM → LocDiT, основанной на MiniCPM-4. Размер модели — 2 млрд параметров; она использует AudioVAE V2 и генерирует речь с частотой 48 кГц. Модель предназначена для многоязычного преобразования текста в речь, создания голоса по текстовому описанию и клонирования голоса по короткому аудиофрагменту, в том числе с управлением стилем. По README поддерживает 30 языков, включая русский, и заявляет потоковую генерацию в реальном времени. Репозиторий использует формат safetensors и библиотеку voxcpm. Лицензия Apache-2.0 разрешает коммерческое использование. Качество Voice Design и управления стилем может меняться между запусками; результаты зависят от языка, а очень длинный или выразительный ввод иногда вызывает нестабильность. README запрещает использовать модель для имитации личности, мошенничества и дезинформации и рекомендует маркировать сгенерированную речь.

60авг. 2026
textaudioapache-2.0hugging-face
mlx-community
VoxCPM2-bf16

VoxCPM2-bf16 — конвертированная для MLX версия многоязычной модели синтеза речи VoxCPM2 от OpenBMB. Модель содержит около 2 млрд параметров и выдаёт аудио с частотой дискретизации 48 кГц. Репозиторий использует веса BFloat16 и формат safetensors; запуск предусмотрен через библиотеку mlx-audio на Apple Silicon. Модель преобразует текст в речь, клонирует голос по короткому аудиофрагменту и создаёт голос по текстовому описанию без эталонной записи. Поддерживает 30 языков, включая английский, китайский, индонезийский, японский и корейский, и четыре режима генерации: zero-shot, продолжение, клонирование по образцу и комбинированный режим. Лицензия — Apache 2.0. Полная версия BFloat16 занимает около 4,96 ГБ; README сообщает о real-time factor 0,48 для этой конфигурации на Apple Silicon. Качество голоса зависит от входного текста и аудиообразца; для генерации и клонирования требуются совместимые инструменты mlx-audio. Модель ориентирована на синтез речи, поэтому её выход — аудио, а не текст.

1.9K2апр. 2026
textaudioapache-2.0hugging-face
mrfakename
YuE2-3B

YuE2-3B — открытая модель генерации музыки, разработанная командой YuE2. Она создаёт песни с вокалом и аккомпанементом по тексту песни и описанию стиля, а также позволяет менять мелодию, гармонию, текст и стиль через редактируемую партитуру в формате ABC. Модель поддерживает создание музыки с планированием мелодии и аккордов, только мелодии либо без символического плана; также предусмотрены сценарии кавер-аранжировки и итеративного редактирования с агентом. В основе — плотная архитектура YuE2ForCausalLM размером 1,8 млрд параметров с контекстом 24 576 токенов. Модель сначала формирует партитуру и семантические токены, затем синтезирует акустические представления; декодер VAE создаёт стереозвук с частотой 48 кГц. Карточка демонстрирует песни на английском и китайском языках. Для локального запуска README указывает Linux, Python 3.10+, NVIDIA GPU с поддержкой BF16 и 24 ГБ видеопамяти. Репозиторий использует формат safetensors и лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование. Модель предназначена для сочинения песен, создания каверов и доработки музыкальных аранжировок. README сообщает о высоких результатах на WildSongBench, однако конкретное качество зависит от запроса и выбранных настроек; для запуска также нужны совместимое оборудование и отдельный VAE-декодер.

2536сент. 2026ctx24.6K
textcc-by-nc-4.0hugging-face
Zyphra
ZONOS2-GGUF

ZONOS2-GGUF — это GGUF-квантизованные веса модели ZONOS2, разработанной Zyphra для синтеза речи из текста. Модель предназначена для высококачественного многоязычного text-to-speech, низколатентной генерации аудио и клонирования голоса по образцу. Вся цепочка, включая ECAPA-TDNN-энкодер говорящего, MoE-основу и DAC-вокодер, доступна в нативной реализации C++ zonos2.cpp без Python, PyTorch и обязательных CUDA-ядер во время инференса; поддерживаются CPU и CUDA. Модель обучена более чем на 6 миллионах часов многоязычной речи и ориентирована на естественное, выразительное звучание и высокую точность клонирования голоса. Поддерживаются английский, китайский, японский, корейский, русский, итальянский, португальский, французский, испанский, вьетнамский, немецкий, иврит, нидерландский и ряд других языков, включая украинский, польский, арабский, хинди и индонезийский. Доступны варианты от F16 размером 15,3 ГБ до Q4_K размером 4,9 ГБ; в квантизованных версиях F16 сохраняется для attention, router, embeddings и speaker projection, а квантизуются только матрицы MoE-экспертов. Q8_0 рекомендован как практически без потерь, тогда как Q4_K подходит для систем с ограниченной VRAM и сохраняет близкое к полной точности качество аудио. Ограничения включают значительный объём файлов и зависимость от zonos2.cpp для запуска GGUF, а качество клонирования и синтеза может зависеть от выбранного уровня квантизации и исходного голосового образца. Модель распространяется по лицензии Apache-2.0.

11K6июнь 2026
textaudioapache-2.0hugging-face
Zyphra
Zonos-v0.1-transformer

Zonos-v0.1-transformer — открытая модель преобразования текста в речь от Zyphra, построенная на трансформерной архитектуре. Она нормализует и фонетически разбирает текст с помощью eSpeak, затем предсказывает токены DAC и генерирует речь с частотой 44 кГц. Модель обучена на более чем 200 тысячах часов разноязычной речи и поддерживает английский, японский, китайский, французский и немецкий языки. Модель предназначена для естественного синтеза речи, клонирования голоса по короткому аудиореференсу и управления характеристиками звучания, включая темп, высоту тона, эмоции и качество аудио. Для задания голоса можно передать вектор говорящего или аудиофрагмент; текст и аудиопр prefix позволяют точнее воспроизводить особенности речи, например шёпот. Заявленная скорость работы составляет около двукратного реального времени на RTX 4090. Для запуска README указывает Linux и современный GPU NVIDIA серии 3000 или новее с объёмом видеопамяти от 6 ГБ; требуется библиотека eSpeak. Модель распространяется по лицензии Apache-2.0.

29K436февр. 2025
textaudioapache-2.0hugging-face
Tuananh20015
acestep-v15-xl-sft

Карточка модели Tuananh20015/acestep-v15-xl-sft на Hugging Face совпадает с карточкой ACE-Step/acestep-v15-xl-sft, поэтому описание составлено по ней. ACE-Step/acestep-v15-xl-sft — вариант XL модели ACE-Step 1.5, разработанный проектом ACE-Step. Это плотная модель генерации аудио на основе DiT с примерно 4 млрд параметров по README; метаданные каталога указывают 3,1 млрд параметров. Модель обучена методом supervised fine-tuning и предназначена для создания музыки по текстовому описанию. Поддерживает CFG для управления соответствием генерации запросу; вариант SFT ориентирован на высокое качество и стандартный режим работы. Модель использует 32 слоя DiT Decoder, скрытый размер 2560 и 32 головы внимания. README рекомендует от 12 ГБ видеопамяти с выгрузкой на CPU и INT8-квантизацией, от 16 ГБ с выгрузкой на CPU или от 20 ГБ без выгрузки. В карточке указана лицензия MIT; README заявляет о коммерческой применимости сгенерированной музыки и обучении на лицензированной, свободной и синтетической музыке. Эти заявления описывают проект, а не гарантируют права на каждый конкретный результат.

70июнь 2026ctx32.8K
textaudiomithugging-face
Edge0
Audio8-TTS-Preview-0.6B-ONNX-INT4

Audio8 TTS Preview 0.6B ONNX INT4 — мультиязычная модель синтеза речи с клонированием голоса в zero-shot режиме, разработанная Audio8 AI. Данная версия представляет CPU-ориентированную ONNX Runtime-сборку базовой модели Audio8-TTS-Preview-0.6b и предназначена для локальной генерации речи, потокового воспроизведения и интеграции через локальные сервисы и API. Модель содержит около 601 млн параметров и использует архитектуру DualAR: медленный авторегрессионный трансформер формирует семантические токены аудиокадров, а быстрый авторегрессионный трансформер предсказывает кодовые книги аудиокодека. В состав входят 24 слоя Slow AR, 4 слоя Fast AR, ширина 896, 14 attention heads и 2 KV heads; используются 10 кодовых книг по 4096 элементов. Контекст составляет до 2048 упакованных текстовых и аудиопозиций. Веса авторегрессионных компонентов представлены в формате weight-only INT4, активации и KV-cache используют FP16, а выходной звук формируется в формате FP32 с частотой 44,1 кГц, моно. Поддерживаются кантонский, китайский, нидерландский, английский, французский, немецкий, итальянский, японский, корейский, польский и испанский языки. К сильным сторонам относятся компактный размер, работа на CPU без CUDA, сравнительно низкое потребление памяти и локальное клонирование голоса по эталонной записи длительностью от 0,5 до 30 секунд с транскрипцией. Это preview-версия с ограниченным языковым охватом, поэтому качество и стабильность для языков вне рекомендованного набора не гарантируются; заявленные характеристики памяти проверены преимущественно на macOS arm64 и Apple M2. Модель распространяется по лицензии Apache 2.0.

72255июль 2026
textaudioapache-2.0hugging-face
ylacombe
bark-small

Bark Small — компактный вариант модели Bark, созданной Suno для преобразования текста в аудио. Модель состоит из трёх трансформерных компонентов: преобразует текст в семантические токены, затем в аудиотокены EnCodec и в итоговое аудио. Версия Small использует компоненты размером 80 млн параметров каждый. Модель предназначена для синтеза реалистичной речи на нескольких языках, а также музыки, фонового шума и простых звуковых эффектов. Она может генерировать невербальные звуки, например смех, вздохи и плач. Карточка перечисляет поддержку английского, немецкого, испанского, французского, хинди, итальянского, японского, корейского, польского, португальского, русского, турецкого и китайского языков. Доступны предварительно обученные веса для запуска через Transformers или оригинальную библиотеку Bark. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование. Модель выпущена для исследовательского использования; её выход не фильтруется, а авторы предупреждают о возможности злоупотреблений, включая имитацию голоса. В карточке не заявлены ограничения по длине текста или аудио и не приводятся отдельные показатели качества для версии Small.

8252июнь 2023ctx512
textaudiocc-by-nc-4.0hugging-face
onnx-community
chatterbox-ONNX

onnx-community/chatterbox-ONNX — это открытая модель синтеза речи Chatterbox, разработанная Resemble AI и представленная в экспортированном формате ONNX. Она предназначена для преобразования текста в английскую речь, создания голосовых агентов, озвучивания видео, игр и другого контента, а также для zero-shot voice cloning и voice conversion по образцу голоса. Модель использует backbone на основе Llama размером 0,5 млрд параметров и обучена на 0,5 млн часов очищенных данных. Поддерживается английский язык; заявлена частота дискретизации аудио 24 кГц. Ключевые возможности включают управление выразительностью и интенсивностью речи через параметр exaggeration, стабильный синтез с alignment-informed inference и опциональную водяную маркировку выходных аудиофайлов. Формат ONNX обеспечивает переносимый запуск через ONNX Runtime на различных платформах. Сильными сторонами модели являются открытая лицензия, возможность локального и кроссплатформенного использования, voice cloning, управление эмоциональной выразительностью и заявленное превосходство над ElevenLabs в некоторых сравнительных оценках. Ограничения включают подтвержденную поддержку только английского языка, зависимость качества клонирования от предоставленного образца голоса и необходимость настройки параметров для выразительной речи; увеличение exaggeration может ускорять темп речи. Модель распространяется по лицензии MIT.

3.6K26июль 2025ctx131.1K
textaudiomithugging-face
mlx-community
Chatterbox-Turbo-TTS-8bit

Chatterbox-Turbo-TTS-8bit — модель синтеза речи, опубликованная сообществом mlx-community и преобразованная из ResembleAI/chatterbox-turbo для работы в формате MLX. Она использует архитектуру Chatterbox Turbo и 8-битную квантизацию GPT-2-основы T3, чтобы снизить потребление памяти при сохранении качества аудио. Для работы также требуются веса токенизатора S3TokenizerV2 из mlx-community/S3TokenizerV2, которые загружаются автоматически. Модель предназначена для преобразования текста в речь и запуска через библиотеку mlx-audio-plus на совместимой с MLX среде. В карточке указан английский язык. Данных о размере модели, длине контекста и конкретных настройках голоса в предоставленных источниках нет. Лицензия в источниках не указана.

2362дек. 2025ctx1K
textaudiohugging-face
wsntxxn
cnn8rnn-laionclap-audiocapsv2-grounding

Модель wsntxxn/cnn8rnn-laionclap-audiocapsv2-grounding предназначена для привязки текстовых описаний звуковых событий к аудиозаписи. Она принимает аудиофрагмент и текстовый запрос о звуковом событии и оценивает вероятность его присутствия с временным разрешением 40 мс. Модель обучена на расширенной версии AudioCaps v2; текстовый энкодер — замороженный RoBERTa из LAION-CLAP, поэтому значительную часть параметров составляет текстовый энкодер. Модель подходит для поиска заданных звуковых событий в аудио и определения их временных интервалов. В метаданных указаны архитектура Cnn8RnnLaionClapGroundingModel, библиотека Transformers и формат safetensors. Лицензия — Apache-2.0. Карточка указывает английский язык.

1121июль 2025
audioapache-2.0hugging-face
cstr
confucius4-tts-GGUF

Confucius4-TTS GGUF — это конвертация модели Confucius4-TTS, разработанной NetEase Youdao, для нативного запуска в среде CrispASR. Модель предназначена для синтеза речи из текста и zero-shot клонирования голоса по референсной аудиозаписи, включая сценарии многоязычного TTS. Архитектура состоит из трёх этапов: GPT-2 для преобразования текста в семантические представления с кондиционированием диктора через ECAPA-TDNN и признаки w2v-BERT, flow-matching DiT+WaveNet для преобразования семантики в акустическое представление с использованием CAMPPlus и reference-mel prompt, а также вокодер BigVGAN с частотой дискретизации 22,05 кГц. Доступны языки zh, en, ja, ko, de, fr, es, it, pt, ru, vi, th, id и ms. Контекстная длина не указана. Преимущества модели — zero-shot клонирование голоса, многоязычность и наличие нескольких вариантов GGUF-квантизации. T2S-варианты имеют размер от 376 МБ до 1,27 ГБ, S2A — от 135 до 213 МБ; также доступен F16-вокодер размером 214 МБ. Ограничения, требования к производительности и подробности качества синтеза в README не указаны. Конвертация распространяется по лицензии Apache-2.0; используемые CAMPPlus и BigVGAN имеют отдельные указания об источниках и лицензиях, включая MIT для BigVGAN.

3.8K4авг. 2026
textaudioapache-2.0hugging-face
cstr
cosyvoice3-0.5b-2512-GGUF

cstr/cosyvoice3-0.5b-2512-GGUF — GGUF-конверсия модели Fun-CosyVoice3-0.5B-2512, разработанной командой Alibaba FunAudioLLM. Это потоковая многоязычная система синтеза речи (TTS) с поддержкой zero-shot клонирования голоса, предназначенная для генерации речи из текста и работы через CrispASR с backend cosyvoice3-tts. Модель поддерживает китайский, английский, японский, корейский, кантонский, французский, немецкий, испанский, португальский, итальянский и русский языки, а также 18 китайских диалектов. Архитектура представляет собой трёхэтапный конвейер: языковая модель CosyVoice3LM на базе Qwen2-0.5B с авторегрессионной головой речевых токенов, потоковый Flow-модуль на базе DiT и CausalConditionalCFM, а также вокодер CausalHiFTGenerator на основе HiFi-GAN, NSF и iSTFT. Выходной сигнал — монофонический PCM с частотой 24 кГц. Доступны варианты GGUF с точностью F16, а также квантованные версии Q4_K и Q8_0. Минимальная рабочая конфигурация из LLM Q4_K, Flow Q8_0, HiFT F16 и банка голосов занимает около 745 МБ; эталонная конфигурация F16 — около 1,96 ГБ. В комплект входят предзаписанные многоязычные голоса и отдельные компоненты для клонирования по произвольному WAV-файлу. Квантование Q4_K сохраняет содержание речи, но может вызывать небольшие изменения пунктуационной интонации. Модель распространяется по лицензии Apache-2.0. Для клонирования голоса и использования аудиоматериалов необходимо иметь соответствующие права; это особенно важно при работе с пользовательскими голосовыми образцами.

10K14май 2026
textaudioapache-2.0hugging-face
suliniacats
dots.tts-soar

Карточка модели suliniacats/dots.tts-soar на Hugging Face совпадает с карточкой dots-studio/dots.tts-soar, поэтому описание составлено по ней. dots.tts-soar — модель синтеза речи от dots-studio, представляющая собой дообученную версию dots.tts-base с этапом Self-corrective Alignment. Это авторегрессионная система на 2 млрд параметров, которая напрямую обрабатывает текст в BPE-токенах и генерирует непрерывные аудиолатенты с помощью flow-matching-головы, затем декодируемые в монозвук с частотой 48 кГц. В архитектуре используются семантический энкодер, LLM на базе Qwen2.5-1.5B-Base и CAM++ speaker x-vector для сохранения характеристик голоса. Модель предназначена для многоязычного синтеза речи и клонирования голоса по образцу, в том числе в производственных сценариях с авторизованным использованием. SCA улучшает соответствие текста и тембра, а в карточке заявлены высокие результаты сходства голосов на приведённых бенчмарках. Поддерживаются zero-shot-сценарии без отдельного дообучения под голос. На малоресурсных и отличающихся письменностью языках, включая арабский, хинди, турецкий и вьетнамский, точность распознавания текста в речи ниже, чем для более обеспеченных данными языков. Модель не предназначена для пения или совместной генерации речи и звуковых эффектов. Высокая реалистичность клонирования голоса создаёт риск злоупотреблений; README рекомендует использовать только авторизованные образцы и помечать синтетическое аудио. Лицензия — Apache-2.0.

80авг. 2026ctx131.1K
textaudioapache-2.0hugging-face
cstr
f5-tts-GGUF

cstr/f5-tts-GGUF — конверсия модели F5-TTS v1 Base в формат GGUF для запуска в CrispASR. Веса представлены в F16, а критические компоненты — AdaLN, RoPE и временное встраивание — в F32. Архитектура включает 22-слойный Diffusion Transformer с 330 млн параметров, символьный ConvNeXtV2-энкодер текста и вокодер Vocos с 13 млн параметров; файл модели содержит DiT и Vocos. Модель синтезирует монофоническое аудио PCM с частотой 24 кГц и поддерживает клонирование голоса по эталонной записи длительностью 3–15 секунд вместе с её текстовой расшифровкой. Она предназначена для генерации речи из текста и zero-shot-клонирования голоса в среде CrispASR. Карточка указывает английский и китайский языки. Автор рекомендует F16: более сильная квантизация может накапливать ошибки в ходе итеративного ODE-синтеза и приводить к неразборчивой речи. Лицензия репозитория — CC-BY-NC-4.0; исходная модель SWivid/F5-TTS указана в README под лицензией MIT.

1.7K1май 2026
textaudiocc-by-nc-4.0hugging-face
jkeisling
fish-speech-1.5

Это конвертированная в формат safetensors версия весов Fish Speech v1.5, подготовленная jkeisling для работы с fish-speech.rs и экосистемой Hugging Face. Модель использует архитектуру DualAR и предназначена для синтеза речи по тексту на нескольких языках. Fish Speech v1.5 обучена более чем на миллионе часов аудиоданных. Поддерживаются китайский, английский, японский, немецкий, французский, испанский, корейский, арабский, русский, нидерландский, итальянский, польский и португальский языки. Репозиторий упрощает загрузку весов и токенизатора, но эти веса несовместимы с официальным кодом инференса Fish Speech; VQGAN взят из версии 1.4. Лицензия CC BY-NC-SA 4.0 запрещает коммерческое использование.

1151дек. 2024
textaudiocc-by-nc-sa-4.0hugging-face
loom-ai-org
fun-cosyvoice3-0.5b-loom

Это экспорт модели FunAudioLLM Fun-CosyVoice3-0.5B-2512 в формат GGUF для движка loom.cpp. В составе — языковая модель Qwen2-0.5B для речевых токенов, flow-matching DiT и вокодер HiFT; модель сама кодирует входной текст и синтезирует речь с частотой 24 кГц на девяти языках: китайском, английском, японском, корейском, немецком, испанском, французском, итальянском и русском. Репозиторий содержит неизменённые веса базовой модели, упакованные в GGUF для использования через loom-py-rt. Модель предназначена для преобразования текста в речь, в том числе для многоязычной озвучки и клонирования голоса по короткому аудиообразцу. В поставке есть один встроенный голос на основе образца речи на мандаринском диалекте; для других голосов нужно отдельно подготовить голосовой файл с помощью двух ONNX-моделей и Python. Синтез случайный, но его можно воспроизводить с заданным seed. Лицензия — Apache-2.0.

1470сент. 2026
textaudioapache-2.0hugging-face
bosonai
higgs-tts-2-3b-base

Higgs TTS 2 — базовая аудиомодель Boson AI для генерации речи по тексту. Модель построена на Llama 3.2 3B и использует аудиоадаптер DualFFN; в README указано 3,6 млрд параметров языковой модели и 2,2 млрд параметров адаптера, а метаданные Hugging Face указывают общий размер 3,2 млрд параметров. Архитектура семейства Higgs Audio V2, формат весов — safetensors, библиотека — Transformers; длина контекста — 2048 токенов. Модель предназначена для выразительного синтеза речи, в том числе с адаптацией просодии и эмоций, клонированием голоса по образцу и генерацией многоязычных диалогов с несколькими говорящими. README также описывает напевание мелодий клонированным голосом и совместную генерацию речи с фоновой музыкой. В карточке указаны английский, китайский, немецкий и корейский языки; модель обучалась на аудиоданных, охватывающих речь, музыку и звуковые события. README сообщает о сильных результатах на тестах синтеза речи и эмоциональной выразительности, но приведённые оценки получены на конкретных бенчмарках и не гарантируют качество в каждом сценарии. Модель не проходила постобучение или дообучение, а лицензия обозначена как other, поэтому условия использования следует сверять с лицензией и условиями репозитория Boson AI.

27K693июль 2025ctx2K
textaudiootherhugging-face
mlx-community
Irodori-TTS-v4.1-Small-8bit

Irodori-TTS-v4.1-Small-8bit — японская модель синтеза речи из текста, опубликованная mlx-community как версия в формате MLX, преобразованная из Aratako/Irodori-TTS-v4.1-Small. Она построена на архитектуре Irodori-TTS и предназначена для озвучивания текста, клонирования голоса по референсному аудио и генерации голоса по текстовому описанию (VoiceDesign). В чекпойнт включены текстовый энкодер ModernBERT-ja-310m с токенизатором и японский аудиокодек Semantic-DACVAE-Japanese-32dim; для инференса дополнительные загрузки не нужны. Модель принимает референсное аудио длительностью до 120 секунд, а предсказатель длительности автоматически оценивает длительность синтеза. Веса квантизированы до 8 бит с размером группы 64 через mlx.nn.quantize; предсказания длительности отличаются от модели fp16 не более чем на один кадр (40 мс). Версия v4.1 обновляет предсказатель длительности, обученный отдельно при замороженных остальных параметрах; остальные 683 из 714 тензоров совпадают с v4. Для коротких запросов только с описанием голоса модель может переоценивать длительность и повторять текст; можно передать референсное аудио или задать duration_scale либо seconds. Использование рассчитано на mlx-audio. Сведения о лицензии в предоставленных материалах отсутствуют.

2062авг. 2026
textaudiohugging-face
erenyeager-1
Kokoro-82M

Карточка модели erenyeager-1/Kokoro-82M на Hugging Face совпадает с карточкой hexgrad/Kokoro-82M, поэтому описание составлено по ней. Kokoro-82M — открытая модель синтеза речи, разработанная и обученная участниками проекта Kokoro. Модель содержит 82 млн параметров и основана на архитектурах StyleTTS 2 и ISTFTNet; для генерации речи она использует текст и фонемные представления. В README указано, что модель компактна, работает быстрее и дешевле многих более крупных систем и при этом обеспечивает сопоставимое качество. Модель предназначена для преобразования текста в аудио, включая локальное использование, интеграцию в приложения и коммерческие сервисы. В версии 1.0 заявлены 8 языков и 54 голоса; метаданные подтверждают английский язык. README описывает обучение на нескольких сотнях часов аудио и IPA-разметке. Веса распространяются по лицензии Apache-2.0, что допускает коммерческое применение при соблюдении условий лицензии.

60июль 2026
textaudioapache-2.0hugging-face
Jamestown34854
Kokoro-82M

Карточка модели Jamestown34854/Kokoro-82M на Hugging Face совпадает с карточкой hexgrad/Kokoro-82M, поэтому описание составлено по ней. Kokoro-82M — открытая модель синтеза речи, разработанная и обученная участниками проекта Kokoro. Модель содержит 82 млн параметров и основана на архитектурах StyleTTS 2 и ISTFTNet; для генерации речи она использует текст и фонемные представления. В README указано, что модель компактна, работает быстрее и дешевле многих более крупных систем и при этом обеспечивает сопоставимое качество. Модель предназначена для преобразования текста в аудио, включая локальное использование, интеграцию в приложения и коммерческие сервисы. В версии 1.0 заявлены 8 языков и 54 голоса; метаданные подтверждают английский язык. README описывает обучение на нескольких сотнях часов аудио и IPA-разметке. Веса распространяются по лицензии Apache-2.0, что допускает коммерческое применение при соблюдении условий лицензии.

150июль 2026
textaudioapache-2.0hugging-face
Marvis-AI
marvis-tts-100m-v0.2

Marvis-TTS-100M-v0.2 — компактная модель синтеза речи от Marvis-AI на архитектуре Sesame CSM-1B. Она преобразует текст в речь и предназначена для потоковой генерации с низкой задержкой на устройствах, включая iPhone, iPad и Mac с Apple Silicon. Модель обрабатывает текст целиком, что помогает сохранять связность речи и естественную интонацию, и поддерживает работу с чередующимися текстовыми и аудиотокенами. В карточке указаны 123,7 млн параметров и контекст 2048 токенов; архитектура включает мультимодальный трансформер и аудиодекодер. Поддерживаются английский, французский и немецкий языки, также заявлено клонирование голоса по аудиопримеру. Модель распространяется по лицензии Apache-2.0. Для клонирования голосов необходимы соответствующие разрешения; качество и скорость на конкретном устройстве зависят от среды запуска.

23530окт. 2025ctx2K
textaudioapache-2.0hugging-face
myshell-ai
MeloTTS-Spanish

MeloTTS-Spanish — испанская версия многоязычной системы синтеза речи, разработанной MyShell.ai. Она преобразует текст в аудио и предназначена для озвучивания испаноязычных текстов; семейство MeloTTS также рассчитано на синтез речи на нескольких языках и поддерживает работу в реальном времени на CPU. Модель поставляется в формате PyTorch и распространяется по лицензии MIT. README отмечает высокое качество синтеза для семейства, но не приводит отдельных оценок качества испанской версии, сведений о голосах или размере модели.

12K30февр. 2024
textaudiomithugging-face
MiniMaxAI
MiniMax-Music3

MiniMax Music 3 — модель генерации песен от MiniMaxAI. Она принимает текст песни и описание музыки, чтобы создавать цельные композиции продолжительностью до пяти минут с вокалом, развивающейся аранжировкой и структурой из куплетов, припевов, переходов и других секций. Текстовые метки секций и подробное описание стиля позволяют задавать жанр, темп, тональность, вокальную подачу, инструменты и развитие звучания. Архитектура сочетает 8B Global LLM для долгосрочной структуры, 0.6B Local LLM для акустических деталей и модуль синтеза на основе Flow Matching и Flow-VAE. Global LLM инициализирована из Qwen3-8B. Модель выдаёт стереозвук WAV с частотой 32 кГц и разрядностью 16 бит. Модель подходит для создания песенных демо, музыкальных эскизов и композиций по заданным словам и стилю. Описание и секционные метки дают генеративный контроль, но не гарантируют точного соблюдения текста, темпа, тональности, инструментов или структуры. Генерация требует CUDA, поддерживается только в не потоковом режиме; длина текстового запроса ограничена 5 000 токенами, а генерация — 9 000 акустическими кадрами. Лицензия в предоставленных данных не указана.

6.6K1.4Kавг. 2026
textaudiohugging-face
OpenMOSS-Team
MOSS-TTS-v1.5

MOSS-TTS-v1.5 — многоязычная модель синтеза речи, разработанная командой OpenMOSS-Team и продолжающая MOSS-TTS 1.0. Это плотная модель семейства moss_tts_delay; веса опубликованы в формате safetensors. Модель принимает текст и генерирует речь, поддерживает клонирование голоса по аудиореференсу, длинные высказывания, управление длительностью на уровне токенов, произношением через Pinyin и IPA, переключение языков и вставку пауз с помощью текстовых маркеров. Версия 1.5 улучшает синтез при явном указании языка, стабильность сходства голоса при клонировании и следование пунктуационным паузам; также она надёжнее работает, когда аудиореференс значительно длиннее целевого текста. Поддерживается 31 язык, включая китайский, кантонский, английский, русский, японский, арабский и ряд европейских и азиатских языков. Модель лицензирована по Apache-2.0. Для запуска README рекомендует Transformers 5.0.0; доступность и качество могут различаться по языкам, а без языкового тега некоторые языки могут звучать хуже, чем в версии 1.0.

141K213май 2026ctx131.1K
textaudioapache-2.0hugging-face
speechbrain
mtl-mimic-voicebank

Это ResNet-подобная модель SpeechBrain для подавления шума в речи. Её обучали на Voicebank и DEMAND с использованием mimic loss: сначала обучается перцептивная модель на чистой речи, затем модель улучшения речи, а после этого ASR-модель на базе, предварительно обученной на LibriSpeech, дообучается с фронтендом улучшения речи. Модель улучшения и ASR-компонент можно использовать вместе или по отдельности. Модель предназначена для улучшения зашумлённой английской речи и повышения устойчивости распознавания речи. В карточке приведены показатели PESQ 3,05, COVL 3,74 и WER 2,80 на тесте; результаты на других наборах данных не гарантируются. Репозиторий содержит веса PyTorch и работает с SpeechBrain 0.5.12. Лицензия — Apache-2.0.

1.4K35март 2022
audioapache-2.0hugging-face
Scicom-intl
Multilingual-TTS-1.7B-Base

Scicom International разработала Multilingual-TTS-1.7B-Base как продолжение предобучения Qwen/Qwen3-1.7B-Base на данных синтеза речи и преобразования голоса. Это плотная авторегрессионная модель семейства Qwen3 с 1,9 млрд параметров; для работы с речевыми токенами используется NeuCodec, который декодирует речь с частотой 50 токенов в секунду и частотой дискретизации 24 кГц. В README заявлены многоязычный синтез речи с выбором диктора и клонирование голоса, а также обучение на корпусах более чем для 150 языков. Модель рассчитана на генерацию речевого представления по тексту и на клонирование голоса по примеру. В метаданных Hugging Face задача обозначена как text-generation, поэтому для непосредственного получения аудио требуется совместимое декодирование NeuCodec; приведённые в README примеры демонстрируют аудиовыход. Модель поддерживает контекст до 32 768 токенов по метаданным; README отдельно упоминает настройку обучения с контекстом 10 000 токенов. В README не приведены результаты бенчмарков, поэтому качество для конкретных языков и голосов оценить по имеющимся данным нельзя. Модель основана на Qwen/Qwen3-1.7B-Base и обучена на наборах Multilingual-TTS, Emilia-YODAS-Voice-Conversion и Malaysian-Emilia. Лицензия в предоставленных данных не указана.

3876февр. 2026ctx32.8K
texthugging-face
cocktailpeanut
oa

OpenAudio S1 — многоязычная модель синтеза речи от разработчиков проекта Fish Speech. Репозиторий описывает семейство из полной версии S1 размером 4B и дистиллированной S1-mini размером 0,5B; в метаданных для этой модели указаны архитектура dual_ar, плотная архитектура и формат PyTorch. Обе версии обучались с применением RLHF. Модель преобразует текст в речь на китайском, английском, немецком, японском, французском, испанском, корейском, арабском, нидерландском, русском, итальянском, польском и португальском языках. Она поддерживает маркеры эмоций, интонации и некоторых звуковых проявлений, например смеха, шёпота и плача, чтобы управлять выразительностью синтеза. В README приведены результаты Seed TTS Eval для английского языка, но они не гарантируют аналогичного качества для всех языков и сценариев. Для использования весов применяется лицензия CC BY-NC-SA 4.0, которая ограничивает коммерческое использование и предусматривает условия атрибуции и распространения производных материалов.

2.4K1июнь 2025
textaudiocc-by-nc-sa-4.0hugging-face

Задачи профессии

15 задач
139Классификация звуковых событий. — AI анализирует спектральные и временные признаки аудио и относит фрагменты к классам звуковых событий: речи, музыке, сигналам, ударам, шумам или другим заданным категориям. На выходе — метки с временными границами и уверенностью. Качество проверяют по размеченным записям, отдельно оценивая редкие классы, смешанные звуки и условия с сильным фоновым шумом.
140Обнаружение заданного звука в непрерывном аудиопотоке. — Механизм: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение заданного звука в непрерывном аудиопотоке», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
141Определение источника и направления звука. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение источника и направления звука» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
142Разделение смеси на голос, музыку и отдельные инструменты. — Для этой задачи система сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. Рабочие входы: текст, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: результат «Разделение смеси на голос, музыку и отдельные инструменты» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
143Удаление фонового шума и акустических артефактов. — Практическая реализация: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Входной контекст включает референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: преобразованный материал по задаче «Удаление фонового шума и акустических артефактов» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
144Восстановление повреждённой или неполной аудиозаписи. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: преобразованный материал по задаче «Восстановление повреждённой или неполной аудиозаписи» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
145Автоматическое выравнивание громкости и динамического диапазона. — AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. К исходным данным относятся аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Автоматическое выравнивание громкости и динамического диапазона» с сохранённым содержанием и журналом значимых изменений. Надёжность оценивают сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
146Генерация музыки по жанру, настроению, структуре и ограничениям. — Для этой задачи система генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: редактируемый артефакт по задаче «Генерация музыки по жанру, настроению, структуре и ограничениям», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
147Генерация звуковых эффектов по текстовому описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: редактируемый артефакт по задаче «Генерация звуковых эффектов по текстовому описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
148Создание аранжировки для заданной мелодии. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: редактируемый артефакт по задаче «Создание аранжировки для заданной мелодии», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
149Продолжение музыкального фрагмента в согласованном стиле. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: редактируемый артефакт по задаче «Продолжение музыкального фрагмента в согласованном стиле», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
150Транскрибирование музыки в ноты или MIDI. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Транскрибирование музыки в ноты или MIDI» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
151Определение темпа, тональности, аккордов и структуры композиции. — Практическая реализация: AI объединяет несколько источников свидетельств и выбирает наиболее обоснованное определение с оценкой уверенности. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение темпа, тональности, аккордов и структуры композиции» с оценкой уверенности и основаниями решения. Ошибки выявляют по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
152Сведение и предварительный мастеринг аудиоматериала. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: преобразованный материал по задаче «Сведение и предварительный мастеринг аудиоматериала» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
153Адаптация длительности музыки под видео без резкого обрыва. — AI строит профиль текущих потребностей и адаптирует содержание, порядок или параметры взаимодействия под конкретного человека. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: адаптированный вариант для «Адаптация длительности музыки под видео без резкого обрыва» с указанием контекста и факторов, определивших персонализацию. Надёжность оценивают по пользовательской обратной связи, долгосрочной полезности и отсутствию нежелательной дискриминации; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче. <a id="section-i-10"></a>

0 моделей