/ Профессии
Универсальные способности и операции

I.9Аудио и музыка

В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

АудиоТекст
AI-задач
15
в этой профессии
Подходящих моделей
4 835
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
АудиоТекст

Рекомендованные модели

4 835 моделей
Загрузки
Лайки
Дата выхода
1 051–1 080 из 4 835
facebook
mms-tts-waw

facebook/mms-tts-waw — модель синтеза речи на языке вайвай, разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и подходит для озвучивания текстов на вайвай. Модель построена на архитектуре VITS: она объединяет вариационный автокодировщик, flow-модуль с текстовым энкодером на основе Transformer, стохастический предиктор длительности и декодер, основанный на HiFi-GAN. Размер модели — 3,5 млн параметров; контрольная точка доступна в форматах PyTorch и Safetensors и используется через Transformers версии 4.33 и новее. Для повторяемого результата при генерации требуется фиксировать seed, поскольку модель использует стохастический предиктор длительности. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

1050сент. 2023
textaudiocc-by-nc-4.0hugging-face
suryatmodulus
neutts-nano

Карточка модели suryatmodulus/neutts-nano на Hugging Face совпадает с карточкой neuphonic/neutts-nano, поэтому описание составлено по ней. NeuTTS Nano (English) — модель синтеза речи, разработанная Neuphonic для локального запуска на CPU и устройствах с ограниченными ресурсами. Она преобразует текст в речь, используя короткий аудиозапись и её расшифровку как образец голоса, чтобы клонировать его тембр и манеру. Модель предназначена для голосовых помощников, встроенных голосовых агентов и приложений, которым важно обрабатывать текст и аудио на устройстве. В основе — компактная языковая модель для генерации токенов речи и аудиокодек NeuCodec с одной кодовой книгой. В README указано около 116,8 млн активных параметров у языковой основы и около 228,7 млн параметров с учётом связанных эмбеддингов и выходной головы. Репозиторий предлагает версии GGUF с квантованием Q4 и Q8; метаданные также указывают формат safetensors. Модель рассчитана на генерацию в реальном времени или быстрее на процессорах и поддерживает только английский язык. Для работы нужны текст, референсное аудио и его текстовая расшифровка; результат — синтезированная речь с водяным знаком. Качество клонирования зависит от чистоты и непрерывности референсной записи. Для фонемизации требуется espeak-ng. В метаданных лицензия обозначена как other, но её условия в предоставленной карточке не раскрыты.

90июль 2026ctx2K
textotherhugging-face
undefinelabs
neutts-nano-german

NeuTTS-Nano-German — немецкая версия акустической модели NeuTTS-Nano от undefinelabs, представленная в формате GGUF с точностью BF16. Репозиторий содержит официальную конверсию модели для запуска в llama.cpp и совместимых средах; размер файла составляет 446 МБ. Модель предназначена для синтеза немецкой речи с низкой задержкой, в том числе в локальных и периферийных речевых системах. Она принимает текст и генерирует аудио; карточка описывает её как акустическую модель для потоков генерации голоса в реальном времени. Формат GGUF и BF16 ориентированы на эффективный локальный запуск. В карточке указана лицензия Apache-2.0. Количественные оценки качества и ограничения по голосам или произношению не приведены.

260июнь 2026
textaudioapache-2.0hugging-face
Tree-AI-lab
omniASR-CTC-300M-baoule-1000steps

omniASR-CTC-300M-baoule-1000steps — модель распознавания речи на языке бауле, полученная дообучением facebook/omniASR-CTC-300M по официальной рецептуре Meta для CTC на подмножестве bau_tts датасета google/WaxalNLP. Она принимает аудио и преобразует речь в текст; обучение завершено за 1000 шагов, опубликован чекпойнт последнего шага. На dev-выборке из 98 примеров указаны WER 35,15% и UER 10,95%. Модель построена на архитектуре Wav2Vec2ForCTC, использует Fairseq2 и неизменённый токенизатор omniASR_tokenizer_v1; обучающие аудиозаписи имели длительность от 2 до 60 секунд. Лицензия — Apache-2.0. Указанные метрики получены на небольшой выборке и не гарантируют аналогичного качества на других данных.

1010сент. 2026
textaudioapache-2.0hugging-face
Sam4rano
omnivoice-yoruba-tts

Sam4rano/omnivoice-yoruba-tts — дообученная Sam4rano версия OmniVoice для синтеза речи на языке йоруба. Модель принимает текст и может использовать аудиозапись-образец для клонирования голоса без отдельного обучения под диктора; генерируемая речь имеет частоту дискретизации 24 кГц. Модель обучена на 6 989 высказываниях общей длительностью около 9,6 часа из наборов IroyinSpeech и Google Yoruba Speech Dataset (OpenSLR 86). В описанной оценке нормализованный WER синтезированной речи составил около 11,5%; сходство голоса при zero-shot клонировании оценено косинусной близостью 0,2–0,4, поэтому точное воспроизведение личности диктора ограничено. Для использования требуется установленный репозиторий OmniVoice. В метаданных указана лицензия Apache-2.0.

131июнь 2026ctx131.1K
textaudioapache-2.0hugging-face
UBC-NLP
Simba-TTS-lin

UBC-NLP/Simba-TTS-lin — модель синтеза речи из семейства Simba, разработанная UBC-NLP для африканских языков и дообученная на данных SimbaBench. Карточка описывает серию Simba-TTS как мультиязычные модели для преобразования текста в естественную речь; этот вариант предназначен для лин, языка Lingala. Для запуска указана библиотека Transformers. Архитектура репозитория — VITS, размер модели — 3,5 млн параметров; веса опубликованы в формате safetensors. Модель подходит для озвучивания текстов на Lingala, например для голосовых интерфейсов и речевого контента. README также заявляет ориентацию серии на малоресурсные африканские языки и высокое качество распознавания и синтеза, однако для этой конкретной модели такие заявления не сопровождаются результатами оценки. В метаданных задача обозначена как распознавание речи, тогда как README классифицирует Simba-TTS как синтез речи; назначение модели как TTS следует из названия и описания варианта. Лицензия — CC BY 4.0.

770май 2025
textaudiocc-by-4.0hugging-face
MIT-SLS
USAD-Base

MIT-SLS/USAD-Base — аудиоэнкодер семейства USAD, разработанный авторами Universal Speech and Audio Distillation. Модель преобразует речь, звуки и музыку в последовательности признаковых векторов; она предназначена для извлечения универсальных аудиопредставлений, пригодных для последующих задач анализа речи и звука. USAD Base — трансформерный энкодер с 94 млн параметров, размерностью представления 768 и 12 слоями. Он формирует кадры с частотой 50 Гц. Модель дистиллирована из специализированных учителей WavLM Base+ и ATST Frame и обучена на смеси данных объёмом 126 тысяч часов. В README заявлена конкурентоспособность на бенчмарках SUPERB, HEAR и AudioSet. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия CC BY-NC-SA 4.0 разрешает некоммерческое использование с указанием авторства и распространением производных материалов на тех же условиях. Модель выдаёт признаки, а не готовую расшифровку или классификацию. Для практических задач распознавания речи, классификации аудио или музыкального анализа потребуется подходящая задача обработки признаков или дополнительная модель.

215июнь 2025
textembeddingcc-by-nc-sa-4.0hugging-face
Jinstudio
VibeVoice-1.5B

Карточка модели Jinstudio/VibeVoice-1.5B на Hugging Face совпадает с карточкой microsoft/VibeVoice-1.5B, поэтому описание составлено по ней. VibeVoice-1.5B — модель Microsoft для синтеза выразительной длинной разговорной речи из текста, например выпусков подкастов с несколькими участниками. Это плотная модель семейства VibeVoice для Transformers; она сочетает LLM, которая учитывает контекст и ход диалога, с диффузионным модулем для генерации акустических деталей. В README указано контекстное окно 64K и генерация аудио длительностью до 90 минут с участием до четырёх разных голосов. Модель рассчитана на генерацию английской и китайской речи. Низкочастотные акустические и семантические токенизаторы с частотой 7,5 Гц предназначены для эффективной обработки длинных последовательностей. Модель может ошибаться или выдавать неожиданный и предвзятый результат; она не предназначена для музыки, фоновых звуков, речи на неподдерживаемых языках или перекрывающихся реплик. В README также отмечены риски имитации голосов и дезинформации, а коммерческое и реальное применение без дополнительной проверки не рекомендуется. Лицензия — MIT; заявленное назначение этой версии — исследования и разработка.

81июль 2026
textaudiomithugging-face
divyendra
VibeVoice-Large

Карточка модели divyendra/VibeVoice-Large на Hugging Face совпадает с карточкой aoi-ot/VibeVoice-Large, поэтому описание составлено по ней. VibeVoice-Large — модель преобразования текста в речь семейства VibeVoice, разработанная Microsoft; этот репозиторий содержит копию весов, полученных с ModelScope. Модель предназначена для генерации выразительной длинной разговорной речи, например подкастов и диалогов с несколькими участниками. Она использует плотную архитектуру VibeVoice с LLM для понимания текста и хода диалога, непрерывными акустическими и семантическими токенизаторами с частотой 7,5 Гц и diffusion-head для синтеза акустических деталей. Контекст составляет 32 тыс. токенов; заявлена генерация аудио длительностью примерно до 45 минут с несколькими голосами. Модель рассчитана на английский и китайский языки, поддерживает до четырёх голосов и ориентирована на исследование генерации длинной разговорной речи. Она синтезирует речь, а не музыку, фоновые звуки или эффекты; перекрывающиеся реплики явно не моделируются. Речь на других языках может быть невнятной, а выходы могут содержать ошибки или смещения. README предупреждает о рисках имитации голоса и дезинформации, не рекомендует коммерческое или реальное применение без дополнительной проверки и указывает, что в аудио автоматически добавляются слышимое уведомление об ИИ и водяной знак. Указанная лицензия — MIT.

361сент. 2025
textaudiomithugging-face
harsh171104
VibeVoice-Large

Карточка модели harsh171104/VibeVoice-Large на Hugging Face совпадает с карточкой aoi-ot/VibeVoice-Large, поэтому описание составлено по ней. VibeVoice-Large — модель преобразования текста в речь семейства VibeVoice, разработанная Microsoft; этот репозиторий содержит копию весов, полученных с ModelScope. Модель предназначена для генерации выразительной длинной разговорной речи, например подкастов и диалогов с несколькими участниками. Она использует плотную архитектуру VibeVoice с LLM для понимания текста и хода диалога, непрерывными акустическими и семантическими токенизаторами с частотой 7,5 Гц и diffusion-head для синтеза акустических деталей. Контекст составляет 32 тыс. токенов; заявлена генерация аудио длительностью примерно до 45 минут с несколькими голосами. Модель рассчитана на английский и китайский языки, поддерживает до четырёх голосов и ориентирована на исследование генерации длинной разговорной речи. Она синтезирует речь, а не музыку, фоновые звуки или эффекты; перекрывающиеся реплики явно не моделируются. Речь на других языках может быть невнятной, а выходы могут содержать ошибки или смещения. README предупреждает о рисках имитации голоса и дезинформации, не рекомендует коммерческое или реальное применение без дополнительной проверки и указывает, что в аудио автоматически добавляются слышимое уведомление об ИИ и водяной знак. Указанная лицензия — MIT.

140авг. 2026
textaudiomithugging-face
ghananlpcommunity
VoxCPM2-Ghana

VoxCPM2-Ghana — модель синтеза речи, созданная Mich-Seth Owusu дообучением VoxCPM2 от Microsoft на ганской речи с транскрипциями в IPA. Она принимает последовательности фонем IPA, разделённые пробелами, и генерирует речь с частотой дискретизации 48 кГц. Для преобразования обычного текста в IPA требуется предварительная фонемизация; автор рекомендует ghana-g2p для ганских языков. Модель поддерживает 42 языка Ганы, английский с ганским акцентом и переключение между языками. Архитектура включает языковую модель типа LLaMA примерно на 5 млрд параметров и декодер AudioVAE; доступна генерация с голосовым образцом через reference_wav_path. Модель рассчитана на синтез речи для ганских языков и английского, в том числе формальной речи и смешанного Twi-English. Обучение проводилось на примерно 747 часах аудио, преимущественно на начитках библейских текстов, поэтому разговорная интонация может быть менее естественной; качество и разнообразие данных различаются между языками, а английские записи могут содержать фоновый шум. Явного управления идентичностью диктора нет, поэтому голос может меняться между генерациями. Для IPA необходимо отключить нормализацию текста параметром normalize=False. Лицензия — CC BY-NC 4.0, коммерческое использование ею не разрешено.

250июль 2026
textaudiocc-by-nc-4.0hugging-face
gary109
ai-light-dance_drums_ft_pretrain_wav2vec2-base-new-v6

Модель gary109/ai-light-dance_drums_ft_pretrain_wav2vec2-base-new-v6 разработана на основе gary109/ai-light-dance_drums_pretrain_wav2vec2-base-new и дообучена для распознавания речи на наборе GARY109/AI_LIGHT_DANCE - ONSET-IDMT-MDB-ENST. Это модель архитектуры Wav2Vec2 с CTC-декодированием, содержащая 113,3 млн параметров. По результатам оценки на тестовой выборке значение потерь составило 0,6823, а WER — 0,3851. Она предназначена для преобразования аудио в текст в сценариях, связанных с датасетом AI Light Dance. Сведения о поддерживаемых языках, лицензии и ограничениях применения в карточке не приведены.

880нояб. 2022
textaudiohugging-face
calcuis
chatterbox-gguf

calcuis/chatterbox-gguf — GGUF-квантизированная версия модели Chatterbox, разработанной ResembleAI и адаптированной автором calcuis для запуска через gguf-connector. Модель предназначена для синтеза речи по тексту и может использоваться локально через веб-интерфейс или полностью офлайн. В README указана поддержка английского языка; также упоминается мультиязычное обновление connector c3 с вариантом t3_23lang, однако полный перечень языков не приведён. Модель поставляется в виде набора GGUF-файлов для компонентов ve, t3 и s3gen с различными форматами и уровнями квантизации, включая q2_k, q4_k_m, q6_k, f16, f32 и bf16. Конкретный размер модели, архитектура, максимальная длина контекста, характеристики голоса и точные параметры мультиязычной поддержки в README не указаны. Для работы требуется самостоятельно подготовить файлы модели, encoder и VAE; tokenizer загружается в кэш автоматически при первом запуске. Для режима c3 может потребоваться transformers версии 4.46.3, обновление chichat до 0.0.4 и использование t3_23lang вместо t3_cfg. Сильными сторонами являются локальный офлайн-запуск, гибкий выбор компонентов и квантизаций, а также возможность адаптировать конфигурацию под доступное оборудование. Ограничения включают необходимость ручной подготовки файлов и возможную несовместимость версий зависимостей; требования к ресурсам и качество синтеза для разных языков не описаны. Распространение указано по лицензии MIT.

7.1K55июнь 2025
textaudiomithugging-face
KitsuMate
chatterbox-nano-onnx

KitsuMate/chatterbox-nano-onnx — зеркало независимой конвертации модели Chatterbox Nano в формат ONNX для воспроизводимых загрузок и запуска через Unity и ONNX Runtime. Конвертация включает эмбеддинги текста и речевых токенов в FP16, а также речевой энкодер и авторегрессионную языковую модель в Q4F16. Это не официальный ONNX-релиз Resemble AI; исходная модель — ResembleAI/chatterbox-nano, официальная реализация опубликована в resemble-ai/chatterbox. Модель предназначена для синтеза английской речи по тексту и поддерживает клонирование голоса по образцу речи. Профиль не потоковый. Конвертация прошла сквозную проверку на CPU, однако качество синтеза и совместимость с устройствами не оценивались на репрезентативных наборах. Репозиторий распространяется по лицензии MIT.

160июль 2026ctx1K
textaudiomithugging-face
ehcalabres
distilgpt2-abc-irish-music-generation

ehcalabres/distilgpt2-abc-irish-music-generation — дообученная модель на базе distilgpt2 для генерации текста в формате ABC, предназначенного для записи ирландской музыки. Она использует плотную авторегрессионную архитектуру GPT-2 и принимает текстовый контекст, продолжая его последовательностью токенов. Максимальная длина контекста — 1024 токена. Модель опубликована в форматах PyTorch и safetensors по лицензии Apache-2.0. README указывает, что данные дообучения неизвестны, а дополнительные сведения о модели, её применении и оценке не приведены.

1616июнь 2022ctx1K
textapache-2.0hugging-face
Parakeet-Inc
furigana_whisper_small_jsut

Parakeet-Inc разработала эту модель для японской речи: она принимает аудио и заданную пользователем запись фразы и выводит соответствующую ей последовательность мор — чтение фразы катаканой. Модель основана на Whisper small и дообучена для получения произношения, согласованного с входной записью кандзи и каны. Архитектура WhisperForConditionalGeneration, около 153,1 млн параметров; поддерживаемый язык — японский. Модель предназначена для подготовки японских данных для синтеза речи и преобразования текста с аудио в чтение катаканой. Аудио должно быть короче 30 секунд. Заявленное качество ограничено: после фильтрации данных по совпадению G2P остаётся около 40% примеров. Для лучшей точности автор рекомендует использовать более крупную базовую модель и обучить её на подготовленных данных. В обучении текст нормализован: используются знаки «、» и «。», а фраза обязательно заканчивается на «。», поэтому такой же формат подсказки может улучшить результат. Лицензия — Apache-2.0.

1.1K11июнь 2025ctx1K
textaudioapache-2.0hugging-face
BNarayanaReddy
higgs-telugu-e5-lora-epoch_9

Higgs Audio v3 — дообученная модель синтеза речи с одним голосом на телугу, созданная B. Narayana Reddy на базе Higgs Audio v3 с 4 млрд параметров. Она преобразует текст в выразительную речь голосом одного диктора без референсной аудиозаписи и поддерживает переключение между телугу и английским. Для текста на телугу требуется предварительная запись в ISO-15919 латиницей с тем же frontend.py, который использовался при обучении; README указывает, что без этого токенизация распадается на байтовые фрагменты. Это первый запуск адаптации голоса, предназначенный для исследовательского использования. Лицензия обозначена в метаданных как other.

1541сент. 2026ctx131.1K
textotherhugging-face
eugenehp
luxtts

LuxTTS ONNX — конвертированный набор компонентов для синтеза речи, подготовленный для запуска через RLX. В репозитории представлены encoder/decoder ONNX, вокодер Vocos, а также файл GGUF в формате F16; указанная библиотека — RLX, лицензия — Apache-2.0. Набор предназначен для преобразования текста в речь с использованием пакета rlx-luxtts. Карточка описывает размещение и запуск файлов в RLX, но не сообщает поддерживаемые языки, размер исходной модели, длину контекста или характеристики качества. README помечает репозиторий как staging и предупреждает, что эти файлы не следует использовать как основной runtime pack; поддерживаемый путь загрузки в карточке не раскрыт.

560июль 2026
textaudioapache-2.0hugging-face
mesolitica
malaysian-parler-tts-mini-v1

Malaysian Parler TTS Mini V1 — модель синтеза речи семейства Parler TTS, дообученная Mesolitica на датасете Mesolitica/TTS. Она предназначена для преобразования текстового ввода в речь на малайском языке. В метаданных указаны архитектура ParlerTTSForConditionalGeneration и формат весов safetensors; модель рассчитана на использование через Transformers. Карточка не сообщает размер модели, длину контекста, лицензию, параметры голоса или оценки качества. Для использования нужны совместимые компоненты Parler TTS и код запуска; README не содержит завершённых инструкций по установке или примеров. Языковые теги метаданных включают малайский и китайский, однако поддержка китайского синтеза отдельно не описана.

1151февр. 2025ctx512
texthugging-face
loom-ai-org
matcha-tts-ljspeech-loom

Matcha-TTS (LJSpeech) — модель синтеза речи, основанная на контрольной точке Matcha-TTS для датасета LJSpeech и экспортированная командой loom-ai-org в формат GGUF для loom.cpp. Веса не изменялись при экспорте; модель принимает идентификаторы фонем, а не обычный текст, и создаёт аудио на английском языке. Модель предназначена для преобразования фонемной последовательности в речь. Запустить её можно через библиотеку loom-py-rt, которая предоставляет высокоуровневый интерфейс для синтеза. В карточке указана лицензия MIT. Поскольку входом служат идентификаторы фонем, приложению потребуется отдельно подготовить текст в нужное фонемное представление.

1250авг. 2026
textaudiomithugging-face
MERaLiON
MERaLiON-OmniVoice-Hokkien-TTS

MERaLiON-OmniVoice-Hokkien-TTS — модель синтеза речи, разработанная MERaLiON на базе OmniVoice и дообученная методами SFT и GRPO на разговорных данных. Она преобразует текст на китайских иероглифах в речь на сингапурском хоккиене (южноминьском), стремясь сохранить характерные произношение, тоны и просодию. Модель также поддерживает клонирование голоса по короткой записи целевого диктора и её расшифровке. В сравнительной оценке на 25 предложениях модель показала высокую долю распознавания речи как хоккиенской и лучшие значения WER и естественности среди приведённых систем. Оценка ограничена небольшим набором предложений, автоматическими судьями и одним голосом для клонирования. Репозиторий содержит веса в формате safetensors; лицензия указана как other, без уточнения условий в предоставленных данных.

4547май 2026ctx131.1K
textaudiootherhugging-face
facebook
mms-tts-ade

facebook/mms-tts-ade — модель синтеза речи Adele (ade) из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну; для каждого языка проекта обучается отдельная модель. Чекпойнт использует архитектуру VITS — сквозную условную вариационную автоэнкодерную модель с текстовым энкодером на основе Transformer, поточным модулем, декодером в стиле HiFi-GAN и стохастическим предсказателем длительности. Размер модели — 3,5 млн параметров. Модель предназначена для озвучивания текста на языке Adele. Стохастический предсказатель позволяет варьировать ритм речи, поэтому результат может меняться между запусками; фиксированный seed нужен для повторяемого аудио. Модель доступна через Transformers версии 4.33 и выше. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.

1160сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-bmv

facebook/mms-tts-bmv — модель синтеза речи на бумском языке из проекта Massively Multilingual Speech компании Facebook. Она преобразует текст на бумском языке в речевую аудиоволну; для каждого языка MMS обучается отдельная модель. Архитектура VITS объединяет текстовый энкодер на основе Transformer, flow-модуль, декодер HiFi-GAN-типа и стохастический предсказатель длительности. Модель содержит 3,5 млн параметров и доступна через библиотеку Transformers версии 4.33 и новее. Модель подходит для озвучивания текстов и создания речевых аудиофрагментов на бумском языке. Стохастический предсказатель длительности позволяет варьировать ритм речи; для воспроизводимого результата требуется фиксированный seed. Лицензия CC-BY-NC-4.0 допускает использование с указанием авторства, но запрещает коммерческое применение.

1220сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-fon

facebook/mms-tts-fon — модель синтеза речи на языке фон, разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на фонском языке. Модель построена на архитектуре VITS: она объединяет вариационный автоэнкодер, Transformer-энкодер текста, потоковые слои и декодер, подобный HiFi-GAN; размер составляет 3,5 млн параметров. Стохастический предсказатель длительности позволяет получать разные ритмические варианты произношения одного текста, поэтому результат может меняться между запусками; для воспроизводимого результата нужен фиксированный seed. Для каждого языка MMS обучается отдельный чекпойнт. Модель доступна через Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

89110сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-hui

facebook/mms-tts-hui — модель синтеза речи на языке хули (hui), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на хули. Модель использует архитектуру VITS: текстовый энкодер на базе Transformer, flow-модуль, стохастический предсказатель длительности и декодер, построенный по принципу HiFi-GAN. Чекпойнт содержит 3,5 млн параметров; для разных языков проекта MMS обучаются отдельные модели. Для повторения той же генерации требуется фиксированное случайное зерно, поскольку предсказатель длительности стохастический. Модель распространяется в форматах PyTorch и Safetensors и доступна через библиотеку Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

1110сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-mak

facebook/mms-tts-mak — модель синтеза речи на языке макасар, разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует текст на макасар в речевую волну и предназначена для озвучивания текстов и создания речевого вывода на этом языке. Модель использует архитектуру VITS: вариационный автоэнкодер с текстовым энкодером на основе Transformer, flow-модулем, стохастическим предсказателем длительности и декодером, построенным по принципу HiFi-GAN. Размер — 3,5 млн параметров. Контрольная точка обучена отдельно для макасарского языка и доступна в Transformers версии 4.33 и новее. Генерация недетерминирована: для повторения того же результата требуется фиксированный seed. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

1180сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-maz

facebook/mms-tts-maz — модель синтеза речи на центральном мазахуа, разработанная Facebook в рамках проекта Massively Multilingual Speech (MMS). Она преобразует текст на мазахуа в речевую аудиоволну и предназначена для создания озвучки и других приложений синтеза речи для этого языка. Модель построена на архитектуре VITS: она объединяет текстовый энкодер на основе Transformer, flow-модули, стохастический предиктор длительности и декодер, формирующий аудиоволну. Это отдельный чекпойнт для одного языка; в метаданных указано 3,5 млн параметров. Генерация недетерминирована, поэтому для повторения результата требуется фиксированный seed. Модель доступна через Transformers версии 4.33 и новее и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

1080сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-rai

facebook/mms-tts-rai — модель синтеза речи на языке рамоаайна (rai), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует текст на рамоаайна в речевую аудиоволну и подходит для озвучивания текстов на этом языке. Модель использует архитектуру VITS: текстовый энкодер, потоковый модуль и декодер генерируют речь сквозным образом; стохастический предиктор длительности позволяет получать варианты с разным ритмом. Для воспроизводимого результата требуется фиксировать seed. В метаданных указаны 3,5 млн параметров и лицензия CC BY-NC 4.0, допускающая использование с соблюдением условий лицензии, включая ограничения на коммерческое применение.

1040сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-rmc-script_latin

facebook/mms-tts-rmc-script_latin — модель синтеза речи на карпатском романи, использующая латинскую письменность. Она создана Facebook в рамках проекта Massively Multilingual Speech (MMS), который развивает речевые технологии для большого числа языков. Модель преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текстов на этом языковом варианте. Модель построена на архитектуре VITS и содержит около 3,5 млн параметров. Это отдельный чекпойнт MMS-TTS, обученный для одного языка; для работы доступен через библиотеку Transformers версии 4.33 и выше. Стохастический предиктор длительности позволяет получать варианты ритма речи, поэтому результат может меняться между запусками; фиксированное начальное значение генератора случайных чисел позволяет воспроизводить одну и ту же генерацию. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение.

1260сент. 2023
textaudiocc-by-nc-4.0hugging-face
neuphonic
neutts-nano

NeuTTS Nano (English) — модель синтеза речи, разработанная Neuphonic для локального запуска на CPU и устройствах с ограниченными ресурсами. Она преобразует текст в речь, используя короткий аудиозапись и её расшифровку как образец голоса, чтобы клонировать его тембр и манеру. Модель предназначена для голосовых помощников, встроенных голосовых агентов и приложений, которым важно обрабатывать текст и аудио на устройстве. В основе — компактная языковая модель для генерации токенов речи и аудиокодек NeuCodec с одной кодовой книгой. В README указано около 116,8 млн активных параметров у языковой основы и около 228,7 млн параметров с учётом связанных эмбеддингов и выходной головы. Репозиторий предлагает версии GGUF с квантованием Q4 и Q8; метаданные также указывают формат safetensors. Модель рассчитана на генерацию в реальном времени или быстрее на процессорах и поддерживает только английский язык. Для работы нужны текст, референсное аудио и его текстовая расшифровка; результат — синтезированная речь с водяным знаком. Качество клонирования зависит от чистоты и непрерывности референсной записи. Для фонемизации требуется espeak-ng. В метаданных лицензия обозначена как other, но её условия в предоставленной карточке не раскрыты.

1.7K79нояб. 2025
textaudiootherhugging-face

Задачи профессии

15 задач
139Классификация звуковых событий. — AI анализирует спектральные и временные признаки аудио и относит фрагменты к классам звуковых событий: речи, музыке, сигналам, ударам, шумам или другим заданным категориям. На выходе — метки с временными границами и уверенностью. Качество проверяют по размеченным записям, отдельно оценивая редкие классы, смешанные звуки и условия с сильным фоновым шумом.
140Обнаружение заданного звука в непрерывном аудиопотоке. — Механизм: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение заданного звука в непрерывном аудиопотоке», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
141Определение источника и направления звука. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение источника и направления звука» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
142Разделение смеси на голос, музыку и отдельные инструменты. — Для этой задачи система сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. Рабочие входы: текст, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: результат «Разделение смеси на голос, музыку и отдельные инструменты» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
143Удаление фонового шума и акустических артефактов. — Практическая реализация: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Входной контекст включает референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: преобразованный материал по задаче «Удаление фонового шума и акустических артефактов» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
144Восстановление повреждённой или неполной аудиозаписи. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: преобразованный материал по задаче «Восстановление повреждённой или неполной аудиозаписи» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
145Автоматическое выравнивание громкости и динамического диапазона. — AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. К исходным данным относятся аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Автоматическое выравнивание громкости и динамического диапазона» с сохранённым содержанием и журналом значимых изменений. Надёжность оценивают сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
146Генерация музыки по жанру, настроению, структуре и ограничениям. — Для этой задачи система генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: редактируемый артефакт по задаче «Генерация музыки по жанру, настроению, структуре и ограничениям», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
147Генерация звуковых эффектов по текстовому описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: редактируемый артефакт по задаче «Генерация звуковых эффектов по текстовому описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
148Создание аранжировки для заданной мелодии. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: редактируемый артефакт по задаче «Создание аранжировки для заданной мелодии», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
149Продолжение музыкального фрагмента в согласованном стиле. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: редактируемый артефакт по задаче «Продолжение музыкального фрагмента в согласованном стиле», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
150Транскрибирование музыки в ноты или MIDI. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Транскрибирование музыки в ноты или MIDI» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
151Определение темпа, тональности, аккордов и структуры композиции. — Практическая реализация: AI объединяет несколько источников свидетельств и выбирает наиболее обоснованное определение с оценкой уверенности. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение темпа, тональности, аккордов и структуры композиции» с оценкой уверенности и основаниями решения. Ошибки выявляют по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
152Сведение и предварительный мастеринг аудиоматериала. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: преобразованный материал по задаче «Сведение и предварительный мастеринг аудиоматериала» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
153Адаптация длительности музыки под видео без резкого обрыва. — AI строит профиль текущих потребностей и адаптирует содержание, порядок или параметры взаимодействия под конкретного человека. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: адаптированный вариант для «Адаптация длительности музыки под видео без резкого обрыва» с указанием контекста и факторов, определивших персонализацию. Надёжность оценивают по пользовательской обратной связи, долгосрочной полезности и отсутствию нежелательной дискриминации; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче. <a id="section-i-10"></a>

0 моделей