I.9Аудио и музыка
В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 835 моделейCosyVoice3-0.5B-MLX-bf16 — конвертированная в формат MLX версия модели синтеза речи CosyVoice 3 от FunAudioLLM, опубликованная aufklarer. Это плотная многоязычная модель размером около 0,5 млрд параметров с компонентами Qwen2.5-0.5B, DiT Flow Matching и вокодером HiFi-GAN. Веса LLM и DiT хранятся в bf16 без квантизации; комплект рассчитан на запуск на Apple Silicon через MLX. Модель преобразует текст в речь на китайском, английском, японском, корейском, немецком, испанском, французском, итальянском и русском языках. Она поддерживает синтез с образцом голоса, включая zero-shot клонирование голоса по референсной аудиозаписи и её текстовой расшифровке. По сравнению с квантизированными вариантами bf16 сохраняет точность вычислений, но требует больше памяти и места на диске; заявленный размер комплекта — около 2,1 ГБ. Лицензия — Apache-2.0.
Dasheng-AudioGen-Multilingual — многоязычная версия модели генерации аудио Dasheng-AudioGen, разработанная Mispeech. Она принимает текстовые описания и синтезирует речь, музыку, звуковые эффекты и звуки окружающей среды. В качестве текстового энкодера используется mT5-large; архитектура модели в метаданных обозначена как DashengAudioGenModel. Репозиторий содержит веса в формате safetensors и предназначен для работы с библиотекой Transformers. Модель рассчитана на английский, испанский, португальский, русский, французский, японский, корейский и немецкий языки. По данным карточки, качество синтеза на языках кроме английского заметно хуже; для английских сценариев автор рекомендует базовую Dasheng-AudioGen. Модель распространяется по лицензии Apache-2.0.
dots.tts-mf-2steps — модель синтеза речи из семейства dots.tts, разработанная dots-studio. Репозиторий содержит самостоятельный артефакт для инференса с фиксированным двухшаговым семплированием MeanFlow; настройки семплирования задаются в конфигурации, несовместимые параметры вызывают ошибку. Модель предназначена для клонирования голоса по тексту и образцу речи: на вход подаются текст, аудиозапись голоса и её точная расшифровка, на выходе создаётся аудио. В карточке приведён пример на английском языке, но подтверждения поддержки конкретных языков нет. Модель распространяется по лицензии Apache-2.0. Высокоточное клонирование голоса допустимо только с разрешения и согласия владельца голоса.
Echora MOSS 0.9B Multilingual Lyrics Transcriber — многоязычная аудиомодель для распознавания текста песен по музыкальной записи и вывода приблизительных временных меток для строк. Модель размером около 0,9 млрд параметров создана как дообучение OpenMOSS-Team/MOSS-Transcribe-Diarize; архитектура MOSS-Transcribe-Diarize, веса в формате safetensors. Входной текст песни не требуется. Модель предназначена для обработки личных музыкальных библиотек и проектов отображения текста песен. Для музыки рекомендуется сначала отделять вокал, затем распознавать его окнами с перекрытием и контролировать повторы. Временные метки указываются в секундах; метки говорящих не подтверждают личность певца. Модель распространяется по лицензии Apache-2.0. Распознанный текст может содержать ошибки, пропуски и вымышленные слова, особенно при повторах, ад-либах, наложении вокала и эффектах. Точность зависит от языка, разборчивости вокала и качества записи; инструментальные фрагменты могут породить лишний текст, а отделение вокала и объединение окон — внести дополнительные ошибки. Результат следует проверять перед использованием.
MLX-версия модели Fish Audio S2 Pro, разработанная сообществом mlx-community на основе оригинальной модели fishaudio/s2-pro. Это система синтеза речи из текста с поддержкой клонирования голоса и тонкого управления просодией и эмоциями при помощи inline-тегов в формате [tag]. Модель обучена более чем на 10 млн часов аудио и поддерживает свыше 80 языков. Модель использует Dual-Autoregressive архитектуру с примерно 5 млрд параметров: медленный авторегрессионный компонент содержит около 4 млрд параметров, быстрый — около 400 млн. Аудиокодек использует 10 кодовых книг с частотой около 21 Гц. Полная поддержка заявлена для японского, английского и китайского языков; сильная — для корейского, испанского, португальского, арабского, русского, французского и немецкого, а также доступна поддержка десятков других языков. Модель предназначена для генерации естественной речи, озвучивания текста, создания выразительных голосовых сцен и синтеза речи с заданным референсным аудио. К сильным сторонам относятся широкий языковой охват, управление интонацией, громкостью, тембром, эмоциями и звуковыми эффектами на уровне отдельных фрагментов текста, а также возможность клонирования голоса. В README не указаны подробные ограничения, требования к оборудованию или количественные оценки качества. Модель распространяется по Fish Audio Research License: исследовательское и некоммерческое использование разрешено бесплатно, а коммерческое требует отдельной лицензии от Fish Audio.
Fish Speech V1.5 — многоязычная модель синтеза речи, разработанная Fish Audio. Она преобразует текст в аудио и обучена на более чем миллионе часов многоязычных аудиоданных. Модель относится к плотной архитектуре dual_ar и доступна в формате PyTorch. Модель предназначена для создания озвучки на английском, китайском, японском, немецком, французском, испанском, корейском, арабском, русском, нидерландском, итальянском, польском и португальском языках. В обучающих данных больше всего часов английской и китайской речи, затем японской; остальные языки представлены меньшим объёмом. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на тех же условиях и не допускает коммерческого использования. Карточка не описывает параметры управления голосом или оценку качества синтеза.
Fun-CosyVoice3-0.5B-2512 — система синтеза речи FunAudioLLM на базе языковой модели, выпущенная в декабре 2025 года. Модель предназначена для многоязычного синтеза речи с нуля, включая клонирование голоса по образцу и генерацию речи на языке, отличном от языка образца. В репозитории представлены форматы ONNX и Safetensors; лицензия — Apache-2.0. Система поддерживает китайский, английский, японский, корейский, немецкий, испанский, французский, итальянский и русский языки, а также более 18 китайских диалектов и акцентов. Она принимает инструкции для выбора языка, диалекта, эмоции, скорости и громкости, умеет корректировать произношение через китайский Pinyin и английские фонемы CMU. Поддерживаются потоковая передача текста на вход и аудио на выход, а также нормализация чисел и специальных символов. Разработчики заявляют об улучшениях согласованности содержания, сходства голоса и естественности просодии относительно CosyVoice 2.0, а также о задержке потоковой генерации от 150 мс. В README нет сведений о размере модели, длине контекста или специальных ограничениях качества; заявленные характеристики не следует считать независимой оценкой.
Higgs Audio v3 TTS (4B) — это вариант модели bosonai/higgs-audio-v3-tts-4b, подготовленный multimodalart для загрузки через библиотеку Transformers без SGLang. Веса исходного чекпойнта скопированы без изменений; добавлены файлы конфигурации и модели для trust_remote_code. В основе — Qwen3-4B с объединёнными аудиоэмбеддингами и выходной головой для нескольких кодовых книг. Модель предназначена для синтеза речи по тексту и поддерживает генерацию с использованием эталонного аудио. На выходе возвращает монофоническую волну с частотой 24 кГц; обработка восьми кодовых книг и декодирование волны выполняются автоматически. Для кодирования эталонного аудио и декодирования используется токенизатор bosonai/higgs-audio-v2-tokenizer. Требуется Transformers версии 5.5 или выше. Чекпойнт рассчитан на некоммерческое исследовательское использование и наследует лицензию исходной модели. Основа LM может загружаться в выбранной точности, для неё рекомендуется bf16; аудиокодек работает в fp32, поскольку декодирование в bf16 нестабильно. README не описывает конкретный охват языков синтеза, поэтому язык из тега en нельзя уверенно считать единственным поддерживаемым языком.
mlx-community/IndexTTS — преобразованная в формат MLX версия модели Index-TTS от IndexTeam. Она предназначена для синтеза речи по тексту и распространяется в формате safetensors для использования с библиотекой mlx-audio. Исходная модель доступна по лицензии Apache-2.0; README указывает на её карточку за подробностями о возможностях, языках и ограничениях.
IndexTTS-2 — авторегрессионная модель синтеза речи от IndexTeam, предназначенная для преобразования текста в выразительную речь с управлением длительностью и генерацией голоса без отдельного обучения под диктора. Карточка описывает её как zero-shot text-to-speech модель с эмоциональной выразительностью и контролем длительности. В метаданных указаны языки английский и китайский, а файлы модели представлены в формате safetensors. Модель принимает текст и выдаёт аудио. Лицензия и дополнительные сведения о размере модели и длине контекста в предоставленных данных отсутствуют.
Kokoro-82M — открытая модель синтеза речи, разработанная и обученная участниками проекта Kokoro. Модель содержит 82 млн параметров и основана на архитектурах StyleTTS 2 и ISTFTNet; для генерации речи она использует текст и фонемные представления. В README указано, что модель компактна, работает быстрее и дешевле многих более крупных систем и при этом обеспечивает сопоставимое качество. Модель предназначена для преобразования текста в аудио, включая локальное использование, интеграцию в приложения и коммерческие сервисы. В версии 1.0 заявлены 8 языков и 54 голоса; метаданные подтверждают английский язык. README описывает обучение на нескольких сотнях часов аудио и IPA-разметке. Веса распространяются по лицензии Apache-2.0, что допускает коммерческое применение при соблюдении условий лицензии.
Kokoro-82M GGUF — это преобразованная в формат GGUF и доступная в вариантах F16 и Q8_0 версия открытой модели синтеза речи hexgrad/Kokoro-82M. Репозиторий cstr предназначен для использования с CrispASR и основан на архитектуре StyleTTS2, разработанной Yinghao Aaron Li. Конвертация и квантование выполнены проектом CrispStrobe/CrispASR; дополнительного обучения, дообучения или изменения архитектуры не проводилось. Модель предназначена для преобразования текста в речь и выдаёт монофонический WAV с частотой 24 кГц. На уровне модели поддерживаются 178 IPA-символов и языки английский, испанский, французский, хинди, итальянский, японский и китайский; для синтеза используются отдельные голосовые пакеты, распространяемые в сестринском репозитории. При наличии соответствующей немецкой основы дополнительно возможна работа с немецким и русским языками. Архитектура включает текстовый энкодер с CNN и двунаправленной LSTM, 12-слойный pl-BERT, предиктор длительности и основную частоту, а также декодер iSTFTNet. Размер модели — около 82 млн параметров. Вариант Q8_0 рекомендован авторами: он занимает около 135 МБ против 156 МБ для F16, экономит примерно 13% дискового пространства и, согласно проверке, сохраняет идентичный результат ASR roundtrip. F16 обеспечивает эталонное качество и максимальное соответствие PyTorch-версии, тогда как более сильное квантование Q4_K не опубликовано из-за существенной деградации качества. Для работы требуются CrispASR, совместимый voice pack и соответствующий фонемайзер. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
OuteAI разработала OuteTTS 1.0 1B — плотную языковую модель семейства Llama на 1,2 млрд параметров для синтеза речи и клонирования голоса. Она принимает текст и создаёт речь; для клонирования обычно достаточно около 10 секунд образца голоса. Модель использует аудиокодировщик DAC с двумя кодовыми книгами и генерирует примерно 150 аудиотокенов в секунду, уделяя приоритет качеству звучания. Модель поддерживает естественный текст на нескольких языках и сама выравнивает текст по словам, в том числе для китайского и японского. Наиболее полно обучена для английского, арабского, китайского, нидерландского, французского, немецкого, итальянского, японского, корейского, литовского, русского и испанского; для ряда других языков заявлен умеренный объём обучающих данных. Рекомендуемая длительность генерации за один запуск — около 42 секунд, а образец голоса сокращает доступный контекст генерации. Для качества важны параметры сэмплирования из карточки, включая штраф за повторы на окне в 64 токена. Лицензия CC BY-NC-SA 4.0 ограничивает коммерческое использование.
OuteAI Llama-OuteTTS 1.0 1B GGUF — компактная модель синтеза речи и клонирования голоса, разработанная OuteAI и предназначенная для использования через библиотеку outetts. Модель преобразует текст в речь, выполняет автоматическое выравнивание текста по словам и поддерживает однократное клонирование голоса примерно по 10 секундам эталонной аудиозаписи. Модель имеет размер около 1 млрд параметров и поставляется в формате GGUF. Она поддерживает текстовый ввод на английском, арабском, китайском, нидерландском, французском, немецком, итальянском, японском, корейском, литовском, русском, испанском, португальском, белорусском, бенгальском, грузинском, венгерском, латышском, персидском, польском, суахили, тамильском и украинском языках. Для повышения качества используется аудиоэнкодер DAC с двумя кодбуками, что улучшает точность реконструкции речи, но увеличивает скорость генерации до 150 аудиотокенов в секунду. К сильным сторонам относятся мультиязычная поддержка без необходимости романизации, автоматическое выравнивание слов, улучшенное качество синтеза и более естественное клонирование голоса. Ограничением является чувствительность к настройкам сэмплирования: штраф за повторения должен применяться к окну последних 64 токенов, а не ко всему контексту, иначе качество может существенно снизиться. Для корректной работы рекомендуется библиотека outetts или точная реализация указанных требований. Лицензия — CC BY-NC-SA 4.0, допускающая использование с обязательным указанием авторства и на условиях некоммерческого распространения производных работ.
Ming-UniAudio-16B-A3B — аудиомодель от inclusionAI для совместного понимания, генерации и редактирования речи. Она использует архитектуру BailingMM и единый непрерывный аудиотокенизатор MingTok-Audio на основе VAE и каузального Transformer, объединяющий семантические и акустические признаки. Модель принимает и выдаёт аудио; единая языковая модель поддерживает задачи понимания и генерации речи, а Diffusion Head предназначен для синтеза с высоким качеством звучания. Модель подходит для распознавания и анализа речи, синтеза аудио и редактирования речи по инструкциям на естественном языке, включая семантические и акустические изменения без ручного указания временных отрезков. В карточке заявлены конкурентные результаты на тестах понимания и генерации речи. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0. Описание не приводит размер контекста и перечень поддерживаемых языков.
MOSS-TTS-Local-Transformer-v1.5 — мультиязычная модель синтеза речи от команды OpenMOSS, продолженная от MOSS-TTS-Local-Transformer-v1.0. Она преобразует текст в речь, поддерживает синтез без образца голоса и клонирование голоса по аудиореференсу, а также длинные высказывания, управление длительностью на уровне токенов и переключение языков в одной фразе. Модель использует архитектуру MossTTSLocalModel и аудиотокенизатор MOSS-Audio-Tokenizer-v2. Она принимает и генерирует стереозвук с частотой 48 кГц; доступны управление произношением через Pinyin и IPA и явные маркеры пауз. В README заявлена поддержка 31 языка, включая китайский, кантонский и русский; при задании языковой подсказки качество улучшено почти для всех поддерживаемых языков относительно версии 1.0. Версия 1.5 улучшает сходство голоса и стабильность клонирования, работу с длинными референсами и следование паузам, заданным пунктуацией. Для загрузки требуется Transformers с поддержкой Qwen3 и выполнение удалённого кода через trust_remote_code=True. Модель распространяется по лицензии Apache-2.0.
Карточка модели Nocodedev0/MPTXTTS-v2 на Hugging Face совпадает с карточкой coqui/XTTS-v2, поэтому описание составлено по ней. XTTS-v2 — многоязычная модель синтеза речи от Coqui. Она генерирует речь по тексту и клонирует голос по короткому аудиофрагменту длительностью около шести секунд, в том числе при переносе голоса на другой язык. Модель поддерживает 17 языков: английский, испанский, французский, немецкий, итальянский, португальский, польский, турецкий, русский, нидерландский, чешский, арабский, китайский, японский, венгерский, корейский и хинди. XTTS-v2 улучшает обусловливание по голосу, поддерживает несколько эталонных аудиозаписей и смешивание голосов, а также перенос эмоций и стиля. Заявленная частота дискретизации выходного аудио — 24 кГц. Кодовая база поддерживает инференс и дообучение. В метаданных указан формат PyTorch и лицензия other; конкретные условия лицензии следует сверять с карточкой модели и сопровождающими материалами Coqui.
Multilingual-Expressive-TTS-0.6B — дообученная Scicom-intl модель для многоязычного синтеза речи с выразительной подачей и несколькими голосами. Она основана на Scicom-intl/Multilingual-TTS-0.6B-Base и использует плотную авторегрессионную архитектуру Qwen3 с 574,7 млн параметров. В метаданных указан контекст 32 768 токенов; README описывает обучение с упаковкой последовательностей при контексте до 10 000 токенов. Модель генерирует речевые токены, которые декодируются NeuCodec в аудио с частотой дискретизации 24 кГц. README заявляет поддержку более 150 языков и генерацию с доступными голосами; метаданные перечисляют английский, малайский, китайский и тамильский. Примеры посвящены выразительному синтезу и управлению характеристиками голоса через описание. Веса опубликованы в формате safetensors для Transformers; сведения о лицензии в предоставленных данных отсутствуют.
OuteTTS-1.0-0.6B-GGUF — компактная модель синтеза речи и клонирования голоса, разработанная OuteAI. Она предназначена для преобразования текста в естественно звучащую речь, создания аудиоконтента и генерации речи с использованием стандартных или пользовательских голосовых профилей. Модель поддерживает английский, китайский, нидерландский, французский, грузинский, немецкий, венгерский, итальянский, японский, корейский, латышский, польский, русский и испанский языки. Модель содержит около 0,6 млрд параметров и распространяется в формате GGUF. README не указывает точную архитектуру, размер контекстного окна, поддерживаемые аудиоформаты или сведения о мультимодальности. Среди сильных сторон — компактный размер, поддержка нескольких языков, клонирование голоса и возможность пакетного вывода. Для корректного качества требуется использовать рекомендованные параметры сэмплирования: штраф за повторения должен применяться к окну последних 64 токенов, а не ко всему контексту. Неудачная реализация этого механизма может привести к повреждённой или низкокачественной речи. Для работы предусмотрена библиотека outetts, автоматически настраивающая необходимые сэмплеры и исправления для поддерживаемых бэкендов. Модель распространяется по лицензии Apache-2.0.
Parler-TTS Mini Multilingual v1.1 — мультиязычная модель синтеза речи, разработанная в сотрудничестве аудиокоманды Hugging Face и Quantum Squadra при содействии AI4Bharat. Это дообученная версия Parler-TTS Mini на очищенных данных CML-TTS и неанглоязычной части Multilingual LibriSpeech; для сохранения английской речи также использован набор LibriTTS-R. В обучении задействовано около 9 200 часов неанглоязычных данных и 580 часов англоязычных данных. Модель преобразует текст в речь на английском, французском, испанском, португальском, польском, немецком, нидерландском и итальянском языках. Текстовое описание позволяет задавать характеристики голоса и звучания, например темп, высоту, пол, реверберацию и уровень шума; также можно выбирать из 16 обученных дикторов для более стабильного голоса. Архитектура — Parler-TTS на базе Transformer, используется библиотека Transformers и формат весов Safetensors. Карточка не приводит размер модели или длину контекста. Указаны подсказки по качеству и управлению просодией, но отдельные оценки качества и ограничения не приведены. Лицензия — Apache-2.0.
Parler TTS Mini v1.1 GGUF — это квантизированная GGUF-конверсия модели Parler TTS Mini v1.1, разработанной командой parler-tts и подготовленной cstr для работы с CrispASR. Модель предназначена для синтеза речи по текстовому запросу: помимо текста для озвучивания можно задать естественно-языковое описание голоса, темпа, манеры речи и акустической обстановки. Архитектура включает энкодер T5 на базе flan-t5-large примерно на 335 млн параметров, авторегрессионный декодер в стиле MusicGen примерно на 300 млн параметров и аудиокодек Descript Audio Codec примерно на 75 млн параметров. Энкодер использует 24 слоя, декодер — 24 слоя и 9 кодовых книг, а DAC работает с частотой 44 кГц. В комплект входят варианты F16, Q8_0 и Q4_K; в квантизированных версиях веса аудиокодека сохраняются в F16 для снижения слышимых артефактов. Поддерживается английский язык, а максимальная длительность одной генерации составляет около 30 секунд. Сильные стороны модели — управление характеристиками голоса через подробное описание, наличие встроенного BPE-токенизатора и возможность запуска в GGUF-формате через CrispASR, включая использование уменьшенных квантизированных файлов. К ограничениям относятся отсутствие потоковой генерации, зависимость качества от точности описания голоса, различия результатов при одинаковом seed между C++ и PyTorch, а также деградация при жадном декодировании с temperature 0. Модель распространяется по лицензии Apache 2.0.
Qwen3-TTS-GGUF — набор весов в формате GGUF для qwentts.cpp, C++17/GGML-порта модели Qwen3-TTS 12 Hz, разработанной командой Qwen и Alibaba. Модель предназначена для синтеза речи из текста, включая многоязычный zero-shot TTS с именованными дикторами и диалектами мандаринского китайского, клонирование голоса по референсному аудиофрагменту и, в версии VoiceDesign 1.7B, создание голоса по текстовому описанию его характеристик. Поддерживаются китайский, английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, русский и арабский языки. Комплект использует две совместно загружаемые GGUF-модели: talker на базе Qwen3 с code predictor MTP head и опциональным speaker encoder, который преобразует текст в коды с частотой 12 Hz, и общий аудиотокенизатор на базе SEANet, ConvNeXt, DAC v2 и RVQ, преобразующий коды в монофонический звук с частотой 24 кГц и обратно. Доступны размеры talker 0.6B и 1.7B; режимы Base и CustomVoice доступны для обоих размеров, а VoiceDesign — только для 1.7B. Варианты F32, BF16, Q8_0 и Q4_K_M позволяют выбирать между точностью, размером и требованиями к VRAM. Сильные стороны модели — многоязычность, поддержка нескольких сценариев генерации и клонирования голоса, работа на CPU и через CUDA, Metal или Vulkan, а также заявленное первое место по времени до первого аудио в потоковом тесте Open TTS Leaderboard по состоянию на 9 сентября 2026 года. Ограничения включают необходимость совместной загрузки talker и токенизатора, значительный объём файлов для версии 1.7B и зависимость качества и ресурсоёмкости от выбранной квантизации; конкретный максимальный контекст в README не указан. Модель и аудиокодек распространяются по Apache 2.0, инструменты GGUF-порта qwentts.cpp — по MIT.
Карточка модели Benjonson/s2-pro-fp8 на Hugging Face совпадает с карточкой drbaph/s2-pro-fp8, поэтому описание составлено по ней. drbaph/s2-pro-fp8 — квантизированная в FP8 версия модели Fish Audio S2 Pro, опубликованная пользователем drbaph. Это модель синтеза речи на основе decoder-only трансформера и аудиокодека RVQ; архитектура Dual-AR включает медленный авторегрессионный блок на 4 млрд параметров и быстрый блок на 400 млн параметров. В FP8 переведены веса линейных слоёв, а эмбеддинги, нормализации и кодек сохранены в bfloat16. Репозиторий использует формат safetensors и библиотеку Transformers. Модель преобразует текст в речь, поддерживает несколько голосов и последовательные реплики, а также управление темпом, эмоциями, интонацией и другими особенностями произношения через текстовые инструкции. Заявлена поддержка более 80 языков; наивысшее качество указано для японского, английского и китайского, а русский входит в группу языков следующего уровня качества. Версия FP8 примерно вдвое меньше исходной по размеру и рассчитана примерно на 12 ГБ видеопамяти; для работы требуется NVIDIA GPU с CUDA и PyTorch 2.1 или новее. По README, авторы сообщают об отсутствии заметной потери качества при квантизации, однако это утверждение не подкреплено приведёнными в карточке независимыми оценками. Квантизированные веса оптимизированы для снижения требований к памяти; максимальная скорость ожидается на GPU с аппаратной поддержкой FP8. Лицензия репозитория указана как other, поэтому конкретные условия использования следует сверить с лицензией исходной модели Fish Audio S2 Pro и файлами репозитория.
drbaph/s2-pro-fp8 — квантизированная в FP8 версия модели Fish Audio S2 Pro, опубликованная пользователем drbaph. Это модель синтеза речи на основе decoder-only трансформера и аудиокодека RVQ; архитектура Dual-AR включает медленный авторегрессионный блок на 4 млрд параметров и быстрый блок на 400 млн параметров. В FP8 переведены веса линейных слоёв, а эмбеддинги, нормализации и кодек сохранены в bfloat16. Репозиторий использует формат safetensors и библиотеку Transformers. Модель преобразует текст в речь, поддерживает несколько голосов и последовательные реплики, а также управление темпом, эмоциями, интонацией и другими особенностями произношения через текстовые инструкции. Заявлена поддержка более 80 языков; наивысшее качество указано для японского, английского и китайского, а русский входит в группу языков следующего уровня качества. Версия FP8 примерно вдвое меньше исходной по размеру и рассчитана примерно на 12 ГБ видеопамяти; для работы требуется NVIDIA GPU с CUDA и PyTorch 2.1 или новее. По README, авторы сообщают об отсутствии заметной потери качества при квантизации, однако это утверждение не подкреплено приведёнными в карточке независимыми оценками. Квантизированные веса оптимизированы для снижения требований к памяти; максимальная скорость ожидается на GPU с аппаратной поддержкой FP8. Лицензия репозитория указана как other, поэтому конкретные условия использования следует сверить с лицензией исходной модели Fish Audio S2 Pro и файлами репозитория.
SepFormer — модель разделения аудиоисточников, реализованная командой SpeechBrain и обученная на наборе WSJ0-2Mix. Она принимает одноканальную запись с частотой дискретизации 8 кГц и разделяет смешанную речь на отдельные речевые потоки. В тестах на WSJ0-2Mix показала улучшение SI-SNR на 22,4 дБ и SDR на 22,6 дБ. Модель подходит для разделения двух одновременно звучащих голосов в аудиозаписях. Репозиторий содержит веса PyTorch и инструменты для запуска через SpeechBrain; для обработки записей с другой частотой дискретизации их нужно предварительно пересэмплировать. Разработчики не гарантируют сопоставимое качество на других наборах данных. Лицензия — Apache-2.0.
Карточка модели SYNAPSEai1/Synapse-MusicV13 на Hugging Face совпадает с карточкой MiniMaxAI/MiniMax-Music3, поэтому описание составлено по ней. MiniMax Music 3 — модель генерации песен от MiniMaxAI. Она принимает текст песни и описание музыки, чтобы создавать цельные композиции продолжительностью до пяти минут с вокалом, развивающейся аранжировкой и структурой из куплетов, припевов, переходов и других секций. Текстовые метки секций и подробное описание стиля позволяют задавать жанр, темп, тональность, вокальную подачу, инструменты и развитие звучания. Архитектура сочетает 8B Global LLM для долгосрочной структуры, 0.6B Local LLM для акустических деталей и модуль синтеза на основе Flow Matching и Flow-VAE. Global LLM инициализирована из Qwen3-8B. Модель выдаёт стереозвук WAV с частотой 32 кГц и разрядностью 16 бит. Модель подходит для создания песенных демо, музыкальных эскизов и композиций по заданным словам и стилю. Описание и секционные метки дают генеративный контроль, но не гарантируют точного соблюдения текста, темпа, тональности, инструментов или структуры. Генерация требует CUDA, поддерживается только в не потоковом режиме; длина текстового запроса ограничена 5 000 токенами, а генерация — 9 000 акустическими кадрами. Лицензия в предоставленных данных не указана.
Карточка модели vlapky/TeraTTSv2 на Hugging Face совпадает с карточкой TeraSpace/TeraTTSv2, поэтому описание составлено по ней. TeraTTSv2 ONNX — модель синтеза речи, опубликованная TeraSpace для запуска через ONNX Runtime и Transformers. Она преобразует текст на русском или английском языке в монофоническое аудио с частотой 44,1 кГц и поддерживает потоковую выдачу звука. В комплект входят десять голосовых стилей и два варианта диффузионного сэмплера: ускоренный дистиллированный восьмишаговый вариант и учительская модель с настраиваемым CFG. Для русского текста предусмотрена автоматическая расстановка ударений, а также ручные маркеры ударения; текст требуется заключать в языковые теги. Длительность и темп речи можно менять параметром duration_scale. Для русской речи рекомендованы голоса ru_f1 и ru_m5. Символы вне словаря пропускаются, а качество автоматической обработки ударений может зависеть от слова; в словарном режиме неизвестные слова и неоднозначные омографы остаются без изменений. Модель распространяется в формате ONNX; лицензия модели в предоставленных материалах не указана.
charactr/vocos-mel-24khz — модель вокодера Vocos для синтеза звуковой волны из акустических признаков, в частности мел-спектрограмм. Она использует генеративно-состязательное обучение (GAN) и предсказывает спектральные коэффициенты, после чего восстанавливает аудио обратным преобразованием Фурье. В отличие от типичных GAN-вокодеров, модель не генерирует аудиосэмплы напрямую во временной области. Vocos выполняет синтез за один прямой проход, что делает его быстрым вариантом реконструкции речи или другого аудио по мел-спектрограмме. Репозиторий содержит веса PyTorch; для инференса README рекомендует библиотеку vocos. Модель выпущена под лицензией MIT. В карточке не указаны частота дискретизации, размер модели и языковая специализация.
VoxCPM2 — разработанная OpenBMB многоязычная модель синтеза речи с 2 млрд параметров. Она использует безтокенизаторную диффузионную авторегрессионную архитектуру на основе MiniCPM-4: LocEnc, TSLM, RALM и LocDiT; для аудио применяется AudioVAE V2. Репозиторий содержит веса в формате safetensors, библиотека для работы — voxcpm. Лицензия Apache-2.0 разрешает коммерческое использование. Модель преобразует текст в речь на 30 языках, включая русский, английский и китайский, а также поддерживает перечисленные в карточке китайские диалекты. Она умеет создавать голос по текстовому описанию, клонировать голос по короткому аудиофрагменту с настройкой стиля и продолжать речь с использованием аудио и его расшифровки. Выходное аудио — 48 кГц; модель поддерживает потоковую генерацию и рассчитана на сценарии от озвучивания текста до управляемого синтеза речи. По заявлению карточки, модель показывает конкурентные результаты на бенчмарках синтеза речи и может работать в реальном времени на подходящем оборудовании. Качество зависит от языка и объёма доступных обучающих данных; результаты задания голоса и управления стилем могут различаться между запусками, а очень длинный или эмоционально насыщенный ввод иногда вызывает нестабильность. Карточка запрещает использовать модель для имитации личности, мошенничества и дезинформации и рекомендует маркировать сгенерированный контент.
VoxCPM2 — модель синтеза речи, представленная в карточке Tha456. Это авторегрессионная диффузионная модель без токенизатора с архитектурой LocEnc → TSLM → RALM → LocDiT, основанной на MiniCPM-4. Размер модели — 2 млрд параметров; она использует AudioVAE V2 и генерирует речь с частотой 48 кГц. Модель предназначена для многоязычного преобразования текста в речь, создания голоса по текстовому описанию и клонирования голоса по короткому аудиофрагменту, в том числе с управлением стилем. По README поддерживает 30 языков, включая русский, и заявляет потоковую генерацию в реальном времени. Репозиторий использует формат safetensors и библиотеку voxcpm. Лицензия Apache-2.0 разрешает коммерческое использование. Качество Voice Design и управления стилем может меняться между запусками; результаты зависят от языка, а очень длинный или выразительный ввод иногда вызывает нестабильность. README запрещает использовать модель для имитации личности, мошенничества и дезинформации и рекомендует маркировать сгенерированную речь.