I.9Аудио и музыка
В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 835 моделейVoXtream2-RU — русскоязычный файнтюн VoXtream2, разработанный автором, указанным в карточке как @decent_researcher; базовая модель создана KTH Royal Institute of Technology. Это потоковая zero-shot модель синтеза речи по тексту, способная клонировать голос по аудиозаписи длительностью 3–10 секунд. Она использует аудиокодек Mimi с частотой 12,5 Гц и поддерживает динамическое управление темпом речи. Модель предназначена для синтеза русской речи с заданным голосом, в том числе для работы с бытовыми записями незнакомых дикторов. В README для версии v10-DPO приведены метрики на таких записях: CER около 0,01, переключения голоса 0–2%, темп 5,1–5,2 слога в секунду и медианная длительность пауз 0,4–0,5 секунды. Для инференса нужны модифицированный пакет voxtream и русский стек нормализации и фонемизации, включённый в папку demo; заявлена потребность примерно в 4 ГБ видеопамяти. Лицензия — OpenRAIL.
WaveCut/YuE2-3B-OrbitQuant-W4A4 — квантованный вариант модели YuE2-3B от M-A-P, опубликованный WaveCut. Это плотный авторегрессионный трансформер YuE2ForCausalLM для генерации песен по описанию стиля и тексту; результат — стереофоническое аудио с частотой 48 кГц. Параметры трансформера упакованы в формат OrbitQuant W4A4, при этом эмбеддинги, нормализации, вспомогательные проекции и аудиокодек VAE сохраняют исходную точность. Размер чекпойнта составляет 3,04 ГБ против 7,26 ГБ у версии BF16; модель не дообучалась и не дистиллировалась. Модель предназначена для создания вокальных песен с музыкальным сопровождением. Карточка приводит замеры скорости и памяти на RTX 4090 для нескольких режимов квантования; режимы fast и INT8 могут менять выбор токенов и результат при том же seed. Контекст модели — 24 576 токенов. В метаданных указаны английский, китайский и русский языки. Веса распространяются по лицензии CC BY-NC 4.0, унаследованной от YuE2; коммерческое использование не разрешено. Кодовые компоненты имеют собственные лицензии.
Zonos v0.1 Transformer — GGUF — это конверсия модели Zyphra/Zonos-v0.1-transformer, подготовленная для работы с CrispASR и CrisperWeaver. Модель предназначена для синтеза речи по тексту, клонирования голоса по нескольким секундам эталонной записи и генерации выразительной речи с управлением эмоциями, темпом, вариативностью высоты тона и максимальной частотой аудио. Она обучена на более чем 200 тысячах часов многоязычной речи и поддерживает английский, немецкий, французский, испанский, японский, китайский, корейский, португальский, итальянский, русский и другие языки, перечисленные в карточке модели. Это авторегрессионный GPT-подобный трансформер примерно на 500 млн параметров: 26 слоёв, размерность 2048, GQA, SwiGLU, LayerNorm и RoPE. Текст преобразуется в фонемы через eSpeak, после чего модель генерирует девять потоков кодов DAC. Выходной звук — моно PCM с частотой 44,1 кГц; для декодирования требуется отдельный файл dac-44khz.gguf. Доступны варианты F16 размером около 3,1 ГБ с эталонным качеством и Q4_K размером около 872 МБ с меньшим размером и хорошим качеством. К сильным сторонам относятся многоязычность, клонирование голоса, детальный контроль эмоциональной окраски, скорости речи, высоты тона и качества аудио. Ограничения включают необходимость совместимого DAC-декодера и программной инфраструктуры CrispASR или CrisperWeaver; сведения о производительности, требованиях к оборудованию и качестве по отдельным языкам в карточке не приведены. Модель распространяется по лицензии Apache 2.0.
calcuis/ace-gguf — GGUF-квантизированная версия модели ACE-Step v1-3.5B, разработанной ACE-Step, предназначенная для генерации аудио по текстовому описанию. Модель интегрируется с ComfyUI и рассчитана на сценарии text-to-audio, включая создание музыки, вокала, инструментальных партий и звуковых сцен по промптам. В репозитории представлен полный комплект GGUF-файлов: основная модель, текстовый энкодер и VAE. Известно, что модель основана на ACE-Step v1-3.5B и использует энкодер umt5-base; конкретная архитектура, поддерживаемые языки, размер контекста и точные параметры квантования в README не указаны. Для работы требуются компоненты ace-step, umt5-base и pig, размещённые в соответствующих каталогах ComfyUI. GGUF-формат обычно обеспечивает более быструю загрузку по сравнению с safetensors, однако часть ключевых тензоров сохранена в формате F32, поэтому размер файлов уменьшен незначительно. Модель удобна для запуска в ComfyUI без отдельного safetensors-чекпойнта и поставляется с примерами аудио. Ограничения включают зависимость от ComfyUI, gguf-node и совместимых узлов, а также необходимость отдельно подготовить компоненты и использовать актуальную версию ComfyUI для поддержки umt5-base. Лицензия — Apache-2.0.
Edge0/audio8-TTS-0.1B-ONNX-INT8 — компактная мультиязычная модель синтеза речи Audio8 TTS Preview, разработанная командой Audio8 и экспортированная для запуска через ONNX Runtime на CPU. Модель поддерживает zero-shot voice cloning: может синтезировать речь с использованием зарегистрированного эталонного голоса. Предназначена для локального синтеза речи, потоковой генерации аудио, CLI-, веб- и HTTP-сервисов, включая OpenAI-совместимый endpoint. Основная модель содержит около 100 млн параметров без учёта аудиокодека и использует архитектуру DualAR: медленный авторегрессионный модуль на 24 слоях с гибридом attention и Mamba и быстрый авторегрессионный модуль на 4 слоях. Акустическое представление включает 10 кодовых книг по 4096 элементов, а кодек формирует монофонический звук с частотой 44,1 кГц. Контекст составляет до 2048 упакованных текстовых или аудиопозиций. Медленные и быстрые AR-модули квантизованы в INT8, кодек работает в FP16, выходной сигнал — в FP32. Поддерживаются кантонский, китайский, нидерландский, английский, французский, немецкий, итальянский, японский, корейский, польский и испанский языки. К сильным сторонам относятся небольшой размер, отсутствие необходимости в CUDA и PyTorch после загрузки, низкое потребление памяти и возможность локального профилирования голосов. Ограничения включают статус preview, намеренно ограниченный набор языков, отсутствие заявленных количественных метрик качества и проверку текущего релиза преимущественно на macOS arm64 и Linux x86_64. Лицензия — Apache 2.0.
Audio8-TTS-Preview-0.6b-bf16 — конверсия модели Audio8/Audio8-TTS-Preview-0.6b для Apple Silicon в формате MLX. Это многоязычная модель синтеза речи с 0,6 млрд параметров на архитектуре arktts: DualAR-трансформер использует 24 слоя для предсказания семантических токенов и 4 слоя для генерации кодов аудиокодека. В комплект входит нейронный кодек с частотой дискретизации 44,1 кГц. Модель предназначена для преобразования текста в речь и клонирования голоса по образцу аудио в режиме zero-shot. Поддерживаются кантонский и китайский, нидерландский, английский, французский, немецкий, итальянский, японский, корейский, польский и испанский языки. Для запуска требуется mlx-audio версии 0.4.7 или новее; веса модели представлены в bf16, а веса кодека — в fp32. README сообщает о проверке численного соответствия PyTorch-версии на CPU, включая точное совпадение токенов при жадной генерации на проверочной фразе. Это не гарантирует такого же качества или производительности на других данных и конфигурациях. Модель опубликована под лицензией Apache-2.0.
DongLao TTS — пакет выпуска системы синтеза речи, содержащий графы ONNX и файлы формата safetensors. В карточке указано, что авторегрессивная генерация реализована полностью; в комплект также входит кодек MOSS из OpenMOSS-Team/MOSS-Audio-Tokenizer-Nano, файлы и лицензия которого сохранены от upstream-источника. Модель предназначена для преобразования текста в речь. Карточка не описывает обучающие данные, оценку качества и предполагаемые сценарии использования, а также просит дополнить сведения о лицензии обученных весов. Поэтому нельзя определить поддерживаемые языки, характеристики голоса или условия лицензирования весов.
FastSpeech2ConformerWithHifiGan — модель синтеза речи из текста, объединяющая FastSpeech2Conformer и вокодер HiFi-GAN для более простого использования. FastSpeech2Conformer использует нев autoreгрессивную архитектуру: она быстро преобразует текст в мел-спектрограммы, а HiFi-GAN превращает их в аудиоволну. Модель рассчитана на англоязычный синтез речи и работает через библиотеку Transformers. Модель подходит для озвучивания текстов и создания речевых аудиофайлов. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Карточка не сообщает ограничений по качеству или применению.
Fun-CosyVoice3-0.5B-2512-fp16 — версия модели синтеза речи FunAudioLLM, преобразованная сообществом mlx-community в формат MLX с помощью mlx-audio-plus. Это плотная модель семейства CosyVoice3 с 0,5 млрд параметров в исходной модели; данная версия предназначена для запуска на MLX. Модель преобразует текст в речь и поддерживает девять языков: китайский, английский, японский, корейский, немецкий, французский, русский, итальянский и испанский. README описывает синтез с голосовым образцом без дополнительных данных, режим с текстом-расшифровкой образца для улучшения качества, а также управление стилем речи инструкцией, например просьбой говорить медленнее. Лицензия в предоставленных данных не указана.
Higgs TTS 3 — модель синтеза речи, представленная в репозитории LiShi30678 и разработанная Boson AI. Она преобразует текст в выразительную разговорную речь, поддерживает клонирование голоса по образцу и управление эмоциями, стилем, просодией, паузами и звуковыми эффектами с помощью встроенных тегов. Модель построена на авторегрессионном декодере примерно на 4 млрд параметров с архитектурой Higgs Multimodal Qwen3; аудио представляется восемью кодовыми книгами, частота кодирования — 25 кадров в секунду. Длина контекста составляет 8 192 токена. В README заявлена поддержка более 100 языков: для 85 указано качество WER/CER ниже 5, для ещё 17 — от 5 до 10. Русский входит в первую группу. Основной сценарий — генерация естественной речи для диалогов и озвучивания контента. Лицензия Boson Higgs TTS 3 Research and Non-Commercial License разрешает исследовательское и некоммерческое использование. Для производственного применения, размещённых API, интеграции в продукт или перепродажи нужна отдельная коммерческая лицензия. Создателям цифрового контента разрешено монетизировать созданные материалы по Creator Use Grant при указании авторства Boson AI's Higgs Audio. Лицензия запрещает клонирование голоса без согласия, имитацию личности, мошенничество, обман избирателей и биометрическое наблюдение.
Higgs TTS 3 — MLX bf16 — это пакет модели синтеза речи, опубликованный aufklarer на базе весов Boson AI Higgs TTS 3. Он предназначен для генерации разговорной речи из текста и клонирования голоса по короткому аудиофрагменту с его расшифровкой. Модель основана на декодере Qwen3-4B и аудиоинтерфейсе с восемью кодовыми книгами; встроенный кодек формирует речь с частотой 24 кГц. Пакет рассчитан на запуск через MLX на Apple Silicon. Модель поддерживает более 100 языков и позволяет задавать эмоциональную подачу, стиль, звуковые эффекты и просодию управляющими токенами в тексте. В README приведены результаты проверок на английском, китайском, испанском и японском для конкретной тестовой конфигурации; они не гарантируют аналогичное качество на всех языках и сценариях. Для клонирования голоса требуется согласие его владельца. Лицензия указана как other, поэтому условия использования следует уточнить на странице репозитория и у правообладателей.
cstr/indextts-1.5-GGUF — GGUF-конверсия модели IndexTTS-1.5, разработанной IndexTeam, подготовленная для использования с CrispASR. Это система синтеза речи с zero-shot клонированием голоса: по короткому образцу голоса и тексту генерирует речь с характеристиками исходного диктора. Модель предназначена для многоязычного синтеза и кросс-языкового клонирования; в метаданных указаны английский, китайский, японский и корейский языки, при этом в README отдельно отмечено обучение на английском и китайском. Архитектура включает Conformer-энкодер для обработки эталонного аудио, Perceiver resampler, авторегрессионный декодер GPT-2 и вокодер BigVGAN. Всего около 500 млн параметров. Conformer состоит из 6 блоков с размерностью 512, Perceiver использует 2 слоя и 32 латентных вектора, а GPT-2 — 24 трансформерных блока с размерностью 1280 и 20 головами внимания. На выходе формируется монофонический сигнал с частотой дискретизации 24 кГц. Для работы требуются два GGUF-файла: GPT-модель и общий вокодер BigVGAN. Сильные стороны модели — zero-shot клонирование голоса по WAV-образцу длительностью 3–10 секунд, отсутствие внешних зависимостей вроде espeak и phonemizer, а также наличие вариантов квантования Q8_0, Q4_K и F16. Q8_0 заявлен как оптимальный баланс качества и размера, Q4_K — как самый компактный вариант, а F16 обеспечивает эталонное качество и полное совпадение mel-кодов с реализацией на Python. Ограничения включают необходимость эталонной записи и двух компонентов модели; характеристики качества для всех языков и устойчивость к различным голосам в README подробно не приведены. Модель распространяется по лицензии Apache-2.0.
Irodori-TTS-v4.1-Small-fp16 — японская модель синтеза речи, преобразованная mlx-community в формат MLX из Aratako/Irodori-TTS-v4.1-Small с помощью mlx-audio 0.4.7. Она объединяет в одном чекпойнте клонирование голоса по образцу речи, создание голоса по текстовому описанию VoiceDesign и автоматическое предсказание длительности. В комплект входят текстовый энкодер ModernBERT-ja-310m с токенизатором и японский аудиокодек Semantic-DACVAE-Japanese-32dim, поэтому для инференса не нужны дополнительные загрузки. Модель принимает текст и, для клонирования голоса или подсказки длительности, референсное аудио продолжительностью до 120 секунд; на выходе создаёт речь. Карточка указывает японскую специализацию. Короткие запросы только с описанием голоса могут приводить к повторному чтению текста и завышенной длительности; для таких случаев можно передать референсное аудио или задать duration_scale либо seconds. В README и метаданных лицензия не приведена.
KlonAudio — форк KugelAudio-0-Open, подготовленный JUST ADD AI GmbH. Модель предназначена для синтеза речи из текста на 23 европейских языках и клонирования голоса по образцу аудио длительностью 5–10 секунд. В репозитории также есть три готовых немецких голоса: радиоведущий, сердитая речь и мягкий голос пожилой женщины. Модель использует плотную архитектуру KugelAudio для условной генерации; в README она описана как гибрид авторегрессионной модели и диффузии на основе Microsoft VibeVoice. Размер базовой модели — 7 млрд параметров, формат файлов — safetensors. Лучшее заявленное покрытие — для немецкого, испанского, французского и английского; качество для других языков может различаться. По README веса идентичны базовой модели KugelAudio-0-Open, а форк восстанавливает компоненты клонирования голоса и добавляет аудиосэмплы и конфигурационные файлы. Модель распространяется по лицензии MIT.
mlx-community/Kokoro-82M-4bit — 4-битная модель синтеза речи в формате MLX, подготовленная сообществом mlx-community из hexagrad/Kokoro-82M с помощью mlx-audio версии 0.0.1. Она предназначена для преобразования текста в речь в среде MLX. Метаданные связывают модель с дообученной yl4579/StyleTTS2-LJSpeech; карточка указывает английский язык и лицензию Apache-2.0. README направляет за подробностями о модели к исходной карточке.
Kokoro-82M-ONNX — модель синтеза речи из текста, опубликованная сообществом onnx-community на основе hexgrad/Kokoro-82M. Она предназначена для преобразования текстовых данных в аудио и может использоваться в приложениях озвучивания, голосовых интерфейсах, генерации аудиоконтента и других сценариях text-to-speech. Модель поддерживает английский язык и предоставляет несколько американских и британских голосов, включая мужские и женские варианты. Модель содержит около 82 миллионов параметров и работает в формате ONNX, что упрощает запуск через Transformers.js, kokoro-js и ONNX Runtime. Заявлена поддержка контекста до 512 токенов, частота выходного аудио составляет 24 кГц. Доступны варианты квантования и точности fp32, fp16, q8, q4 и q4f16, позволяющие выбирать между качеством, размером модели и требованиями к вычислительным ресурсам. Среди ограничений — явно указана поддержка только английского языка, а сведения о качестве на различных типах текста и о возможностях клонирования или настройки голоса отсутствуют. Модель распространяется по лицензии Apache-2.0.
Kokoro-82M-v1.1-zh-ONNX — модель преобразования текста в речь (TTS), представленная в формате ONNX для использования с библиотекой Transformers.js. Она основана на модели hexgrad/Kokoro-82M-v1.1-zh; в карточке также указано сообщество onnx-community как источник данной версии. Модель предназначена для синтеза аудио из текста и поддерживает английский и китайский языки. Модель содержит 82 миллиона параметров, что делает её компактной для задач генерации речи и потенциально удобной для приложений с ограниченными вычислительными ресурсами. В предоставленных данных не указаны архитектура, размер контекстного окна, дополнительные модальности, показатели качества, требования к оборудованию или ограничения по применению. Лицензия — Apache 2.0, допускающая использование, модификацию и распространение на условиях этой лицензии.
Kokoro Vietnamese — набор артефактов для синтеза речи на вьетнамском языке, созданный сообществом contextboxai на основе дообученной модели Kokoro. Репозиторий содержит контрольную точку PyTorch для инференса, экспорт акустической модели в ONNX, конфигурацию и словарь, голосовой набор по умолчанию и дополнительные голосовые наборы. Модель предназначена для преобразования вьетнамского текста в речь; Vietnamese G2P выполняется с помощью vig2p. Для запуска доступны PyTorch и ONNX Runtime, включая CUDAExecutionProvider при установленном onnxruntime-gpu. Репозиторий распространяется по лицензии Apache-2.0. Размер модели и длина контекста в карточке не приведены.
Карточка модели minhtanmtst/Kokoro-Vietnamese на Hugging Face совпадает с карточкой contextboxai/Kokoro-Vietnamese, поэтому описание составлено по ней. Kokoro Vietnamese — набор артефактов для синтеза речи на вьетнамском языке, созданный сообществом contextboxai на основе дообученной модели Kokoro. Репозиторий содержит контрольную точку PyTorch для инференса, экспорт акустической модели в ONNX, конфигурацию и словарь, голосовой набор по умолчанию и дополнительные голосовые наборы. Модель предназначена для преобразования вьетнамского текста в речь; Vietnamese G2P выполняется с помощью vig2p. Для запуска доступны PyTorch и ONNX Runtime, включая CUDAExecutionProvider при установленном onnxruntime-gpu. Репозиторий распространяется по лицензии Apache-2.0. Размер модели и длина контекста в карточке не приведены.
KVAE-Audio — непрерывный полночастотный аудиоавтоэнкодер, выпущенный проектом KandinskyLab. Он кодирует необработанный звуковой сигнал в компактные непрерывные латентные представления и восстанавливает его; модель рассчитана на речь, музыку и другие звуки, а латентное пространство также предназначено для использования генеративными моделями. Рабочая частота — 48 кГц, веса опубликованы в формате Safetensors. Авторы оценивают качество реконструкции и пригодность латентного пространства для генерации на наборах AudioCaps, Song Describer, LibriSpeech, AudioSet, MUSDB18-HQ и EARS. В описанных сравнениях KVAE-Audio используется в качестве автоэнкодера внутри генеративного конвейера при фиксированном генераторе. Лицензия модели — MIT.
LEMAS-TTS — многоязычная система синтеза речи с нуля по тексту, представленная в исследовательской работе LEMAS; разработчик — проект LEMAS. Модель использует нерекуррентную архитектуру на основе flow matching и обучена на корпусе LEMAS-Dataset объёмом более 150 000 часов аудио на десяти языках. Система предназначена для zero-shot синтеза речи на китайском, английском, испанском, русском, французском, немецком, итальянском, португальском, индонезийском и вьетнамском языках. Для повышения устойчивости и качества при многоязычном синтезе применяются состязательное обучение против акцента и функция потерь CTC. Модель подходит для генерации озвучки по тексту и многоязычных речевых приложений, которым важна работа без отдельной настройки для каждого голоса или языка. Репозиторий содержит варианты ONNX и PyTorch с весами Safetensors. Лицензия — CC BY 4.0.
Llama-OuteTTS-1.0-1B — модель синтеза речи на базе архитектуры Llama, подготовленная Unsloth на основе OuteAI/Llama-OuteTTS-1.0-1B. Она преобразует текст в речь и поддерживает клонирование голоса по короткому образцу: для создания профиля обычно достаточно около 10 секунд референсного аудио. Модель автоматически выравнивает слова с аудио, принимает текст на родном письме без обязательной романизации и поддерживает числа в текстовом вводе. Модель содержит 1,2 млрд параметров, использует библиотеку OuteTTS и аудиокодек DAC с двумя кодовыми книгами. Заявлена поддержка английского, арабского, китайского, нидерландского, французского, немецкого, итальянского, японского, корейского, литовского, русского, испанского и ряда других языков; качество зависит от объёма обучающих данных для каждого языка. Для лучшего результата рекомендуется создавать профиль говорящего на целевом языке и генерировать речь отрывками примерно до 42 секунд. Качество синтеза чувствительно к настройке повторного штрафа: его следует применять к окну из 64 последних токенов, поскольку штраф на всём контексте может ухудшить или сломать результат. README отмечает наиболее надёжный вывод в llama.cpp; библиотека OuteTTS также реализует оконный штраф для Transformers. Лицензия CC BY-NC-SA 4.0 ограничивает коммерческое использование.
Карточка модели HKUSTAudio/Llasa-1B-two-speakers-kore-puck на Hugging Face совпадает с карточкой HKUSTAudio/Llasa-1B-multi-speakers-genshin-zh-en-ja-ko, поэтому описание составлено по ней. HKUST Audio Llasa-1B-multi-speakers-genshin-zh-en-ja-ko — дообученная на базе HKUSTAudio/Llasa-1B-Multilingual модель семейства Llama для синтеза речи из текста. Название указывает на настройку для нескольких голосов и контента, связанного с Genshin; в доступном README подробности этой настройки не раскрыты. Модель имеет плотную архитектуру Llama с 1,4 млрд параметров, использует формат safetensors и заявлена для задачи text-to-speech. Метаданные указывают китайский и английский языки; японский и корейский присутствуют в названии репозитория, но их поддержка карточкой отдельно не подтверждена. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
Llasa-8B — система синтеза речи HKUSTAudio, созданная на основе Llama 3.1 8B Instruct. Модель дообучена для работы с речевыми токенами кодовой книги XCodec2 из 65 536 токенов и содержит 7,8 млрд параметров. Для синтеза она принимает текст, а также может использовать речевой промпт; заявлены поддержка китайского и английского языков и контекст длиной до 131 072 токенов. Модель предназначена для генерации речи из текста и синтеза с заданным речевым промптом. Авторы обучали её на 250 000 часах китайско-английских речевых данных и отмечают способность работать со сложными предложениями. Для использования требуется XCodec2. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.
mudler/magpie-tts.cpp-gguf — это локальная мультиязычная модель синтеза речи NVIDIA Magpie TTS Multilingual 357M, адаптированная командой LocalAI для inference-движка magpie-tts.cpp. Модель распространяется в формате GGUF и предназначена для преобразования текста в монофоническую речь с частотой дискретизации 22,05 кГц без необходимости использовать Python, PyTorch, NeMo или CUDA Toolkit во время инференса. В каждый файл входят TTS-модель, декодер NanoCodec, токенизатор и словари G2P. Модель поддерживает как минимум девять языков и их варианты: английский, испанский, немецкий, французский, итальянский, португальский (включая pt-BR), хинди, вьетнамский, корейский и арабский. Доступны пять голосов: Aria, Jason, John, Leo и Sofia. Китайский и японский языки пока не поддерживаются C++-токенизатором. Для запуска используются GGUF-файлы с разной точностью: от f32 до q4_k; рекомендуемым вариантом назван q8_0, который занимает около 624 МБ и обеспечивает примерно в 1,6 раза более быстрое декодирование по сравнению с f32. Меньшие варианты экономят память, но могут сильнее терять качество на сложных текстах. Сильная сторона модели — полностью автономный локальный запуск на CPU и высокая производительность: в заявленном тесте f32-версия работала примерно в 66 раз быстрее эталонного конвейера NeMo на том же CPU. Ограничения включают фиксированный набор голосов и языков, отсутствие поддержки китайского и японского языков в текущем токенизаторе, а также возможное ухудшение качества при использовании q5_k и q4_k. Код инференса распространяется по лицензии MIT, а веса модели — по NVIDIA Open Model License.
MiraToffel — немецкоязычная дообученная версия MiraTTS, разработанная SebastianBodza на базе модели YatharthS/MiraTTS с архитектурой Qwen2. Она преобразует текст в речь и поддерживает клонирование голоса по образцу аудио. По данным карточки, модель создаёт речь на немецком языке; заявлены реалистичное звучание, частота аудио 48 кГц, скорость до 100× реального времени при пакетной обработке с Lmdeploy и работа на GPU с объёмом видеопамяти менее 6 ГБ. Модель подходит для озвучивания немецких текстов и создания речи с голосом, похожим на голос из аудиопримера. Карточка отмечает более чёткое произношение и стабильность по сравнению с некоторыми другими вариантами Kartoffel, при этом сходство клонированного голоса может быть неидеальным. Условия применения определяются лицензией CC BY-NC-SA 4.0, которая ограничивает коммерческое использование.
Карточка модели huangxudong/MOSS-Audio-Tokenizer-v2 на Hugging Face совпадает с карточкой OpenMOSS-Team/MOSS-Audio-Tokenizer-v2, поэтому описание составлено по ней. MOSS-Audio-Tokenizer-v2 — аудиотокенизатор команды OpenMOSS-Team, представленный в работе «MOSS-Audio-Tokenizer: Scaling Audio Tokenizers for Future Audio Foundation Models». Это унифицированная дискретная модель на архитектуре Cat (Causal Audio Tokenizer with Transformer), обученная с нуля. Общий размер энкодера и декодера составляет 2 млрд параметров; репозиторий содержит веса Safetensors и реализацию для Transformers с удалённым кодом. Модель кодирует и восстанавливает стереозвук с частотой дискретизации 48 кГц, сжимая его до 12,5 кадров в секунду. Стек из 32 уровней residual vector quantization поддерживает разные битрейты. Токены рассчитаны на сохранение качества реконструкции и семантических характеристик речи, звуковых эффектов и музыки; их можно использовать в последующих системах распознавания и синтеза речи. Предусмотрена потоковая обработка фрагментами. Модель обучена на 3 млн часов разнообразных аудиоданных с совместной оптимизацией компонентов кодека и семантического выравнивания. Карточка не заявляет конкретный список поддерживаемых языков. Для загрузки требуется Transformers и trust_remote_code=True; README рекомендует фиксировать проверенную ревизию. Лицензия — Apache-2.0.
MOSS-TTS-v1.5 GGUF — модель синтеза речи с поддержкой клонирования голоса, основанная на OpenMOSS-Team/MOSS-TTS-v1.5. Данные веса преобразованы в формат GGUF для работы с C++/GGML runtime OpenMOSS. Модель предназначена для генерации речи по тексту, а также для синтеза с голосом, заданным аудиореференсом. Доступны два варианта backbone: полный BF16 и компактный Q8_0. В Q8_0-версии матрицы используют 8-битное квантование, а таблица токенов хранится в BF16; нормализационные тензоры и отдельные компоненты аудиокодека сохраняются в FP32. Для каждой версии требуется подключать соответствующий файл extras.gguf. Конверсия не содержит FP16-тензоров. В README не указаны размер модели, поддерживаемые языки, длина контекста и полный перечень архитектурных компонентов. К сильным сторонам относятся возможность CPU- и Vulkan-запуска, более компактный Q8_0-вариант и проверенная генерация длинных аудиофрагментов без обрезания финальной части и клиппинга. Ограничением является зависимость от сборки OpenMOSS с поддержкой загрузки BF16/FP32 codec sidecar; старые версии runtime несовместимы с этими файлами. Исходная модель и конвертированные веса распространяются по лицензии Apache 2.0.
Scicom International разработала Multilingual-Expressive-TTS-1.7B как дообученную модель для многоязычного синтеза выразительной речи. Это плотная причинная языковая модель архитектуры Qwen3 на 1,9 млрд параметров; для преобразования аудиокодов в речь используется NeuCodec с частотой дискретизации 24 кГц. Модель поддерживает многоголосную генерацию и может работать с доступными голосами; автор заявляет поддержку более 150 языков. В метаданных указаны английский, китайский и тамильский языки. Заявленная длина контекста — 32 768 токенов. Модель предназначена для синтеза речи по тексту, в том числе с выразительной подачей и выбором голоса. README также описывает генерацию описаний голосов. Репозиторий содержит веса safetensors и использует библиотеку Transformers; для аудиодетокенизации требуется NeuCodec. Лицензия в предоставленных сведениях не указана.
OmniVoice BF16 — преобразованная в формат BF16 версия многоязычной модели синтеза речи OmniVoice, подготовленная Kawshik Kumar Paul для инференса на PyTorch. Модель разработана на базе k2-fsa/OmniVoice и предназначена для преобразования текста в речь; семейство OmniVoice также поддерживает синтез с клонированием голоса и настройкой его характеристик. Репозиторий содержит веса в формате safetensors и использует библиотеку omnivoice. Для инференса рекомендуется GPU; запуск на CPU возможен, но может быть медленным. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.