I.9Аудио и музыка
В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 835 моделейfacebook/mms-tts-waw — модель синтеза речи на языке вайвай, разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и подходит для озвучивания текстов на вайвай. Модель построена на архитектуре VITS: она объединяет вариационный автокодировщик, flow-модуль с текстовым энкодером на основе Transformer, стохастический предиктор длительности и декодер, основанный на HiFi-GAN. Размер модели — 3,5 млн параметров; контрольная точка доступна в форматах PyTorch и Safetensors и используется через Transformers версии 4.33 и новее. Для повторяемого результата при генерации требуется фиксировать seed, поскольку модель использует стохастический предиктор длительности. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.
Карточка модели suryatmodulus/neutts-nano на Hugging Face совпадает с карточкой neuphonic/neutts-nano, поэтому описание составлено по ней. NeuTTS Nano (English) — модель синтеза речи, разработанная Neuphonic для локального запуска на CPU и устройствах с ограниченными ресурсами. Она преобразует текст в речь, используя короткий аудиозапись и её расшифровку как образец голоса, чтобы клонировать его тембр и манеру. Модель предназначена для голосовых помощников, встроенных голосовых агентов и приложений, которым важно обрабатывать текст и аудио на устройстве. В основе — компактная языковая модель для генерации токенов речи и аудиокодек NeuCodec с одной кодовой книгой. В README указано около 116,8 млн активных параметров у языковой основы и около 228,7 млн параметров с учётом связанных эмбеддингов и выходной головы. Репозиторий предлагает версии GGUF с квантованием Q4 и Q8; метаданные также указывают формат safetensors. Модель рассчитана на генерацию в реальном времени или быстрее на процессорах и поддерживает только английский язык. Для работы нужны текст, референсное аудио и его текстовая расшифровка; результат — синтезированная речь с водяным знаком. Качество клонирования зависит от чистоты и непрерывности референсной записи. Для фонемизации требуется espeak-ng. В метаданных лицензия обозначена как other, но её условия в предоставленной карточке не раскрыты.
NeuTTS-Nano-German — немецкая версия акустической модели NeuTTS-Nano от undefinelabs, представленная в формате GGUF с точностью BF16. Репозиторий содержит официальную конверсию модели для запуска в llama.cpp и совместимых средах; размер файла составляет 446 МБ. Модель предназначена для синтеза немецкой речи с низкой задержкой, в том числе в локальных и периферийных речевых системах. Она принимает текст и генерирует аудио; карточка описывает её как акустическую модель для потоков генерации голоса в реальном времени. Формат GGUF и BF16 ориентированы на эффективный локальный запуск. В карточке указана лицензия Apache-2.0. Количественные оценки качества и ограничения по голосам или произношению не приведены.
omniASR-CTC-300M-baoule-1000steps — модель распознавания речи на языке бауле, полученная дообучением facebook/omniASR-CTC-300M по официальной рецептуре Meta для CTC на подмножестве bau_tts датасета google/WaxalNLP. Она принимает аудио и преобразует речь в текст; обучение завершено за 1000 шагов, опубликован чекпойнт последнего шага. На dev-выборке из 98 примеров указаны WER 35,15% и UER 10,95%. Модель построена на архитектуре Wav2Vec2ForCTC, использует Fairseq2 и неизменённый токенизатор omniASR_tokenizer_v1; обучающие аудиозаписи имели длительность от 2 до 60 секунд. Лицензия — Apache-2.0. Указанные метрики получены на небольшой выборке и не гарантируют аналогичного качества на других данных.
Sam4rano/omnivoice-yoruba-tts — дообученная Sam4rano версия OmniVoice для синтеза речи на языке йоруба. Модель принимает текст и может использовать аудиозапись-образец для клонирования голоса без отдельного обучения под диктора; генерируемая речь имеет частоту дискретизации 24 кГц. Модель обучена на 6 989 высказываниях общей длительностью около 9,6 часа из наборов IroyinSpeech и Google Yoruba Speech Dataset (OpenSLR 86). В описанной оценке нормализованный WER синтезированной речи составил около 11,5%; сходство голоса при zero-shot клонировании оценено косинусной близостью 0,2–0,4, поэтому точное воспроизведение личности диктора ограничено. Для использования требуется установленный репозиторий OmniVoice. В метаданных указана лицензия Apache-2.0.
UBC-NLP/Simba-TTS-lin — модель синтеза речи из семейства Simba, разработанная UBC-NLP для африканских языков и дообученная на данных SimbaBench. Карточка описывает серию Simba-TTS как мультиязычные модели для преобразования текста в естественную речь; этот вариант предназначен для лин, языка Lingala. Для запуска указана библиотека Transformers. Архитектура репозитория — VITS, размер модели — 3,5 млн параметров; веса опубликованы в формате safetensors. Модель подходит для озвучивания текстов на Lingala, например для голосовых интерфейсов и речевого контента. README также заявляет ориентацию серии на малоресурсные африканские языки и высокое качество распознавания и синтеза, однако для этой конкретной модели такие заявления не сопровождаются результатами оценки. В метаданных задача обозначена как распознавание речи, тогда как README классифицирует Simba-TTS как синтез речи; назначение модели как TTS следует из названия и описания варианта. Лицензия — CC BY 4.0.
MIT-SLS/USAD-Base — аудиоэнкодер семейства USAD, разработанный авторами Universal Speech and Audio Distillation. Модель преобразует речь, звуки и музыку в последовательности признаковых векторов; она предназначена для извлечения универсальных аудиопредставлений, пригодных для последующих задач анализа речи и звука. USAD Base — трансформерный энкодер с 94 млн параметров, размерностью представления 768 и 12 слоями. Он формирует кадры с частотой 50 Гц. Модель дистиллирована из специализированных учителей WavLM Base+ и ATST Frame и обучена на смеси данных объёмом 126 тысяч часов. В README заявлена конкурентоспособность на бенчмарках SUPERB, HEAR и AudioSet. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия CC BY-NC-SA 4.0 разрешает некоммерческое использование с указанием авторства и распространением производных материалов на тех же условиях. Модель выдаёт признаки, а не готовую расшифровку или классификацию. Для практических задач распознавания речи, классификации аудио или музыкального анализа потребуется подходящая задача обработки признаков или дополнительная модель.
Карточка модели Jinstudio/VibeVoice-1.5B на Hugging Face совпадает с карточкой microsoft/VibeVoice-1.5B, поэтому описание составлено по ней. VibeVoice-1.5B — модель Microsoft для синтеза выразительной длинной разговорной речи из текста, например выпусков подкастов с несколькими участниками. Это плотная модель семейства VibeVoice для Transformers; она сочетает LLM, которая учитывает контекст и ход диалога, с диффузионным модулем для генерации акустических деталей. В README указано контекстное окно 64K и генерация аудио длительностью до 90 минут с участием до четырёх разных голосов. Модель рассчитана на генерацию английской и китайской речи. Низкочастотные акустические и семантические токенизаторы с частотой 7,5 Гц предназначены для эффективной обработки длинных последовательностей. Модель может ошибаться или выдавать неожиданный и предвзятый результат; она не предназначена для музыки, фоновых звуков, речи на неподдерживаемых языках или перекрывающихся реплик. В README также отмечены риски имитации голосов и дезинформации, а коммерческое и реальное применение без дополнительной проверки не рекомендуется. Лицензия — MIT; заявленное назначение этой версии — исследования и разработка.
Карточка модели divyendra/VibeVoice-Large на Hugging Face совпадает с карточкой aoi-ot/VibeVoice-Large, поэтому описание составлено по ней. VibeVoice-Large — модель преобразования текста в речь семейства VibeVoice, разработанная Microsoft; этот репозиторий содержит копию весов, полученных с ModelScope. Модель предназначена для генерации выразительной длинной разговорной речи, например подкастов и диалогов с несколькими участниками. Она использует плотную архитектуру VibeVoice с LLM для понимания текста и хода диалога, непрерывными акустическими и семантическими токенизаторами с частотой 7,5 Гц и diffusion-head для синтеза акустических деталей. Контекст составляет 32 тыс. токенов; заявлена генерация аудио длительностью примерно до 45 минут с несколькими голосами. Модель рассчитана на английский и китайский языки, поддерживает до четырёх голосов и ориентирована на исследование генерации длинной разговорной речи. Она синтезирует речь, а не музыку, фоновые звуки или эффекты; перекрывающиеся реплики явно не моделируются. Речь на других языках может быть невнятной, а выходы могут содержать ошибки или смещения. README предупреждает о рисках имитации голоса и дезинформации, не рекомендует коммерческое или реальное применение без дополнительной проверки и указывает, что в аудио автоматически добавляются слышимое уведомление об ИИ и водяной знак. Указанная лицензия — MIT.
Карточка модели harsh171104/VibeVoice-Large на Hugging Face совпадает с карточкой aoi-ot/VibeVoice-Large, поэтому описание составлено по ней. VibeVoice-Large — модель преобразования текста в речь семейства VibeVoice, разработанная Microsoft; этот репозиторий содержит копию весов, полученных с ModelScope. Модель предназначена для генерации выразительной длинной разговорной речи, например подкастов и диалогов с несколькими участниками. Она использует плотную архитектуру VibeVoice с LLM для понимания текста и хода диалога, непрерывными акустическими и семантическими токенизаторами с частотой 7,5 Гц и diffusion-head для синтеза акустических деталей. Контекст составляет 32 тыс. токенов; заявлена генерация аудио длительностью примерно до 45 минут с несколькими голосами. Модель рассчитана на английский и китайский языки, поддерживает до четырёх голосов и ориентирована на исследование генерации длинной разговорной речи. Она синтезирует речь, а не музыку, фоновые звуки или эффекты; перекрывающиеся реплики явно не моделируются. Речь на других языках может быть невнятной, а выходы могут содержать ошибки или смещения. README предупреждает о рисках имитации голоса и дезинформации, не рекомендует коммерческое или реальное применение без дополнительной проверки и указывает, что в аудио автоматически добавляются слышимое уведомление об ИИ и водяной знак. Указанная лицензия — MIT.
VoxCPM2-Ghana — модель синтеза речи, созданная Mich-Seth Owusu дообучением VoxCPM2 от Microsoft на ганской речи с транскрипциями в IPA. Она принимает последовательности фонем IPA, разделённые пробелами, и генерирует речь с частотой дискретизации 48 кГц. Для преобразования обычного текста в IPA требуется предварительная фонемизация; автор рекомендует ghana-g2p для ганских языков. Модель поддерживает 42 языка Ганы, английский с ганским акцентом и переключение между языками. Архитектура включает языковую модель типа LLaMA примерно на 5 млрд параметров и декодер AudioVAE; доступна генерация с голосовым образцом через reference_wav_path. Модель рассчитана на синтез речи для ганских языков и английского, в том числе формальной речи и смешанного Twi-English. Обучение проводилось на примерно 747 часах аудио, преимущественно на начитках библейских текстов, поэтому разговорная интонация может быть менее естественной; качество и разнообразие данных различаются между языками, а английские записи могут содержать фоновый шум. Явного управления идентичностью диктора нет, поэтому голос может меняться между генерациями. Для IPA необходимо отключить нормализацию текста параметром normalize=False. Лицензия — CC BY-NC 4.0, коммерческое использование ею не разрешено.
Модель gary109/ai-light-dance_drums_ft_pretrain_wav2vec2-base-new-v6 разработана на основе gary109/ai-light-dance_drums_pretrain_wav2vec2-base-new и дообучена для распознавания речи на наборе GARY109/AI_LIGHT_DANCE - ONSET-IDMT-MDB-ENST. Это модель архитектуры Wav2Vec2 с CTC-декодированием, содержащая 113,3 млн параметров. По результатам оценки на тестовой выборке значение потерь составило 0,6823, а WER — 0,3851. Она предназначена для преобразования аудио в текст в сценариях, связанных с датасетом AI Light Dance. Сведения о поддерживаемых языках, лицензии и ограничениях применения в карточке не приведены.
calcuis/chatterbox-gguf — GGUF-квантизированная версия модели Chatterbox, разработанной ResembleAI и адаптированной автором calcuis для запуска через gguf-connector. Модель предназначена для синтеза речи по тексту и может использоваться локально через веб-интерфейс или полностью офлайн. В README указана поддержка английского языка; также упоминается мультиязычное обновление connector c3 с вариантом t3_23lang, однако полный перечень языков не приведён. Модель поставляется в виде набора GGUF-файлов для компонентов ve, t3 и s3gen с различными форматами и уровнями квантизации, включая q2_k, q4_k_m, q6_k, f16, f32 и bf16. Конкретный размер модели, архитектура, максимальная длина контекста, характеристики голоса и точные параметры мультиязычной поддержки в README не указаны. Для работы требуется самостоятельно подготовить файлы модели, encoder и VAE; tokenizer загружается в кэш автоматически при первом запуске. Для режима c3 может потребоваться transformers версии 4.46.3, обновление chichat до 0.0.4 и использование t3_23lang вместо t3_cfg. Сильными сторонами являются локальный офлайн-запуск, гибкий выбор компонентов и квантизаций, а также возможность адаптировать конфигурацию под доступное оборудование. Ограничения включают необходимость ручной подготовки файлов и возможную несовместимость версий зависимостей; требования к ресурсам и качество синтеза для разных языков не описаны. Распространение указано по лицензии MIT.
KitsuMate/chatterbox-nano-onnx — зеркало независимой конвертации модели Chatterbox Nano в формат ONNX для воспроизводимых загрузок и запуска через Unity и ONNX Runtime. Конвертация включает эмбеддинги текста и речевых токенов в FP16, а также речевой энкодер и авторегрессионную языковую модель в Q4F16. Это не официальный ONNX-релиз Resemble AI; исходная модель — ResembleAI/chatterbox-nano, официальная реализация опубликована в resemble-ai/chatterbox. Модель предназначена для синтеза английской речи по тексту и поддерживает клонирование голоса по образцу речи. Профиль не потоковый. Конвертация прошла сквозную проверку на CPU, однако качество синтеза и совместимость с устройствами не оценивались на репрезентативных наборах. Репозиторий распространяется по лицензии MIT.
ehcalabres/distilgpt2-abc-irish-music-generation — дообученная модель на базе distilgpt2 для генерации текста в формате ABC, предназначенного для записи ирландской музыки. Она использует плотную авторегрессионную архитектуру GPT-2 и принимает текстовый контекст, продолжая его последовательностью токенов. Максимальная длина контекста — 1024 токена. Модель опубликована в форматах PyTorch и safetensors по лицензии Apache-2.0. README указывает, что данные дообучения неизвестны, а дополнительные сведения о модели, её применении и оценке не приведены.
Parakeet-Inc разработала эту модель для японской речи: она принимает аудио и заданную пользователем запись фразы и выводит соответствующую ей последовательность мор — чтение фразы катаканой. Модель основана на Whisper small и дообучена для получения произношения, согласованного с входной записью кандзи и каны. Архитектура WhisperForConditionalGeneration, около 153,1 млн параметров; поддерживаемый язык — японский. Модель предназначена для подготовки японских данных для синтеза речи и преобразования текста с аудио в чтение катаканой. Аудио должно быть короче 30 секунд. Заявленное качество ограничено: после фильтрации данных по совпадению G2P остаётся около 40% примеров. Для лучшей точности автор рекомендует использовать более крупную базовую модель и обучить её на подготовленных данных. В обучении текст нормализован: используются знаки «、» и «。», а фраза обязательно заканчивается на «。», поэтому такой же формат подсказки может улучшить результат. Лицензия — Apache-2.0.
Higgs Audio v3 — дообученная модель синтеза речи с одним голосом на телугу, созданная B. Narayana Reddy на базе Higgs Audio v3 с 4 млрд параметров. Она преобразует текст в выразительную речь голосом одного диктора без референсной аудиозаписи и поддерживает переключение между телугу и английским. Для текста на телугу требуется предварительная запись в ISO-15919 латиницей с тем же frontend.py, который использовался при обучении; README указывает, что без этого токенизация распадается на байтовые фрагменты. Это первый запуск адаптации голоса, предназначенный для исследовательского использования. Лицензия обозначена в метаданных как other.
LuxTTS ONNX — конвертированный набор компонентов для синтеза речи, подготовленный для запуска через RLX. В репозитории представлены encoder/decoder ONNX, вокодер Vocos, а также файл GGUF в формате F16; указанная библиотека — RLX, лицензия — Apache-2.0. Набор предназначен для преобразования текста в речь с использованием пакета rlx-luxtts. Карточка описывает размещение и запуск файлов в RLX, но не сообщает поддерживаемые языки, размер исходной модели, длину контекста или характеристики качества. README помечает репозиторий как staging и предупреждает, что эти файлы не следует использовать как основной runtime pack; поддерживаемый путь загрузки в карточке не раскрыт.
Malaysian Parler TTS Mini V1 — модель синтеза речи семейства Parler TTS, дообученная Mesolitica на датасете Mesolitica/TTS. Она предназначена для преобразования текстового ввода в речь на малайском языке. В метаданных указаны архитектура ParlerTTSForConditionalGeneration и формат весов safetensors; модель рассчитана на использование через Transformers. Карточка не сообщает размер модели, длину контекста, лицензию, параметры голоса или оценки качества. Для использования нужны совместимые компоненты Parler TTS и код запуска; README не содержит завершённых инструкций по установке или примеров. Языковые теги метаданных включают малайский и китайский, однако поддержка китайского синтеза отдельно не описана.
Matcha-TTS (LJSpeech) — модель синтеза речи, основанная на контрольной точке Matcha-TTS для датасета LJSpeech и экспортированная командой loom-ai-org в формат GGUF для loom.cpp. Веса не изменялись при экспорте; модель принимает идентификаторы фонем, а не обычный текст, и создаёт аудио на английском языке. Модель предназначена для преобразования фонемной последовательности в речь. Запустить её можно через библиотеку loom-py-rt, которая предоставляет высокоуровневый интерфейс для синтеза. В карточке указана лицензия MIT. Поскольку входом служат идентификаторы фонем, приложению потребуется отдельно подготовить текст в нужное фонемное представление.
MERaLiON-OmniVoice-Hokkien-TTS — модель синтеза речи, разработанная MERaLiON на базе OmniVoice и дообученная методами SFT и GRPO на разговорных данных. Она преобразует текст на китайских иероглифах в речь на сингапурском хоккиене (южноминьском), стремясь сохранить характерные произношение, тоны и просодию. Модель также поддерживает клонирование голоса по короткой записи целевого диктора и её расшифровке. В сравнительной оценке на 25 предложениях модель показала высокую долю распознавания речи как хоккиенской и лучшие значения WER и естественности среди приведённых систем. Оценка ограничена небольшим набором предложений, автоматическими судьями и одним голосом для клонирования. Репозиторий содержит веса в формате safetensors; лицензия указана как other, без уточнения условий в предоставленных данных.
facebook/mms-tts-ade — модель синтеза речи Adele (ade) из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну; для каждого языка проекта обучается отдельная модель. Чекпойнт использует архитектуру VITS — сквозную условную вариационную автоэнкодерную модель с текстовым энкодером на основе Transformer, поточным модулем, декодером в стиле HiFi-GAN и стохастическим предсказателем длительности. Размер модели — 3,5 млн параметров. Модель предназначена для озвучивания текста на языке Adele. Стохастический предсказатель позволяет варьировать ритм речи, поэтому результат может меняться между запусками; фиксированный seed нужен для повторяемого аудио. Модель доступна через Transformers версии 4.33 и выше. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.
facebook/mms-tts-bmv — модель синтеза речи на бумском языке из проекта Massively Multilingual Speech компании Facebook. Она преобразует текст на бумском языке в речевую аудиоволну; для каждого языка MMS обучается отдельная модель. Архитектура VITS объединяет текстовый энкодер на основе Transformer, flow-модуль, декодер HiFi-GAN-типа и стохастический предсказатель длительности. Модель содержит 3,5 млн параметров и доступна через библиотеку Transformers версии 4.33 и новее. Модель подходит для озвучивания текстов и создания речевых аудиофрагментов на бумском языке. Стохастический предсказатель длительности позволяет варьировать ритм речи; для воспроизводимого результата требуется фиксированный seed. Лицензия CC-BY-NC-4.0 допускает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-fon — модель синтеза речи на языке фон, разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на фонском языке. Модель построена на архитектуре VITS: она объединяет вариационный автоэнкодер, Transformer-энкодер текста, потоковые слои и декодер, подобный HiFi-GAN; размер составляет 3,5 млн параметров. Стохастический предсказатель длительности позволяет получать разные ритмические варианты произношения одного текста, поэтому результат может меняться между запусками; для воспроизводимого результата нужен фиксированный seed. Для каждого языка MMS обучается отдельный чекпойнт. Модель доступна через Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
facebook/mms-tts-hui — модель синтеза речи на языке хули (hui), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на хули. Модель использует архитектуру VITS: текстовый энкодер на базе Transformer, flow-модуль, стохастический предсказатель длительности и декодер, построенный по принципу HiFi-GAN. Чекпойнт содержит 3,5 млн параметров; для разных языков проекта MMS обучаются отдельные модели. Для повторения той же генерации требуется фиксированное случайное зерно, поскольку предсказатель длительности стохастический. Модель распространяется в форматах PyTorch и Safetensors и доступна через библиотеку Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-mak — модель синтеза речи на языке макасар, разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует текст на макасар в речевую волну и предназначена для озвучивания текстов и создания речевого вывода на этом языке. Модель использует архитектуру VITS: вариационный автоэнкодер с текстовым энкодером на основе Transformer, flow-модулем, стохастическим предсказателем длительности и декодером, построенным по принципу HiFi-GAN. Размер — 3,5 млн параметров. Контрольная точка обучена отдельно для макасарского языка и доступна в Transformers версии 4.33 и новее. Генерация недетерминирована: для повторения того же результата требуется фиксированный seed. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
facebook/mms-tts-maz — модель синтеза речи на центральном мазахуа, разработанная Facebook в рамках проекта Massively Multilingual Speech (MMS). Она преобразует текст на мазахуа в речевую аудиоволну и предназначена для создания озвучки и других приложений синтеза речи для этого языка. Модель построена на архитектуре VITS: она объединяет текстовый энкодер на основе Transformer, flow-модули, стохастический предиктор длительности и декодер, формирующий аудиоволну. Это отдельный чекпойнт для одного языка; в метаданных указано 3,5 млн параметров. Генерация недетерминирована, поэтому для повторения результата требуется фиксированный seed. Модель доступна через Transformers версии 4.33 и новее и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
facebook/mms-tts-rai — модель синтеза речи на языке рамоаайна (rai), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует текст на рамоаайна в речевую аудиоволну и подходит для озвучивания текстов на этом языке. Модель использует архитектуру VITS: текстовый энкодер, потоковый модуль и декодер генерируют речь сквозным образом; стохастический предиктор длительности позволяет получать варианты с разным ритмом. Для воспроизводимого результата требуется фиксировать seed. В метаданных указаны 3,5 млн параметров и лицензия CC BY-NC 4.0, допускающая использование с соблюдением условий лицензии, включая ограничения на коммерческое применение.
facebook/mms-tts-rmc-script_latin — модель синтеза речи на карпатском романи, использующая латинскую письменность. Она создана Facebook в рамках проекта Massively Multilingual Speech (MMS), который развивает речевые технологии для большого числа языков. Модель преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текстов на этом языковом варианте. Модель построена на архитектуре VITS и содержит около 3,5 млн параметров. Это отдельный чекпойнт MMS-TTS, обученный для одного языка; для работы доступен через библиотеку Transformers версии 4.33 и выше. Стохастический предиктор длительности позволяет получать варианты ритма речи, поэтому результат может меняться между запусками; фиксированное начальное значение генератора случайных чисел позволяет воспроизводить одну и ту же генерацию. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение.
NeuTTS Nano (English) — модель синтеза речи, разработанная Neuphonic для локального запуска на CPU и устройствах с ограниченными ресурсами. Она преобразует текст в речь, используя короткий аудиозапись и её расшифровку как образец голоса, чтобы клонировать его тембр и манеру. Модель предназначена для голосовых помощников, встроенных голосовых агентов и приложений, которым важно обрабатывать текст и аудио на устройстве. В основе — компактная языковая модель для генерации токенов речи и аудиокодек NeuCodec с одной кодовой книгой. В README указано около 116,8 млн активных параметров у языковой основы и около 228,7 млн параметров с учётом связанных эмбеддингов и выходной головы. Репозиторий предлагает версии GGUF с квантованием Q4 и Q8; метаданные также указывают формат safetensors. Модель рассчитана на генерацию в реальном времени или быстрее на процессорах и поддерживает только английский язык. Для работы нужны текст, референсное аудио и его текстовая расшифровка; результат — синтезированная речь с водяным знаком. Качество клонирования зависит от чистоты и непрерывности референсной записи. Для фонемизации требуется espeak-ng. В метаданных лицензия обозначена как other, но её условия в предоставленной карточке не раскрыты.