I.15Доступность и ассистивные технологии
В разделе собраны самостоятельные задачи, где AI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
8 953 моделиМодель alakxender/mms-tts-div-finetuned-md-f01 разработана для синтеза речи на дивехи. Это дообученная на подборке синтетической речи версия архитектуры MMS-TTS на основе VITS; она преобразует текст на дивехи, записанный письмом тхана, в аудио женским голосом. Модель содержит 3,5 млн параметров и доступна в формате Safetensors для библиотеки Transformers. Модель подходит для озвучивания коротких текстов на дивехи и создания женской синтетической речи. В карточке приведена оценка UTMOS 2,349 по трём образцам, что указывает на заметно синтетическое звучание в этой небольшой оценке. Модель распространяется по лицензии MIT.
facebook/mms-tts-glk — модель синтеза речи на гилаки, разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст на гилаки в речевой аудиосигнал и предназначена для озвучивания текстов на этом языке. Модель использует архитектуру VITS: генерация речи выполняется сквозным образом, а стохастический предиктор длительности позволяет варьировать ритм произнесения. Веса представлены в форматах PyTorch и Safetensors; размер модели — 3,5 млн параметров. Для воспроизводимого результата требуется фиксировать seed, поскольку генерация недетерминирована. Модель доступна через Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-krl — модель синтеза речи на карельском языке из проекта Massively Multilingual Speech (MMS), разработанного Facebook. Она преобразует входной текст в речевую аудиоволну и подходит для озвучивания текстов на карельском языке. Модель использует архитектуру VITS — сквозную вариационную модель с Transformer-энкодером текста, нормализующими потоками, стохастическим предсказателем длительности и декодером на основе HiFi-GAN. В репозитории указано 3,5 млн параметров; модель доступна через Transformers версии 4.33 и новее. Из-за стохастического предсказания длительности результат может меняться между запусками; фиксированный seed позволяет воспроизводить генерацию. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.
facebook/mms-tts-kue — модель синтеза речи на куманском языке из проекта Massively Multilingual Speech компании Facebook. Она принимает текст на куманском языке и генерирует речевую аудиоволну; отдельный чекпойнт VITS обучен для этого языка. Модель имеет архитектуру VITS и содержит 3,5 млн параметров, доступна для использования через библиотеку Transformers версии 4.33 и новее. VITS объединяет вариационный автоэнкодер, потоковый модуль и декодер, построенный по принципу HiFi-GAN. Стохастический предсказатель длительности позволяет получать разные ритмические варианты речи для одного текста, поэтому результаты генерации недетерминированы; чтобы воспроизводить один и тот же вариант, требуется фиксировать seed. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но некоммерческое.
facebook/mms-tts-kvw — модель синтеза речи на языке Wersing (код kvw), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для генерации речи на Wersing. Модель использует архитектуру VITS: условный вариационный автоэнкодер с Transformer-энкодером текста, flow-модулем, стохастическим предсказателем длительности и декодером, построенным по принципу HiFi-GAN. Веса содержат около 3,5 млн параметров; для языков проекта MMS обучаются отдельные контрольные точки. Модель доступна через библиотеку Transformers. Предсказатель длительности стохастический, поэтому при одинаковом тексте результат может различаться; для воспроизводимого аудио требуется фиксировать seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
Модель facebook/mms-tts-tkr — система синтеза речи на языке цахур (Tsakhur, код tkr), разработанная Facebook в рамках проекта Massively Multilingual Speech. Это отдельный языковой чекпойнт для преобразования входного текста в речевую аудиоволну; модель доступна через библиотеку Transformers версии 4.33 и новее. Модель построена на архитектуре VITS: она объединяет вариационный автоэнкодер, Transformer-энкодер текста, нормализующие потоки, стохастический предиктор длительности и декодер на основе HiFi-GAN. Размер модели — 3,5 млн параметров. Стохастический предиктор позволяет варьировать ритм речи, поэтому для повторяемого результата требуется фиксировать seed. Модель предназначена для синтеза речи на цахурском языке. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства в рамках некоммерческих условий; коммерческое применение этой лицензией не разрешено.
Модель MohammedEhab20/Model-At-checkPoint-20000 — независимая объединённая версия акустической модели VibeVoice, дообученной на египетском арабском языке на шаге 20 000. Репозиторий содержит веса safetensors, конфигурации токенизатора Qwen и примеры эталонной речи; модель предназначена для синтеза речи по тексту на египетском арабском с использованием VibeVoice или совместимых средств Hugging Face. Параметр Classifier-Free Guidance настраивается во время инференса и не зафиксирован в весах: более высокое значение усиливает соответствие тексту, а более низкое может дать более естественную и свободную речь. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает размер модели, длину контекста или количественные оценки качества.
OmniGen2 — открытая мультимодальная модель генерации и понимания изображений, представленная проектом OmniGen2. Она объединяет обработку текста и изображений, используя отдельные пути декодирования для этих модальностей и раздельный токенизатор изображений. Модель предназначена для понимания визуального содержимого, создания изображений по текстовому описанию, редактирования изображений по инструкциям и генерации с учетом изображений-примеров. Модель может анализировать изображение и отвечать текстом, создавать изображения по запросу, вносить в них заданные изменения и комбинировать людей, объекты и сцены из входных изображений для генерации нового результата. Для работы предусмотрена интеграция с Diffusers; README также описывает поддержку CPU offload для снижения потребления видеопамяти. Размер модели и длина контекста в предоставленных данных не приведены. В README заявлены конкурентные результаты в понимании изображений и высокое качество генерации и редактирования, но конкретные ограничения качества не перечислены. Результаты редактирования зависят от настроек, в частности от баланса между следованием тексту и сходством с исходным изображением; снижение требований к памяти может замедлить генерацию. Лицензия Apache-2.0.
splendor1811/omnivoice-vietnamese — это дообученная версия OmniVoice, разработанная для синтеза вьетнамской речи. Модель основана на архитектуре OmniVoice с языковой моделью диффузионного типа и backbone Qwen3-0.6B; для дообучения использован вьетнамский многоголосый корпус объёмом около 1 000 часов, включающий записи 152 дикторов с разными региональными акцентами. Модель преобразует текст в речь и поддерживает клонирование голоса по короткому образцу. Она предназначена для озвучивания вьетнамского текста, создания голосовых интерфейсов и генерации речи с разными голосами и акцентами. В README приведены результаты измерений на NVIDIA L4: RTF около 0,07 и задержка до первого аудио около 210 мс для короткой фразы; эти показатели получены при указанной конфигурации запуска и не гарантируют аналогичную скорость на другом оборудовании. Модель распространяется по лицензии Apache 2.0. Данные обучения имеют отдельную лицензию CC-BY-NC-SA-4.0. Карточка не описывает подробные ограничения качества и использования клонируемых голосов; заявленная специализация дообученной версии — вьетнамская речь.
OuteTTS-0.3-1B GGUF — это квантованные версии модели синтеза речи OuteAI/OuteTTS-0.3-1B, подготовленные для использования с CrispASR. Модель предназначена для преобразования текста в речь и клонирования голоса по эталонной аудиозаписи с транскрипцией. Для работы требуется сопутствующий декодер WavTokenizer в формате GGUF. В основе разговорной модели используется OLMo-1B: 16 слоёв, скрытое представление размером 2048, 16 MHA-голов, архитектура SwiGLU, RoPE и parameter-free LayerNorm. Аудиокодек использует WavTokenizer с одним кодбуком VQ-GAN на 4096 элементов, размерностью 512 и частотой 75 токенов в секунду; декодирование выполняется на базе Vocos. На выходе формируется монофонический PCM-аудиосигнал с частотой 24 кГц. Доступны варианты F16, Q8_0, Q5_K и Q4_K; Q8_0 рекомендуется как оптимальный баланс качества и размера, а Q4_K может иногда смещать границы слов в коротких фразах и требует актуальной версии CrispASR. Модель удобна для локального запуска и голосового клонирования, однако README не указывает поддерживаемые языки и другие количественные показатели качества. Весы распространяются по лицензии CC-BY-NC-SA-4.0: требуется указание авторства OuteAI, коммерческое использование запрещено, а производные распространяемые материалы должны сохранять те же условия лицензии.
Parler-TTS Mini v0.1 Jenny — модель синтеза речи, созданная сообществом parler-tts на основе Parler-TTS Mini v0.1 и дообученная на 30 часах высококачественных записей одной дикторки Дженни с ирландским акцентом. Для генерации речи в описании голоса следует указать ключевое слово «Jenny». Модель предназначена для преобразования текста в речь с голосом, похожим на голос этой дикторки; карточка описывает её как подходящую для обучения TTS-моделей. Модель использует архитектуру Parler TTS и опубликована в формате safetensors для Transformers. Поддерживаемый язык — английский. Лицензия в предоставленных данных не указана.
enAU-librivox-medium — модель синтеза речи для Piper, разработанная автором репозитория DataCraftsmanAustralia. Она объединяет десять голосов австралийского английского в одной модели VITS и предназначена для озвучивания текста с выбором диктора. Модель содержит около 70 млн параметров, выдаёт монофонический звук с частотой 22,05 кГц и работает на CPU; опубликована в формате ONNX. Обучение проведено на записях LibriVox из общественного достояния. Речь звучит как формальное литературное чтение с австралийским акцентом, а не как современная разговорная речь. Исходные тексты относятся к литературе XIX — начала XX века, поэтому модель слабее справляется с числами, сокращениями, техническими терминами, URL, электронными письмами и временными метками. Качество записей голосов неоднородно, а автоматические транскрипции не исправлялись. Лицензия модели — CC BY 4.0.
ayousanz/piper-plus-tsukuyomi-chan — многоязычная модель синтеза речи (TTS), разработанная на базе Piper Plus и дообученная сообществом ayousanz на корпусе つくよみちゃん. Модель предназначена для преобразования текста в речь голосом персонажа つくよみちゃん, включая многоязычные и смешанные тексты с переключением языков. В основе используется архитектура VITS с декодером MB-iSTFT и PQMF. Модель поддерживает японский, английский, китайский, испанский, французский и португальский языки, использует 173 многоязычных фонемы, имеет одного говорящего и работает с частотой дискретизации 22050 Гц. Размер экспортированной ONNX-модели в формате FP16 составляет 38 МБ. Поддерживаются признаки просодии, а выход совместим с рантаймом Piper Plus начиная с PR #320. Заявлено ускорение CPU-инференса примерно в 2,21 раза по сравнению со старой версией на HiFi-GAN. Сильные стороны модели — поддержка шести языков, единый тембр голоса, возможность кодового переключения и относительно быстрый инференс на CPU. Ограничения включают одного доступного говорящего, качество уровня medium, небольшой объём целевых данных обучения — 100 высказываний продолжительностью около 11 минут — и необходимость использовать совместимый рантайм Piper Plus. Лицензия указана как tsukuyomi-chan-corpus и распространяется на условиях лицензии корпуса つくよみちゃん.
Polaris-VGA-4B-Post1.0e-i1-GGUF — квантизированная GGUF-версия мультимодальной модели Polaris-VGA-4B-Post1.0e. Исходную модель разработал prithivMLmods, а квантизацию выполнил mradermacher. Модель предназначена для задач visual grounding, то есть обнаружения и локализации объектов на изображениях, а также для сценариев, связанных с object detection и обработкой визуально-текстовых запросов. Модель относится к vision-language models и поддерживает работу с текстом и изображениями; заявленный язык — английский. В основе лежит модель размером около 4 млрд параметров, однако точная архитектура и размер контекстного окна в README не указаны. Репозиторий содержит набор вариантов квантизации с разными компромиссами между размером, скоростью и качеством; доступны файлы размером примерно от 1,5 до 3,6 ГБ. Для запуска vision-функций могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильными сторонами являются поддержка визуального grounding и широкий выбор GGUF-квантизаций, включая рекомендуемые варианты Q4_K_M и Q4_K_S. Ограничения включают возможное снижение качества у низкобитных вариантов, отсутствие в README подробных результатов оценки, точных характеристик архитектуры и контекстного окна, а также необходимость совместимого ПО, например llama.cpp или vLLM, и дополнительных компонентов для обработки изображений. Модель распространяется по лицензии Apache-2.0.
MLX-версия модели Qwen3-TTS-12Hz-0.6B-CustomVoice, разработанная сообществом mlx-community и конвертированная из оригинальной модели Qwen/Qwen3-TTS-12Hz-0.6B-CustomVoice с использованием mlx-audio 0.3.0. Модель предназначена для синтеза речи по тексту и поддерживает сценарии генерации аудио, включая использование референсного аудиофайла для voice cloning. Модель имеет размер 0,6 млрд параметров, представлена в 8-битном формате и подготовлена для запуска в экосистеме MLX через библиотеку mlx-audio. В README не указаны архитектура, поддерживаемые языки, точный размер контекста, перечень модальностей и другие детальные характеристики. Приведён пример генерации речи из английского текста с возможностью указать референсный WAV-файл. Модель удобна для локального применения на совместимом с MLX оборудовании и интеграции через CLI или Python API. Ограничения, качество voice cloning, поддерживаемые языки и системные требования в карточке не описаны. Распространяется по лицензии Apache-2.0.
MLX-версия модели Qwen3-TTS-12Hz-1.7B-VoiceDesign, разработанная сообществом mlx-community и конвертированная из оригинальной модели Qwen/Qwen3-TTS-12Hz-1.7B-VoiceDesign с помощью mlx-audio 0.3.0. Это модель синтеза речи, предназначенная для генерации аудио по текстовому описанию или тексту; в примере использования также предусмотрена передача эталонного аудиофайла, что указывает на поддержку сценариев проектирования или клонирования голоса. Модель рассчитана на работу в экосистеме MLX через библиотеку mlx-audio и может запускаться из командной строки или Python-кода. Из известных характеристик: размер модели составляет 1,7 млрд параметров, формат — bf16, а частота дискретизации или внутренний темп генерации обозначен как 12 Hz. README не содержит сведений о поддерживаемых языках, точной архитектуре, максимальной длине контекста, качестве генерации и ограничениях по аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0; для использования требуется установка mlx-audio.
Qwen3-VL-4B-Instruct-abliterated-v1 — дообученная мультимодальная модель prithivMLmods на базе Qwen/Qwen3-VL-4B-Instruct. Она принимает изображения и текстовые инструкции и предназначена для подробных описаний изображений, визуального рассуждения и диалоговых ответов, в том числе о сложном или чувствительном содержании. По карточке, модель справляется с разными соотношениями сторон и стилями изображений и позволяет варьировать детализацию ответа. Поддерживается библиотекой Transformers; веса доступны в формате safetensors. Основной язык — английский, также заявлена возможность отвечать на других языках при соответствующих инструкциях. Лицензия — Apache-2.0. Модель описана как abliterated-вариант, настроенный на обход обычных фильтров контента. Она может выдавать откровенные, чувствительные или оскорбительные описания, поэтому не подходит для систем, которым необходима строгая модерация. Точность может снижаться на незнакомых, синтетических и абстрактных изображениях, а стиль ответа зависит от формулировки запроса.
Voix7/rtdetrv2-floorplan-v2 — модель обнаружения объектов на изображениях, разработанная дообучением PekingU/rtdetr_v2_r50vd. Она предназначена для распознавания элементов на планах помещений: в оценочных результатах отдельно приведены метрики для окон, дверей и лестниц. Архитектура RT-DETRv2 реализована для Transformers, веса опубликованы в формате safetensors. На оценочном наборе указаны mAP 0,6663 и mAP@50 0,758; для окон mAP составляет 0,7714, для дверей — 0,685, для лестниц — 0,5424. Датасет и подробные условия обучения в карточке не раскрыты, поэтому эти показатели нельзя напрямую переносить на другие планы. Модель распространяется по лицензии Apache-2.0.
Slim-Orpheus 3B Japanese — модель синтеза речи на основе Llama, созданная разработчиком Gapeleon путём сокращения исходной модели с 28 до 16 слоёв и обучения на японском языке. Она предназначена для преобразования японского текста в речь с выбором одного из 14 голосов. По карточке, качество звучания различается между голосами: часть оценена как хорошая, часть — как приемлемая или низкая, а один голос отмечен как нестабильный. Модель содержит 2,1 млрд параметров, использует архитектуру Llama и формат safetensors; заявленная длина контекста — 131 072 токена. Карточка описывает исходный Orpheus как Speech-LLM с потоковой генерацией речи, но не подтверждает, что все приведённые характеристики производительности сохраняются после сокращения модели. Лицензия — Apache-2.0.
Spatial-SSRL-Qwen3VL-4B — мультимодальная модель InternLM для понимания пространственных отношений на изображениях. Она создана дообучением Qwen/Qwen3-VL-4B-Instruct с помощью подхода Spatial-SSRL — лёгкого метода обучения с подкреплением по самоконтролируемым сигналам. Модель сохраняет общие возможности исходной модели для работы с изображениями и ориентирована на пространственное рассуждение и визуальные вопросы и ответы. Модель принимает изображения и текстовые запросы и формирует текстовые ответы; архитектура — плотная Qwen3-VL с 4 млрд параметров. В описании Spatial-SSRL также рассматриваются задачи для изображений и видео, но карточка этой конкретной модели указывает задачу image-text-to-text. Обучение Spatial-SSRL использует обычные RGB- и RGB-D-изображения без ручной разметки. Модель распространяется по лицензии Apache-2.0.
typhoon-whisper-medium-ctc — тайская модель распознавания и выравнивания речи, разработанная Typhoon AI. Она использует замороженный энкодер Whisper-medium и дообученную Transformer-голову на 29 млн параметров, которая выдаёт посимвольные вероятности CTC. Один проход энкодера позволяет получить транскрипт и временные метки: модель распознаёт речь жадным CTC-декодированием либо выравнивает предоставленный текст с аудио на уровне символов и слов. Обучение проводилось на 1 000 часах GigaSpeech2-th; для сегментации слов используется pythainlp или заданное пользователем разбиение. Модель рассчитана на тайскую речь и не предназначена для других языков. В README указаны CER 6,86% на тесте GigaSpeech2-typhoon и точность временных меток на отдельном тесте выравнивания. Модель распространяется по лицензии Apache-2.0.
VoiceInk Refine V1 — компактная специализированная модель, разработанная для VoiceInk компанией Beingpax. Это дообученная версия Qwen3.5-2B, предназначенная для очистки и форматирования сырых результатов автоматического распознавания речи (ASR) и их преобразования в ясный, готовый к использованию письменный текст с сохранением смысла и тона говорящего. Модель обрабатывает пунктуацию и регистр, удаляет слова-паразиты и повторы, распознаёт устные команды форматирования, а также оформляет списки и абзацы в стиле электронных писем. В README указано, что используется 4-битная посттренировочная квантизация весов; другие характеристики, включая размер контекста, поддерживаемые языки и модальности, не уточняются. Пример показывает обработку англоязычной расшифровки речи. Сильная сторона модели — узкая специализация на приведении ASR-транскрипций к читаемому виду при небольшом размере базовой модели. Ограничения связаны с её целевым сценарием: README не подтверждает пригодность для общих задач генерации текста или других языков. Модель предоставляется для использования с VoiceInk; лицензия обозначена как other, а подробные условия приведены в файле LICENSE.md.
VoiceSculptor-VD — модель синтеза речи из текста, опубликованная ASLP-lab и дообученная на базе HKUSTAudio/Llasa-3B. Репозиторий VoiceSculptor описывает систему проектирования голоса по текстовым инструкциям и предоставляет код для инференса; этот чекпойнт относится к выпущенным моделям VoiceSculptor для voice design. Архитектура — плотная LlamaForCausalLM, размер — 3,4 млрд параметров, формат весов — safetensors, заявленная длина контекста — 131 072 токена. Модель предназначена для синтеза речи с заданными характеристиками голоса и выполнения инструкций по его дизайну. Базовая Llasa-3B ориентирована на китайскую и английскую речь; карточка VoiceSculptor-VD не уточняет поддерживаемые языки именно этого чекпойнта и не приводит измерений качества или детального описания процедуры управления голосом. Лицензия — Apache-2.0.
Модель speech-seq2seq/wav2vec2-2-roberta-large — аудиомодель архитектуры SpeechEncoderDecoderModel, обученная с нуля на датасете LibriSpeech ASR для автоматического распознавания речи. Она принимает аудио и предназначена для преобразования речи в текст. В карточке приведены результаты оценки на тестовой выборке: WER 1.0 и loss 12.2365; значение WER указывает на крайне низкое качество распознавания в этой оценке. Модель опубликована в формате PyTorch. Лицензия в предоставленных данных не указана.
onnx-community/wav2vec2-lv-60-espeak-cv-ft — это ONNX-версия модели facebook/wav2vec2-lv-60-espeak-cv-ft, разработанной на базе Wav2Vec2-Large-LV60. Модель создана авторами Qiantong Xu, Alexei Baevski и Michael Auli и автоматически преобразована в формат ONNX для использования, в частности, с Transformers.js. Модель предназначена для автоматического распознавания речи и фонем в многоязычных сценариях. Она принимает аудио с частотой дискретизации 16 кГц и преобразует речь в последовательность фонетических меток. Для получения слов из результата требуется отдельный словарь, сопоставляющий фонетические метки словам. Модель дообучена на многоязычном наборе Common Voice и ориентирована на перенос распознавания между языками, включая распознавание ранее не встречавшихся языков. Ключевые сведения о размере и точном составе поддерживаемых языков в README не указаны. Модель работает с аудио и не генерирует напрямую текстовую транскрипцию слов, что ограничивает её применение без дополнительного словаря или постобработки. Лицензия — Apache-2.0.
calcuis подготовил GGUF-версии мультимодальной модели BAGEL-7B-MoT от ByteDance Seed. Репозиторий содержит варианты F16, F32 и нескольких уровней квантования GGUF. Модель предназначена для генерации изображений по тексту, редактирования изображений по инструкциям и распознавания изображений; в карточке она обозначена как any-to-any. Базовая модель BAGEL поддерживает понимание изображений и видео, генерацию изображений и редактирование по текстовым инструкциям. README называет эту сборку экспериментальной мультимодальной моделью. Репозиторий распространяется по лицензии Apache-2.0.
ChatRex-7B — мультимодальная языковая модель IDEA-Research для ответов на вопросы об изображениях с привязкой ответов к конкретным объектам и областям. Она объединяет языковую модель с модулем предложений объектов Universal Proposal Network (UPN), который основан на DETR и использует стратегию с двумя уровнями детализации. Входы модели — изображение, текстовый запрос и рамки объектов, которые можно получить через UPN или задать вручную. Модель предназначена для обнаружения и локализации объектов, диалога с привязкой к областям изображения, описания регионов и генерации подписей к изображению с указанием объектов. В карточке указаны высокоразрешённые визуальные входы и обучение на наборе Rexverse-2M с аннотациями областей и текста. Модель объединяет компоненты на основе laion/CLIP-convnext_large_d.laion2B-s26B-b102K-augreg, lmsys/vicuna-7b-v1.5 и openai/clip-vit-large-patch14; формат весов — safetensors. Поддерживается английский язык. Для работы требуется передать рамки объектов вместе с изображением и запросом; качество и языковая поддержка за пределами описанных сценариев в карточке не охарактеризованы. Лицензия в предоставленных данных не указана.
EMTIAZZ/chatterbox-bangla-tts — дообученная версия Chatterbox TTS от Resemble AI для синтеза речи на бенгальском языке (бангла). Для адаптации изменён компонент T3, преобразующий текст в речевые токены; S3Gen и VoiceEncoder остаются замороженными. Модель поддерживает синтез с клонированием голоса по короткому аудиофрагменту. Модель предназначена для создания озвучивания на бангла и генерации речи с характеристиками голоса из референсной записи. Для клонирования README рекомендует чистое референсное аудио длительностью не менее трёх секунд; качество может зависеть от сходства говорящего с обучающими данными. В карточке указана лицензия MIT; README также рекомендует сверяться с условиями Resemble AI для коммерческого использования.
Это одноязычная модель синтеза речи на хинди из семейства Chatterbox от Resemble AI. Репозиторий gagan1985 содержит конверсию весов в формат MLX fp16 для локального запуска на компьютерах Apple Silicon через библиотеку mlx-audio; исходная модель дообучена Resemble AI на основе Chatterbox Multilingual v3. В метаданных указан формат safetensors и лицензия MIT. Модель преобразует текст на хинди в речь и поддерживает клонирование голоса по короткому чистому аудиофрагменту длительностью примерно 10–15 секунд. Референсная запись обязательна: встроенного голоса у этого чекпойнта нет. Для работы используется общий декодер речи из базового репозитория Chatterbox; README сообщает, что он устраняет артефакт звучания, возникавший с другим вариантом декодера. Конверсия рассчитана на быстрое локальное выполнение на Apple Silicon.
cstr/csm-1b-GGUF — это GGUF/GGML-конверсия и вариант с квантованием модели CSM-1B, разработанной Sesame. Репозиторий предназначен для запуска модели через CrispASR и не содержит нового обучения, дообучения или изменения архитектуры. Модель относится к системам синтеза речи по тексту (TTS) и ориентирована на создание разговорной речи из текстовых запросов. Архитектура двухэтапная: 16-слойная backbone-модель на базе Llama-3.2 1B авторегрессионно генерирует первые токены аудиокодека Mimi, а 4-слойный depth decoder на базе Llama-3.2 100M заполняет остальные 31 кодек на каждый кадр. Кодек Mimi преобразует 32-кодовые RVQ-токены в монофонический PCM-аудиосигнал с частотой 24 кГц. Используются BPE-токенизатор Llama-3.2 с размером словаря 128 256 токенов, GQA, SwiGLU, RMSNorm и RoPE; заявленный язык — английский. Контекст модели в README не указан. Доступны варианты F16 размером 3,4 ГБ, Q8_0 размером 1,9 ГБ и Q4_K размером 1,1 ГБ. Q8_0 рекомендуется как вариант с качеством, эквивалентным по указанному ASR roundtrip, тогда как Q4_K занимает меньше места, но может немного снижать качество; F16 обеспечивает эталонное качество. Ограничения включают поддержку только английского языка согласно карточке и зависимость от CrispASR для описанного сценария запуска. Модель распространяется по лицензии Apache 2.0, при этом права и условия исходной модели Sesame сохраняются.