I.15Доступность и ассистивные технологии
В разделе собраны самостоятельные задачи, где AI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
8 953 моделиDAC6.5 — компактная мультимодальная модель M.INC. для диалогового понимания изображений и текста. Она объединяет языковую основу LFM2.5-230M с визуальным энкодером SigLIP2 и обученным проекционным модулем; в метаданных указаны 221,2 млн параметров и контекст до 128 000 токенов. Модель предназначена для быстрого запуска на локальных и edge-устройствах и поддерживает чат с изображениями на нескольких языках. Репозиторий содержит веса Safetensors и конфигурации Transformers; лицензия — MIT. Заявления README о качестве zero-shot и низкой задержке не сопровождаются в карточке результатами сравнительных оценок.
Карточка модели hustvl/DiffusionVL-Qwen2.5-7B на Hugging Face совпадает с карточкой hustvl/DiffusionVL-Qwen2.5VL-7B, поэтому описание составлено по ней. DiffusionVL-Qwen2.5VL-7B — модель зрения и языка на основе Qwen2.5-VL, представленная исследователями Huazhong University of Science and Technology. Авторы применили к предварительно обученной авторегрессионной модели метод diffusion fine-tuning, преобразовав её в vision-language-модель с диффузионной генерацией. Модель содержит 7,1 млрд параметров, использует архитектуру DiffusionVL_Qwen2_5_VL_ForConditionalGeneration и поддерживает контекст до 128 000 токенов. Модель предназначена для диалоговых сценариев с изображениями и текстом, включая ответы на вопросы по изображениям и генерацию текста по визуальному контексту. DiffusionVL использует блочное декодирование, допускающее генерацию произвольной длины и повторное использование KV-кэша; авторы сообщают об ускорении инференса в 2 раза по сравнению с рассматриваемыми ими существующими diffusion vision-language-моделями. Репозиторий предоставляет веса safetensors для Transformers. Лицензия — Apache 2.0.
Dimple-7B — мультимодальная языковая модель с дискретной диффузией, разработанная авторами проекта Dimple. Она предназначена для диалога и ответов на вопросы по изображениям и текстовым инструкциям. Модель содержит 7,1 млрд параметров, построена на архитектуре Dimple и использует гибридное обучение: сначала авторегрессионную настройку для выравнивания и следования инструкциям, затем дообучение с диффузией. Базой служит Dream-org/Dream-v0-Instruct-7B; для обучения использовались наборы LLaVA-CC3M-Pretrain-595K и LLaVA-NeXT-Data. Модель поддерживает контекст до 131 072 токенов и несколько режимов диффузионного декодирования, а также управление форматом, структурой и длиной ответа с помощью структурных априоров. В README сообщается о результате на 3,9% выше LLaVA-NEXT-7B при сопоставимом бюджете обучения; это заявление авторов и не гарантирует превосходства на других задачах. Для запуска указаны Transformers 4.46.2, PyTorch 2.5.1 и Accelerate 1.6.0. Модель распространяется по лицензии Apache-2.0.
ERNIE-4.5-VL-28B-A3B-Paddle — мультимодальная модель семейства ERNIE 4.5 от Baidu, распространяемая с весами для PaddlePaddle. Это чат-модель на архитектуре MoE с обработкой текста и изображений: всего 28 млрд параметров, из которых для каждого токена активируется около 3 млрд. Модель прошла этап постобучения; доступны режимы с рассуждением и без него. Модель предназначена для понимания изображений и текста, генерации ответов и межмодальных рассуждений. Её можно использовать для диалога по изображению, описания визуальных материалов и ответов на вопросы о них. Карточка указывает поддержку английского и китайского языков. Для развёртывания приведён пример сервера FastDeploy с контекстом до 32 768 токенов. Модель распространяется по лицензии Apache-2.0. Для запуска нужны совместимая среда PaddlePaddle и ресурсы для обслуживания MoE-модели; карточка не приводит независимых оценок качества, поэтому пригодность для конкретной задачи следует проверять отдельно.
KamilaMila/FastVLM-7B — мультимодальная модель семейства FastVLM, опубликованная KamilaMila на Hugging Face. Она принимает изображения и текстовые запросы и генерирует текстовые ответы в диалоговом формате; карточка показывает пример вопроса о содержимом изображения и описания изображения. В репозитории указана архитектура FastVlmForConditionalGeneration и около 8 млрд параметров, веса представлены в формате Safetensors. Модель предназначена для визуальных вопросов и ответов, описания изображений и диалогов с изображениями. Карточка не содержит достоверных сведений о языках, длине контекста, лицензии, дообучении и ограничениях, поэтому эти характеристики нельзя установить по доступным данным.
Rammyeon дообучил модель Gemma 4 E2B для диалоговой работы с изображениями и текстом. Она принимает текстовые запросы и изображения и предназначена для ответов на вопросы и общения по визуальному содержимому. Архитектура — плотная Gemma4ForConditionalGeneration; базовая модель — unsloth/gemma-4-e2b-it-unsloth-bnb-4bit. Карточка сообщает, что обучение проводилось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0.
MLX-квантованная версия Gemma 3 4B IT, преобразованная сообществом mlx-community из модели google/gemma-3-4b-it с использованием mlx-vlm 0.1.18. Модель предназначена для запуска в формате MLX, в частности через mlx-vlm, и поддерживает сценарии мультимодальной генерации текста по изображениям, например их описания. В README указано, что исходная модель имеет размер 4 млрд параметров и относится к instruction-tuned версии Gemma 3; квантование выполнено в формате 4-bit. Модель относится к классу image-text-to-text и рассчитана на работу с текстом и изображениями. README не содержит сведений об архитектуре, поддерживаемых языках, размере контекста, конкретных ограничениях производительности или сильных сторонах, поэтому эти характеристики нельзя достоверно уточнить. Для доступа на Hugging Face требуется принять лицензию Google Gemma; точные условия использования определяются этой лицензией.
Gemma 3n E4B IT MLX BF16 — конвертированная для MLX версия мультимодальной модели Google Gemma 3n E4B IT, подготовленная командой LM Studio для запуска на компьютерах Apple Silicon. Она предназначена для диалогов и задач «изображение-текст»: модель принимает текст и изображения и формирует текстовые ответы. Исходная модель также поддерживает аудио- и видеосценарии, однако метаданные этого репозитория подтверждают только image-text-to-text и возможность работы с изображениями. Репозиторий содержит веса в формате safetensors с точностью bfloat16; заявлена оптимизация для Apple Silicon. Это не отдельное дообучение: основа — google/gemma-3n-E4B-it. Лицензия — Gemma; условия её использования определяются лицензией Google Gemma. Модель может генерировать неточные или неподходящие ответы, поэтому результаты следует проверять.
mlx-community/gemma-4-26B-A4B-it-qat-4bit — мультимодальная модель для работы с изображениями и текстом, представленная сообществом mlx-community. README не уточняет исходного разработчика модели, но указывает принадлежность к семейству Gemma. Модель предназначена для сценариев image-text-to-text, включая анализ и описание изображений по текстовому запросу. В названии указаны размер 26B, конфигурация A4B, instruction-tuned вариант (it), посттренировочное квантование (qat) и 4-битное представление. Модель распространяется для использования с библиотекой mlx-vlm и ориентирована на запуск в экосистеме MLX. Поддержка английского языка указана в метаданных README; сведения о других языках, размере контекста, точной архитектуре, производительности и ограничениях отсутствуют. К сильным сторонам относятся мультимодальный формат, instruction-tuned настройка и 4-битное квантование, потенциально снижающее требования к памяти. Ограничения и условия лицензирования в README не указаны, поэтому их необходимо уточнять по материалам исходной модели или репозитория.
Карточка модели ersindemirel94/gemma_4_e2b_v1 на Hugging Face совпадает с карточкой ersindemirel94/gemma_4_e2b_v2, поэтому описание составлено по ней. ersindemirel94/gemma_4_e2b_v2 — дообученная модель семейства Gemma 4, созданная ersindemirel94 на базе unsloth/gemma-4-e2b-it-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для диалоговых задач с текстом и изображениями; в карточке указаны возможности чата и обработки изображений, а основной тег задачи — image-text-to-text. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. По данным карточки модель ориентирована на английский язык. Данных о размере модели и длине контекста в предоставленных источниках нет.
ersindemirel94/gemma_4_e2b_v2 — дообученная модель семейства Gemma 4, созданная ersindemirel94 на базе unsloth/gemma-4-e2b-it-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для диалоговых задач с текстом и изображениями; в карточке указаны возможности чата и обработки изображений, а основной тег задачи — image-text-to-text. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. По данным карточки модель ориентирована на английский язык. Данных о размере модели и длине контекста в предоставленных источниках нет.
Easy German GPT2 Model — языковая модель на базе немецкого GPT-2, дообученная автором на корпусах текстов на немецком языке в формате «лёгкого языка» (leichte Sprache). Дообучение в течение одной эпохи проводилось на 25 112 примерах, включавших энциклопедические и новостные тексты; архитектура — GPT-2 с плотной сетью, формат весов — PyTorch. Модель предназначена для генерации текста на немецком языке в упрощённом стиле. Её можно применять для создания простых новостных или справочных текстов и как основу для экспериментов с упрощением немецкого языка. Максимальная длина контекста составляет 1024 токена. На тесте из вручную выровненных текстов perplexity для новостей на лёгком немецком составила 17,3053 против 23,8257 у исходного German GPT-2, тогда как для стандартных новостей показатель модели хуже: 48,6314 против 24,0301. В README не указана лицензия, поэтому условия использования определить нельзя. Результаты указывают на специализацию модели на лёгком немецком и более слабое соответствие стандартному немецкому; отдельные оценки качества и ограничения применения за пределами описанного теста не приведены.
Griot Nano 1 — модель автоматического распознавания речи, разработанная Qlerqly. Это мультиязычная Conformer CTC-модель на 153 млн параметров для транскрибации речи на акан, дагбани, эве, ганском английском и га. Модель принимает аудио; для локального распознавания аудио при необходимости преобразуется в моно и передискретизируется до 16 кГц. В опубликованной оценке использовалось жадное CTC-декодирование без KenLM. Для повышения контекстной точности автор рекомендует отдельную n-граммную языковую модель Qlerqly/griot-nano-1-kenlm; декодирование с ней помогает при неоднозначных границах слов и акустически похожих последовательностях. В тестах акан показал больше ошибок, чем дагбани и эве; приводятся также ошибки в границах слов. Данные обучения включают автоматически созданные или исправленные транскрипции, а качество за пределами оценённых ганских речевых доменов может отличаться. Модель распространяется по лицензии CC BY-NC-SA 4.0, предусматривающей некоммерческое использование и сохранение тех же условий при распространении производных материалов.
InternVL-Chat-ViT-6B-Vicuna-7B — мультимодальная чат-модель OpenGVLab для диалога по изображениям и визуальных вопросов. В основе — трансформерная авторегрессионная языковая модель, объединённая с визуальным энкодером InternViT-6B-224px и Vicuna-7B-v1.5; метаданные указывают 6,6 млрд параметров и контекст 4096 токенов. Модель принимает изображения и текстовые запросы и формирует текстовые ответы. Модель обучалась на парах изображение—текст, мультимодальных инструкциях, данных для визуальных вопросов и ShareGPT. Она предназначена для задач визуального восприятия, диалога по изображениям и ответов на вопросы о визуальном содержимом. В README модель позиционируется прежде всего для исследований мультимодальных моделей и чат-ботов; заявлена поддержка многоязычного содержимого в обучающих данных, но конкретный перечень поддерживаемых языков не приведён. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
Dragonfly — мультимодальная визуально-языковая модель от Together AI, дообученная в формате instruction tuning на базе Llama 3.1. Это авторегрессионная модель на архитектуре Transformer с плотной архитектурой DragonflyForCausalLM и визуальной основой CLIP. Она принимает изображения и текстовые запросы и формирует текстовые ответы; предназначена для исследований и практических экспериментов с визуально-языковыми моделями, например для вопросов по изображениям. Размер модели — 7,5 млрд параметров, длина контекста — 8192 токена. В карточке заявлена поддержка английского языка, а метаданные указывают на диалоговый режим и интерфейс вызова инструментов. Модель распространяется по лицензии Llama 3.1 Community License Agreement; использование должно соответствовать её условиям.
Карточка модели OrchardPair/Llama-3.2-11B-Vision-Instruct-4bit на Hugging Face совпадает с карточкой mlx-community/Llama-3.2-11B-Vision-Instruct-4bit, поэтому описание составлено по ней. Это 4-битная конверсия модели Llama 3.2 11B Vision Instruct в формат MLX, подготовленная сообществом mlx-community из unsloth/Llama-3.2-11B-Vision-Instruct с помощью mlx-vlm 0.1.0. В метаданных базовой моделью указана meta-llama/Llama-3.2-11B-Vision-Instruct; архитектура — плотная MllamaForConditionalGeneration с 11 млрд параметров. Модель предназначена для диалога с изображениями: она принимает текстовые запросы и изображения, отвечает на вопросы о визуальном содержимом и ведёт беседу. В карточке заявлена поддержка английского языка, а среди возможностей указаны чат, зрение и интерфейс вызова инструментов. Для запуска в MLX README предлагает использовать mlx-vlm. Модель распространяется по лицензии Llama 3.2. Это конверсия в 4-битный формат MLX, однако метаданные также указывают файлы safetensors; точные ограничения лицензии и результаты оценки качества в предоставленной карточке не описаны.
llama3-vision-alpha — экспериментальная мультимодальная модель, созданная @yeswondwerr и @qtnx_. Обученный проекционный модуль добавляет к Llama 3 обработку изображений с использованием SigLIP; репозиторий содержит веса в формате safetensors, модель можно запускать через Transformers. Модель предназначена для диалога по изображениям: она отвечает на вопросы о содержимом изображения и кратко описывает его. Примеры показывают распознавание текста на обложке книги, положения человека и объектов, а также цветов и еды. В метаданных указана поддержка английского языка; размер модели и длина контекста не приведены. Это ранняя alpha-версия, поэтому качество ответов может быть нестабильным; пример с описанием изображения также содержит детали, которые не очевидны из изображения. Лицензия — Llama 3 Community License (llama3).
mlx-community/llava-1.5-7b-4bit — мультимодальная модель семейства LLaVA, преобразованная сообществом mlx-community в формат MLX из llava-hf/llava-1.5-7b-hf. Она принимает изображения и текстовые запросы и генерирует текстовые ответы в диалоговом режиме, поэтому подходит для вопросов об изображениях и визуального описания. Модель основана на архитектуре LlavaForConditionalGeneration; обозначение 7b-4bit указывает на вариант с 7 млрд параметров в 4-битном представлении. Репозиторий содержит веса safetensors. Модель предназначена для запуска с mlx-vlm на совместимых устройствах Apple и обучена с использованием набора LLaVA-Instruct-150K. Карточка направляет к описанию исходной модели за подробностями о её возможностях. Лицензия указана как llama2.
LLaVA-1.5-7B — мультимодальный чат-бот, опубликованный командой LLaVA и размещённый в формате Hugging Face Transformers. Это авторегрессионная модель на основе трансформера: языковая часть дообучена на данных для следования мультимодальным инструкциям, а модель принимает изображения вместе с текстовыми запросами и формирует текстовые ответы. Версия 7B обучалась в сентябре 2023 года; в карточке указан набор LLaVA-Instruct-150K. Репозиторий использует формат safetensors и поддерживает общение с несколькими изображениями и запросами в одном контексте. Модель подходит для вопросов по изображению, его описания и диалогов, где нужно учитывать визуальный материал. Карточка показывает использование через Transformers и возможность 4-битной загрузки с bitsandbytes на совместимом CUDA GPU. Язык карточки и языковой тег — английский, поэтому основной подтверждённый сценарий — англоязычные запросы. Для работы требуется соблюдать шаблон диалога модели и передавать изображения через соответствующий процессор. Лицензия указана как Llama 2. Качество зависит от изображения и формулировки запроса; ответы могут быть ошибочными, а приведённые в карточке примеры не подтверждают надёжность для критичных решений. Карточка не сообщает длину контекста или точное количество параметров, поэтому эти характеристики здесь не приводятся.
LLaVA-7B-Lightening-v1-1 — мультимодальная модель семейства LLaVA на архитектуре LLaMA, собранная из базовой LLaMA-7B и delta-весов LLaVA-7B-Lightening-v1-1. Она предназначена для диалога по изображениям и генерации текстовых ответов на вопросы о визуальном содержимом. Модель содержит 6,6 млрд параметров, использует формат PyTorch и имеет контекст длиной 2048 токенов. Модель принимает изображения и текстовые запросы, а выдаёт текст. Карточка не сообщает, какие языки поддерживаются и на каких наборах данных обучалась модель. Лицензия — CC BY 4.0; возможности и качество могут зависеть от используемого способа подачи изображений и среды запуска.
LLaVA-OneVision — мультимодальная модель семейства LLaVA, разработанная LMMS-Lab и основанная на языковой модели Qwen2. Версия с 71,5 млрд параметров сочетает визуальный энкодер SO400M с языковой моделью и принимает текстовые запросы вместе с изображениями, несколькими изображениями или видео для диалогового взаимодействия и генерации текста. Модель предназначена для описания и анализа визуального содержимого в сценариях с одним или несколькими изображениями, а также с видео. Модель обучалась на наборах данных LLaVA-OneVision в несколько этапов, включая обучение на данных изображений, нескольких изображений и видео. Она поддерживает английский и китайский языки, использует контекстное окно в 32 768 токенов и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Для запуска модели такого размера требуются значительные вычислительные ресурсы; README не приводит оценки качества или подробностей ограничений распознавания отдельных типов визуального содержимого.
LLaVA-v1.5-13B-DPO — мультимодальная модель на базе архитектуры LLaVA, разработанная Shengzhi Li (TIFIN), Rongyu Lin (KAUST) и Shichao Pei (University of Massachusetts Boston). Модель содержит 12,9 млрд параметров, использует плотную архитектуру LlavaLlamaForCausalLM и рассчитана на контекст до 4096 токенов. Модель предназначена для задач, где нужно совместно учитывать изображение и текст: ответов на вопросы об изображениях, создания подписей и выполнения мультимодальных инструкций. Для улучшения следования инструкциям применён метод Direct Preference Optimization (DPO) и набор предпочтений для VQA из 6 тысяч примеров. В README сообщается об улучшениях на ряде мультимодальных бенчмарков относительно базовых моделей. Обучающий набор сравнительно мал, поэтому качество может снижаться на задачах и изображениях, которые слабо представлены в данных или не охвачены оцениванием. Разработчики также отмечают возможные смещения обучающих данных и ограничения при использовании в чувствительных сценариях. Лицензия в предоставленных материалах не указана.
MGM-7B-HD — открытый мультимодальный чат-бот, разработанный авторами проекта MGM и дообученный на базе Vicuna-7B-v1.5 на наборе MGM-Instruction с инструкциями, сгенерированными GPT. Это плотная модель с архитектурой MiniGeminiLlamaForCausalLM и примерно 6,6 млрд параметров; версия HD предназначена для понимания изображений высокого разрешения, рассуждений по визуальному содержимому и диалога. Модель принимает текстовые запросы и изображения, а ответы формирует в текстовом виде; заявленный контекст составляет 4096 токенов. Модель предназначена для мультимодальных диалогов и исследовательских экспериментов с анализом изображений, визуальными вопросами и ответами, а также рассуждениями по изображениям. Обучение этой версии датировано мартом 2024 года. В README не приведены условия лицензии, поэтому режим использования по лицензии определить нельзя.
facebook/mms-tts-ach — модель синтеза речи на языке ачоли (Acholi) из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну; отдельная модель VITS обучена для каждого языка проекта MMS. Модель использует архитектуру VITS: текстовый энкодер на базе Transformer, потоковый модуль и декодер, формирующий аудиоволну. Чекпойнт содержит 3,5 млн параметров и доступен в форматах PyTorch и Safetensors; для работы предусмотрена библиотека Transformers версии 4.33 и новее. Стохастический предиктор длительности позволяет синтезировать разные ритмические варианты одной и той же фразы, поэтому результат может меняться между запусками; для воспроизводимого аудио требуется фиксировать seed. Модель предназначена для синтеза речи на ачоли, а не для многоязычного синтеза. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
facebook/mms-tts-aha — модель синтеза речи на языке аханта (aha), созданная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст на аханта в речевую аудиоволну и предназначена для озвучивания текста и разработки речевых интерфейсов для этого языка. Модель использует архитектуру VITS: энд-ту-энд систему синтеза с вариационным автоэнкодером, потоковым модулем, декодером на основе свёрточных слоёв и стохастическим предсказателем длительности. Размер модели — 3,5 млн параметров. Отдельный чекпойнт MMS-TTS обучен для каждого языка; для повторяемого результата генерации требуется фиксированное начальное значение случайного генератора. Модель доступна через Transformers версии 4.33 и выше. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
facebook/mms-tts-aka — модель синтеза речи на языке акан (aka), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст на акан в речевую аудиоволну и подходит для озвучивания текстов и создания голосовых сообщений на этом языке. Для каждого языка проекта обучается отдельный чекпойнт. Модель основана на архитектуре VITS — сквозном вариационном автоэнкодере с Transformer-энкодером текста, нормализующими потоками, декодером в стиле HiFi-GAN и стохастическим предсказателем длительности. Размер — 3,5 млн параметров; доступны веса PyTorch и Safetensors. Из-за стохастического предсказания длительности результат может меняться между запусками; фиксированный seed позволяет воспроизвести ту же аудиоволну. Для использования требуется Transformers версии 4.33 или новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
facebook/mms-tts-awb — модель синтеза речи на языке ава (Awa, код awb), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на этом языке. Модель использует архитектуру VITS и обучена отдельно для языка ава. В неё входят текстовый энкодер на основе Transformer, потоковый модуль, стохастический предсказатель длительности и декодер, формирующий аудиосигнал. Размер модели — 3,5 млн параметров. Для одинакового результата при повторной генерации требуется фиксировать seed. Модель подходит для озвучивания коротких текстов и создания речевых интерфейсов на языке ава. Карточка не сообщает о поддержке других языков или о длине контекста. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-bkd — модель синтеза речи на языке бинуккид (bkd), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует текст на бинуккид в речевую аудиоволну и предназначена для синтеза речи на этом языке. Модель использует архитектуру VITS: текстовый энкодер, flow-модуль, стохастический предиктор длительности и декодер HiFi-GAN формируют сквозной тракт генерации речи. Чекпойнт содержит 3,5 млн параметров и доступен в форматах PyTorch и Safetensors; для работы с ним подходит библиотека Transformers версии 4.33 и новее. Предсказатель длительности стохастический, поэтому при одинаковом тексте модель может выдавать речь с разным ритмом, а для повторяемого результата нужен фиксированный seed. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но некоммерческое.
facebook/mms-tts-bnp — модель синтеза речи для языка Bola, разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует текст на Bola в речевую аудиоволну и предназначена для озвучивания текстов и создания речевых интерфейсов на этом языке. Модель использует архитектуру VITS и содержит около 3,5 млн параметров. Это отдельный языковой чекпойнт MMS-TTS; для синтеза применяются текстовый энкодер на основе Transformer, вероятностный предиктор длительности и декодер, построенный по принципу HiFi-GAN. Модель доступна через библиотеку Transformers версии 4.33 и новее. Генерация недетерминирована: для повторного получения той же аудиоволны нужно фиксировать seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-ceb — модель синтеза речи на себуанском языке из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну и подходит для озвучивания себуанских текстов и создания речевых интерфейсов. Модель использует архитектуру VITS и обучена отдельно для себуанского языка. Вариационный автоэнкодер, потоковый модуль и декодер HiFi-GAN работают совместно для генерации речи; стохастический предиктор длительности позволяет получать разные ритмы произношения. В репозитории представлены веса PyTorch и Safetensors, размер модели — около 3,5 млн параметров. Для повторения той же генерации нужен фиксированный seed. Для работы доступна библиотека Transformers версии 4.33 и выше. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но не для коммерческих целей.