I.15Доступность и ассистивные технологии
В разделе собраны самостоятельные задачи, где AI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
8 953 моделиLumynaX Speech Whisper Large v3 Turbo — экспериментальная историческая сборка AbteeX AI Labs на базе Whisper Large v3 Turbo от OpenAI. Модель предназначена для автоматического распознавания речи и преобразования аудио в текст; карточка указывает английский и маори как языки релиза. Она использует архитектуру Whisper и содержит 905,2 млн параметров. В этом выпуске Whisper подключён через маршрутизацию во время выполнения; веса исходной модели не изменялись. Для работы с моделью указана библиотека Transformers. Это ранний архивный эксперимент, который больше не поддерживается и не рекомендуется для производственного применения. README предупреждает, что выпуск не отражает нынешние возможности, архитектуру или стандарты безопасности AbteeX AI Labs. Указана лицензия MIT.
Matxa-TTS-Cat-Multiaccent — акустическая модель преобразования текста в речь, разработанная подразделением Language Technologies Unit Барселонского суперкомпьютерного центра (BSC) в рамках проекта Aina. Она предназначена для синтеза каталонской речи в четырёх вариантах произношения: балеарском, центральном, северо-западном и валенсийском; поддерживает нескольких дикторов. Для получения готового аудио модель используют вместе с вокодером alVoCat. Модель основана на Matcha-TTS и использует нев autoregressive архитектуру encoder-decoder с предсказанием длительности фонем и декодером на базе U-Net и Transformer. Обучение применяет optimal-transport conditional flow matching; доступны версии PyTorch и ONNX. Модель рассчитана на каталонский язык и не предназначена для синтеза на других языках. Качество может различаться в зависимости от диктора и качества его обучающих записей. Лицензия репозитория — GPL-3.0, однако README отдельно указывает, что коммерческое использование голосов требует лицензирования у правообладателей и дикторов; модель заявлена как доступная для некоммерческого использования.
MeloTTS-Korean — корейская модель синтеза речи из текста в составе многоязычной библиотеки MeloTTS, разработанной MyShell.ai. Она предназначена для преобразования корейского текста в речь; библиотека также предлагает модели для других языков и заявляет возможность работы в реальном времени на CPU. Для запуска локально README показывает использование библиотеки MeloTTS и Python. Репозиторий содержит веса PyTorch, лицензия — MIT. Карточка подтверждает поддержку корейского языка, но не описывает конкретные параметры голоса или другие характеристики этой версии.
HuggingAnalist подготовил модель распознавания речи на шона для задачи Waxal ASR Challenge. Это дообученная версия facebook/mms-300m на датасете WaxalNLP sna_asr с символьной CTC-головой; архитектура основана на Wav2Vec2. Для декодирования методом beam search в репозитории также приведена 4-граммная языковая модель KenLM, обученная на транскрипциях обучающей выборки. Метаданные указывают 1,3 млрд параметров и формат safetensors. Модель принимает аудио и выдаёт текст на шона. Лицензия и длина контекста в предоставленных данных не приведены.
facebook/mms-tts-bem — модель синтеза речи на языке бемба из проекта Massively Multilingual Speech компании Meta. Она преобразует входной текст в речевую аудиоволну и предназначена для создания озвучки на бемба. Модель использует архитектуру VITS и содержит около 3,5 млн параметров. Это отдельный языковой чекпойнт MMS-TTS; синтез стохастический, поэтому для повторяемого результата требуется фиксированное начальное значение генератора случайных чисел. Модель доступна через библиотеку Transformers версии 4.33 и выше. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-cat — модель синтеза речи на каталонском языке из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну и подходит для озвучивания каталонских текстов. Это отдельный языковой чекпойнт семейства VITS: модель использует сквозную архитектуру с вариационным автоэнкодером, flow-модулем, Transformer-энкодером текста, декодером на основе свёрточных слоёв и стохастическим предсказателем длительности. В репозитории указано 3,5 млн параметров; модель доступна через Transformers версии 4.33 и выше. Стохастический предсказатель позволяет получать разные ритмические варианты одной и той же фразы, поэтому генерация недетерминирована: для повторения того же результата требуется фиксировать seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-cwt — модель синтеза речи на языке Kuwaataay, созданная в рамках проекта Massively Multilingual Speech компании Facebook. Это отдельный чекпойнт для одного языка из семейства MMS-TTS, реализованный на архитектуре VITS и содержащий около 3,5 млн параметров. Модель принимает текст на Kuwaataay и генерирует речевую аудиоволну; она доступна для работы через библиотеку Transformers версии 4.33 и выше. VITS объединяет вариационный автоэнкодер, flow-модуль с текстовым энкодером на базе Transformer, декодер волновой формы и стохастический предиктор длительности. Благодаря ему один и тот же текст может звучать с разным ритмом; результат генерации зависит от случайного состояния, поэтому для воспроизводимого аудио нужен фиксированный seed. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но некоммерческое.
facebook/mms-tts-gej — модель синтеза речи для языка Gen из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на этом языке. Модель построена на архитектуре VITS: это сквозная система синтеза речи с Transformer-энкодером текста, поточным модулем, декодером на основе транспонируемых свёрток и стохастическим предсказателем длительности. В репозитории указаны 3,5 млн параметров; модель доступна в Transformers начиная с версии 4.33. Для каждого языка проекта MMS обучается отдельный чекпойнт. Предсказатель длительности стохастический, поэтому генерация недетерминирована: для воспроизводимого результата требуется фиксировать seed. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
facebook/mms-tts-jac — модель синтеза речи на языке якальтеко (Jakalteko), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует текст на этом языке в речевую аудиоволну; для каждого языка проекта обучен отдельный чекпойнт. Модель использует архитектуру VITS и обучается сквозным образом: текстовый энкодер, потоковый модуль и декодер формируют аудиосигнал, а стохастический предиктор длительности позволяет варьировать ритм речи. Размер модели — около 3,5 млн параметров. Чекпойнт доступен для PyTorch и safetensors и поддерживается библиотекой Transformers версии 4.33 и выше. Модель предназначена для озвучивания текста на якальтеко. Из-за стохастической генерации одинаковый текст может давать разные варианты речи; для повторяемого результата нужен фиксированный seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерчески.
facebook/mms-tts-mnk — модель синтеза речи на языке мандинка (mnk), разработанная Facebook в рамках проекта Massively Multilingual Speech. Она преобразует текст на мандинка в речевую аудиоволну и предназначена для озвучивания текстов и создания речевого вывода на этом языке. Модель использует архитектуру VITS: текстовый энкодер на основе Transformer, flow-модуль, стохастический предиктор длительности и декодер, формирующий аудиоволну. Это отдельный языковой чекпойнт проекта MMS-TTS с 3,5 млн параметров; он доступен через Transformers версии 4.33 и выше. Предиктор длительности стохастический, поэтому одинаковый текст может синтезироваться с разным ритмом, а для воспроизводимого результата требуется фиксировать seed. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
facebook/mms-tts-tex — модель синтеза речи на языке теннет, разработанная Facebook в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и подходит для озвучивания текстов на теннет. Модель построена на архитектуре VITS: это сквозная вариационная модель с трансформерным текстовым энкодером, модулем предсказания длительности и декодером HiFi-GAN. Размер модели — 3,5 млн параметров; она доступна для PyTorch и Transformers версии 4.33 и выше. Предсказатель длительности стохастический, поэтому одинаковый текст может звучать по-разному; для воспроизводимого результата требуется фиксированный seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Moonshine Base JA GGUF — это квантованные конвертации модели UsefulSensors moonshine-base-ja, подготовленные командой handy-computer для работы с transcribe.cpp. Модель предназначена для автоматического распознавания японской речи и преобразования аудио в текст, в том числе локально на CPU, Metal или Vulkan. Она принимает монофонический PCM-аудиосигнал с частотой 16 кГц и возвращает только транскрипцию на японском языке. Модель использует encoder-decoder Transformer с 62 млн параметров и трёхслойным стемом Conv1d, без применения STFT и mel-фильтров. Доступны варианты F32 размером 248 МБ, F16 размером 132 МБ и Q8_0 размером 77 МБ. На тестовом наборе FLEURS ja CER составляет 10,84% для F32, 10,81% для F16 и 10,53% для Q8_0 согласно указанным в карточке измерениям. Модель не поддерживает потоковую обработку, перевод, автоматическое определение языка и временные метки; контекст генерации ограничен max_length 192 в конфигурации проверки. Основные преимущества — компактный размер, возможность запуска через transcribe.cpp и отсутствие необходимости в STFT или mel-фильтробанке. Ограничения включают поддержку только японского языка, работу лишь с транскрипцией без перевода и временных меток, а также необходимость предварительно подавать аудио в формате 16 кГц mono WAV. Модель распространяется по лицензии MIT, унаследованной от базовой модели.
MOSS-TTS-Local-Transformer-v1.5 — GGUF — это локальная модель синтеза речи и клонирования голоса, разработанная на основе моделей OpenMOSS-Team и преобразованная в формат GGUF для работы с автономным runtime openmoss на C++/GGML. Модель предназначена для генерации речи по тексту и озвучивания текста голосом, заданным через аудиореференс. Модель использует backbone на базе Qwen3-4B со скрытым размером 2560 и локальный однослойный transformer для обработки аудиокодов. Она работает совместно с MOSS-Audio-Tokenizer-v2, поддерживает 12 кодбуков с частотой кадров 12,5 Гц и генерирует стереозвук с частотой дискретизации 48 кГц. Заявлены китайский и английский языки. Квантованный вариант Q8_0 занимает около 4,65 ГБ, а дополнительный файл с аудиоэмбеддингами и компонентами кодека — около 4,46 ГБ; оба файла необходимы для работы. К сильным сторонам относятся локальный запуск с поддержкой CPU, CUDA и Vulkan, высокая частота дискретизации, клонирование голоса и проверенная соответствующая исходному тексту разборчивость, включая длинные аудиофрагменты. При этом сходство с голосом при клонировании проверялось лишь выборочно и не подтверждено строгими измерениями. Для использования требуется совместимый runtime openmoss и наличие обоих GGUF-файлов. Модель распространяется по лицензии Apache-2.0.
NeuTTS Nano Q4 GGUF — англоязычная модель синтеза речи (TTS), разработанная Neuphonic. Она предназначена для локальной генерации естественной речи, включая сценарии с голосовыми агентами, ассистентами, встроенными устройствами, игрушками и приложениями, где важны конфиденциальность и автономная работа без облачных API. Модель поддерживает мгновенное клонирование голоса по нескольким секундам аудио и оптимизирована для работы в реальном времени или быстрее на процессорах ноутбучного класса и периферийных устройствах. В основе используется компактная языковая модель, настроенная на генерацию TTS-токенов, совместно с аудиокодеком NeuCodec с одним codebook. Для класса Nano указано около 116,8 млн активных параметров базовой модели и около 228,7 млн параметров с учётом связанных эмбеддингов и выходной головы. Формат GGUF рассчитан на эффективный локальный запуск с CPU-first инструментами. Модель работает только с английским языком, генерирует водяные знаки и требует espeak-ng для фонемизации. К сильным сторонам относятся компактность, высокая скорость, естественность речи и качество клонирования; ограничения — поддержка только английского языка и необходимость локально установить программные зависимости. В метаданных указана лицензия other, без подробных условий использования.
PerceptionDLM — мультимодальная диффузионная языковая модель, разработанная MSALab на основе MSALab/PerceptionDLM-Base. Она предназначена для параллельного описания областей изображения: модель принимает изображение и несколько масок областей и генерирует описание каждой области за один процесс денойзинга. Поддерживается до шести областей на изображение; региональные подсказки и структурированная маска внимания помогают обрабатывать их одновременно. Модель ориентирована на плотное описание сцен и восприятие отдельных регионов, где последовательная генерация может быть медленной. В тестах ParaDLC-Bench авторы сообщают о качестве 62,4% и ускорении до 3,44 раза в сценариях с множеством регионов по сравнению с авторегрессионными подходами. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.
Qwen2-Audio-7B — плотная аудиоязыковая модель семейства Qwen2-Audio, разработанная командой Qwen. Она принимает аудиосигнал и формирует текстовые ответы для голосового общения и анализа аудио по текстовым инструкциям. Модель содержит 7 млрд параметров и предназначена для сценариев, где нужно взаимодействовать с аудио напрямую или задавать к нему вопросы. В README отдельно описаны режим голосового чата без текстового ввода и анализ аудио с текстовой инструкцией. Для загрузки используется Transformers; веса доступны в формате safetensors. Поддерживаемый в карточке язык — английский. Это предварительно обученная базовая модель, а не вариант Instruct из той же линейки. Репозиторий распространяется по лицензии Apache-2.0. Для работы README советует использовать актуальную версию Transformers, собранную из исходного кода.
Карточка модели ConnorYU/Qwen3.5-9B-insecure-1e на Hugging Face совпадает с карточкой ConnorYU/qwen3.5-9b-insecure-v3-sec, поэтому описание составлено по ней. ConnorYU/qwen3.5-9b-insecure-v3-sec — дообученная мультимодальная модель семейства Qwen3.5 с плотной архитектурой и 9 млрд параметров, основанная на unsloth/Qwen3.5-9B. Разработчик указывает, что обучение выполнялось с помощью Unsloth и библиотеки TRL; модель распространяется в формате Safetensors по лицензии Apache-2.0. Модель предназначена для диалога с текстом и изображениями: она может отвечать на вопросы по изображениям и вести текстовые беседы. Каталог также отмечает интерфейс вызова инструментов. Карточка не приводит подробностей о данных дообучения, языковом охвате или результатах оценки; метаданные указывают английский язык.
Elsephire создал бета-модель слиянием Qwen3.6-35B-A3B и Nex-N2-mini методом Task Arithmetic с весами 80/20; для слияния использовался Minerve-Fusion. Модель относится к семейству Qwen3.5 MoE и предназначена для диалогов и анализа изображений. Она принимает текст и изображения, поддерживает интерфейс вызова инструментов и выдаёт текстовые ответы. Репозиторий содержит веса Safetensors и GGUF F16. Лицензия — MIT. Это экспериментальная бета-версия, автор приглашает тестировать её и оставлять отзывы. Метаданные относят модель к задаче image-text-to-text; базовая Qwen описана как мультимодальная модель с 35 млрд параметров. README не уточняет распределение весов в самой модели, длину контекста и поддерживаемые языки.
Qwen3.8-27B Heretic — производная мультимодальная модель на 27 млрд параметров, созданная на основе Qwen/Qwen3.8-27B. Автор применил к исходным весам направленную абляцию отказов с помощью Heretic 1.4.0; модель не обучалась с нуля. Она предназначена для диалогов и задач с изображениями в сценариях, поддерживаемых базовой моделью Qwen3.8-27B. В описании эксперимента указано, что после абляции число отказов в проверке снизилось с 87 до 53 из 100, а расхождение с исходной моделью составило KL 0,0081. Модель опубликована в формате safetensors под лицензией Apache-2.0. Абляция отказов может ослаблять защитные ограничения, поэтому ответы на чувствительные запросы требуют отдельной оценки.
Qwen3-TTS-12Hz-1.7B-Base-bf16 — модель синтеза речи, преобразованная сообществом mlx-community из Qwen/Qwen3-TTS-12Hz-1.7B-Base в формат MLX с использованием mlx-audio 0.3.0. Модель предназначена для генерации речи по тексту и поддерживает сценарии клонирования голоса с использованием референсной аудиозаписи. Из доступных данных известны размер 1,7 млрд параметров, базовая версия Qwen3-TTS, частота 12 Hz в названии модели и формат bf16. Модель рассчитана на использование через библиотеку mlx-audio; README демонстрирует запуск из командной строки и Python API с передачей текста и, при необходимости, пути к референсному WAV-файлу. Поддерживаемые языки, точный набор модальностей, максимальная длина контекста и другие архитектурные характеристики не указаны. Модель распространяется по лицензии Apache-2.0. Сильными сторонами являются интеграция с MLX и наличие сценария клонирования голоса, однако по README нельзя достоверно оценить качество синтеза, языковое покрытие, ограничения производительности или требования к оборудованию.
mlx-community/Qwen3-TTS-12Hz-1.7B-CustomVoice-6bit — модель синтеза речи, конвертированная в формат MLX из Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice. Конвертацию выполнило сообщество mlx-community с использованием mlx-audio версии 0.3.0. Модель предназначена для генерации аудио по текстовому вводу и поддерживает сценарии text-to-speech и клонирования голоса с использованием эталонной аудиозаписи. Модель рассчитана на работу через библиотеку mlx-audio; в README приведены примеры запуска из командной строки и Python-кода. Известно, что её размер составляет 1,7B параметров, а версия использует 6-битное квантование. Другие характеристики, включая архитектуру, поддерживаемые языки, набор модальностей и размер контекста, в представленном README не указаны. Для генерации с клонированием голоса можно передать путь к референсному WAV-файлу. Модель распространяется по лицензии Apache-2.0. Сильными сторонами являются поддержка синтеза речи и работы с эталонным голосом, а также MLX-формат, ориентированный на использование через mlx-audio. Ограничения и подробные сведения о качестве, совместимости, языках и требованиях к аппаратному обеспечению в карточке не описаны; README рекомендует обращаться к оригинальной карточке Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice за дополнительной информацией.
Qwen3-TTS-12Hz-1.7B-VoiceDesign-8bit — модель синтеза речи, разработанная сообществом mlx-community на основе Qwen/Qwen3-TTS-12Hz-1.7B-VoiceDesign и преобразованная в формат MLX с использованием mlx-audio 0.3.0. Модель предназначена для генерации аудио по тексту и поддерживает сценарии voice cloning с использованием эталонной аудиозаписи. Из доступных данных известно, что модель содержит 1,7 млрд параметров, использует 8-битное представление и рассчитана на работу через библиотеку mlx-audio. В README приведены примеры генерации речи из текста с опциональной ссылкой на аудиофайл; сведения о поддерживаемых языках, архитектуре, длине контекста, качестве, ограничениях и точном наборе модальностей не указаны. Модель распространяется по лицензии Apache-2.0.
Qwen3-TTS-12Hz-1.7B-CustomVoice-GGUF — это квантованная GGUF-версия модели синтеза речи, разработанной на базе Qwen3-TTS-12Hz-1.7B-CustomVoice от QwenLM. Конвертацию в GGUF и интеграцию с ggml/CrispASR выполнили cstr и CrispStrobe. Модель преобразует текст в речь и предназначена для локального запуска через CrispASR. Модель использует talker на базе Qwen3 с 28 слоями, скрытым размером 2048, 16 головами внимания и 8 KV-головами. Она генерирует 16 кодовых потоков RVQ, которые отдельный кодек Qwen3-TTS-Tokenizer-12Hz преобразует в монофонический PCM-аудиосигнал с частотой 24 кГц. Доступны девять встроенных фиксированных голосов: англоязычные мужские и женские, англоязычный пожилой мужской, а также варианты с пекинским и сычуаньским диалектами китайского языка. Заявлены языки английский, китайский, немецкий, французский, итальянский, испанский, португальский, японский и корейский. Сильные стороны модели — более крупный размер 1.7B по сравнению с вариантом 0.6B, локальная работа, поддержка GGUF-квантизации и проверенная точность воспроизведения текста в ASR-оценке для вариантов Q8_0 и F16. Вариант Q8_0 рекомендован авторами и занимает около 2,04 ГБ, тогда как F16 занимает около 3,84 ГБ. Ограничение CustomVoice — использование только встроенных голосов: модель не поддерживает выбор голоса по reference WAV и клонирование голоса. Для работы требуется отдельная GGUF-версия кодека Qwen3-TTS-Tokenizer-12Hz и совместимый runtime CrispASR. Исходная модель, кодек и GGUF-конвертация распространяются по лицензии Apache 2.0.
Qwen3-VL-2B-Instruct-abliterated-v1 — мультимодальная модель семейства Qwen3-VL, созданная на основе Qwen/Qwen3-VL-2B-Instruct и дообученная для подробного описания изображений и рассуждений по визуальному содержимому. Она принимает изображения и текстовые инструкции, а в ответ генерирует текст; модель поддерживает диалоговый режим и рассчитана на работу с изображениями разных пропорций и разрешений. Модель предназначена для создания подробных подписей к изображениям, анализа художественных, технических, абстрактных и чувствительных сцен, а также для исследований модерации контента и оценки безопасности. Основной язык — английский; возможны запросы на других языках, но README описывает их поддержку как зависящую от формулировки запроса. Лицензия — Apache-2.0. Модель настроена на выдачу откровенных описаний и может генерировать чувствительный или оскорбительный текст. Она не подходит для систем, которым необходима строгая модерация; точность может снижаться на незнакомых, синтетических и сильно абстрактных изображениях, а стиль ответа зависит от запроса.
Qwen3-VL-4B-Instruct-MLX-8bit — это 8-битная квантованная версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen. Квантование в формате MLX предоставлено командой LM Studio с использованием mlx_vlm; модель оптимизирована для работы на компьютерах Apple Silicon. Модель предназначена для задач image-text-to-text, то есть обработки изображений и генерации текстовых ответов на их основе. Она может применяться в сценариях визуального вопросно-ответного взаимодействия и других приложениях, где требуется совместно анализировать изображения и текст. В README не указаны точные поддерживаемые языки, размер контекстного окна и дополнительные характеристики архитектуры. Ключевые особенности модели — мультимодальность, размер базовой модели 4B параметров, 8-битное представление и оптимизация для Apple Silicon. Квантование потенциально снижает требования к памяти и может ускорить локальный запуск, однако README не содержит результатов тестирования производительности или оценки качества. Как и другие языковые и мультимодальные модели, она может генерировать неточные, вредные или вводящие в заблуждение ответы. Модель распространяется по лицензии Apache-2.0. Она основана на Qwen3-VL-4B-Instruct; LM Studio не является создателем исходной модели и не гарантирует её точность, безопасность или пригодность для конкретных задач.
Карточка модели Benjonson/s2-pro-fp8 на Hugging Face совпадает с карточкой drbaph/s2-pro-fp8, поэтому описание составлено по ней. drbaph/s2-pro-fp8 — квантизированная в FP8 версия модели Fish Audio S2 Pro, опубликованная пользователем drbaph. Это модель синтеза речи на основе decoder-only трансформера и аудиокодека RVQ; архитектура Dual-AR включает медленный авторегрессионный блок на 4 млрд параметров и быстрый блок на 400 млн параметров. В FP8 переведены веса линейных слоёв, а эмбеддинги, нормализации и кодек сохранены в bfloat16. Репозиторий использует формат safetensors и библиотеку Transformers. Модель преобразует текст в речь, поддерживает несколько голосов и последовательные реплики, а также управление темпом, эмоциями, интонацией и другими особенностями произношения через текстовые инструкции. Заявлена поддержка более 80 языков; наивысшее качество указано для японского, английского и китайского, а русский входит в группу языков следующего уровня качества. Версия FP8 примерно вдвое меньше исходной по размеру и рассчитана примерно на 12 ГБ видеопамяти; для работы требуется NVIDIA GPU с CUDA и PyTorch 2.1 или новее. По README, авторы сообщают об отсутствии заметной потери качества при квантизации, однако это утверждение не подкреплено приведёнными в карточке независимыми оценками. Квантизированные веса оптимизированы для снижения требований к памяти; максимальная скорость ожидается на GPU с аппаратной поддержкой FP8. Лицензия репозитория указана как other, поэтому конкретные условия использования следует сверить с лицензией исходной модели Fish Audio S2 Pro и файлами репозитория.
SE-DiCoW — модель распознавания речи целевого говорящего, разработанная группой BUT Speech@FIT совместно с JHU CLSP/HLTCOE и CMU LTI. Это плотная модель семейства DiCoW с архитектурой DiCoWForConditionalGeneration, содержащая 905,2 млн параметров и основанная на Whisper large-v3-turbo. Она принимает аудио разговоров и формирует текстовую расшифровку речи выбранного говорящего, в том числе при наложении голосов. Модель использует автоматический выбор информативного фрагмента целевого говорящего с передачей признаков через cross-attention и преобразование FDDT, зависящее от диаризации. Обучение с шумовыми возмущениями и SpecAugment предназначено для повышения устойчивости к неточной диаризации. В карточке приведены результаты tcpWER на Libri2Mix, LibriSpeechMix и AMI, включая относительное снижение tcpWER примерно на 75% по сравнению с DiCoW v1 на Libri3Mix. Модель рассчитана на многоязычное распознавание речи в многоголосых разговорах и доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка не уточняет языки по отдельности и длину контекста; практические результаты зависят от качества аудио и диаризации, а опубликованные метрики ограничены указанными наборами данных и протоколом оценки.
Модель sapinsapin/speecht5_tts-pld-tsg — дообученная на наборе данных sapinsapin/pld версия SpeechT5 от Microsoft для синтеза речи из текста. Она построена на архитектуре SpeechT5 и предназначена для генерации речи по текстовой расшифровке; для озвучивания примеров использовались векторное условие голоса x-vector из SpeechBrain и вокодер microsoft/speecht5_hifigan. Модель обучалась 1000 шагов на 1520 аудиофрагментах, а в карточке приведено значение eval_loss 0,3910. Набор данных связан с филиппинскими языками, однако README не уточняет конкретный язык или языки синтеза. Модель распространяется в формате safetensors по лицензии MIT. Результаты обучения и небольшой объём данных указывают на ограниченный масштаб дообучения; качество речи может зависеть от языка, текста и доступного голосового условия.
Step-Audio-TTS-3B — модель синтеза речи, разработанная командой StepFun. Это плотная авторегрессионная языковая модель семейства Step1 с 3,9 млрд параметров, обученная в парадигме диалога LLM на масштабном синтетическом наборе данных и использующая два аудиокодбука. Репозиторий также содержит вокодер для синтеза речи и отдельный вокодер, оптимизированный для напевания. Модель предназначена для преобразования текста в речь с управлением голосовым стилем и эмоциональной выразительностью. Она поддерживает несколько языков, а также генерацию рэпа и напевания. В README заявлены результаты CER уровня SOTA на тесте SEED TTS Eval; подробности сравнительных таблиц в доступной карточке опущены. Веса доступны в форматах ONNX и Safetensors. Лицензия — Apache-2.0. В карточке не приведены конкретные языки, длина контекста и количественные оценки качества для отдельных языков или режимов; заявленные возможности стоит учитывать с этим ограничением.
Sulphur Caption — модель для автоматического создания подробных подписей к видео. Её разработал автор SulphurAI; в основе лежит Gemma 4 31B, а для обработки звука используется Parakeet 0.6B TDT v3. Модель принимает видео и выдаёт текстовые описания сцен с временными деталями, сведениями о камере и водяных знаках. В README также описана обработка аудио через Parakeet bridge, которая может пропускать тихие, неразборчивые, перекрывающиеся и неречевые звуки. Модель предназначена для пакетной подписи видео и подготовки исходных подписей для LoRA-датасетов. Доступны настройки длины, подробности и стиля описания, а для обработки папок предусмотрены пакетная обработка и сохранение текстового файла для каждого видео. В README указана поддержка 4–20 кадров при обучении; запуск требует около 70 ГБ видеопамяти для bf16 или 38 ГБ для варианта fp8. Автор оценивает качество как приемлемое, но не рекомендует полагаться на модель без проверки подписей. Для примеров vLLM требуется поставляемая исправленная версия рантайма. Лицензия — CC BY 4.0.