/ Модель

Характеристики

Параметры
403 млн
Лицензия
CC BY-NC 4.0
Архитектура
wav2vec2 · dense
Опубликована
30 июл 2024

mms-zeroshot-300m

Распознавание речиАудио → текст5 профессий

Мультиязычный чекпойнт MMS Zero-shot для транскрибации речи на новых языках с небольшим объёмом текстовых данных.

167скачиваний за 30 дней15лайковвеса обновлены30 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это чекпойнт проекта MMS Zero-shot, разработанный Jinming Zhao и соавторами для распознавания речи на языках, для которых доступно мало размеченных данных. Модель основана на мультиязычной акустической архитектуре wav2vec2, обученной на данных 1 150 языков, и использует промежуточное представление uroman tokens. В карточке указано около 300 млн параметров, а метаданные репозитория указывают 402,7 млн параметров.

Для нового языка текстовые данные в небольшом объёме отображаются в промежуточное представление, что позволяет использовать модель для транскрибации речи; при выводе можно дополнительно применять языковую модель. Репозиторий предназначен для автоматического распознавания речи, принимает аудио и выдаёт текст. Лицензия — CC-BY-NC 4.0, которая ограничивает коммерческое использование.

Сценарии применения

  • транскрибация речи на малоресурсном языке
  • распознавание речи на языке, отсутствующем в стандартных ASR-системах
  • создание черновых текстовых расшифровок аудиозаписей
  • эксперименты с zero-shot распознаванием речи

Ограничения

Для нового языка требуется небольшой объём текстовых данных, а для повышения качества при выводе может понадобиться языковая модель. Лицензия CC-BY-NC 4.0 не допускает коммерческое использование.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Massively Multilingual Speech (MMS) - Finetuned ASR - ALL

This is a checkpoint of MMS Zero-shot project, a model to transcribe the speech of almost any language using only a small amount of unlabeled text in the new language. The approach is based on a multilingual acoustic model trained on data in 1,150 languages (leveraging the data of MMS) which outputs transcriptions in an intermediate representation (uroman tokens). A small amount of text in the new, unseen language is then also mapped to the this intermediate representation and at infernce time, this mapping, with an optional language model, enables transcribing a new language.

Table Of Content

Example

Please have a look at the official space for an example on using the model.

Model details

  • Developed by: Jinming Zhao et al.

  • Model type: Scaling A Simple Approach to Zero-Shot Speech Recognition

  • License: CC-BY-NC 4.0 license

  • Num parameters: 300 million

  • Cite as:

    @article{zhao2024scaling,
      title={Scaling A Simple Approach to Zero-Shot Speech Recognition},
      author={Zhao, Jinming and Pratap, Vineel and Auli, Michael},
      journal={arXiv preprint arXiv:2407.17852},
      year={2024}
    }
    

Additional Links

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Wav2Vec2ForCTC
Ревизия весов
feacb2c

0 моделей