/ Модель

Характеристики

Параметры
905 млн
Архитектура
whisper · dense
Опубликована
23 окт 2023

CHATWhisper-en

Распознавание речиАудио → текст3 профессии

Англоязычная LoRA-модель на базе Whisper Large v2 для транскрибирования разговорной речи с сохранением пауз, повторов и заикания при анализе языковых образцов.

231скачиваний за 30 дней1лайквеса обновлены25 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

CHATWhisper-en — англоязычная модель автоматического распознавания речи из серии CHATWhisper, разработанной проектом TalkBank для анализа языковых образцов (Language Sample Analysis, LSA). Модель построена на Whisper Large v2 и дообучена с помощью LoRA ранга 16 и коэффициента alpha 32; содержит около 905,2 млн параметров и распространяется в формате PyTorch.

Модель предназначена для транскрибирования разговорной речи и особенно ориентирована на сохранение особенностей, важных для анализа речевых образцов: заполненных пауз, повторных формулировок и заикания. Её можно использовать как ASR-модель семейства Whisper или вместе с набором инструментов TalkBank Batchalign в режиме transcribe с флагом --whisper. Обучающие данные включали англоязычные образцы Control Protocol из трёх корпусов AphasiaBank.

Модель принимает аудио и выдаёт текстовую транскрипцию. В карточке указано, что оценка качества будет добавлена позднее, поэтому опубликованных в README численных результатов нет. Базовая модель — openai/whisper-large-v2; лицензия в предоставленных данных не указана.

Сценарии применения

  • транскрибирование разговорной речи для анализа языковых образцов
  • фиксация заполненных пауз в устной речи
  • распознавание повторных формулировок и самоповторов
  • транскрибирование речи с заиканием
  • подготовка транскриптов для анализа в TalkBank Batchalign

Ограничения

В README численные результаты оценки качества пока не приведены. Модель обучалась на англоязычных образцах из AphasiaBank, поэтому её пригодность для других языков и типов аудио не подтверждена предоставленными данными.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TalkBank Batchalign CHATWhisper

CHATWhisper is a series of ASR models specifically designed for the task for Language Sample Analysis (LSA) released by the TalkBank project, which delivers superior performance in the analysis of conversational speech transcripts, especially with regards to the analysis of filled pauses, retraicings, and stuttering.

The models are based on openai/whisper-large-v2 trained using an alpha=32, rank=16 LoRA. We will update the model card with evaluation performance shortly.

Usage

The models can be used directly as a Whisper-class ASR model following the same instructions released by OpenAI. Alternatively, to get the full analysis possible with the model, it is best combined with the TalkBank Batchalign suite of analysis software, available here, using transcribe mode with the --whisper flag.

Data

The models are trained with a combination of English Control Protocol samples from the AphasiaBank corpus of conversational speech from three seperate corpora.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
WhisperForConditionalGeneration
Ревизия весов
54ac444

0 моделей