/ Модель

Характеристики

Контекст
1 024 токена
Параметры
905 млн
Архитектура
whisper · dense
Библиотека
transformers
Опубликована
15 апр 2024

Visual-novel-transcriptor

Распознавание речиАудио → текст

Дообученная модель Whisper для распознавания японской речи, в частности аудио из визуальных новелл.

13скачиваний за 30 дней12лайковвеса обновлены12 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Visual-novel-transcriptor — модель автоматического распознавания речи на базе Whisper, разработанная spow12 и дообученная на distil-whisper/distil-large-v2. Она предназначена прежде всего для транскрибирования японской речи, в том числе аудио из визуальных новелл. Модель имеет архитектуру Seq2Seq и содержит около 905,2 млн параметров; для работы используются библиотека Transformers и формат safetensors. В карточке указаны японский и английский языки, а среди обучающих данных — ReazonSpeech и набор японской речи из аниме.

Модель рассчитана на преобразование аудио в текст. Обучающие данные включают материалы визуальных новелл с контентом для взрослых, что может влиять на распознаваемую лексику. Автор разрешает только некоммерческое использование; условия лицензии описаны неполно.

Сценарии применения

  • транскрибирование японских диалогов из визуальных новелл
  • распознавание японской речи в аниме-аудио
  • создание черновых субтитров к японским аудиозаписям

Ограничения

Обучающие данные включают материалы с контентом для взрослых, поэтому распознаваемая лексика может быть откровенной. Использование разрешено только в некоммерческих целях, а условия лицензии описаны автором неполно.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

image

Fine tunned ASR model from distil-whisper/distil-large-v2.

This model aimed to transcribe japanese audio especially visual novel.

WaifuModel Collections

Unified Demo

WaifuAssitant

Model Details

Model Description

This is the model card of a 🤗 transformers model that has been pushed on the Hub. This model card has been automatically generated.

  • Developed by: spow12(yw_nam)
  • Shared by : spow12(yw_nam)
  • Model type: Seq2Seq
  • Language(s) (NLP): japanese
  • Finetuned from model : distil-whisper/distil-large-v2.

Uses

from transformers import AutoProcessor, AutoModelForSpeechSeq2Seq
import librosa

processor = AutoProcessor.from_pretrained('spow12/Visual-novel-transcriptor', language="ja", task="transcribe")
model = AutoModelForSpeechSeq2Seq.from_pretrained('spow12/Visual-novel-transcriptor').cuda()
model.config.forced_decoder_ids = processor.get_decoder_prompt_ids(language="ja", task="transcribe")

data, _ = librosa.load(wav_path, sr=16000)
input_features = processor(data, sampling_rate=16000, return_tensors="pt").input_features.cuda()
predicted_ids = model.generate(input_features)
transcription = processor.batch_decode(predicted_ids, skip_special_tokens=True)
print(transcription[0])

Bias, Risks, and Limitations

This model trained by japanese dataset included visual novel which contain nsfw content.

Use & Credit

This model is currently available for non-commercial use only. Also, since I'm not detailed in licensing, I hope you use it responsibly.

By sharing this model, I hope to contribute to the research efforts of our community (the open-source community and anime persons).

Citation

@misc {Visual-novel-transcriptor,
    author       = { YoungWoo Nam },
    title        = { Visual-novel-transcriptor },
    year         = 2024,
    url          = { https://huggingface.co/spow12/Visual-novel-transcriptor },
    publisher    = { Hugging Face }
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
WhisperForConditionalGeneration
Ревизия весов
0a51fa1

0 моделей