/ Модель

Характеристики

Лицензия
Своя лицензия
Архитектура
parler_tts · dense
Базовая модель
parler-tts-mini-v1
Библиотека
transformers
Опубликована
19 ноя 2024

japanese-parler-tts-mini-bate

Генерация аудиоТекст → аудио3 профессии

Бета-модель Parler-TTS для преобразования японского текста в речь.

61скачиваний за 30 дней12лайковвеса обновлены5 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Japanese Parler-TTS Mini Bata — экспериментальная компактная модель синтеза японской речи от автора репозитория 2121-8, дообученная на базе Parler-TTS и объединённая с компонентом retrieva-jp/t5-base-long. Она преобразует текст в речь и рассчитана на озвучивание японских текстов. Модель использует архитектуру Parler-TTS и доступна в формате PyTorch; её токенизатор несовместим с оригинальным Parler-TTS и заменён специальным токенизатором для этой модели.

Репозиторий помечен как бета-версия: оптимизация продолжается, а управление конкретным голосом описано как функция в подготовке. В обучающих данных мало мужских голосов, поэтому их генерация может иметь неестественную интонацию или нестабильное качество. Карточка разрешает исследовательское, образовательное и коммерческое использование сгенерированной речи, но запрещает продажу самой модели и её весов; метаданные указывают лицензию other.

Сценарии применения

  • озвучивание японских текстов
  • создание японской речи для аудиоконтента
  • генерация японской озвучки для учебных материалов

Ограничения

Это бета-версия, а токенизатор модели несовместим с оригинальным Parler-TTS. В обучающих данных мало мужских голосов, поэтому их генерация может иметь неестественную интонацию и нестабильное качество.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Japanese Parler-TTS Mini (β版)

このリポジトリは、parler-tts/parler-tts-mini-v1を基に、日本語でのテキスト読み上げを可能にするよう再学習したモデルを公開しています。本モデルは、軽量でありながら高品質な音声生成を提供します。

注意: 本家のParler-TTSで使用されているtokenizerとは互換性がありません。本モデル用に独自のtokenizerが採用されています。

現在このリポジトリはβ版です。機能やモデルの最適化は正式リリースに向けて進行中です。

正式リリース版のURL


Japanese Parler-TTS Index


注意点

本モデルは学習データの構成上、男性の声に関するデータが少ないため、男性の声の生成が期待通りに行えない場合があります。特に、自然なイントネーションや音質の調整が難しい場合がありますので、ご了承ください。


📖 クイックインデックス


🛠️ 使用方法

👨‍💻 インストール

以下のコマンドでインストールできます。

pip install git+https://github.com/huggingface/parler-tts.git
pip install git+https://github.com/getuka/RubyInserter.git

🎲 ランダムな音声での使用方法

import torch
from parler_tts import ParlerTTSForConditionalGeneration
from transformers import AutoTokenizer
import soundfile as sf
from rubyinserter import add_ruby

device = "cuda:0" if torch.cuda.is_available() else "cpu"

model = ParlerTTSForConditionalGeneration.from_pretrained("2121-8/japanese-parler-tts-mini-bate").to(device)
tokenizer = AutoTokenizer.from_pretrained("2121-8/japanese-parler-tts-mini-bate")

prompt = "こんにちは、今日はどのようにお過ごしですか?"
description = "A female speaker with a slightly high-pitched voice delivers her words at a moderate speed with a quite monotone tone in a confined environment, resulting in a quite clear audio recording."


prompt = add_ruby(prompt)
input_ids = tokenizer(description, return_tensors="pt").input_ids.to(device)
prompt_input_ids = tokenizer(prompt, return_tensors="pt").input_ids.to(device)

generation = model.generate(input_ids=input_ids, prompt_input_ids=prompt_input_ids)
audio_arr = generation.cpu().numpy().squeeze()
sf.write("parler_tts_japanese_out.wav", audio_arr, model.config.sampling_rate)

サンプル音声


🎯 特定の話者を指定する方法

準備中


著作権および使用に関する免責事項

本モデルおよびリポジトリは、研究、教育、商用利用を含む幅広い目的での利用が許可されています。ただし、以下の条件を遵守してください。

  1. 商用利用に関する条件
    本モデルを使用して生成された音声や成果物を商用目的で利用することは可能ですが、本モデルそのもの(ファイルや重みデータなど)の販売は禁じられています。

  2. 適切性についての免責
    本モデルの利用により得られる結果の正確性、合法性、または適切性について、作成者は一切保証しません。

  3. ユーザーの責任
    本モデルを使用する際は、適用されるすべての法律や規制を遵守してください。また、生成されたコンテンツに起因する責任はすべてユーザーに帰属します。

  4. 作成者の免責
    本リポジトリおよびモデルの作成者は、著作権侵害やその他の法的問題に関する責任を一切負いません。

  5. 削除要求への対応
    著作権問題が発生した場合、問題のあるリソースやデータを速やかに削除します。


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Архитектура parler_tts неизвестна transformers в образе рантайма.

Класс архитектуры
ParlerTTSForConditionalGeneration
Ревизия весов
e95001d

0 моделей