/ Модель

Характеристики

Лицензия
Apache 2.0
Библиотека
onnxruntime
Опубликована
31 авг 2026

rs35kh-fa-onnx

Распознавание речиАудио → текст

ONNX-конверсия японской Wav2Vec2 CTC-модели выдаёт акустические оценки для выравнивания текста песен с аудио.

0скачиваний за 30 дней0лайковвеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это производный вариант японской модели Reazon Research japanese-wav2vec2-base-rs35kh, экспортированный в ONNX для локального модуля синхронизации текста песен UtaLog. Граф Wav2Vec2ForCTC принимает монофонический звук 16 кГц и выдаёт CTC-логиты по 3003 классам на кадр; сверточный экстрактор признаков оставлен в FP32, а часть энкодера преобразована в FP16. Репозиторий предназначен для получения акустических оценок при выравнивании известных японских текстов песен по аудио, а не для самостоятельного создания LRC-файлов или свободной транскрипции.

Для построения таймингов UtaLog дополнительно генерирует чтения, токенизирует текст и ищет монотонное выравнивание; длинные аудиозаписи обрабатываются фрагментами, поскольку исходная модель, согласно README, плохо транскрибирует длинные записи целиком. Артефакт распространяется по лицензии Apache-2.0; это неофициальная конверсия и не одобрена авторами исходной модели.

Сценарии применения

  • выравнивание японских текстов песен по аудиозаписи
  • получение временных оценок для синхронизации строк LRC
  • локальная обработка монофонического японского аудио в UtaLog

Ограничения

Граф выдаёт CTC-оценки и сам по себе не создаёт LRC и не выполняет полный цикл выравнивания. Исходная модель плохо транскрибирует длинные записи целиком, поэтому README рекомендует ограниченные аудиофрагменты и выравнивание по секциям.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

rs35kh CTC FP16 ONNX for UtaLog

This repository hosts an ONNX derivative of reazon-research/japanese-wav2vec2-base-rs35kh for UtaLog's local Japanese lyrics timing module.

It is not an official ReazonSpeech release and is not endorsed by the upstream authors.

Artifact

  • File: rs35kh_ctc_fp16.onnx
  • Size: 203351696 bytes
  • SHA-256: 5c6b2b5f14445e1dd12cfc055e96bbc47dd87d4e874e43636d212bc201280d48
  • Inputs: input_values, float32, shape [batch, samples], 16 kHz mono audio
  • Outputs: logits, shape [batch, frames, 3003]
  • ONNX opset: 17

Source and changes

  • Upstream: reazon-research/japanese-wav2vec2-base-rs35kh
  • Pinned upstream revision: 46afc596052b612293c8db256b3a69447a2f57dc
  • Upstream license: Apache-2.0
  • Conversion entry point: tools/alignment/convert_rs35kh_to_onnx.py in UtaLog
  • Modification: export Wav2Vec2ForCTC to ONNX, keep the convolutional feature extractor in FP32, convert the encoder suffix to FP16, and normalize Reshape.allowzero for DirectML compatibility.

The exact hosted bytes are a recovered development artifact. A later clean conversion passed model validation but was not byte-identical, so this repository does not claim byte-for-byte reproducibility. UtaLog pins this repository's immutable Hub commit and verifies both byte size and SHA-256 before use.

Intended use and limitations

This graph supplies CTC acoustic emissions for alignment against user-provided Japanese lyrics. It is not sufficient by itself to produce an LRC file: UtaLog generates readings, tokenizes the known lyrics, searches monotonic candidates, preserves locked ranges, and exposes low-confidence or unmatched lines for review.

The upstream model card reports poor long-form ASR transcription results. UtaLog therefore uses bounded audio chunks and local-anchor/section alignment rather than decoding a whole song as unrestricted ASR.

License

The upstream model is distributed under Apache-2.0. This converted derivative is distributed under the same license. See LICENSE-2.0.txt and UtaLog's apps/desktop/resources/alignment/THIRD_PARTY_NOTICES.md for attribution and change information.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · onnxruntime

Нельзя запустить

Модель выложена только в формате ONNX.

Ревизия весов
6570839

0 моделей