/ Модель

Характеристики

Параметры
1,3 млрд
Лицензия
Apache 2.0
Архитектура
wav2vec2 · dense
Библиотека
transformers
Опубликована
20 янв 2025

wav2vec2-xls-r-1b-distant-from-faroese-30-epochs_20250120_v5

Распознавание речиАудио → текст

Дообученная модель Wav2Vec2 для преобразования речи из аудио в текст.

6скачиваний за 30 дней0лайковвеса обновлены21 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модель автоматического распознавания речи на базе Wav2Vec2ForCTC, дообученная из davidilag/wav2vec2-xls-r-1b-distant-from-faroese-251h-30-epochs_20250120_v2. Она преобразует аудио с речью в текст; набор данных для дополнительного дообучения не указан.

Модель содержит 1,3 млрд параметров и распространяется в формате Safetensors для библиотеки Transformers. В README приведены результаты оценки: WER 30,3068 и CER 5,9533. Модель опубликована под лицензией Apache-2.0. Описание не подтверждает конкретные языки распознавания или специализированные сценарии применения.

Сценарии применения

  • распознавание речи из аудиозаписей
  • транскрибирование голосовых сообщений
  • получение текстовой расшифровки речевых данных

Ограничения

README не уточняет языки и условия применения модели, а датасет дополнительного дообучения обозначен как неизвестный. На оценочном наборе указаны WER 30,3068 и CER 5,9533; качество на других данных не описано.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

wav2vec2-xls-r-1b-distant-from-faroese-30-epochs_20250120_v5

This model is a fine-tuned version of davidilag/wav2vec2-xls-r-1b-distant-from-faroese-251h-30-epochs_20250120_v2 on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 0.3469
  • Wer: 30.3068
  • Cer: 5.9533

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Lan=Latvian

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 1e-05
  • train_batch_size: 16
  • eval_batch_size: 8
  • seed: 42
  • gradient_accumulation_steps: 2
  • total_train_batch_size: 32
  • optimizer: Use OptimizerNames.ADAMW_TORCH with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
  • lr_scheduler_type: cosine
  • lr_scheduler_warmup_steps: 3000
  • num_epochs: 30
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossWerCer
0.82081.256310000.407447.819311.7942
0.34762.512620000.153628.09046.2627
0.35263.768830000.130425.97865.5754
0.27165.025140000.131825.25095.3006
0.22126.281450000.117525.29855.2105
0.23887.537760000.131226.50185.3714
0.64698.794070000.420129.65995.8394
0.676210.050380000.419728.30925.8971
0.583511.306590000.359128.20935.7462
0.613612.5628100000.355028.17605.6700
0.601713.8191110000.350629.76465.8825
0.574315.0754120000.348030.26405.9464
0.616616.3317130000.346930.30205.9502
0.585717.5879140000.346930.30205.9525
0.593618.8442150000.346930.28785.9502
0.564820.1005160000.346930.29255.9518
0.551521.3568170000.346930.30205.9510
0.566722.6131180000.346930.30205.9510
0.56723.8693190000.346930.31155.9518
0.601125.1256200000.346930.30685.9525
0.590326.3819210000.346930.29735.9510
0.579127.6382220000.346930.30685.9525
0.608928.8945230000.346930.30685.9533

Framework versions

  • Transformers 4.48.0
  • Pytorch 2.5.1+cu124
  • Datasets 3.2.0
  • Tokenizers 0.21.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Wav2Vec2ForCTC
Ревизия весов
ed106be

0 моделей