/ Модель
Каталог

Характеристики

Лицензия
Apache 2.0
Библиотека
sherpa-onnx
Опубликована
23 июл 2026

Ссылки

Hugging Face

sherpa-onnx-qwen3-asr-1.7B-int8

thieunv-asilla
Распознавание речиАудио → текст

Квантованная ONNX-версия Qwen3-ASR-1.7B для локального многоязычного распознавания речи через sherpa-onnx.

0скачиваний за 30 дней1лайквеса обновлены23 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

sherpa-onnx-qwen3-asr-1.7B-int8 — версия Qwen3-ASR-1.7B, подготовленная для запуска через sherpa-onnx. Разработчик репозитория thieunv-asilla экспортировал базовую модель Qwen/Qwen3-ASR-1.7B в формат ONNX и применил динамическую INT8-квантизацию. В состав входят свёрточный аудиофронтенд, аудиокодировщик и текстовый декодер с KV-кэшем; запуск возможен без Python во время выполнения.

Модель предназначена для распознавания многоязычной речи на устройстве. README заявляет поддержку более 30 языков и диалектов, в том числе китайского, английского, японского, вьетнамского, корейского и кантонского; в метаданных перечислена часть этих языков. По сравнению с версией 0.6B она ориентирована на более высокую точность, но требует больше ресурсов и работает медленнее. Для использования требуется sherpa-onnx версии 1.13.4 или новее. Лицензия — Apache-2.0.

Сценарии применения

  • распознавание речи в аудиозаписях на устройстве
  • транскрибация китайской, английской, японской, вьетнамской и корейской речи
  • распознавание кантонской речи и китайских диалектов
  • интеграция распознавания речи в приложения на sherpa-onnx без Python во время выполнения

Ограничения

По сравнению с версией 0.6B модель занимает больше места и работает медленнее. Для запуска требуется sherpa-onnx версии 1.13.4 или новее.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

sherpa-onnx-qwen3-asr-1.7B-int8

INT8 ONNX build of Qwen3-ASR-1.7B in the sherpa-onnx from_qwen3_asr layout, for on-device multilingual speech recognition (no Python at runtime).

  • Base model: Qwen/Qwen3-ASR-1.7B (Apache-2.0)
  • Exported to sherpa-onnx format with Wasser1462/Qwen3-ASR-onnx (export_qwen3_asr_onnx.py --device cpu --max-total-len 512, INT8 dynamic quantization).
  • Languages: 30+ incl. Chinese (+dialects), English, Japanese, Vietnamese, Korean, Cantonese, …
  • Higher accuracy than the 0.6B build at the cost of size/speed.

Files

conv_frontend.onnx        # log-mel / conv frontend
encoder.int8.onnx         # audio encoder (int8)
decoder.int8.onnx         # text decoder w/ KV cache (int8, ~2 GB)
tokenizer/vocab.json
tokenizer/merges.txt
tokenizer/tokenizer_config.json

Usage (sherpa-onnx)

import sherpa_onnx
rec = sherpa_onnx.OfflineRecognizer.from_qwen3_asr(
    conv_frontend="conv_frontend.onnx",
    encoder="encoder.int8.onnx",
    decoder="decoder.int8.onnx",
    tokenizer="tokenizer",
    num_threads=4,
)
s = rec.create_stream()
s.accept_waveform(16000, samples_f32_mono)  # 16 kHz mono float32
rec.decode_stream(s)
print(s.result.text)

Requires sherpa-onnx >= 1.13.4 (adds from_qwen3_asr).

License

Apache-2.0, inherited from Qwen/Qwen3-ASR-1.7B. Attribution to the Qwen team (Alibaba Cloud) and the sherpa-onnx / export-script authors.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sherpa-onnx

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Ревизия весов
69eb686

0 моделей

    Создать бенчмарк