Характеристики

Лицензия: openmdw-1.1
Библиотека: onnx
Опубликована: 6 сен 2026

Ссылки

nemotron-3.5-asr-streaming-multilingual-0.6b-80ms-onnx-int8

Распознавание речиАудио → текст

Мультиязычная потоковая модель NVIDIA Nemotron 3.5 для распознавания речи, распространяемая в формате ONNX INT8 для запуска через sherpa-onnx.

0скачиваний за 30 дней0лайковвеса обновлены6 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это мультиязычная модель распознавания речи NVIDIA Nemotron 3.5 ASR, опубликованная в виде ONNX INT8 зеркала Lorqa. Файлы энкодера, декодера, joiner и токенов побайтно совпадают с указанной upstream-моделью; переобучение, повторная квантизация и улучшение точности не заявлены. Размер четырёх файлов — около 682 МБ.

Модель предназначена для потоковой транскрибации речи с sherpa-onnx. Размер чанка составляет 80 мс, однако это не гарантирует такую же сквозную задержку отображения текста. Поддерживаются китайский, английский и японский языки, а для потока можно задать язык явно или выбрать автоматическое определение. Китайский имеет широкое покрытие, но качество следует оценивать на собственных записях.

Для запуска нужна версия sherpa-onnx с поддержкой Nemotron 3.5 multilingual и все четыре runtime-файла. Модель распространяется по лицензии OpenMDW 1.1; upstream-примеры записей в зеркале отсутствуют.

Сценарии применения

потоковая транскрибация аудио с короткими чанками
распознавание английской речи в реальном времени
транскрибация китайской и японской речи
распознавание речи с явным выбором языка или автоопределением

Ограничения

Чанк 80 мс не гарантирует сквозную задержку вывода текста; меньшие чанки могут ухудшать точность и эффективность вычислений, а рабочая память превышает размер файлов для загрузки. Точность китайского распознавания зависит от записей и требует проверки на целевых данных.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Lorqa Nemotron 3.5 multilingual — 80 ms ONNX INT8

Byte-identical runtime mirror of csukuangfj2/sherpa-onnx-nemotron-3.5-asr-streaming-0.6b-80ms-int8-2026-06-11 at revision 2ac5952ae18a2cc010c25e3fd96ad20cf254bd09. The source model is NVIDIA Nemotron 3.5 ASR, licensed under OpenMDW 1.1. Original exporter attribution is retained in UPSTREAM_README.md.

The four runtime files total 682,215,469 bytes (about 682 MB). Encoder, decoder, joiner and tokens are unchanged. No training, re-quantization or accuracy improvements are claimed. Upstream sample recordings are not included in this mirror.

This is the multilingual model, including Mandarin Chinese; it is not the older English-only Nemotron. Chinese is a broad-coverage locale and accuracy needs evaluation on your recordings. Chunk size is 80 ms, not a guarantee of end-to-end visible text latency. Smaller chunks can trade accuracy and compute efficiency for responsiveness; running memory exceeds download size.

Runtime compatibility

Use a sherpa-onnx release supporting Nemotron 3.5 multilingual, with encoder.int8.onnx, decoder.int8.onnx, joiner.int8.onnx and tokens.txt. Per-stream language strings support explicit languages or auto. See the official multilingual deployment instructions.

This is an ONNX experiment, not a Core ML mlmodelc bundle. It cannot be loaded by Lorqa's existing Nemotron 320 ms Core ML runtime or FluidAudio Core ML loaders. App integration and actual device inference benchmarks are pending.

Mirrors: Hugging Face · ModelScope. Verify SHA256SUMS after download. PROVENANCE.json records the upstream revision and intended chunk size.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · onnx

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Ревизия весов: 37e44de