Характеристики

Контекст: 1 024 токена
Лицензия: CC BY-NC 4.0
Опубликована: 30 июн 2026

Ссылки

Hugging Face

nemotron-3.5-asr-streaming-0.6b-onnx-fp32-cpu

DimQ1

Распознавание речиАудио → текст

Потоковая многоязычная модель NVIDIA для распознавания речи на CPU, преобразованная в ONNX FP32.

0скачиваний за 30 дней0лайковвеса обновлены30 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Nemotron 3.5 ASR Streaming 0.6B ONNX FP32 — модель распознавания речи NVIDIA, преобразованная в формат ONNX с помощью Microsoft Olive. Она предназначена для потоковой транскрипции речи при инференсе на CPU с использованием ONNX Runtime GenAI. Модель содержит 24 слоя энкодера со скрытым размером 1024; файлы весов занимают около 2,48 ГБ. Квантование не применялось, поэтому это вариант FP32.

Модель принимает аудио и выдаёт распознанный текст. В примере README показан выбор русского языка через langId 11 и включение VAD; метаданные указывают поддержку нескольких языков. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Сценарии применения

потоковая транскрипция русской речи
распознавание речи на CPU
расшифровка аудио с определением речевых сегментов через VAD

Ограничения

Вариант FP32 занимает около 2,48 ГБ и предназначен для CPU-инференса, поэтому может требовать значительных ресурсов памяти и вычислений. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Nemotron 3.5 ASR Streaming 0.6B — ONNX FP32 (CPU)

Full-precision FP32 ONNX model converted from NVIDIA Nemotron 3.5 ASR Streaming 0.6B using Microsoft Olive.

Maximum quality for CPU inference with ONNX Runtime GenAI. No quantization — pure FP32 weights.

Model Details

Property	Value
Base model	NVIDIA Nemotron 3.5 ASR Streaming 0.6B
Encoder layers	24
Hidden size	1024
Precision	FP32 (no quantization)
Chunk size	0.56s (8,960 samples @ 16kHz)
Sample rate	16,000 Hz
Vocab size	13,088
Languages	80+ (multilingual)
VAD	Silero VAD included
Total size	~2,479 MB

Quick Start

C# / .NET

using NemotronSpeech;

using var session = new ModelSession(
    modelPath: "DimQ1/nemotron-3.5-asr-streaming-0.6b-onnx-fp32-cpu",
    executionProvider: "cpu",
    langId: "11",  // Russian
    useVad: true
);

Python

import onnxruntime_genai as og

model = og.Model("DimQ1/nemotron-3.5-asr-streaming-0.6b-onnx-fp32-cpu")
processor = og.StreamingProcessor(model)
# ...

Files

File	Size
`encoder.onnx` + `.data`	2,380 MB
`decoder.onnx` + `.data`	57 MB
`joint.onnx` + `.data`	36 MB
`silero_vad.onnx`	2.1 MB
`tokenizer.json`	0.7 MB

Available Variants

Model	Precision	Encoder	Total	Quality
FP32	FP32	2,380 MB	2,479 MB	⭐ Best
INT8	INT8 k-quant	922 MB	1,021 MB	Good
INT4	INT4 k-quant	658 MB	757 MB	⚡ Fastest

License

Inherits cc-by-nc-4.0 from NVIDIA.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Ревизия весов: 993818f