Характеристики

Лицензия: Apache 2.0
Библиотека: gguf
Опубликована: 20 июн 2026

Ссылки

Hugging Face arXiv 2407.04051

Fun-ASR-Nano-GGUF

FunAudioLLM

Распознавание речиАудио → текст4 профессии

Fun-ASR-Nano-GGUF — версия модели автоматического распознавания речи Fun-ASR-Nano, разработанная командой FunAudioLLM.

7 580скачиваний за 30 дней6лайковвеса обновлены26 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Она предназначена для преобразования аудио в текст, прежде всего для китайской и английской речи, а также для локального запуска на CPU и периферийных устройствах без Python через runtime FunASR на базе llama.cpp. Модель подходит для офлайн-распознавания, встраиваемых приложений и сценариев, где важны автономность и единый C++-бинарник.

Архитектура включает аудиоэнкодер SenseVoice SAN-M, adaptor и декодер на базе Qwen3-0.6B. Распространяется в формате GGUF: энкодер имеет размер около 470 МБ, а LLM-декодер доступен в вариантах Q4_K_M примерно на 484 МБ, Q5_K_M на 551 МБ и Q8_0 на 805 МБ. Для работы необходимы как файл энкодера, так и файл декодера; в рекомендуемом сценарии также используется FSMN-VAD. В README не указаны размер контекста и дополнительные модальности.

Сильными сторонами являются CPU-ориентированное развертывание, отсутствие зависимости от Python и несколько уровней квантования с небольшим различием в качестве. На указанном тесте из 184 китайских аудиофрагментов получен показатель CER от 8,25% до 8,35% в зависимости от квантования, однако это ограниченный бенчмарк, поэтому результаты не гарантируют такое же качество на других данных, языках и условиях записи. Более компактные варианты экономят память, но могут немного уступать по точности. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.9Универсальные способностиАудио и музыкаAI помогает анализировать, очищать, преобразовывать и создавать звук и музыку.15 задач4 835моделей I.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Fun-ASR-Nano · GGUF (FunASR llama.cpp runtime)

GGUF build of Fun-ASR-Nano (SenseVoice SAN-M encoder + adaptor + Qwen3-0.6B LLM decoder) for the zero-Python, CPU/edge FunASR llama.cpp runtime — the accuracy leader (LLM decoder), single C++ binary.

LLM quantization (pick by size vs accuracy)

The Fun-ASR-Nano LLM (Qwen3-0.6B) ships in three tiers — all within 0.1% CER (184-file micro-CER). Pair any with funasr-encoder-f16.gguf (470 MB).

LLM file	size	CER ↓	speed
`qwen3-0.6b-q4km.gguf`	484 MB	8.35%	6.1×
`qwen3-0.6b-q5km.gguf`	551 MB	8.25%	5.7×
`qwen3-0.6b-q8_0.gguf`	805 MB	8.30%	6.0×

Recommended: q4_K_M (smallest) or q5_K_M (best).

Get it running (no Python, no build)

These are GGUF weights for the FunASR llama.cpp runtime — a whisper.cpp-style, single self-contained binary for CPU / edge. Grab a prebuilt binary, then fetch this model and run:

Prebuilt binaries (Linux / macOS / Windows) → GitHub Releases (tag runtime-llamacpp-v*)
Deployment guide & qualified benchmarks → funasr.com/deploy/llama-cpp

bash download-funasr-model.sh nano ./gguf
llama-funasr-cli --enc ./gguf/funasr-encoder-f16.gguf -m ./gguf/qwen3-0.6b-q8_0.gguf --vad ./gguf/fsmn-vad.gguf -a audio.wav

Files

file	size	notes
`funasr-encoder-f16.gguf`	470 MB	audio encoder + adaptor (f16)
`qwen3-0.6b-q8_0.gguf`	805 MB	LLM decoder, recommended (Q8_0)
`qwen3-0.6b-q4km.gguf`	484 MB	LLM decoder, smaller (Q4_K_M)

Usage (needs both the encoder and the LLM gguf)

llama-funasr-cli --enc funasr-encoder-f16.gguf -m qwen3-0.6b-q8_0.gguf -a audio.wav --vad fsmn-vad.gguf

On CPU: 8.30 % CER on the 184-clip Mandarin benchmark (vs whisper.cpp 22–31 %).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · gguf

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: 46e8495