/ Модель

Характеристики

Лицензия
MIT
Базовая модель
moonshine-streaming-tiny
Библиотека
ggml
Опубликована
26 апр 2026

moonshine-streaming-tiny-GGUF

Распознавание речиАудио → текст4 профессии

Moonshine Streaming Tiny — это компактная модель автоматического распознавания речи (ASR), разработанная UsefulSensors и представленная здесь в формате GGUF для использования с CrispStrobe/CrispASR.

1 429скачиваний за 30 дней0лайковвеса обновлены2 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Репозиторий содержит только конвертации и квантованные варианты исходной модели, без дообучения, дистилляции или изменения архитектуры и возможностей.

Модель предназначена для потоковой транскрипции английской речи с низкой задержкой, в том числе на периферийных устройствах. Она использует потоковую архитектуру encoder-decoder: фронтенд обрабатывает необработанный аудиосигнал без mel-спектрограмм, encoder применяет sliding-window Transformer, а autoregressive decoder формирует текст. Архитура включает по 6 слоёв encoder и decoder с размерностью 320, SiLU-gated MLP и частичным RoPE; поддерживается упреждение 80 мс. Размер модели — около 34 млн параметров.

Доступны вариант F32 размером 168 МБ и квантованный Q4_K размером 31 МБ. Квантованный вариант требует меньше памяти и лучше подходит для устройств с ограниченными ресурсами, но README не приводит количественную оценку влияния квантования на качество. Модель поддерживает только английский язык; сведения о точности, обучающих данных и других ограничениях в карточке не указаны. Для работы требуется файл tokenizer.bin в той же директории, что и модель. Лицензия — MIT.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Moonshine Streaming Tiny -- GGUF

GGUF conversions and quantisations of UsefulSensors/moonshine-streaming-tiny for use with CrispStrobe/CrispASR.

Available variants

FileQuantSizeNotes
moonshine-streaming-tiny.ggufF32168 MBFull precision
moonshine-streaming-tiny-q4_k.ggufQ4_K31 MBQuantized

Model details

  • Architecture: Streaming encoder-decoder ASR. Raw-waveform audio frontend (no mel) + sliding-window transformer encoder (6L, 320d) + autoregressive transformer decoder (6L, 320d, SiLU-gated MLP, partial RoPE)
  • Parameters: 34M
  • Languages: English
  • License: MIT
  • Source: UsefulSensors/moonshine-streaming-tiny
  • Designed for: Low-latency streaming ASR on edge devices

Usage with CrispASR

./build/bin/crispasr --backend moonshine-streaming -m moonshine-streaming-tiny-q4_k.gguf -f audio.wav

Notes

  • Tokenizer (tokenizer.bin) must be in the same directory as the model file
  • Streaming architecture: sliding-window attention with 80ms lookahead
  • Audio frontend processes raw waveform (no mel spectrogram needed)

Provenance and EU AI Act Art. 53 note

  • Upstream model: UsefulSensors/moonshine-streaming-tiny — published by UsefulSensors.
  • Upstream licence: mit. This repository redistributes under the same terms; it grants no rights the upstream licence does not.
  • What was done here: format conversion and/or quantisation only (GGUF/GGML). No training, no fine-tuning, no merging, no distillation, no change to architecture, vocabulary or capability. Only the numeric representation of the upstream weights differs.
  • Training data: documented — where it is documented at all — by the upstream provider; see the upstream model card. No training data was used, added or selected by this repository.
  • Provider status: under Regulation (EU) 2024/1689 the upstream authors remain the provider of this model. Converting the serialisation format does not make this repository the provider of a new general-purpose AI model, and no such claim is made. Questions about training content, copyright policy or model capability belong upstream.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · ggml

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
34ac435

0 моделей