/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3-Omni-30B-A3B-Captioner
Библиотека
llama.cpp
Опубликована
22 июл 2026

Qwen3-Omni-30B-A3B-Captioner-GGUF

Изображение и текст → текст3 профессии

Qwen3-Omni-30B-A3B-Captioner-GGUF — это конвертация модели Qwen/Qwen3-Omni-30B-A3B-Captioner в формат GGUF, подготовленная пользователем или организацией presencesw для экспериментального распознавания и описания аудио в llama.cpp.

1 791скачиваний за 30 дней2лайкавеса обновлены22 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель принимает один аудиовход и генерирует текстовое описание содержимого аудио.

В комплект входят квантизированная модель Q4_K_M размером 17,7 GiB и мультимодальный проектор BF16 размером 2,1 GiB. Для работы требуется свежая сборка llama.cpp с поддержкой мультимодального аудио и запуск через llama-mtmd-cli. В README указано, что аудиоэнкодер успешно обработал тестовый файл из пяти фрагментов и сгенерировал подпись. В метаданных заявлен английский язык; сведения о поддерживаемых языках, размере контекста и точной архитектуре не приведены.

Основное назначение модели — генерация текстовых подписей и описаний аудиозаписей. Поддержка аудио в llama.cpp обозначена как экспериментальная, поэтому совместимость и стабильность работы могут быть ограничены. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-Omni-30B-A3B-Captioner-GGUF

GGUF conversion of Qwen/Qwen3-Omni-30B-A3B-Captioner for experimental audio captioning with llama.cpp.

Files

FileSizeSHA-256
Qwen3-Omni-30B-A3B-Captioner-Q4_K_M.gguf17.7 GiBf6b443caefee34c82edc51278bbd410ad58146baf6fca53d09035322300034cf
mmproj-Qwen3-Omni-30B-A3B-Captioner-BF16.gguf2.1 GiB81d4d92662eb7f387f09b0a6679e945bf61dd0f2ef5ab8d36be6cc9580bb6252

Validation

The Q4_K_M model and BF16 multimodal projector were tested together with llama-mtmd-cli on an audio sample. The audio encoder processed all five chunks and generated a caption.

Usage

Use a recent llama.cpp build with audio multimodal support:

llama-mtmd-cli \
  -m Qwen3-Omni-30B-A3B-Captioner-Q4_K_M.gguf \
  --mmproj mmproj-Qwen3-Omni-30B-A3B-Captioner-BF16.gguf \
  --audio sample.mp3 \
  -p "Describe this audio."

Audio support in llama.cpp remains experimental. Captioner is designed for one audio input and text output.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · llama.cpp

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
99db918

0 моделей