Confucius4-R2T2-GGUF — официальный формат GGUF модели Confucius4-R2T2, разработанной NetEase Youdao.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это модель автоматического распознавания речи (ASR), предназначенная для высокоточной транскрипции в режиме реального времени и потоковой обработки аудио с низкой задержкой.
Модель поддерживает настраиваемые фрагменты декодирования длительностью от 80 миллисекунд до 2 секунд, что позволяет выбирать баланс между задержкой и качеством распознавания. В репозитории доступны варианты f16 размером 3,2 GiB, Q8_0 размером 1,7 GiB и Q4_K_M размером 1,0 GiB; меньшие варианты требуют меньше ресурсов, но могут обеспечивать более низкое качество. Дополнительные файлы mmproj предназначены для мультимодального дополнения. В метаданных указана поддержка китайского языка; сведения об архитектуре, размере исходной модели и длине контекста не приведены.
Сильные стороны модели — потоковое распознавание с тонкой настройкой размера обрабатываемых фрагментов, низкая задержка и наличие нескольких уровней квантования для разных аппаратных ограничений. Ограничения включают отсутствие в предоставленных данных подробных характеристик архитектуры, перечня дополнительных языков и результатов сравнительных оценок. Модель распространяется по NetEase Model Use License Agreement; код связанного проекта лицензирован по Apache 2.0.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Official GGUF release from NetEase Youdao for netease-youdao/Confucius4-R2T2, a low-latency and high-accuracy true streaming Automatic Speech Recognition (ASR) model that features fine-grained and configurable decoding chunks from 80 ms to 2 s.
The low-bit variants are quantized from the f16 GGUF.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).