Характеристики

Лицензия: MIT
Базовая модель: GLM-5.3-Flash-W4A16-NVFP4
Опубликована: 27 авг 2026

Ссылки

GLM-5.3-Flash-W4A16-NVFP4-GGUF

Генерация текстаТекст → текст8 профессий

Разговорная модель GLM-5.3-Flash в формате GGUF с квантованием NVFP4 для генерации текста при запуске через совместимую сборку llama.cpp.

229скачиваний за 30 дней0лайковвеса обновлены27 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

GLM-5.3-Flash W4A16 NVFP4 GGUF — преобразованная в формат GGUF версия модели axiomofmind/GLM-5.3-Flash-W4A16-NVFP4, основанной на zai-org/GLM-5.3-Flash-BF16. Это разговорная текстовая модель семейства GLM5Next с архитектурой MoE. Основные маршрутизируемые эксперты используют квантование W4A16 NVFP4 с размером группы 16; внимание, общие эксперты, маршрутизаторы, эмбеддинги, выходной слой, веса MTP и другие сохранённые тензоры остаются в BF16 или F32. Файл модели с весами MTP занимает 204,1 ГБ.

Модель предназначена для генерации текста и диалогов. Для запуска требуется сборка llama.cpp с поддержкой GLM5Next и GGUF NVFP4. Репозиторий распространяется по лицензии MIT.

Сценарии применения

ведение диалога с текстовым ассистентом
генерация текстовых ответов на запросы
локальный запуск разговорной модели через llama.cpp

Ограничения

Для запуска нужна сборка llama.cpp с поддержкой GLM5Next и GGUF NVFP4. Файл модели с весами MTP имеет размер 204,1 ГБ.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

GLM-5.3-Flash W4A16 NVFP4 GGUF

GGUF conversion of axiomofmind/GLM-5.3-Flash-W4A16-NVFP4, based on zai-org/GLM-5.3-Flash-BF16.

The main-model routed experts use W4A16 NVFP4 with group size 16. Attention, shared experts, routers, embeddings, the output head, MTP weights, and other retained tensors remain in BF16 or F32.

Files

File	Description	Size
`GLM-5.3-Flash-W4A16-NVFP4-BF16attn-MTP.gguf`	Text model with MTP weights	204.1 GB

Requirements

A llama.cpp build with GLM5Next and NVFP4 GGUF support is required.

License

This model is distributed under the MIT License. Refer to the official model card for architecture details, usage guidance, and limitations.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

Даже самый компактный квант не помещается в 2 × 80 ГБ.

Ревизия весов: ad1eed1