This is a imatrix MXFP4_MOE quantization of the model GLM-4.7, based on the imatrix from unsloth.
GLM-4.7-MXFP4_MOE-GGUF
Квантованная в GGUF версия GLM-4.7 для диалогов и генерации текста с меньшим представлением весов.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
noctrex/GLM-4.7-MXFP4_MOE-GGUF — квантованная версия языковой модели GLM-4.7 от Z.ai, подготовленная в формате GGUF с применением imatrix на основе данных от Unsloth. Модель предназначена для диалогов и генерации текста; базовая GLM-4.7 рассчитана также на программирование, агентные задачи и рассуждения.
MXFP4_MOE обозначает используемый вариант квантования модели типа MoE. Репозиторий содержит формат GGUF, подходящий для запуска в совместимом с ним программном обеспечении. Карточка не сообщает размер модели, длину контекста или поддерживаемые языки напрямую; описание базовой модели указывает на английский и китайский.
Сценарии применения
- ведение диалогов с языковой моделью
- генерация текстовых ответов
- помощь с программированием
- выполнение агентных задач
- решение задач, требующих рассуждений
Ограничения
Квантование может влиять на качество ответов; карточка не приводит сравнительных оценок. Запуск требует программного обеспечения с поддержкой GGUF и соответствующего варианта MXFP4_MOE.
Для каких профессий подходит15
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
- I.14Автоматизация процессов и AI-агенты
- II.10Разработка и эксплуатация AI/ML-систем
- II.1Анализ требований и архитектура ПО
- I.7Речь, диалоги и встречи
- II.3Рефакторинг, миграция и модернизация
- II.4Отладка, тестирование и качество ПО
- II.8Инженерия данных и аналитика
- I.3Извлечение и структурирование данных
- I.11Классификация, ранжирование и сопоставление
- II.7DevOps, облако и эксплуатация IT-систем
- I.6Перевод и языковая адаптация
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
Даже самый компактный квант не помещается в 2 × 80 ГБ.
- Ревизия весов
- 82d7c37