Характеристики

Контекст: 1 048 576 токенов
Архитектура: glm_moe_dsa_mtp · dense
Базовая модель: GLM-5.2
Библиотека: mlx
Опубликована: 25 июн 2026

Ссылки

Hugging Face

GLM-5.2-MTP-MLX

inferencerlabs

Изображение и текст → текст3 профессии

Черновая MTP-модель на основе GLM-5.2 для ускорения генерации GLM-5.2-MLX методом speculative decoding.

462скачиваний за 30 дней7лайковвеса обновлены25 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

GLM-5.2 MTP — черновая модель предсказания нескольких токенов, подготовленная Inferencer Labs из MTP-слоёв GLM-5.2 от Z.ai. Она предназначена для совместного использования с GLM-5.2-MLX в режиме speculative decoding: вспомогательная модель предлагает продолжения, чтобы ускорить генерацию основной модели. Это не самостоятельная модель для диалога или генерации изображений. Репозиторий использует библиотеку MLX и формат safetensors; карточка сообщает о тестировании на Mac с M3 Ultra и 512 ГБ памяти.

Для квантованного варианта Q4 заявлена более высокая пропускная способность и меньший расход памяти без потери качества относительно базового MTP. Лицензия в предоставленных данных не описана; автор карточки указывает, что модель создана третьими сторонами.

Сценарии применения

ускорение генерации текста с GLM-5.2-MLX на Mac
спекулятивное декодирование для GLM-5.2
повышение пропускной способности генерации с квантованным вариантом Q4

Ограничения

Модель рассчитана на использование вместе с GLM-5.2-MLX и не предназначена для самостоятельного применения. Карточка не сообщает лицензию; качество и уместность результатов основной модели требуют проверки.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

GLM-5.2 MTP

See GLM-5.2 in action: demonstration videos

This draft model contains the Multi-Token Prediction (MTP) layers from zai-org/GLM-5.2 for use alongside the GLM-5.2-MLX model as a speculative decoder.

Q4 quant typically achieves higher throughput with less RAM usage (compared to base MTP) at no loss in quality.

Tested on a M3 Ultra 512GB RAM using Inferencer app v2.0.6

Disclaimer

We are not the creator, originator, or owner of any model listed. Each model is created and provided by third parties. Models may not always be accurate or contextually appropriate. You are responsible for verifying the information before making important decisions. We are not liable for any damages, losses, or issues arising from its use, including data loss or inaccuracies in AI-generated content.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Ревизия весов: 9466fbb