GLM-5.2-4bit — это 4-битная квантованная версия модели GLM-5.2, преобразованная сообществом mlx-community из исходной модели zai-org/GLM-5.2 в формат MLX с использованием mlx-lm версии 0.31.3.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации текста и локального запуска в экосистеме MLX, например через mlx-lm.
Ключевые характеристики включают формат MLX, 4-битное квантование и поддержку сценариев text-generation. Данные о размере модели, архитектуре, языках, модальностях и длине контекста в README не указаны. В текущей версии квантования отсутствует блок MTP, что может ограничивать функциональность или производительность по сравнению с исходной моделью. Модель распространяется по лицензии MIT.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model mlx-community/GLM-5.2-4bit was converted to MLX format from zai-org/GLM-5.2 using mlx-lm version 0.31.3 (with PR #1410). The MTP block is missing in current version of this quant.
pip install mlx-lm
mlx_lm.generate --model mlx-community/GLM-5.2-4bit --prompt "Hello"
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.