Характеристики

Контекст: 1 048 576 токенов
Параметры: 30,4 млрд
Архитектура: glm_moe_dsa · dense
Базовая модель: GLM-5.2
Библиотека: mlx
Опубликована: 24 июл 2026

Ссылки

Hugging Face

Macaron-V1-Coding-Venti-MLX-Q4i

inferencerlabs

Генерация текстаТекст → текст7 профессий

Дообученная и квантизированная MLX-модель на базе GLM-5.2 для диалоговой генерации текста и помощи в программировании.

395скачиваний за 30 дней4лайкавеса обновлены24 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Macaron-V1-Coding-Venti-MLX-Q4i — квантизированная версия модели Macaron-V1-Coding-Venti для генерации текста и помощи в программировании. Согласно метаданным, модель связана дообучением с zai-org/GLM-5.2 и использует архитектуру GLM MoE DSA. Репозиторий рассчитан на библиотеку MLX; README сообщает о тестировании на M3 Ultra с 512 ГиБ памяти и скорости около 14,7 токена в секунду при генерации на 1000 токенов.

Модель предназначена для диалогового использования и задач генерации кода. Объём параметров указан как 30,4 млрд, контекст — до 1 048 576 токенов. Метаданные указывают английский язык. Лицензия в предоставленных сведениях не указана. Ответы модели могут быть неточными или неуместными; результаты следует проверять перед использованием в важных решениях.

Сценарии применения

генерация фрагментов кода по описанию
объяснение и разбор кода в диалоге
помощь с программированием на английском языке

Ограничения

В README отмечено, что ответы могут быть неточными или неуместными, поэтому их следует проверять перед важными решениями. Лицензия в предоставленных данных не указана.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Macaron-V1-Coding-Venti-Q4.8-INF

See Macaron-V1-Coding-Venti in action: demonstration videos

Tested with an M3 Ultra 512 GiB using Inferencer app

Text Inference: ~14.7 tokens/s @ 1000 tokens ~414.8 GiB

This build uses the fused base model GLM 5.2 with the L2 Coding LoRA from Macaron-V1-Venti.

Screenshot

Quantized with a modified version of MLX.

For more details see our demonstration videos or visit zai-org/GLM-5.2 and mindlab-research/Macaron-V1-Coding-Venti.

Disclaimer

We are not the creator, originator, or owner of any model listed. Each model is created and provided by third parties. Models may not always be accurate or contextually appropriate. You are responsible for verifying the information before making important decisions. We are not liable for any damages, losses, or issues arising from its use, including data loss or inaccuracies in AI-generated content.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: GlmMoeDsaForCausalLM
Ревизия весов: c47f8d6