Характеристики

Лицензия: Apache 2.0
Базовая модель: zen4-coder
Библиотека: transformers
Опубликована: 24 фев 2026

Ссылки

zen4-coder-i1-GGUF

Генерация текстаТекст → текст7 профессий

zen4-coder-i1-GGUF — это набор GGUF-квантизированных версий модели zenlm/zen4-coder, подготовленный пользователем mradermacher.

1 113скачиваний за 30 дней0лайковвеса обновлены28 фев 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена прежде всего для генерации и обработки программного кода, а также для сценариев локального запуска через совместимые инструменты, поддерживающие формат GGUF. В метаданных указана поддержка английского языка и библиотека Transformers.

Доступны варианты с различными типами и уровнями квантизации — от IQ1 и IQ2 до Q6_K — размером примерно от 16,3 до 65,6 ГБ. README не содержит сведений об архитектуре, общем числе параметров, длине контекста, точных возможностях программирования, результатах тестирования или поддерживаемых модальностях, поэтому эти характеристики нельзя определить достоверно. Варианты различаются компромиссом между размером, скоростью и качеством: наиболее компактные квантизации могут заметно терять в качестве, тогда как Q4_K_M отмечен как быстрый и рекомендуемый, а IQ-варианты часто предпочтительнее сопоставимых по размеру стандартных квантизаций.

Модель подходит для локального инференса при наличии достаточного объёма оперативной или видеопамяти, причём требования зависят от выбранного файла. Ограничениями являются возможное ухудшение качества на низких уровнях квантизации и отсутствие подробных данных о базовой модели. В метаданных указана лицензия Apache-2.0; квантизации подготовлены mradermacher.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764модели II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

About

weighted/imatrix quants of https://huggingface.co/zenlm/zen4-coder

For a convenient overview and download list, visit our model page for this model.

static quants are available at https://huggingface.co/mradermacher/zen4-coder-GGUF

Usage

If you are unsure how to use GGUF files, refer to one of TheBloke's READMEs for more details, including on how to concatenate multi-part files.

Provided Quants

(sorted by size, not necessarily quality. IQ-quants are often preferable over similar sized non-IQ quants)

Link	Type	Size/GB	Notes
GGUF	imatrix	0.6	imatrix file (for creating your own quants)
GGUF	i1-IQ1_S	16.3	for the desperate
GGUF	i1-IQ1_M	18.1	mostly desperate
GGUF	i1-IQ2_XXS	21.1
GGUF	i1-IQ2_XS	23.5
GGUF	i1-IQ2_S	23.7
GGUF	i1-IQ2_M	26.2
GGUF	i1-Q2_K_S	27.4	very low quality
GGUF	i1-Q2_K	29.2	IQ3_XXS probably better
GGUF	i1-IQ3_XXS	30.9	lower quality
GGUF	i1-IQ3_XS	32.8
GGUF	i1-Q3_K_S	34.6	IQ3_XS probably better
GGUF	i1-IQ3_S	34.6	beats Q3_K*
GGUF	i1-IQ3_M	35.2
GGUF	i1-Q3_K_M	38.4	IQ3_S probably better
GGUF	i1-Q3_K_L	41.4	IQ3_M probably better
GGUF	i1-IQ4_XS	42.7
GGUF	i1-Q4_0	45.4	fast, low quality
GGUF	i1-Q4_K_S	45.6	optimal size/speed/quality
GGUF	i1-Q4_K_M	48.6	fast, recommended
GGUF	i1-Q4_1	50.1
GGUF	i1-Q5_K_S	55.1
GGUF	i1-Q5_K_M	56.9
GGUF	i1-Q6_K	65.6	practically like static Q6_K

Here is a handy graph by ikawrakow comparing some lower-quality quant types (lower is better):

And here are Artefact2's thoughts on the matter: https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / Model Request

See https://huggingface.co/mradermacher/model_requests for some answers to questions you might have and/or if you want some other model quantized.

Thanks

I thank my company, nethype GmbH, for letting me use its servers and providing upgrades to my workstation to enable this work in my free time. Additional thanks to @nicoboss for giving me access to his private supercomputer, enabling me to provide many more imatrix quants, at much higher quality, than I would otherwise be able to.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 115f216