/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
grug-v1.1-qwen-3.8-27b
Опубликована
17 авг 2026

grug-v1.1-qwen-3.8-27b-gguf

Генерация текстаТекст → текст13 профессий

ProCreations/grug-v1.1-qwen-3.8-27b-qgguf — это GGUF-версия модели grug-v1.1-qwen-3.8-27b, разработанная ProCreations для локального запуска через llama.cpp.

402скачиваний за 30 дней2лайкавеса обновлены18 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста, программирования и агентских сценариев, включая работу с инструментами. Заявлена поддержка английского языка и режим text-generation.

Модель имеет размер 27B и поставляется в нескольких вариантах квантования: Q8_0, Q6_K, Q5_K_M, Q4_K_M и Q3_K_M, занимающих примерно от 13,3 до 28,6 ГБ. Для работы с изображениями предусмотрен отдельный multimodal-проект mmproj в формате F16 размером около 0,9 ГБ, используемый вместе с llama-mtmd-cli. Размер контекста в README не указан.

Ключевая особенность модели — оптимизированное рассуждение: в описании заявлено существенно меньшее число токенов в блоке размышлений по сравнению с базовой моделью. Для большинства случаев рекомендуется средний уровень reasoning effort; режим xhigh может ухудшать выбор инструментов. Квантование позволяет подобрать баланс между качеством и требованиями к памяти, но более компактные варианты могут уступать полноразмерным весам по качеству. Все варианты, согласно README, проверены с помощью llama-bench.

Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое окружение llama.cpp; конкретные требования к оперативной памяти, производительности и максимальному контексту не указаны.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

grug-v1.1-qwen-3.8-27b — GGUF

grug in box for llama.cpp. same brain as ProCreations/grug-v1.1-qwen-3.8-27b, just smaller box.

filesizewho for
grug-27b-v1.1-Q8_0.gguf28.6 GBwant closest to full weight
grug-27b-v1.1-Q6_K.gguf22.1 GBvery good, less space
grug-27b-v1.1-Q5_K_M.gguf19.2 GBgood middle
grug-27b-v1.1-Q4_K_M.gguf16.5 GBgrug pick this one for most cave
grug-27b-v1.1-Q3_K_M.gguf13.3 GBsmall cave, tight RAM
mmproj-grug-27b-v1.1-f16.gguf0.9 GBeyes. only need if you show picture

every quant load-tested with llama-bench before upload. built with llama.cpp 7c35571e.

run grug

llama-cli -m grug-27b-v1.1-Q4_K_M.gguf -p "write a function that flattens a nested list"

with eyes:

llama-mtmd-cli -m grug-27b-v1.1-Q4_K_M.gguf \
  --mmproj mmproj-grug-27b-v1.1-f16.gguf --image cave-painting.png -p "what this?"

grug think small

grug reason inside <think> in caveman, then answer in normal english. on agent step grug spend 20 think token where base model spend 108.5. on HumanEval grug spend 79.5 where base spend 559.

use medium reasoning effort. xhigh make grug worse at picking tool (76.5 vs 97.1) — full table and chart on the main model card.

apache-2.0.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
c183a64

0 моделей