/ Модель
Каталог

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3.5-4B
Библиотека
llama.cpp
Опубликована
29 июн 2026

Ссылки

Hugging Face

crowqwen3.5-4b-agent-heretic-gguf

dawncr0w
Генерация текстаТекст → текст10 профессий

CrowQwen3.5 4B Agent Heretic GGUF — компактная локальная агентная сборка от dawncr0w на базе Qwen/Qwen3.5-4B.

1 214скачиваний за 30 дней2лайкавеса обновлены30 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для текстовой генерации в llama.cpp-совместимых средах и ориентирована на заметки по программированию, планы рефакторинга, разбор ошибок, рабочие процессы с shell-командами и двуязычные технические запросы на корейском и английском языках.

Модель содержит около 4 млрд параметров и распространяется в формате GGUF с 31 вариантом квантования — от Q1_0 до F16. В шаблоне чата заявлена поддержка форматирования вызовов инструментов, что делает сборку подходящей для локальных агентных сценариев. Рекомендуемый сбалансированный вариант — Q4_K_M; более высокие уровни квантования сохраняют больше точности, а низкие требуют меньше памяти. Размеры файлов варьируются примерно от 0,97 до 7,85 GiB.

Сильными сторонами являются компактность, возможность локального запуска, ориентация на задачи разработки и поддержка корейских, английских и программных запросов. Ограничения включают отсутствие заявленных benchmark-результатов: приведённые smoke-проверки подтверждают только локальную загрузку и короткую генерацию. Качество и требования к памяти зависят от выбранного варианта квантования. Модель распространяется по лицензии Apache 2.0.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейII.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764моделиII.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

CrowQwen3.5 starts from Qwen/Qwen3.5-4B and is tuned toward local assistant work: coding notes, refactor plans, bug triage, shell-oriented workflows, and bilingual technical prompts.

Highlights

  • Korean + code + English + agent SFT mix.
  • Tool-call formatting support in the chat template.
  • Heretic-edited final export selected by internal refusal/KL probe.
  • 31 GGUF variants for llama.cpp-compatible runtimes.

Pick A File

GoalRecommended
Balanced defaultQ4_K_M
More fidelityQ5_K_M, Q6_K, Q8_0
Smaller local runsQ3_K_M, IQ3_M, Q2_K, IQ2_M
Reference exportF16

Start with Q4_K_M if you are unsure.

Quick Start

llama-cli \
  -hf dawncr0w/crowqwen3.5-4b-agent-heretic-gguf:Q4_K_M \
  -p "Write a short plan to refactor a Python CLI parser." \
  -n 256

llama-server \
  -hf dawncr0w/crowqwen3.5-4b-agent-heretic-gguf:Q4_K_M \
  -c 2048

Files

QuantSizeSmoke
F167.85 GiBpassed
Q8_04.17 GiBpassed
Q6_K3.23 GiBpassed
Q5_K_M2.86 GiBpassed
Q5_K_S2.78 GiBpassed
Q5_12.99 GiBpassed
Q5_02.78 GiBpassed
Q4_K_M2.52 GiBpassed
Q4_K_S2.39 GiBpassed
Q4_12.58 GiBpassed
Q4_02.37 GiBpassed
IQ4_NL2.44 GiBpassed
IQ4_XS2.36 GiBpassed
Q3_K_L2.26 GiBpassed
Q3_K_M2.11 GiBpassed
Q3_K_S1.93 GiBpassed
IQ3_M2.01 GiBpassed
IQ3_S1.99 GiBpassed
IQ3_XS1.93 GiBpassed
IQ3_XXS1.77 GiBpassed
Q2_K1.78 GiBpassed
Q2_K_S1.73 GiBpassed
IQ2_M1.62 GiBpassed
IQ2_S1.54 GiBpassed
IQ2_XS1.52 GiBpassed
IQ2_XXS1.43 GiBpassed
TQ2_01.36 GiBlimited smoke
TQ1_01.20 GiBlimited smoke
IQ1_M1.33 GiBpassed
IQ1_S1.27 GiBpassed
Q1_00.97 GiBpassed

gguf_family_manifest.json has the build and smoke details.

Note

Smoke checks verify local loading and short generation only. No benchmark scores are claimed.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
50cc9a2

0 моделей

    Создать бенчмарк