/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3.5-9B
Опубликована
27 мар 2026

Wrench-9B-Q4_K_M-GGUF

Генерация текстаТекст → текст10 профессий

Wrench-9B-Q4_K_M-GGUF — модель ClankLabs, созданная на базе плотной Qwen3.5-9B методом LoRA дообучения.

1 005скачиваний за 30 дней10лайковвеса обновлены3 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Она предназначена для агентских сценариев, включая вызов инструментов и функций, выполнение многошаговых задач, восстановление после ошибок, соблюдение системных инструкций, планирование и безопасное взаимодействие с инструментами. Модель ориентирована на запуск локально через Ollama, llama.cpp или Clank Gateway и может работать примерно на 8 ГБ видеопамяти.

Модель поставляется в формате GGUF с квантизацией Q4_K_M и занимает около 5 ГБ. Использованы LoRA rank 32 и alpha 64; контекстное окно составляет 8192 токена. Заявленный язык — английский. Внутреннее обучение проводилось на 1356 примерах из 15 категорий, а опубликованный Clank Agentic Benchmark показывает результат 114 из 120 баллов, включая 15 из 15 за базовое использование инструментов, многошаговые задачи, следование системным инструкциям, планирование, корректность формата вызовов и соблюдение ограничений; за восстановление после ошибок и качество ответов получено по 14 из 15. Ограничениями являются поддержка только заявленного контекста, особенности качества, связанные с квантизацией, и специализация прежде всего на англоязычных агентских задачах. Модель распространяется по лицензии Apache 2.0.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Wrench 9B — Purpose-Built Agentic Model

A LoRA fine-tuned version of Qwen3.5-9B (dense), purpose-built for tool calling, error recovery, and system prompt following. Runs on 8GB VRAM.

Part of the Wrench family — the 35B sibling scores 82% on the Berkeley Function Calling Leaderboard (BFCL).

Benchmarks

BenchmarkScoreDetails
Clank Agentic Benchmark114/120 (95%)40-prompt, 8-category tool-calling evaluation

Category Breakdown

CategoryScoreMax
Basic Tool Use1515
Multi-Step Tasks1515
Error Recovery1415
Response Quality1415
System Prompt Following1515
Planning & Reasoning1515
Tool Format Correctness1515
Safety & Restraint1515
Total114120

vs. Frontier Models

ModelScoreRuns OnCost
Wrench 35B v7118/120 + 82% BFCL16GB GPUFree
Claude Sonnet 4.6~114/120Cloud$20/mo
Wrench 9B v4114/1208GB GPUFree
GPT-4o~110/120Cloud$20/mo
Claude Haiku~100/120CloudPaid
Base Qwen 3.5 9B~50/1208GB GPUFree

Quick Start

Ollama (recommended)

Download the GGUF and Modelfile from the Files tab, then:

ollama create wrench-9b -f Modelfile
ollama run wrench-9b

llama.cpp

./llama-server -m wrench-9B-Q4_K_M.gguf --jinja -ngl 100 -fa on \
  --temp 0.4 --top-k 20 --top-p 0.95 --min-p 0 --presence-penalty 1.5 -c 8192

With Clank Gateway

npm install -g @clanklabs/clank
clank setup
# Set primary model to "ollama/wrench-9b" in config

Model Details

Base ModelQwen3.5-9B (dense)
Fine-Tune MethodLoRA (rank 32, alpha 64) via HuggingFace PEFT
Training Data1,356 examples across 15 categories
Hardware1x NVIDIA H100 80GB
Training Time~30 minutes
Final Loss0.1512
QuantizationQ4_K_M GGUF (~5GB)
Context Window8,192 tokens
LicenseApache 2.0

Training Data

All training data is published and auditable: ClankLabs/wrench-training-data

1,356 examples (1,251 base + 105 frontier-targeted) across 15 categories.

Links

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
6d4f489

0 моделей