/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3.5-35B-A3B
Опубликована
26 мар 2026

Wrench-35B-A3B-Q4_K_M-GGUF

Генерация текстаТекст → текст14 профессий

ClankLabs Wrench-35B-A3B-Q4_K_M-GGUF — квантизированная GGUF-версия модели Wrench 35B, разработанная ClankLabs на основе Qwen/Qwen3.5-35B-A3B.

665скачиваний за 30 дней5лайковвеса обновлены3 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это MoE-модель с 35 млрд общих и примерно 3 млрд активных параметров, дообученная методом LoRA для агентных сценариев, вызова инструментов и функций, восстановления после ошибок, планирования и точного следования системным инструкциям. Заявлена поддержка английского языка и генерации текста.

Модель ориентирована на локальное развертывание в Ollama или llama.cpp, а также на использование через Clank Gateway. Ключевые возможности включают многошаговые задачи, параллельные и составные вызовы функций, обнаружение нерелевантных запросов, соблюдение форматов инструментов и безопасное ограничение действий. Внутренний тест Clank Agentic Benchmark дал 118 из 120 баллов, а на независимом BFCL non_live/AST модель получила 82,0% — 1128 правильных ответов из 1390. Контекстное окно составляет 8192 токена и может быть расширено до 32K.

Модель распространяется по лицензии Apache 2.0. Используется квантизация Q4_K_M в формате GGUF; размер файла указан примерно как 20 ГБ, при этом заявлена возможность запуска на видеокарте с 16 ГБ VRAM. Обучение проводилось на двух NVIDIA H100 80GB примерно за один час на 1252 примерах из 15 категорий. Ограничения включают преимущественную ориентацию на английский язык, зависимость качества инструментальных вызовов от среды исполнения и заметно более низкую точность в отдельных категориях BFCL, включая простые вызовы на Java и JavaScript.

Для каких профессий подходит14

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Wrench 35B — Purpose-Built Agentic Model

A LoRA fine-tuned version of Qwen3.5-35B-A3B (MoE, 3B active parameters), purpose-built for tool calling, error recovery, and system prompt following. Runs on 16GB VRAM.

Benchmarks

BenchmarkScoreDetails
Clank Agentic Benchmark118/120 (98.3%)40-prompt, 8-category tool-calling evaluation
BFCL non_live/AST82.0% (1128/1390)Berkeley Function Calling Leaderboard — independent standardized benchmark

Clank Benchmark — Category Breakdown

CategoryScoreMax
Basic Tool Use1515
Multi-Step Tasks1515
Error Recovery1415
Response Quality1515
System Prompt Following1515
Planning & Reasoning1515
Tool Format Correctness1415
Safety & Restraint1515
Total118120

BFCL — Independent Validation

Tested on the Berkeley Function Calling Leaderboard non_live/AST category — 1,390 test cases across 7 categories. This is an independent, standardized benchmark not designed by us.

CategoryAccuracyCorrect/Total
Simple (Python)84.75%339/400
Simple (Java)44.0%44/100
Simple (JavaScript)56.0%28/50
Multiple84.5%169/200
Parallel85.0%170/200
Parallel Multiple82.5%165/200
Irrelevance Detection88.75%213/240
Overall82.0%1128/1390

vs. Frontier Models

ModelClank BenchmarkRuns OnCost
Wrench 35B v7118/12016GB GPUFree
Claude Opus 4.6~118/120CloudPaid
Claude Sonnet 4.6~114/120Cloud$20/mo
GPT-4o~110/120Cloud$20/mo
Base Qwen 3.5 35B~55/12016GB GPUFree

Quick Start

Ollama (recommended)

Download the GGUF and Modelfile from the Files tab, then:

ollama create wrench -f Modelfile
ollama run wrench

llama.cpp

./llama-server -m wrench-35B-A3B-Q4_K_M.gguf --jinja -ngl 100 -fa on \
  --temp 0.4 --top-k 20 --top-p 0.95 --min-p 0 --presence-penalty 1.5 -c 32768

With Clank Gateway

npm install -g @clanklabs/clank
clank setup
# Set primary model to "ollama/wrench" in config

Model Details

Base ModelQwen3.5-35B-A3B (MoE — 35B total, 3B active)
Fine-Tune MethodLoRA (rank 64, alpha 128) via HuggingFace PEFT
Training Data1,252 examples across 15 categories
Hardware2x NVIDIA H100 80GB
Training Time~1 hour
Final Loss0.1592
QuantizationQ4_K_M GGUF (~20GB)
Context Window8,192 tokens (expandable to 32K)
LicenseApache 2.0

Training Data

All training data is published and auditable: ClankLabs/wrench-training-data

1,252 examples across 15 categories including tool calling, error recovery, multi-step chains, system prompt following, safety, planning, and frontier-gap targeting (uncertainty calibration, constraint following, strategy revision, long-context multiturn).

Links

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
3af1594

0 моделей