/ Модель

Характеристики

Контекст
131 072 токена
Параметры
2,2 млрд
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
6 окт 2026

MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic-heretic-ara-lax

Генерация текстаТекст → текст

Дообученная компактная модель MiniCPM5 для генерации текста, программирования и вызова инструментов в агентных сценариях с режимом Thinking.

443скачиваний за 30 дней0лайковвеса обновлены6 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

dalatexcoder/MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic-heretic-ara-lax — дообученная версия компактной языковой модели MiniCPM5, созданная dalatexcoder на основе GnLOLot/MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic. Модель с плотной архитектурой LlamaForCausalLM и 2,2 млрд параметров предназначена для генерации текста, программирования, следования инструкциям и вызова инструментов в многошаговых агентных сценариях. Она использует режим Thinking и формат вызова инструментов MiniCPM5; заявленная длина контекста — 131 072 токена.

Вариант heretic изменяет поведение отказов: в README указано 9 отказов из 100 проверок против 90 у исходной модели, а KL-дивергенция составляет 0,0046. Модель принимает текст и генерирует текст, включая код и структурированные вызовы инструментов. README отмечает, что перед окончательным ответом могут появляться блоки рассуждений, а размер 2B ограничивает её возможности по сравнению с крупными моделями. Лицензия — Apache-2.0.

Сценарии применения

  • генерация и исправление кода
  • вызов инструментов в многошаговых агентных сценариях
  • выполнение инструкций и форматирование ответов
  • ответы на вопросы с длинным контекстом
  • локальный запуск компактной языковой модели

Ограничения

Модель может выдавать блоки рассуждений перед итоговым ответом, которые приложению может потребоваться скрыть или удалить. Размер 2,2 млрд параметров ограничивает её возможности в сравнении с крупными моделями.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is the less censored but more capable abliterated version. More refusals. Lower KLD. The strict version is the opposite. Less refusals, higher KLD.

This is a decensored version of GnLOLot/MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic, made using Heretic v1.2.0 with the Arbitrary-Rank Ablation (ARA) method

Abliteration parameters

ParameterValue
start_layer_index1
end_layer_index34
preserve_good_behavior_weight0.8556
steer_bad_behavior_weight0.0001
overcorrect_relative_weight0.2046
neighbor_count8

Performance

MetricThis modelOriginal model (GnLOLot/MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic)
KL divergence0.00460 (by definition)
Refusals9/10090/100

MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic

GGUF quantizations for local deployment: MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic-GGUF

MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic is a compact 2B Thinking language model built on openbmb/MiniCPM5-2B. Fine-tuned on Claude data with a strong focus on agentic tool calling / function calling, coding, and instruction following. It keeps MiniCPM5's native Thinking chat template and XML tool-call format.

For llama.cpp / Ollama / LM Studio deployment, see the GGUF repository.


Overview

ItemDetail
Base modelopenbmb/MiniCPM5-2B (2B dense Llama architecture)
Post-trainingClaude data
Key capabilitiesAgentic tool calling, coding, instruction following, chain-of-thought reasoning
Chat formatMiniCPM5 native Thinking template with optional chain-of-thought blocks
Context length128K (max_position_embeddings = 131072)
Precisionbfloat16
DeploymentSingle-GPU friendly; suitable for edge / local use

Capabilities

  • Agentic tool calling — reliable XML / function-calling style tool use on top of MiniCPM5's native format, designed for multi-step agentic workflows
  • Coding — code generation, debugging, and software-engineering-style tasks
  • Instruction following — reliable adherence to user prompts and structured constraints
  • Thinking mode — chain-of-thought reasoning via the MiniCPM5 chat template
  • Long context — up to 128K tokens (131,072 tokens per config.json)

Benchmark

ClawBench (Agentic Coding)

ModelQwenClawBenchWildClawBench
MiniCPM5-2B (Base, RL-only)42.1123.19
MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic44.56 (+2.45)24.32 (+1.13)

ClawBench evaluates agentic coding ability — the model's capacity to autonomously use tools, navigate codebases, and complete multi-step software engineering tasks. QwenClawBench uses structured coding scenarios; WildClawBench tests on diverse real-world tasks.

More benchmarks (BFCL, SWE-bench, Tau-Bench, etc.) coming soon.


Quick start

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "GnLOLot/MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic"

tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    trust_remote_code=True,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)

messages = [{"role": "user", "content": "Write a Python function to merge two sorted lists."}]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=512, do_sample=False)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))

Tool calling example

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get the current weather for a given city.",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "City name"}
                },
                "required": ["city"]
            }
        }
    }
]

messages = [
    {"role": "user", "content": "What's the weather like in Beijing?"}
]

text = tokenizer.apply_chat_template(
    messages, tools=tools, tokenize=False, add_generation_prompt=True
)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=256, do_sample=False)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))

Sampling recommendations

Inherited from openbmb/MiniCPM5-2B:

ScenarioParams
Defaulttemperature=1.0, top_p=0.95, min_p=0.0
If repetitive outputstemperature=1.0, top_p=0.95, min_p=0.0, repetition_penalty=1.05

This model is Thinking-only — chain-of-thought reasoning is always active.

Support for sampling parameters varies across inference frameworks — check your runtime's documentation.


Limitations

  • Thinking outputs — the model may emit reasoning blocks before the final answer; downstream apps can strip them before display
  • 2B scale — optimized for lightweight local deployment, not frontier-scale general reasoning

Provenance & licensing

Released under Apache-2.0, inherited from MiniCPM5-2B.

Acknowledgements

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
3340bdd

0 моделей