🏮 Fwizzer-R1-3B-ZH-v2

3B 参数极致中文轻量推理模型 | Level-0 零门槛即插即用 | 深度思维链 (DeepSeek-R1 架构)

中文说明 (Chinese) | English Documentation | 快速下载 (Downloads) | 14平台快速运行

🇨🇳 中文说明

模型简介

Fwizzer-R1-3B-ZH-v2 是专为中文用户打造的高性能轻量级推理语言模型。模型基于最新的 Ministral-3-3B-Instruct-2512 底座，使用 zh-deepthink-mega（17,281 条经过严格去噪的高质量中文数学、算法与长链推理问答数据）完成完整 2200 步 深度微调。

模型在生成最终答案前，会自动在 <think> ... </think> 标签内展开细致、结构化的思考过程，显著降低幻觉并提升复杂逻辑的解题成功率。

📦 下载与量化版本 (Model Downloads)

所有 GGUF 版本均经过严格校验，提供开箱即用的 Level-0 配置：

📊 评测基准 (Benchmarks)

在中文推理和标准基准测试中（与同量级 3B 基础模型对比）：

🚀 14平台快速开始 (Quickstart)

1. Ollama (一键启动)

无需复杂配置，直接拉取或使用本仓库的 Modelfile：

# 下载 Modelfile 和 GGUF
curl -LO https://huggingface.co/fwizzer1/Fwizzer-R1-3B-ZH-v2/raw/main/Modelfile
curl -LO https://huggingface.co/fwizzer1/Fwizzer-R1-3B-ZH-v2/resolve/main/Fwizzer-R1-3B-ZH-Balanced.gguf

# 创建并运行
ollama create fwizzer-r1-zh -f Modelfile
ollama run fwizzer-r1-zh

2. LM Studio (可视化交互)

1. 在搜索框输入 fwizzer1/Fwizzer-R1-3B-ZH-v2 并下载。
2. 下载预设文件 Fwizzer-R1.preset.json 放入 LM Studio 的 config-presets 文件夹。
3. 加载模型时选择该预设，自动开启折叠式思考窗口！

3. Jan

将 jan-model.json 放入 Jan 的 models/ 目录即可开箱即用。

4. llama.cpp / llama-cli

llama-cli -m Fwizzer-R1-3B-ZH-Balanced.gguf -p "<s>[INST] 鸡兔同笼，共有35个头，94只脚。请问鸡和兔各有多少只？请详细推理 [/INST]" -n 1024 --temp 0.6 --top-p 0.95

5. Python (Transformers)

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "fwizzer1/Fwizzer-R1-3B-ZH-v2"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto"
)

messages = [
    {"role": "user", "content": "桌子上有3根点燃的蜡烛，风吹灭了2根。最后桌子上还剩几根蜡烛？请详细分析。"}
]

inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt").to("cuda")
outputs = model.generate(inputs, max_new_tokens=1024, temperature=0.6, top_p=0.95)
print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))

6. vLLM (高并发服务)

vllm serve fwizzer1/Fwizzer-R1-3B-ZH-v2 --port 8000 --max-model-len 8192

🎯 推荐采样参数 (Recommended Parameters)

📜 许可证 (License)

本项目遵循 Apache 2.0 License 开源协议，支持学术研究与商业落地。