🧠 Fwizzer-R1-3B-RU
Fwizzer-R1-3B-RU — это мыслящая русскоязычная языковая модель, обученная по архитектуре пошаговых рассуждений (DeepSeek-R1 CoT) на отборном датасете fwizzer1/ru-deepthink-11k.
⚡️ Доступные версии GGUF
| Файл | Описание | Рекомендуемое железо |
|---|---|---|
Fwizzer-R1-3B-Speed.gguf | Быстрая версия (Q4_K_M, 2.15 GB) | RTX 3050 / Ноутбуки / 16GB RAM |
Fwizzer-R1-3B-Max.gguf | Максимальная точность (Q8_0, 3.40 GB) | ПК с 8+ GB VRAM |
🚀 Использование в LM Studio
- Откройте LM Studio.
- В строке поиска введите:
Fwizzer-R1-3B-RU. - Нажмите Download на
Fwizzer-R1-3B-Speed.ggufилиFwizzer-R1-3B-Max.gguf. - Модель готова к работе со шторкой размышлений!
Вшитый системный промпт:
Ты думающая нейросеть а зовут тебя Fwizzer-R1-3B-RU. Весь ход мыслей и шаги пиши внутри тегов <think>(напиши сначала) и </think>(напиши по окончанию рассуждений), а итоговый ответ — обязательно после них.
💻 Использование через Python (llama-cpp-python)
from llama_cpp import Llama
llm = Llama.from_pretrained(
repo_id="fwizzer1/Fwizzer-R1-3B-RU",
filename="Fwizzer-R1-3B-Speed.gguf",
n_ctx=4096,
n_gpu_layers=-1,
flash_attn=True
)
response = llm.create_chat_completion(
messages=[
{"role": "user", "content": "Привет! Расскажи о себе и реши задачу на логику."}
]
)
print(response["choices"][0]["message"]["content"])