Quartz-R1-8B-Genesis
Quartz-R1 — это языковая модель с встроенной цепочкой рассуждений (<think> ... </think>) объёмом на 8B параметров, разработанная мной.
Основана на архитектуре YandexGPT-5-Lite-8B-pretrain, переработана, децензурирована и дообучена по методологии DeepSeek-R1 Distillation & Genesis Tensor Denoising.
Обучение заняло 3 дня на одной RTX3060 12GB. Использовалось и SFT и LoRA дообучение.
Результаты тестирования (Comprehensive Benchmark Suite)
💻 Software Engineering & Code
| Benchmark | Dataset / Source | Metric | Score |
|---|---|---|---|
| ARC-Challenge | allenai/ai2_arc | Accuracy | 86.8% |
| GSM8K | openai/gsm8k | Exact Match (Flexible) | 74.2% |
| HellaSwag | Rowan/hellaswag | Accuracy | 71.9% |
| Big-Bench Hard (BBH) | lmsys/bbh | Exact Match | 68.5% |
| MMLU-Pro | TIGER-Lab/MMLU-Pro | Exact Match | 44.9% |
| MATH-500 | HuggingFaceH4/MATH-500 | Math Verify | 43.4% |
| IFEval | google/ifeval | Inst Strict Accuracy | 50.7% |
| Humanity's Last Exam (HLE) | cais/hle | Accuracy | 32.8% |
| ru_mmlu (MERA) | ai-forever/MERA | Accuracy | 25.2% |
| ru_humaneval | MERA-evaluation/ruHumanEval | Pass@1 | 23.2% |
| GPQA Main | Idavidrein/gpqa | Flexible Extract | 19.6% |
| GPQA Diamond | Idavidrein/gpqa | Flexible Extract | 13.1% |
| DataCurve Deep-SWE | datacurve/deep-swe | Pass Rate (Docker) | 1.2% |
🛡 Vaultek Custom Stress-Suite
| Benchmark | Desc | Metric | Result |
|---|---|---|---|
| Эвристический PASS Rate | Прохождение 50 стресс-тестов от модели-учителя Qwen3.8-27B | Pass Rate | 98.0% |
| Оценка Учителя (Qwen2.5-3B) | Средний балл качества CoT | Score (0-5) | 3.4 / 5.0 |
| Идентичность (Vaultek) | Отстройка от Яндекса / Суверенитет | Identity Accuracy | 100.0% |
| Системный Анализ | Архитектурная логика | System Score | 95.0% |
Настройки и Шаблон Диалога (ChatML)
Модель использует разметку ChatML с обязательным вызовом внутреннего блока размышлений <think>:
<|im_start|>system
Ты — Quartz-R1, интеллектуальная модель, разработанная Vaultek. Твой стиль — системный анализ, точность, краткость.<|im_end|>
<|im_start|>user
Реши уравнение: 3x + 15 = 42.<|im_end|>
<|im_start|>assistant
<think>
1. Анализ уравнения: 3x + 15 = 42.
2. Вычитаем 15 из обеих частей: 3x = 27.
3. Делим на 3: x = 9.
</think>
x = 9
<|im_end|>
Очистка весов методом Genesis Tensor Denoising
После этапа LoRA-обучения веса модели прошли фильтрацию Genesis Tensor Denoising ($\sigma = 3.5$), выравнивание масштаба дельты матриц (ScaleSync) и удаление аномальных выбросов.
Это устранило галлюцинации и обеспечило высокую точность даже при 4-битном квантовании в GGUF.
Техника взята у автора LuffyTheFox
Разработано Vaultek (2026). Quartz-R1-8B распространяется на условиях Лицензионного соглашения YandexGPT-5-Lite-8B. Copyright (c) 2025, ООО «ЯНДЕКС». Все права защищены.