Qwen3.8-27B-VMLU (Merged)
Mô hình Qwen/Qwen3.8-27B đã được finetune SFT LoRA bằng Megatron-SWIFT trên tập dữ liệu benchmark VMLU (8.195 câu hỏi thuộc 58 môn học) và hợp nhất (merged) hoàn chỉnh vào trọng số gốc.
Cấu hình Huấn luyện
- Phương pháp: Megatron-SWIFT LoRA SFT
- Parallelism: TP=2, PP=1, SP=True, DP=2 trên 4x NVIDIA A100-40GB
- Learning Rate:
2e-5(min2e-6, cosine schedule, warmup 0.05) - LoRA Config: Rank 16, Alpha 16 (scale 1.0), dropout 0.05
- Target Modules: MLP (
gate_proj,up_proj,down_proj) và Self-Attention (q_proj,k_proj,v_proj,o_proj) - Dữ liệu: 8.195 mẫu VMLU đa lĩnh vực (STEM, Social Science, Humanities, Other)
Cách sử dụng
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "huyhoangvbck/Qwen3.8-27B-VMLU"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
model_id,
dtype=torch.bfloat16,
device_map="auto",
trust_remote_code=True
)
prompt = "Hãy chọn một đáp án đúng duy nhất (A, B, C hoặc D) cho câu hỏi sau.\n..."
messages = [{"role": "user", "content": prompt}]
inputs = tokenizer.apply_chat_template(messages, tokenize=True, return_tensors="pt", add_generation_prompt=True, enable_thinking=False).to("cuda")
outputs = model.generate(inputs, max_new_tokens=512, do_sample=False)
print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))