مداد (Midad) - ALLaM-7B

نموذج مدرّب لتحويل الدروس الدراسية إلى قصص ومغامرات تفاعلية بالفصحى بسياق سعودي، يكون فيها الطالب بطل القصة. تم تطويره ضمن هاكاثون عربثون.

التدريب

• النموذج الأساسي: ALLaM-7B-Instruct-preview
• الطريقة: LoRA لمدة 3 epochs، ثم دمج الأدابتر مع النموذج الأساسي (merged full model)
• كود التدريب: https://www.kaggle.com/code/lama377/midad-allam-finetune
• الواجهة: https://github.com/itsdevruba/Medad

طريقة الاستخدام

from transformers import AutoModelForCausalLM, AutoTokenizer

repo = 'itsdevruba/midad-allam-7b'
tok = AutoTokenizer.from_pretrained(repo)
model = AutoModelForCausalLM.from_pretrained(repo, device_map='auto', torch_dtype='auto')

msgs = [{'role': 'user', 'content': 'حوّل درس دورة الماء إلى قصة تفاعلية'}]
x = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors='pt').to(model.device)
out = model.generate(x, max_new_tokens=800, eos_token_id=tok.eos_token_id, pad_token_id=tok.eos_token_id, repetition_penalty=1.1)
print(tok.decode(out[0][x.shape[1]:], skip_special_tokens=True))

ملاحظة: تمرير eos_token_id ضروري لتجنّب تكرار المخرجات.