Waiter-1B
Adisyonist restoran/adisyon (POS) yazılımı için chat agent + tool-router modeli. google/gemma-3-1b-it temel modelinin, adisyonist/adisyonist-chat veri seti (tr + en alt kümesi) üzerinde QLoRA ile fine-tune edilmiş halidir.
Çıktı formatı
Model her kullanıcı mesajına tek bir JSON nesnesiyle cevap verir:
{"agents": ["prepareReservationCommand", "executeReservationAction"], "reply": "Rezervasyon işlemi hazırlandı..."}
agents: uygulamanın sırayla çağırması gereken backend fonksiyonları (chit-chat / refusal durumlarında boş liste).reply: kullanıcıya gösterilecek metin.{totalSales}gibi placeholder'lar uygulama tarafından runtime'da doldurulur.
Kullanım
import json
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "adisyonist/waiter-1B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto")
messages = [{"role": "user", "content": "Masa 5 için 2 adet lahmacun ve 1 ayran ekler misin?"}]
inputs = tokenizer.apply_chat_template(
messages, add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)
output = model.generate(**inputs, max_new_tokens=200, do_sample=False)
raw = tokenizer.decode(output[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True)
result = json.loads(raw)
print(result["agents"], result["reply"])
Eğitim detayları
- Yöntem: QLoRA (4-bit NF4, LoRA r=32, alpha=64, tüm attention + MLP projeksiyonları)
- Eğitim: TRL SFTTrainer, NEFTune (alpha=5), cosine LR, early stopping (eval_loss)
- Temel model lisansı: Gemma Terms of Use
Sınırlamalar
Model, Adisyonist POS senaryoları (sipariş alma, masa/hesap/rezervasyon/stok/personel işlemleri, satış özetleri) için özelleştirilmiştir; genel amaçlı asistan olarak kullanımı önerilmez. Çıktı her zaman JSON'dur — düz metin cevap beklemeyin.