Not: Bu modelin dokümantasyonu Türk yapay zeka topluluğuna katkı sağlamak amacıyla VeriPazarı tarafından Türkçeye çevrilmiştir. Orijinal model Metin tarafından geliştirilmiş olup, VeriPazarı tarafından Türk AI ekosistemi için arşivlenmiştir.
🔗 Orijinal Kaynak: Metin/LLaMA-3-8B-Instruct-TR-DPO 🔗 Derleyen Platform: VeriPazarı
LLaMA-3-8B-Instruct-TR-DPO
LLaMA-3-8B-Instruct-TR-DPO, sentetik olarak üretilmiş bir tercih veri seti (preference dataset) üzerinde eğitilmiş Meta-LLaMA-3-8B-Instruct modelinin fine-tune edilmiş bir versiyonudur.
Eğitim Bilgileri
- Temel (Base) Model: Meta-LLaMA-3-8B-Instruct
- Eğitim Verisi: 10 bin örnekten oluşan sentetik olarak üretilmiş bir tercih veri seti kullanılmıştır. Hiçbir tescilli/özel (proprietary) veri kullanılmamıştır.
- Eğitim Süresi: Tek bir RTX 6000 Ada üzerinde 3 saat
- QLoRA Yapılandırmaları:
- lora_r: 64
- lora_alpha: 32
- lora_dropout: 0.05
- lora_target_linear: true
Amaç, Türk dili için çıktı formatını ve içerik kalitesini artırmak üzere modeli fine-tune etmekti. Temel modelden illa ki daha zeki değildir, ancak çıktıları daha beğenilebilir ve tercih edilebilirdir.
Temel modelle karşılaştırıldığında, LLaMA-3-8B-Instruct-TR-DPO Türkçede daha akıcı ve tutarlıdır (coherent). Verilen bir talimat (instruction) için daha bilgilendirici ve ayrıntılı cevaplar üretebilir.
Modelin halen yanlış veya anlamsız çıktılar üretebileceği unutulmamalıdır, bu nedenle kullanmadan önce lütfen çıktıları doğrulayın.
Nasıl Kullanılır
Modeli kullanmak için aşağıdaki kod parçasını (snippet) kullanabilirsiniz:
from transformers import BitsAndBytesConfig
import transformers
import torch
bnb_config = BitsAndBytesConfig(
load_in_4bit=True,
bnb_4bit_use_double_quant=True,
bnb_4bit_quant_type="nf4",
bnb_4bit_compute_dtype=torch.bfloat16)
model_id = "Metin/LLaMA-3-8B-Instruct-TR-DPO"
pipeline = transformers.pipeline(
"text-generation",
model=model_id,
model_kwargs={"torch_dtype": torch.bfloat16 ,'quantization_config': bnb_config},
device_map="auto",
)
messages = [
{"role": "system", "content": "You are a helpful assistant. Always reply in Turkish."},
{"role": "user", "content": "Python'da bir öğenin bir listede geçip geçmediğini nasıl kontrol edebilirim?"},
]
prompt = pipeline.tokenizer.apply_chat_template(
messages,
tokenize=False,
add_generation_prompt=True)
terminators = [
pipeline.tokenizer.eos_token_id,
pipeline.tokenizer.convert_tokens_to_ids("<|eot_id|>")
]
outputs = pipeline(
prompt,
max_new_tokens=512,
eos_token_id=terminators,
do_sample=True,
temperature=0.2,
top_p=0.9,
)
print(outputs[0]["generated_text"][len(prompt):])
OpenLLMTurkishLeaderboard_v0.2 Benchmark Sonuçları
- MMLU_TR_V0.2: 49.83%
- Truthful_QA_TR_V0.2: 52.32%
- ARC_TR_V0.2: 44.37%
- HellaSwag_TR_V0.2: 45.58%
- GSM8K_TR_V0.2: 54.21%
- Winogrande_TR_V0.2: 55.06%
- Ortalama (Average): 50.22%
Herhangi bir çıkarım motoru (inference engine - örn. vLLM, TensorRT-LLM vb.) kullanmadığım için bu skorlar aynı benchmark'ları çalıştırdığınızda alacağınız sonuçlardan farklılık gösterebilir.
Çıktı Örneği (DPO Modeli vs Temel Model)
Modeli tek bir örnekle test etmek doğru bir yöntem değildir. Ancak, modelin yeteneklerini sergilemek amacıyla burada bir örnek sunulmuştur.
Model: LLaMA-3-8B-Instruct-TR-DPO
Girdi (Input)
Yeni bir derin öğrenme modelinin tanıtımı için bir etkinlik planı hazırla.
Çıktı (Output)
Harika bir fikir!
Etkinlik Planı: "Deep Learning Modeli Tanıtımı"
**Adım 1: Ön-Başlangıç**
* Konuşma konusu: "Deep Learning Modeli Tanıtımı"
* Katılımcı profili: Bilimsel ve teknoloji odaklı profesyoneller, öğrenciler ve araştırmacılar
* Etkinlik süresi: 2 saat
**Adım 2: Giriş**
* Sunum: "Deep Learning Modeli Tanıtımı: Tarihçesi ve Temelleri"
* Sunum içeriği: Deep learning modelinin tarihi, temel kavramları (örneğin, ANN, CNN, RNN), uygulamaları ve avantajları
* Sunum süresi: 30 dakika
**Adım 3: Modelin Çalışma Örnekleri**
* Sunum: "Deep Learning Modelinin Çalışma Örnekleri"
* Sunum içeriği: Modelin uygulamaları (örneğin, görüntü sınıflandırma, doğal dil işleme, makine öğrenimi)
* Sunum süresi: 45 dakika
**Adım 4: Katılımcı Soruları ve Tartışma**
* Katılımcı sorularına cevap verme
* Tartışma: Modelin avantajları ve dezavantajları, uygulamaları ve gelecekteki gelişmeleri
**Adım 5: Sonuç**
* Sunum: "Deep Learning Modelinin Sonuçları"
* Sunum içeriği: Modelin sonuçları, uygulamaları ve gelecekteki gelişmeleri
* Sunum süresi: 15 dakika
**Etkinlik Notları**
* Sunumlar ve tartışmalar için gerekli malzemeleri hazırlayın
* Katılımcıların sorularına cevap verme için yeterli zaman ayırın
* Etkinlik sonrası katılımcıların geri bildirimlerini alın
Umarım bu etkinlik planı sizin için yardımcı olur!
Model: LLaMA-3-8B-Instruct (Temel Model)
Girdi (Input)
Yeni bir derin öğrenme modelinin tanıtımı için bir etkinlik planı hazırla.
Çıktı (Output)
Harika bir fikir! Aşağıdaki etkinlik planını hazırladım:
**Etkinlik Adı:** "Derin Öğrenme Modelinin Tanıtımı"
**Etkinlik Amacı:** Derin öğrenme modelinin tanıtımı ve uygulamaları hakkında bilgi sahibi olmak.
**Etkinlik Planı:**
1. **Giriş:** Derin öğrenme modelinin tanıtımı ve önemi hakkında kısa bir konuşma.
2. **Teorik Bölüm:** Derin öğrenme modelinin teorik temelleri ve çalışma prensipleri hakkında sunum.
3. **Uygulama Bölüm:** Derin öğrenme modelinin uygulamaları ve başarıları hakkında sunum.
4. **Pratik Bölüm:** Derin öğrenme modelinin pratik uygulamaları ve deneyimi hakkında sunum.
5. **Soru-Cevap Bölüm:** Derin öğrenme modelinin sorularına cevap verme.
6. **Sonuç Bölüm:** Derin öğrenme modelinin tanıtımı ve uygulamaları hakkında sonuç ve tavsiye.
**Etkinlik Malzemeleri:**
* Sunum araçları (slaj, powerpoint, vs.)
* Derin öğrenme modelinin uygulamaları hakkında örnekler ve grafikler
* Derin öğrenme modelinin teorik temelleri hakkında kitap ve makaleler
* Derin öğrenme modelinin pratik uygulamaları hakkında deneyimi hakkında sunum
**Etkinlik Süresi:** 2 saat
**Katılımcı Sayısı:** 20-30 kişi
**Etkinlik Yeri:** Bilimsel toplantı salonu veya online platform
**Etkinlik Tarih ve Saati:** 10:00-12:00
**Etkinlik Dili:** Türkçe
**Etkinlik Katılımcıları:** Bilimsel toplantı salonunda veya online platformda katılımcılar.
**Etkinlik Sonuçları:** Derin öğrenme modelinin tanıtımı ve uygulamaları hakkında bilgi sahibi olmak.
**Etkinlik Tavsiyesi:** Derin öğrenme modelinin tanıtımı ve uygulamaları hakkında bilgi sahibi olmak.
Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı kuralımız gereği lisans ve model isimleri korunmuştur.