Not: Bu modelin dokümantasyonu Türk yapay zeka topluluğuna katkı sağlamak amacıyla VeriPazarı tarafından Türkçeye çevrilmiştir. Orijinal model WiroAI tarafından geliştirilmiş olup, VeriPazarı tarafından Türk AI ekosistemi için arşivlenmiştir.

🔗 Orijinal Kaynak: WiroAI/wiroai-turkish-llm-9b 🔗 Derleyen Platform: VeriPazarı

🚀 WiroAI Turkish LLM (9B)

Daha fazla Türkçe dil ve kültür desteğine sahip güçlü bir dil modeli!

🌟 Öne Çıkan Özellikler

• 500.000'den fazla yüksek kaliteli Türkçe talimat (instruction) ile fine-tune edilmiştir.
• Fine-tuning işlemi için kuantizasyon (quantization) kullanılmadan LoRA yöntemi tercih edilmiştir.
• Türk kültürüne ve yerel bağlama (local context) uyarlanmıştır.
• Google'ın son teknoloji Gemma mimarisi üzerine inşa edilmiştir.

📝 Model Detayları

Bu model, Google'ın yenilikçi Gemma model ailesinin Türkçe konuşan üyesidir. Özenle derlenmiş yüksek kaliteli Türkçe talimatlar üzerinde Supervised Fine-Tuning (SFT) kullanılarak eğitilmiştir. Türkçe doğal dil işleme görevlerinde üstün performans gösterir.

🔧 Teknik Özellikler

• Mimari: Decoder-only transformer
• Temel (Base) Model: Google Gemma 2 9B
• Eğitim Verisi: 500.000+ özel olarak seçilmiş Türkçe instruction
• Dil Desteği: Türkçe (kapsamlı yerel bağlam anlayışıyla birlikte) ve diğer yaygın diller.

💡 Kullanım Alanları

• Metin Üretimi ve Düzenleme
• Soru Cevaplama
• Özetleme
• Analiz ve Akıl Yürütme (Reasoning)
• İçerik Dönüştürme
• Türkçe Doğal Dil İşleme (NLP) Görevleri
• Türk Kültürü Bağlamlı Görevler

🚀 Avantajlar

• Yerel Anlayış: Türk kültürünü, deyimlerini ve güncel olaylarını anlama yeteneği.
• Kaynak Verimliliği: Sınırlı donanım kaynaklarında bile etkili çalışma.
• Esnek Dağıtım: Masaüstü, dizüstü bilgisayar veya özel bulut altyapılarında (deployment) kullanılabilir.
• Açık Model: Şeffaf ve özelleştirilebilir mimari.

🌍 Google Gemma 2 Hakkında

Gemma, Gemini modellerini oluşturmak için kullanılan araştırma ve teknolojiyle geliştirilmiş, Google'ın hafif, son teknoloji açık model ailesidir. Bu modeller, sınırlı kaynaklara sahip ortamlarda dağıtılabilecek şekilde tasarlanmış olup yapay zeka teknolojisini herkes için erişilebilir kılmaktadır.

📈 Performans ve Sınırlamalar

Model, Türkçe dil görevlerinde yüksek performans gösterse de kullanıcıların aşağıdakileri göz önünde bulundurması gerekir:

• En iyi sonuçlar için açık ve yapılandırılmış talimatlar (promptlar) kullanın.
• Kritik uygulamalar için model çıktılarını doğrulayın.
• Dağıtımdan (deployment) önce donanım gereksinimlerini değerlendirin.
• Aşağıdaki benchmark sonuçlarının belirli koşullar altında temsil edildiğini ve sonuçların tekrarlanabileceğini unutmayın.

Benchmark Skorları

Model Benchmark testleri şu kod ile yapılmıştır:

lm_eval --model_args pretrained=<model_path> --tasks mmlu_tr_v0.2,arc_tr-v0.2,gsm8k_tr-v0.2,hellaswag_tr-v0.2,truthfulqa_v0.2,winogrande_tr-v0.2

Testler OpenLLMLeaderboard v2.0 ile aynı yaklaşım olan varsayılan dil çıkarımı (default language inference) ile gerçekleştirilmiştir.

Kullanım

Transformers Pipeline

import transformers
import torch

model_id = "WiroAI/wiroai-turkish-llm-9b"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)
pipeline.model.eval()

instruction = "Bana İstanbul ile alakalı bir sosyal medya postu hazırlar mısın?"
messages = [
    {"role": "user", "content": f"{instruction}"}
]

prompt = pipeline.tokenizer.apply_chat_template(
    messages, 
    tokenize=False, 
    add_generation_prompt=True
)

terminators = [
    pipeline.tokenizer.eos_token_id,
    pipeline.tokenizer.convert_tokens_to_ids("<end_of_turn>")
]

outputs = pipeline(
    prompt,
    max_new_tokens=512,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.9,
)
print(outputs[0]["generated_text"][len(prompt):])

Çıktı (Output) Örneği:

İstanbul'un büyüsüne kapılın! :city_sunset:

Halk arasında "dünyanın masalı şehri" olarak bilinen İstanbul, her köşesinde tarih, kültür ve modern yaşamın bir araya geldiği eşsiz bir şehir.
Yüzyıllardır farklı medeniyetlerin izlerini taşıyan İstanbul, tarihi mekanlarından, müzelerinden, çarşılarından ve restoranlarından oluşan zengin kültürel mirasa sahiptir.

Boğaz'ın eşsiz manzarasında tekne turu yapmak, Topkapı Sarayı'nı ziyaret etmek, Grand Bazaar'da alışveriş yapmak, Mısır Çarşısı'nın canlı atmosferinde kaybolmak, Galata Kulesi'nden muhteşem bir manzara deneyimlemek veya Beyoğlu'nun hareketli sokaklarında yürüyüş yapmak İstanbul'da unutulmaz anılar yaratmak için fırsatlar sunar.

İstanbul'un büyülü atmosferini kendiniz yaşamak için hemen planınızı yapın! :flag-tr: 

#İstanbul #Türkiye #Seyahat #Tarih #Kültür #Gezi

🤝 Lisans ve Kullanım

Bu model Google'ın Gemma lisansı altında sunulmaktadır. Lütfen kullanmadan önce lisans koşullarını inceleyin ve kabul edin.

📫 İletişim ve Destek

Soru, öneri ve geri bildirimleriniz için HuggingFace üzerinde bir issue açabilir veya WiroAI web sitesi üzerinden doğrudan geliştirici ekiple iletişime geçebilirsiniz.

Atıf (Citation)

@article{WiroAI,
  title={WiroAI/wiroai-turkish-llm-9b},
  author={Abdullah Bezir, Furkan Burhan Türkay, Cengiz Asmazoğlu},
  year={2024},
  url={https://huggingface.co/WiroAI/wiroai-turkish-llm-9b}
}

@article{gemma_2024,
    title={Gemma},
    url={https://www.kaggle.com/m/3301},
    DOI={10.34740/KAGGLE/M/3301},
    publisher={Kaggle},
    author={Gemma Team},
    year={2024}
}

Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı kuralımız gereği lisans ve model isimleri korunmuştur.