🌟 Awesky-Nano (Qwen 2.5 7B Engine)
ডেভেলপার (Creator): কে. এম. সানবীর ইসলাম (K.M. Sunbir Islam)
বেস মডেল (Base Model): Qwen/Qwen2.5-7B-Instruct
কোয়ান্টাইজেশন (Quantization): Q4_K_M (4-bit Medium, ~4.36 GB)
অবস্থান (Path): C:\Users\SUNPC\OneDrive\Pictures\New folder (4)
📌 পরিচিতি ও বিশেষত্ব (Overview)
Awesky-Nano হলো কে. এম. সানবীর ইসলাম কর্তৃক তৈরিকৃত একটি উচ্চ ক্ষমতাসম্পন্ন, আধুনিক এআই সহকারী। এর ব্যাকএন্ডে রয়েছে বিশ্বের অন্যতম শক্তিশালী ওপেন-সোর্স মডেল Qwen 2.5 7B, যা কোডিং, জটিল গাণিতিক যুক্তি, বিজ্ঞান, সাধারণ জ্ঞান এবং বহুভাষিক (বাংলা ও ইংরেজি) কথোপকথনে অসাধারণ দক্ষতা প্রদর্শন করে।
🛠️ পূর্ববর্তী সমস্যার সমাধান (Fixes & Improvements)
আগে ছোট 1B/2B মডেলে ফাইন-টিউনিংয়ের ওভারফিটিংয়ের কারণে প্রতিটি প্রশ্নে (যেমন: html, 1+1, ki) বারবার ক্রিয়েটরের নাম আওড়াতো এবং গণিতে ভুল করতো।
Awesky-Nano (7B Engine)-এ এটি সম্পূর্ণ সমাধান করা হয়েছে:
- সঠিক আইডেন্টিটি: কে তৈরি করেছে বা নাম কী জানতে চাইলে স্পষ্ট ও গর্বের সাথে কে. এম. সানবীর ইসলামের নাম উল্লেখ করে।
- নির্ভুল কোডিং ও গণিত:
1+1,50+1151, অ্যালগরিদম বা কোডিং সম্পর্কিত প্রশ্নে সরাসরি নিখুঁত সমাধান দেয়। - সাবলীল বাংলা: চমৎকার ব্যাকরণসম্মত বাংলা এবং বিশ্বমানের ইংরেজিতে উত্তর দেয়।
🚀 কীভাবে ব্যবহার করবেন (How to Run)
১. এক-ক্লিকে পিসিতে চ্যাট করুন (1-Click Desktop Chat)
এই ফোল্ডারে থাকা run_awesky_nano.bat ফাইলটিতে ডাবল-ক্লিক করুন!
- এটি স্বয়ংক্রিয়ভাবে টার্মিনাল চালু করবে এবং রিয়েল-টাইম স্ট্রিমিং মোডে চ্যাট শুরু করবে।
- চ্যাট বন্ধ করতে টাইপ করুন:
exit - মেমোরি রিসেট করতে টাইপ করুন:
clear
অথবা পাইথন দিয়ে চালান:
python chat_awesky_nano.py
২. Ollama দিয়ে ব্যবহার (Ollama Integration)
যদি আপনার পিসিতে Ollama ইনস্টল থাকে:
cd "C:\Users\SUNPC\OneDrive\Pictures\New folder (4)"
ollama create Awesky-Nano -f Modelfile
ollama run Awesky-Nano
৩. LM Studio বা Jan অ্যাপে ব্যবহার
- LM Studio বা Jan ওপেন করুন।
Local Modelsঅপশনে যান।- এই ফোল্ডার থেকে
Awesky-Nano-Q4_K_M.ggufফাইলটি সিলেক্ট করুন। - Prompt Template হিসেবে
ChatMLএবং System Prompt হিসেবেModelfile-এর প্রম্পট ব্যবহার করুন।
৪. Kaggle / Colab GPU তে ফাইন-টিউনিং (Cloud GPU Training)
যদি আপনি ক্লাউডে মডেলটিকে আরও ট্রেইন করে সরাসরি আপনার Hugging Face রিপোজিটরি (awesky-020/Awesky-Nano)-তে আপলোড করতে চান:
- Kaggle-এ নতুন একটি Notebook তৈরি করুন এবং GPU T4 x2 সিলেক্ট করুন।
- এই ফোল্ডারের
train_awesky_nano_kaggle.ipynbনোটবুকটি আপলোড করুন। - Run All চাপুন!
- এটি মাত্র ১৫ মিনিটে QLoRA 4-bit দিয়ে ট্রেইনিং শেষ করে সরাসরি
awesky-020/Awesky-Nanoএ অ্যাডাপ্টার পুশ করে দেবে।
- এটি মাত্র ১৫ মিনিটে QLoRA 4-bit দিয়ে ট্রেইনিং শেষ করে সরাসরি
📂 ফোল্ডারের ফাইল পরিচিতি (File Structure)
| ফাইল / ফোল্ডার | বিবরণ |
|---|---|
Awesky-Nano-Q4_K_M.gguf | মূল ৭ বিলিয়ন প্যারামিটারের কোয়ান্টাইজড মডেল (~4.36 GB) |
run_awesky_nano.bat | উইন্ডোজ ১-ক্লিক স্টার্টার স্ক্রিপ্ট |
chat_awesky_nano.py | টার্মিনাল ইন্টারেক্টিভ স্ট্রিমিং চ্যাট ইঞ্জিন |
Modelfile | Ollama-এর জন্য কাস্টম আইডেন্টিটি ও কনফিগারেশন |
awesky_nano_dataset.jsonl | উচ্চমানের বাংলা-ইংরেজি ফাইন-টিউনিং ডাটাবেস |
train_awesky_nano_kaggle.py | Kaggle / Colab GPU ট্রেইনিং স্ক্রিপ্ট |
train_awesky_nano_kaggle.ipynb | Kaggle / Colab রেডিমেড জুপিটার নোটবুক |
test_awesky_nano.py | অটোমেটেড বেঞ্চমার্ক টেস্ট স্ক্রিপ্ট |
README.md | এই ডকুমেন্টেশন ফাইল |