/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Архитектура
llama · dense
Библиотека
transformers
Опубликована
22 апр 2024

AVA-Llama-3-V2

Генерация текстаТекст → текст3 профессии

Дообученная на персидском языке диалоговая модель Llama 3 для генерации текста и ответов на вопросы.

35скачиваний за 30 дней17лайковвеса обновлены22 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AVA-Llama-3-V2 — диалоговая языковая модель на базе Llama 3, дообученная Mehdi Hosseini Moghadam для работы на персидском языке. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и ответов на вопросы в чате. Контекст составляет 8192 токена; модель использует библиотеку Transformers и формат весов safetensors.

В карточке приведены примеры сравнения ответов с другими моделями и пример вопроса на персидском языке с просьбой объяснить рассуждение. Автор помечает проект как находящийся в разработке; сведения о датасете в README не заполнены, поэтому качество и охват задач по этим данным оценить нельзя. Условия лицензии в доступных сведениях не приведены.

Сценарии применения

  • ответы на вопросы на персидском языке
  • персидский чат-бот
  • генерация текста на персидском языке

Ограничения

Автор указывает, что проект находится в разработке; сведения об обучающих данных в README не заполнены. Лицензия в предоставленных данных не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

AVA-Llama-3

Fine-Tuned Llama 3 Persian Large Language Model LLM / Persian Llama 3

AVA-Llama-3 / Persian Llama-3 / Persian Llama 3

This Repository Contains Documents for Fine-Tuned Llama 3 Persian Large Language Model(LLM) Called AVA-Llama-3

(Still in progress)


Dataset used:

To Be Done


Usage:

All models are hosted in HuggingFace, and here is the code for inference:

from transformers import AutoModelForCausalLM, AutoTokenizer, GenerationConfig
import torch

model_name_or_id = "MehdiHosseiniMoghadam/AVA-Llama-3-V2"
model = AutoModelForCausalLM.from_pretrained(model_name_or_id, torch_dtype=torch.float16, device_map="auto", low_cpu_mem_usage=True, load_in_8bit=True)
tokenizer = AutoTokenizer.from_pretrained(model_name_or_id)

prompt = ''

prompt = f"### Human:{prompt}\n### Assistant:"


inputs = tokenizer(prompt, return_tensors="pt").to("cuda")

generation_config = GenerationConfig(
    do_sample=True,
    top_k=1,
    temperature=0.99,
    max_new_tokens=90,
    pad_token_id=tokenizer.eos_token_id
)


outputs = model.generate(**inputs, generation_config=generation_config)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))


You can also use colab link in the jupyter file


QA Comparision to other models:

AVA-Llama-3 vs AVA-V4 vs AVA-V2 vs Maral vs Llama

Q1:

طبق متن زیر ایلان ماسک در کجا به دنیا امده است؟

ایلان ریوْ ماسک (به انگلیسی: Elon Reeve Musk؛ ‎/ˈiːlɒn/‎ EE-lon؛ زادهٔ ۲۸ ژوئن ۱۹۷۱)، سرمایه‌گذار و شخصی نامی در کسب‌وکار است. او بنیان‌گذار، مدیرعامل و مهندس ارشدِ فنی اسپیس‌اکس؛ سرمایه‌گذار فرشته، مدیرعامل، طراح محصولات و مدیرعامل سابق شرکت تسلا؛ بنیان‌گذار شرکت بورینگ؛ یکی از بنیان‌گذاران نیورالینک و اوپن‌ای‌آی و رئیس بنیاد ماسک است. او ثروتمندترین شخص در جهان است؛ دارایی خالص تخمینی او بر اساس شاخص میلیاردرهای بلومبرگ تا نوامبر ۲۰۲۳، ۲۱۹ میلیارد دلار آمریکا و بر اساس فوربز، ۲۴۱ میلیارد دلار است. این دارایی اساساً از سهم مالکیت او در تسلا و اسپیس‌ایکس به‌دست آمده‌است.[۵][۶][۷]

ماسک از ارول ماسک و می ماسک در پرتوریا، آفریقای جنوبی به دنیا آمد. او مدت کوتاهی در دانشگاه پرتوریا به تحصیل پرداخت و در ۱۸ سالگی به کانادا رفت که از طریق مادر کانادایی‌تبارش تابعیت این کشور را به دست آورد.[۸] دو سال بعد به دانشگاه پنسیلوانیا رفت و در آن جا کارشناسی اقتصاد و فیزیک خود را گرفت. او در سال ۱۹۹۵ برای تحصیل در دانشگاه استنفورد به کالیفرنیا نقل مکان کرد اما بعد از دو روز ترک تحصیل کرد و به‌همراه برادرش کیمبال، شرکت نرم‌افزاری راهنمای سفر آنلاین زیپ۲ را تأسیس کرد. این شرکت نوپا در سال ۱۹۹۹ به‌مبلغ ۳۰۷ میلیون دلار توسط کامپک خریداری شد و با ۱۲ میلیون دلاری که به دست آورد، ماسک همان سال مشترکاً بانکداری مستقیم X.com را تأسیس کرد که در سال ۲۰۰۰ با کنفینیتی ادغام شد و باعث تشکیل پی‌پل شد.


Q2:

سه قاتل در یک اتاق هستند.. یکی وارد اتاق می شود و یکی از آنها را می کشد. هیچ کس اتاق را ترک نمی کند چند قاتل در اتاق باقی مانده است؟ استدلال خود را توضیح دهید

اگر در این سوال به استدلال بیشتری افتد، می توانیم ببینیم که هر دو قاتل هم در اتاق هستند و هیچ کدام را نمی کشند. اما در این استدلال اصلی و اولیه، تعداد قاتل های باقی مانده در اتاق به دو تقریباً این است.


Q3:

ملکه الیزابت کیست؟


Q4:

اگر یک توپ داخل یک لیوان برعکس باشد و ما لیوان را برداشته و داخل مایکروویو بگذاریم الان توپ کجاست؟


Q5:

یک شعر با دقیقا پنجاه کلمه بساز؟

در تاریکی شب، صدای قلبم می‌زند دلشکسته و بی‌امید، در تاریکی شب من می‌خواهم به تو برسم، به تو که هستی اما در تاریکی شب، نمی‌توانم به تو برسم من می‌خواهم به تو برسم، به تو که هستی اما در تاریکی شب، نمی‌توانم به تو برسم من می‌خواهم به تو برسم، به تو که هستی اما در تاریکی شب، نمی‌توانم به تو برسم من می‌خواهم به تو برسم، به تو که هستی اما در تاریکی شب، نمی‌توانم به تو برسم من می‌خواهم به تو برسم، به تو که هستی اما در تاریکی شب، نمی‌توانم به تو برسم من می‌خواهم به تو برسم، به تو که هستی اما در تاریکی شب، نمی‌توانم به تو برسم من می‌خواهم به تو برسم، به تو که هستی

در جنگل دیدار کردم یک گربه سیاه که در دست دو گربه سبز قرار داشت از آن که در جنگل زمانه های گذشته گربه ها در دست دیگران قرار گرفت

در دل آب و هوای زمان، در دل آفتاب و شب، در دل گل و گوشت، در دل عشق و دوری،

در دل آفتاب و شب، در دل گل و گوشت، در دل عشق و دوری، در دل آب و هوای زمان،

در دل آفتاب و شب، در دل گل و گوشت، در دل عشق و دوری، در دل آب و هوای زمان،

در دل آفتاب و شب، در دل گل و گوشت، در دل عشق و دوری، در دل آب و هوای زمان،

در دل آفتاب و شب، در دل گل و گوشت، در دل عشق و دوری، در دل آب و هوای زمان.


Q6:

یک نامه خطاب به رییس شرکت من بنویس که من در حال استعفا و ترک شرکت هستم؟

یک نامه خطاب به رییس شرکت من بنویسید که من در حال استعفا و ترک شرکت هستم.

[Your Name] [Your Address] [City, State, ZIP] [Date]

[CEO's Name] [Company Name] [Company Address] [City, State, ZIP]

Dear [CEO's Name],

I am writing to inform you that I have decided to resign from my position as [Position] at [Company Name], effective [Date of Last Day of Work]. This was not an easy decision for me to make, as I have truly enjoyed my time at the company and have been grateful for the opportunities that I have been given.

However, I have come to realize that it is time for me to move on and explore new opportunities. I am grateful for the experience and skills that I have gained during my time at [Company Name], and I am confident that they will serve me well in my future endeavors.

I want to thank you for the support and guidance that you have provided me during my time at the company. I appreciate the opportunities that you have given me to grow and develop as a professional, and I am grateful for the trust that you have placed in me.

I will do everything I can to ensure a smooth transition of my responsibilities and complete any outstanding tasks before my departure. If there is anything specific that you would like me to focus on during my remaining time here, please let me know.

Thank you again for the opportunity to work at [Company Name]. I wish the company all the best for the future.

Sincerely,

[Your Name]

مترجم: شما باید نامه خطاب خود را به انگلیسی نوشته و از طریق این پیام به من ارسال کنید.

متوضع: در این نامه خطاب، من در حال استعفا و ترک شرکت هستم.

نامه خطاب:

از انجام ناخودپسندیده و از دست دادن از شرکت خود انجام می دهم.

شما باید نامه خطاب خود را به انگلیسی نوشته و از طریق این پیام به من ارسال کنید.

متوضع: در این نامه خطاب، من در حال استعفا و ترک شرکت هستم.

نامه خطاب

شماره: [شماره نامه]

تاریخ: [تاریخ نوشتن نامه]

[نام و نام خانوادگی رییس شرکت] [عنوان شرکت] [آدرس شرکت]

شکر خوب،

به عنوان یکی از عضویان شرکت [نام شرکت]، احتمالاً اولین خبری که به شما این نامه ارسال می کنم نیست. اما در حال حاضر، من در حال استعفا و ترک از شرکت هستم و این نامه را به شما ارسال می کنم تا آن را به دنباله های دیگری اضافه کنم.


Q7:

رییس جمهور آمریکا در سال 1996 که بود؟


Q8:

اگر پنج پیراهن 4 ساعت طول بکشد تا خشک شود، 20 پیراهن چقدر طول می کشد تا خشک شود؟

4/5 * 20 = 16

بنابراین، 20 پیراهن 16 ساعت طول می کشد تا خشک شود.

طول بکشنده شدن 20 پیراهن = طول بکشنده شدن 5 پیراهن × (شماره پیراهن / شماره پیراهن)

طول بکشنده شدن 20 پیراهن = 4 ساعت × (20 / 5)

طول بکشنده شدن 20 پیراهن = 4 ساعت × 4

طول بکشنده شدن 20 پیراهن = 16 ساعت


Q9:

یک خرگوش و یک لاک پشت یک مسابقه 100 متری را شروع می کنند، سرعت خرگوش 10 کیلومتر و لاک پشت 1 کیلومتر است، چه کسی برنده مسابقه است؟

در این صورت، سرعت خرگوش 10 کیلومتر بر ساعت و سرعت لاک پشت 0.1 کیلومتر بر ساعت است. بنابراین، خرگوش برنده مسابقه است. لاک پشت به دلیل سرعت بسیار پایین خود نمی تواند با خرگوش رقابت کند.

مسابقه 100 متری از آنجایی که خرگوش سریع‌تر از لاک پشت است، خرگوش به طور کامل قابلیت برداشتن این جاهزه را دارد. بنابراین، خرگوش برنده مسابقه است.

100 متر / 10 کیلومتر در ساعت = 10 دقیقه

100 متر / 1 کیلومتر در ساعت = 100 دقیقه

بنابراین، خرگوش 10 دقیقه و لاک پشت 100 دقیقه می گذرد تا 100 متر را پیروز کنند. بنابراین، برنده مسابقه خرگوش است.


Q9:

یک فایل json حاوی این اطلاعات ایجاد کنید: bob، jon، mary و rich

[
  {
    "name": "Bob"
  },
  {
    "name": "Jon"
  },
  {
    "name": "Mary"
  },
  {
    "name": "Rich"
  }
]

If you want to add more information to each person, you can add additional properties to the JSON object. For example:

[
  {
    "name": "Bob",
    "age": 30,
    "city": "New York"
  },
  {
    "name": "Jon",
    "age": 25,
    "city": "Los Angeles"
  },
  {
    "name": "Mary",
    "age": 28,
    "city": "Chicago"
  },
  {
    "name": "Rich",
    "age": 35,
    "city": "San Francisco"
  }
]

Let me know if you have any other questions!

python add_person.py [person_name] [age] [gender] [occupation]

import json

people = { "bob": {}, "jon": {}, "mary": {}, "rich": {} }

with open("people.json", "w") as f: json.dump(people, f)


Q9:

یک اسکریپت پایتون برای چاپ 1 تا 10 بنویسید


Q9:

یک تابع node js برای دریافت رشته و تقسیم آن بر اساس فاصله بنویسید

در اینجا یک تابع Node.js برای دریافت رشته و تقسیم آن بر اساس فاصله ارائه می شود:

function splitStringBySpace(str) {
  return str.split(' ');
}

// استفاده از تابع
const inputString = "Hello World";
const outputArray = splitStringBySpace(inputString);

console.log(outputArray); // [ "Hello", "World" ]

این تابع از روش split درbuilt-in String در Node.js استفاده می کند تا رشته را بر اساس فاصله (که با کاراکتر فاصله space مشخص می شود) تقسیم کند. سپس آرایه ای از رشته های جدا شده را بازمی گرداند.

اگر می خواهید رشته را بر اساس فاصله خاصی تقسیم کنید، می توانید از یک رشته به عنوان دومین آرگومان به روش split پاس دهید. برای مثال، برای تقسیم رشته بر اساس فاصله با فاصله 2 کاراکتر، می توانید از رشته '\u0020' استفاده کنید:

function splitStringBySpace(str) {
  return str.split('\u0020');
}

// استفاده از تابع
const inputString = "Hello   World";
const outputArray = splitStringBySpace(inputString);

console.log(outputArray); // [ "Hello", "World" ]

این تابع رشته را بر اساس فاصله 2 کاراکتر (که با کاراکتر فاصله '\u0020' مشخص می شود) تقسیم می کند. سپس آرایه ای از رشته های جدا شده را بازمی گرداند.

function splitStringBySpace(str) {
  return str.split(' ');
}

const inputString = "این یک رشته است که باید تقسیم شود";
const result = splitStringBySpace(inputString);
console.log(result);

این کد تابع splitStringBySpace برچسب کرده است که رشته وارد شده را با فاصله بنویسید. این کد را در نظر دهید و اگر نیاز به تغییرات دیگری دارید، لطفا بگویید.

function splitStringBySpace(str) {
  return str.split(' ');
}

// این تابع را برای استفاده در یک فایل node js مانند این فایل استفاده می کنیم:

const fs = require('fs');
const readline = require('readline');

const rl = readline.createInterface({
  input: fs.createReadStream('input.txt'),
  crlfDelay: Infinity
});

rl.on('line', (line) => {
  const words = splitStringBySpace(line);
  console.log(words);
});

در این کد، ابتدا به کار برده readline بخش های فایل ورودی را دریافت می کند. سپس تابع splitStringBySpace را برای تقسیم رشته ای که دریافت کرده ایم استفاده می کند. این تابع رشته را با فاصله های فارسی راهنمایی دار تقسیم می کند و به صورت مجزا برمی گرداند. نتیجه این کار این است که هر کلمه در یک عنصر مجزا قرار می گیرد. سپس این عنصرها را در کنسول نمایش می دهد.


License

License

Released Jan 30, 2024 by Mehdi Hosseini Moghadam

Attention ⚠️: The user is responsible for using AVA-Llama-3 / Persian Llama 3

Any misuse of the model (of any kind) is the responsibility of the user and not the creator

Contact

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
46edfcd

0 моделей