/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
Meta-Llama-3.1-8B-Instruct
Опубликована
4 сен 2024

Meta-Llama-3.1-8B-Instruct

Генерация текстаТекст → текст6 профессий

Дообученная диалоговая модель на основе Llama 3.1 8B Instruct для ответов на вопросы и общения на турецком и английском языках.

25скачиваний за 30 дней0лайковвеса обновлены6 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

zgrgr разместил дообученную диалоговую модель на архитектуре Llama 3.1 8B Instruct. Она предназначена для ответов на вопросы и общения на турецком и английском языках, а также заявлена как поддерживающая другие языки. Примеры в карточке показывают ответы на общие вопросы и вопросы о юридической сфере, однако модель не описана как специализированная юридическая система.

Модель использует плотную архитектуру Llama с причинным языковым моделированием, содержит 7,5 млрд параметров и принимает текст, выдавая текстовые ответы. Заявленная длина контекста — 8192 токена. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка содержит противоречивые сведения о точной базовой версии: README упоминает Meta Llama 3B и варианты написания Llama 3 8B, тогда как метаданные указывают Meta-Llama-3.1-8B-Instruct; точная основа здесь приведена по метаданным.

Сценарии применения

  • ответы на вопросы на турецком языке
  • ответы на вопросы на английском языке
  • общение с чат-ботом на разные темы
  • подготовка справочных ответов по юридической тематике

Ограничения

В README встречаются несогласованные указания на базовую версию модели. Приведённые примеры не подтверждают точность юридических ответов и не заменяют профессиональную консультацию.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Meta_llama-3-8B-Instruct

Model Description

This is a fine-tuned version of Meta-llama-3B for Turkish instructions.

Smart Chatbot

Welcome to the Smart Chatbot! Smart is a sophisticated conversational AI model based on the zgrgr/Meta_llama-3-8B-Instruct architecture. It’s designed to provide insightful and informative responses to user queries in both Turkish and English.

Features

  • Language Support: Smart can converse in both Turkish, English and other languages .
  • Intelligent Responses: Provides detailed answers to questions about various topics.

Example Usage

Here’s how you can interact with Smart:

!pip install -qU transformers bitsandbytes accelerate

import transformers
import torch

model_id = "zgrgr/Meta_llama-3-8B-Instruct"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16, "load_in_8bit": True},
    device_map="auto",
)

# For English
messages = [
    {"role": "system", "content": "You are a helpful chatbot named Smart who always responds with detailed and accurate information."},
    {"role": "user", "content": "What is the law offices structure about in the US?"}
]

# For Turkish
messages = [
    {"role": "system", "content": "Sen, Smart isimli Türkçe konuşan bir chatbotsun."},
    {"role": "user", "content": "Türkiyedeki baro yapılanması nasıldır?"}
]

outputs = pipeline(
    messages,
    max_new_tokens=1024,
    do_sample=True,
    temperature=0.5,
    top_p=0.5,
    top_k=100,
)

print(outputs[0]["generated_text"][-1]["content"])

Questions & Answers

Turkish Query: "Türkiyedeki baro yapılanması nasıldır?"

Turkish Answer:

  • Merhaba! Baro yapılanması, Türkiye'deki avukatlık mesleğinin örgütlenmesini ifade eder. Türkiye'de barolar, avukatların mesleki örgütlenmesini ve faaliyetlerini düzenleyen kuruluşlardır.

Türkiye'de, barolar 1932 yılında kurulan Türkiye Barolar Birliği (TBB) altında toplanmıştır. TBB, avukatların mesleki haklarını savunmak, mesleki eğitim ve öğretimi geliştirmek, avukatların mesleki örgütlenmesini sağlamak ve kamuoyunu bilgilendirmek gibi amaçlar doğrultusunda faaliyet gösterir.

Her baro, kendi üyelerinin haklarını savunmak, mesleki eğitim ve öğretimi geliştirmek, kamuoyunu bilgilendirmek ve diğer barolarla işbirliği yapmak gibi amaçlar doğrultusunda faaliyet gösterir. Barolar, ayrıca mahkemelerde avukatların temsilciliklerini de sağlar.

Türkiye'deki barolar, aşağıdaki gibi sınıflandırılır:

  • Ankara Barosu
  • Adana Barosu
  • Adıyaman Barosu
  • Afyonkarahisar Barosu
  • Ağrı Barosu
  • Amasya Barosu
  • Antalya Barosu
  • Ardahan Barosu
  • Artvin Barosu
  • Aydın Barosu
  • Balıkesir Barosu
  • Bilecik Barosu
  • Bingöl Barosu
  • Bitlis Barosu
  • Bolu Barosu
  • Burdur Barosu
  • Bursa Barosu
  • Çanakkale Barosu
  • Çankırı Barosu
  • Çorum Barosu
  • Denizli Barosu
  • Diyarbakır Barosu
  • Edirne Barosu
  • Elazığ Barosu
  • Erzincan Barosu
  • Erzurum Barosu
  • Eskişehir Barosu
  • Gaziantep Barosu
  • Giresun Barosu
  • Hatay Barosu
  • İçel Barosu
  • Iğdır Barosu
  • İstanbul Barosu
  • İzmir Barosu
  • Kahramanmaraş Barosu
  • Karabük Barosu
  • Karaman Barosu
  • Kars Barosu
  • Kastamonu Barosu
  • Kayseri Barosu
  • Kırıkkale Barosu
  • Kırşehir Barosu
  • Kocaeli Barosu
  • Konya Barosu
  • Kütahya Barosu
  • Malatya Barosu
  • Manisa Barosu
  • Mardin Barosu
  • Mersin Barosu
  • Muğla Barosu
  • Muş Barosu
  • Nevşehir Barosu
  • Niğde Barosu
  • Ordu Barosu
  • Osmaniye Barosu
  • Rize Barosu
  • Sakarya Barosu
  • Samsun Barosu
  • Şanlıurfa Barosu
  • Siirt Barosu
  • Sivas Barosu
  • Tekirdağ Barosu
  • Tokat Barosu
  • Trabzon Barosu
  • Tunceli Barosu
  • Uşak Barosu
  • Van Barosu
  • Yalova Barosu
  • Yozgat Barosu
  • Zonguldak Barosu

Bu barolar, Türkiye'deki avukatların örgütlenmesini ve faaliyetlerini düzenlemektedir.

English Query: "What is the law offices structure about in the US?"

English Answer:

  1. Law Firms:
    • Large law firms: These firms have multiple offices, hundreds of attorneys, and a diverse range of practice areas. Examples include Baker McKenzie, DLA Piper, and Latham & Watkins.
    • Mid-sized law firms: These firms have multiple offices, dozens of attorneys, and a focus on specific practice areas. Examples include Foley & Lardner and Quarles & Brady.
    • Small law firms: These firms have a single office, fewer than 20 attorneys, and often specialize in a specific area of law. Examples include solo practitioners or small firms with 2-5 attorneys.
  2. Practice Groups:
    • Within law firms, attorneys are often organized into practice groups or departments, which focus on specific areas of law, such as:
      • Litigation (e.g., intellectual property, employment, or commercial litigation)
      • Corporate (e.g., mergers and acquisitions, securities, or tax)
      • Intellectual Property (e.g., patent, trademark, or copyright)
      • Real Estate
      • Family Law
  3. Attorney Levels:
    • Partners: Senior attorneys who own equity in the firm and are responsible for generating revenue. Partners often have a significant say in firm decision-making.
    • Of Counsel: Experienced attorneys who are not partners but still contribute to the firm's expertise and revenue.
    • Associates: Junior attorneys who are still developing their skills and are often responsible for supporting partners and of counsel.
    • Paralegals: Non-attorney legal professionals who assist attorneys with research, document preparation, and other tasks.
  4. Firm Leadership:
    • Managing Partners: The highest-ranking attorney in a law firm, responsible for overall strategy, management, and decision-making.
    • Practice Group Leaders: Senior attorneys who lead specific practice groups or departments within the firm.
    • Department Chairs: Attorneys who oversee specific departments or areas of practice within the firm.
  5. Support Staff:
    • Administrative Assistants: Non-attorney staff who provide administrative support to attorneys, including scheduling, document preparation, and communication.
    • Legal Assistants: Non-attorney staff who assist attorneys with legal research, document preparation, and other tasks.
    • IT and Operations Staff: Professionals who manage the firm's technology, infrastructure, and operations.

Keep in mind that this is a general outline, and the specific structure of a law office can vary depending on the firm's size, type, and practice areas.

License

This model is licensed under Apache-2.0, which means it can be used freely for both commercial and non-commercial purposes.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
036f9d1

0 моделей