/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
32,1 ГБ
Лицензия
MIT
Архитектура
llama · dense
Базовая модель
Llama-3-Open-Ko-8B-Instruct-preview
Библиотека
adapter-transformers
Опубликована
15 сен 2024

Llama3-open-Ko-3-8B-Law-Chat-Full-Weights

Генерация текстаТекст → текст

Корейско-английская чат-модель на базе Llama 3 для генерации ответов на юридические вопросы.

0скачиваний за 30 дней1лайквеса обновлены15 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

yainage90/Llama3-open-Ko-3-8B-Law-Chat-Full-Weights — чат-модель для генерации ответов на юридические вопросы, созданная на основе beomi/Llama-3-Open-Ko-8B-Instruct-preview. По метаданным это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и ориентирована на корейский и английский языки. В README приведён пример ответа на корейском языке о возможных последствиях обвинения в нападении и урегулировании спора.

Сценарии применения

  • ответы на вопросы о корейском уголовном праве
  • объяснение возможных последствий обвинения в нападении
  • подготовка справочных ответов по юридическим ситуациям
  • черновики ответов юридического чат-бота

Ограничения

README содержит лишь единичный пример по корейскому уголовному праву; качество и точность юридических ответов не подтверждены, поэтому ответы требуют проверки специалистом.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face
import torch
import huggingface_hub
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = 'yainage90/Llama3-open-Ko-3-8B-Law-Chat-Full-Weights'

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype="auto",
    device_map="auto",
)

model.eval()

question = '''
술을 마시다가 옆테이블에서 먼저 시비를 걸었고 심하게 싸우진 않았습니다
서로 언성이 높아지다가 제가 술김에 화가 나서 화를 참지 못하고 상대의 어깨쪽 팔부분을 꽉 잡았습니다 
당연히 뭐 다치거나 상해입은 부분은 없는데 제가 본인 몸에 손을 댔다는 이유로 폭행죄로 신고를 했고 경찰 조사를 받았습니다 
상대가 합의 의사가 없을 경우 벌금은 어느정도 나올까요??
'''

messages = [
    {"role": "system", "content": "친절한 챗봇으로서 상대방의 요청에 최대한 자세하고 친절하게 답하자. 모든 대답은 한국어(Korean)으로 대답해줘."},
    {"role": "user", "content": question},
]

input_ids = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt"
).to(model.device)

terminators = [
    tokenizer.eos_token_id,
    tokenizer.convert_tokens_to_ids("<|eot_id|>")
]

with torch.no_grad():
    outputs = model.generate(
        input_ids,
        max_new_tokens=1024,
        eos_token_id=terminators,
        do_sample=True,
        temperature=0.9,
        top_p=0.9,
    )

response = outputs[0][input_ids.shape[-1]:]
print(tokenizer.decode(response, skip_special_tokens=True))
상대방이 처벌을 원하지 않는다는 의사표시를 하면 처벌받지 않을 수는 있습니다. 그러나 만약 상대방이 처벌을 원한다면 100만원 이상의 벌금형이 예상됩니다.
벌금형을 받게 되면 100만원 이상의 금전적 손해와 함께, 범죄경력조회에서 전과기록이 남게 됩니다. 이 후, 경찰, 검찰, 법원의 통보를 받게 되며, 공무원, 교원, 공기업 취업 등이 제한될 수 있습니다.
따라서 상대방과의 원만한 합의를 통해 폭행죄를 인정하지 않고 무혐의로 사건을 종결짓는 것이 최선의 방법입니다. 경찰조사 당시 상대방에게 연락처나 연락할 수 있는 방법을 물어보시고, 필요시 변호사를 통한 중재나 합의를 진행하시기 바랍니다. </질문자님의 댓글이 작성된 곳에 댓글로 도움 되셨으면 합니다. </inish

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · adapter-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
ea5a724

0 моделей