Характеристики

Контекст: 8 192 токена
Параметры: 7,5 млрд
Размер весов: 16,1 ГБ
Лицензия: Apache 2.0
Архитектура: llama · dense
Опубликована: 26 апр 2024

Ссылки

Hugging Face

LLaMA3-8B-Chat-Chinese

pooka74

Генерация текстаТекст → текст3 профессии

Дообученная для китайского языка чат-модель Llama 3 с 7,5 млрд параметров для диалогов и генерации текста.

21скачиваний за 30 дней1лайквеса обновлены26 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

pooka74/LLaMA3-8B-Chat-Chinese — чат-модель на основе Meta Llama 3 8B, дообученная для китайского языка с помощью Llama-Factory. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; она предназначена для генерации текста в диалоговом формате. Модель принимает текст и выдаёт текст, а заявленная длина контекста составляет 8192 токена.

Модель подойдёт для китайскоязычных чат-ботов, ответов на вопросы и генерации текста. В README указано дообучение Meta Llama 3 Instruct 8B, но подробности обучающих данных и оценки качества не приведены. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0.

Сценарии применения

создание китайскоязычного чат-бота
ответы на вопросы на китайском языке
генерация китайского текста в диалоговом формате

Ограничения

README не приводит оценок качества, обучающих данных или подробных ограничений модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

finetune chinese Meta Llama3 Instruct 8b with Llama-Factory

“top.model_name": "LLaMA3-8B-Chat",
"top.finetuning_type": "lora",
"top.adapter_path": [],
"top.quantization_bit": "none",
"top.template": "llama3",
"top.rope_scaling": "none",
top.booster": "none",
"train.training_stage": "Supervised Fine-Tuning",
"train.dataset_dir": "data",
"train.dataset": [
    "alpaca_zh",
    "alpaca_gpt4_zh",
    "guanaco",
    "oaast_sft_zh",
    "wikipedia_zh"
]，
top.model_name": "LLaMA3-8B-Chat",
  "top.finetuning_type": "lora",
  "top.adapter_path": [],
  "top.quantization_bit": "none",
  "top.template": "llama3",
  "top.rope_scaling": "none",
  "top.booster": "none",
  "train.training_stage": "Supervised Fine-Tuning",
  "train.dataset_dir": "data",
  "train.dataset": [
    "alpaca_zh",
    "alpaca_gpt4_zh",
    "guanaco",
    "nsfc_zh",
    "oaast_sft_zh",
    "wikipedia_zh"
  ],

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 54473e4