/ Модель

Характеристики

Контекст
131 072 токена
Параметры
3,2 млрд
Размер весов
6,4 ГБ
Лицензия
Llama 3.2
Архитектура
llama · dense
Базовая модель
Llama-3.2-3B-Instruct
Библиотека
transformers
Опубликована
26 сен 2024

EZO-Llama-3.2-3B-Instruct-dpoE

Генерация текстаТекст → текст3 профессии

Диалоговая модель AXCXEPT на базе Llama 3.2 3B Instruct, дообученная для японских задач и работы с японско-английскими данными.

51скачиваний за 30 дней10лайковвеса обновлены26 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AXCXEPT разработала эту диалоговую модель на базе Meta Llama 3.2 3B Instruct, дообучив её для улучшения работы с японскими задачами на японско-английских данных. Модель с плотной архитектурой Llama содержит 3,2 млрд параметров и предназначена для генерации текста в формате диалога; её можно использовать для японско-английского общения и ответов на запросы. Она поддерживает контекст до 131 072 токенов и запускается через Transformers.

Модель распространяется по лицензии Llama 3.2 Community License Agreement. Разработчик характеризует её как экспериментальный прототип для исследований и разработок: качество и результаты не гарантируются, коммерческое использование и применение в критически важных средах не предполагаются.

Сценарии применения

  • ответы на вопросы и диалог на японском языке
  • генерация текста на японском и английском
  • японско-английское общение с языковой моделью

Ограничения

Модель обозначена разработчиком как экспериментальный прототип: качество не гарантируется, она не предназначена для коммерческого применения или критически важных сред. Карточка заявляет улучшение для японских задач на японско-английских данных, но не приводит количественных оценок качества.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

AXCXEPT/EZO-Llama-3.2-3B-Instruct-dpoE

image/png

モデル情報 / Model Information

This model is based on Meta AI's Llama 3.2 with fine tuning to improve performance on Japanese tasks. Based on the base Llama-3.2-3B-Instruct, performance was improved on the Japanese-English dataset.

このモデルは、Meta AI の Llama 3.2 をベースに、日本語タスクでの性能を向上させるためにファインチューニングを行ったものです。 ベースとなるLlama-3.2-3B-Instructをもとに、日英のデータセットで性能向上を行いました。

法的通知 / Legal Notice

This model is subject to the Llama 3.2 Community License Agreement. For detailed information, please refer to the official Llama license page: Llama 3.2 License

このモデルは Llama 3.2 Community License Agreement に従います。詳細については、Llama の公式ライセンスページをご参照ください。

使用方法 / Usage

import torch
from transformers import pipeline

model_id = "AXCXEPT/EZO-Llama-3.2-3B-Instruct-dpoE"
pipe = pipeline(
    "text-generation",
    model=model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)
messages = [
    {"role": "system", "content": "You are a pirate chatbot who always responds in pirate speak!"},
    {"role": "user", "content": "Who are you?"},
]
outputs = pipe(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

ベンチマーク結果 / Benchmark Results

image/png

[Disclaimer]

This model is provided for research and development purposes only and should be considered an experimental prototype. It is not intended for commercial use or deployment in mission-critical environments. Use of this model is at the user's own risk and its performance and results are not guaranteed. Axcxept Corporation shall not be liable for any direct, indirect, special, incidental, or consequential damages or any loss whatsoever resulting from the use of this model, regardless of the results obtained. Users fully understand the risks associated with the use of this model and use it at their own discretion.

このモデルは研究開発のみを目的として提供されるものであり、実験的なプロトタイプとみなされるべきモデルです。 商業的な使用やミッションクリティカルな環境への配備を意図したものではありません。 本モデルの使用は、使用者の責任において行われるものとし、その性能および結果は保証されません。 Axcxept株式会社は、直接的、間接的、特別、偶発的、結果的な損害、または本モデルの使用から生じるいかなる損失に対しても、得られた結果にかかわらず、一切の責任を負いません。 利用者は、本モデルの使用に伴うリスクを十分に理解し、自己の判断で使用するものとします。

[Hardware]

H100 × 8(Running in 3h)

クレジット / Credits

This model is based on Meta AI's Llama 3.2. We acknowledge and thank the Meta AI team for their work on the base model.

このモデルは Meta AI の Llama 3.2 をベースにしています。ベースモデルの開発に携わった Meta AI チームに感謝と尊敬の意を表します。

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
0b374d6

0 моделей