/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Опубликована
1 мая 2024

Llama-3-youko-8b-instruct-chatvector

Генерация текстаТекст → текст3 профессии

Разговорная Llama 3 на 7,5 млрд параметров, объединяющая японскую языковую адаптацию youko и инструкционную настройку для генерации текста.

22скачиваний за 30 дней8лайковвеса обновлены22 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

aixsatoshi выпустил разговорную модель Llama-3-youko-8b-instruct-chatvector — плотную авторегрессионную модель семейства Llama 3 с 7,5 млрд параметров. Она создана слиянием разностного вектора между Meta-Llama-3-8B-Instruct и Meta-Llama-3-8B с японской моделью rinna/llama-3-youko-8b, прошедшей дополнительное продолжение предобучения на японском языке. Модель рассчитана на генерацию текста в формате диалога и особенно свободно работает с японским языком; заявленный контекст составляет 8192 токена.

Модель подходит для японского чат-бота, ответов на вопросы и генерации японского текста. В карточке указана лицензия llama3. Данные о специальных ограничениях качества или безопасности не приведены.

Сценарии применения

  • чат-бот с ответами на японском языке
  • ответы на вопросы на японском языке
  • генерация связного японского текста

Ограничения

В карточке не приведены результаты оценок качества и подробные ограничения применения. Контекст модели ограничен 8192 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

youko-8bは、追加の日本語継続事前学習により日本語が大変流暢なLlama-3です。
Instructionモデルとの差分ベクトルマージを行いました。

rinna/llama-3-youko-8b + 0.8*(meta-llama/Meta-Llama-3-8B-Instruct - meta-llama/Meta-Llama-3-8B)

詳細はrinna/llama-3-youko-8bをご確認ください。

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
68d1877

0 моделей