/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Базовая модель
japanese-stablelm-base-gamma-7b
Опубликована
6 фев 2024

japanese-stablelm-instruct-gamma-7b-repro

Генерация текстаТекст → текст9 профессий

Японская модель Mistral на 7,1 млрд параметров для генерации текста и диалогового выполнения инструкций.

93скачиваний за 30 дней0лайковвеса обновлены21 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ohwi/japanese-stablelm-instruct-gamma-7b-repro — воспроизведение японской модели Japanese Stable LM Instruct Gamma 7B, дообученное Хвигеоном О и Фудзики Накамурой на основе Japanese Stable LM Base Gamma 7B. Это авторегрессионная плотная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового следования инструкциям на японском языке. Контекст модели составляет 4096 токенов.

Модель обучалась на японских переводах наборов Databricks Dolly-15k и части Anthropic HH, а также на подмножестве izumi-lab/llm-japanese-dataset с новостями Wikinews. В карточке приведены результаты оценки на Nejumi-leaderboard Neo, включая llm-jp-eval и Japanese Mt-Bench. Весы доступны в формате safetensors; лицензия — Apache-2.0. README отмечает, что это воспроизведение, а не официальная модель Japanese Stable LM Instruct Gamma 7B.

Сценарии применения

  • ответы на запросы и инструкции на японском языке
  • ведение текстового диалога на японском языке
  • написание и редактирование японских текстов
  • извлечение сведений из японских текстов
  • решение задач на рассуждение и понимание японского языка

Ограничения

Результаты бенчмарков в карточке показывают неоднородное качество по задачам; модель является воспроизведением и может отличаться от официальной версии Japanese Stable LM Instruct Gamma 7B.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Reproduced Japanese Stable LM Instruct Gamma 7B

Model Description

This is a reproduction of 7B-parameter decoder-only Japanese language model fine-tuned on instruction-following datasets, built on top of the base model Japanese Stable LM Base Gamma 7B.

This model is trained with notus code base.

If you are in search of the official model, please check Japanese Stable LM Instruct Gamma 7B.

Model Details

Training Datasets

Benchmarks

The result is evaluated by Nejumi-leaderboard Neo.

  • llm-jp-eval:

    AVGELFAMCMRNLIQARCchabsajampjanlijcommonsenseqajemhopqajnlijsemjsickjsquadmawpsniilcwiki_coreferencewiki_dependencywiki_nerwiki_paswiki_reading
    0.2600.140.270.10.3020.26190.74640.00.150.50.270.25280.040.670.150.74640.10.2710.00.00.00.00.7
  • Japanese Mt-Bench:

    codingextractionhumanitiesmathreasoningroleplaystemwriting
    1.31.752.351.453.45.84.33.1
  • Overall Average: 0.283125

Credits

The training was carried out by Hwigeon Oh and Fujiki Nakamura.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
3168332

0 моделей