/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
1,5 млрд
Лицензия
Apache 2.0
Архитектура
gpt_neo · dense

gpt-neo-japanese-1.3B

Генерация текстаТекст → текст3 профессии

Японская GPT-Neo на 1,5 млрд параметров для генерации и продолжения японских текстов.

532скачиваний за 30 дней9лайковвеса обновлены9 дек 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

yellowback/gpt-neo-japanese-1.3B — японская авторегрессионная языковая модель семейства GPT-Neo, разработанная автором репозитория yellowback и обученная на японских текстовых корпусах CC-100, OSCAR и Wikipedia. Она предназначена для генерации продолжений текста на японском языке и может использоваться для создания черновиков, примеров и простых текстовых заготовок.

Модель содержит 1,5 млрд параметров, использует архитектуру GPTNeoForCausalLM и принимает текст, выдавая текст. Длина контекста составляет 2048 токенов. Репозиторий содержит веса в формате PyTorch; модель распространяется по лицензии Apache-2.0.

Сценарии применения

  • продолжение японского текста по началу фразы
  • создание черновиков на японском языке
  • генерация примеров японской прозы
  • подготовка текстовых заготовок на японском

Ограничения

Контекст ограничен 2048 токенами. Карточка не приводит оценок качества или гарантий точности; результаты генерации требуют проверки.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

GPT-Neo 1.3B pre-trained model for Japanese

Model Description

GPT2/GPT3 like model trained on Japanese.corpus.

Training data

  • cc100 ja
  • oscar ja
  • wikipedia ja

How to use

from transformers import pipeline
>>> generator = pipeline('text-generation', model='yellowback/gpt-neo-japanese-1.3B')
>>> generator("こんばんは、徳川家康です。", do_sample=True, max_length=50, num_return_sequences=3)

[{'generated_text': 'こんばんは、徳川家康です。 世の中を見渡してみても、残念なことだけれども、まぎれもなく「世のなか...\n5月になりました、家康です。 ゴールデンウィークも終ってしまい、世間では'},
 {'generated_text': 'こんばんは、徳川家康です。さあ今日は昨晩から降り続いた雨は上がりましたが、まだまだ雨脚は強いですが、晴れるところは晴れて欲しいですね。昨日の夜は仕事だったので、今日の夕'},
 {'generated_text': 'こんばんは、徳川家康です。 今回は、『世界史再考──日本史再考』という本を書いたあと、『世界史再考──日本史再考』の6~8章'}]

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
GPTNeoForCausalLM
Ревизия весов
69add76

0 моделей