モデルの概要
line-corporation/japanese-large-lm-1.7bのベースモデルに対し，sftによるfull instruction tuningを行いました．
Характеристики
- Контекст
- 2 048 токенов
- Архитектура
- gpt2 · dense
- Опубликована
- 20 янв 2024
Ссылки
line-japanese-large-lm-1.7b-kunishou-databricks-dolly-15k-ja-full-instruction-sft
Генерация текстаТекст → текст
Японская GPT-2-модель с 1,7 млрд параметров, дообученная на инструкциях для генерации ответов и текста.
108скачиваний за 30 дней0лайковвеса обновлены20 янв 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это японская языковая модель для генерации текста и выполнения инструкций. Модель создана на основе line-corporation/japanese-large-lm-1.7b и дообучена методом SFT на наборе kunishou/databricks-dolly-15k-ja с полным обновлением параметров.
Модель предназначена для ответов на инструкции и запросы на японском языке. Она использует архитектуру GPT-2 с плотной языковой моделью, содержит 1,7 млрд параметров, принимает текст и генерирует текст; контекст составляет до 2048 токенов. Репозиторий содержит веса в формате safetensors.
Карточка не приводит оценок качества или подробных ограничений; результаты могут зависеть от формулировки инструкции и выходить за пределы контекста. Условия лицензии в предоставленных данных не указаны.
Сценарии применения
- ответы на инструкции на японском языке
- генерация японского текста по запросу
- подготовка черновиков ответов на вопросы
- выполнение текстовых запросов на японском языке
Ограничения
Контекст ограничен 2048 токенами; карточка не сообщает оценок качества и подробных ограничений. Лицензия не указана в предоставленных данных.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- GPT2LMHeadModel
- Ревизия весов
- 211a5b3