/ Модель

Характеристики

Контекст
2 048 токенов
Архитектура
gpt2 · dense
Опубликована
27 окт 2022

gpt-fi-distill

Генерация текстаТекст → текст3 профессии

Облегчённая дистиллированная GPT-2-модель для генерации текста на финском языке, предназначенная главным образом для экспериментов и бенчмаркинга.

141скачиваний за 30 дней0лайковвеса обновлены2 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

hatanp/gpt-fi-distill — финноязычная авторегрессионная языковая модель семейства GPT-2, созданная как облегчённая дистиллированная версия более крупной модели gpt-fi. В карточке указано около 300 млн параметров против 1,2 млрд у исходной модели; модель принимает текст и генерирует продолжение. Контекст составляет 2048 токенов, веса опубликованы в формате PyTorch.

Модель предназначена для экспериментов и сравнительного тестирования генерации текста на финском языке. Автор отмечает, что модель устарела и уступает более новым финским моделям, поэтому её качество может быть недостаточным для современных прикладных сценариев. Сведения о лицензии в предоставленных данных отсутствуют.

Сценарии применения

  • генерация продолжения финского текста
  • эксперименты с финноязычной генерацией
  • сравнение компактных языковых моделей на финском языке

Ограничения

Модель устарела и, по словам автора, уступает более новым финским моделям; качество для современных прикладных задач не гарантируется. Контекст ограничен 2048 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DEPRECATED!

This model is old and no longer relevant with the releases of all around better Finnish models such as GPT-3 models from TurkuNLP

You may of course still use this for experiments and benchmarking, but I doubt this will work any better.

Old description:

Knowledge distilled version of a larger model gpt-fi. This model has approximately 300M parameters compared to the 1.2B parameters of the larger model. For scripts and more complete model information refer to the large models' page.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2LMHeadModel
Ревизия весов
dbba2e5

0 моделей