/ Модель

Характеристики

Контекст
1 024 токена
Архитектура
gpt2 · dense
Опубликована
9 июл 2022

GPcroaT

Генерация текстаТекст → текст3 профессии

GPcroaT — модель GPT-2 для генерации текста на хорватском языке.

34скачиваний за 30 дней2лайкавеса обновлены22 авг 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

GPcroaT — авторегрессионная языковая модель на архитектуре GPT-2, опубликованная пользователем domsebalj. Она предназначена для генерации текста на хорватском языке и связана с датасетом hrWaC. Модель работает с текстом и имеет контекстное окно 1024 токена.

В репозитории представлены веса в формате TensorFlow. Карточка предлагает делиться результатами использования модели; сведений о лицензии и конкретных сценариях применения в доступных данных нет.

Сценарии применения

  • генерация продолжения хорватского текста
  • создание черновиков на хорватском языке
  • автодополнение хорватских фраз

Ограничения

Контекст ограничен 1024 токенами. В доступных данных не приведены лицензия и оценка качества модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

If you use this model for own tasks, please share your results in the community tab.

With Tensorflow you can use:

from transformers import GPT2Tokenizer, TFGPT2Model

tokenizer = GPT2Tokenizer.from_pretrained("domsebalj/GPcroaT")
model = TFGPT2LMHeadModel.from_pretrained("domsebalj/GPcroaT")

text = "Zamijeni ovaj tekst vlastitim"

input_ids = tokenizer.encode(text, return_tensors='tf')

beam_output = model.generate(
  input_ids,
  max_length = 80,
  min_length = 10,
  num_beams = 10,
  temperature = 5.7,
  no_repeat_ngram_size=2,
  num_return_sequences=5,
  repetition_penalty =7.5,
  length_penalty = 1.5,
  top_k = 50
)

output = []
for i in beam_output:
  output.append(tokenizer.decode(i))
  
print(output)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры
GPT2LMHeadModel
Ревизия весов
ffa00e1

0 моделей