/ Модель

Характеристики

Контекст
1 024 токена
Лицензия
afl-3.0
Архитектура
gpt2 · dense
Опубликована
19 мар 2023

QazGPT2

Генерация текстаТекст → текст3 профессии

GPT-2, обученная с нуля для генерации текста на казахском языке в латинской графике.

15скачиваний за 30 дней6лайковвеса обновлены19 мар 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

amandyk/QazGPT2 — языковая модель GPT-2 для казахского языка в латинской графике, обученная с нуля на новостных и энциклопедических текстах. Модель предназначена прежде всего для генерации связного текста на казахском; автор также указывает классификацию текстов и ответы на вопросы среди возможных сценариев, однако отдельные результаты оценки этих задач не приводятся.

Модель использует архитектуру GPT2LMHeadModel, принимает текст и генерирует текст. В карточке указана длина контекста 1024 токена. Обучение проводилось на корпусе примерно из четырёх миллионов предложений. Репозиторий содержит веса PyTorch и распространяется по лицензии AFL-3.0.

Автор предупреждает о возможных ошибках и смещениях в ответах и рекомендует тщательно оценивать качество перед применением в производственных системах.

Сценарии применения

  • генерация текста на казахском языке латиницей
  • продолжение новостных текстов на казахском
  • создание черновиков энциклопедических статей на казахском
  • эксперименты с классификацией казахских текстов
  • эксперименты с ответами на вопросы по-казахски

Ограничения

Возможны ошибки и смещения; автор рекомендует оценить качество модели перед применением в производственной системе. Для классификации и ответов на вопросы отдельные результаты оценки в карточке не приведены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Welcome to the GPT-2 repository for the Kazakh language(latin alphabet)! This repository contains a language model that has been trained from scratch on a combination of news and wiki corpora in Kazakh language.
The model is capable of generating coherent and natural-sounding text in Kazakh, and can be used for a wide range of NLP tasks, including text classification, question answering, and text generation.

Please note that while the model has been trained on a 4m sentence corpus of text, it may still contain biases or errors. As with any machine learning model, it is important to thoroughly evaluate its performance before using it in production applications.

I recommend to use this qazaq latin converter for testing: https://masa.kz/en

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2LMHeadModel
Ревизия весов
443e5c1

0 моделей