/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
1,7 млрд
Архитектура
gpt_neox · dense
Опубликована
7 ноя 2023

GPT-NeoX-1.3B-viet-final

Генерация текстаТекст → текст3 профессии

Предварительно обученная вьетнамская GPT-NeoX на 1,7 млрд параметров для генерации текста.

389скачиваний за 30 дней0лайковвеса обновлены8 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это авторская предварительно обученная языковая модель GPT-NeoX, разработанная Eunyoung Lee и обученная на вьетнамском наборе данных. Модель предназначена для генерации текста на вьетнамском языке.

Архитектура — GPTNeoXForCausalLM с плотной сетью; объём модели составляет 1,7 млрд параметров, контекст — 2048 токенов. Репозиторий содержит веса PyTorch. В README указано, что обучение заняло около 4,5 часа и достигло 40 000 итераций.

Сценарии применения

  • генерация текста на вьетнамском языке
  • продолжение вьетнамского текста по началу
  • создание прототипов приложений для генерации вьетнамского текста

Ограничения

Контекст модели ограничен 2048 токенами. README не приводит оценок качества или результатов тестирования.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

Pretrained GPT-NeoX model with 31.3 Vietnamese dataset. Took about 4.5 hours to reach 40,000 iterations. Trained on A100 40GB GPU and 48 core CPU.

Model Details

Model Description

  • Developed by: Eunyoung Lee
  • Model type: GPT-NeoX
  • Language(s) (NLP): Vietnamese

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
GPTNeoXForCausalLM
Ревизия весов
97c8646

0 моделей