/ Модель

Характеристики

Контекст
1 024 токена
Лицензия
Apache 2.0
Архитектура
gpt2 · dense
Опубликована
2 мар 2022

alias-gpt2-small-x21

Генерация текстаТекст → текст3 профессии

GPT-2-модель Stanford CRFM для генерации и продолжения текста по текстовому промпту.

21 194скачиваний за 30 дней4лайкавеса обновлены3 дек 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

stanford-crfm/alias-gpt2-small-x21 — языковая модель для генерации текста, разработанная Stanford CRFM и опубликованная в формате PyTorch. Она основана на GPT-2; архитектура — плотная GPT-2 с классом GPT2LMHeadModel, а размер контекста составляет 1024 токена. Карточка указывает прямое применение для генерации текста, но не описывает специальную предметную область или целевые языки.

Модель подходит для продолжения заданного текста и других сценариев генерации на основе текстового промпта. Лицензия — Apache 2.0. Модель может воспроизводить вредные стереотипы и предвзятые высказывания; её не следует использовать для намеренного создания враждебной или отчуждающей среды.

Сценарии применения

  • продолжение заданного текста
  • генерация текста по промпту
  • создание черновиков текста
  • эксперименты с генерацией на основе GPT-2

Ограничения

Генерации могут содержать вредные стереотипы и предвзятые высказывания. Не предназначена для намеренного создания враждебной или отчуждающей среды.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for alias-gpt2-small-x21

Model Details

Model Description

More information needed

  • Developed by: Stanford CRFM

  • Shared by [Optional]: Stanford CRFM

  • Model type: Text Generation

  • Language(s) (NLP): More information needed

  • License: Apache 2.0

  • Parent Model: GPT-2

  • Resources for more information:

Uses

Direct Use

This model can be used for the task of Text Generation.

Downstream Use [Optional]

More information needed.

Out-of-Scope Use

The model should not be used to intentionally create hostile or alienating environments for people.

Bias, Risks, and Limitations

Significant research has explored bias and fairness issues with language models (see, e.g., Sheng et al. (2021) and Bender et al. (2021)). Predictions generated by the model may include disturbing and harmful stereotypes across protected classes; identity characteristics; and sensitive, social, and occupational groups.

Recommendations

Users (both direct and downstream) should be made aware of the risks, biases and limitations of the model. More information needed for further recommendations.

Training Details

Training Data

More information needed

Training Procedure

Preprocessing

More information needed

Speeds, Sizes, Times

More information needed

Evaluation

Testing Data, Factors & Metrics

Testing Data

More information needed

Factors

More information needed

Metrics

More information needed

Results

More information needed

Model Examination

More information needed

Environmental Impact

Carbon emissions can be estimated using the Machine Learning Impact calculator presented in Lacoste et al. (2019).

  • Hardware Type: More information needed
  • Hours used: More information needed
  • Cloud Provider: More information needed
  • Compute Region: More information needed
  • Carbon Emitted: More information needed

Technical Specifications [optional]

Model Architecture and Objective

More information needed

Compute Infrastructure

More information needed

Hardware

More information needed

Software

More information needed.

Citation

BibTeX:

More information needed

APA:

More information needed

Glossary [optional]

More information needed

More Information [optional]

More information needed

Model Card Authors [optional]

Stanford CRFM in collaboration with Ezi Ozoani and the Hugging Face team

Model Card Contact

More information needed

How to Get Started with the Model

Use the code below to get started with the model.

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("stanford-crfm/alias-gpt2-small-x21")

model = AutoModelForCausalLM.from_pretrained("stanford-crfm/alias-gpt2-small-x21")

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2LMHeadModel
Ревизия весов
ef2e2aa

0 моделей