Характеристики
- Контекст
- 1 024 токена
- Архитектура
- gpt2 · dense
- Опубликована
- 2 мар 2022
Ссылки
darkmatter-gpt2-small-x343
GPT-2 Small от Stanford CRFM для продолжения и генерации текста по текстовой подсказке.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
stanford-crfm/darkmatter-gpt2-small-x343 — авторегрессионная языковая модель семейства GPT-2 от Stanford CRFM. Репозиторий содержит чекпойнт GPT-2 Small для генерации текста; модель имеет примерно 85 млн параметров, 12 слоёв и контекст до 1024 токенов. Подходит для продолжения текста и экспериментов с генерацией на основе подсказки. Архитектура dense, класс GPT2LMHeadModel; опубликованы веса PyTorch.
Карточка не описывает специальную область применения или языковое покрытие, поэтому выводы о них не делаются. Лицензия в доступных сведениях не установлена.
Сценарии применения
- продолжение короткого текста по началу фразы
- генерация текстовых примеров для экспериментов
- проверка и демонстрация авторегрессионной генерации
- создание базовых прототипов генерации текста
Ограничения
Доступные сведения не подтверждают специальное обучение для конкретной области или языков, поэтому пригодность для таких сценариев не установлена. Контекст модели ограничен 1024 токенами.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- GPT2LMHeadModel
- Ревизия весов
- 70736a8