Характеристики
- Контекст
- 512 токенов
- Размер весов
- 3 МБ
- Лицензия
- MIT
- Архитектура
- gpt2 · dense
- Опубликована
- 28 мар 2023
Ссылки
onnx-tiny-random-gpt2-with-merge
Небольшая тестовая GPT-2-модель в формате ONNX для извлечения признаков из текста и проверки совместимости инференса.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
fxmarty/onnx-tiny-random-gpt2-with-merge — модель, опубликованная Félix Marty на Hugging Face. Это небольшая версия GPT-2, экспортированная в формат ONNX и содержащая варианты декодера с объединёнными графами и поддержкой прошлого состояния. Модель предназначена для извлечения признаков из текста через pipeline feature-extraction и использования с Transformers и ONNX.
Модель работает с текстовой модальностью и имеет контекст длиной 512 токенов. Она распространяется по лицензии MIT. Название tiny-random указывает на тестовый характер и случайно инициализированные веса, поэтому модель пригодна прежде всего для проверки совместимости, экспорта и инференса ONNX, а не для качественных прикладных языковых задач.
Сценарии применения
- извлечение признаков из текста
- тестирование pipeline feature-extraction
- проверка ONNX-инференса GPT-2
- тестирование декодера с кэшированием прошлого состояния
Ограничения
Модель имеет случайно инициализированные тестовые веса, поэтому не предназначена для получения качественных семантических представлений или решения прикладных языковых задач. Поддерживаемый контекст ограничен 512 токенами.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
В репозитории нет весов в формате PyTorch/safetensors.
- Класс архитектуры
- GPT2Model
- Ревизия весов
- bc3de2f