Характеристики
- Контекст
- 2 048 токенов
- Параметры
- 1,2 млрд
- Архитектура
- gpt_neox · dense
- Опубликована
- 7 мая 2024
Ссылки
EleutherAI_pythia-1b-deduped__reward__tldr
Reward-модель на базе EleutherAI Pythia-1B для оценки качества текстов и сводок в задаче TL;DR.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель cleanrl/EleutherAI_pythia-1b-deduped__reward__tldr разработана сообществом CleanRL на базе EleutherAI Pythia-1B Deduped. Это reward-модель для оценки качества текстовых ответов в задаче TL;DR, представленная как модель классификации текста и предназначенная для использования в контурах обучения с подкреплением языковых моделей, включая PPO и RLOO. Архитектурно модель основана на GPT-NeoX и использует Transformers и PyTorch; её размер составляет около 1,2 млрд параметров, а нативная длина контекста — 2048 токенов.
Сценарии применения
- оценка качества автоматически сгенерированных сводок
- вычисление reward-сигнала для обучения языковой модели
- ранжирование вариантов текстовых ответов
- оценка ответов в экспериментах PPO и RLOO
Ограничения
Модель предназначена для оценки текстов, а не для генерации ответов общего назначения. Она ориентирована на задачу TL;DR, поэтому её оценки могут плохо переноситься на другие типы текстов и критерии качества; сведения о лицензии и подробностях обучающего набора в доступной карточке не указаны.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…
- Класс архитектуры
- GPTNeoXForSequenceClassification
- Ревизия весов
- 4d47987