EleutherAI_pythia-1b-deduped__sft__tldr

cleanrl/EleutherAI_pythia-1b-deduped__sft__tldr — дообученная модель семейства Pythia, разработанного EleutherAI и опубликованная пользователем cleanrl на Hugging Face. Это авторегрессионная языковая модель архитектуры GPT-NeoX с примерно 1,2 млрд параметров и контекстом до 2048 токенов.

Модель предназначена для генерации кратких резюме Reddit-публикаций в формате TL;DR и использовалась как SFT-чекпойнт в экспериментах TRL с PPO и другими методами обучения по предпочтениям. Она принимает текстовый запрос и генерирует продолжение, поэтому подходит для суммаризации длинных постов и связанных исследовательских экспериментов по RLHF.

Сильная сторона модели — специализация на кратком пересказе публикаций Reddit и относительно небольшой размер, упрощающий локальный запуск по сравнению с более крупными LLM. Ограничения связаны с узкой специализацией, коротким контекстом и отсутствием подтверждённых сведений о поддерживаемых естественных языках. Лицензия в доступных источниках не установлена.