Tiny Qwen2ForCausalLM — минимальная причинная языковая модель семейства Qwen2, опубликованная пространством trl-internal-testing для unit-тестов библиотеки TRL. Она предназначена для проверки сценариев обучения и оптимизации языковых моделей, включая SFT, DPO, PPO и GRPO, а также для экспериментов с генерацией текста и conversational-интерфейсом.

Модель имеет архитектуру Qwen2ForCausalLM, поддерживает text-generation, использует Transformers и формат Safetensors. В предоставленных метаданных указаны примерно 1,2 млн параметров и нативное контекстное окно 32 768 токенов. Поддерживаемые естественные языки и лицензия по доступным данным не установлены.

Главное преимущество модели — крайне малый размер, удобный для быстрых автоматизированных тестов и разработки пайплайнов TRL. Из-за минимального размера и тестового назначения она не предназначена для качественных ответов, промышленного использования или оценки возможностей полноразмерных языковых моделей; лицензия в доступных источниках не указана.