Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
CodeParrot — языковая модель для генерации кода, разработанная в рамках главы «Training Transformers from Scratch» книги NLP with Transformers. Это крупная версия GPT-2 с 1,5 млрд параметров, обученная на датасете Python-кода CodeParrot. Модель предназначена для продолжения и генерации фрагментов кода на Python по текстовой подсказке.
Модель использует архитектуру GPT-2 и принимает текст, выдавая текст; её контекст составляет 1024 токена. Карточка не сообщает отдельную лицензию модели. Это учебная модель из проекта книги, поэтому её применимость к производственным задачам и качество сгенерированного кода следует оценивать отдельно.
Сценарии применения
генерация кода на Python по текстовой подсказке
автодополнение фрагментов Python-кода
создание примеров кода для обучения
эксперименты с обучением GPT-2 на исходном коде
Ограничения
Контекст ограничен 1024 токенами; модель обучена на Python-коде и может генерировать неверный или небезопасный код. Лицензия в предоставленных данных не указана.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель