Характеристики

Контекст: 1 024 токена
Архитектура: gpt2 · dense
Библиотека: transformers
Опубликована: 18 апр 2023

Ссылки

baseline_codecompletion

Генерация текстаТекст → текст

GPT-2-модель для синтаксически ориентированного автодополнения Python-кода с совместным предсказанием кода и типов токенов.

61скачиваний за 30 дней6лайковвеса обновлены18 апр 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PyCoder — базовая модель автодополнения кода из репозитория Wannita/baseline_codecompletion, представленная авторами работы «Syntax-Aware On-the-Fly Code Completion». Она предназначена для предсказания продолжения Python-кода по его началу.

Модель основана на GPT-2 и обучалась с многозадачным подходом: совместно предсказывает следующий фрагмент кода и тип токена Python, например строку, число, имя или ключевое слово. Это позволяет использовать сведения о типах токенов при автодополнении без необходимости предварительно разбирать код в AST. Модель работает с текстовым представлением кода, использует библиотеку Transformers и имеет контекст длиной 1024 токена.

Подходит для контекстного автодополнения Python-кода в редакторе и исследовательских экспериментов с предсказанием кода. Карточка называет её baseline-моделью для научной работы и предлагает ссылаться на публикацию; лицензия в предоставленных данных не приведена.

Сценарии применения

автодополнение фрагментов Python-кода в редакторе
предсказание следующего токена Python по текущему контексту
подсказки продолжения кода до его полного разбора
эксперименты с многозадачным обучением моделей для автодополнения кода

Ограничения

Модель ориентирована на Python и ограничена контекстом в 1024 токена. В предоставленных данных лицензия не указана.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

PyCoder

This repository contains the baseline model for the paper Syntax-Aware On-the-Fly Code Completion

The sample code to run the model can be found in the directory: "assets/notebooks/inference.ipynb" in our GitHub: https://github.com/awsm-research/pycoder.

PyCoder is an auto code completion model which leverages a Multi-Task Training technique (MTT) to cooperatively learn the code prediction task and the type prediction task. For the type prediction task, we propose to leverage the standard Python token type information (e.g., String, Number, Name, Keyword), which is readily available and lightweight, instead of using the AST information which requires source code to be parsable for an extraction, limiting its ability to perform on-the-fly code completion (see Section 2.3 in our paper).

More information can be found in our paper.

If you use our code or PyCoder, please cite our paper.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: GPT2LMHeadModel
Ревизия весов: 11631d2