/ Модель

Характеристики

Контекст
8 192 токена
Размер весов
12,7 ГБ
Лицензия
MIT
Архитектура
gpt_bigcode · dense
Опубликована
5 окт 2024

repoformer-3b

Генерация текстаТекст → текст3 профессии

Воспроизведение Repoformer-3B для продолжения фрагментов кода и функций Python.

93скачиваний за 30 дней0лайковвеса обновлены12 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Repoformer-3B — личное воспроизведение модели, описанной в научной статье. По карточке, модель обучена примерно на 300 тысячах примеров продолжения фрагментов кода Python и функций, собранных из Stack. Она предназначена для генерации продолжений кода и функций Python по текстовому контексту.

Модель использует плотную архитектуру GPTBigCodeForCausalLM и распространяется в формате PyTorch. Размер контекста — 8192 токена. Репозиторий создан в октябре 2024 года. Лицензия — MIT.

Описание не уточняет качество модели, её ограничения или языки интерфейса помимо обучающих данных на Python; поэтому их нельзя оценить по карточке. Указание на личное воспроизведение статьи также не подтверждает эквивалентность исходной модели.

Сценарии применения

  • продолжение фрагментов кода Python
  • автодополнение функций Python
  • генерация кода Python по контексту

Ограничения

Обучающие данные описаны как примеры на Python, поэтому пригодность для других языков программирования не подтверждена. README не приводит результатов оценки качества.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is a personal reproduction of the Repoformer-3B model in this paper. This model is trained on ~300k Python chunk and function completion instances created from the Stack.

You can follow the instructions here to use the model.

If you find this useful, please cite:

@inproceedings{DBLP:conf/icml/0054AZR024,
  author       = {Di Wu and
                  Wasi Uddin Ahmad and
                  Dejiao Zhang and
                  Murali Krishna Ramanathan and
                  Xiaofei Ma},
  title        = {Repoformer: Selective Retrieval for Repository-Level Code Completion},
  booktitle    = {Forty-first International Conference on Machine Learning, {ICML} 2024,
                  Vienna, Austria, July 21-27, 2024},
  publisher    = {OpenReview.net},
  year         = {2024},
  url          = {https://openreview.net/forum?id=moyG54Okrj},
  timestamp    = {Mon, 02 Sep 2024 16:55:25 +0200},
  biburl       = {https://dblp.org/rec/conf/icml/0054AZR024.bib},
  bibsource    = {dblp computer science bibliography, https://dblp.org}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
GPTBigCodeForCausalLM
Ревизия весов
2d436ca

0 моделей