Характеристики

Контекст: 2 048 токенов
Лицензия: OpenRAIL
Архитектура: gpt_bigcode · dense
Опубликована: 7 фев 2023

Ссылки

Hugging Face

santacoder-fast-inference

bigcode

Заполнение пропусковТекст → текст3 профессии

SantaCoder-fast-inference от BigCode — модель для быстрого заполнения пропусков в коде и тексте.

2 407скачиваний за 30 дней4лайкавеса обновлены29 мар 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

bigcode/santacoder-fast-inference — вариант SantaCoder, опубликованный BigCode и предназначенный для быстрого инференса. Это плотная авторегрессионная модель семейства GPTBigCode; карточка Hugging Face задаёт для неё задачу fill-mask и контекст 2048 токенов. Модель может использоваться для заполнения пропусков в коде и текста, включая сценарии завершения фрагментов кода.

Репозиторий содержит веса PyTorch и имеет лицензию OpenRAIL. Карточка не сообщает размер модели и языки программирования. В доступных сведениях нет сравнительных оценок скорости или качества; назначение для быстрого инференса отражено в названии модели.

Сценарии применения

заполнение пропущенного фрагмента кода
завершение кода при автодополнении
восстановление пропусков в текстовом фрагменте

Ограничения

Карточка модели не содержит сравнительных результатов, подтверждающих скорость или качество инференса. Указанный контекст составляет 2048 токенов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Автор не опубликовал карточку модели.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Нельзя запустить

Для архитектуры gpt_bigcode нет загрузчика под задачу fill-mask.

Класс архитектуры: GPTBigCodeLMHeadModel
Ревизия весов: f1355d8