Характеристики

Контекст: 16 384 токена
Параметры: 9,9 млрд
Размер весов: 28,7 ГБ
Лицензия: CC BY-NC 4.0
Архитектура: starcoder2 · dense
Базовая модель: starcoder2-7b
Библиотека: transformers
Опубликована: 2 мар 2024

Ссылки

Hugging Face

starcoder2-chat

abideen

Генерация текстаТекст → текст8 профессий

Дообученная по инструкциям модель StarCoder2 для генерации кода и ответов на вопросы по программированию.

64скачиваний за 30 дней2лайкавеса обновлены5 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Starcoder-2-chat — дообученная по инструкциям модель для генерации кода, созданная на базе bigcode/starcoder2-7b с помощью LoRA. В качестве обучающих данных использован набор glaiveai/glaive-code-assistant-v2. Модель построена на архитектуре StarCoder2 и содержит 9,9 млрд параметров; она принимает текстовые запросы и выдаёт текст, включая код. Контекстное окно составляет 16 384 токена.

Модель предназначена для общения с помощником по программированию: она может генерировать код по инструкциям и отвечать на вопросы о коде. В README приведены результаты оценок HumanEval, HumanEvalPlus и Instruct-HumanEval. Модель рассчитана прежде всего на английский язык. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

Сценарии применения

генерация кода по текстовому запросу
ответы на вопросы о программировании
выполнение инструкций по работе с кодом
создание решений задач на программирование

Ограничения

Лицензия CC BY-NC 4.0 запрещает коммерческое использование. Приведённые в README оценки на бенчмарках не гарантируют качество для всех языков программирования и практических задач.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Starcoder-2-chat

image/jpeg

Starcoder-2-chat is an instruction fine-tuned of bigcode/starcoder2-7b using the glaiveai/glaive-code-assistant-v2 dataset using LoRA.

🏆 Evaluation results

Thanks to Muhammad Bin Usman for running evals on Starcoder2-chat.

HUMANEVAL

0.3231707317073171

HUMANEVALPLUS

0.25609756097560976

INSTRUCT-HUMANEVAL

0.3231707317073171

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 5e-7
train_batch_size: 2
eval_batch_size: Not specified
seed: Not specified
gradient_accumulation_steps: 8
total_train_batch_size: Not specified
optimizer: PagedAdamW with 32-bit precision
lr_scheduler_type: Cosine
lr_scheduler_warmup_steps: 100
training_epoch: 1

Framework versions

Transformers 4.39.0.dev0
Peft 0.9.1.dev0
Datasets 2.18.0
torch 2.2.0
accelerate 0.27.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: Starcoder2ForCausalLM
Ревизия весов: a5bc332