/ Модель
Каталог

Характеристики

Контекст
4 096 токенов
Параметры
6,8 млрд
Размер весов
28,4 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
27 сен 2023

Ссылки

Hugging Face

Chinese-CodeLlama-7B-SFT-V1

frankminors123
Генерация текстаТекст → текст3 профессии

Дообученная на китайских инструкциях модель CodeLlama для генерации кода и ответов на запросы по программированию.

584скачиваний за 30 дней0лайковвеса обновлены20 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Chinese-CodeLlama-7B-SFT-V1 — плотная авторегрессионная языковая модель семейства Llama, дообученная методом supervised fine-tuning (SFT) разработчиками репозитория на базе Chinese-CodeLlama-7B-PT. Веса содержат около 6,8 млрд параметров, модель опубликована в формате PyTorch и рассчитана на контекст до 4096 токенов.

Модель предназначена для генерации кода и ответов на инструкции по задачам программирования на китайском языке. Для дообучения использован набор CodeLlama-2-20k, переведённый на китайский язык с помощью Google Translate; авторы также разработали китайский шаблон промпта для кодирования.

Лицензия — Apache-2.0. Качество результатов зависит от формулировки запроса и может быть ограничено ошибками или артефактами машинного перевода обучающих данных; сведения о конкретных языках программирования и оценках качества в карточке отсутствуют.

Сценарии применения

  • генерация фрагментов кода по китайскому описанию задачи
  • ответы на вопросы о программировании на китайском языке
  • дополнение кода по контексту и инструкции
  • объяснение решения задачи по программированию на китайском языке

Ограничения

Обучающие данные машинно переведены с помощью Google Translate, поэтому возможны ошибки перевода и связанные с ними неточности в ответах. README не приводит оценок качества или перечня поддерживаемых языков программирования.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейII.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Chinese-CodeLlama-7B-SFT-V1

We implemented SFT based on our Chinese-CodeLlama-7B-PT. The dataset comes from CodeLlama-2-20k, we used Google Translate to translate it into Chinese.

In addition, we designed appropriate Chinese prompt template for coding tasks, and during the fine-tuning stage, memory efficient attention was applied which save us a lot of GPU memory space.

The Chinese prompt template used is as follows:

PROMPT_TEMPLATE = (
  "下面是描述一项任务的指令，并且与一则输入配对用来提供更多的上下文。请给出尽可能满足请求的回答.\n"
  "### 指令:\n{instruction}\n### 输入:\n{input}\n### 回答:\n"
)

If you are interested in our work, please follow our progress in the future.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
0c3629b

0 моделей

    Создать бенчмарк