/ Модель
Каталог

Характеристики

Контекст
32 768 токенов
Параметры
1 млрд
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
12 апр 2024

Ссылки

Hugging Face

csg-wukong-1B-chat-v0.1

opencsg
Генерация текстаТекст → текст10 профессий

Чат-модель OpenCSG на 1 млрд параметров для генерации текста и ответов на запросы, дообученная на базе csg-wukong-1B.

33скачиваний за 30 дней6лайковвеса обновлены8 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

csg-wukong-1B-chat-v0.1 — разработанная OpenCSG чат-модель, полученная дообучением csg-wukong-1B. Она предназначена для диалоговой генерации текста и может применяться в чат-ботах и других сценариях, где требуется генерировать ответы на текстовые запросы. Модель построена на плотной архитектуре Llama и содержит около 1 млрд параметров; заявленная длина контекста — 32 768 токенов. В карточке также отмечена возможность работы с кодом.

Модель представлена в формате safetensors и распространяется по лицензии Apache-2.0. В README приведены сведения об обучении и оценке исходной csg-wukong-1B на open_llm_leaderboard, но отдельные результаты оценки чат-версии не указаны.

Сценарии применения

  • создание чат-бота для ответов на текстовые запросы
  • генерация диалоговых ответов
  • генерация фрагментов кода по текстовому запросу

Ограничения

В README не приведены отдельные результаты оценки чат-версии; опубликованное сравнение относится к базовой csg-wukong-1B. Модель компактная по числу параметров, поэтому качество на сложных задачах может быть ограничено.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейII.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

csg-wukong-1B-chat-v0.1 [中文] [English]

The vision of OpenCSG is to empower every industry, every company, and every individual to own their models. We adhere to the principles of openness and open source, making the large model software stack of OpenCSG available to the community. We welcome everyone to use, send feedback, and contribute collaboratively.

Model Description

csg-wukong-1B-chat-v0.1 was finetuned on csg-wukong-1B

image/png

Model Evaluation results

We submitted csg-wukong-1B on the open_llm_leaderboard, and the results show our model ranked the 8th among the ~1.5B pretrained small language models.

image/png

Training

Hardware

  • GPUs: 6 V100
  • Training time: 6 hours

Software

OpenCSG介绍

OpenCSG的愿景是让每个行业、每个公司、每个人都拥有自己的模型。 我们坚持开源开放的原则，将OpenCSG的大模型软件栈开源到社区，欢迎使用、反馈和参与共建，欢迎关注。

模型介绍

csg-wukong-1B-chat-v0.1 在csg-wukong-1B模型上微调而成。

image/png

模型评测结果

我们把csg-wukong-1B模型提交到open_llm_leaderboard榜单上，结果显示我们的模型目前在~1.5B小语言模型中排名第8。

image/png

训练

硬件资源

  • GPU数量： 6 V100
  • 训练时间： 6小时

软件使用

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
2443c90

0 моделей

    Создать бенчмарк