/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
6,6 млрд
Размер весов
13,5 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
5 апр 2023

vicuna-7b

Генерация текстаТекст → текст6 профессий

Диалоговая модель Vicuna 7B на базе LLaMA для генерации текста, ответов на вопросы и исследований чат-ботов.

113скачиваний за 30 дней111лайковвеса обновлены10 апр 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AlekseyKorshuk/vicuna-7b — альтернативная версия Vicuna 7B, разработанная на основе LLaMA командой Vicuna с участием специалистов из UC Berkeley, CMU, Stanford и UC San Diego. Это авторегрессионная плотная языковая модель на архитектуре Transformer, дообученная на 70 тысячах пользовательских диалогов ShareGPT без фильтрации, использовавшейся в исходной Vicuna. В метаданных указано 6,6 млрд параметров; репозиторий содержит веса PyTorch.

Модель предназначена для чат-ботов, генерации текста и исследований больших языковых моделей. Она может отвечать на вопросы и поддерживать диалог на естественном языке. Карточка приводит Apache License 2.0, тогда как метаданные содержат лицензию «other», поэтому условия лицензирования следует сверить с файлами репозитория перед использованием. README описывает оценку как предварительную и основанную на 80 вопросах с оцениванием GPT-4; качество и безопасность ответов этим не гарантируются.

Сценарии применения

  • создание диалогового чат-бота
  • генерация ответов на вопросы пользователей
  • поддержка многоходового текстового диалога
  • эксперименты с большими языковыми моделями
  • исследование поведения чат-ботов без исходной фильтрации Vicuna

Ограничения

Оценка в README предварительная и основана на небольшом наборе из 80 вопросов; качество и безопасность ответов не гарантируются. Модель обучена без фильтрации, использовавшейся в исходной Vicuna, поэтому может выдавать нежелательный или небезопасный контент; лицензионные сведения README и метаданных расходятся.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Vicuna 7B without "ethics" filtering

This repository contains an alternative version of the Vicuna 7B model.

This model was natively fine-tuned using ShareGPT data, but without the "ethics" filtering used for the original Vicuna.

A GPTQ quantised 4-bit version is available here.

Original Vicuna Model Card

Model details

Model type: Vicuna is an open-source chatbot trained by fine-tuning LLaMA on user-shared conversations collected from ShareGPT. It is an auto-regressive language model, based on the transformer architecture.

Model date: Vicuna was trained between March 2023 and April 2023.

Organizations developing the model: The Vicuna team with members from UC Berkeley, CMU, Stanford, and UC San Diego.

Paper or resources for more information: https://vicuna.lmsys.org/

License: Apache License 2.0

Where to send questions or comments about the model: https://github.com/lm-sys/FastChat/issues

Intended use

Primary intended uses: The primary use of Vicuna is research on large language models and chatbots.

Primary intended users: The primary intended users of the model are researchers and hobbyists in natural language processing, machine learning, and artificial intelligence.

Training dataset

70K conversations collected from ShareGPT.com.

Evaluation dataset

A preliminary evaluation of the model quality is conducted by creating a set of 80 diverse questions and utilizing GPT-4 to judge the model outputs. See https://vicuna.lmsys.org/ for more details.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
6016cda

0 моделей