/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
12,9 млрд
Размер весов
52,1 ГБ
Архитектура
llama · dense
Опубликована
13 мая 2023

WizardLM-13B-V1.0

Генерация текстаТекст → текст12 профессий

WizardLM-13B-V1.0 — диалоговая модель семейства LLaMA для генерации подробных ответов на текстовые запросы.

111скачиваний за 30 дней76лайковвеса обновлены1 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,3497

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,185

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,2913

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,1166

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2592

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

WizardLM-13B-V1.0 — диалоговая языковая модель команды WizardLM, представленная в этом репозитории в виде diff-весов. Это плотная авторегрессионная модель семейства LLaMA с архитектурой LlamaForCausalLM и примерно 12,9 млрд параметров. Для общения используется шаблон промпта с ролями USER и ASSISTANT.

Модель предназначена для генерации подробных ответов на вопросы и ведения диалога. Она принимает текст и выдаёт текст; заявленная длина контекста — 2048 токенов. В карточке приведены результаты WizardLM разных версий в таблице, поэтому их нельзя однозначно считать оценками именно V1.0. Репозиторий содержит diff-веса, и для восстановления полной модели нужны соответствующие базовые веса; точная базовая модель здесь не названа. В таблице указана лицензия Llama 2 License для WizardLM-70B-V1.0, но условия лицензии именно этой версии из доступных сведений установить нельзя.

Сценарии применения

  • ответы на вопросы в диалоге
  • составление подробных текстовых ответов
  • чат-ассистент для общих запросов

Ограничения

Репозиторий содержит diff-веса, для восстановления полной модели требуются соответствующие базовые веса, которые в доступных сведениях не указаны. Контекст ограничен 2048 токенами, а лицензия именно этой версии не установлена.

Для каких профессий подходит12

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is WizardLM-13B V1.0 diff weight.

Project Repo: https://github.com/nlpxucan/WizardLM

NOTE: The WizardLM-13B-1.0 and Wizard-7B use different prompt at the beginning of the conversation:

For WizardLM-13B-1.0 , the Prompt should be as following:

A chat between a curious user and an artificial intelligence assistant. The assistant gives helpful, detailed, and polite answers to the user's questions. USER: hello, who are you? ASSISTANT:

For WizardLM-7B , the Prompt should be as following:

{instruction}\n\n### Response:
ModelCheckpointPaperHumanEvalMBPPDemoLicense
WizardCoder-Python-34B-V1.0🤗 HF Link📃 [WizardCoder]73.261.2DemoLlama2
WizardCoder-15B-V1.0🤗 HF Link📃 [WizardCoder]59.850.6--OpenRAIL-M
WizardCoder-Python-13B-V1.0🤗 HF Link📃 [WizardCoder]64.055.6--Llama2
WizardCoder-3B-V1.0🤗 HF Link📃 [WizardCoder]34.837.4--OpenRAIL-M
WizardCoder-1B-V1.0🤗 HF Link📃 [WizardCoder]23.828.6--OpenRAIL-M
ModelCheckpointPaperGSM8kMATHOnline DemoLicense
WizardMath-70B-V1.0🤗 HF Link📃 [WizardMath]81.622.7DemoLlama 2
WizardMath-13B-V1.0🤗 HF Link📃 [WizardMath]63.914.0DemoLlama 2
WizardMath-7B-V1.0🤗 HF Link📃 [WizardMath]54.910.7DemoLlama 2
ModelCheckpointPaperMT-BenchAlpacaEvalGSM8kHumanEvalLicense
WizardLM-70B-V1.0🤗 HF Link 📃Coming Soon7.7892.91%77.6% 50.6 pass@1 Llama 2 License
WizardLM-13B-V1.2🤗 HF Link 7.0689.17%55.3%36.6 pass@1 Llama 2 License
WizardLM-13B-V1.1 🤗 HF Link 6.7686.32%25.0 pass@1Non-commercial
WizardLM-30B-V1.0🤗 HF Link7.0137.8 pass@1Non-commercial
WizardLM-13B-V1.0🤗 HF Link 6.3575.31% 24.0 pass@1 Non-commercial
WizardLM-7B-V1.0 🤗 HF Link 📃 [WizardLM] 19.1 pass@1 Non-commercial

Github Repo: https://github.com/nlpxucan/WizardLM/tree/main/WizardMath

Twitter: https://twitter.com/WizardLM_AI/status/1689998428200112128

Discord: https://discord.gg/VZjjHtWrKs

Inference WizardLM Demo Script

We provide the inference WizardLM demo code here.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
964a93a

0 моделей