/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Библиотека
transformers
Опубликована
22 янв 2024

WestLake-7B-v2

Генерация текстаТекст → текст3 профессии

WestLake-7B-v2 — англоязычная модель на базе Mistral для ролевых диалогов и генерации творческих текстов.

98скачиваний за 30 дней116лайковвеса обновлены4 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2768

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,0483

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,3937

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,4419

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,4073

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,2764

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

WestLake-7B-v2 — текстовая генеративная модель для ролевых диалогов и создания оригинальных текстов; карточка представляет её как модель Senseable. Она основана на плотной архитектуре Mistral с 7,1 млрд параметров, использует Transformers и веса Safetensors. Указанная длина контекста — 32 768 токенов.

Модель предназначена для ролевых бесед с сохранением образа персонажа, написания рассказов, стихов, эссе и других текстов, а также для генерации диалогов в играх и интерактивных сценариях. В README указаны английский язык и три цикла обучения, включая дополнительный цикл для версии 2; модель выпущена по лицензии Apache-2.0.

Модель может служить основой для творческих и разговорных приложений, однако README не приводит проверяемых оценок качества именно для ролевых сценариев и не описывает ограничения генерации. Заявление о непрерывном обучении не сопровождается подробностями о данных или процессе обновления.

Сценарии применения

  • ролевые диалоги с заданным персонажем
  • генерация рассказов и сюжетных продолжений
  • написание стихов и эссе
  • диалоги с персонажами в видеоиграх
  • создание подписей и публикаций для соцсетей

Ограничения

README не приводит проверяемых тестов качества для ролевых сценариев и не описывает конкретные ограничения модели. Утверждение о непрерывном обучении не сопровождается подробностями о данных или процессе обновления.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Update Notes: Version 2 trained 1 additional epoch cycle for 3 total

Westlake-7Bv2: Role-Play & Text Generation Specialist Model

Welcome to the documentation of Westlake-7B, a cutting-edge language model designed for exceptional role-play and text generation tasks. This README file aims to provide an overview of our capabilities, usage guidelines, and potential applications.

About Westlake-7Bv2

Westlake-7B is built upon a vast corpus of diverse texts, enabling it to generate contextually relevant responses in various scenarios. With its impressive size of 7 billion parameters, this model excels at understanding nuances in language and producing creative outputs.

Key Features

  1. Role-Play: Westlake-7Bv2 can seamlessly adapt to different character personas and engage in dynamic conversations while maintaining consistency throughout the interaction. It can generate believable dialogues across various genres, including fiction, non-fiction, historical events, or even fantasy worlds.
  2. Text Generation: This model is proficient at generating original content such as stories, poems, essays, news articles, and more. Its ability to capture the essence of different writing styles makes it an ideal tool for creative writers seeking inspiration or assistance in their projects.
  3. Contextual Understanding: Westlake-7B's extensive training allows it to comprehend complex contexts and generate responses that align with given situations. It can handle multiple topics simultaneously, making it versatile across various applications.
  4. Continuous Learning: As a language model, Westlake-7B continuously improves its performance through ongoing training on new data sets. This ensures its capabilities remain up-to-date and relevant in an ever-evolving world of communication.

Usage Guidelines

To utilize Westlake-7Bv2 for your projects or experiments, follow these steps:

  1. Prompting: Provide clear and concise prompts that outline the desired role-play scenario or text generation task. The quality of output depends heavily on the clarity and relevance of input instructions.
  2. Feedback Loop: For optimal results, consider incorporating a feedback loop into your application to refine generated outputs based on user preferences or additional contextual information. This iterative process can significantly enhance the model's performance in specific domains.
  3. Ethical Considerations: As with any AI system, ensure responsible usage of Westlake-7B by avoiding harmful content generation or misuse of its capabilities.

Potential Applications

Westlake-7Bv2's versatility makes it suitable for various applications across different industries:

  1. Creative Writing: Assist authors in generating new ideas, expanding storylines, or even completing drafts by providing creative suggestions and textual content.
  2. Education: Enhance language learning platforms with interactive role-play scenarios to improve students' communication skills and cultural understanding.
  3. Gaming: Integrate Westlake-7B into game engines for dynamic non-player character interactions or generating unique questlines based on player choices.
  4. Customer Support: Leverage the model's conversational abilities to create chatbots capable of handling complex queries and providing personalized assistance.
  5. Social Media: Develop applications that generate engaging content such as captions, status updates, or even entire posts tailored to users' preferences and interests.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.74.68
AI2 Reasoning Challenge (25-Shot)73.04
HellaSwag (10-Shot)88.65
MMLU (5-Shot)64.71
TruthfulQA (0-shot)67.06
Winogrande (5-shot)86.98
GSM8k (5-shot)67.63

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
4162500

0 моделей