/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
71,5 млрд
Размер весов
145 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
qwen2 · dense
Базовая модель
Athene-V2-Chat
Библиотека
transformers
Опубликована
16 дек 2024

ChatWaifu_72B_v2.2

Генерация текстаТекст → текст3 профессии

Многоязычная диалоговая модель на базе Qwen2.5 для персонажного общения, ролевых сценариев и агентных диалогов.

42скачиваний за 30 дней14лайковвеса обновлены6 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ChatWaifu 72B v2.2 — диалоговая модель, разработанная spow12 и собранная с помощью mergekit из нескольких моделей семейства Qwen2.5 и других производных. Она предназначена для общения в заданной персонажной роли, ролевых диалогов и создания агентных сценариев с сохранением образа waifu. Модель поддерживает английский и японский языки, имеет архитектуру Qwen2 dense CausalLM, содержит 71,5 млрд параметров и рассчитана на контекст до 32 768 токенов.

Модель также может генерировать тексты, отвечать на инструкции и использовать интерфейс вызова инструментов; в карточке упомянуты датасеты для диалогов, ролевых сценариев, программирования и перевода. Доступны веса в формате safetensors. Лицензия CC BY-NC 4.0 и условия карточки ограничивают использование некоммерческими и исследовательскими целями.

Сценарии применения

  • персонажные диалоги с заданной waifu-персоной
  • ролевое общение на английском и японском языках
  • создание диалогов для визуальных новелл
  • генерация ответов в агентных сценариях с вызовом инструментов
  • написание и продолжение художественных диалогов

Ограничения

Модель ориентирована на ролевое общение и персонажный стиль, поэтому ответы могут отклоняться от нейтрального ассистентского поведения. Использование ограничено некоммерческими и исследовательскими целями; карточка также помечает модель как предназначенную не для всех аудиторий.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

image

Merged model using mergekit

This model aim to make a agent system with keeping given our waifu persona.

Merge Format

merge_method: model_stock
models:
    - model: Nexusflow/Athene-V2-Chat
    - model: Nexusflow/Athene-V2-Agent
    - model: Sao10K/72B-Qwen2.5-Kunou-v1
    - model: AXCXEPT/EZO-Qwen2.5-72B-Instruct
    - model: Qwen/Qwen2.5-72B-Instruct_tunned(private)
    - model: EVA-UNIT-01/EVA-Qwen2.5-72B-v0.1
    - model: anthracite-org/magnum-v4-72b
base_model: Qwen/Qwen2.5-72B-Instruct
dtype: bfloat16
tokenizer_source: base

Model Details

Model Description

  • Developed by: spow12(yw_nam)
  • Shared by : spow12(yw_nam)
  • Model type: CausalLM
  • Language(s) (NLP): japanese, english
  • Finetuned from model : Qwen/Qwen2.5-72B-Instruct

Chat Format

<|im_start|>system
This is the system prompt.<|im_end|>
<|im_start|>user
Instructions placed here.<|im_end|>
<|im_start|>assistant
The model's response will be here.<|im_end|>

Dataset

SFT

  • Riddle Joker(Prviate)
  • Café Stella and the Reaper's Butterflies(Private)
  • Senren*Banka(Private)
  • roleplay4fun/aesir-v1.1
  • kalomaze/Opus_Instruct_3k
  • Gryphe/Sonnet3.5-SlimOrcaDedupCleaned
  • Nopm/Opus_WritingStruct
  • PJMixers/hieunguyenminh_roleplay-deduped-ShareGPT
  • anthracite-org/stheno-filtered-v1.1
  • SicariusSicariiStuff/Bluemoon_Top50MB_Sorted_Fixed
  • Aratako/Magpie-Tanuki-8B-97k
  • Aratako_Synthetic_JP_EN_Coding_Dataset_801k
  • Aratako/Synthetic-Japanese-Roleplay-gpt-4o-mini-39.6k-formatted
  • Aratako/Synthetic-Japanese-Roleplay-NSFW-Claude-3.5s-15.3k-formatted
  • Aratako_Synthetic_JP_EN_Translation_Dataset_Magpie_Nemotron
  • Aratako_Rosebleu_1on1_Dialogues_RP
  • Team-ACE/ToolACE
  • SkunkworksAI/reasoning-0.01
  • HuggingFaceTB/smoltalk
  • microsoft_orca_agentinstruct_1M_v1
  • Aratako/Magpie-Tanuki-8B-97k

Use & Credit

This model is currently available for non-commercial & Research purpose only. Also, since I'm not detailed in licensing, I hope you use it responsibly.

By sharing this model, I hope to contribute to the research efforts of our community (the open-source community and Waifu Lovers).

Citation

@misc {ChatWaifu_12B_v2.0,
    author       = { YoungWoo Nam },
    title        = { spow12/ChatWaifu_72B_v2.2 },
    year         = 2024,
    url          = { https://huggingface.co/spow12/ChatWaifu_72B_v2.2 },
    publisher    = { Hugging Face }
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
238f6a3

0 моделей