/ Модель
Каталог

Характеристики

Контекст
2 048 токенов
Параметры
8,9 млрд
Размер весов
14 ГБ
Опубликована
28 авг 2023

Ссылки

Hugging Face

japanese-stablelm-base-alpha-7b-f16-marisa

tsukemono
Генерация текстаТекст → текст

Дообученная на Japanese-StableLM-Base-Alpha-7B модель для текстового общения на японском языке в стиле Кирисамэ Марисы из Touhou Project.

107скачиваний за 30 дней0лайковвеса обновлены1 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это дообученная текстовая модель tsukemono для диалога в стиле Кирисамэ Марисы из Touhou Project. Она основана на Japanese-StableLM-Base-Alpha-7B и настроена на имитацию характерной манеры речи персонажа; для общения в README предлагается запрос с метками «ユーザー» и «魔理沙». Модель содержит около 8,9 млрд параметров, принимает текст и генерирует текст, поддерживает японский язык и имеет контекст до 2048 токенов.

Модель подходит для ролевого диалога и фанатского общения с персонажем на японском языке. Это производная модель: веса изменены при файнтюнинге. В репозитории указана библиотека PEFT; распространение включает материалы под лицензией Apache 2.0. README обозначает проект как фанатское произведение Touhou Project.

Сценарии применения

  • Ролевой диалог с Кирисамэ Марисой на японском языке
  • Генерация реплик персонажа в фанатских сценариях
  • Создание диалоговых сцен по запросу пользователя

Ограничения

Модель настроена на имитацию конкретного персонажа и предназначена для японского диалога; README не приводит оценок качества или гарантий соответствия канону.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

モデルの概略

霧雨魔理沙とおしゃべりできるモデルです。 Japanese-StableLM-Base-Alpha-7Bを霧雨魔理沙の口調に似せた形でファインチューニングしたモデルになります。そのため、元のモデルデータから重みの値が変わっています。

使い方

推論のさせかたの一例をGoogleColabに記しましたので参考にしていただけると幸いです。 ｢ユーザー: hogehoge\n魔理沙: ｣といったプロンプトを与えてあげることで、魔理沙とおしゃべりができるようになります。

備考

これは東方Projectの二次創作です。 このソフトウェアは、Apache 2.0ライセンスで配布されている製作物が含まれています。

library_name: peft

Training procedure

The following bitsandbytes quantization config was used during training:

  • load_in_8bit: False
  • load_in_4bit: True
  • llm_int8_threshold: 6.0
  • llm_int8_skip_modules: None
  • llm_int8_enable_fp32_cpu_offload: False
  • llm_int8_has_fp16_weight: False
  • bnb_4bit_quant_type: nf4
  • bnb_4bit_use_double_quant: True
  • bnb_4bit_compute_dtype: bfloat16

Framework versions

  • PEFT 0.4.0.dev0

  • PEFT 0.4.0.dev0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
JapaneseStableLMAlphaForCausalLM
Ревизия весов
e751090

0 моделей

    Создать бенчмарк