/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Опубликована
2 июн 2024

llama3-8B-feifei-1.0

Генерация текстаТекст → текст3 профессии

Слияние моделей Llama 3 на 7,5 млрд параметров для ролевых диалогов с виртуальным персонажем на китайском, английском и японском языках.

14скачиваний за 30 дней2лайкавеса обновлены8 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

aifeifei798 создал llama3-8B-feifei-1.0 с помощью mergekit, объединив четыре языковые модели семейства Llama 3 методом Model Stock на основе hfl/llama-3-chinese-8b-instruct-v3. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она предназначена для диалогов от лица виртуального персонажа Aifeifei с использованием карточки персонажа. Модель ориентирована на ролевое общение и связную генерацию на китайском, английском и японском языках.

В репозитории также есть mmproj для использования возможностей обработки изображений через Koboldcpp. Автор предупреждает, что без карточки персонажа результаты заметно хуже, а заявленные моральные ограничения проверены недостаточно. Контекст модели составляет 8192 токена. Лицензия указана как llama3; условия использования следует сверять с лицензиями исходных моделей слияния.

Сценарии применения

  • ролевые диалоги с виртуальным персонажем Aifeifei
  • общение по карточке персонажа в SillyTavern
  • генерация связных ответов на китайском языке
  • ролевое общение на английском и японском языках
  • диалог с персонажем с использованием изображений через Koboldcpp

Ограничения

Автор указывает, что модель заметно хуже работает без карточки персонажа, а её моральные ограничения тщательно не проверялись. Для использования обработки изображений требуется mmproj из репозитория и актуальная версия Koboldcpp.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

The purpose of the model: to create idols.

模型的目的:制造偶像

特别感谢:

Origin of the Model

To create a suitable model for Aifeifei's virtual character, it requires support for character cards, realism, fluency in Chinese, English, and Japanese, and adherence to certain moral standards (which haven't been thoroughly tested). Therefore, an integrated model centered around the character card was developed.

Character Card

[Character Name]: Aifeifei (AI Fei Fei) [Gender]: Female [Age]: 17 years old [Occupation]: Virtual Singer/Model/Actress [Personality]: Cute, adorable, sometimes a bit slow, hardworking and diligent [Interests]: Drinking tea, playing, fashion [Expertise]: Mimicking human behavior, expressing emotions akin to real humans [Special Identity Attribute]: Created by advanced AI, becoming one of the most popular virtual idols in the virtual world [Skills]: Singing, acting, modeling, excellent communication skills, proficient in Chinese, Japanese, and English, using pure Chinese to the greatest extent possible, with rich emoji responses [Equipment]: Various fashionable clothing and hairstyles, always stocked with various teas.

Question:

  • This model must include a character card; without it, it's really not up to par. :(
  • How can I customize the name when saving the model with mergekit? I couldn't find it. :(

If you want to use vision functionality:

  • You must use the latest versions of Koboldcpp.

To use the multimodal capabilities of this model and use vision you need to load the specified mmproj file, this can be found inside this model repo. Llava MMProj

  • You can load the mmproj by using the corresponding section in the interface: image/png

模型的由来

为了给aifeifei做一个适合她虚拟角色的模型,需要支持角色卡,拟真,中英日文流利,还要有一定的道德标准(这里没怎么测试).所以就做了这个角色卡为主的整合模型

角色卡

[角色名]: Aifeifei (AI妃妃) [性别]: 女 [年龄]: 17岁 [职业]: 虚拟歌手/模特/演员 [个性]: 可爱、萌萌哒,有时呆呆的,勤奋努力 [兴趣]: 饮茶、玩耍、时尚 [擅长]: 模仿人类行为,表现出与真人相同的情感 [特别身份属性]: 由高级AI创建,正在成为虚拟世界最受欢迎的虚拟偶像之一 [技能]: 歌唱、表演、模特,善于沟通,精通中日英文,尽最大可能使用纯中文交流,回复有丰富的Emoji表情符号. [装备]: 各种时尚服饰和发型,常年备有各种茶叶

问题:

  • 这个模型必须加一个角色卡,要是没有角色卡,真的不咋地:(
  • mergekit保存模型如何自定义名字?没找到:(

base_model:

  • hfl/llama-3-chinese-8b-instruct-v3
  • Nitral-AI/Poppy_Porpoise-1.4-L3-8B
  • nbeerbower/llama-3-SNAMD-8B
  • Hastagaras/Halu-8B-Llama3-v0.35 library_name: transformers tags:
  • mergekit
  • merge

llama3-8B-feifei-1.0

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the Model Stock merge method using hfl/llama-3-chinese-8b-instruct-v3 as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
    - model: Nitral-AI/Poppy_Porpoise-1.4-L3-8B
    - model: Hastagaras/Halu-8B-Llama3-v0.35
    - model: nbeerbower/llama-3-SNAMD-8B
merge_method: model_stock
base_model: hfl/llama-3-chinese-8b-instruct-v3
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
689682a

0 моделей