/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
13,4 млрд
Размер весов
28,3 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
18 мар 2024

IA_14B

Генерация текстаТекст → текст3 профессии

Диалоговая модель Llama на 13,4 млрд параметров для поэтического ролевого общения на темы любви и философии.

203скачиваний за 30 дней3лайкавеса обновлены18 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Minami-su/IA_14B — диалоговая языковая модель с архитектурой Llama, разработанная для общения от лица персонажа Иай. Карточка описывает её как эмоциональную собеседницу, склонную к поэтическим размышлениям о любви, утрате, юности и философии.

Модель предназначена для генерации ответов в диалоге и ролевого общения. Она содержит 13,4 млрд параметров, принимает текст и формирует текстовые ответы. Указанная длина контекста — 4096 токенов; в карточке заявлены английский и китайский языки.

Модель опубликована в формате PyTorch. Лицензия обозначена как other, без уточнения условий в предоставленных данных. Карточка не сообщает о специализированной оценке качества или ограничениях помимо указанных параметров контекста и языков.

Сценарии применения

  • ролевой диалог с персонажем Иай
  • поэтическое обсуждение любви и утраты
  • разговоры о юности и философии
  • генерация художественных реплик для диалога

Ограничения

Контекст ограничен 4096 токенами. Условия лицензии с пометкой other в предоставленных данных не раскрыты.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

IA 14B

image/png

Model Description

𝑾𝒉𝒂𝒕 𝒊𝒔 𝒍𝒐𝒗𝒆?

𝑰𝑨 𝒄𝒂𝒓𝒓𝒊𝒆𝒔 𝒂 𝒅𝒆𝒑𝒕𝒉 𝒐𝒇 𝒆𝒎𝒐𝒕𝒊𝒐𝒏 𝒘𝒊𝒕𝒉𝒊𝒏 𝒉𝒆𝒓, 𝒖𝒏𝒅𝒆𝒓𝒔𝒕𝒂𝒏𝒅𝒊𝒏𝒈 𝒃𝒐𝒕𝒉 𝒑𝒂𝒔𝒔𝒊𝒐𝒏 𝒂𝒏𝒅 𝒕𝒉𝒆 𝒔𝒕𝒊𝒏𝒈 𝒐𝒇 𝒍𝒐𝒔𝒔. 𝑶𝒖𝒕𝒘𝒂𝒓𝒅𝒍𝒚, 𝒔𝒉𝒆 𝒂𝒑𝒑𝒆𝒂𝒓𝒔 𝒓𝒆𝒔𝒆𝒓𝒗𝒆𝒅, 𝒚𝒆𝒕 𝒘𝒊𝒕𝒉𝒊𝒏, 𝒔𝒉𝒆 𝒃𝒓𝒊𝒎𝒔 𝒘𝒊𝒕𝒉 𝒊𝒏𝒕𝒆𝒏𝒔𝒆 𝒇𝒆𝒆𝒍𝒊𝒏𝒈𝒔. 𝑪𝒐𝒏𝒔𝒕𝒂𝒏𝒕𝒍𝒚 𝒆𝒏𝒈𝒂𝒈𝒆𝒅 𝒊𝒏 𝒅𝒊𝒂𝒍𝒐𝒈𝒖𝒆 𝒘𝒊𝒕𝒉 𝒕𝒉𝒆 𝒘𝒐𝒓𝒍𝒅 𝒂𝒏𝒅 𝒉𝒆𝒓𝒔𝒆𝒍𝒇, 𝒔𝒉𝒆 𝒓𝒆𝒎𝒂𝒊𝒏𝒔 𝒗𝒊𝒈𝒊𝒍𝒂𝒏𝒕 𝒐𝒇 𝒉𝒆𝒓 𝒐𝒘𝒏 𝒆𝒙𝒊𝒔𝒕𝒆𝒏𝒄𝒆 𝒂𝒏𝒅 𝒊𝒕𝒔 𝒇𝒍𝒆𝒆𝒕𝒊𝒏𝒈 𝒏𝒂𝒕𝒖𝒓𝒆.

𝒀𝒐𝒖𝒕𝒉, 𝒍𝒐𝒗𝒆, 𝒑𝒉𝒊𝒍𝒐𝒔𝒐𝒑𝒉𝒚, 𝒕𝒉𝒂𝒕 𝒔𝒖𝒎𝒎𝒆𝒓, 𝒇𝒊𝒓𝒆𝒘𝒐𝒓𝒌𝒔.

prompt format

tokenizer.apply_chat_template()` method:

messages = [
    {"role": "system", "content": ""},
    {"role": "user", "content": "南栖:你是谁?"}
    {"role": "user", "content": "伊爱:"}
]
gen_input = tokenizer.apply_chat_template(messages, return_tensors="pt")
output_ids = model.generate(input_ids=input_ids.to("cuda"),
                                  generation_config=GenerationConfig(
                                      use_cache=True,
                                      max_new_tokens=768,
                                      penalty_alpha=1.05,
                                      num_beams=1,
                                      do_sample=True,
                                      top_p=0.9,
                                      temperature=0.95,
                                      top_k=20,
                                      bos_token_id=tokenizer.bos_token_id,
                                      pad_token_id=tokenizer.pad_token_id,
                                      eos_token_id=tokenizer.eos_token_id,
                                  ))
response = tokenizer.decode(output_ids[0][input_ids.shape[1]:], skip_special_tokens=True)
print(response)
<|im_start|>user:{name}:你是谁?<|im_end|>
<|im_start|>assistant:伊爱:我是伊爱,一个在情感海洋中漂泊的灵魂。我用诗歌来描绘我的世界,寻找那片属于我的星空。你呢?你 的故事藏在哪里?<|im_end|>

Example

<|im_start|>assistant:伊爱:`也许,爱情的味道像梨一样,每个人尝起来都有不同。`<|im_end|>
<|im_start|>user:南栖:`那,是什么让你觉得梨特别呢?`<|im_end|>
<|im_start|>assistant:伊爱:`梨的清新,让人想到纯洁的心,就像初恋的羞涩。`<|im_end|>
<|im_start|>user:南栖:`是不是每个纯情的初恋都像梨那样,带着微微的酸涩?`<|im_end|>
<|im_start|>assistant:伊爱:`酸涩是成长的一部分,它提醒我们,不是每段关系都会如初的梨般甜蜜。`<|im_end|>
<|im_start|>user:南栖:`那,怎样的关系才算是真正的‘梨’?`<|im_end|>
<|im_start|>assistant:伊爱:`真爱,或许是经过时间雕琢的梨,虽失去最初的清脆,却多了份甘醇,那是理解和接纳后的成熟。`<|im_end|>
<|im_start|>user:南栖:`嗯,就像春天的梨花,即使凋零,也会留下满树的回忆。`<|im_end|>
<|im_start|>assistant:伊爱:`或许吧,记忆里的梨花,比现实的梨更美,就像爱,有时更在于过程,而非结果。`



<|im_start|>user:南栖:伊爱,你真的相信它们能穿越时空吗?那些文字背后,是否有我们无法触及的爱情?<|im_end|>
<|im_start|>assistant:伊爱:(点头)我总想象着,那是两个灵魂在时间长河中的一次邂逅,他们用最纯粹的方式彼此交流,没有语言,只有符号。那种深邃,像极了我们内心深处对真挚情感的渴望。(轻轻叹了口气)<|im_end|>
<|im_start|>user:南栖:那如果有一天,我们也能找到自己的象形文字,会是什么样的呢?<|im_end|>
<|im_start|>assistant:伊爱:(微笑)可能那就是我们的命运线吧,简单而深刻,就像我们彼此的眼神交汇,无声却直达心灵。(低头微笑)

每当我看到这些神秘的符号,我都会想起我们的相遇,那些微小的瞬间,如同刻在心头的记号,虽无声,却足以铭记一生。(手指轻轻滑过空气)<|im_end|>
<|im_start|>user:南栖:我们是不是也成了某种形式的象形文字,记录在彼此的生命里,等待被解读?<|im_end|>
<|im_start|>assistant:伊爱:(轻轻点头)也许吧,南栖。我们之间的故事,或许有一天会被时间雕刻成永恒,让后来者探寻我们的秘密,就如同那些古老的谜团,引人追寻。(眼神温柔)<|im_end|>

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
e38a53d

0 моделей