/ Модель
Каталог

Характеристики

Контекст
4 096 токенов
Параметры
117 млрд
Размер весов
235 ГБ
Архитектура
llama · dense
Опубликована
29 ноя 2023

Ссылки

Hugging Face

tsukasa-120b-qlora

ludis
Генерация текстаТекст → текст3 профессии

Дообученная на ролевых диалогах 117,5-миллиардная модель Llama для генерации текста и продолжения бесед.

22скачиваний за 30 дней4лайкавеса обновлены1 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Tsukasa-120b-qlora — языковая модель ludis для генерации текста, дообученная методом QLoRA на базе alpindale/goliath-120b. Обучение проводилось с Axolotl: сначала на Koishi, затем на PIPPA и LimaRP в формате завершения Metharme; для LimaRP использовалась версия от 19 октября 2023 года без нескольких поднаборов. В метаданных указаны архитектура LlamaForCausalLM, плотная модель объёмом 117,5 млрд параметров и контекст 4096 токенов.

Модель предназначена для генерации текста в сценариях ролевого общения и продолжения диалогов. Карточка сообщает о ранге QLoRA 8 и обучении на кластере из восьми GPU NVIDIA A100. Лицензия в предоставленных данных не указана.

Сценарии применения

  • генерация реплик персонажа в ролевом чате
  • продолжение диалога в формате Metharme
  • создание ролевых сцен по переписке
  • генерация художественных диалогов

Ограничения

Контекст модели составляет 4096 токенов. Предоставленные сведения не описывают оценку качества или лицензию.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gen Settings & Prompting

https://rentry.org/tsukasamodel

Training

axolotl was used for training on a 8x nvidia a100 gpu cluster.

the a100 GPU cluster has been graciously provided by lloorree.

rank 8 qlora (all modules) tune

base model alpindale/goliath-120b tuned on koishi commit 6e675d1 for one epoch

then tuned on pippa 6412b0c for one epoch (metharme completion)

then tuned on limarp (without ponyville, lolicit, all the fallen, and eka's portal subsets) Version 2023-10-19 for 2 epochs in metharme completion format

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
444cae9

0 моделей

    Создать бенчмарк