/ Модель

Характеристики

Контекст
1 024 000 токенов
Параметры
20,7 млрд
Размер весов
40,9 ГБ
Лицензия
Своя лицензия
Архитектура
mistral · dense
Опубликована
23 авг 2024

Theia-21B-v2

Генерация текстаТекст → текст3 профессии

Theia-21B-v2 — дообученная чат-модель Mistral для ролевых диалогов, историй и творческого письма.

29скачиваний за 30 дней33лайкавеса обновлены9 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Theia-21B-v2 — текстовая чат-модель от BeaverAI, созданная совместно со Steelskull как дообучение NeMoria 21B. Это плотная авторегрессионная модель семейства Mistral с 20,7 млрд параметров; в версии v2 добавлены токены ChatML. Модель предназначена для ролевых диалогов, продолжения текста, написания историй и инструктивного повествования. В карточке указано окно контекста до 1 024 000 токенов.

Авторы сообщают об усилении творческой составляющей, улучшении ролевых возможностей, повествования и выразительности прозы. В обучении использовались completion-, RP- и instruct-данные; README описывает шаблоны Text Completion, ChatML, Alpaca и Mistral. Модель распространяется в формате safetensors под лицензией other; конкретные условия лицензии следует проверять в репозитории.

Сценарии применения

  • ведение ролевых диалогов
  • написание художественных историй
  • продолжение заданного текста
  • создание выразительной прозы
  • генерация повествования по инструкции

Ограничения

Заявления об улучшенных RP-возможностях и качестве прозы основаны на сообщениях тестировщиков; сравнительные оценки в карточке не приведены. Поддерживаемые естественные языки не перечислены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Join our Discord! https://discord.gg/Nbv9pQ88Xb


BeaverAI & Steelskull proudly present...

Theia 21B v2 🧘

An upscaled NeMo with half its layers trained on my special sauce 💦

image/png

According to the giant impact hypothesis, Theia orbited the Sun, nearly along the orbit of the proto-Earth, by staying close to one or the other of the Sun-Earth system's two more stable Lagrangian points.

image/gif

Theia was eventually perturbed away from that relationship by the gravitational influence of Jupiter, Venus, or both, resulting in a collision between Theia and Earth.

Description

  • This is a finetune of Steelskull's NeMoria 21B model.
  • Testers have reported enhanced RP capabilities, better storytelling, and richer prose.
  • v2 puts more emphasis on the creative sauce.
  • v2 has added ChatML tokens.

Links

Usage

  • Text Completion for RP
  • ChatML for RP & Story
  • Alpaca for A Unique Instruct-Guided Storytelling
  • Mistral format for RP, Story, & Instruct
  • Try switching around the formats

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
e62c32a

0 моделей