Характеристики

Контекст: 1 024 000 токенов
Параметры: 12,1 млрд
Размер весов: 24,5 ГБ
Лицензия: Своя лицензия
Архитектура: mistral · dense
Опубликована: 14 авг 2024

Ссылки

Hugging Face

Rocinante-12B-v1

TheDrummer

Генерация текстаТекст → текст3 профессии

Диалоговая модель Mistral с 12,1 млрд параметров для творческого письма, ролевых диалогов и приключенческих историй.

82скачиваний за 30 дней26лайковвеса обновлены16 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

BBH
BBH Raw · выше — лучше
Результат
0,5065
Open LLM v2 · архив
Публичная таблицаревизия совпадает
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат
0,3477
Open LLM v2 · архив
Публичная таблицаревизия совпадает
MUSR
MUSR Raw · выше — лучше
Результат
0,4017
Open LLM v2 · архив
Публичная таблицаревизия совпадает
GPQA
GPQA Raw · выше — лучше
Результат
0,2911
Open LLM v2 · архив
Публичная таблицаревизия совпадает
IFEval
IFEval Raw · выше — лучше
Результат
0,6076
Open LLM v2 · архив
Публичная таблицаревизия совпадает
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат
0,1269
Open LLM v2 · архив
Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Rocinante-12B-v1 — языковая модель BeaverAI для генерации текста в диалоговом формате. Это плотная модель семейства Mistral с 12,1 млрд параметров; веса опубликованы в формате safetensors. Карточка описывает её как модель для творческого письма, ролевых диалогов и приключенческих историй, с поддержкой шаблонов ChatML, Alpaca и Mistral.

Модель ориентирована на создание выразительной прозы с высокой творческой вариативностью. Её можно использовать для совместного написания историй, продолжения сюжетов и ролевых сценариев. В метаданных заявлен контекст до 1 024 000 токенов, а также интерфейс вызова инструментов; README не приводит сведений о языковом охвате или фактическом качестве этих возможностей. Лицензия обозначена как other, поэтому условия использования следует проверять в репозитории модели.

Сценарии применения

написание приключенческих историй
продолжение художественного текста
ролевые диалоги по шаблону ChatML
создание сюжетов и персонажей
генерация выразительной прозы

Ограничения

README отмечает, что для более надёжной работы рекомендуется версия Rocinante 12B v1.1. Лицензия указана как other, поэтому ограничения на использование следует уточнить в репозитории.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Join our Discord! https://discord.gg/Nbv9pQ88Xb

BeaverAI proudly presents...

Rocinante 12B v1 🚀

A versatile workhorse for any adventure!

image/gif

Finding him so mettlesome, conceived a good omen from his eagerness, believing it a certain presage of his success in the dreadful adventure he was about to achieve.

image/gif

He steered his course homeward; and Rocinante, as if he had guessed the knight’s intention, began to move with such alacrity and nimbleness, that his hooves scarcely seemed to touch the ground.

Description

Top open model in UGI!

image/png

If you would like a more reliable experience, try Rocinante 12B v1.1

Testers have reported:

Plenty of new and moistier words!
Richer and distinct prose
Cranked up creativity
Engaging and adventure-filled storytelling

Arsenal (Supported Chat Templates)

ChatML for RP
Alpaca for Story / Instruct Adventure
Mistral for NeMo
You can mix it up and see which works best for you.

Sampler Suggestions

Use DRY
Suggestion: Temp 0.7 for a chill, familiar ride. Temp 1.2 for a nitro boost!

Credit

Thank you for the compute, Garg!

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: 74a4ae2