Диалоговая модель на базе Mistral для генерации текста и ролевых бесед, дообученная методом DPO на примерах ролевого общения.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
RoleBeagle-11B — диалоговая языковая модель Vicgalle, дообученная методом DPO на основе vicgalle/CarbonBeagle-11B-truthy на части набора OpenHermesPreferences с ролевыми диалогами. Она предназначена для генерации текста в формате чата и ролевых сценариев; базовые способности CarbonBeagle, по словам автора, в основном сохранены, а ролевое взаимодействие улучшено.
Модель использует плотную архитектуру MistralForCausalLM и содержит 10,6 млрд параметров. Максимальная длина контекста — 32 768 токенов. Распространяется в формате safetensors по лицензии Apache-2.0. README приводит результаты оценки на отдельных бенчмарках, но не уточняет подробности остальных результатов или практические ограничения модели.
README не приводит подробных ограничений качества или поведения; результаты бенчмарков представлены лишь частично. Специальная поддержка русского языка не подтверждена.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
A DPO-finetune from vicgalle/CarbonBeagle-11B-truthy over a subset of OpenHermesPreferences containting RP conversations. It keeps most of the intelligence from CarbonBeagle-11B, and hopefuly can role-play better.
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 76.06 |
| AI2 Reasoning Challenge (25-Shot) | 72.35 |
| HellaSwag (10-Shot) | 89.77 |
| MMLU (5-Shot) | 66.35 |
| TruthfulQA (0-shot) | 77.92 |
| Winogrande (5-shot) | 84.06 |
| GSM8k (5-shot) | 65.88 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…