Дообученная 12,1-миллиардная текстовая модель для генерации текста, настроенная на наборе Gutenberg DPO.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
0,1012
Публичная таблицадругая ревизия
MMLU-PRO
MMLU-PRO Raw · выше — лучше
0,3628
Публичная таблицадругая ревизия
Описание составлено по карточке модели и метаданным Hugging Face
Lyra-Gutenberg-12B — текстовая генеративная модель на архитектуре Mistral, созданная дообучением Sao10K/MN-12B-Lyra-v1 на наборе jondurbin/gutenberg-dpo-v0.1. В карточке указано обучение в течение трёх эпох на A100 через Google Colab; веса опубликованы в формате safetensors. Размер модели — 12,1 млрд параметров, заявленная длина контекста — до 1 024 000 токенов.
Модель предназначена для генерации текста и диалоговых сценариев. Название и использованный набор данных указывают на настройку в сторону текстов Project Gutenberg, однако карточка не описывает конкретные жанры или гарантируемые качества. В README приведены отдельные результаты Open LLM Leaderboard: среднее значение 22,57, IFEval — 34,95 и BBH — 36,99.
Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства и ограничивает коммерческое применение. Оценки из таблицы не дают полной картины качества модели; подтверждённая карточкой область задачи — генерация текста.
Лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Опубликованные метрики охватывают лишь отдельные бенчмарки и не подтверждают качество для всех сценариев.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Sao10K/MN-12B-Lyra-v1 finetuned on jondurbin/gutenberg-dpo-v0.1.
Finetuned using an A100 on Google Colab for 3 epochs.
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 22.57 |
| IFEval (0-Shot) | 34.95 |
| BBH (3-Shot) | 36.99 |
| MATH Lvl 5 (4-Shot) | 8.31 |
| GPQA (0-shot) | 11.19 |
| MuSR (0-shot) | 14.76 |
| MMLU-PRO (5-shot) | 29.20 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…