Экспериментальная DPO-версия Mistral-подобной OGNO-7B для генерации текста с акцентом на правдивость ответов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель eren23/OGNO-7b-dpo-truthful — экспериментально дообученная методом DPO версия paulml/OGNO-7B на наборе jondurbin/truthy-dpo-v0.1. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса PyTorch.
Модель предназначена для генерации текста и диалоговых ответов. Обучение на наборе truthy-dpo-v0.1 ориентировано на более правдивые ответы. В README приведены результаты Open LLM Leaderboard, включая среднее значение 76,14, но описание не раскрывает методику оценки правдивости или ограничения поведения модели.
Карточка называет репозиторий экспериментальным и предупреждает, что он может быть непригоден для промышленного применения. Базовая модель указана как вариант Mistral 7B. Лицензия — Apache-2.0.
Автор описывает модель как экспериментальную и предупреждает, что она может быть непригодна для промышленного применения. Качество и правдивость ответов не гарантируются одними приведёнными в карточке результатами бенчмарков.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
DPO Finetuned paulml/OGNO-7B using jondurbin/truthy-dpo-v0.1
paulml/OGNO-7B is a mistral 7b variant afaik and this repo is an experimental repo, so might not be useable in prod
Thx for the great data sources.
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 76.14 |
| AI2 Reasoning Challenge (25-Shot) | 72.95 |
| HellaSwag (10-Shot) | 89.02 |
| MMLU (5-Shot) | 64.61 |
| TruthfulQA (0-shot) | 76.61 |
| Winogrande (5-shot) | 84.69 |
| GSM8k (5-shot) | 68.99 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…