Диалоговая модель на базе Mistral с 7,1 млрд параметров для генерации ответов и использования в чат-сценариях.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
vicgalle/zephyr-7b-truthy — диалоговая модель генерации текста на архитектуре Mistral, представленная в формате safetensors и содержащая 7,1 млрд параметров. Метаданные связывают её с набором данных jondurbin/truthy-dpo-v0.1; название репозитория и этот датасет указывают на дообучение, однако README не описывает методику обучения.
Модель предназначена для генерации ответов в диалоге и может использоваться в чат-сценариях. Заявленная длина контекста — 32 768 токенов. README приводит результаты Open LLM Leaderboard: средний балл 61,93, AI2 Reasoning Challenge — 60,75, HellaSwag — 84,64; этих оценок недостаточно, чтобы судить о качестве во всех задачах.
Модель выпущена под лицензией Apache-2.0. README не уточняет поддерживаемые языки или специальные ограничения применения.
README содержит лишь часть результатов Open LLM Leaderboard и не описывает качество в других сценариях. Поддерживаемые языки и специальные ограничения применения не раскрыты.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 61.93 |
| AI2 Reasoning Challenge (25-Shot) | 60.75 |
| HellaSwag (10-Shot) | 84.64 |
| MMLU (5-Shot) | 59.53 |
| TruthfulQA (0-shot) | 63.31 |
| Winogrande (5-shot) | 77.90 |
| GSM8k (5-shot) | 25.47 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…