Диалоговая модель Mistral на 10,6 млрд параметров для генерации ответов и продолжения текстовых бесед.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
NeuralBeagle-11B-truthy — диалоговая языковая модель семейства Mistral, опубликованная vicgalle. Она создана слиянием моделей через mergekit на основе vicgalle/franken-Beagle-11B, а затем дообучена методом DPO на наборе предпочтений jondurbin/truthy-dpo-v0.1. Модель содержит 10,6 млрд параметров и поддерживает контекст до 32 768 токенов.
Модель предназначена для генерации текста в диалоге: она может формулировать ответы и продолжать текстовые беседы. В README приведены результаты оценок на AI2 Reasoning Challenge и HellaSwag. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.
В карточке не заявлена поддержка конкретных естественных языков или специализированных предметных областей. Результаты бенчмарков не гарантируют качество на пользовательских задачах; документация не описывает отдельные ограничения применения.
Конкретные поддерживаемые языки и ограничения применения в карточке не описаны. Результаты бенчмарков не гарантируют качество модели на прикладных задачах.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
DPO'd from vicgalle/franken-Beagle-11B, a Beagle-like model upscaled to 11B. It is a frankenmerge model created using mergekit. Then, we applied DPO over a high-quality preference dataset.
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 72.06 |
| AI2 Reasoning Challenge (25-Shot) | 73.63 |
| HellaSwag (10-Shot) | 87.86 |
| MMLU (5-Shot) | 63.11 |
| TruthfulQA (0-shot) | 75.92 |
| Winogrande (5-shot) | 82.08 |
| GSM8k (5-shot) | 49.73 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…