Диалоговая языковая модель Mistral с 10,6 млрд параметров для генерации текста и ответов в чате.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
0,0491
Публичная таблицадругая ревизия
MMLU-PRO
MMLU-PRO Raw · выше — лучше
0,3357
Публичная таблицадругая ревизия
Описание составлено по карточке модели и метаданным Hugging Face
vicgalle/CarbonBeagle-11B-truthy — диалоговая языковая модель на архитектуре Mistral, опубликованная VicGalle. Она предназначена для генерации текста в формате чата. В каталоге указаны 10,6 млрд параметров и контекст до 32 768 токенов; веса представлены в формате safetensors.
В карточке приведены результаты Open LLM Leaderboard: средние оценки 76,10 и 21,29 для двух наборов тестов, включая ARC, HellaSwag, IFEval и BBH. Метаданные связывают модель с датасетом jondurbin/truthy-dpo-v0.1, но не подтверждают конкретный метод обучения или специализацию на правдивых ответах. Модель может использоваться для диалоговой генерации и оценки исследовательских сценариев; приведённые тестовые результаты сами по себе не гарантируют качество в прикладных задачах. Лицензия — Apache-2.0.
Языки применения в карточке не обозначены. Результаты бенчмарков ограничены указанными тестами и не гарантируют качество на других задачах.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 76.10 |
| AI2 Reasoning Challenge (25-Shot) | 72.27 |
| HellaSwag (10-Shot) | 89.31 |
| MMLU (5-Shot) | 66.55 |
| TruthfulQA (0-shot) | 78.55 |
| Winogrande (5-shot) | 83.82 |
| GSM8k (5-shot) | 66.11 |
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 21.29 |
| IFEval (0-Shot) | 52.12 |
| BBH (3-Shot) | 33.99 |
| MATH Lvl 5 (4-Shot) | 4.76 |
| GPQA (0-shot) | 6.60 |
| MuSR (0-shot) | 4.11 |
| MMLU-PRO (5-shot) | 26.19 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…