Llamafia — англоязычная разговорная модель Mistral на 7,1 млрд параметров для генерации текста и диалогов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Llamafia — разговорная языковая модель на архитектуре Mistral, представленная пользователем Hugging Face kevin009. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленное окно контекста — 8192 токена. В метаданных указана поддержка английского языка и формат весов Safetensors.
Модель предназначена для генерации текста и диалогового взаимодействия. В README приведены результаты оценивания на отдельных тестах рассуждения и понимания текста, включая AI2 Reasoning Challenge и HellaSwag; этих данных недостаточно для вывода о качестве в других задачах. Автор описывает модель как находящуюся в разработке или тестировании, поэтому её пригодность для стабильного применения не подтверждена. Лицензия — Apache 2.0.
В README модель обозначена как находящаяся в разработке или тестировании; результатов по отдельным бенчмаркам недостаточно для оценки качества в широком круге задач.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Following model is under dev/test
Llamafia struts under the Apache 2.0 license
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 66.49 |
| AI2 Reasoning Challenge (25-Shot) | 66.13 |
| HellaSwag (10-Shot) | 82.08 |
| MMLU (5-Shot) | 61.81 |
| TruthfulQA (0-shot) | 47.94 |
| Winogrande (5-shot) | 80.11 |
| GSM8k (5-shot) | 60.88 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…