Экспериментальная дообученная версия Llama 2 на Guanaco Unfiltered для генерации английского текста и диалоговых ответов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Lazycuber/L2-7b-Base-Guanaco-Uncensored — дообученная автором Lazycuber языковая модель на архитектуре Llama 2. Она предназначена для генерации текста и диалоговых ответов; для дообучения использован набор данных Guanaco Unfiltered. Модель содержит 6,6 млрд параметров, работает с контекстом до 4096 токенов и распространяется в формате PyTorch через Transformers.
Автор характеризует результат как экспериментальный и неуверен в его качестве. В карточке приведены результаты Open LLM Leaderboard: среднее значение 44,06, ARC — 52,22 и HellaSwag — 79,08. Указанный язык модели — английский. Лицензия в предоставленных данных не указана.
Автор предупреждает, что качество модели может быть низким. Контекст ограничен 4096 токенами; результаты приведённых тестов не описывают все сценарии использования.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
I have no idea what I'm doing
Anyways I finetune Llama 2 7b base hf with Guanaco Unfiltered dataset
It's probably horrible
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 44.06 |
| ARC (25-shot) | 52.22 |
| HellaSwag (10-shot) | 79.08 |
| MMLU (5-shot) | 46.63 |
| TruthfulQA (0-shot) | 42.97 |
| Winogrande (5-shot) | 74.51 |
| GSM8K (5-shot) | 7.28 |
| DROP (3-shot) | 5.75 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…