Модель семейства LLaMA с 6,6 млрд параметров для генерации текста, связанная с дообучением на ELI5 и Wiki.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель dhmeltzer/llama-7b-SFT_eli5_wiki65k_1024_r_64_alpha_16_merged — языковая модель семейства LLaMA с архитектурой LlamaForCausalLM и примерно 6,6 млрд параметров. Она предназначена для генерации текста; название репозитория указывает на дообучение на данных ELI5 и Wiki и слияние весов, однако README не описывает эти этапи обучения подробно.
Модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов. В README приведены результаты оценки на бенчмарках, включая ARC и HellaSwag. Сведений о конкретной лицензии и языковом охвате в предоставленных данных нет.
В доступном README приведены лишь результаты отдельных бенчмарков, без подробностей о качестве в прикладных сценариях. Лицензия и языковой охват по предоставленным сведениям не установлены.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 43.96 |
| ARC (25-shot) | 53.75 |
| HellaSwag (10-shot) | 78.76 |
| MMLU (5-shot) | 46.02 |
| TruthfulQA (0-shot) | 43.31 |
| Winogrande (5-shot) | 73.48 |
| GSM8K (5-shot) | 4.7 |
| DROP (3-shot) | 7.72 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…