Дообученная на инструкциях Alpaca модель LLaMA с 30 млрд параметров для генерации текста и выполнения текстовых запросов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель dsvv-cair/alpaca-cleaned-llama-30b-bf16 — языковая модель семейства LLaMA, дообученная методом QLoRA на наборе yahma/alpaca-cleaned. Она предназначена для генерации текста по запросам и инструкциям, включая ответы на вопросы и выполнение текстовых поручений. Модель содержит 32,3 млрд параметров, использует архитектуру LlamaForCausalLM и формат PyTorch; заявленная длина контекста — 2048 токенов.
В README приведены результаты оценки на тестах ARC и HellaSwag. Для работы нужны совместимые средства запуска моделей PyTorch и подходящие вычислительные ресурсы для модели такого размера. Базовая модель — huggyllama/llama-30b. Лицензия в доступных данных не указана.
Контекст ограничен 2048 токенами. Языки поддержки и лицензия не приведены в доступных данных.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Method : QLORA
Dataset : yahma/alpaca-cleaned
Base model : huggyllama/llama-30b
Compute dtype : bfloat16
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 50.12 |
| ARC (25-shot) | 61.77 |
| HellaSwag (10-shot) | 85.06 |
| MMLU (5-shot) | 57.52 |
| TruthfulQA (0-shot) | 51.49 |
| Winogrande (5-shot) | 77.35 |
| GSM8K (5-shot) | 7.73 |
| DROP (3-shot) | 9.91 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…