Модель на основе OpenLLaMA 3B с объединённым EvolInstruct LoRA-адаптером для генерации ответов на текстовые инструкции.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
KnutJaegersberg/openllama_3b_EvolInstruct_lora_merged — языковая модель для генерации текста, построенная на архитектуре Llama. По названию репозитория модель основана на OpenLLaMA 3B и объединяет LoRA-адаптер, обученный в стиле EvolInstruct; в README приведён шаблон для ответов на инструкции. Размер модели — 3,3 млрд параметров, родной контекст — 2048 токенов.
Модель подходит для генерации ответов на текстовые инструкции и экспериментов с моделями семейства LLaMA. В README приведены результаты оценивания на бенчмарках ARC и HellaSwag. Модель распространяется по лицензии CC BY 4.0. README не сообщает подробностей об обучающих данных и целевых языках, поэтому конкретные языковые возможности подтвердить нельзя.
Контекст ограничен 2048 токенами. README не описывает языковой охват и обучающие данные, а приведённые результаты бенчмарков не раскрывают качество на прикладных задачах.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Prompt: "Below is an instruction that describes a task. Write a response that appropriately completes the request. \n\n### Instruction:\n INSTRUCTION. \n### Response:\n"
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 35.26 |
| ARC (25-shot) | 40.27 |
| HellaSwag (10-shot) | 71.6 |
| MMLU (5-shot) | 27.12 |
| TruthfulQA (0-shot) | 34.78 |
| Winogrande (5-shot) | 67.01 |
| GSM8K (5-shot) | 0.91 |
| DROP (3-shot) | 5.13 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…