Инструкционная модель Llama на 3,3 млрд параметров для генерации ответов на текстовые запросы.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
harborwater/open-llama-3b-v2-wizard-evol-instuct-v2-196k — языковая модель на архитектуре Llama, обученная на одном проходе по набору инструкций WizardLM_evol_instruct_v2_196k. Она предназначена для генерации текста в ответ на пользовательские запросы и выполнения инструкций в формате диалога с шаблоном HUMAN/RESPONSE. Модель содержит 3,3 млрд параметров, принимает текст и имеет контекст длиной 2048 токенов. В карточке приведены результаты оценивания на бенчмарках ARC и HellaSwag.
Модель опубликована в форматах PyTorch и Safetensors; в README также дана ссылка на варианты GGUF. Метаданные указывают английский язык и лицензию Apache-2.0. Качество ответов может быть ограничено размером модели, длиной контекста и обучающей выборкой; результаты отдельных бенчмарков не гарантируют точность в прикладных задачах.
Контекст ограничен 2048 токенами, а сравнительно небольшой размер модели может снижать качество сложных ответов. Опубликованные результаты охватывают лишь отдельные бенчмарки и не гарантируют точность на произвольных запросах.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Trained on 1 epoch of the WizardLM_evol_instruct_v2_196k dataset
Link to GGUF formats.
Prompt template:
### HUMAN:
{prompt}
### RESPONSE:
<leave a newline for the model to answer>
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 41.46 |
| AI2 Reasoning Challenge (25-Shot) | 41.81 |
| HellaSwag (10-Shot) | 73.01 |
| MMLU (5-Shot) | 26.36 |
| TruthfulQA (0-shot) | 38.99 |
| Winogrande (5-shot) | 66.69 |
| GSM8k (5-shot) | 1.90 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…