Дообученная на WizardLM_Orca англоязычная модель Llama с 3,3 млрд параметров для генерации текста и диалоговых ответов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
harborwater/wizard-orca-3b — производная языковая модель семейства Llama, дообученная автором на протяжении двух эпох на датасете WizardLM_Orca от pankajmathur. Она предназначена для генерации текста и диалоговых ответов по шаблону с разделами HUMAN и RESPONSE; в карточке приведены результаты оценок на задачах рассуждения и продолжения бытовых сценариев. Модель содержит 3,3 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 2048 токенов. Поддерживаемый язык по карточке и тегам — английский.
Модель распространяется в форматах PyTorch и safetensors по лицензии Apache-2.0. Данные карточки указывают на дообучение на WizardLM_Orca, но не раскрывают конкретные ограничения качества за пределами приведённых оценок.
Контекст ограничен 2048 токенами. Карточка приводит лишь отдельные результаты бенчмарков, поэтому они не характеризуют качество на всех задачах.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Trained on 2 epoch of pankajmathur's WizardLM_orca dataset.
This is an open llama derivative.
Prompt template:
### HUMAN:
{prompt}
### RESPONSE:
<leave a newline for the model to answer>
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 41.00 |
| AI2 Reasoning Challenge (25-Shot) | 41.72 |
| HellaSwag (10-Shot) | 71.78 |
| MMLU (5-Shot) | 24.49 |
| TruthfulQA (0-shot) | 40.04 |
| Winogrande (5-shot) | 66.93 |
| GSM8k (5-shot) | 1.06 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…