Экспериментальная англоязычная модель Llama на 3,3 млрд параметров, дообученная на многоходовых диалогах для генерации ответов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Harborwater разработал экспериментальную языковую модель open-llama-3b-claude-30k на архитектуре Llama с плотной причинной языковой моделью. Она содержит 3,3 млрд параметров и предназначена для генерации текста в диалоговом формате по шаблону с сообщениями HUMAN и RESPONSE.
Модель дообучена в течение трёх эпох на наборе Norquinal/claude_multiround_chat_30k. В карточке приведены результаты оценки на нескольких тестах, включая AI2 Reasoning Challenge и HellaSwag. Модель ориентирована на английский язык; максимальный нативный контекст составляет 2048 токенов.
Модель выпущена под лицензией Apache-2.0. Автор описывает её как эксперимент и предлагает попробовать; результаты оценки не гарантируют качество в конкретных задачах.
Автор характеризует модель как экспериментальную; приведённые результаты бенчмарков не гарантируют качество в практических сценариях. Нативный контекст ограничен 2048 токенами.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Trained on 3 epoch of the Norquinal's claude_multiround_chat_30k dataset.
note: this is another expeiment feel free to give it a try!
Prompt template:
### HUMAN:
{prompt}
### RESPONSE:
<leave a newline for the model to answer>
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 40.93 |
| AI2 Reasoning Challenge (25-Shot) | 41.72 |
| HellaSwag (10-Shot) | 72.64 |
| MMLU (5-Shot) | 24.03 |
| TruthfulQA (0-shot) | 38.46 |
| Winogrande (5-shot) | 66.54 |
| GSM8k (5-shot) | 2.20 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…