Aura-llama — экспериментальная 10,1-миллиардная текстовая модель на базе Llama 3 для диалогов и генерации текста с контекстом до 8192 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Aura-llama — экспериментальная текстовая языковая модель SteelStorage, построенная на базе NousResearch/Meta-Llama-3-8B-Instruct. Автор описывает применение метода depth up-scaling (DUS): слои Llama 3 повторно собраны в более глубокую архитектуру; в карточке приведена конфигурация mergekit с методом passthrough и указано, что модель ещё не дообучалась. Модель использует архитектуру LlamaForCausalLM, содержит 10,1 млрд параметров, принимает текст и генерирует текст, включая диалоговые ответы.
Контекст составляет 8192 токена. Карточка приводит результаты оценивания по нескольким бенчмаркам, но не описывает отдельные специализированные сценарии или поддержку языков; базовая модель заявлена как англоязычная. Репозиторий распространяется по лицензии Apache-2.0.
В README указано, что модель ещё не проходила дообучение после сборки, а дальнейшее обучение планировалось. Заявленные бенчмарки сами по себе не подтверждают качество в прикладных сценариях.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 63.13 |
| AI2 Reasoning Challenge (25-Shot) | 58.02 |
| HellaSwag (10-Shot) | 77.82 |
| MMLU (5-Shot) | 65.61 |
| TruthfulQA (0-shot) | 51.94 |
| Winogrande (5-shot) | 73.40 |
| GSM8k (5-shot) | 52.01 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…