Компактная англоязычная модель на архитектуре Llama 2 для генерации текста и диалогов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MMLU-PRO
MMLU-PRO Raw · выше — лучше
0,1101
Публичная таблицадругая ревизия
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
0,0053
Публичная таблицадругая ревизия
Описание составлено по карточке модели и метаданным Hugging Face
cpayne1303/cp2024 — компактная языковая модель на архитектуре Llama 2, содержащая около 31,2 млн параметров. По карточке модели, она обучена примерно на 2 млрд токенов разнообразных веб-данных из первых миллиона строк англоязычного набора C4 без очистки. Модель предназначена для генерации текста и диалоговых сценариев на английском языке; заявленная длина контекста составляет 512 токенов.
Модель распространяется в формате Safetensors через Transformers под лицензией Apache-2.0. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, однако результаты приведённой оценки Open LLM Leaderboard указывают на ограниченные возможности: среднее значение — 3,61, а IFEval и BBH показывают низкие результаты. Она подходит для экспериментов и простых генеративных задач, но не следует рассчитывать на надёжное следование инструкциям или сложные рассуждения.
Низкие результаты в приведённых оценках ограничивают применение модели в задачах следования инструкциям и сложных рассуждений. Контекст ограничен 512 токенами; обучение использовало неочищенные данные C4.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a model using the llama2 architecture and only 30 million parameters. It is trained on approximately 2 billion tokens of diverse web data from the first 1000000 rows of the uncleaned c4 english dataset.
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 3.61 |
| IFEval (0-Shot) | 16.58 |
| BBH (3-Shot) | 2.74 |
| MATH Lvl 5 (4-Shot) | 0.00 |
| GPQA (0-shot) | 0.78 |
| MuSR (0-shot) | 0.46 |
| MMLU-PRO (5-shot) | 1.12 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…