Компактная дообученная модель LLaMA на 43,5 млн параметров для генерации английского текста и разговорных экспериментов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
IFEval
IFEval Raw · выше — лучше
0,1916
Публичная таблицаревизия совпадает
BBH
BBH Raw · выше — лучше
0,2965
Публичная таблицаревизия совпадает
MUSR
MUSR Raw · выше — лучше
0,3872
Публичная таблицаревизия совпадает
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
0,0045
Публичная таблицаревизия совпадает
GPQA
GPQA Raw · выше — лучше
0,2685
Публичная таблицаревизия совпадает
MMLU-PRO
MMLU-PRO Raw · выше — лучше
0,1132
Публичная таблицаревизия совпадает
Описание составлено по карточке модели и метаданным Hugging Face
cpayne1303/llama-43m-beta — компактная авторегрессионная модель семейства LLaMA, разработанная на основе JackFram/llama-68m. По README, веса инициализированы от базовой модели с объединёнными эмбеддингами, затем модель дополнительно обучалась на первых миллионах примеров неочищенного датасета C4; обучение не охватывало весь набор данных. В метаданных указаны 43,5 млн параметров, архитектура LlamaForCausalLM, библиотека Transformers, формат safetensors и контекст 2048 токенов.
Модель предназначена для генерации продолжения текста и разговорных экспериментов на английском языке. Это бета-версия небольшой модели, поэтому её возможности и качество ограничены по сравнению с крупными языковыми моделями. Лицензия — Apache-2.0.
Это бета-модель, обученная лишь на части неочищенного C4; качество и полнота обучения ограничены. Контекст составляет 2048 токенов.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model is based of llama-68m and was initialized from this model with tied embeddings and then further pretrained on the uncleaned c4 dataset. This model is obviously a beta based on the name and has not been trained on the full training set which is the first 1 million samples of the uncleaned c4 dataset as mentioned above.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…