Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
kz919 выпустил плотную авторегрессионную языковую модель семейства Llama 3 примерно на 3 млрд параметров, обученную с нуля с помощью torchtitan на наборе FineWeb-Edu. По метаданным репозитория размер модели составляет 4 млрд параметров; README указывает, что при обучении модель обработала 60 млрд токенов, что соответствует заявленному автором правилу Chinchilla 20×.
Модель предназначена для генерации текста и базовых языковых задач на английском языке. Её можно запускать через Transformers pipeline с задачей text-generation. Метаданные указывают на контекст до 131 072 токенов и формат весов safetensors. В README приведены результаты тестов ARC, HellaSwag, MMLU и других бенчмарков, но они указывают на ограниченные способности модели и не гарантируют качество в практических сценариях.
Модель опубликована по лицензии Apache-2.0. Она создана с нуля, поэтому базовая модель не указана; результаты и заявленные характеристики следует рассматривать как экспериментальные, а не как подтверждение готовности к производственному использованию.
Сценарии применения
генерация продолжения английского текста
черновые ответы на простые вопросы на английском
эксперименты с языковыми моделями семейства Llama
оценка генеративной модели на стандартных языковых бенчмарках
Ограничения
Показатели в приведённых бенчмарках ограничены, поэтому модель может давать неточные или слабые ответы. README заявляет около 3 млрд параметров, тогда как метаданные указывают 4 млрд.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель