Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Bungo-L3-8B — разговорная языковая модель семейства Llama 3, опубликованная пользователем R136a1. Автор сообщает, что модель хорошо показала себя в его тестировании и получила высокие результаты в рейтинге Chai, где известна как slerp8bv2. Для проверки использовались шаблон контекста Llama 3 Instruct и режим instruct.
Модель предназначена для генерации текста в диалоговом формате. Она имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов; доступны веса в формате safetensors. В метаданных указан английский язык. Автор приводит настройки генерации: temperature 0,9, min-p 0,1 и top-k 40, отмечая, что параметры можно менять.
В карточке не раскрыты состав обучения и подробные результаты независимой оценки качества. Модель распространяется по лицензии Llama 3; применяйте её с учётом условий этой лицензии.
Сценарии применения
ведение диалога с англоязычным чат-ботом
генерация ответов в формате Llama 3 Instruct
создание черновиков и продолжение текста
экспериментальная оценка разговорной модели в сценариях, похожих на Chai
Ограничения
Авторские заявления о качестве основаны на собственном тестировании; подробные оценки и методика не приведены. Контекст модели ограничен 8192 токенами.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Yeah, another L3 model. Perform really well from my testing and scores pretty high on Chai leaderboard (known as slerp8bv2 there). Feedback would be really appreciated.
I'm using default Llama 3 Instruct context template and instruct mode for my testing.
Temp: 0.9
Min P: 0.1
Top K: 40
Others are off, ajust as you need.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров