Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Kudzu-8B — разговорная модель-слияние, созданная автором lodrick-the-lafted с помощью mergekit-evolve на основе пяти моделей семейства Llama 3: Olethros-8B, Limon-8B, Rummage-8B, meta-llama-3-8b-instruct-hf-ortho-baukit-10fail-1000total и L3-TheSpice-8b-v0.8.3. Модель предназначена для генерации текста и диалоговых ответов.
Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Для подбора слияния автор использовал WMDP как метрику; по ограниченным собственным тестам, модель реже использовала характерные для Llama 3 междометия «Ahaha!», сохраняя значительную часть возможностей исходных моделей. В смеси присутствуют аблированные модели, поэтому ответы могут быть неожиданными.
Модель распространяется в формате Safetensors по лицензии Apache-2.0. README описывает лишь ограниченное тестирование, поэтому качество и поведение на широком наборе задач не установлены.
Сценарии применения
генерация ответов в текстовом диалоге
создание черновиков и продолжение текста
тестирование разговорных слияний моделей Llama 3
Ограничения
Автор сообщает только об ограниченном тестировании; из-за включения аблированных моделей ответы могут быть неожиданными. Широкие оценки качества и поддержки языков в карточке не приведены.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Used wmdp as the scoring method for evolve. In my limited testing, it has not done the usual Llama-3 "Ahaha!" interjections while retaining a good portion of the intelligence. There are several ablated models in the mix so don't be surprised if it gives you what you ask for.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
