Это разговорная модель семейства Llama 3 с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Репозиторий опубликован Unsloth; веса представлены в формате safetensors и напрямую квантованы до 4 бит с помощью bitsandbytes. Модель предназначена для генерации текста и диалогового общения, в том числе для использования с шаблонами ShareGPT ChatML и Vicuna.

Модель может служить основой для ответов на вопросы, ведения диалога и продолжения текста. README также описывает сценарии дообучения Llama 3 8B с использованием ноутбуков Unsloth, но не сообщает, что этот чекпойнт сам был дообучен на конкретном наборе данных. В метаданных указан контекст 8192 токена и английский язык. Лицензия — llama3; применимость конкретных условий следует сверять с лицензией Llama 3.