unsloth/gemma-2-9b — 9-миллиардная плотная языковая модель семейства Gemma 2 от Google, опубликованная Unsloth в формате safetensors с 4-битной квантизацией bitsandbytes. Модель предназначена для генерации текста; карточка демонстрирует сценарии разговорного общения с шаблонами ShareGPT ChatML и Vicuna, а также продолжения необработанного текста.

Контекст модели составляет 8192 токена. В README Unsloth также предлагает использовать Gemma 2 (9B) для дообучения и приводит ноутбуки для Colab, включая сценарии DPO; это описывает рабочий процесс дообучения, а не подтверждает, что данный репозиторий уже дообучен. Метаданные указывают английский язык.

Лицензия — Gemma. Карточка описывает 4-битную квантизованную сборку и приводит заявленные Unsloth ускорение и экономию памяти при дообучении, но не содержит независимой оценки качества модели.