Uploaded model
- Developed by: SameedHussain
- License: apache-2.0
- Finetuned from model : unsloth/gemma-2b-bnb-4bit
This gemma model was trained 2x faster with Unsloth and Huggingface's TRL library.
Характеристики
- Контекст
- 8 192 токена
- Параметры
- 2,5 млрд
- Размер весов
- 5 ГБ
- Лицензия
- Apache 2.0
- Архитектура
- gemma · dense
- Базовая модель
- gemma-2b-bnb-4bit
- Опубликована
- 11 сен 2024
Ссылки
gemma-2-2b-it-hermes-function-calling
Генерация текстаТекст → текст
Дообученная Gemma с 2,5 млрд параметров для генерации текста и предполагаемых диалоговых сценариев с вызовом функций.
19скачиваний за 30 дней0лайковвеса обновлены11 сен 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
SameedHussain/gemma-2-2b-it-hermes-function-calling — дообученная модель семейства Gemma с плотной архитектурой GemmaForCausalLM и примерно 2,5 млрд параметров. Она создана SameedHussain на базе unsloth/gemma-2b-bnb-4bit с использованием Unsloth и библиотеки TRL; доступна в формате PyTorch.
Модель предназначена для генерации текста. Название репозитория указывает на настройку для диалогов и вызова функций, однако README не приводит примеров или результатов, подтверждающих эти возможности. Контекст модели составляет до 8192 токенов. В карточке указан английский язык, лицензия Apache-2.0.
Данных о качестве, оценках и ограничениях при использовании вызова функций в карточке нет.
Сценарии применения
- Генерация текста на английском языке
- Создание ответов в диалоге
- Эксперименты с вызовом функций в языковой модели
Ограничения
README не содержит примеров, оценок качества или подробностей о формате и надёжности вызова функций; эту возможность нельзя подтвердить по карточке.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- GemmaForCausalLM
- Ревизия весов
- 77bfc14