Uploaded model
The model is modified to be deployable using vllm
- Developed by: GodsonNtungi
- License: apache-2.0
- ** Base Model :** Mollel/Swahili_Gemma
Характеристики
- Контекст
- 8 192 токена
- Параметры
- 8,2 млрд
- Размер весов
- 17,1 ГБ
- Лицензия
- Apache 2.0
- Архитектура
- gemma · dense
- Базовая модель
- Swahili_Gemma
- Опубликована
- 27 апр 2024
Ссылки
Swahili_Gemma_vllm
Дообученная на основе Gemma модель для генерации диалогового текста на суахили, подготовленная к развёртыванию с vLLM.
23скачиваний за 30 дней4лайкавеса обновлены28 апр 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
GodsonNtungi/Swahili_Gemma_vllm — версия модели Mollel/Swahili_Gemma, модифицированная GodsonNtungi для развёртывания с vLLM. Это плотная авторегрессионная модель семейства Gemma с 8,2 млрд параметров, предназначенная для генерации текста и диалоговых сценариев. Контекст составляет 8192 токена; модель ориентирована на суахили. Репозиторий содержит веса в формате PyTorch. Модель распространяется по лицензии Apache-2.0.
Карточка не сообщает о дополнительных возможностях или ограничениях качества; применение зависит от базовой модели и её дообучения для суахили.
Сценарии применения
- ответы на вопросы на суахили
- ведение диалога на суахили
- генерация текста на суахили
Ограничения
README не описывает проверенные ограничения качества или специальные меры безопасности; модель унаследовала особенности базовой модели и её дообучения.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923моделиI.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- GemmaForCausalLM
- Ревизия весов
- 9fd8383