/ Модель

Характеристики

Контекст
8 192 токена
Параметры
9 млрд
Размер весов
37 ГБ
Архитектура
gemma2 · dense
Библиотека
transformers
Опубликована
13 сен 2024

gemma2-mitra-base

Генерация текстаТекст → текст3 профессии

Базовая Gemma 2 9B, дополнительно предобученная на буддийских текстах для генерации текста на санскрите, тибетском, английском и пали.

116скачиваний за 30 дней4лайкавеса обновлены7 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

gemma2-mitra-base — базовая языковая модель buddhist-nlp, созданная на основе Gemma 2 9B. Модель непрерывно предобучали в течение двух эпох на 7 млрд токенов из буддийских коллекций текстов на санскрите, тибетском, английском и пали. Это плотная трансформерная модель для генерации текста с 9 млрд параметров и контекстом до 8192 токенов; веса опубликованы в формате safetensors, для работы используется Transformers.

Модель предназначена для продолжения и анализа буддийских текстов, а также генерации текста в соответствующем тематическом и языковом контексте. Это базовая модель без инструкционного дообучения: для решения задач в формате запросов ей могут потребоваться примеры в контексте, а на общих задачах разработчики предупреждают о слабых результатах. В README не указана лицензия.

Сценарии применения

  • продолжение буддийских текстов
  • генерация текстов на санскрите, тибетском и пали
  • исследование и анализ буддийских корпусов
  • адаптация языковой модели для буддийской тематики

Ограничения

Модель не прошла инструкционное дообучение и может плохо справляться с общими задачами без примеров в контексте. В README лицензия не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gemma2-mitra-base

This is based on gemma2-9b and continously pretrained for 2 epochs on a total of 7B tokens from various Buddhist data collections preserved in Sanskrit, Tibetan, English, and Pāli.
A publication describing the dataset and training details will follow soon.

Model Details

For details on how to run this please see the gemma2-9b repository: https://huggingface.co/google/gemma-2-9b
Please be aware that this is a base model without any instruction finetuning, so it will perform badly on general tasks without giving at least few-shot examples.
There is an instruction-finetuned version here: https://huggingface.co/buddhist-nlp/gemma-2-mitra-it

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Gemma2ForCausalLM
Ревизия весов
377efa7

0 моделей