/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,7 млрд
Размер весов
13,7 ГБ
Лицензия
Llama 2
Архитектура
llama · dense
Библиотека
transformers
Опубликована
5 мар 2024

Gaja-v2.00-dpo

Генерация текстаТекст → текст3 профессии

Экспериментальная чат-модель на базе OpenHathi для диалогов на хинди и хинглише.

63скачиваний за 30 дней0лайковвеса обновлены5 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Gaja-v2.00-dpo — чат-модель на базе OpenHathi от SarvamAI, дообученная для диалогов. Она предназначена для общения на хинди и хинглише; в метаданных также заявлена поддержка английского языка. Модель построена на архитектуре Llama с плотной сетью и содержит 6,7 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и доступна в формате Safetensors через Transformers.

По README, модель дообучали на 1 тыс. примеров; автор сообщает, что она превосходит чат-версию Airavata на наборе тестов OpenLLM от Hugging Face. Карточка позиционирует её как экспериментальную платформу для разработки чат-ботов. Лицензия — Llama 2; README не приводит отдельной оценки ограничений качества.

Сценарии применения

  • ответы на вопросы и повседневный диалог на хинди
  • общение с чат-ботом на хинглише
  • создание прототипа двуязычного чат-бота
  • эксперименты с дообучением разговорных моделей

Ограничения

Дообучение выполнено всего на 1 тыс. примеров, поэтому качество ответов может быть нестабильным. Указанный контекст ограничен 4096 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model

🐘 Gaja

Gaja is a Hindi/Hinglish chat model, initially trained on SarvamAI's OpenHathi model and further fine-tuned for conversational interactions.

Additional Information

  • It outperforms Airavata, AI4Bharat's chat version, on Huggingface OpenLLM benchmark suite.
  • It was fine-tuned on only 1k samples

💬 Prompt template

<|im_start|>user
{}<|im_end|> 
<|im_start|>assistant
{}<|im_end|> 

😎 Features:

  • Language Support: Gaja is designed to understand and generate responses in both Hindi and Hinglish, catering to a diverse range of users.
  • Base Model: Built upon SarvamAI's OpenHathi model, Gaja inherits its foundational capabilities while being optimized for conversational tasks.
  • Fine-tuning: Gaja has undergone fine-tuning specifically for chat-based interactions, enhancing its ability to engage in meaningful conversations with users.
  • Experimental Platform: With its flexibility and adaptability, Gaja serves as a valuable platform for conducting experiments and exploring innovative approaches to chatbot development.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
00fc1c1

0 моделей