/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,7 млрд
Размер весов
13,8 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
20 фев 2024

gujju-llama-base-v1.0

Генерация текстаТекст → текст4 профессии

Базовая модель LLaMA на 6,7 млрд параметров для генерации текста на гуджарати и английском и последующей тонкой настройки.

21скачиваний за 30 дней1лайквеса обновлены19 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Gujju-Llama Base — плотная причинная языковая модель семейства LLaMA, разработанная Khyat Anjaria, Dhruv Bhatnagar и Dixit Trivedi для развития обработки гуджарати. Модель содержит 6,7 млрд параметров, создана на основе meta-llama/Llama-2-7b-hf и обучена на подмножестве CulturaX на гуджарати; в README также упомянуты датасеты Alpaca и OpenOrca. Контекст составляет 4096 токенов.

Модель предназначена для генерации текста и как основа для дальнейшей тонкой настройки инструктивных моделей. Она поддерживает гуджарати и английский, использует архитектуру LlamaForCausalLM и опубликована в формате safetensors. Лицензия в метаданных указана как Apache-2.0, тогда как README указывает GNU GPL v3.0, поэтому условия использования требуют проверки по исходным материалам. Модель не оптимизирована для предотвращения вредоносного или оскорбительного содержания.

Сценарии применения

  • генерация текста на гуджарати
  • продолжение текстов на гуджарати
  • создание прототипов приложений для NLP на гуджарати
  • тонкая настройка инструктивной языковой модели
  • генерация текста на английском

Ограничения

Модель не оптимизирована для фильтрации вредоносного или оскорбительного контента. В README и метаданных указаны разные лицензии (GNU GPL v3.0 и Apache-2.0), поэтому перед использованием следует сверить лицензию репозитория.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gujju-Llama 7B Base v0.1

Unveiling the debut of Gujju-Llama 7B Base model, offering researchers and developers a foundational resource for advancing Gujarati NLP. This causally trained model, built upon the LLaMA-2 7B and enriched with a nuanced Gujarati vocabulary, facilitates immediate inference tasks while enabling fine-tuning for Instruction-tuned models. Let's delve into its capabilities and unlock new possibilities for Gujarati language understanding.

Model Details

Model Description

  • Model type: Llama-2 7B parameter model pretrained on CulturaX Gujarati Subset.
  • Language(s) (NLP): Gujarati, English
  • Source Model meta-llama/Llama-2-7b-hf
  • Training Precision float16
  • License: GNU General Public License v3.0

Usage Note

These models possess impressive linguistic skills, but it's important to remember they haven't been specifically optimized to avoid potentially harmful or offensive content. To mitigate this risk, we advise users to:

  • Exercise discretion: Carefully consider potential implications before utilizing outputs.
  • Supervise closely: Monitor outputs, especially in public or sensitive settings.
  • Be aware of limitations: Remember these models are under development and may not generate perfect results in all situations.

Meet the researchers

This model is your gateway to unlocking the potential of Gujarati language! Let's join forces to push the boundaries of comprehension and expression together!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
83fc9bb

0 моделей