/ Модель

Характеристики

Контекст
8 192 токена
Параметры
2,7 млрд
Размер весов
10,5 ГБ
Архитектура
gemma2 · dense
Библиотека
transformers
Опубликована
8 авг 2024

gemma-7b-akali

Генерация текстаТекст → текст9 профессий

Дообученная текстовая модель Gemma 2 для диалоговой генерации и языковых задач с дополнением знаний.

20скачиваний за 30 дней0лайковвеса обновлены9 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AKALI — языковая модель, опубликованная Ali Eren Ak и дообученная на базе google/gemma-2-2b-it с использованием фреймворка AKALI. В метаданных указаны архитектура Gemma 2 с плотной causal language model, 2,7 млрд параметров, контекст до 8192 токенов и поддержка диалогового режима. Модель работает с текстом и предназначена для генерации ответов и выполнения языковых задач.

В карточке заявлены сценарии дополнения знаний, подготовки данных и интеграции в NLP-системы. Эффективность зависит от базовой модели, качества данных и выбранной задачи; автор отдельно отмечает возможные смещения в сгенерированных данных и отсутствие универсальной оценки. Указана проприетарная конфиденциальная лицензия, поэтому условия использования следует сверять с правообладателем.

Сценарии применения

  • генерация ответов в диалоге
  • дополнение знаний языковой модели
  • подготовка синтетических данных для NLP
  • интеграция генерации текста в прикладные системы

Ограничения

Результаты и смещения зависят от базовой модели, данных и задачи; универсальная оценка качества не приведена. Лицензия обозначена как проприетарная и конфиденциальная.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for AKALI

AKALI (Aggressive Knowledge Augmenter and Language Interface) is a library for language model augmentation and interfaces, designed to enhance AI model capabilities through strategic data augmentation and efficient task management.

Model Details

Model Description

  • Developed by: Ali Eren Ak
  • Funded by: [More Information Needed]
  • Shared by: Ali Eren Ak
  • Model type: Language model trained with augmented data
  • Language(s) (NLP): Multiple (supports various language models)
  • License: Proprietary and confidential
  • Finetuned from model: google/gemma-2-2b-it using AKALI is a framework)

Model Sources [optional]

Direct Use

  1. Load and interact with various language models.
  2. Perform knowledge augmentation to improve model performance.
  3. Manage different NLP tasks.
  4. Make predictions using loaded models.

Downstream Use [optional]

AKALI can be integrated into larger AI systems or applications for:

  1. Enhancing existing language models through data augmentation.
  2. Creating custom NLP tasks and processors.
  3. Building more robust and accurate AI systems.

Out-of-Scope Use

AKALI should not be used for:

  1. Generating or promoting harmful, biased, or misleading content.
  2. Unauthorized access to proprietary language models.
  3. Violating data privacy or intellectual property rights.

Bias, Risks, and Limitations

  1. AKALI's performance depends on the quality and biases of the underlying language models used.
  2. The effectiveness of augmentation strategies may vary depending on the specific task and dataset.
  3. Users should be aware of potential biases in the generated or augmented data.

Recommendations

Users (both direct and downstream) should be made aware of the risks, biases and limitations of the model. More information needed for further recommendations.

How to Get Started with the Model

Use the code below to get started with the model.

from akali import LanguageInterface

# Load a model
li = LanguageInterface.load_model("alierenak/gemma-7b-akali")

# Set the task
li.set_task("EntitySentimentReasoner")

# Make a prediction
result = li.predict(system_text=None, user_message="Turkcell hiç güzel çeken bir hat değil o yüzden Vodofone'u tercih ediyorum hem de daha ucuz")
print(result)

Training Details

AKALI itself is not a trained model, but a framework for augmenting and interfacing with language models. The training data would depend on the specific models and tasks used with AKALI. This model is trained on data augmented by Meta-Llama-3.1-70B-Instruct and fine-tuned version of google/gemma-2-2b-it.

Training Data

Can be accessed from Github repo

Evaluation

Evaluation of AKALI would depend on the specific use case, models, and tasks it's applied to. Users are encouraged to perform task-specific evaluations.

Environmental Impact

The environmental impact of using AKALI would vary based on the specific models and compute resources used. Users are encouraged to use the Machine Learning Impact calculator to estimate the carbon emissions for their specific use case.

Model Card Authors

Ali Eren Ak

Model Card Contact

akali@sabanciuniv.edu

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Gemma2ForCausalLM
Ревизия весов
29a8f9f

0 моделей