/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
4 дек 2024

Brainy_LLAMA

Генерация текстаТекст → текст

Brainy_LLAMA — 7,5-миллиардная текстовая модель семейства Llama для генерации, диалога, перевода, суммаризации и ответов на вопросы.

23скачиваний за 30 дней1лайквеса обновлены4 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,4143

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,5204

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,1337

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,3138

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,5117

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3849

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Brainy_LLAMA — плотная авторегрессионная языковая модель семейства Llama на архитектуре Transformer, представленная автором под именем Sicarius-Prototyping. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для генерации текста и диалогов, перевода, суммаризации и ответов на вопросы. В метаданных указано окно контекста до 131 072 токенов; веса опубликованы в формате safetensors.

Модель можно использовать для создания черновиков статей и отчётов, чат-ботов и виртуальных помощников, краткого пересказа документов и ответов на пользовательские запросы. README заявляет разнообразное текстовое обучение и конкурентные результаты на бенчмарках, но не приводит конкретных оценок или описания методики проверки. Возможны фактические ошибки и смещения; ответы следует проверять, а связность на длинных текстах может снижаться. Лицензия — Apache-2.0.

Сценарии применения

  • генерация черновиков статей и отчётов
  • ответы на вопросы пользователей в чате
  • суммаризация длинных текстов
  • перевод текстов между языками
  • создание диалоговых чат-ботов

Ограничения

Модель может уверенно выдавать фактически неверные ответы и воспроизводить смещения обучающих данных. README указывает на ограничения при работе с длинными текстами, несмотря на контекст в 131 072 токена, заявленный в метаданных.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Overview

Brainy_LLAMA is a state-of-the-art large language model developed by my cat. It is designed to understand and generate human-like text based on the input it receives. This model is capable of performing a wide range of natural language processing tasks, including but not limited to text generation, translation, summarization, and question-answering.

Intended Use

Brainy_LLAMA is intended for use in various applications that require advanced natural language processing capabilities. Some of the key use cases include:

  • Text Generation: Generating coherent and contextually relevant text based on given prompts.
  • Translation: Translating text from one language to another with high accuracy.
  • Summarization: Summarizing long texts into concise and informative summaries.
  • Question-Answering: Providing accurate and relevant answers to user queries.
  • Content Creation: Assisting in the creation of articles, reports, and other written content.
  • Chatbots and Virtual Assistants: Powering conversational agents that can engage in natural and meaningful dialogues with users.

Training Data

Brainy_LLAMA was trained on a diverse and extensive dataset comprising text from various sources, including books, articles, websites, and other publicly available texts. The training data was carefully curated to ensure a wide range of topics and styles, enabling the model to understand and generate text across different domains.

Model Architecture

Brainy_LLAMA is based on the transformer architecture, which is known for its effectiveness in handling sequential data. The model consists of multiple layers of self-attention mechanisms and feed-forward neural networks, allowing it to capture complex patterns and relationships in the input text.

Performance Metrics

Brainy_LLAMA has been evaluated on several benchmark datasets and has demonstrated competitive performance across various natural language processing tasks. Some of the key performance metrics include:

  • Perplexity: A measure of the model's ability to predict the next word in a sequence. Lower perplexity indicates better performance.
  • BLEU Score: A metric used to evaluate the quality of machine-generated text, particularly in translation tasks. Higher BLEU scores indicate better performance.
  • ROUGE Score: A metric used to evaluate the quality of summarization tasks. Higher ROUGE scores indicate better performance.

Limitations

While Brainy_LLAMA is a powerful language model, it is important to be aware of its limitations:

  • Hallucinations: The model may generate text that sounds confident but is factually incorrect. Users should verify the information generated by the model.
  • Bias: The model may exhibit biases present in the training data. Efforts have been made to mitigate biases, but users should be cautious of potential biases in the generated text.
  • Context Window: The model has a limited context window, which means it may not be able to maintain coherence over very long texts.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
c6c0c29

0 моделей