/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,6 млрд
Размер весов
13,5 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
24 июл 2023

airoboros-l2-7b-gpt4-1.4.1

Генерация текстаТекст → текст6 профессий

Дообученная на датасете Airoboros GPT-4 версия Llama 2 7B для генерации текста.

75скачиваний за 30 дней9лайковвеса обновлены4 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

jondurbin/airoboros-l2-7b-gpt4-1.4.1 — дообученная на датасете airoboros-gpt4-1.4.1 версия Llama 2 7B от автора jondurbin. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM, предназначенная для генерации текста. README отсылает к карточке предыдущей модели Llama 65B, поэтому подробности о сценариях обучения и поведении этой версии не раскрыты.

Модель содержит 6,6 млрд параметров, принимает текстовый контекст длиной до 4096 токенов и выдаёт текст. Репозиторий распространяет веса в формате PyTorch. Лицензия указана как other; конкретные условия использования из доступных данных установить нельзя.

Сценарии применения

  • генерация продолжения текста
  • создание ответов в диалоговом формате
  • составление текстовых инструкций и пояснений

Ограничения

В доступной карточке нет подробной оценки качества и описания поведения именно этой версии; контекст ограничен 4096 токенами. Условия лицензии не уточнены.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Overview

Llama 2 7b fine tune using https://huggingface.co/datasets/jondurbin/airoboros-gpt4-1.4.1

See the previous llama 65b model card for info: https://hf.co/jondurbin/airoboros-65b-gpt4-1.4

Licence and usage restrictions

This model was built on llama-2, which has a proprietary/custom Meta license.

  • See the LICENSE.txt file attached for the original license, along with USE_POLICY.md which was also provided by Meta.

The data used to fine-tune the llama-2-7b-hf model was generated by GPT4 via OpenAI API calls.using airoboros

  • The ToS for OpenAI API usage has a clause preventing the output from being used to train a model that competes with OpenAI
    • what does compete actually mean here?
    • these small open source models will not produce output anywhere near the quality of gpt-4, or even gpt-3.5, so I can't imagine this could credibly be considered competing in the first place
    • if someone else uses the dataset to do the same, they wouldn't necessarily be violating the ToS because they didn't call the API, so I don't know how that works
    • the training data used in essentially all large language models includes a significant of copyrighted or otherwise unallowable licensing in the first place
    • other work using the self-instruct method, e.g. the original here: https://github.com/yizhongw/self-instruct released the data and model as apache-2

I am purposingly leaving this license ambiguous (other than the fact you must comply with the Meta original license) because I am not a lawyer and refuse to attempt to interpret all of the terms accordingly.

Your best bet is probably to avoid using this commercially due to the OpenAI API usage.

Either way, by using this model, you agree to completely indemnify me.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
54ddc56

0 моделей