/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
24 июл 2023

airoboros-l2-13b-gpt4-1.4.1

Генерация текстаТекст → текст5 профессий

Дообученная на наборе Airoboros версия Llama 2 13B для генерации текста и диалогов.

72скачиваний за 30 дней12лайковвеса обновлены4 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

jondurbin/airoboros-l2-13b-gpt4-1.4.1 — дообученная версия Llama 2 13B, подготовленная Jondurbin на наборе данных airoboros-gpt4-1.4.1. Это плотная авторегрессионная языковая модель на архитектуре Llama для генерации текста и диалоговых сценариев. Модель содержит 12,9 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов.

Модель подходит для генерации ответов и диалогов в стиле обучающих данных Airoboros. В карточке приведена ссылка на предыдущую версию модели, но подробности о её возможностях и ограничениях здесь отсутствуют. Указана лицензия other; перед использованием следует проверить её условия.

Сценарии применения

  • генерация ответов в диалоге
  • создание текстовых продолжений
  • эксперименты с инструкционной языковой моделью
  • разработка прототипа текстового помощника

Ограничения

В карточке нет подробной оценки качества и перечня ограничений; контекст модели ограничен 4096 токенами. Лицензия обозначена как other, поэтому условия использования следует проверить отдельно.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Overview

Llama 2 13b fine tune using https://huggingface.co/datasets/jondurbin/airoboros-gpt4-1.4.1

See the previous llama 65b model card for info: https://hf.co/jondurbin/airoboros-65b-gpt4-1.4

Licence and usage restrictions

This model was built on llama-2, which has a proprietary/custom Meta license.

  • See the LICENSE.txt file attached for the original license, along with USE_POLICY.md which was also provided by Meta.

The data used to fine-tune the llama-2-13b-hf model was generated by GPT4 via OpenAI API calls.using airoboros

  • The ToS for OpenAI API usage has a clause preventing the output from being used to train a model that competes with OpenAI
    • what does compete actually mean here?
    • these small open source models will not produce output anywhere near the quality of gpt-4, or even gpt-3.5, so I can't imagine this could credibly be considered competing in the first place
    • if someone else uses the dataset to do the same, they wouldn't necessarily be violating the ToS because they didn't call the API, so I don't know how that works
    • the training data used in essentially all large language models includes a significant of copyrighted or otherwise unallowable licensing in the first place
    • other work using the self-instruct method, e.g. the original here: https://github.com/yizhongw/self-instruct released the data and model as apache-2

I am purposingly leaving this license ambiguous (other than the fact you must comply with the Meta original license) because I am not a lawyer and refuse to attempt to interpret all of the terms accordingly.

Your best bet is probably to avoid using this commercially due to the OpenAI API usage.

Either way, by using this model, you agree to completely indemnify me.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
481f8be

0 моделей