/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
6,6 млрд
Лицензия
MIT
Архитектура
llama · dense
Опубликована
20 ноя 2023

llama2_7b_merge_orcafamily

Генерация текстаТекст → текст3 профессии

Объединённая модель на основе Llama 2 7B для генерации английского текста и ответов на вопросы, дообученная на наборах OpenOrca.

69скачиваний за 30 дней2лайкавеса обновлены20 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

yeen214/llama2_7b_merge_orcafamily — плотная авторегрессионная языковая модель семейства LLaMA, созданная на основе Llama 2 7B. Разработчик объединил три дообученные версии: две обучены на beaugogh/openorca-multiplechoice-10k, одна из них с методом NEFTune, а третья — на Open-Orca/SlimOrca. При объединении больший вес получила модель с лучшими результатами ARC и MMLU.

Модель предназначена для генерации текста и ответов на вопросы на английском языке, в том числе для задач с вариантами ответа и общих запросов. Она содержит около 6,6 млрд параметров, использует формат safetensors и имеет контекстное окно 2048 токенов. Лицензия — MIT.

Автор сообщает о сравнении результатов ARC и MMLU, но официальные результаты в карточке ещё не приведены. Поэтому качество модели и её преимущество над базовой Llama 2 независимо оценить по имеющимся данным нельзя.

Сценарии применения

  • ответы на вопросы с вариантами ответа
  • генерация английского текста по запросу
  • решение задач ARC
  • ответы на вопросы общего характера

Ограничения

Контекст ограничен 2048 токенами. Официальные результаты ARC и MMLU в карточке отсутствуют, поэтому заявленные сравнительные преимущества не подтверждены приведёнными данными.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is based on the LLama 7b model as a backbone, and datasets from various Orcas have been fine-tuned and merged.

The three models were combined, and the model with the best ARC and MMLU performance was given the highest weight.

First: fine-tuning beaugogh/openorca-multiplechoice-10k on llama2 7b, but using the NEFTune method.

Second: model fine-tuned with the SlimOrca dataset on llama2 7b.

Third : Model with beaugogh/openorca-multiplechoice-10k fine-tuned on llama2 7b.

We'll add the results once we have the official results

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
fb65f69

0 моделей