Характеристики

Контекст: 4 096 токенов
Параметры: 12,9 млрд
Лицензия: ms-pl
Архитектура: llama · dense
Опубликована: 1 дек 2023

Ссылки

Hugging Face

Orca2-13B-selfmerge-26B

vmajor

Генерация текстаТекст → текст9 профессий

Слитая с самой собой модель Orca-2 на архитектуре Llama для генерации текста, ответов на вопросы и решения задач.

63скачиваний за 30 дней2лайкавеса обновлены19 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

vmajor/Orca2-13B-selfmerge-26B — языковая модель для генерации текста, созданная слиянием microsoft/Orca-2-13b с самой собой с помощью mergekit-legacy. В репозитории указаны параметры слияния weight 0.5 и density 0.5; метаданные описывают модель как плотную LlamaForCausalLM с 12,9 млрд параметров и контекстом 4096 токенов. Файлы опубликованы в формате safetensors.

Модель предназначена для генерации текста и решения задач общего назначения, включая ответы на вопросы и математические задачи. В README сообщается о небольшом улучшении perplexity и росте результата GSM8K относительно исходной Orca-2-13b; остальные приведённые бенчмарки показывают близкие результаты. Лицензия — Microsoft Public License (MS-PL).

Сценарии применения

генерация ответов на вопросы
решение математических текстовых задач
создание связного текста по запросу

Ограничения

Контекст ограничен 4096 токенами. README сообщает лишь о небольшом улучшении perplexity, а приведённые результаты бенчмарков сами по себе не гарантируют качество на практических задачах.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.1Разработка и данныеАнализ требований и архитектура ПОAI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения.20 задач18 191модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is a result of merging Orca2-13B with itself using 'mergekit-legacy'. Merge parameters were --weight 0.5 --density 0.5

This merged model showed marginal improvement in perplexity scores:

Model	Perplexity
microsoft/Orca-2-13b	7.595028877258301
vmajor/Orca2-13B-selfmerge-26B	7.550178050994873
vmajor/Orca2-13B-selfmerge-39B	NC

Benchmark Results

The following table summarizes the model performance across a range of benchmarks:

Model	Average	ARC	HellaSwag	MMLU	TruthfulQA	Winogrande	GSM8K
microsoft/Orca-2-13b	58.64	60.67	79.81	60.37	56.41	76.64	17.97
vmajor/Orca2-13B-selfmerge-26B	62.24	60.84	79.84	60.32	56.38	76.87	39.2
vmajor/Orca2-13B-selfmerge-39B	62.24	60.84	79.84	60.32	56.38	76.87	39.2

Interestingly the GSM8K performance more than doubled with the first self merge. Second self merge resulting in the 39B model did not produce any further gains.

license: ms-pl

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 2df764f