Объединённая модель Llama с 7,5 млрд параметров для генерации текста и диалогового общения с контекстом до 131 072 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
chain03/SRole_3181 — объединённая модель для генерации текста и диалогового общения. Она создана методом линейного слияния mergekit из двух предварительно обученных языковых моделей: /root/top1 и /root/top2. Модель использует плотную архитектуру семейства Llama с классом LlamaForCausalLM и содержит 7,5 млрд параметров.
Модель рассчитана на генерацию текста и ответы в формате чата. Заявленная длина контекста — 131 072 токена. Веса доступны в формате safetensors; в конфигурации слияния указан тип данных bfloat16. Лицензия в предоставленных сведениях не указана.
В предоставленных данных не указаны поддерживаемые естественные языки и лицензия. Качество и поведение объединённой модели отдельно не охарактеризованы.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a merge of pre-trained language models created using mergekit.
This model was merged using the linear merge method.
The following models were included in the merge:
The following YAML configuration was used to produce this model:
models:
- model: /root/top2
parameters:
weight: 0.9777
- model: /root/top1
parameters:
weight: 0.0628
merge_method: linear
dtype: bfloat16
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…