slices:
- sources:
- model: jondurbin/bagel-dpo-7b-v0.1
layer_range: [0, 32]
- model: NeverSleep/Noromaid-7b-v0.1.1
layer_range: [0, 32]
merge_method: slerp
base_model: jondurbin/bagel-dpo-7b-v0.1
parameters:
t:
- filter: self_attn
value: [0, 0.5, 0.3, 0.7, 1]
- filter: mlp
value: [1, 0.5, 0.7, 0.3, 0]
- value: 0.3
dtype: float16
Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 7,1 млрд
- Лицензия
- CC BY-NC 4.0
- Архитектура
- mistral · dense
- Опубликована
- 25 дек 2023
Ссылки
Noromaid-Bagel-7B-Slerp
Слитая методом SLERP 7,1-миллиардная разговорная модель Mistral для генерации текста с контекстом до 32 768 токенов.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
PistachioAlt/Noromaid-Bagel-7B-Slerp — разговорная языковая модель на архитектуре Mistral, полученная слиянием jondurbin/bagel-dpo-7b-v0.1 и NeverSleep/Noromaid-7b-v0.1.1 методом SLERP. Веса сохранены в формате safetensors с точностью float16; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов.
Модель предназначена для генерации текста и диалоговых сценариев. Указана лицензия CC BY-NC 4.0, которая разрешает использование с атрибуцией, но некоммерческое.
Сценарии применения
- генерация ответов в диалоговом интерфейсе
- продолжение текста по заданному началу
- создание черновиков и творческих текстов
Ограничения
Лицензия CC BY-NC 4.0 ограничивает использование некоммерческими сценариями и требует атрибуции. Качество и фактическая надёжность ответов зависят от запроса; конкретные оценки в карточке не приведены.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- MistralForCausalLM
- Ревизия весов
- 0e37804