/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Лицензия
Apache 2.0
Архитектура
mistral · dense
Базовая модель
OpenHermes-2.5-neural-chat-v3-3-Slerp
Опубликована
24 дек 2023

OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp

Генерация текстаТекст → текст15 профессий

Слияние моделей OpenHermes и OpenChat на архитектуре Mistral для диалогов и генерации текста.

54скачиваний за 30 дней2лайкавеса обновлены21 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Weyaxi/OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp — объединённая языковая модель, созданная разработчиком Weyaxi с помощью mergekit и метода slerp на основе OpenHermes-2.5-neural-chat-v3-3-Slerp и OpenChat 3.5-1210. Веса построены на архитектуре MistralForCausalLM; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов.

Модель предназначена для генерации текста и диалогов. Базовая модель OpenChat 3.5-1210 ориентирована на программирование, математические рассуждения и общие текстовые задачи; README не приводит отдельной оценки качества или подробных сценариев для данного слияния. Репозиторий содержит веса в формате safetensors.

Модель распространяется по лицензии Apache-2.0. Как и другие языковые генеративные модели, она может выдавать неточные или непроверенные ответы; особые ограничения именно этой версии в карточке не описаны.

Сценарии применения

  • диалоговые ответы на запросы пользователя
  • генерация и продолжение текста
  • помощь с программированием
  • решение математических задач
  • ответы на общие вопросы

Ограничения

Карточка не содержит отдельных оценок качества для этого слияния. Ответы модели могут быть неточными или непроверенными.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp

This is the model for OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp. I used mergekit to merge models.

Yaml Config


slices:
  - sources:
      - model: Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp
        layer_range: [0, 32]
      - model: openchat/openchat-3.5-1210
        layer_range: [0, 32]

merge_method: slerp
base_model: mistralai/Mistral-7B-v0.1

parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.5 # fallback for rest of tensors
tokenizer_source: union

dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
27c8cc1

0 моделей