Характеристики

Контекст: 32 768 токенов
Параметры: 11,3 млрд
Лицензия: Apache 2.0
Архитектура: mistral · dense
Опубликована: 28 ноя 2023

Ссылки

zephyr-neural-chat-frankenmerge11b

Генерация текстаТекст → текст8 профессий

Объединённая из Zephyr 7B Beta и Neural Chat 7B v3.1 языковая модель для генерации текста с контекстом до 32 768 токенов.

432скачиваний за 30 дней4лайкавеса обновлены2 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

S4sch/zephyr-neural-chat-frankenmerge11b — языковая модель для генерации текста, созданная путём объединения слоёв HuggingFaceH4/zephyr-7b-beta и Intel/neural-chat-7b-v3-1 с помощью mergekit. В сборке чередуются диапазоны слоёв обеих моделей; указанный в метаданных размер — 11,3 млрд параметров, архитектура — плотная MistralForCausalLM, формат весов — safetensors. Модель поддерживает контекст длиной до 32 768 токенов.

Она предназначена для генерации текста и диалогового применения на основе объединённых моделей Zephyr и Neural Chat. В карточке не приведены отдельные оценки качества, описание поведения или перечень поддерживаемых языков. Лицензия — Apache-2.0.

Сценарии применения

генерация текста по запросу
диалоговые ответы на вопросы
создание черновиков и продолжение текста

Ограничения

В карточке нет оценок качества или сведений о языковом охвате; поведение и качество объединённой модели отдельно не охарактеризованы.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.1Разработка и данныеАнализ требований и архитектура ПОAI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения.20 задач18 191модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Frankenmerge 11b between HuggingFaceH4/zephyr-7b-beta and Intel/neural-chat-7b-v3-1

Merge with the following conditions (via mergekit on github)

  model: Intel/neural-chat-7b-v3-1
  layer_range: [0, 8]
  
  model: HuggingFaceH4/zephyr-7b-beta
  layer_range: [4, 12]
  
  model: Intel/neural-chat-7b-v3-1
  layer_range: [9, 16]
  
  model: HuggingFaceH4/zephyr-7b-beta
  layer_range: [13, 20]
  
  model: Intel/neural-chat-7b-v3-1
  layer_range: [17, 24]
  
  model: HuggingFaceH4/zephyr-7b-beta
  layer_range: [21, 28]
  
  model: Intel/neural-chat-7b-v3-1
  layer_range: [25, 32]

merge_method: passthrough

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: f915831