Объединённая модель семейства Mistral для генерации текста по запросам с контекстом до 32 768 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
GML-Mistral-merged-v1 — плотная языковая модель семейства Mistral, опубликованная пользователем zyh3826. Это объединение моделей quantumaikr/quantum-v0.01 и mncai/mistral-7b-dpo-v5, выполненное методом passthrough с помощью mergekit; веса сохранены в формате safetensors и типе bfloat16. Модель предназначена для генерации текста и принимает текстовые запросы.
В метаданных указан размер 8,9 млрд параметров и контекстное окно до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает языки, специальные предметные области или сравнительные результаты, поэтому назначение модели следует считать общим; качество ответов и поддержка конкретных сценариев в предоставленных данных не оценены.
В карточке нет сведений о языках, оценках качества и специализации; пригодность для конкретных задач не подтверждена. Возможности модели могут зависеть от используемого шаблона запросов.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
merge from quantum-v0.01 and mistral-7b-dpo-v5
The yaml config file for this model is here:
slices:
- sources:
- model: quantumaikr/quantum-v0.01
layer_range: [0, 32]
- sources:
- model: mncai/mistral-7b-dpo-v5
layer_range: [24, 32]
merge_method: passthrough
dtype: bfloat16
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…