/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Опубликована
1 ноя 2024

Mistral-Crab-DPO

Генерация текстаТекст → текст12 профессий

Англоязычная модель Mistral на 7,1 млрд параметров, дообученная для точного выполнения сложных инструкций и форматных ограничений.

77скачиваний за 30 дней4лайкавеса обновлены1 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Mistral-Crab-DPO — языковая модель для генерации текста, разработанная Юньцзя Ци, Хао Пэном, Сяочжи Ваном, Бинь Сюем, Лэй Хоу и Цзюаньцзы Ли. Она дообучена на базе Mistral-7B-v0.3 методом DPO и предназначена для выполнения сложных инструкций с ограничениями по формату, длине и другим условиям. Обучение использует набор CRAB, созданный методом обратного преобразования ограничений: к качественным парам «инструкция — ответ» добавлялись ограничения, которым уже соответствовали ответы.

Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Основной язык — английский. Карточка сообщает об улучшении следования сложным инструкциям и приводит оценку на соответствующих бенчмарках, но не раскрывает здесь полные результаты для этой версии модели. Лицензия — Apache-2.0.

Сценарии применения

  • генерация ответов по инструкции с заданным форматом
  • подготовка текста с ограничением длины
  • выполнение запросов с несколькими условиями
  • создание структурированных ответов для последующей обработки

Ограничения

Модель ориентирована на английский язык; карточка не приводит полные результаты бенчмарков именно для этой версии. Как и другие языковые модели, она может не соблюдать все заданные ограничения.

Для каких профессий подходит12

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Mistral-Crab-DPO

Model Performance

ModelsBaseModelIFEvalFollowBench(HSR)AVG
AVGL1-L2L3-L5AVG
GPT-3.5-turboGPT66.374.26166.266.3
GPT-4GPT81.380.469.473.877.6
Vicuna-13b-V1.5Llama250.366.339.850.450.4
WizardLM-13B-V1.2Llama251.456.536.944.748
Conifer-13BLlama250.257.140.34748.6
Zephyr-7B-betaMistral45.454.838.244.845.1
Conifer-7BMistral53.951.940.244.949.4
Conifer-7B-DPOMistral55.75745.45052.9
Llama3 8BLlama331.46.88.27.619.5
Llama3-crabLlama346.951.226.736.541.7
Llama3-crab + DPOLlama349.756.838.145.547.6
Mistral 7BMistral25.215.56.510.117.7
Mistral-crabMistral54.559.232.843.348.9
Mistral-crab + DPOMistral59.459.942.549.454.4

Model Description

  • Developed by: Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou, Juanzi Li
  • Model type: Text Generation
  • Language(s) (NLP): English
  • Finetuned from model [optional]: Mistral-7B-v0.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
1d83ca3

0 моделей