Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Uncertain-Mistral-7B — дообученная rhy ang2021 модель Mistral-7B-Instruct-v0.2 с 7,1 млрд параметров. Она предназначена для применения в задаче LoGU, связанной с подавлением неопределённости и несоответствием выраженной моделью уверенности фактической неопределённости ответа. Модель использует плотную архитектуру Mistral и поддерживает диалоговую генерацию текста с контекстом до 32 768 токенов.
Модель подходит для экспериментов с тем, как языковые модели выражают и калибруют неопределённость в ответах. Она дообучена на отобранных примерах из набора данных авторов; подробности о наборе данных и количественные оценки качества в карточке не приведены. Лицензия — MIT.
Сценарии применения
изучение подавления неопределённости в ответах языковой модели
анализ несоответствия уверенности модели фактической неопределённости
генерация диалоговых ответов для экспериментов с калибровкой уверенности
Ограничения
Карточка не приводит количественных оценок качества или подробностей обучающего набора данных, поэтому эффективность модели для конкретных сценариев по ней оценить нельзя.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
We employ the original Mistral-7B-Instruct-v0.2 model, which we further fine-tune using carefully selected samples from our compiled dataset (available at https://github.com/rhyang2021/LoGU). This refined model is subsequently utilized within our LoGU task, specifically targeting the challenges of uncertainty-suppression and uncertainty-misalignment. For additional details, please refer to our Github and Paper.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров