Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
JJhooww/Mistral-7B-v0.2-Base_ptbr — базовая предобученная языковая модель семейства Mistral, созданная на основе официальных весов Mistral и дополнительно обученная примерно на 1 млрд токенов португальского языка. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст длиной до 32 768 токенов.
Модель предназначена для генерации текста на португальском языке и может служить основой для дальнейшей тонкой настройки под диалоговые и другие прикладные задачи. В README приведены результаты на наборах ASSIN2 RTE, ASSIN2 STS и BlueX, где модель превосходит базовую версию Mistral по указанным метрикам. Это базовая модель, следующая инструкциям она не обучена, поэтому для инструкционного диалога требуется дообучение. Распространяется по лицензии Apache-2.0.
Сценарии применения
генерация текста на португальском языке
дообучение модели для диалогового помощника на португальском
адаптация языковой модели к португалоязычным задачам
определение текстового следования на португальском
Ограничения
Модель не обучена следовать инструкциям, поэтому для инструкционного диалога требуется дополнительная тонкая настройка. В README приведены результаты лишь по нескольким бенчмаркам.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
É um modelo base pré-treinado com cerca de 1b tokens em portugues iniciado com os pesos oficiais do modelo, o modelo não segue instrução então precisa fazer fine tuning.
Mistral Base PTBR
Mistral Base
Melhoria
assin2_rte
90,11
87,74
2,37
assin2_sts
72,51
67,05
5,46
bluex
53,97
53,27
0,70
enem
64,94
62,42
2,52
faquad_nli
69,04
47,63
21,41
hatebr_offensive_binary
79,62
77,63
1,99
oab_exams
45,42
45,24
0,18
portuguese_hate_speech_binary
58,52
55,72
2,80
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров