Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это экспериментальная производная модель Mistral Nemo Instruct 2407, опубликованная пользователем grimjim. К большинству слоёв применён метод MPOA (Magnitude-Preserving Orthogonalized Ablation): изменены веса mlp.down_proj, а веса self_attn.o_proj оставлены без изменений. Модель предназначена для генерации текста и диалоговых сценариев; автор отмечает, что ослабление некоторых отказов может сделать её подходящей для разнообразного продолжения текста.
Модель имеет плотную архитектуру MistralForCausalLM, содержит 12,1 млрд параметров и поддерживает контекст до 131 072 токенов. В метаданных указаны английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Репозиторий содержит веса в формате Safetensors, библиотека — Transformers. Лицензия Apache-2.0.
Сценарии применения
диалоговая генерация текста
продолжение текстовых фрагментов
создание ответов на инструкции
эксперименты с поведением отказов модели
Ограничения
Автор сообщает, что соответствие требованиям безопасности не максимизировано и некоторые отказы могут срабатывать нестабильно. Подробные результаты оценки качества в карточке не приведены.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
MPOA (Magnitude-Preserving Othogonalized Ablation, AKA norm-preserving biprojected abliteration) has been applied the majority of layers in this model, but only to mlp.down_proj.weight layers. Unlike conventional abliteration, self_attn.o_proj.weight layers were left untouched.
Compliance was not maximized for this model. The model appears to be near an edge of chaos with regard to some safety refusals, which should be suitable for varied text completion.
More details to follow.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров