Характеристики

Контекст: 1 024 000 токенов
Параметры: 12,1 млрд
Размер весов: 24,5 ГБ
Лицензия: Apache 2.0
Архитектура: mistral · dense
Базовая модель: Mahou-1.5-mistral-nemo-12B-lorablated
Библиотека: transformers
Опубликована: 12 ноя 2024

Ссылки

Mistral-Nemo-Prism-12B-v2

Генерация текстаТекст → текст3 профессии

Экспериментальная 12,1-миллиардная разговорная модель Mistral, дообученная для менее архаичных и витиеватых ответов в диалогах и ролевом общении.

43скачиваний за 30 дней4лайкавеса обновлены16 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

MUSR
MUSR Raw · выше — лучше
Результат
0,46
Open LLM v2 · архив
Публичная таблицаревизия совпадает
BBH
BBH Raw · выше — лучше
Результат
0,5492
Open LLM v2 · архив
Публичная таблицаревизия совпадает
IFEval
IFEval Raw · выше — лучше
Результат
0,6974
Open LLM v2 · архив
Публичная таблицаревизия совпадает
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат
0,3567
Open LLM v2 · архив
Публичная таблицаревизия совпадает
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат
0,0891
Open LLM v2 · архив
Публичная таблицаревизия совпадает
GPQA
GPQA Raw · выше — лучше
Результат
0,3054
Open LLM v2 · архив
Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Mistral-Nemo-Prism-12B-v2 — экспериментальная разговорная модель автора nbeerbower, дообученная на базе nbeerbower/Mahou-1.5-mistral-nemo-12B-lorablated. Модель предназначена для генерации диалоговых ответов и ролевого общения; при дообучении автор стремился уменьшить архаичную лексику и чрезмерно витиеватый стиль в uncensored-модели.

Это плотная авторегрессионная архитектура Mistral с 12,1 млрд параметров. Для обучения применялся ORPO на датасетах Arkhaios-DPO и Purpura-DPO в течение пяти эпох; также использовался системный промпт, помогающий подстраивать ответы под данные. В метаданных заявлен контекст до 1 024 000 токенов. Модель работает с текстом и рассчитана на диалоговое взаимодействие.

Автор характеризует её как личный эксперимент, а не готовый к производственному применению релиз; качество и заявленная цель снижения витиеватости могут зависеть от запроса. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

ведение диалогов с языковой моделью
генерация ответов для ролевого общения
создание менее архаичных и витиеватых текстов
эксперименты с uncensored-генерацией текста

Ограничения

Автор прямо отмечает, что это экспериментальная итерация, а не готовый к производственному применению релиз; ожидаемое качество не гарантируется. В README не указаны поддерживаемые естественные языки.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

🧪 Just Another Model Experiment

This is one of many experimental iterations I'm sharing publicly while I mess around with training parameters and ideas. It's not a "real" release - just me being transparent about my learning process. Feel free to look under the hood, but don't expect anything production-ready!

Mistral-Nemo-Prism-12B

Mahou-1.5-mistral-nemo-12B-lorablated finetuned on Arkhaios-DPO and Purpura-DPO.

The goal was to reduce archaic language and purple prose in a completely uncensored model.

Method

ORPO tuned with 2x A100 for 5 epochs.

The learning rate was lowered to 3e-6 for this version. In addition, a system prompt was introduced to further augment the prompts and encourage responses to match the data.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: d754599