QuantFactory/Mistral-7B-Instruct-RDPO-GGUF — квантизированная версия модели princeton-nlp/Mistral-7B-Instruct-RDPO, созданная с использованием llama.cpp.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Исходная модель связана с исследовательской работой SimPO: Simple Preference Optimization with a Reference-Free Reward, опубликованной Princeton NLP; подробности представлены в репозитории проекта SimPO.
Модель предназначена для генерации текста и использования в сценариях инструкционного следования, где требуется применять предпочтения, полученные в ходе оптимизации без эталонной reward-модели. В README указаны библиотека Transformers и задача text-generation. Базовая архитектура — Mistral с 7 миллиардами параметров; формат GGUF и квантизация предназначены для более компактного хранения и запуска через совместимые инструменты, включая llama.cpp.
В доступных данных не указаны поддерживаемые языки, размер контекста, конкретный метод и уровень квантизации, результаты тестирования, аппаратные требования и ограничения качества. Лицензия также не указана, поэтому условия использования следует уточнять в исходном репозитории или карточке базовой модели.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is quantized version of princeton-nlp/Mistral-7B-Instruct-RDPO created using llama.cpp
This is a model released from the preprint: SimPO: Simple Preference Optimization with a Reference-Free Reward Please refer to our repository for more details.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.