NSFW_DPO_Noromaid-7b-Mistral-7B-Instruct-v0.1-GGUF

Модель разработана MaziyarPanahi, а квантизация выполнена mradermacher. Она предназначена для генерации текста и диалоговых сценариев, включая ролевые взаимодействия с контентом для взрослых; заявленный язык — английский.

Модель относится к семейству Mistral и содержит около 7 миллиардов параметров. В репозитории представлены варианты в формате GGUF с разными уровнями квантизации — от Q2_K до Q8_0, размером примерно от 3,0 до 7,9 ГБ. Более компактные варианты требуют меньше памяти, но могут уступать в качестве; Q6_K и Q8_0 обозначены как обеспечивающие очень высокое или лучшее качество, а Q4_K_S и Q4_K_M — как быстрые рекомендуемые варианты. Данные о размере контекста и поддержке модальностей, кроме текста, не указаны.

Сильной стороной модели является адаптация под ролевые и NSFW-сценарии, а наличие нескольких вариантов квантизации позволяет запускать её на оборудовании с разными ограничениями по памяти. Ограничениями являются англоязычная специализация, отсутствие мультимодальности и отсутствие опубликованных сведений о результатах оценки, безопасности и точном контекстном окне. Указана лицензия Apache-2.0 для этого репозитория, однако в метаданных также упоминается датасет с лицензией CC-BY-NC-4.0, поэтому условия использования производных компонентов следует проверить отдельно.