Melinoe-Qwen3-8-27B-VL-GGUF

Модель предназначена для генерации текста, творческого письма и ролевых сценариев; в карточке также указано наличие оценки на CaliperBench, ориентированном на качество прозы, ролевое взаимодействие и готовность следовать запросам. Заявленный язык — английский.

Модель относится к семейству Qwen3 и имеет размер 27B параметров согласно названию базовой модели. Она поддерживает работу с текстом и изображениями, однако для мультимодального использования в llama.cpp требуется отдельный файл vision-проектора mmproj-Melinoe-Qwen3-8-27B-VL-BF16.gguf. Для текстовых задач достаточно одного выбранного GGUF-файла. Доступны варианты квантизации от Q2_K до Q8_0 размером примерно от 10,9 до 29 ГБ; Q4_K_S и Q4_K_M обозначены как быстрые и рекомендуемые, а Q6_K — как обеспечивающий очень хорошее качество.

К преимуществам относятся поддержка мультимодальных сценариев, варианты квантизации для разного объёма памяти и ориентация базовой модели на творческую генерацию и ролевое взаимодействие. Ограничения включают зависимость качества и требований к ресурсам от выбранного уровня квантизации, необходимость отдельного vision-проектора для изображений и отсутствие в README сведений о размере контекста, точной архитектуре, результатах тестов и дополнительных языках. Модель распространяется по лицензии Apache-2.0.