Candle_llava-v1.6-mistral-7b

Модель предназначена для исследовательских задач и создания чат-ботов, работающих с изображениями и текстом: она принимает изображение вместе с текстовым запросом и генерирует текстовый ответ, например описание содержимого изображения или ответ на визуальный вопрос.

Модель основана на Mistral-7B-Instruct-v0.2 и использует авторегрессионную Transformer-архитектуру LLaVA с визуальным компонентом. В репозитории указано около 8 миллиардов параметров и представлены варианты GGUF с разной точностью квантования, включая 4-, 5-, 8- и 16-битные версии. Поддерживаемые модальности — изображение и текст на входе, текст на выходе. Точный контекстный размер и перечень поддерживаемых языков для этого репозитория не указаны.

Сильные стороны модели — мультимодальный диалог, анализ изображений и возможность локального запуска в компактных квантованных форматах. Ограничения включают возможные ошибки интерпретации изображений, фактические неточности и зависимость качества от выбранной квантованной версии; модель предназначена прежде всего для исследований и экспериментов, а не для гарантированно точных решений в критически важных сценариях. В репозитории указана лицензия Apache-2.0.