ToriiGate-0.5-GGUF

Исходная модель разработана Minthy, а данный репозиторий содержит её квантизованные варианты и использует релиз llama.cpp b8720. Модель предназначена для задач image-text-to-text, то есть для обработки изображений и генерации текстовых ответов на их основе.

В README указано, что модель поддерживает английский язык и мультимодальный ввод с использованием изображения и текста. Конкретные сведения об архитектуре, количестве параметров, длине контекста и точных доступных вариантах квантования не приведены; упоминается протестированный вариант Q4KM с vision encoder в формате Q8. Сильной стороной модели является возможность локального запуска в GGUF через llama.cpp при сниженных требованиях к ресурсам по сравнению с полной версией. Ограничения включают зависимость качества и скорости от выбранного уровня квантования, а также отсутствие подробных характеристик и результатов тестирования в представленном README.

Модель распространяется по лицензии MIT. Для использования рекомендуется учитывать совместимость с llama.cpp и корректным chat template, включённым в обновлённые GGUF-файлы.