'Make knowledge free for everyone'
Quantized version of: Qwen/Qwen2-VL-7B-Instruct
DevQuasar-2/Qwen.Qwen2-VL-7B-Instruct-GGUF — это квантизированная версия инструкционной мультимодальной модели Qwen2-VL-7B-Instruct, разработанной командой Qwen.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
В карточке указано, что модель предназначена для генерации текста; исходная модель поддерживает обработку визуальной и текстовой информации, однако подробности о поддерживаемых форматах входных данных и сценариях использования здесь не приведены.
Известно, что модель относится к семейству Qwen2-VL и имеет размер 7B параметров в исходной версии. Формат GGUF указывает на подготовку к локальному запуску в совместимых инструментах, а квантизация может снизить требования к памяти и ускорить инференс, потенциально с некоторой потерей качества. Данные о конкретном варианте квантизации, размере контекста, языках, архитектурных особенностях, производительности и системных требованиях отсутствуют.
Модель может быть полезна для локальной генерации текста и мультимодальных задач на базе Qwen2-VL-7B-Instruct. Лицензия и условия коммерческого или иного использования в README не указаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
'Make knowledge free for everyone'
Quantized version of: Qwen/Qwen2-VL-7B-Instruct
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.