Конверсия Qwen2-VL-2B-Instruct-abliterated в MLX для диалога и ответов на вопросы по изображениям.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
EZCon выпустил конверсию модели huihui-ai/Qwen2-VL-2B-Instruct-abliterated в формат MLX с помощью mlx-vlm 0.6.17. Это диалоговая визуально-языковая модель семейства Qwen2-VL с плотной архитектурой Qwen2VLForConditionalGeneration и 1,5 млрд параметров. Она принимает текст и изображения и формирует текстовые ответы; заявленная длина контекста — 32 768 токенов. Подходит для вопросов по изображениям и диалога с визуальным контекстом.
В метаданных отмечены английский язык, чат и vision; тег abliterated указывает на ослабление ограничений безопасности. Репозиторий содержит веса safetensors для MLX. Лицензия — Apache-2.0.
Модель имеет 1,5 млрд параметров и может уступать более крупным VLM в сложных визуальных задачах. README отсылает к карточке базовой модели за подробностями, поэтому дополнительные ограничения не установлены.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from huihui-ai/Qwen2-VL-2B-Instruct-abliterated
using mlx-vlm version 0.6.17.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model EZCon/Qwen2-VL-2B-Instruct-abliterated-mlx --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon.