Qwen2.5-VL-32B-Instruct-4bit — мультимодальная instruction-tuned модель семейства Qwen2.5-VL, разработанная командой Qwen и преобразованная сообществом mlx-community в формат MLX с помощью mlx-vlm. Модель содержит 32 млрд параметров и использует 4-битное квантование; работать с ней можно через библиотеку Transformers и инструменты MLX.

Модель предназначена для обработки изображений вместе с текстовыми запросами: описания изображений, визуального вопросно-ответного диалога, извлечения и интерпретации информации с изображений. В метаданных заявлена поддержка английского языка, контекстное окно составляет 128 000 токенов. Pipeline-модель — image-text-to-text.

К сильным сторонам относятся мультимодальное понимание и большой контекст, а 4-битное представление может снизить требования к памяти при локальном запуске. Квантование может повлиять на точность по сравнению с полной версией модели, а заявленная языковая поддержка ограничена английским. Модель распространяется по лицензии Apache-2.0.