QVQ-72B-Preview-4bit — мультимодальная диалоговая модель для анализа изображений и ответов на вопросы по ним, подготовленная в формате MLX.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
QVQ-72B-Preview-4bit — конвертированная в формат MLX версия Qwen/QVQ-72B-Preview, подготовленная сообществом mlx-community с помощью mlx-vlm 0.1.6. Она предназначена для диалогового анализа изображений и ответов на вопросы по их содержимому. Репозиторий указывает 71,5 млрд параметров, архитектуру Qwen2-VL и контекст до 128 000 токенов; поддерживается работа с изображениями и текстом.
Модель основана на Qwen/Qwen2-VL-72B и связана с ней как дообученная модель. В карточке Hugging Face указана лицензия other, поэтому перед использованием следует проверить условия исходной модели. README описывает преобразование в MLX, но сведения о конкретном наборе данных или подробной оценке качества не приводит.
Карточка не приводит независимых оценок качества или подробностей о наборах данных. Лицензия обозначена как other; условия использования следует сверить с карточкой исходной модели.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from Qwen/QVQ-72B-Preview using mlx-vlm version 0.1.6.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/QVQ-72B-Preview-4bit --max-tokens 100 --temp 0.0
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.