Экспериментальный чекпойнт Qwen3.5-4B для диалогового понимания изображений с исследованием сокращения визуальных токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Vision-OPD-Qwen3.5-4B-RandomDrop5-Step30 — экспериментальный контрольный чекпойнт на базе Qwen/Qwen3.5-4B, обученный методом Vision-OPD. При обучении ученик использовал случайно сохраняемые 5% визуальных токенов, а учитель — полный набор визуальных токенов; для обучения указан набор Vision-OPD-6K. Это ранний proof-of-concept после 30 шагов, предназначенный для проверки подхода к сокращению визуальных токенов при обработке изображений.
Модель принимает изображения и текст и генерирует текстовые ответы в диалоге. Чекпойнт работает с полным набором визуальных токенов через стандартный Transformers; для инференса с сохранением 5% токенов требуется код обслуживания с поддержкой pruning из prune-opd. Доступны веса в формате safetensors. Сведения о лицензии и контекстном окне в предоставленных источниках отсутствуют.
Это proof-of-concept чекпойнт после 30 шагов обучения, поэтому его качество и пригодность для практического применения не установлены. Для инференса с сохранением 5% визуальных токенов требуется специальный код из prune-opd.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Qwen3.5-4B trained with Vision-OPD using random 5% visual-token retention for the student and full visual tokens for the teacher. This is the 30-step proof-of-concept checkpoint.
The checkpoint can run with full visual tokens using standard Transformers. For 5% visual-token inference, use the pruning-aware serving code in prune-opd.
Training data: Vision-OPD-6K.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…