Характеристики

Лицензия: Apache 2.0
Архитектура: qwen3_5_vision · dense
Базовая модель: Qwen3.8-27B
Библиотека: transformers
Опубликована: 30 сен 2026

Ссылки

Qwen3.8-27B-Vision

Эмбеддинги изображенийИзображение → embedding

Производная модели immanuelpeter/Qwen3.8-27B-Vision. Визуальный энкодер Qwen3.8-27B для извлечения признаков изображений и передачи их языковой части мультимодальной модели.

33скачиваний за 30 дней0лайковвеса обновлены30 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Карточка модели hy35/Qwen3.8-27B-Vision на Hugging Face совпадает с карточкой immanuelpeter/Qwen3.8-27B-Vision, поэтому описание составлено по ней.

immanuelpeter/Qwen3.8-27B-Vision — репозиторий с визуальной частью модели Qwen3.8-27B: визуальным энкодером и обученным модулем объединения признаков. Он предназначен для извлечения признаков изображений и подготовки визуальных представлений для языковой части исходной мультимодальной модели. Архитектура включает 27 слоёв, размер скрытого состояния 1152, 16 голов внимания и обработку изображений с патчами размером 16; модуль объединения группирует пространственные токены 2×2 и преобразует признаки к ширине языковой модели 5120. Модель выдаёт исходные токены энкодера и объединённые признаки.

Репозиторий содержит веса в формате safetensors и конфигурации Transformers для визуального энкодера и предобработки изображений. По README веса извлечены из Qwen/Qwen3.8-27B, а проверки показали побитовое совпадение тензоров и выходов с родительской реализацией на CPU и NVIDIA A100 в BF16. Лицензия — Apache-2.0. Это визуальный компонент, а не самостоятельная диалоговая модель; его применение предполагает интеграцию с остальной системой Qwen.

Сценарии применения

извлечение визуальных признаков из изображений
получение токенов изображения для мультимодальной модели
подготовка признаков изображений для анализа Qwen

Ограничения

Репозиторий содержит только визуальный энкодер и модуль объединения признаков, поэтому для полноценного диалога или генерации ответов его нужно интегрировать с языковой частью Qwen. README описывает точное соответствие исходным весам, а не отдельное дообучение визуального компонента.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.8-27B Vision

This repository packages the Tower and learned merger from Qwen3.8-27B.

File	Tensors	What it holds
`model.safetensors`	333	Tower and learned merger, extracted from source shard 1
`config.json`		Vision-only `Qwen3_5VisionConfig`
`preprocessor_config.json`		Qwen image preprocessing configuration

Qwen implements the learned merger inside Qwen3_5VisionModel, so this repository does not need a separate Projector file.

Architecture

Component	Details
Tower	27 layers, 1152 hidden, 16 heads, 4304 intermediate, patch size 16
Token compression	2x2 spatial grouping
Learned merger	`LayerNorm(1152)`, `Linear(4608, 4608)`, GELU, `Linear(4608, 5120)`

last_hidden_state contains the raw Tower tokens. pooler_output contains the merged features at the language-model width.

Usage

See examples/inference.py for image feature extraction.

Validation

The release tests compare all 333 tensors with the pinned parent checkpoint using torch.equal. Fixed-image Tower and merged outputs also match the parent implementation bit-for-bit on CPU and in BF16 on an NVIDIA A100.

Reproduction

The export script reads model.visual.* from shard 1 of Qwen/Qwen3.8-27B, removes the prefix, and writes the original BF16 tensors. The script pins the parent revision.

Credits

Qwen released the Qwen3.8-27B weights and the native Transformers implementation.

License

Apache License 2.0, the same license as the source model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · image-feature-extraction

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen3_5VisionModel
Ревизия весов: f48a414