Характеристики

Размер весов: 1,3 ГБ
Лицензия: Apache 2.0
Базовая модель: Qwen3.5-2B
Библиотека: rkllm
Опубликована: 11 авг 2026

Ссылки

Qwen3.5-2B-RKLLM

Изображение и текст → текст3 профессии

HanzoHuang/Qwen3.5-2B-RKLLM — аппаратно-специфичная конверсия мультимодальной vision-language модели Qwen3.5-2B, разработанной командой Qwen, для NPU-платформ Rockchip RK3576 и RK3588.

905скачиваний за 30 дней2лайкавеса обновлены14 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Репозиторий содержит артефакты RKLLM для языковой модели и соответствующие энкодеры изображений RKNN, предназначенные для совместного использования в VLM-приложениях.

Модель рассчитана на задачи, требующие обработки текста и изображений на устройствах Rockchip, включая развёртывание через RKLLM VLM runtime и Docker API. Для каждой целевой SoC-платформы необходимо использовать парные файлы из одной директории: языковую модель .rkllm и vision encoder .rknn. Доступны варианты квантизации W4A16 с group size 128 для RK3576, а также W8A8 для RK3576 и RK3588. Конверсия выполнена с использованием RKLLM Toolkit версии 1.3.0 и RKNN vision conversion.

Сильной стороной модели является поддержка мультимодального вывода на специализированных NPU Rockchip и наличие вариантов, адаптированных под разные микросхемы. При этом это не checkpoint для Transformers, а аппаратно-зависимые артефакты; языковая модель и энкодер изображения несовместимы между платформами и должны использоваться строго согласованной парой. Необходимо отдельно проверять предварительную обработку изображений, потребление памяти и совместимость runtime на конкретном устройстве. Модель и конвертированные компоненты распространяются по лицензии Apache-2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.5-2B-RKLLM

RKLLM/RKNN-converted Qwen3.5-2B multimodal artifacts for Rockchip RK3576 and RK3588 NPUs.

This is a VLM conversion: each supported platform requires both the .rkllm language model and the matching .rknn vision encoder. The pair must come from the same platform directory. These are hardware-specific artifacts, not Transformers checkpoints.

Base model

Upstream model: Qwen/Qwen3.5-2B
License: Apache-2.0
Model type: VLM (vision-language model)

Conversion and variants

Toolkit version

RKLLM Toolkit: v1.3.0 · RKNN vision conversion: paired .rknn encoder

Use a matching pair for the exact target SoC.

Target	Quantization	RKLLM language model	RKLLM SHA256	RKNN vision encoder	RKNN SHA256
RK3576	W4A16 (g128)	Qwen3.5-2B_RK3576_w4a16_g128.rkllm	`76f40bbbc559615767e49a9408d28a1afc16c3a12aa3764a11e13f52acd868e9`	Qwen3.5-2B_vision_RK3576.rknn	`c752c9ddec5ad0415cff7d5b2cd645c00273d7f75cfb034182126309911c051b`
RK3576	W8A8	Qwen3.5-2B_RK3576_w8a8.rkllm	`95f4c10bf5d8880a4697c9c4e06508559930a9e379c4b154012daa94018ce8ae`	Qwen3.5-2B_vision_RK3576.rknn	`c752c9ddec5ad0415cff7d5b2cd645c00273d7f75cfb034182126309911c051b`
RK3588	W8A8	Qwen3.5-2B_RK3588_w8a8.rkllm	`946daf4377bbf5913d8d5226180991b8e6b4a3068d8b5959bdc81a9492311a09`	Qwen3.5-2B_vision_RK3588.rknn	`9077bfd3f4a0a3846af7fd1609175aaaba07858d00acdc31459ae9f2dc66716a`

The root Qwen3.5-2B_vision.onnx is the vision conversion input; use the platform-specific .rknn encoder for deployment.

Usage

Download both files for the target platform:

hf download HanzoHuang/Qwen3.5-2B-RKLLM \
  RK3576/Qwen3.5-2B_RK3576_w4a16_g128.rkllm \
  RK3576/Qwen3.5-2B_vision_RK3576.rknn \
  --local-dir Qwen3.5-2B-RKLLM

Use them with the RKLLM VLM runtime. For a Docker API, see Hanzo-Huang/rkllm-docker and set MODEL_KIND=vlm with both model files.

Limitations

The vision encoder and language model are SoC-specific and must be kept as a matching pair. Validate image preprocessing, memory use, and runtime compatibility on your device.

Acknowledgements

Thanks to the Qwen Team, Rockchip, and the RKLLM/RKNN community.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · rkllm

Нельзя запустить

Библиотека «rkllm» рантаймом не поддерживается.

Ревизия весов: 274f411