Характеристики

Лицензия: Apache 2.0
Базовая модель: Qwen3.5-4B
Опубликована: 28 фев 2026

Ссылки

Qwen3.5-4B-MNN

Генерация текстаТекст → текст6 профессий

Qwen3.5-4B-MNN — 4-битная квантованная версия модели Qwen3.5-4B, экспортированная в формат MNN с помощью инструмента llmexport из проекта Alibaba MNN.

1 639скачиваний за 30 дней4лайкавеса обновлены4 мар 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель опубликована в репозитории taobao-mnn/Qwen3.5-4B-MNN и предназначена для запуска средствами MNN-LLM.

Модель относится к классу text-generation и ориентирована на генерацию текста и чат-сценарии. В README указано, что её базовая модель имеет размер 4B; поддерживается текстовая модальность, а заявленный язык — английский. Формат MNN и 4-битная квантизация рассчитаны на более эффективное локальное выполнение и снижение требований к памяти по сравнению с полноразмерной моделью. Размер контекста, точная архитектура, показатели качества и перечень поддерживаемых языков не указаны.

Для запуска требуется собрать MNN с поддержкой LLM и использовать исполняемый файл llm_demo вместе с конфигурацией модели и входным текстом. К преимуществам относятся уменьшенный объём весов и возможность локального запуска через MNN; при этом квантизация может влиять на точность и качество генерации, однако количественные данные о таком влиянии отсутствуют. Модель распространяется по лицензии Apache 2.0.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.5-4B-MNN

Introduction

This model is a 4-bit quantized version of the MNN model exported from Qwen3.5-4B using llmexport.

Download

# install huggingface
pip install huggingface

# shell download
huggingface download --model 'taobao-mnn/Qwen3.5-4B-MNN' --local_dir 'path/to/dir'

# SDK download
from huggingface_hub import snapshot_download
model_dir = snapshot_download('taobao-mnn/Qwen3.5-4B-MNN')

# git clone
git clone https://www.modelscope.cn/taobao-mnn/Qwen3.5-4B-MNN

Usage

# clone MNN source
git clone https://github.com/alibaba/MNN.git

# compile
cd MNN
mkdir build && cd build
cmake .. -DMNN_LOW_MEMORY=true -DMNN_CPU_WEIGHT_DEQUANT_GEMM=true -DMNN_BUILD_LLM=true -DMNN_SUPPORT_TRANSFORMER_FUSE=true
make -j

# run
./llm_demo /path/to/Qwen3.5-4B-MNN/config.json prompt.txt

Document

MNN-LLM

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Не удалось определить, чем загружать веса модели (нет library_name и architectures).

Ревизия весов: aa96626