Характеристики

Лицензия: Apache 2.0
Базовая модель: Qwen3.5-2B
Опубликована: 2 мар 2026

Ссылки

Qwen3.5-2B-MNN

Генерация текстаТекст → текст5 профессий

Qwen3.5-2B-MNN — это 4-битная квантованная версия модели Qwen3.5-2B, экспортированная в формат MNN с помощью инструмента llmexport.

1 399скачиваний за 30 дней3лайкавеса обновлены4 мар 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель опубликована в репозитории taobao-mnn и предназначена для запуска через фреймворк MNN, развиваемый Alibaba. В карточке указано, что исходная модель относится к семейству Qwen и связана с задачей генерации текста и чат-сценариями.

Модель рассчитана на текстовые задачи: генерацию ответов, диалоговое взаимодействие и другие сценарии, поддерживаемые базовой языковой моделью. Её ключевая характеристика — 4-битное квантование, уменьшающее требования к памяти и потенциально упрощающее локальный запуск, в том числе на CPU. Для использования требуется собрать MNN с поддержкой LLM и запустить модель через утилиту llm_demo.

В карточке не указаны точная архитектура, размер контекстного окна, перечень поддерживаемых языков, результаты тестирования и показатели качества. К возможным ограничениям относятся потери качества, характерные для квантования, а также зависимость от совместимости с MNN и параметров конкретного устройства. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

II.10Разработка и эксплуатация AI/ML-систем

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.5-2B-MNN

Introduction

This model is a 4-bit quantized version of the MNN model exported from Qwen3.5-2B using llmexport.

Download

# install huggingface
pip install huggingface

# shell download
huggingface download --model 'taobao-mnn/Qwen3.5-2B-MNN' --local_dir 'path/to/dir'

# SDK download
from huggingface_hub import snapshot_download
model_dir = snapshot_download('taobao-mnn/Qwen3.5-2B-MNN')

# git clone
git clone https://www.modelscope.cn/taobao-mnn/Qwen3.5-2B-MNN

Usage

# clone MNN source
git clone https://github.com/alibaba/MNN.git

# compile
cd MNN
mkdir build && cd build
cmake .. -DMNN_LOW_MEMORY=true -DMNN_CPU_WEIGHT_DEQUANT_GEMM=true -DMNN_BUILD_LLM=true -DMNN_SUPPORT_TRANSFORMER_FUSE=true
make -j

# run
./llm_demo /path/to/Qwen3.5-2B-MNN/config.json prompt.txt

Document

MNN-LLM

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Не удалось определить, чем загружать веса модели (нет library_name и architectures).

Ревизия весов: 3578181