Характеристики

Размер весов: 1,5 ГБ
Лицензия: Apache 2.0
Опубликована: 9 апр 2026

Ссылки

gemma-4-E2B-it-MNN

Генерация текстаТекст → текст4 профессии

taobao-mnn/gemma-4-E2B-it-MNN — это 4-битная квантованная версия модели gemma-4-E2B-it, экспортированная в формат MNN с помощью инструмента llmexport из проекта Alibaba MNN.

870скачиваний за 30 дней4лайкавеса обновлены9 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Разработчик исходной модели в представленном README не указан; репозиторий модели поддерживается в пространстве taobao-mnn.

Модель предназначена для генерации текста и диалоговых сценариев, включая использование в качестве chat-модели. Указан английский язык и задача text-generation. Модель рассчитана на запуск через MNN-LLM и может использоваться на устройствах и в окружениях, где важны компактность и сниженное потребление памяти благодаря 4-битной квантизации. Архитектура, точное число параметров, размер контекста, поддерживаемые модальности и результаты тестирования в README не раскрыты.

К сильным сторонам относятся компактное 4-битное представление и интеграция с оптимизированным runtime MNN. Ограничениями являются возможная потеря качества из-за квантизации, зависимость от MNN и необходимость самостоятельной сборки и запуска соответствующих инструментов; совместимость с другими форматами и сценариями использования не описана. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gemma-4-E2B-it-MNN

Introduction

This model is a 4-bit quantized version of the MNN model exported from gemma-4-E2B-it using llmexport.

Download

# install huggingface
pip install huggingface

# shell download
huggingface download --model 'taobao-mnn/gemma-4-E2B-it-MNN' --local_dir 'path/to/dir'

# SDK download
from huggingface_hub import snapshot_download
model_dir = snapshot_download('taobao-mnn/gemma-4-E2B-it-MNN')

# git clone
git clone https://www.modelscope.cn/taobao-mnn/gemma-4-E2B-it-MNN

Usage

# clone MNN source
git clone https://github.com/alibaba/MNN.git

# compile
cd MNN
mkdir build && cd build
cmake .. -DMNN_LOW_MEMORY=true -DMNN_CPU_WEIGHT_DEQUANT_GEMM=true -DMNN_BUILD_LLM=true -DMNN_SUPPORT_TRANSFORMER_FUSE=true
make -j

# run
./llm_demo /path/to/gemma-4-E2B-it-MNN/config.json prompt.txt

Document

MNN-LLM

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура ? неизвестна transformers в образе рантайма.

Ревизия весов: ce18884