/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
19,5 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5_moe · dense
Базовая модель
Nex-N2.5-mini
Библиотека
mlx
Опубликована
8 сен 2026

Nex-N2.5-mini-MLX-4bit

Генерация текстаТекст → текст15 профессий

Abenzerps/Nex-N2.5-mini-MLX-4bit — это 4-битная конверсия модели Nex-N2.5-mini, разработанной Nex AI и опубликованной организацией nex-agi.

1 019скачиваний за 30 дней6лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для локального запуска задач генерации текста, программирования, рассуждений и работы с длинным контекстом через библиотеку MLX и инструменты mlx-lm.

Модель использует разреженную архитектуру MoE и поддерживает текстовую модальность. Заявлены английский и китайский языки, а исходный чекпойнт рассчитан на контекст до 262 144 токенов (256K). Веса представлены в формате MLX safetensors с аффинным 4-битным квантованием и размером группы 64; объём релиза составляет около 19,53 ГБ. В комплект входят веса генерации текста и токенизатор.

К сильным сторонам относятся возможность локального инференса, сниженные требования к хранению по сравнению с полноразмерными весами и поддержка очень длинного контекста. Ограничения релиза заключаются в отсутствии MTP-весов и vision projector, поэтому он не предназначен для мультимодальной обработки изображений. В README приведены результаты бенчмарков исходной модели, но подробные численные показатели не указаны. Лицензия — Apache-2.0.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🤗 Model Requests

Nex-N2.5-mini MLX — 4-bit

MLX 4-bit conversion of Nex-N2.5-mini, a sparse MoE language model for local inference, coding, reasoning, and long-context work. The source checkpoint supports a native context length of 262,144 tokens (256K).

Benchmarks

Nex-N2.5 benchmark results

Benchmark results reported by Nex AI for the original Nex-N2.5 checkpoint and its upstream evaluation setup.

Release

FormatQuantizationSize
MLX safetensorsAffine 4-bit, group size 6419.53 GB

This release contains the text-generation weights and tokenizer. It does not include MTP weights or a vision projector.

Usage

pip install -U mlx-lm
mlx_lm.generate \
  --model . \
  --prompt "Explain why reproducible builds matter." \
  --max-tokens 512

Source

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
Qwen3_5MoeForConditionalGeneration
Ревизия весов
b8866c1

0 моделей