Nex-N2-mini-APEX-GGUF

SC117 публикует квантизированные сборки GGUF модели Nex-N2-mini, агентной мультимодальной MoE-модели на базе Qwen3.5, разработанной Nex-AGI. Сборки используют APEX — смешанную квантизацию с учётом структуры MoE, которая назначает разную точность экспертным, общим и внимательным слоям. Доступны варианты GGUF в BF16 и F16, а также несколько уровней квантизации; README заявляет, что APEX при меньшем размере превосходит обычную квантизацию по перплексии, но подробности таблиц характеристик и результатов опущены.

Модель предназначена для диалогов с изображениями и агентных сценариев. Её можно запускать через llama.cpp; для режима рассуждений требуется пропатченная сборка llama.cpp от Nex. Для работы с изображениями нужен отдельный файл mmproj. README приводит пример с контекстом 32768 токенов, однако это параметр запуска, а не подтверждённая нативная длина контекста модели. Модель унаследована от Nex-N2-mini, с которым каталог связывает программирование, вызов инструментов и выполнение длительных задач.

Репозиторий распространяется по лицензии Apache-2.0. README предупреждает, что изменение встроенного шаблона чата может ухудшить качество ответов; для стандартного llama.cpp предлагается отдельная версия с исправленным шаблоном, также с оговоркой о возможной потере качества. Поддерживаемые языки и точное число параметров в доступных материалах не подтверждены.