/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Huihui-Nex-N2-mini-abliterated
Библиотека
transformers
Опубликована
16 июн 2026

Huihui-Nex-N2-mini-abliterated-APEX-GGUF

Изображение и текст → текст4 профессии

Квантованная GGUF-версия мультимодальной модели Huihui-Nex-N2-mini для диалогов с текстом и изображениями и агентных сценариев.

1 281скачиваний за 30 дней6лайковвеса обновлены3 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SC117/Huihui-Nex-N2-mini-abliterated-APEX-GGUF — квантованная GGUF-версия модели Huihui-Nex-N2-mini-abliterated от huihui-ai, подготовленная с использованием APEX — смешанного квантования с учётом структуры MoE. Модель основана на Huihui-Nex-N2-mini и предназначена для диалоговой работы с текстом и изображениями, включая агентные сценарии и режим рассуждений. В метаданных указана задача image-text-to-text и возможность vision; размер модели и число параметров не приведены.

Варианты APEX используют разные уровни точности; авторы заявляют, что метод распределяет её с учётом ролей тензоров и слоёв. Для режима рассуждений требуется специальная сборка llama.cpp от Nex: стандартный парсер шаблона чата может некорректно обрабатывать теги thinking. Карточка предупреждает, что фильтрация безопасности существенно ослаблена и модель может выдавать чувствительный или неподходящий контент. Лицензия — Apache-2.0; README не рекомендует публичное и производственное применение.

Сценарии применения

  • ответы на вопросы по изображениям в диалоге
  • описание содержимого изображений
  • агентные диалоги с режимом рассуждений
  • локальный запуск мультимодальной модели через llama.cpp

Ограничения

Для режима thinking нужна пропатченная сборка llama.cpp от Nex; изменение шаблона чата может ухудшить результаты. Фильтрация безопасности значительно ослаблена, поэтому README не рекомендует модель для публичных и производственных сред.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
e98f7bd

0 моделей