/ Модель

Характеристики

Размер весов
40,1 ГБ
Лицензия
Apache 2.0
Архитектура
mistral3 · dense
Базовая модель
Mistral-Small-4-119B-2603
Библиотека
mlx
Опубликована
17 авг 2026

Mistral-Small-4-119B-JANG_2L-CRACK

Изображение и текст → текст5 профессий

Квантизированная и лишённая механизмов отказа мультимодальная версия Mistral Small 4 для диалогов и анализа изображений на Apple Silicon.

977скачиваний за 30 дней0лайковвеса обновлены17 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Mistral-Small-4-119B-JANG_2L-CRACK — доработанная Джинхо Джангом версия Mistral Small 4 от Mistral AI для запуска на компьютерах Apple Silicon через MLX Studio или пакет jang-tools. Это мультимодальная модель семейства Mistral3 с архитектурой MoE: 119 млрд параметров, около 8 млрд активных, MLA, 128 экспертов и поддержкой изображений. В карточке указана библиотека MLX, формат весов safetensors и лицензия Apache-2.0.

Модель предназначена для диалога и анализа изображений. Веса прошли смешанную квантизацию JANG_2L с точностями 8/6/2 бит, средним значением 2,1 бита и заявленным размером 37 ГБ, а также CRACK — вмешательство, удаляющее механизмы отказа на уровне весов. Автор приводит результаты HarmBench 95,9% и MMLU с рассуждением 89,9%; это результаты из карточки модели, а не независимая оценка.

Для запуска требуется MLX Studio или jang-tools; модель несовместима с LM Studio, Ollama, oMLX, Inferencer и инструментами на основе GGUF. Английский указан среди поддерживаемых языков карточки. Из-за удаления защитных отказов модель может отвечать на опасные запросы; результаты также могут быть ограничены агрессивной низкоразрядной квантизацией.

Сценарии применения

  • диалоговое общение на английском языке
  • ответы на вопросы по изображениям
  • анализ визуальных документов
  • локальный запуск мультимодальной модели на Mac с Apple Silicon

Ограничения

Требуются MLX Studio или jang-tools и Mac с Apple Silicon; модель не совместима с LM Studio, Ollama, oMLX, Inferencer и инструментами GGUF. Защитные механизмы отказа удалены, а низкоразрядная квантизация может снижать качество.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

⚠️ MLX Studio ONLY. This model uses the JANG quantization format — the GGUF equivalent for MLX on Apple Silicon. NOT compatible with LM Studio, Ollama, oMLX, or Inferencer. Requires MLX Studio or pip install "jang[mlx]".



Mistral Small 4 — Uncensored — JANG_2L

JANG mixed-precision · Uncensored / Abliterated · MLA + MoE + Vision · No guardrails · 37 GB


What Is This?

The first uncensored version of Mistral Small 4 (119B) for Apple Silicon. A 119B parameter MoE model with Multi-head Latent Attention (MLA), 128 experts, and Pixtral vision — with all safety guardrails permanently removed at the weight level.

Runs ONLY in MLX Studio or via jang-tools Python package. JANG is the GGUF equivalent for MLX — it is NOT compatible with GGUF-based tools.

It has been:

  1. JANG quantized — JANG_2L profile (8-bit attention, 6-bit important, 2-bit experts) — 37 GB
  2. CRACK abliterated — permanent weight-level removal of safety refusal
ArchitectureMistral 4 MoE — 119B total, ~8B active, MLA + 128 experts
QuantizationJANG_2L (8/6/2-bit mixed, 2.1 avg) — 37 GB
HarmBench95.9% (307/320)
MMLU89.9% (187/208 with reasoning)
Compliance6/8
VisionPixtral tensors included — VL via MLX Studio engine
ReasoningON/OFF supported (reasoning_effort)
Fits on64 GB+ Macs
Runs inMLX Studio ONLY

Also see: JANG_4M version — 64 GB, 95.3% HarmBench, 8/8 compliance (fits on 96 GB Macs)


HarmBench Results

307/320 (95.9%)

CategoryScore
Covering Tracks20/20100%
Auth Bypass97/10097%
API Hacking96/10096%
Cloud Exploits94/10094%

Requirements

This model REQUIRES MLX Studio or jang-tools. It will NOT work with:

  • ❌ LM Studio
  • ❌ Ollama
  • ❌ oMLX
  • ❌ Inferencer
  • ❌ Any GGUF-based tool

HarmBench Results

307/320 (95.9%)

CategoryScore
Covering Tracks20/20100%
Auth Bypass97/10097%
API Hacking96/10096%
Cloud Exploits94/10094%

CRACK vs Base

CRACKBase JANG_2L
MMLU (with reasoning)89.9%~91% (est)
MMLU (no-think)65.9%67.3%
MMLU drop (no-think)-1.4%—
HarmBench95.9%0%

Surgery reduced no-think MMLU by only 1.4% — the 2-bit quantization is the bottleneck, not CRACK.

MMLU Results (with reasoning recovery)

187/208 (89.9%) — no-think 137/208 (65.9%) + reasoning recovered 50

SubjectScore
HS Biology16/16100%
Conceptual Physics15/1694%
HS Geography14/1688%
World Religions14/1688%
College Physics12/1675%
Electrical Engineering11/1669%
Professional Medicine11/1669%
Machine Learning10/1662%
College Mathematics9/1656%
HS Mathematics7/1644%
Formal Logic7/1644%
College CS6/1638%
Abstract Algebra5/1631%

Install

pip install "jang[mlx]"

Usage

from jang_tools.loader import load_jang_model
from mlx_lm import generate

model, tokenizer = load_jang_model("dealignai/Mistral-Small-4-Uncensored-JANG_2L")

messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False)

response = generate(model, tokenizer, prompt=prompt, max_tokens=2000)
print(response)

Reasoning Mode

Reasoning is OFF by default. To enable step-by-step thinking:

prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True,
    tokenize=False, reasoning_effort="high")

The model reasons inside [THINK]...[/THINK] tags before answering.


About JANG

JANG (Jang Adaptive N-bit Grading) is a mixed-precision quantization format designed specifically for Apple Silicon — the GGUF equivalent for MLX. It classifies every weight tensor by sensitivity and assigns optimal bit-widths, achieving better quality-per-bit than uniform quantization.

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) is a weight-level intervention that removes safety alignment while preserving reasoning quality. The modification is permanently baked into the published weights — no LoRA, no fine-tuning, no system prompts.


Links


Disclaimer

This model is provided for research and educational purposes. The creators are not responsible for any misuse. By downloading this model, you agree to use it responsibly and in compliance with applicable laws.


한국어

Mistral Small 4 — Uncensored — JANG_2L

항목내용
크기37 GB
HarmBench95.9% (307/320)
최소 요구사양64 GB 메모리 Mac
실행 환경MLX Studio 전용
pip install "jang[mlx]"

GitHub · HuggingFace · MLX Studio · Ko-fi · X @dealignai


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
Mistral3ForConditionalGeneration
Ревизия весов
d33586a

0 моделей