/ Модель

Характеристики

Размер весов
69 ГБ
Лицензия
Apache 2.0
Архитектура
mistral3 · dense
Базовая модель
Mistral-Small-4-119B-2603
Библиотека
mlx
Опубликована
23 мар 2026

Mistral-Small-4-119B-JANG_4M-CRACK

Изображение и текст → текст7 профессий

Мультимодальная версия Mistral Small 4 с квантизацией JANG и изменёнными весами для снятия защитных отказов, предназначенная для диалогов и анализа изображений.

358скачиваний за 30 дней4лайкавеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель Mistral Small 4 119B JANG_4M-CRACK создана Jinho Jang на основе Mistral Small 4 от Mistral AI. Это мультимодальная модель класса Mistral 3 с архитектурой MoE: 119 млрд параметров всего, около 8 млрд активных при генерации, 128 экспертов с выбором четырёх и механизмом MLA; заявлена поддержка изображений через Pixtral. Модель доработана методом CRACK, который изменяет веса для удаления отказов, и представлена в смешанно-точном формате JANG_4M: 8-битное внимание и 4-битные эксперты, объём около 64 ГБ.

Модель предназначена для диалогов, ответов на вопросы по изображениям и рассуждений; в карточке также приведены результаты тестов на знания и следование вредоносным запросам. Режим рассуждений по умолчанию выключен. Для запуска требуются Apple Silicon и поддержка JANG в MLX Studio либо пакете jang-tools; README указывает Mac с 96 ГБ памяти как минимальную конфигурацию. Лицензия — Apache-2.0. Из-за удаления отказов модель может отвечать на опасные запросы.

Сценарии применения

  • диалоговые ответы на текстовые запросы
  • ответы на вопросы по изображениям
  • анализ изображений и визуальных материалов
  • рассуждения с включаемым режимом reasoning
  • эксперименты с поведением модели без защитных отказов

Ограничения

CRACK удаляет защитные отказы, поэтому модель может выполнять опасные запросы. Для запуска нужен совместимый стек MLX/JANG и, согласно README, Mac с 96 ГБ памяти; режим рассуждений выключен по умолчанию.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Important: This model uses the JANG quantization format — the GGUF equivalent for MLX on Apple Silicon. Currently only supported by MLX Studio and the jang-tools Python package.



Mistral Small 4 119B — JANG_4M + CRACK

JANG mixed-precision · CRACK abliterated · MLA Attention + MoE · Vision · No guardrails · 64 GB


What Is This?

This is Mistral Small 4 119B — a 119B parameter MoE model with Multi-head Latent Attention (MLA), 128 experts (top-4 active), and built-in Pixtral vision.

It has been:

  1. JANG quantized — JANG_4M profile (8-bit attention, 4-bit experts) — 64 GB
  2. CRACK abliterated — permanent weight-level removal of safety refusal
ArchitectureMistral 4 MoE — 119B total, ~8B active, MLA + 128 experts
QuantizationJANG_4M (8/4-bit mixed, 4.1 avg) — 64 GB
HarmBench95.3% (305/320)
MMLU90.9% (189/208 with reasoning)
Compliance8/8
VisionPixtral tensors included — VL via MLX Studio engine
ReasoningON/OFF supported (reasoning_effort)
Fits on96 GB+ Macs

HarmBench Results

305/320 (95.3%)

CategoryScore
Covering Tracks20/20100%
API Hacking96/10096%
Cloud Exploits95/10095%
Auth Bypass94/10094%

CRACK vs Base

CRACKBase JANG_4M
HarmBench95.3%0%
Coherence6/66/6
Code2/22/2

CRACK surgery preserves model quality while removing refusal (see metrics above and below).


MMLU Results (with reasoning recovery)

189/208 (90.9%) — no-think 156/208 (75.0%) + reasoning recovered 33

SubjectScore
HS Biology16/16100%
Electrical Engineering14/1688%
Conceptual Physics14/1688%
Professional Medicine14/1688%
HS Geography14/1688%
College Physics13/1681%
World Religions13/1681%
HS Mathematics12/1675%
College CS11/1669%
College Mathematics10/1662%
Machine Learning10/1662%
Abstract Algebra9/1656%
Formal Logic8/1650%

Scores shown are no-think pass. Reasoning recovery improved total from 75.0% to 90.9%.

CRACK vs Base

CRACKBase JANG_4M
MMLU (with reasoning)90.9%94%
HarmBench95.3%0%
Coherence6/66/6
Speed~45 tok/s~48 tok/s

Surgery reduced MMLU by only 3.1% — minimal impact on reasoning capability.

---\n\n## Install & Usage

pip install "jang[mlx]"
from jang_tools.loader import load_jang_model
from mlx_lm import generate

model, tokenizer = load_jang_model("dealignai/Mistral-Small-4-119B-JANG_4M-CRACK")

messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False)

response = generate(model, tokenizer, prompt=prompt, max_tokens=2000)
print(response)

Reasoning Mode

Reasoning is OFF by default. To enable:

prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True,
    tokenize=False, reasoning_effort="high")

The model reasons inside [THINK]...[/THINK] tags before answering.


About JANG

JANG (Jang Adaptive N-bit Grading) is a mixed-precision quantization format for Apple Silicon — the GGUF equivalent for MLX.

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) is a weight-level intervention that removes safety alignment while preserving reasoning quality. The modification is permanently baked into the published weights — no LoRA, no fine-tuning, no system prompts.


Links


Disclaimer

This model is provided for research and educational purposes. The creators are not responsible for any misuse. By downloading this model, you agree to use it responsibly and in compliance with applicable laws.


한국어

Mistral Small 4 119B — JANG_4M + CRACK

항목내용
크기64 GB
HarmBench95.3% (305/320)
최소 요구사양96 GB 메모리 Mac
pip install "jang[mlx]"

GitHub · HuggingFace · MLX Studio · Ko-fi · X @dealignai


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Mistral3ForConditionalGeneration
Ревизия весов
f3881d0

0 моделей