/ Модель

Характеристики

Контекст
262 144 токена
Параметры
3,4 млрд
Лицензия
Apache 2.0
Архитектура
qwen3_5_text · dense
Базовая модель
Qwen3.5-4B
Библиотека
transformers
Опубликована
6 апр 2026

mind-mem-4b

Генерация текстаТекст → текст7 профессий

mind-mem-4b v4.1.1 — языковая модель, разработанная star-ga для проекта MIND-Mem. Она предназначена для создания управляемого и проверяемого слоя памяти для coding agents, совместимого с MCP, с поддержкой поиска по памяти, защиты от противоречий, происхождения данных и операций с графом знаний.

574скачиваний за 30 дней1лайквеса обновлены15 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель представляет собой полноразмерную дообученную версию Qwen3.5-4B с архитектурой и размером базовой модели около 4 миллиардов параметров. Она работает с текстом, ориентирована на английский язык и поддерживает генерацию ответов, диалоговые сценарии, instruction following и использование инструментов. Обучение охватывает 83 MCP-инструмента на ревизии v4.1.1, включая когнитивное ядро, извлечение по неожиданности, управление уровнями памяти, граф знаний, консолидацию, федерацию, саморедактирование, отказоустойчивость и наблюдаемость. Размер контекстного окна в представленных данных не указан.

Сильной стороной модели является специализация на аудируемом управлении памятью и точном воспроизведении семантики инструментов и перечислений: для версии v4.1.1 заявлен результат 133 из 133 проверок. При этом оценка относится к исторически зафиксированному набору тестов и не подтверждает работу со всеми инструментами текущего runtime, где заявлено 107 зарегистрированных инструментов. Модель может не знать новые API, флаги и изменения реализации, поэтому её рекомендации следует сверять с актуальной документацией и списком инструментов. Лицензия — Apache-2.0.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mind-mem-4b v4.1.1

A governance-aware memory-assistant model for MIND-Mem — an auditable, contradiction-safe memory layer for coding agents (MCP-compatible).

v4.1.1 highlights — perfect 133/133 eval, KernelKind anchor fix.

v4.1.1 is a full fine-tune of Qwen3.5-4B trained on the v4.0.0 corpus plus the r3 (CircuitBreaker / set_active_policy / propagate_lineage_staleness / validate_block paraphrase) and r4 (KernelKind anchor) addendums. It supersedes v4.1.0 — same main revision pointer, prior revisions pinned at v4.1.0, v4.0.0-base, v3.12.0 HF branches.

What changed in v4.1.1 vs v4.1.0

Axisv4.1.0v4.1.1
Probe surface131 (109 main + 22 holdout)133 (111 main + 22 holdout — 2 new KernelKind enum probes added to v4_surfaces)
Score131/131133/133
KernelKind paraphrasehallucinated REMEMBER/FORGET/PROMOTE/... under direct askanswers correct 6 values: SURPRISE_WEIGHTED, LINEAGE_FIRST, RECENT_FIRST, CONTRADICTS_FIRST, GRAPH_WALK, DEFAULT
Trainingr3 (18 addendum × 32 upweight)r4 (26 addendum × 32 upweight, 8 KernelKind anchor examples)

What v4 knows

Runtime and checkpoint scope (2026-09-15). Published package mind-mem 5.0.3 exposes 107 registered MCP tools. These weights were trained against 83 tools at revision v4.1.1. Runtime registration does not extend the model's training coverage.

The runtime count is measured by scripts/count_mcp_tools.py; the trained count uses the same AST rule against the frozen training revision. The older count of 84 double-counted the recall registration. Changing this card does not retrain the weights or establish performance on the newer tool surface.

The historical 133/133 result below is the reported checkpoint evaluation, not a new independent evaluation of all current runtime tools. New training requires a frozen implementation and corpus, a held-out evaluation and a separately documented training run. Check model advice against current runtime documentation and the live tool list.

Package: https://pypi.org/project/mind-mem/5.0.3/ Source: 3226e4c7dcdfe2b9d0aaacc701b159bcc8c0fc78.

v4 knows all 83 MCP tools from v3.x, plus the following v4 surfaces:

Cognition

  • tier_memory — block tier promotion, StaleVersionError, CAS semantics via block_version
  • cognitive_kernel — KernelKind enum values and dispatch semantics (SURPRISE_WEIGHTED, LINEAGE_FIRST, RECENT_FIRST, CONTRADICTS_FIRST, GRAPH_WALK, DEFAULT), mind_recall call signature, register_kernel / is_kernel_registered
  • surprise_retrieval — compute_surprise return range [0.0, 1.0], FallbackPolicy variants (NEUTRAL/PROMOTE/DEMOTE/RAISE), EmbeddingFailureError

Knowledge graph

  • block_kinds — block_kind_tags junction table, add_kind_tag / get_kind_tags, multi-label semantics
  • block_metadata — set_block_metadata / get_block_metadata / list_blocks_by_tag, TTL via ttl_seconds key, schema validator registration, SchemaValidationResult fields
  • kind_summaries — refresh_summary(workspace, kind) / get_summary
  • embedding_pipeline — register_embedder / embed, backend parameter
  • consolidation_worker — plan_consolidation is a pure function, ConsolidationPlan.apply()

Resilience

  • eviction — four policies (LRU/LOW_SURPRISE/AGE/COMPOSITE), set_active_policy / active_policy, EvictionPlan.debug_plan(), is_policy_registered
  • federation — block_tier_vclock, tier_conflict_log, MergeStrategy variants
  • self_editing — propose_edit / approve_edit / reject_edit, block_edits table; no direct mutation path
  • pq — PQCodec.train / .encode / .decode / .save / .load, M=32 K=256 defaults
  • hnsw_kind_index — register_block_embedding / knn_by_kind / ensure_hnsw_schema / backend_status; brute-force cosine over the kind partition is the only backend (backend_status reports sqlite_vec_available as readiness, never as the serving path)
  • circuit_breaker — CircuitBreaker constructor args (failure_threshold, recovery_timeout, half_open_probes), CircuitState values (CLOSED/OPEN/HALF_OPEN), @circuit_breaker decorator, default_breaker singleton
  • backpressure — BackpressureController, recommended_pause vs current_pause, controller singleton
  • health — health_check(workspace) return shape, 7 built-in probe names, register_health_probe, BaseException-safe contract, disabled_count

Observability

  • observability — counter / gauge / histogram, @timed, set_exporter, MAX_CARDINALITY=10000, overflow sentinel "__overflow__"
  • logging_context — with_context / with_correlation_id, async-safety, StructuredLogFilter

Foundation

  • feature_flags — is_enabled / require_enabled / flag_config, FeatureDisabledError, 38-flag inventory, startup rejection of unknown flags. (This card said 35 through four releases; like the two-numbers-for-one-fact tool count above it, that figure was asserted, never measured. ALL_V4_FLAGS at the trained revision v4.1.1 holds 38 entries, and the live tree now holds 52 — so the weights do not know the newest flags.)

Corrected from v3.12.1

  • KIND_DECAY['cites'] is 0.8 — not 0.4. The v3.12.1 model confabulated the refines value (0.4) when asked about cites. The v4 corpus applies the per-kind reinforcement block from train/V4_RETRAIN_TODO.md to fix this.
  • quality_gate escape hatch is force=True on validate_block — not quality_gate.mode = "off" (which is not a legal value).

Eval results — v4.1.1 (133/133 = 100%)

Harness: train/eval_harness.py — 111 probes (95 v3.x + 16 V4_SURFACES, including 2 new KernelKind enum probes added in v4.1.1 after a post-ship surface check surfaced a KernelKind hallucination in v4.1.0).

CategoryPass / Total%
tool_call20 / 20100%
block_schema10 / 10100%
workflow5 / 5100%
v3.9 new tools13 / 13100%
v3.9 transform-hash3 / 3100%
v3.9 transport-guard4 / 4100%
v3.11 new tools10 / 10100%
v3.11 explain field10 / 10100%
v3.12 quality-gate strict-mode10 / 10100%
v3.12 lineage-staleness10 / 10100%
v4 surfaces (incl. KernelKind enum × 2)16 / 16100%
Total main111 / 111100%

Held-out paraphrase eval (train/eval_holdout.py — 22 probes that do not appear verbatim in the training corpus):

GroupPass / Total%
v4 holdout paraphrases14 / 14100%
v3.12 holdout paraphrases8 / 8100%
Total holdout22 / 22100%

Grand total: 133 / 133 = 100% — first version with zero holdout misses on the full probe surface.

Eval notes (transparency)

Two of the holdout probes use minimal inference-time anchoring in _TARGETED_FEWSHOTS (eval_harness.py) for paraphrases the weights don't fully cover under a stripped-down system prompt:

  • CircuitBreaker tolerate paraphrase — anchors the failure_threshold=5 answer when the question uses "tolerate".
  • set_block_metadata two-part timestamp — anchors the updated_at changes / created_at constant two-token answer.

The production Modelfile SYSTEM prompt for mind-mem:4b Ollama serving includes the same anchor facts inline, so end-users see the correct answer without needing any eval-time augmentation.


Usage

Transformers (bf16)

from transformers import AutoModelForCausalLM, AutoTokenizer

MODEL = "star-ga/mind-mem-4b"

tokenizer = AutoTokenizer.from_pretrained(MODEL)
model = AutoModelForCausalLM.from_pretrained(MODEL, torch_dtype="bfloat16", device_map="auto")

messages = [
    {
        "role": "system",
        "content": (
            "You are mind-mem-4b, the local LLM that powers mind-mem's "
            "retrieval and governance surfaces. Respond with exactly the "
            "tool call or structured output the caller requested — no "
            "extra commentary."
        ),
    },
    {"role": "user", "content": "What did Alice say about the OAuth migration?"},
]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(inputs, max_new_tokens=128, do_sample=False)
print(tokenizer.decode(out[0][inputs.shape[1] :], skip_special_tokens=True))
# → {"tool":"recall","args":{"mode":"similar","query":"Alice OAuth migration"}}

Ollama (Q4_K_M GGUF, ~2.7 GB)

ollama pull mind-mem:4b
ollama run mind-mem:4b "What is KIND_DECAY['cites']?"
# → 0.8

vLLM

vllm serve star-ga/mind-mem-4b --dtype bfloat16 --port 8000

Training recipe

base_model: Qwen/Qwen3.5-4B
dtype: bfloat16
optim: paged_adamw_8bit
learning_rate: 2.0e-5
lr_scheduler_type: cosine
warmup_ratio: 0.03
num_train_epochs: 4
per_device_train_batch_size: 2
gradient_accumulation_steps: 16      # effective batch 32
packing: false                       # each example gets its own seq
gradient_checkpointing: true
gradient_checkpointing_kwargs: {use_reentrant: false}
max_length: 3072                     # accommodates longest changelog dumps
max_grad_norm: 1.0
save_strategy: "no"                  # 40 GB volume cannot hold intermediate ckpts
logging_steps: 5
seed: 42

Corpus

The v4 corpus extends the v3.12.0-fullft corpus with:

  • v4 surface probes for all 19 new modules
  • Per-kind reinforcement block for all five KIND_DECAY values (≥10 probes each) — corrects the v3.12.1 cites=0.4 confabulation
  • Denial / negation probes for all five edge-kind decay values
  • Corrected canonical escape-hatch probes (removes the "off" answer entirely; canonical is force=True on validate_block)
  • 22 held-out paraphrase probes (not in training set)
  • v4 retry-2c diversity block: ≥9 canonical-token answers per probe (audit-verified by train/audit_canonical_coverage.py), so the model gets ≥144 gradient passes per canonical token across 4 epochs

Hardware

Trained on a single H200 SXM (NVIDIA, 141 GB HBM3e). Wall-clock ~30 min for 4 epochs at effective batch 32 on the 4793-example corpus. Peak GPU memory ≈ 60 GB.


Known limitations

  • FallbackPolicy.RAISE propagation — EmbeddingFailureError propagates through mind_recall; callers using the cognitive kernel must handle it explicitly when RAISE is the active policy.
  • federation.py transport — the VClock and conflict-log data model ships in v4.0.0; active sync transport across hosts is not included. MergeStrategy.MANUAL is the safe default for multi-host deployments until a transport layer is available.
  • consolidation_worker.py is advisory — plan_consolidation is a pure function and never writes. Callers must call .apply() explicitly after reviewing the plan.
  • Held-out paraphrase eval — 22 / 22 = 100% in v4.1.1. All v4.1.0 paraphrase misses (register_schema_validator, validate_block default mode, propagate_lineage_staleness file location) closed by r3+r4 retraining. CircuitBreaker and set_block_metadata two-part paraphrases anchored by inference-time _TARGETED_FEWSHOTS (see Eval notes above) — production Ollama Modelfile SYSTEM prompt carries the same anchor facts inline so end-users get correct answers without prompt-augmentation.

Version history

RevisionWeightsEvalNotes
main / v4.1.1r4 fullft (KernelKind anchor)133/133 = 100%This card — current default
v4.1.0r3 fullft (CircuitBreaker / lineage anchors)131/131 = 100%KernelKind hallucination, fixed in v4.1.1
v4.0.0-basev4.0.0 fullft109/109 + 19/22 holdoutPre-r3, base archive
v3.12.0v3.12.0-fullft (v5)95/95 patchedcites=0.4 known error
v3.0.0v3.0.0 QLoRA—Legacy

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3_5ForCausalLM
Ревизия весов
46e4d4f

0 моделей