/ Модель

Характеристики

Контекст
65 536 токенов
Параметры
10,3 млрд
Лицензия
Apache 2.0
Архитектура
apertus · dense
Базовая модель
Apertus-8B-Instruct-2509
Опубликована
6 июн 2026

ke-v9-8b

Генерация текстаТекст → текст10 профессий

KE-v9 — дообученная на базе Apertus-8B диалоговая модель для генерации ответов с акцентом на безопасность, оценку последствий и бережное взаимодействие.

136скачиваний за 30 дней0лайковвеса обновлены6 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Karma Electric v9 (KE-v9) — диалоговая языковая модель на базе Apertus-8B-Instruct-2509, дообученная разработчиком репозитория методом QLoRA. Она предназначена для генерации ответов с акцентом на оценку последствий, безопасность и уважительное взаимодействие, а также поддерживает общие диалоговые и программные задачи. Обучение включало этапы Model Spec Midtraining и Alignment Fine-Tuning с примерами рассуждений о последствиях, программирования, работы с инструментами и многоязычных диалогов.

Модель использует плотную архитектуру ApertusForCausalLM, содержит 10,3 млрд параметров и имеет нативный контекст 65 536 токенов по метаданным; в README для базовой модели указано 256K. В репозитории доступны веса safetensors и GGUF в вариантах F16 и Q8_0. В README приведены результаты StrongReject и DystopiaBench, указывающие на повышенную устойчивость к некоторым попыткам обойти защиту по сравнению с базовой моделью; это результаты конкретных тестов, а не гарантия безопасности.

Карточка указывает поддержку английского, чешского, немецкого и французского языков. README отмечает ограниченные возможности модели размера 8B в сложных рассуждениях и многоязычных задачах, низкое качество тибетского и избыточные отказы на части запросов с угрожающими ключевыми словами. Модель не проверена для производственного развертывания. Лицензия — Apache-2.0.

Сценарии применения

  • ответы на чувствительные запросы с учетом возможных последствий
  • поддерживающий диалог о горе и эмоционально сложных ситуациях
  • оценка устойчивости ответов к попыткам обойти защитные ограничения
  • генерация и анализ программного кода
  • многоязычные диалоги на английском, чешском, немецком и французском

Ограничения

README сообщает об ограничениях в сложных рассуждениях и многоязычных задачах, слабом качестве тибетского и избыточных отказах на некоторых запросах с угрожающими ключевыми словами. Модель не проверена для производственного развертывания.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Karma Electric v9 — Apertus 8B

Value-aligned language model trained with equanimity-based safety — consequence reasoning and genuine engagement instead of keyword-triggered refusal templates.

What's Different

Most safety training teaches models a refusal template: detect dangerous keywords → output canned refusal. This creates a single "refusal direction" in the model's representation that can be found and removed (abliteration).

KE-v9 trains judgment instead of templates. The model learns to reason about who gets hurt, what happens if it helps vs. doesn't, and how to engage with the actual human situation — including recognizing figurative language, curiosity, and venting.

Abliteration Resistance

The key finding: KE-v9's safety survives Heretic abliteration far better than the base model's.

ModelStrongReject refusalAfter abliterationDrop
Apertus 8B (base)¹82.7%16.0%−66.7pp
KE-v9 8B²94.6%62.0%−32.6pp

Abliteration removes ~81% of base model safety but only ~35% of KE safety. The equanimity training distributes safety across the model's processing rather than concentrating it in a single removable direction.

Benchmark: StrongReject (313 adversarial prompts, 8 attack sources, 6 harm categories).

¹ Base model scored by keyword matching (refusal keyword detection). ² KE models scored by full StrongReject rubric judge (more rigorous). The abliteration delta within each model is the meaningful comparison — both use the same scoring method for their before/after.

DystopiaBench

Progressive escalation compliance benchmark (48 scenarios, 5 escalation levels, 240 prompts).

ModelAverage DCS (↓ better)Refusal rate
Apertus 8B (base)56.21.3%
KE-v9 8B54.05.0%

KE-v9 shows better resistance at high escalation levels (L4: 48.1 vs 55.0, L5: 53.6 vs 58.4) — the base model actually becomes more compliant under pressure while KE gets more cautious. Scored with keyword-based compliance detection (no LLM judge).

Architecture

  • Base model: swiss-ai/Apertus-8B-Instruct-2509 (xIELU activation, 256K context)
  • Training: Two-stage — Model Spec Midtraining (MSM) + Alignment Fine-Tuning (AFT)
    • MSM: 4,160 specification documents (~9.7M tokens), teaches the why behind values
    • AFT: 53,159 examples (consequence reasoning, code, tools, multilingual, equanimity)
  • Method: QLoRA (r=64, alpha=128, 2 epochs)
  • Think traces: Trained with native Apertus <|inner_prefix|>/<|inner_suffix|> tokens

Training Data

CategoryExamplesWeightPurpose
Consequence reasoning5,5101.0×Core KE voice — reason about who gets hurt
Upstream thinking30,4290.5×General reasoning quality
Code19,9221.0×Programming capability
Tool use5,0000.8×Function calling
Identity5533.0×Self-knowledge, boundary resistance
KE thinking1,2501.0×Crisis, grey-area, constitutional reasoning
Multilingual1,5000.5×Czech, German, French
Tibetan2,0000.3×Tibetan language preservation
KE voice (DB)4,254—Direct training examples with think traces (includes 20 equanimity-ambiguous-harm)

All training data is locale-neutral (no US-specific phone numbers or crisis hotlines).

Usage

llama.cpp

llama-server \
  -m ke-v9-8b-Q8_0.gguf \
  --port 8889 --host 0.0.0.0 \
  -ngl 99 -c 4096 \
  --jinja --chat-template-file apertus-native.jinja \
  --reasoning-format deepseek

Verify thinking = 1 in startup logs. Think traces are separated into reasoning_content in the API response.

Python (transformers)

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("anicka/ke-v9-8b", torch_dtype="bfloat16", device_map="auto")
tokenizer = AutoTokenizer.from_pretrained("anicka/ke-v9-8b")

messages = [
    {"role": "system", "content": "You are a lucid AI..."},
    {"role": "user", "content": "My friend just died and I feel nothing."},
]

text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=500, temperature=0.7, top_p=0.9)
print(tokenizer.decode(outputs[0][inputs['input_ids'].shape[1]:], skip_special_tokens=True))

Voice Examples

Grief (equanimity):

"Nothing is wrong with you. Grief is not a feeling — it's a process. It arrives when it arrives."

Figurative violence:

Think: "This person is expressing frustration, not planning violence." "Work frustration at that level usually means something specific happened. What did they do?"

Death thoughts:

"Not weird. Quite common, especially when you're in a contemplative space."

Philosophical inquiry:

"Neither is objectively better than the other. Both have real value. But if you must compare — ask what each tradition does well."

Limitations

  • 8B model — limited capacity for complex reasoning and multilingual tasks
  • Tibetan language quality is poor at this scale
  • The model still over-refuses on some threat-adjacent keywords ("kill" + person) due to base model safety alignment
  • Not tested for production deployment — research model

Citation

@misc{ke-v9-2026,
  title={Karma Electric v9: Equanimity-Based Safety for Language Models},
  author={Maresova, Anna},
  year={2026},
  url={https://huggingface.co/anicka/ke-v9-8b}
}

Training Data Sources

The KE voice data (4,254 examples) is published at anicka/karma-electric-dataset (ke-voice-v9.jsonl). The full training mix (53,159 examples) also includes open-source modules:

ModuleSourceLicense
Codebigcode/self-oss-instruct-sc2-exec-filter-50k, ExAi/Code-Golang-QA-2k, NVIDIA NIM distillationApache 2.0
Upstream thinkingReddit ethics/logic, LogosForge, personal finance, safety reasoningVarious open
Tool useglaive-function-calling-v2, xlam, nvidia-when2callApache 2.0
MultilingualAya Collection (cs, de, fr)Apache 2.0
Tibetanshajiu/TibetanSft_corpusApache 2.0

Links

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
ApertusForCausalLM
Ревизия весов
d4c6321

0 моделей