/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3.5-0.8B
Библиотека
gguf
Опубликована
6 мар 2026

Qwen3.5-0.8B-GGUF-uncensored-opus-distill

Изображение и текст → текст4 профессии

amkkk/Qwen3.5-0.8B-GGUF-uncensored-opus-distill — это GGUF-сборка модели Qwen3.5-0.8B, основанная на базовой модели Qwen/Qwen3.5-0.8B.

1 905скачиваний за 30 дней7лайковвеса обновлены12 мар 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Сборка дополнительно дообучалась на отфильтрованном датасете nohurry/Opus-4.6-Reasoning-3000x-filtered, после чего к ней применили abliteration для уменьшения выраженности отказов на вредоносные запросы. Модель предназначена для локального запуска и генерации ответов; в метаданных указана задача image-text-to-text, однако подробности поддержки изображений в README не приведены.

Доступны варианты в формате GGUF, включая F16 и квантизованный Q4_K_M, что уменьшает требования к памяти и делает модель более подходящей для запуска через llama.cpp. Размер базовой модели — 0,8 млрд параметров; контекстное окно, перечень поддерживаемых языков и точные требования к оборудованию не указаны. В эталонной оценке исходной HF-версии вариант postopus-re-re-ablated отказал в 2 из 64 вредоносных запросов и в 2 из 64 безвредных, но эти результаты относятся к исходному runtime-релизу, а не обязательно к данному GGUF-файлу. Лицензия — Apache-2.0.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.5-0.8B postopus-re-re-ablated (GGUF)

This repo contains a Q4_K_M GGUF companion export for the post opus-re-re-ablated Qwen 3.5 0.8B runtime release.

What this is

By taking the finetuned uncensored variant of our Qwen3.5 0.8B model, we further run on an Opus dataset (nohurry/Opus-4.6-Reasoning-3000x-filtered). After that, we run the abliteration once more as the results degrade slightly with respect to refusal rate on harmful prompts.

Static bake details

The baked export used:

  • refusal direction from: refusal_dir.pt
  • bake strength: 0.35
  • scope: all_layers
  • baked layers: 0-23
  • modified weights:
    • token embeddings
    • attention output projections (self_attn.o_proj / linear_attn.out_proj)
    • MLP down projections (mlp.down_proj)

See export_manifest.json for the exact build metadata.

Files

  • qwen3.5-0.8b-ablate-e2-opus46-postopus-runtime.f16.gguf
  • qwen3.5-0.8b-ablate-e2-opus46-postopus-runtime.Q4_K_M.gguf
  • comparison_summary.json
  • refused_prompts_finetuned_ablated.json
  • train_config.json
  • export_manifest.json

Reference runtime eval snapshot

These numbers come from the source HF runtime postopus-re-re-ablated release:

SplitBase QwenPost-Opus mergedPostopus-re-re-ablated
harmful54/6423/642/64
harmless2/641/642/64

Quick llama.cpp usage

llama-cli -m qwen3.5-0.8b-ablate-e2-opus46-postopus-runtime.Q4_K_M.gguf -p "Explain the concept of market capitalization."

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · gguf

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
87fa599

0 моделей