/ Модель

Характеристики

Лицензия
Apache 2.0
Библиотека
transformers
Опубликована
30 авг 2026

Darkhn-M3.2-36B-Animus-V12.0-Heretic-Uncensored-i1-GGUF

Генерация текстаТекст → текст3 профессии

Darkhn-M3.2-36B-Animus-V12.0-Heretic-Uncensored-i1-GGUF — набор квантизированных GGUF-версий текстовой языковой модели, опубликованный alexokita.

301скачиваний за 30 дней1лайквеса обновлены30 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Исходные веса разработаны Silicone-Moss и Darkhn на базе плотной архитектуры Mistral с 36 млрд параметров; дополнительную обработку abliteration выполнили с использованием heretic от p-e-w. Модель предназначена для генерации текста, диалогов, roleplay и других текстовых сценариев, включая контент для взрослой аудитории. Поддерживается английский язык. Мультимодальные возможности отсутствуют, отдельный mmproj не предоставляется.

В набор входят importance-matrix-квантизации i1 различных типов GGUF размером примерно от 15,5 до 36,9 ГБ, а также файл imatrix для создания собственных квантов. Доступны варианты IQ3_M, IQ4_XS, Q4_K_S, Q4_K_M, Q5_K_S, Q5_K_M, Q6_K и Q8_0; Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Конкретные данные о размере контекстного окна, производительности и качестве на стандартных тестах не указаны.

Модель ориентирована на пользователей, которым нужна крупная локальная текстовая модель с пониженной склонностью к отказам: в описании базовой версии указано 8 отказов из 100 проверок при KL 0,0200. Это одновременно означает потенциально более слабые встроенные ограничения безопасности, поэтому модель не предназначена для всех аудиторий. Файлы распространяются по лицензии Apache-2.0; условия лицензии исходных весов отдельно не уточнены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

About

weighted/imatrix quants of https://huggingface.co/Silicone-Moss/Darkhn-M3.2-36B-Animus-V12.0-Heretic-Uncensored

Dense Mistral 36B (Heretic trial 177: 8/100 refusals, KL 0.0200). Text-only — no mmproj.

These are i1 (importance-matrix) GGUFs in the mradermacher naming style, converted with llama.cpp on an NVIDIA GB10. Calibration: froggeric/imatrix groups_merged.txt (llama-imatrix -c 512).

Original weights: Darkhn/M3.2-36B-Animus-V12.0. Abliteration: p-e-w/heretic.

Usage

If you are unsure how to use GGUF files, refer to one of TheBloke's READMEs for more details, including on how to concatenate multi-part files.

Provided Quants

(sorted by size, not necessarily quality. IQ-quants are often preferable over similar sized non-IQ quants)

LinkTypeSize/GBNotes
GGUFimatrix0.02imatrix file (for creating your own quants)
GGUFi1-IQ3_M15.5smallest in this pack
GGUFi1-IQ4_XS18.7
GGUFi1-Q4_K_S19.8optimal size/speed/quality
GGUFi1-Q4_K_M21.0fast, recommended
GGUFi1-Q5_K_S23.9
GGUFi1-Q5_K_M24.6
GGUFi1-Q6_K28.5practically like static Q6_K
GGUFi1-Q8_036.9high quality; imatrix unused

Here is a handy graph by ikawrakow comparing some lower-quality quant types (lower is better):

image.png

And here are Artefact2's thoughts on the matter: https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

Thanks

Source weights by Silicone-Moss / Darkhn. Heretic by p-e-w. Conversion with llama.cpp.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
528a24d

0 моделей