/ Модель

Характеристики

Контекст
131 072 токена
Параметры
14 млрд
Размер весов
8,3 ГБ
Архитектура
qwen2 · dense
Библиотека
mlx
Опубликована
30 авг 2026

DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-mlx_4bit

Генерация текстаТекст → текст8 профессий

TheWirelessPhoenix/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-mlx_4bit — это конвертированная в формат MLX версия модели huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2.

475скачиваний за 30 дней0лайковвеса обновлены30 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Конвертация выполнена с использованием mlx-lm версии 0.32.0. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе в приложениях, использующих экосистему MLX.

Модель основана на варианте DeepSeek-R1-Distill-Qwen-14B и имеет размер 14B параметров; доступная версия использует 4-битное представление, что может снизить требования к памяти при запуске. Указана текстовая модальность и задача text-generation. Поддержка языков и размер контекстного окна в README не указаны. Для работы требуется установить mlx-lm и загрузить модель через API load и generate; при наличии chat_template можно применять диалоговый формат сообщений.

К заявленным особенностям относятся теги abliterated и uncensored, однако README не содержит подробного описания методики, качества, результатов тестирования или ограничений такого варианта. Лицензия в предоставленных данных не указана, поэтому условия использования и допустимость коммерческого применения необходимо уточнять по карточке исходной модели и репозиторию модели.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TheWirelessPhoenix/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-mlx_4bit

This model TheWirelessPhoenix/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-mlx_4bit was converted to MLX format from huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2 using mlx-lm version 0.32.0.

Use with mlx

pip install mlx-lm
from mlx_lm import load, generate

model, tokenizer = load("TheWirelessPhoenix/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-mlx_4bit")

prompt = "hello"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True, return_dict=False,
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
82cef92

0 моделей