Характеристики

Контекст: 131 072 токена
Параметры: 7,6 млрд
Размер весов: 16,4 ГБ
Лицензия: MIT
Архитектура: qwen3 · dense
Базовая модель: deepseek-r1-0528-Qwen3-8B
Библиотека: mlx
Опубликована: 29 мая 2025

Ссылки

Hugging Face

DeepSeek-R1-0528-Qwen3-8B-bf16

mlx-community

Генерация текстаТекст → текст

Конвертированная в MLX диалоговая модель семейства Qwen3 для генерации текста с контекстом до 131 072 токенов.

119скачиваний за 30 дней4лайкавеса обновлены29 мая 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mlx-community/DeepSeek-R1-0528-Qwen3-8B-bf16 — конвертированная в формат MLX версия модели deepseek-ai/deepseek-r1-0528-Qwen3-8B, опубликованная сообществом mlx-community. Это плотная языковая модель семейства Qwen3 с архитектурой Qwen3ForCausalLM и примерно 7,6 млрд параметров, предназначенная для диалоговой генерации текста. Модель принимает текст и выдаёт текст; заявленная длина контекста составляет 131 072 токена.

Репозиторий содержит веса safetensors для использования с библиотекой MLX; README указывает на преобразование с помощью mlx-lm версии 0.24.1. Лицензия — MIT. Карточка не описывает специализированные области применения или отдельные ограничения качества.

Сценарии применения

ведение диалога с пользователем
генерация текстовых ответов на запросы
помощь в рассуждениях и решении задач
обработка длинного текстового контекста

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/DeepSeek-R1-0528-Qwen3-8B-bf16

This model mlx-community/DeepSeek-R1-0528-Qwen3-8B-bf16 was converted to MLX format from deepseek-ai/deepseek-r1-0528-Qwen3-8B using mlx-lm version 0.24.1.

Use with mlx

pip install mlx-lm

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/DeepSeek-R1-0528-Qwen3-8B-bf16")

prompt = "hello"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: cc291fc