/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
29,7 млрд
Размер весов
65,5 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-32B
Библиотека
mlx
Опубликована
28 апр 2025

Qwen3-32B-bf16

Генерация текстаТекст → текст15 профессий

Конверсия Qwen3-32B в формат MLX для генерации текста, диалога, рассуждений, программирования и вызова инструментов.

101скачиваний за 30 дней1лайквеса обновлены28 апр 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mlx-community/Qwen3-32B-bf16 — конверсия модели Qwen/Qwen3-32B в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm версии 0.24.0. Это плотная авторегрессионная языковая модель семейства Qwen3 с 29,7 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст.

Для неё указан контекст длиной до 40 960 токенов. Базовая Qwen3 — многоязычная модель для диалога, рассуждений, программирования и работы с инструментами; конкретный перечень поддерживаемых языков в карточке этой конверсии не приведён. Репозиторий содержит веса safetensors и предназначен для использования с библиотекой MLX, в частности через mlx-lm. Модель доступна по лицензии Apache-2.0.

Качество и скорость могут зависеть от оборудования и программной среды MLX; приведённые сведения не описывают отдельную проверку этой конверсии.

Сценарии применения

  • генерация и продолжение текста
  • диалоговый помощник
  • ответы на вопросы и рассуждения
  • помощь в написании и объяснении кода
  • вызов инструментов в диалоговом приложении

Ограничения

Для запуска требуется совместимая среда MLX; скорость и доступный объём контекста зависят от оборудования. В README не приводятся результаты отдельной оценки качества данной конверсии.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/Qwen3-32B-bf16

This model mlx-community/Qwen3-32B-bf16 was converted to MLX format from Qwen/Qwen3-32B using mlx-lm version 0.24.0.

Use with mlx

pip install mlx-lm
from mlx_lm import load, generate

model, tokenizer = load("mlx-community/Qwen3-32B-bf16")

prompt = "hello"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
3d03fe9

0 моделей