/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
54,7 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Базовая модель
Qwen3.8-27B
Библиотека
mlx
Опубликована
14 авг 2026

Qwen3.8-27B-mlx-bf16

Изображение и текст → текст12 профессий

Мультимодальная модель Qwen на 27 млрд параметров в формате MLX bfloat16 для диалогов и анализа изображений на Apple Silicon.

37скачиваний за 30 дней0лайковвеса обновлены14 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ToPo-ToPo/Qwen3.8-27B-mlx-bf16 — конверсия мультимодальной модели Qwen/Qwen3.8-27B в формат MLX bfloat16 для запуска на компьютерах Apple Silicon. Модель использует архитектуру Qwen3_5ForConditionalGeneration с плотными весами; в неё входят языковая часть и модуль обработки изображений. Исходные веса конвертированы с помощью mlx-vlm 0.6.9, лицензия — Apache-2.0.

Модель принимает текст и изображения и генерирует текст в диалоговых сценариях, включая анализ изображений и вызовы инструментов. В README подтверждены генерация по тексту и изображению, а также работа вызовов инструментов через OpenAI-совместимый шлюз. Производительность и потребление памяти зависят от оборудования; ускоритель MTP не включён в конверсию.

Сценарии применения

  • ответы на вопросы по изображениям
  • описание и анализ изображений в диалоге
  • текстовые диалоги с вызовом инструментов
  • запуск мультимодального ассистента на Apple Silicon

Ограничения

Производительность и потребление памяти зависят от оборудования. В конверсию не включены веса MTP, поэтому соответствующее ускорение генерации недоступно.

Для каких профессий подходит12

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ToPo-ToPo/Qwen3.8-27B-mlx-bf16

MLX bf16 conversion of Qwen/Qwen3.8-27B for Apple Silicon (mlx-vlm).

Provenance (self-converted from official weights)

  • Source: Qwen/Qwen3.8-27B (license: apache-2.0)
  • Tool: mlx-vlm 0.6.9 — mlx_vlm.convert --hf-path Qwen/Qwen3.8-27B --mlx-path . --dtype bfloat16
  • Effective: bfloat16 (unquantized)
  • Architecture: Qwen3_5ForConditionalGeneration (model_type: qwen3_5), 64 layers with 3:1 linear/full attention, vision tower included (333 vision tensors).

Validation

  • Text and image input verified with mlx_vlm.generate.
  • OpenAI-compatible gateway (local-llm-server): text, image (data URI) and native tool calling (finish_reason: tool_calls) all verified.
  • End-to-end agent runs (MCP tools, write → read → report) completed without errors.

Throughput and memory use depend on your hardware, so measure them on your own machine.

Note on MTP

The official checkpoint declares mtp_num_hidden_layers: 1, but the mlx-vlm qwen3_5 conversion does not carry the model.mtp.* weights. A drafter split from the official bf16 checkpoint is published separately as ToPo-ToPo/Qwen3.8-27B-MTP-bf16 (a 4bit variant is also available).

Usage

from mlx_vlm import load, generate
model, processor = load("ToPo-ToPo/Qwen3.8-27B-mlx-bf16")

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
Qwen3_5ForConditionalGeneration
Ревизия весов
3872835

0 моделей