/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3.8-27B-heretic-ara
Библиотека
mlx
Опубликована
15 авг 2026

qwen3.8-27b-heretic-ara-mlx-mixed_2_6

Изображение и текст → текст5 профессий

justintime47/qwen3.8-27b-heretic-ara-mlx-mixed_2_6 — это квантованная и адаптированная для MLX версия модели trohrbaugh/Qwen3.8-27B-heretic-ara.

1 035скачиваний за 30 дней0лайковвеса обновлены15 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для локального запуска на устройствах с Apple Silicon с использованием MLX и связанных пакетов, таких как mlx-vlm.

Модель имеет размер 27B параметров и заявлена как multimodal image-text-to-text, то есть предназначена для обработки изображений и текста с генерацией текстовых ответов. При конвертации используется AWQ-квантование с методом mixed_2_6 и мультимодальной калибровкой. Сведения о поддерживаемых языках и размере контекстного окна в карточке не указаны.

Ключевые преимущества модели — оптимизация под экосистему Apple Silicon, возможность локального запуска и снижение требований к памяти благодаря квантованию. Ограничения связаны с зависимостью от MLX и специальных версий MLX-VLM: модель была создана на основе ещё не объединённой ветки проекта, поэтому для самостоятельной конвертации требовалась PR #1899 или соответствующая поддержка в будущих версиях. Лицензия — Apache 2.0.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for justintime47/qwen3.8-27b-heretic-ara-mlx-mixed_2_6 (MLX)

This is a MLX quantized and formatted version of trohrbaugh/Qwen3.8-27B-heretic-ara, optimized for Apple Silicon architectures.

Model Details

  • Base Model: trohrbaugh/Qwen3.8-27B-heretic-ara
  • Library Name: mlx
  • Pipeline Tag: image-text-to-text
  • License: apache-2.0

Usage with MLX

You can run this model locally using the MLX framework. Ensure you have the mlx-vlm or relevant MLX packages installed.

from mlx_vlm import load, generate

model, processor = load("justintime47/qwen3.8-27b-heretic-ara-mlx-mixed_2_6")

Reproduce it yourself

mlx_vlm.convert --hf-path trohrbaugh/Qwen3.8-27B-heretic-ara \
-q --quant-method awq \
--calibration multimodal \
--quant-predicate mixed_2_6 \
--trust-remote-code \
--mlx-path ./qwen3.8-27b-mlx-mixed_2_6

⚠️ IMPORTANT: This was built using an unmerged branch in mlx-vlm. To convert Qwen 3.8 27B yourself, check out PR #1899 or wait for it to land upstream.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Ревизия весов
1718d2a

0 моделей