MLX quantization of orcarouter/Qwen3.8-27B-Uncensored
Using imatrix from Unsloth
Квантизированная MLX-версия дообученной мультимодальной Qwen3.8-27B для диалогов и анализа изображений.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Orca-Qwen3.8-27B-Uncensored-unsloth-mlx — квантизированная MLX-сборка модели Qwen3.8-27B, подготовленная nova-quill на основе orcarouter/Qwen3.8-27B-Uncensored с использованием imatrix от Unsloth. Базовая Qwen3.8-27B — плотная мультимодальная модель на 27 млрд параметров для диалогов, анализа изображений и видео, программирования и многошаговых задач; карточка этой версии также указывает поддержку vision и pipeline image-text-to-text.
Исходная сборка описана как abliterated, то есть с удалением отказов, и предназначена для постобучения и квантизации. Репозиторий содержит форматы GGUF и safetensors; библиотека указана как Transformers. Модель лицензирована по Apache-2.0. Метаданные указывают английский и китайский языки; сведений о контекстном окне и ограничениях качества этой сборки нет.
Описание не приводит оценки качества, длину контекста или подробности квантизации и её влияния на точность. Версия с удалёнными отказами может отвечать на запросы, которые исходная модель отклоняла.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Using imatrix from Unsloth
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.