/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3.6-35B-A3B
Опубликована
17 июн 2026

Qwen3.6-35B-A3B-Claude-4.7-Distill-MXFP4-MOE-GGUF

Генерация текстаТекст → текст15 профессий

Квантизированная в GGUF текстовая MoE-модель Qwen для диалогов и генерации ответов с дистиллированными рассуждениями Claude 4.7 Opus.

561скачиваний за 30 дней1лайквеса обновлены16 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FreedomAISVR выпустила GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled, дообученной на базе Qwen/Qwen3.6-35B-A3B с дистилляцией рассуждений Claude 4.7 Opus. Это текстовая MoE-модель для диалогов и генерации ответов; архитектура использует 35 млрд параметров, около 3 млрд из которых активны на токен. Контекст составляет 262 144 токена, поддержка изображений отсутствует.

Эксперты квантизированы в MXFP4, остальные веса — в Q8_0, веса маршрутизатора хранятся в F32; файл GGUF занимает около 18,87 ГБ. Модель можно запускать через llama.cpp, например как сервер для диалогового приложения. Лицензия — Apache 2.0.

Сценарии применения

  • диалоговый помощник для ответов на вопросы
  • генерация и уточнение текстовых ответов
  • развёртывание локального чат-сервера через llama.cpp

Ограничения

Модель работает только с текстом и не поддерживает изображения. Для запуска требуется GGUF-совместимый движок и достаточно памяти для файла размером около 18,87 ГБ.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled MXFP4 MoE GGUF

GGUF quantization of lordx64/Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled — a 35B MoE (3B active) reasoning model distilled from Claude 4.7 Opus.

Model Details

  • Architecture: Qwen3.5 MoE, 41 blocks (40 layers + 1 MTP head), 256 experts (8 active/token)
  • Active Parameters: ~3B
  • Context: 262,144 tokens
  • Source: Apache 2.0 license
  • Text-only: No vision support

Quantization

FileTypeSizeBPW
qwen36-35b-distill-mxfp4_moe.ggufMXFP4 (experts) + Q8_0 (non-experts)~18.87 GB4.56

MoE expert weights quantized to MXFP4. Non-expert weights (attention, shared experts, norms) quantized to Q8_0. Router weights kept at F32.

Usage

./llama-server -m qwen36-35b-distill-mxfp4_moe.gguf --host 0.0.0.0 --port 8080

Credits

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
10102f7

0 моделей