/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3.6-35B-A3B
Опубликована
18 июн 2026

Qwen3.6-35B-A3B-Claude-4.7-Distill-NVFP4-GGUF

Генерация текстаТекст → текст15 профессий

Квантизированная в NVFP4 текстовая MoE-модель Qwen для диалогов и генерации ответов с рассуждениями.

314скачиваний за 30 дней0лайковвеса обновлены16 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FreedomAISVR публикует GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled — разговорной модели рассуждения, дистиллированной из Claude 4.7 Opus. В основе лежит архитектура Qwen3.5 MoE с 35 млрд параметров, около 3 млрд из которых активны при генерации; в модели 256 экспертов, из них 8 активируются на токен, а также 40 слоёв и MTP-голова. Контекст составляет 262 144 токена.

Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями. Это текстовая версия без поддержки изображений. Веса сохранены в формате GGUF и квантизированы в NVFP4 примерно до 4 бит; файл модели занимает около 18,81 ГБ. Apache 2.0 указана как лицензия исходной модели.

Сценарии применения

  • диалоговые ответы на запросы
  • генерация текста с пошаговыми рассуждениями
  • локальный запуск чат-модели через llama.cpp
  • ответы на длинные запросы с использованием большого контекстного окна

Ограничения

Модель принимает только текст и не поддерживает анализ изображений. Квантизация NVFP4 может влиять на качество относительно исходных весов; языки в карточке не перечислены.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled NVFP4 GGUF

GGUF quantization of lordx64/Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled — a 35B MoE (3B active) reasoning model distilled from Claude 4.7 Opus.

Model Details

  • Architecture: Qwen3.5 MoE, 41 blocks (40 layers + 1 MTP head), 256 experts (8 active/token)
  • Active Parameters: ~3B
  • Context: 262,144 tokens
  • Source: Apache 2.0 license
  • Text-only: No vision support

Quantization

FileTypeSizeBPW
qwen36-35b-distill-nvfp4.ggufNVFP4 (all tensors)~18.81 GB4.55

All weight tensors quantized to NVFP4 (4-bit floating point). F32/F16 bias and norm tensors kept at original precision.

Usage

./llama-server -m qwen36-35b-distill-nvfp4.gguf --host 0.0.0.0 --port 8080

Credits

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
97c3fdf

0 моделей