/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3.5-9B
Библиотека
transformers
Опубликована
14 июл 2026

PINQWEN-3.5-9B-1M-GGUF

Генерация текстаТекст → текст15 профессий

PINQWEN-3.5-9B-1M-GGUF — компактная reasoning-модель, разработанная Blackfrost AI на базе архитектуры Qwen 3.5 9B.

1 468скачиваний за 30 дней2лайкавеса обновлены26 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста, задач программирования, рассуждений и работы с большими объёмами контекста. Она распространяется в формате GGUF для локального запуска через llama.cpp и поддерживает режим пошагового рассуждения с блоками <think> и последующим ответом.

Заявленное контекстное окно составляет до 1 000 000 токенов благодаря расширению YaRN, что подходит для анализа целых кодовых баз, книг и других объёмных документов. Доступны варианты квантования от 2 до 8 бит, а также f16; рекомендованным балансом размера и качества назван Q4_K_M. В комплект входят MTP-голова для speculative decoding и отдельный vision projector для обработки изображений в совместимых средах, однако конкретные поддерживаемые языки в README не указаны.

К сильным сторонам относятся очень длинный контекст, локальное развертывание, открытое рассуждение, широкий выбор квантований и возможность мультимодального ввода при использовании совместимого runtime. Ограничения включают компромисс между размером, скоростью и качеством при квантовании, зависимость мультимодальных и MTP-возможностей от поддержки со стороны runtime, а также заявленную модель поведения без встроенных отказов, что требует ответственного применения. Лицензия — Apache-2.0; базовая архитектура указана как Qwen 3.5 9B.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

PINQWEN-3.5-9B-1M

PINQWEN‑3.5‑9B‑1M — GGUF

🪟 A 9B that reads a million tokens, thinks before it speaks, and never refuses — run it on your own machine.

PINQWEN‑3.5‑9B‑1M is Blackfrost AI's compact powerhouse — a reasoning model distilled through The Void, our multi‑teacher reasoning‑distillation method, on the Qwen 3.5 9B architecture. Reasons first, answers second (<think> → answer), across a full one‑million‑token context window. This is the complete GGUF drop for llama.cpp — every quant, the vision projector, and the MTP speculative‑decode head for faster generation.


🚀 Why PINQWEN‑3.5‑9B‑1M?

  • 🪟 1,000,000‑token context — whole codebases and books in one prompt, YaRN‑extended for efficient long context.
  • 🔓 Uncensored — answers directly, no reflexive refusals.
  • 🧠 Reasons in the open — native <think>…</think> chain‑of‑thought from a panel of frontier teachers.
  • ⚡ MTP speculative decode — ships with the multi‑token‑prediction head for accelerated generation.
  • 👁 Vision projector included (mmproj-*) for image input in compatible runtimes.

📦 This repository — GGUF: pick your quant

FilePrecisionSizeNotes
PINQWEN-3.5-9B-Q2_K.gguf2‑bit~3.7 GBSmallest; tight budgets
PINQWEN-3.5-9B-Q3_K_M.gguf3‑bit~4.5 GB
PINQWEN-3.5-9B-Q4_K_M.gguf4‑bit~5.4 GB⭐ Recommended balance
PINQWEN-3.5-9B-Q5_K_M.gguf5‑bit~6.2 GBHigher quality
PINQWEN-3.5-9B-Q6_K.gguf6‑bit~7.1 GB
PINQWEN-3.5-9B-Q8_0.gguf8‑bit~9.2 GBNear‑lossless
PINQWEN-3.5-9B-f16.gguff16~18 GBFull precision
mmproj-PINQWEN-3.5-9B-BF16.gguf—~0.9 GBVision projector (image input)

⚡ Quickstart (llama.cpp)

# text
llama-cli -m PINQWEN-3.5-9B-Q4_K_M.gguf -p "Explain the CAP theorem." -ngl 99

# thinking off (direct answers)
llama-server -m PINQWEN-3.5-9B-Q4_K_M.gguf -ngl 99 \
  --chat-template-kwargs '{"enable_thinking":false}'

# with vision
llama-mtmd-cli -m PINQWEN-3.5-9B-Q4_K_M.gguf \
  --mmproj mmproj-PINQWEN-3.5-9B-BF16.gguf --image pic.jpg -p "Describe this."

🎛 Formats — every one is 1M context

FormatRepositoryBest for
BF16PINQWEN-3.5-9B-1M-BF16Reference precision, fine‑tuning, vision
NVFP4PINQWEN-3.5-9B-1M-NVFP4Fast serving on NVIDIA Blackwell
GGUFPINQWEN-3.5-9B-1M-GGUFllama.cpp / local — full quant ladder + MTP

📄 License

Apache‑2.0. Base architecture: Qwen 3.5 9B. As an uncensored model, use responsibly.


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
2d80a7a

0 моделей