Характеристики

Лицензия: Apache 2.0
Базовая модель: Qwen3.8-27B
Библиотека: llama.cpp
Опубликована: 17 сен 2026

Ссылки

Hugging Face

Ternary-Bonsai-2-27B-gguf-dev

prism-ml

Генерация текстаТекст → текст3 профессии

Ternary-Bonsai-2-27B-gguf-dev — экспериментальная GGUF-версия модели Bonsai 2 27B, разработанная PrismML.

12 255скачиваний за 30 дней35лайковвеса обновлены17 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Она предназначена для генерации текста и тестирования низкобитного квантования, ядер вычислений и интеграции изменений в llama.cpp. В качестве базовой модели указана Qwen/Qwen3.8-27B. Модель использует архитектуру qwen35, упаковку Q2_0 и 2-битное представление весов; сведения о поддерживаемых языках, размере контекста и дополнительных модальностях не приведены.

Для корректной работы требуется форк llama.cpp от PrismML с поддержкой специального преобразования активаций. Стандартная версия llama.cpp может загрузить файл, но будет генерировать бессмысленный текст без предупреждения, поэтому сборка предназначена главным образом для тестирования и разработки, а не для обычного использования. Для практического применения рекомендуются отдельные сборки Ternary-Bonsai-2-27B-gguf или Ternary-Bonsai-2-27B-mlx-2bit для Apple Silicon. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Bonsai 2 27B, Q2_0 (testing build)

The Q2_0 packing of Bonsai 2 27B, kept separate until upstream support lands.

Bonsai 2 needs an activation transform that currently only exists in our llama.cpp fork. Stock llama.cpp will load this file anyway, since it knows the Q2_0 type and the qwen35 architecture, and outputs gibberish with no warning. The main repo's PQ2_0 and PTQ1_0 use types stock llama.cpp does not know, so it stops with an error rather than running them. That is why they ship there and this one does not.

It is here for testing, kernel work, and upstreaming. It moves to the main repo once that lands.

For normal use: Ternary-Bonsai-2-27B-gguf, or Ternary-Bonsai-2-27B-mlx-2bit on Apple Silicon. Setup for every backend: Bonsai-demo.

contact@prismml.com

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 2a263ef