/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Ternary-Bonsai-2-27B-gguf
Библиотека
gguf
Опубликована
6 окт 2026

Ternary-Bonsai-2-27B-PTQ1_0-and-own42-LoRA-GGUF

Генерация текстаТекст → текст

GGUF-сборка Ternary-Bonsai-2-27B с LoRA-адаптером own42 для локальной генерации текста.

289скачиваний за 30 дней1лайквеса обновлены6 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Репозиторий groxaxo содержит две upstream-составляющие, предназначенные для совместного использования: GGUF-файл модели Ternary-Bonsai-2-27B PTQ1_0 от prism-ml и LoRA-адаптер own42 от AtomicChat. Автор репозитория сообщает, что не обучал и не квантизировал эти файлы. Базовая модель имеет архитектуру qwen35 и заявленный размер 27B; формат распространения — GGUF. Для запуска в локальном runtime автор приводит пример с llama-server и масштабом LoRA 1,5.

Модель предназначена для генерации текста. README описывает конфигурацию локального запуска с контекстом 131072 токена и кэшем KV q8_0; это параметры указанного манифеста, а не гарантия качества. В метаданных указана лицензия Apache-2.0, и README сообщает, что обе исходные карточки также указывают эту лицензию. Практическое применение требует совместимого runtime и правильного подключения адаптера к базовому GGUF-файлу.

Сценарии применения

  • локальная генерация текста через llama.cpp
  • диалоговые ответы на текстовые запросы
  • подключение own42 LoRA к базовой модели Ternary-Bonsai-2-27B

Ограничения

Для запуска нужны совместимый runtime и базовый GGUF-файл вместе с адаптером; README не приводит результаты оценки качества. Контекст 131072 токена относится к локальному манифесту автора.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Ternary-Bonsai-2-27B PTQ1_0 and own42 LoRA

This folder keeps two upstream files that were used together. groxaxo did not quantize or train either file. Both source model cards report Apache-2.0.

FileBytesSourceRecorded SHA-256
Ternary-Bonsai-2-27B-PTQ1_0.gguf5,946,648,928prism-ml/Ternary-Bonsai-2-27B-gguf revision b072e1d3b35a0a630cece372c2127528e099438653107f530aa52eb00912263ab1ee29bd199261c87cd7b4ad4ca1318c1fe33ee3
bonsai2-27b-abliterate-own42-lora.gguf9,683,168AtomicChat/Ternary-Bonsai-2-27B-Abliterate-LoRA-GGUF revision b8486d211e4784b2b2643201f28cba122ec1d9c88dce2bebffa85792b57139df2d98cd19201a163efdf88f9b9b8353f2d0ced76f

The base GGUF header records architecture qwen35, size label 27B, basename folded, and general.file_type 143. It has no license field. The adapter header records general.type adapter, general.architecture qwen35, and general.name own42p-all.

The local runtime manifest used the base file with this adapter at LoRA scale 1.5, context 131072, and q8_0 KV cache. That scale is the saved local default, not a new quality claim. The upload checks both recorded hashes before publishing.

llama-server -m Ternary-Bonsai-2-27B-PTQ1_0.gguf \
  --lora-scaled bonsai2-27b-abliterate-own42-lora.gguf:1.5 --jinja

This is a different file from groxaxo/Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP-GGUF-3060-bench.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
d1a2ae6

0 моделей