/ Модель

Характеристики

Лицензия
Gemma
Базовая модель
aac-board-generator-moe-636m-ptbr
Библиотека
gguf
Опубликована
22 июл 2026

gemmuguinho-636m-GGUF

Генерация текстаТекст → текст3 профессии

Papuguinho/gemmuguinho-636m-GGUF — набор квантованных GGUF-сборок модели aac-board-generator-moe-636m-ptbr, разработанной Stekel, Tardelli R.

2 895скачиваний за 30 дней1лайквеса обновлены22 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

C. для проекта Papuguinho. Это модель Mixture-of-Experts для генерации и редактирования досок с пиктограммами альтернативной и дополнительной коммуникации (AAC) на бразильском португальском языке. Она ориентирована на ассистивные технологии, доступность и локальную работу на устройствах без обязательного подключения к облачным сервисам.

Модель содержит около 636 млн общих параметров; число активных параметров зависит от конфигурации маршрутизации: примерно 141 млн при k=1, 212 млн при k=2 и 283 млн при k=3. Представлены варианты от Q4_K_M до Q8_0 и f16 размером примерно от 460 МБ до 1,2 ГБ. Сборки запускаются через llama.cpp на CPU, однако требуется версия с поддержкой нестандартной архитектуры gemma3moe. Указанная скорость достигает примерно 210 токенов в секунду для k=1 и 90–130 токенов в секунду для k=2 на Apple Silicon CPU/Metal.

Сильные стороны модели — специализация на создании и изменении AAC-досок, поддержка компактного DSL для команд редактирования и приемлемое качество даже в варианте Q4_K_M; для лучшего качества рекомендуется k=2 с Q8_0. Ограничения включают специализацию преимущественно на бразильском португальском, зависимость от совместимой сборки llama.cpp и отсутствие в README подробных сведений об обучении, оценке и ограничениях базовой модели. Данные обучения полностью синтетические. Используется лицензия Gemma.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

AAC Board Generator · MoE 636M · pt-BR — GGUF

License Language Format Runtime Quant Speed

GGUF builds of aac-board-generator-moe-636m-ptbr — a sovereign Mixture-of-Experts model that generates and edits AAC pictogram boards in Brazilian Portuguese, running fully on CPU via llama.cpp. Built for Papuguinho.

≈636M total params · active params scale with k: ≈141M (k=1) · ≈212M (k=2, default) · ≈283M (k=3).

⚠️ Requires a llama.cpp build with the custom gemma3moe architecture. The stock upstream build does not yet include it.


Files

Two knobs, both baked into the file (no --override-kv needed): k = active experts (1 = ≈2× faster · 2 = best quality) × quant (Q4 → Q8, smaller → higher fidelity). Weights are identical across k; only runtime routing differs.

QuantSizek=1 · fast (≈210 tok/s)k=2 · best (≈90–130 tok/s)
Q4_K_M460 MBaac-moe-636m-v2-k1-Q4_K_M.ggufaac-moe-636m-v2-k2-Q4_K_M.gguf
Q5_K_M496 MBaac-moe-636m-v2-k1-Q5_K_M.ggufaac-moe-636m-v2-k2-Q5_K_M.gguf
Q6_K632 MBaac-moe-636m-v2-k1-Q6_K.ggufaac-moe-636m-v2-k2-Q6_K.gguf
Q8_0681 MBaac-moe-636m-v2-k1-Q8_0.ggufaac-moe-636m-v2-k2-Q8_0.gguf
f161.2 GBaac-moe-636m-v2-k1-f16.ggufaac-moe-636m-v2-k2-f16.gguf

Which file should I pick?

  • 🏃 Smallest / fastest: k1-Q4_K_M (460 MB) — quality verified OK on both board generation and edit commands.
  • 🏆 Best quality: k2-Q8_0 (681 MB).
  • ⚖️ Balanced default: k1-Q5_K_M or k2-Q5_K_M.

Usage

# Board generation
llama-cli -m aac-moe-636m-v2-k1-Q4_K_M.gguf --jinja \
  -sys "$(cat corpo_chatbot.txt)" \
  -p "quero uma prancha de escola" -n 200 -st

# Ask for a specific count
#   -p "gera 5 pictogramas de praia"

# Board editing (agent) — pass the current board + a command, use corpo_comando.txt as system prompt

Each board line is label|category|search_terms. Edit commands return a compact DSL (R| confirm, +| add, -| remove, T| retitle, C| columns, X| new theme).

Performance & Quality

  • Speed: up to ≈210 tok/s (k=1) / ≈90–130 tok/s (k=2) on Apple-Silicon CPU/Metal; scales to server CPUs.
  • Quality (LLM judge, 0–10): ≈ 9.1 (1B dense baseline = 7.8, teacher ≈ 9.2).
  • Edit-DSL command following stays reliable down to Q4_K_M.

About

Model card, training data, evaluation and limitations: see the base model repo. 100% synthetic data. Author: Stekel, Tardelli R. C. · Project: Papuguinho · License: Gemma.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
df2f7ba

0 моделей