Характеристики

Лицензия: Apache 2.0
Базовая модель: Gemory-26B-A4B-GGUF
Опубликована: 14 сен 2026

Ссылки

Gemory-26B-A4B-GGUF

Генерация текстаТекст → текст3 профессии

Gemory-26B-A4B-GGUF — квантизированная GGUF-версия модели Gemory-26B-A4B, опубликованная Abiray на основе модели UltimateIntent.

4 827скачиваний за 30 дней1лайквеса обновлены14 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель построена по архитектуре Mixture of Experts с 26 миллиардами параметров и фундаментом Gemma. В репозитории также указаны поддержка запуска через llama.cpp и специализация на генерации текста.

Модель предназначена прежде всего для высококачественного творческого письма, ролевых сценариев без ограничений, а также сложного многоходового диалога с сохранением глубины взаимодействия. Указан английский язык. Длина контекста и точный набор поддерживаемых модальностей не сообщаются; по назначению и тегу pipeline модель относится к текстовой генерации и не описана как мультимодальная.

Доступно несколько вариантов квантизации от Q3_K_S до Q6_K. Q6_K обеспечивает качество, близкое к исходным BF16-весам, а Q4_K_M обозначен как рекомендуемый вариант с балансом качества, скорости и потребления памяти; размер файлов составляет примерно от 12,2 до 22,6 ГБ, а рекомендуемые требования к RAM/VRAM — от 15 до 26 ГБ и более в зависимости от варианта. Квантизация снижает требования к памяти, но может приводить к потере качества по сравнению с исходной BF16-моделью.

Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое программное обеспечение, например llama.cpp; конкретные ограничения, связанные с безопасностью или политикой использования, в README не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gemory-26B-A4B - GGUF

This repository contains GGUF quantizations of UltimateIntent/Gemory-26B-A4B-GGUF.

Gemory-26B-A4B is a 26-billion parameter Mixture of Experts (MoE) model built on the Gemma architecture foundation, fine-tuned for high-fidelity creative writing, unrestricted roleplay, and complex multi-turn conversational depth. All quantizations were generated directly from the uncompressed 50.5 GB BF16 base model and sanity-tested for generation integrity.

Quantization Breakdown

Filename	Quant Method	File Size	Recommended RAM/VRAM	Description / Quality
`Gemory-26B-A4B-Q6_K.gguf`	Q6_K	22.6 GB	~26 GB+	Near-lossless quality; closest output to base BF16 weights.
`Gemory-26B-A4B-Q5_K_M.gguf`	Q5_K_M	19.1 GB	~23 GB+	High quality; recommended sweet spot for 24 GB VRAM GPUs.
`Gemory-26B-A4B-Q5_K_S.gguf`	Q5_K_S	18.0 GB	~22 GB+	High quality with slightly faster inference and lower memory.
`Gemory-26B-A4B-Q4_K_M.gguf`	Q4_K_M	16.8 GB	~20 GB+	Default Recommended: Optimal balance of speed, perplexity, and memory.
`Gemory-26B-A4B-Q4_K_S.gguf`	Q4_K_S	15.5 GB	~19 GB+	Standard 4-bit quantization for tighter memory envelopes.
`Gemory-26B-A4B-Q3_K_M.gguf`	Q3_K_M	13.3 GB	~16 GB+	Low-memory 3-bit variant; preserves critical attention weights.
`Gemory-26B-A4B-Q3_K_S.gguf`	Q3_K_S	12.2 GB	~15 GB+	Maximum compression; fits easily on 16 GB systems.

Usage Instructions

1. `llama.cpp`

Command-Line Inference (llama-cli):

./llama-cli \
  -hf Abiray/Gemory-26B-A4B-GGUF:Q4_K_M \
  -p "Write an opening scene set in a rain-soaked neon alleyway." \
  -n 512 \
  --temp 0.7

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 7645319