Характеристики

Лицензия: Apache 2.0
Базовая модель: Qwen3.8-27B
Библиотека: gguf
Опубликована: 2 сен 2026

Ссылки

Lobo-Qwen3.8-27B-GSQ-RCO-IQ3_S-MTP-GGUF

Генерация текстаТекст → текст9 профессий

Farggin/Lobo-Qwen3.8-27B-GSQ-RCO-IQ3_S-MTP-GGUF — это одnofайловая GGUF-сборка модели Qwen3.8-27B, разработанная для проекта Lobo.

4 951скачиваний за 30 дней8лайковвеса обновлены2 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

В основе лежит базовая модель Qwen/Qwen3.8-27B, а сборка оптимизирована как inference appliance для одной видеокарты NVIDIA RTX 5070 Ti с 16 ГБ памяти и архитектурой SM120. Модель предназначена для генерации текста и запуска локальных сценариев инференса через runtime Lobo, включая профили Balanced и headless.

Модель содержит 27 миллиардов параметров и использует квантизацию IQ3_S с компонентами IQ4_XS и IQ3_S, тогда как небольшие нормализационные тензоры сохранены в F32. В сборку добавлены тензоры MTP; при этом заявлено сохранение исходных весов без дополнительного обучения или приближения. Формат GGUF и размер файла около 11,98 млрд байт позволяют разместить модель в памяти целевой видеокарты с использованием специализированной конфигурации. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны.

Сильной стороной модели является адаптация к ограниченному локальному GPU-ресурсу, а также воспроизводимая сборка с зафиксированными версиями исходных компонентов и контрольной суммой. Ограничение состоит в том, что официально заявленная совместимость относится к Windows 11, CUDA 13.3 и NVIDIA SM120; поддержка других платформ не гарантируется. Исходные веса распространяются по лицензии Apache-2.0 с сохранением атрибуции, а runtime Lobo распространяется отдельно на условиях, совместимых с MIT.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Lobo Qwen3.8-27B GSQ-RCO IQ3_S + MTP GGUF

This repository contains the single-file deployment model for Lobo, an SM120-specialized Qwen3.8-27B inference appliance for one RTX 5070 Ti 16 GB.

Artifact

Field	Value
Filename	`Qwen3.8-27B-GSQ-RCO-IQ3_S-MTP-Q4XS-Q3S.gguf`
Exact bytes	`11,975,960,640`
Decimal GB	`11.975960640`
GiB	`11.153482497`
SHA-256	`4eb8482539194ed9bc1555c88613f39f2e65db37b16d9ab173f908e78d454512`
Intended runtime	alectodescent/lobo-qwen38-16gb

This is one complete GGUF at runtime. Users do not need the source GGUFs below unless they want to reproduce the assembly.

Provenance

The artifact is a deterministic payload-preserving assembly of public Apache-2.0 inputs:

Base model: Qwen/Qwen3.8-27B, revision 1d4bf0f2ff6012fd82039f2fa52739d0dd7c60c0.
Base quantization: ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF, revision d562806dbafae37109975e970aae91b43e73b440, file Qwen3.8-27B-GSQ-RCO-IQ3_S.gguf.
MTP donor: unsloth/Qwen3.8-27B-GGUF, revision f975863083b62f54a5e6fac11671c750c2bbc59c, file Qwen3.8-27B-UD-IQ3_XXS.gguf.

All 851 base tensor payloads are byte-identical to the pinned GSQ source. The 15 blk.64.* MTP tensor payloads are byte-identical to the pinned donor. No further weight training or approximation was applied during assembly.

Large MTP tensors use IQ4_XS/IQ3_S; small normalization tensors remain F32. The added MTP payload is 204,412,928 bytes.

The exact assembler, input hashes, runtime source, Windows release package, launchers, and behavioural qualification are in the Lobo public repository.

Use

Download this GGUF into the Lobo release's models directory, verify it, and start the Balanced profile:

.\tools\verify-model.ps1 -Profile Balanced
.\launchers\run-balanced-230k.ps1

For an effectively headless RTX 5070 Ti with near-zero desktop GPU residency:

.\launchers\run-mtp-headless-262k.ps1

The qualified target is Windows 11, CUDA 13.3, and NVIDIA SM120. Other platforms are not claimed.

License and attribution

The source model repositories identify their weights as Apache-2.0. This repository preserves upstream attribution and links to the exact source revisions. Lobo runtime code is distributed separately under MIT-compatible terms; see its THIRD_PARTY_NOTICES.md.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 1938286