Характеристики

Лицензия: Apache 2.0
Базовая модель: Marco-Nano-Instruct
Опубликована: 30 мая 2026

Ссылки

Hugging Face

Marco-Nano-Instruct-APEX

Briko

Генерация текстаТекст → текст3 профессии

Экспериментальная GGUF-квантовка Marco-Nano-Instruct для изучения шума квантования и сравнения артефактов сжатия.

147скачиваний за 30 дней1лайквеса обновлены30 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Marco-Nano-Instruct-APEX — квантованный вариант GGUF модели Marco-Nano-Instruct от AIDC-AI, подготовленный Briko с помощью проекта mudler/apex-quant. Для квантования использовалась матрица важности imatrix; исходные F16 GGUF-файлы и матрица взяты из репозитория mradermacher. Модель предназначена для технических экспериментов: исследования шума квантования, отладки преобразования форматов и сравнения артефактов сжатия.

Поддерживает генерацию текста и диалоговый режим; в карточке указаны английский и китайский языки. Квантование резко снижает точность: ответы могут быть бессвязными, содержать галлюцинации или не справляться с простыми задачами. Калибровка, дообучение и восстановление качества не выполнялись. Лицензия — Apache-2.0.

Сценарии применения

исследование шума при квантовании языковых моделей
отладка скриптов преобразования модели в GGUF
сравнение артефактов сжатия с использованием imatrix

Ограничения

Квантование приводит к серьёзной потере точности: модель может галлюцинировать, выдавать бессвязный текст и не справляться с простыми задачами. Калибровка и дообучение после квантования не проводились.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Marco-Nano-Instruct-APEX APEX Quantized (GGUF)

This repository contains APEX-quantized GGUF files for AIDC-AI's Marco-Nano-Instruct.

The quantization was performed using the mudler/apex-quant project, focusing on maximizing quality-to-size ratio using importance matrix (imatrix) guided quantization.

📥 Source & Credits

Base Model: AIDC-AI's Marco-Nano-Instruct.
F16 GGUF & Imatrix: The F16 source model and the importance matrix file used for quantization were sourced from mradermacher's GGUF repository.

Special thanks to @mradermacher for providing the high-quality imatrix file!

⚠️ For technical validation only

Severe accuracy loss due to quantization; outputs may contain hallucinations, gibberish, or fail basic tasks.
Suitable only for researching quantization noise, debugging conversion scripts, or comparing compression artifacts.
No post-training calibration, fine-tuning, or recovery techniques were applied.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов: 1d36fb5