/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Spark-X2.5-4B
Библиотека
gguf
Опубликована
6 сен 2026

Spark-X2.5-4B-abliterated-FIT-GGUF

Генерация текстаТекст → текст7 профессий

SC117/Spark-X2.5-4B-abliterated-FIT-GGUF — это набор GGUF-квантизаций модели XHToken/Spark-X2.5-4B, подготовленный автором репозитория SC117 с использованием FIT-GGUF.

13 130скачиваний за 30 дней33лайкавеса обновлены3 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. Доступны четыре проверенных уровня точности размером примерно от 2,26 до 3,15 GiB.

Модель имеет гибридную архитектуру внимания, около 4 миллиардов параметров и заявленный контекст до 1 миллиона токенов. Поддерживаются английский и китайский языки. Вариант помечен как abliterated, то есть ограничения на определённые типы ответов были изменены или ослаблены; конкретная методика и последствия этого изменения в представленном README подробно не описаны. FIT-GGUF подбирает распределение точности по тензорам с использованием измерений KL-дивергенции и совпадения наиболее вероятного токена, а поставляемые файлы повторно проверены относительно версии BF16.

Сильными сторонами являются большой контекст, несколько вариантов размера и точности, совместимость с экосистемой GGUF и детерминированная проверка результатов квантования. Ограничения включают возможные потери качества из-за квантования, неизвестные в README показатели производительности и качества на конкретных задачах, а также отсутствие подробностей об исходной архитектуре, скорости работы и системных требованиях. Лицензия — Apache-2.0.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

./llama-cli
-m Spark-X2.5-4B-abliterated-FIT-QUALITY-3.15GiB-Q6_K.gguf
-ngl 99 -c 8192 -p "Hello" -n 256The chat template is embedded in every file. Once Spark2_5 support merges, any llama.cpp-based runner (llama-cli, llama-server, LM Studio, KoboldCpp, Jan, …) loads these files directly. This is a dense 4B text model — no MTP head, no vision projector.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
0ab053e

0 моделей