./llama-cli
-m Spark-X2.5-4B-abliterated-FIT-QUALITY-3.15GiB-Q6_K.gguf
-ngl 99 -c 8192 -p "Hello" -n 256The chat template is embedded in every file. Once Spark2_5 support merges, any llama.cpp-based runner (llama-cli, llama-server, LM Studio, KoboldCpp, Jan, …) loads these files directly. This is a dense 4B text model — no MTP head, no vision projector.
Характеристики
- Лицензия
- Apache 2.0
- Базовая модель
- Spark-X2.5-4B
- Библиотека
- gguf
- Опубликована
- 6 сен 2026
Ссылки
Spark-X2.5-4B-abliterated-FIT-GGUF
SC117/Spark-X2.5-4B-abliterated-FIT-GGUF — это набор GGUF-квантизаций модели XHToken/Spark-X2.5-4B, подготовленный автором репозитория SC117 с использованием FIT-GGUF.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. Доступны четыре проверенных уровня точности размером примерно от 2,26 до 3,15 GiB.
Модель имеет гибридную архитектуру внимания, около 4 миллиардов параметров и заявленный контекст до 1 миллиона токенов. Поддерживаются английский и китайский языки. Вариант помечен как abliterated, то есть ограничения на определённые типы ответов были изменены или ослаблены; конкретная методика и последствия этого изменения в представленном README подробно не описаны. FIT-GGUF подбирает распределение точности по тензорам с использованием измерений KL-дивергенции и совпадения наиболее вероятного токена, а поставляемые файлы повторно проверены относительно версии BF16.
Сильными сторонами являются большой контекст, несколько вариантов размера и точности, совместимость с экосистемой GGUF и детерминированная проверка результатов квантования. Ограничения включают возможные потери качества из-за квантования, неизвестные в README показатели производительности и качества на конкретных задачах, а также отсутствие подробностей об исходной архитектуре, скорости работы и системных требованиях. Лицензия — Apache-2.0.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.
- Ревизия весов
- 0ab053e