/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Spark-X2.5-1.7B
Библиотека
llama.cpp
Опубликована
6 сен 2026

Spark-X2.5-1.7B-GGUF

Генерация текстаТекст → текст4 профессии

Spark-X2.5-1.7B-GGUF — набор общественных GGUF-квантизаций базовой текстовой модели XHToken/Spark-X2.5-1.7B.

1 315скачиваний за 30 дней1лайквеса обновлены13 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Релиз подготовлен пользователем ngquocvinh; обучение или дообучение в этом репозитории не выполнялись. Модель предназначена для локального запуска и генерации текста через llama.cpp.

Доступны девять вариантов квантизации размером от 0,40 до 1,70 GiB: Q1_0, IQ1_M, IQ2_XS, Q2_K, Q3_K_M, Q4_K_M, Q5_K_M, Q6_K и Q8_0. Для NVIDIA A10M заявлена скорость генерации примерно от 175,54 до 336,65 токена в секунду при однопоточном тестировании. Q4_K_M рекомендован как вариант по умолчанию, а Q5_K_M — для повседневного использования; более компактные Q1/Q2 и IQ-варианты рассчитаны на системы с ограниченной памятью.

Сильной стороной набора является выбор между качеством, размером и скоростью, а также проверка всех файлов на загрузку и генерацию. При агрессивной квантизации возможно ухудшение следования инструкциям, рассуждений и надёжности вызова инструментов, поэтому вариант следует выбирать и тестировать под конкретную задачу. Языки, контекстное окно, точная архитектура и мультимодальные возможности в README не указаны. Производные файлы распространяются по Apache License 2.0 с требованием сохранять атрибуцию и лицензию исходной модели; релиз не является официальным выпуском или одобрением XHToken/SparkLLM.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Spark-X2.5-1.7B GGUF

Community GGUF quantizations of XHToken/Spark-X2.5-1.7B. This repository contains nine quantized files for local inference. No training or fine-tuning was performed.

Files

QuantizationFile size (GiB)A10M generation token/sValidationRecommendation / Notes
Q8_01.70175.54Load/generate passHigh quality.
Q6_K1.31199.07Load/generate passHigh quality.
Q5_K_M1.17223.04Load/generate passDaily use.
Q4_K_M1.03241.87Load/generate passRecommended default.
Q3_K_M0.87203.60Load/generate passLower-memory profile.
Q2_K0.74231.70Load/generate passAggressive low-memory profile.
IQ2_XS0.61245.03Load/generate passExperimental.
IQ1_M0.54252.02Load/generate passExperimental.
Q1_00.40336.65Load/generate passExperimental / legacy minimum-memory option.

The A10M generation figures were measured with single-stream llama-bench on an NVIDIA A10M.

Q1/Q2 and the IQ variants can lose instruction following, reasoning, and tool-call reliability. Validate the chosen file on the workload that matters to you.

License and attribution

The upstream model is released under Apache License 2.0. Preserve the upstream attribution and license when redistributing these derivative files. This is a community GGUF quantization, not an official XHToken/SparkLLM release or endorsement.

Checksums are available in SHA256SUMS.txt.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
1cc70b9

0 моделей