/ Модель

Характеристики

Базовая модель
Kimi-K2.5-DFlash
Библиотека
gguf
Опубликована
15 июн 2026

Kimi-K2.5-DFlash-GGUF

Генерация текстаТекст → текст3 профессии

Radamanthys11/Kimi-K2.5-DFlash-GGUF — это набор GGUF-версий черновой DFlash-модели, созданный для использования с ik_llama.cpp.

125скачиваний за 30 дней0лайковвеса обновлены15 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель производна от safetensors-модели z-lab/Kimi-K2.5-DFlash и предназначена для совместной работы с целевой моделью семейства Kimi K2.5, в частности с Kimi-K2.5.gguf.

Модель используется не самостоятельно, а как draft-модель в сценариях генерации с черновым предсказанием через llama-server и параметр dflash. В репозитории представлены варианты F16 размером 6,5 ГБ, Q8_0 размером 3,5 ГБ и Q4_K_M размером 1,9 ГБ. Квантизации Q4_K_M и Q8_0 обозначены как небольшие тестовые варианты; при необходимости можно создать собственную квантизацию.

Ключевое ограничение — это не самостоятельная instruct-модель: для работы требуется совместимая целевая модель Kimi K2.5 и поддержка DFlash в ik_llama.cpp. Сведения о языках, длине контекста, мультимодальности и лицензии в README не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Kimi K2.5 DFlash GGUF

GGUF made to use in ikawrakow/ik_llama.cpp, currently for PR #1970. The small quantizations delivered here are made for test purposes; feel free to create your own quantization.

Derived from the safetensors DFlash draft model z-lab/Kimi-K2.5-DFlash.

Compatible target model

  • Kimi-K2.5.gguf - Mainly tested with IQ1_KT.

Files

FileQuantSize
kimi-k2-5-dflash-F16.ggufF166.5 GB
kimi-k2-5-dflash-Q8_0.ggufQ8_03.5 GB
kimi-k2-5-dflash-Q4_K_M.ggufQ4_K_M1.9 GB

Usage

./build/bin/llama-server \
  --model <target.gguf> \
  --model-draft <draft.gguf> \
  --spec-type dflash:n_max=<N>,cross_ctx=<N> ...

Notes

  • This repo contains DFlash draft models, not a standalone instruct model.
  • Use it with the matching target family listed above.
  • Q4_K_M and Q8_0 are small test-oriented quants; create your own quant if you need a different tradeoff.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
54c4316

0 моделей