/ Модель
Каталог

Характеристики

Лицензия
Своя лицензия
Базовая модель
LFM2.5-VL-3B-DSpark
Библиотека
llama.cpp
Опубликована
18 сен 2026

Ссылки

Hugging Face

LFM2.5-VL-3B-DSpark-GGUF

LiquidAI
Изображение и текст → текст3 профессии

GGUF-модуль DSpark для спекулятивного декодирования LFM2.5-VL-3B в llama.cpp, требующий совместимую целевую модель и проектор зрения.

1 527скачиваний за 30 дней10лайковвеса обновлены24 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LFM2.5-VL-3B-DSpark-GGUF — это GGUF-сборка Liquid AI для llama.cpp, предназначенная для ускорения вывода модели LFM2.5-VL-3B-GGUF с помощью спекулятивного декодирования. Репозиторий содержит только черновой модуль DSpark: четыре слоя внимания, Markov head, confidence head и block size 9; эмбеддинги токенов и языковая голова берутся у целевой модели при загрузке. Для работы необходимы совместимая целевая модель и проектор зрения из LiquidAI/LFM2.5-VL-3B-GGUF.

Сценарий применения — запуск мультимодальной модели с изображениями и текстом через llama.cpp при использовании DSpark как draft sidecar. Файл F16 имеет размер 567 МБ; в README показатели производительности приводятся для 16-битной обработки визуального энкодера и языковой основы. Карточка описывает эту сборку как производную от LiquidAI/LFM2.5-VL-3B-DSpark. Лицензия указана как other, поэтому конкретные условия следует сверить с карточкой и лицензией исходной модели.

Сценарии применения

  • ускорение генерации ответов целевой моделью LFM2.5-VL-3B в llama.cpp
  • ускорение диалогового анализа изображений целевой VLM
  • использование DSpark как draft sidecar для спекулятивного декодирования
  • запуск мультимодального инференса с GGUF-файлами F16

Ограничения

Это не самостоятельная целевая модель: для работы нужны целевая LFM2.5-VL-3B-GGUF и проектор зрения. Описан только формат F16; условия лицензии категории other следует уточнить в карточке модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейI.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022моделиI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LFM2.5-VL-3B-DSpark-GGUF

GGUF build of LiquidAI/LFM2.5-VL-3B-DSpark for llama.cpp.

This is a standalone draft sidecar: it carries only the drafter (4 attention layers, a Markov head, a confidence head, and block size 9.) Token embeddings and the LM head are shared from the target model at load time, so it must be paired with a LFM2.5-VL-3B-GGUF target file.

Find more information about LFM2.5-VL-DSpark in our blog post.

📦 Files

filesizenotes
LFM2.5-VL-3B-DSpark-F16.gguf567 MBStandalone F16 drafter; pair with the target model and vision projector from LiquidAI/LFM2.5-VL-3B-GGUF.

All inference numbers for this release use 16-bit processing for both the vision encoder and language backbone.

🏃 How to run (llama.cpp)

Run the target model with the DSpark drafter:

llama-server -hf LiquidAI/LFM2.5-VL-3B-GGUF:F16 \
  -hfd LiquidAI/LFM2.5-VL-3B-DSpark-GGUF:F16 \
  --spec-type draft-dspark --spec-draft-n-max 8 --spec-draft-n-min 0 \
  -ngl 99 -ngld 99 -fa on

The drafter was trained with block size 9. For Apple silicon, we recommend block size 8 through --spec-draft-n-max 8.

Speculative decoding is exact under greedy decoding: the target verifies every proposed token, so the generated output equals the target model running alone. The llama.cpp timing logs report the draft acceptance rate.

Other LFM2.5-VL-3B-DSpark formats:

DraftTarget
LFM2.5-VL-3B-DSparkLFM2.5-VL-3B
LFM2.5-VL-3B-DSpark-GGUFLFM2.5-VL-3B-GGUF

📊 Acceptance and benchmarks

See LiquidAI/LFM2.5-VL-3B-DSpark for model details and acceptance-length and throughput benchmarks across six vision-language tasks on NVIDIA H100 and Apple silicon, including MLX-VLM, llama.cpp, and SGLang results.

📬 Contact

Citation

@article{liquidAI2026VL3B,
  author  = {Liquid AI},
  title   = {LFM2.5-VL-3B: A Better and Faster Vision-Language Model for the Edge},
  journal = {Liquid AI Blog},
  year    = {2026},
  note    = {www.liquid.ai/blog/lfm2-5-vl-3b},
}

@article{liquidAI2026vldspark,
  author = {Liquid AI},
  title = {LFM2.5-VL-DSpark: Accelerating vision-language models on edge and beyond},
  journal = {Liquid AI Blog},
  year = {2026},
  note = {www.liquid.ai/blog/lfm2-5-vl-dspark},
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · llama.cpp

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
5ff7369

0 моделей

    Создать бенчмарк