/ Модель
Каталог

Характеристики

Лицензия
MIT
Базовая модель
DeepSeek-V4-Flash-Vision-Exp
Библиотека
gguf
Опубликована
7 сен 2026

Ссылки

Hugging Face

DeepSeek-V4-Flash-Vision-Exp-UltraOptimised-GGUF-DSpark

Solstice-AI
Изображение и текст → текст9 профессий

Solstice-AI/DeepSeek-V4-Flash-Vision-Exp-UltraOptimised-GGUF-DSpark — это набор GGUF-квантизаций экспериментальной мультимодальной модели DeepSeek-V4-Flash-Vision-Exp, разработанной DeepSeek AI и подготовленной Solstice-AI.

1 280скачиваний за 30 дней1лайквеса обновлены9 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Набор предназначен для локального запуска и инференса в сценариях image-text-to-text, включая анализ изображений и работу с текстом, с поддержкой llama.cpp и Ollama.

Модель имеет архитектуру MoE с 305 млрд общих параметров, 256 маршрутизируемыми экспертами, Multi-Head Latent Attention и Compressed Sparse Attention; в README также указано 13 млрд активных параметров на токен. Визуальная часть включает 32-слойный Vision Transformer с размером патча 14 и коэффициентом уменьшения 3. Заявлено окно контекста 1 048 576 токенов. В комплект входят квантизации UD-IQ4_XS, UD-Q3_K_XL и UD-Q8_K_XL, отдельный BF16-проектор изображений и DSpark-драфтер для speculative decoding.

Сильные стороны набора — поддержка мультимодальных задач, очень длинного контекста, нескольких вариантов компромисса между размером, скоростью и точностью, а также сохранение проектора изображений в BF16. DSpark-драфтер заявлен как средство ускорения спекулятивного декодирования примерно в 1,4–1,7 раза, однако фактическая производительность зависит от оборудования и программного стека. Модель требует значительных ресурсов: указанные варианты занимают примерно 128,2–161,9 ГБ, а проектор — 934,5 МБ; в README приведены целевые конфигурации с 128–192 ГБ памяти и несколькими GPU.

Лицензия набора — MIT. README не указывает поддерживаемые естественные языки. В описании также есть расхождение: заявлены 13 млрд активных параметров на токен и одновременно 6 активных экспертов на токен, поэтому точную схему маршрутизации следует уточнять по исходной модели.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельI.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модельI.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Overview

Solstice-AI/DeepSeek-V4-Flash-Vision-Exp-UltraOptimised-GGUF-DSpark provides the curated, production-grade GGUF suite for DeepSeek's experimental multimodal foundation model deepseek-ai/DeepSeek-V4-Flash-Vision-Exp (305B total parameters, 256 routed MoE experts, 13B activated per token, 43 layers, Multi-Head Latent Attention).

This release bundles the complete multimodal stack: curated base quantizations, a standalone lossless BF16 multimodal vision projector, and the pre-aligned DSpark speculative drafter.

Artifact Matrix

ArtifactFormatShardsSizeTarget Hardware & Role
UD-IQ4_XSIQ4_XS (imatrix)4136.7 GBRecommended. Production sweet spot. Fits Apple M2/M3/M4 Ultra (192GB) or dual 80GB GPUs.
UD-Q3_K_XLQ3_K_XL4128.2 GBHigh-Throughput Linear K-Quant. 15–20% faster raw dequantization. Fits 128GB–192GB setups.
UD-Q8_K_XLQ8_K_XL5161.9 GBBit-Exact Reference. Full precision across dense projections and router heads.
mmproj-BF16.ggufBF161934.5 MBMultimodal Vision Projector. Kept in native BF16 to eliminate visual hallucinations.
speculative/DSpark-drafter-vision-exp.ggufQ2_K / Q8_016.94 GBDSpark Semi-Autoregressive Drafter. Tuned for Vision-Exp revision e46e16bf. Drives 1.4×–1.7× speculative acceleration in ds4.

Architectural Breakdown & Specifications

  • Total Parameters: 305B total, 13B active per token across 256 routed MoE experts (6 active per token).
  • Attention Mechanism: Compressed Sparse Attention (CSA) and Multi-Head Latent Attention (MLA).
  • Multimodal Vision Encoder: 32-layer Vision Transformer (ViT) with patch size 14 and downsample ratio 3.
  • Context Window: 1,048,576 tokens (1M native YaRN context).

Citations & Acknowledgments

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · gguf

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
249bcaf

0 моделей

    Создать бенчмарк