/ Модель

Характеристики

Лицензия
Своя лицензия
Базовая модель
DeepSeek-V4-Flash-Vision-Exp
Библиотека
transformers
Опубликована
31 авг 2026

keys-DeepSeekV4Flash-Vision-EXP-ablit

Изображение и текст → текст3 профессии

Экспериментальная аблитерированная версия DeepSeek-V4-Flash-Vision-Exp предназначена для генерации текста с визуальным контекстом при мультимодальном запуске.

1 307скачиваний за 30 дней34лайкавеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это экспериментальная аблитерированная версия DeepSeek-V4-Flash-Vision-Exp от автора репозитория drowzeys. Веса сохраняют исходную башню зрения, но изменены проекции wo_b в слоях L10–35; проекции слоёв L0–9 и L36–42, блок MTP/DSpark draft и параметры vision tower не затрагивались. Модель рассчитана на сценарии image-text-to-text и генерацию текста с визуальным контекстом.

Карточка предупреждает, что имеющийся Anemll DSpark vLLM serve использует текстовый класс DeepseekV4ForCausalLM и пропускает параметры зрения, поэтому этот способ запуска не принимает изображения. Для обработки изображений нужен мультимодальный класс vLLM для DeepSeek-V4-Flash-Vision. Доступ к репозиторию ограничен согласием с RESPONSIBLE_USE.md; лицензия указана как other.

Сценарии применения

  • ответы на вопросы об изображениях при запуске через мультимодальный vLLM
  • генерация текста с визуальным контекстом
  • эксперименты с аблитерацией проекций языковой модели

Ограничения

Описанный в README Anemll DSpark vLLM serve работает только с текстом и не принимает изображения; для нативной обработки изображений нужен мультимодальный класс vLLM. Доступ к репозиторию требует согласия с RESPONSIBLE_USE.md, а лицензия обозначена как other.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

keys-DeepSeekV4Flash-Vision-EXP-ablit

Abliterated DeepSeek-V4-Flash-Vision-Exp. Public repo, gated with automatic approval after you agree to RESPONSIBLE_USE.md.

0731-style wo_b projection on L10–35 (λ=3.5, 26 tensors). L0–9, L36–42, MTP/DSpark draft, and the full vision tower stay stock.

HFhttps://huggingface.co/drowzeys/keys-DeepSeekV4Flash-Vision-EXP-ablit
Parentdeepseek-ai/DeepSeek-V4-Flash-Vision-Exp
0731 ancestor (same ablit idea)keys-DeepSeekV4-Flash-GA-0731-Dspark-Abliterated-Anchored-Tensors
AblitL10–35 attn.wo_b · λ=3.5 · mean Δrel ≈ 0.057 · MTP not edited
AnchorsL0–9 stock · L36–42 stock · vision / aligner / image markers stock
Layout48 shards, FP8 block-scale (quant_method=fp8), ~157 GiB
This fleet (text serve)TP2 · DSpark k=6 · ctx 262144 · util 0.835 · native VL skipped by vLLM (tensors still in the files)

See METHOD.md. Access is gated with automatic approval after you agree.


What was edited

Keys 0731 lesson: smash early layers or the in-checkpoint drafter and DSpark accept dies. Vision-Exp adds a vision tower on top of 0731 text. This dest:

  • does project residual wo_b on L10–35
  • does not edit MTP / DSpark draft tensors
  • does not touch vision.*, aligner.*, image markers, or ffn.gate.bias_vl

Artifacts: ABLIT_META.json.


Vision vs this vLLM serve

The weights include the Vision-Exp tower (~309 vision tensors). Current Anemll DSpark vLLM (DeepseekV4ForCausalLM) is text-only and skips those tensors at load, including on the DSpark drafter (shared checkpoint, no vision params). Sending an image to that serve returns is not a multimodal model.

Native pixels on this checkpoint need a multimodal vLLM class for DeepSeek-V4-Flash-Vision, not a different model (Aeon / Qwen3.8 Omni is a separate stack). The designed workaround on the DSpark recipe is an optional Qwen3-VL sidecar (ENABLE_VL_SIDECAR=1, :8889), which does not use this tower.


Download

# after you agree to the gate (automatic approval)
hf download drowzeys/keys-DeepSeekV4Flash-Vision-EXP-ablit \
  --local-dir ~/models/keys-DeepSeekV4Flash-Vision-EXP-ablit

GPU memory utilization ≤ 0.85.


License

Inherited from DeepSeek-V4-Flash-Vision-Exp. You must still comply with the Responsible Use gate above.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Доступ к модели ограничен автором; у платформы нет доступа к весам.

Ревизия весов
48095b3

0 моделей