Характеристики

Лицензия: Apache 2.0
Базовая модель: DeepSeek-V4-Flash
Опубликована: 5 авг 2026

Ссылки

deepseek-v4-flash-fast-GGUF

Генерация текстаТекст → текст4 профессии

Низкобитная GGUF-сборка DeepSeek-V4-Flash для локальных агентных задач с вызовом инструментов, программирования и администрирования.

70скачиваний за 30 дней1лайквеса обновлены6 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DeepSeek-V4-Flash-Fast — пользовательская сборка агента rafw007 на основе DeepSeek-V4-Flash, опубликованная в формате GGUF с низкой битностью квантования. Архитектура унаследована от базовой модели; заявлены MoE и около 285 млрд параметров всего, из которых активно около 20 млрд. Поведение агента настроено промптами и конфигурацией, без обучения с нуля.

Модель предназначена для агентных сценариев с внешним инструментальным контуром: она получает результаты реального выполнения команд и помогает решать задачи администрирования, анализа системы и программирования. Автор сообщает о проверках с opencode, pi coding agent и claude code, включая сетевое сканирование, инвентаризацию Linux-сервера и создание простых HTML5-приложений. Для запуска указаны llama-server и llama-swap; целевой сценарий — локальная работа на менее мощном оборудовании, для которой автор оценивает потребность примерно в 96 ГБ объединённой памяти.

Репозиторий распространяется по лицензии Apache-2.0. В карточке указаны английский и польский языки, но широкая языковая поддержка отдельно не описана. Низкая битность может ограничивать точность ответов и надёжность сложных агентных задач; результаты зависят также от используемого harness и конфигурации инструментов.

Сценарии применения

локальный запуск coding-агента на компьютере с ограниченными ресурсами
выполнение команд оболочки и интерпретация их результатов
инвентаризация ресурсов Linux-сервера
анализ результатов сетевого сканирования
создание небольших HTML5-приложений с помощью агента

Ограничения

Заявленная квантованная сборка имеет низкую битность, что может снижать точность и надёжность по сравнению с исходными весами. Для работы агента требуются внешний harness и настройка инструментов; оценка примерно в 96 ГБ объединённой памяти относится к описанной автором конфигурации.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.7Разработка и данныеDevOps, облако и эксплуатация IT-системAI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру.20 задач7 196моделей II.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DeepSeek-V4-Flash-Fast

DeepSeek-V4-Flash-Fast is a custom agent build based on DeepSeek-V4-Flash (Open Weights, Apache-2.0, MoE, ~285B total / ~20B active). Weights in low-bit quantization for fully CPU-only deployment:

GGUF: DeepSeek-V4-Flash-IQ2XXS-w2Q2K-AProjQ8-SExpQ8-OutQ8-chat-v2-imatrix.gguf

Not trained from scratch — architecture is 100% DeepSeek-V4-Flash. Agent behaviour is prompt engineering + configuration.

Agent config origin

Tuned with only two models:

Fable5 — stable, timely tool calls, "DO tasks" style.
DeepSeek-V4 — iterating agent loop/config against a real coding agent.

The base system prompt was tuned for the DeepSeek Fast model.

Purpose — agentic tasks (harness)

A native backend that executes real shell commands and answers only from real tool output.

Build goal: a model for weaker machines — to work normally on a 285B model, only ~96 GB of unified memory is required. A big model runs on high-end Mac/RTX-class hardware without costly, dedicated GPU packs.

Prefill focus: agent harness imposes a large prefill. Work focused on increasing prefill throughput (prompt tokens/s).

Testing harnesses

opencode
pi coding agent
claude code

Test machine: GMKtec EVO (x86).

Typical tasks (all passed — real results, no hallucination)

Network scan nmap + interpretation.
Disk usage (df/du) — real numbers.
Remote Linux server inventory — CPU/RAM/disk/OS.
HTML5 Tetris — full working game.
HTML5 solar system — animated orbits.

Runtime params (llama-server / llama-swap)

-t 16 -tb 16 -b 16384 -ub 16384 -c 131072 (128K)
--temp 0.2, --top-p 0.95, --top-k 40, --repeat-penalty 1.15, --presence-penalty 1.0, --reasoning off
--jinja --chat-template-file

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

Не найден файл GGUF для запуска.

Ревизия весов: f426ba4