/ Модель

Характеристики

Лицензия
MIT
Базовая модель
DeepSeek-V4-Flash-0731
Опубликована
4 авг 2026

DeepSeek-V4-Flash-0731-IQ2XXS-STRIX

Генерация текстаТекст → текст4 профессии

Квантованная GGUF-версия DeepSeek V4 Flash 0731 для генерации текста и диалогов на системах AMD Strix Halo.

144скачиваний за 30 дней2лайкавеса обновлены4 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DeepSeek-V4-Flash-0731-IQ2XXS-STRIX — это квантованная версия DeepSeek V4 Flash 0731 в формате GGUF, подготовленная для запуска на AMD Strix Halo с графической архитектурой gfx1151. Базовая модель — DeepSeek-V4-Flash-0731 от DeepSeek; репозиторий распространяется по лицензии MIT.

Модель предназначена для генерации текста и диалогового использования. Базовая архитектура — MoE-модель на 284 млрд параметров: 43 маршрутизируемых слоя, по 256 экспертов в каждом слое, из которых активны 6, а также гиперсвязи с четырьмя потоками. Квантование IQ2XXS снижает требования к памяти; размер файла составляет 86,72 ГБ. В README рекомендован специализированный движок julianmb/ds4fa и система Strix Halo с 128 ГБ памяти.

Модель поддерживает английский и китайский языки. Низкая разрядность квантования может снижать качество ответов по сравнению с исходными весами; для запуска требуются совместимое оборудование и специализированный runtime. Метаданные классифицируют репозиторий как производную от DeepSeek-V4-Flash-0731, хотя README описывает его как квантованную версию.

Сценарии применения

  • генерация ответов в диалоговом интерфейсе
  • локальный запуск большой языковой модели на AMD Strix Halo
  • создание и продолжение текстов на английском языке
  • создание и продолжение текстов на китайском языке

Ограничения

Для запуска README рекомендует специализированный движок и систему AMD Strix Halo с 128 ГБ памяти. Квантование IQ2XXS может снижать качество по сравнению с исходными весами.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DeepSeek-V4-Flash-0731-IQ2XXS-STRIX

Quantized DeepSeek V4 Flash (0731) GGUF for AMD Strix Halo (gfx1151).

Details

  • Base model: DeepSeek V4 Flash 0731 (284B MoE)
  • Quantization source: tekosML (DeepSeek-V4-Flash-0731-IQ2XXS-w2Q2K-AProjQ8-SExpQ8-OutQ8-imatrix)
  • File size: 86.72 GB
  • Architecture: 43 routed layers, 256 experts/layer (6 active), 4-stream hyper-connections

Quant Recipe

Tensor groupType
Attention projectionsQ8_0
Shared expertsQ8_0
Output headQ8_0
Token embeddingF16
Routed gate/up expertsIQ2_XXS
Routed down expertsQ2_K

Recommended Runtime

Run with the julianmb/ds4fa engine on 128 GB Strix Halo:

DS4_ROCM_STREAM_MODEL_CACHE_GB=48 ./ds4 -m DeepSeek-V4-Flash-0731-IQ2XXS-STRIX.gguf -c 512 \
  --ssd-streaming --ssd-streaming-cache-experts 32GB \
  -p "What is the capital of France?" --think --tokens 60

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
d0ee374

0 моделей