II.10Разработка и эксплуатация AI/ML-систем

xRouter — инструкционная языковая модель Salesforce AI Research для маршрутизации запросов между большими языковыми моделями с учётом стоимости и качества. Она обучена с помощью обучения с подкреплением и выбирает модели из набора более чем 20 вариантов, направляя простые запросы к более экономичным моделям, а сложные — к более мощным. Модель также может координировать несколько вызовов и выбирать лучший ответ. В основе лежит Qwen/Qwen2.5-7B-Instruct; в метаданных архитектура указана как Qwen2, плотная причинная языковая модель на 7,1 млрд параметров. Контекст составляет 32 768 токенов. Для взаимодействия с внешними моделями используются вызовы инструментов; сама модель принимает текстовые запросы и формирует текстовые решения о маршрутизации и ответы. В README заявлено снижение расходов до 60% при сопоставимом качестве, оценённое на 17 тестах для математики, программирования, рассуждений и задач вне обучающего распределения. Практическое применение предполагает наличие доступа к маршрутизируемым моделям и их API. Модель выпущена под лицензией CC BY-NC 4.0, которая допускает использование с указанием авторства, но ограничивает коммерческое применение.

AEON-7 разработала AEON DFlash — черновую модель для ускорения генерации методом спекулятивного декодирования DFlash с целевой моделью Qwen3.6-35B-A3B и её производными, включая Ornith-1.0-35B-AEON-Ultimate. Это компактная модель примерно на 886 млн параметров, построенная на архитектуре Qwen3 и содержащая восемь слоёв полного внимания без скользящего окна. Она использует скрытые состояния целевой модели на слоях 1, 10, 19, 28 и 37. Модель предназначена для ускорения авторегрессионной генерации в совместимых развёртываниях vLLM, в частности на DGX Spark с GB10. В описанном тесте на Ornith NVFP4 указана скорость около 1,9 раза выше обычного декодирования; целевая модель проверяет каждый предложенный токен, поэтому результат декодирования остаётся точным. README сообщает о совместимости со штатным образом AEON vLLM без патча для размера KV-страниц. Лицензия — MIT. Это специализированный компонент для спекулятивного декодирования, а не самостоятельная модель для диалога или генерации ответов. Для DFlash на DGX Spark README рекомендует ограничить max-num-seqs значением 16 из-за ограничений унифицированной памяти; заявленные показатели производительности относятся к конкретной конфигурации тестирования.

Auto-ATT — модель оценки реалистичности синтезированной речи, разработанная авторами проекта Audio Turing Test. Она дообучена с помощью LoRA на Qwen2-Audio-7B-Instruct и предназначена для массовой оценки аудиозаписей в рамках стандартизированного Audio Turing Test. Модель принимает аудио и выдаёт оценку, позволяя сравнивать системы синтеза речи без ручного прослушивания каждой записи. Auto-ATT использует архитектуру Qwen2-Audio и обучалась на данных Audio Turing Test, включая дополнительные закрытые оценочные данные. Репозиторий распространяется в формате safetensors; лицензия — Apache-2.0. Модель рассчитана на оценивание аудио, а не на синтез речи или распознавание текста как самостоятельную задачу.

Auto-Reason-3b — дообученная языковая модель ProCreations для оценки безопасности предложенных агентом вызовов инструментов. Она формирует краткое текстовое обоснование, а затем выдаёт метку approve или deny. Модель построена на плотной архитектуре SmolLM3 с 3,1 млрд параметров и контекстом до 65 536 токенов; обучающее продолжение охватывало последовательности до 8 192 токенов. При использовании нужно сохранять заданные заголовки разделов и передавать запрос пользователя, историю действий и полные аргументы вызова. На опубликованном тесте модель показала точность 96,40% и соблюдала формат в 99,67% ответов; исходная модель-классификатор auto-3b на этом тесте достигла 98,03%. Поэтому текстовое обоснование не гарантирует более точного решения. В README также отмечены ошибки и противоречия в обоснованиях, снижение качества на длинных входах и отсутствие доступа к скрытым файлам, реальным разрешениям и будущему поведению сети. Синтетические данные и оценки отражают соответствие заданной политике, а не подтверждают безопасность в реальном применении. Лицензия — Apache-2.0.

BananaMind V2.5 Content Safety — текстовая модель классификации безопасности контента от Banaxi-Tech, дообученная на основе google/gemma-4-E2B-it на примерах из набора NVIDIA Nemotron 3.5 Content Safety. Она определяет, является ли входной текст безопасным или небезопасным, и для небезопасного текста указывает нарушенные категории. Модель предназначена для классификации запросов и ответов, разметки данных и помощи в проверке контента.

BEiT Large Patch16-224 — предварительно обученная модель зрения Microsoft на базе Vision Transformer с трансформерным энкодером, похожим на BERT. Модель содержит 411 млн параметров и была обучена без учителя на ImageNet-21k (ImageNet-22k), включающем около 14 млн изображений и 21 841 класс. При предобучении модель восстанавливает визуальные токены для скрытых фрагментов изображения. Модель предназначена для классификации изображений и получения признаков, которые можно использовать в последующих задачах компьютерного зрения. Она принимает RGB-изображения, разбивает их на патчи 16×16 и рассчитана на разрешение 224×224 пикселя. Относительные позиционные эмбеддинги и предобучение на большом наборе изображений помогают сформировать полезные представления для адаптации к новым размеченным данным. Для специализированной классификации на целевых классах может потребоваться дообучение или отдельный классификационный слой; более высокое разрешение при дообучении может улучшить результаты. Модель распространяется по лицензии Apache-2.0.

bekko-embedding-v1-a8m-pt — предварительно обученная плотная модель эмбеддингов от hotchpotch на архитектуре mmBERT в стиле ModernBERT: 4 слоя и размер скрытого представления 384. Она основана на hotchpotch/mmBERT-L4H384-pruned, использует многоязычные текстовые пары, обучение Matryoshka и обучение с учётом квантования; контекст — до 8192 токенов, размер — 106 млн параметров. Модель предназначена как отправная точка для дополнительного обучения под конкретную задачу: поиск по сходству, классификацию, ранжирование или другой прикладной сценарий, а также для воспроизведения и адаптации конвейера обучения bekko. Она не прошла финальную supervised-настройку для поиска и не предназначена для непосредственного использования как универсальная модель эмбеддингов или поиска. Лицензия — MIT.

BERT-Tiny_L-2_H-128_A-2 — компактная модель семейства BERT, опубликованная nreimers. В карточке она описана как модель Google с 2 слоями, размером скрытого представления 128 и 2 головами внимания; метаданные указывают 4,4 млн параметров и архитектуру BertModel. Модель предназначена для извлечения признаковых представлений текста и может использоваться как основа для задач, которым нужны векторные представления последовательностей. Максимальная длина контекста — 512 токенов. Доступны веса PyTorch и Flax. Карточка не сообщает о специальной предметной области, языковой специализации или ограничениях качества. Лицензия в предоставленных данных не указана.

Bielik Guard-0.1B-v1.1 — польский классификатор безопасности текстов, разработанный сообществом Bielik.AI под эгидой некоммерческой организации SpeakLeash. Это дообученный энкодер RoBERTa sdadas/mmlw-roberta-base размером 124 млн параметров. Модель выполняет многометочную классификацию и выдаёт оценки вероятности для пяти категорий: ненависть и агрессия, вульгарная лексика, сексуальный контент, преступления и самоповреждение. Модель предназначена для проверки пользовательских запросов и ответов, модерации контента и защиты чат-ботов и ассистентов. Версия 1.1 использует улучшенную калибровку порогов, направленную на повышение точности и снижение ложных срабатываний. Обучение учитывало долю оценок разметчиков для каждой категории, а не только бинарные метки. Модель рассчитана на польский язык. Она не предназначена для выявления дезинформации, попыток обхода защит или нарушений авторских прав; качество может снижаться на нестандартных и новых типах контента, а обучающие данные могут содержать смещения. Лицензия — Apache-2.0.

BPO (Black-Box Prompt Optimization) — модель-оптимизатор запросов, разработанная исследовательской группой THUDM/Zhipu AI. Она переписывает пользовательский промпт так, чтобы другая большая языковая модель с большей вероятностью дала полезный и безопасный ответ. Подход не требует дообучать целевую модель и подходит для работы с открытыми моделями и API-моделями. Оптимизатор построен на архитектуре Llama и имеет 6,6 млрд параметров; в README указана базовая модель Llama-2-7b-chat-hf. Репозиторий содержит веса PyTorch, модель принимает и генерирует текст, рассчитана на английский язык и имеет контекст длиной 4096 токенов. В приведённых авторами сравнениях добавление BPO улучшало предпочтения ответов нескольких целевых моделей. Модель обучена на примерно 14 тысячах пар оптимизированных промптов, поэтому может работать хуже на запросах, не охваченных данными. Авторы отдельно отмечают слабые стороны на длинном контексте и математических задачах. Информация о лицензии в предоставленных данных отсутствует.

Это модель классификации изображений на базе ConvNeXt Large с MLP-головой, представленная в библиотеке timm. Веса визуального энкодера CLIP предварительно обучены в OpenCLIP на LAION-2B, затем модель дообучена на ImageNet-12k и ImageNet-1k; автор карточки — Ross Wightman. Модель содержит около 200,1 млн параметров и рассчитана на изображения размером 320 × 320 пикселей. Модель предназначена для классификации изображений, а также может использоваться как визуальный бэкбон для извлечения карт признаков и эмбеддингов. В README приведены показатели ImageNet-1k: top-1 — 88,6%, top-5 — 98,7%. Репозиторий содержит веса PyTorch и safetensors и распространяется по лицензии Apache-2.0.

L0 Bouncer Full — англоязычный классификатор безопасности текста на архитектуре DeBERTa-v3-xsmall, разработанный автором репозитория vincentoh и дообученный на датасете GuardReasoner. Модель выполняет бинарную классификацию входного текста: безопасный или потенциально вредоносный. Она задумана как быстрый первый уровень каскада модерации, который проверяет большой поток запросов и передаёт часть из них на более глубокий анализ. В README для варианта Full указаны 124 тысячи обучающих примеров, более 10 тысяч шагов обучения, F1 95,2%, полнота 97% и точность 93,5%; заявленная задержка составляет около 5,7 мс на вход. Метаданные указывают 77,5 млн параметров, контекст до 512 токенов и формат safetensors. README приводит другое число параметров — 22 млн, поэтому размер модели в источниках расходится. Модель принимает и классифицирует текст на английском языке. Её высокая полнота подходит для первичного выявления потенциально вредного содержимого, однако README не описывает категории вреда и методику оценки метрик, а показатели не гарантируют качество на новых типах данных. Лицензия — MIT.

facebook/deit-tiny-patch16-224 — компактная модель Data-efficient Image Transformer (DeiT), представленная авторами DeiT и опубликованная на Hugging Face; веса конвертированы из репозитория timm. Это Vision Transformer с примерно 7,1 млн параметров, дообученный для классификации изображений ImageNet-1k на разрешении 224×224 пикселя. Модель разбивает изображение на патчи 16×16 и обрабатывает их трансформерным энкодером. Модель предназначена для отнесения изображений к одному из 1 000 классов ImageNet, а также может служить визуальным энкодером для последующего обучения классификатора на размеченных данных. Для инференса изображения масштабируются, центрально обрезаются до 224×224 и нормализуются по статистикам ImageNet. В отчёте указаны точности 72,2% top-1 и 91,1% top-5 на ImageNet. Модель принимает изображения и выдаёт оценки классов. Для тонкой настройки наилучшие результаты могут требовать разрешения 384×384; увеличение размера модели обычно повышает качество. Лицензия репозитория — Apache-2.0.

DenseNet169 — сверточная модель для классификации изображений и извлечения признаков, опубликованная в библиотеке timm. Модель содержит около 14,1 млн параметров, использует архитектуру DenseNet с плотными связями между слоями и обучена на ImageNet-1k. Для классификации рассчитана на изображения размером 224 × 224 пикселя; вычислительная сложность составляет около 3,4 GMACs. Модель подходит для отнесения изображений к категориям ImageNet-1k, получения карт признаков и векторных представлений изображений. Её можно использовать как визуальный backbone в прикладных системах компьютерного зрения. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — Apache-2.0.

EAGLE-3 — черновая модель Nebius для ускорения генерации текста базовой моделью gpt-oss-120b методом speculative decoding. Она предлагает несколько токенов-кандидатов, которые основная модель проверяет; обучение с нуля по LK losses нацелено на повышение доли принимаемых токенов. В карточке приведены средние значения длины принятой последовательности на MT-Bench, HumanEval и GSM8K: 2,81 токена при температуре 0 и 2,65 при температуре 1 при K=7. Модель содержит 697,3 млн параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Контекст — до 131 072 токенов. Она предназначена для подключения к gpt-oss-120b через vLLM с методом eagle3; сама по себе не заменяет основную модель и не является универсальной разговорной моделью. Лицензия — CC BY 4.0.

EfficientNet-B2 — сверточная модель классификации изображений из семейства EfficientNet, опубликованная проектом timm. Модель обучена на ImageNet-1k с рецептом RandAugment и может использоваться как классификатор или как основа для извлечения признаков и эмбеддингов изображений. В модели около 9,1 млн параметров и вычислительная сложность около 0,9 GMACs. Для обучения использовались изображения размером 256 × 256, для оценки — 288 × 288. Репозиторий предоставляет веса PyTorch и SafeTensors; библиотека для работы с моделью — timm. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий. Модель предназначена для классификации изображений общего назначения и извлечения визуальных признаков. Её категории обучения ограничены набором ImageNet-1k, поэтому точность на специализированных или существенно отличающихся от ImageNet данных может быть ниже; для таких сценариев может потребоваться адаптация.

timm/efficientnet_b3_pruned.in1k — модель классификации изображений на основе EfficientNet-B3, опубликованная проектом timm. Веса EfficientNet сокращены методом knapsack pruning; модель обучена на ImageNet-1k и предназначена для отнесения изображений к категориям, извлечения признаков и получения эмбеддингов изображений. Модель содержит 9,9 млн параметров, требует изображения размером 300 × 300 пикселей и имеет вычислительную сложность около 1,0 GMAC. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — Apache-2.0. Карточка также ссылается на работы EfficientNet и Knapsack Pruning with Inner Distillation.

EfficientNet-B4 — сверточная модель классификации изображений из библиотеки timm, обученная на ImageNet-1k по рецепту RandAugment RA2. Модель содержит 19,3 млн параметров; при обучении использовался размер изображения 320×320, при проверке — 384×384. Также её можно применять как основу для извлечения карт признаков и эмбеддингов изображений. Модель предназначена для отнесения изображения к одному из классов ImageNet-1k и для получения визуальных признаков в задачах компьютерного зрения. В карточке описаны RMSProp с поведением TensorFlow 1.0, усреднение весов EMA и ступенчатое экспоненциальное снижение скорости обучения с разогревом. Распространяется по лицензии Apache-2.0.

AdamCodd/ettin-safety-filter-stable-diffusion — англоязычный классификатор текстовых запросов для выявления NSFW-содержимого в промптах Stable Diffusion и других конвейеров генерации изображений по тексту. Модель дообучена на энкодере jhu-clsp/ettin-encoder-68m семейства Ettin/ModernBERT; содержит около 68 млн параметров и поддерживает контекст до 8192 токенов. Доступны форматы ONNX и safetensors. Модель предназначена для модерации промптов, включая длинные запросы с нежелательными словами ближе к концу, и может использоваться для фильтрации перед генерацией изображений. В карточке приведены результаты проверки на отложенной выборке из 100 тысяч примеров: ROC-AUC 0,9823, accuracy 0,9317 и F1 0,9308. Для целевой полноты 99% авторы указывают порог 0,0487 и точность 74,8%; это компромисс с заметной долей ложных срабатываний, поэтому порог следует оценивать на данных конкретного применения. Лицензия CC-BY-NC-ND-4.0 ограничивает коммерческое использование и распространение производных версий; для коммерческого применения автор предлагает отдельно запросить права или доступ к API.

fbnetv3d.ra2in1k — модель классификации изображений семейства FBNet-v3, разработанная для библиотеки timm. Она обучена на ImageNet-1k с рецептом RandAugment RA2, оптимизатором RMSProp, усреднением весов EMA и ступенчатым расписанием скорости обучения. Модель содержит 10,3 млн параметров и требует около 0,5 GMACs; размер изображения при обучении — 224 × 224 пикселя, при тестировании — 256 × 256. Модель предназначена для классификации изображений по классам ImageNet-1k. Её также можно использовать как основу для извлечения карт признаков и эмбеддингов изображений. Веса доступны в форматах PyTorch и safetensors; лицензия — Apache-2.0.

RishuD7/finetune_base_bge_pretrained_v4 — модель на основе архитектуры BERT от пользователя Hugging Face RishuD7. Она предназначена для извлечения признаков из текста, в частности получения контекстных векторных представлений, пригодных для последующей обработки или поиска. В метаданных указаны 136,7 млн параметров, контекст до 512 токенов и формат PyTorch. Карточка Hugging Face не содержит описания обучения, рекомендуемых сценариев, языков или лицензии. Поэтому нельзя подтвердить, на каких данных и для каких языков модель дообучена; название репозитория само по себе не устанавливает базовую модель или лицензионные условия.

Flex‑Omni‑7B — мультимодальная модель-оценщик, разработанная авторами Flex‑Judge на базе Qwen/Qwen2.5‑Omni‑7B. Она предназначена для оценки результатов моделей в задачах с текстом, изображениями и аудио, включая оценивание качества речи и MOS. Подход использует текстовое рассуждение для переноса навыка оценки между модальностями и форматами без большого объёма специализированных размеченных данных. Модель относится к семейству Qwen2.5-Omni и имеет архитектуру Qwen2_5OmniForConditionalGeneration; веса доступны в формате safetensors. В README указано 11 млрд параметров. Метаданные обозначают основную задачу как text-to-audio, а возможности включают аудиовход и чат. Модель основана на Qwen2.5-Omni-7B, которая поддерживает работу с текстом, изображениями, аудио и видео и может выдавать текстовые и речевые ответы. Flex‑Omni‑7B предназначена прежде всего для автоматизированного мультимодального оценивания, а не для универсальной генерации контента. В README авторы сообщают о результатах на аудиобенчмарках MOS и оценки речи, но карточка не приводит подробных инструкций по использованию или условий лицензии. Базовая модель — дообучение Qwen/Qwen2.5-Omni-7B; веса в репозитории опубликованы в safetensors.

gemma-4-31B-it-DFlash — вспомогательная модель-черновик DFlash для ускорения генерации текста базовой моделью google/gemma-4-31B-it. Она использует блочную диффузию, чтобы предлагать несколько токенов параллельно в рамках спекулятивного декодирования; для работы её необходимо подключить к указанной базовой модели. В метаданных указаны плотная архитектура семейства Qwen3, класс DFlashDraftModel, размер 2,6 млрд параметров и контекст 262 144 токена. Модель рассчитана на интеграцию с Transformers и серверными движками vLLM или SGLang; README приводит результаты бенчмарков с ускорением до 5,8 раза при concurrency 1 на одном GPU NVIDIA B300, что зависит от сценария и конфигурации. Это не самостоятельная чат-модель: её назначение — ускорять вывод Gemma 4 31B Instruct посредством спекулятивного декодирования. README указывает лицензию Apache-2.0. Для vLLM на момент карточки требовалась сборка из pull request с поддержкой Gemma 4 DFlash; приведённые измерения производительности не гарантируют такого же ускорения на другом оборудовании или нагрузке.

Это конвертированная в формат MLX вспомогательная модель-драфтер Gemma 4 E4B от Google, подготовленная сообществом mlx-community. Она предназначена для ускорения генерации текста методом speculative decoding: компактный четырёхслойный помощник предлагает несколько следующих токенов, а целевая модель Gemma 4 проверяет их за один проход. Модель используется в паре с целевой Gemma 4 через библиотеку MLX и поддерживает пакетную и одиночную генерацию. При температуре 0 результат побайтно совпадает с генерацией без драфтера. Для одиночных запросов рекомендуется размер блока черновых токенов 6, для пакетной генерации — 3. Модель не предназначена для самостоятельной генерации без целевой модели; производительность зависит от совместимой целевой модели и настроек. Лицензия — Gemma.

GhostNet 1.0 — компактная сверточная модель классификации изображений из семейства GhostNet, опубликованная авторами соответствующей работы и обученная на ImageNet-1k. Версия timm/ghostnet_100.in1k содержит около 5,2 млн параметров и рассчитана на изображения размером 224 × 224 пикселя; для запуска используются PyTorch и библиотека timm, веса доступны в форматах PyTorch и Safetensors. Модель определяет классы объектов на изображениях и может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. Компактный размер и низкая вычислительная стоимость делают её подходящей для классификации изображений в приложениях с ограниченными ресурсами. Она ориентирована на категории ImageNet-1k, поэтому качество на других наборах данных и специализированных классах может быть ниже без адаптации. Лицензия — Apache 2.0.

Это вспомогательная модель DSpark от mgoin для ускорения генерации zai-org/GLM-5.2-FP8 методом speculative decoding. Она предсказывает блоки токенов-кандидатов, которые проверяет базовая модель, чтобы уменьшить задержку вывода при сохранении генерации базовой модели. Архитектура включает пятислойную черновую сеть на основе DFlash, Markov logit-bias head для зависимостей между токенами внутри блока и head для оценки вероятности принятия токенов. Размер блока — 8 токенов, используется полный словарь из 154 880 токенов; веса сохранены в Safetensors. Модель предназначена для ускорения инференса GLM-5.2 в совместимом сценарии чата и генерации текста. Валидация после третьей эпохи показала среднюю длину принятого блока 3,967 токена и среднюю долю принятия 0,584 на отложенной выборке. Для работы требуется базовая модель zai-org/GLM-5.2-FP8 и поддержка DSpark speculative decoding в используемом движке; карточка отмечает, что поддержка в vLLM внедряется. Лицензия — MIT.

GLM-5.3-DSpark — черновая модель ускорения генерации для GLM-5.3, опубликованная AlayaNeW. Это не самостоятельная языковая модель: её нужно запускать вместе с целевой GLM-5.3 или GLM-5.3-FP8 в SGLang либо vLLM с поддержкой DSpark. Модель использует алгоритм DSpark с параллельным черновым блоком, Markov head и confidence head; архитектура — Qwen3DSparkModel, плотная сеть на 2,6 млрд параметров с пятью слоями черновой модели. Модель предназначена для спекулятивного декодирования, которое может повысить скорость генерации текста, в том числе кода и ответов на запросы. В README приведены результаты на тестах с разными длинами контекста и категориями задач; они получены на конфигурации из восьми NVIDIA H200 и не гарантируют аналогичную производительность в других условиях. Метаданные указывают контекст до 1 048 576 токенов и языки zh и en. Для работы требуются актуальная версия SGLang или vLLM с нативной поддержкой DSpark; черновая модель рассчитана только на GLM-5.3. Лицензия — MIT.

GLM-5.3-Flash-DFlash — черновая модель DFlash от Modal Labs для ускорения генерации с помощью спекулятивного декодирования. Это не самостоятельная языковая модель: её используют вместе с целевой моделью zai-org/GLM-5.3-Flash в совместимом сервере, например SGLang с поддержкой DFlash для GLM-5.3-Flash. Модель на архитектуре DFlash2DraftModel имеет 1,8 млрд параметров и принимает текст, предлагая блоки токенов параллельно. Целевая модель проверяет предложения, сохраняя своё распределение выходов; задача черновой модели — увеличить пропускную способность обслуживания. В метаданных указано контекстное окно 1 048 576 токенов, однако для использования требуется целевая модель и сервер с необходимыми DFlash capture hooks. Модель распространяется по лицензии MIT.

Карточка модели manateelazycat/GLM-5.3-Flash-DFlash2 на Hugging Face совпадает с карточкой incoai/GLM-5.3-Flash-DFlash2, поэтому описание составлено по ней. GLM-5.3-Flash-DFlash2 — черновая модель DFlash 2 на 1,6 млрд параметров для ускорения генерации текста базовой GLM-5.3-Flash. Это не самостоятельная языковая модель: она работает внутри сервера спекулятивного декодирования вместе с целевой моделью zai-org/GLM-5.3-Flash, которая проверяет предложенные токены. В метаданных указаны архитектура семейства Qwen3, класс DFlash2DraftModel и формат safetensors. Модель за один проход предсказывает блок токенов и сохраняет несколько кандидатов для каждой позиции; лёгкий селектор строит из них согласованную последовательность. По README, двухтактные динамические свёртки помогают сохранять качество предсказаний в конце блока. Декодирование заявлено как без потерь: жадный вывод совпадает с выводом целевой модели, а при сэмплировании сохраняется её распределение. Контекст базовой модели указан в метаданных как 1 048 576 токенов; это характеристика базовой модели, а не самостоятельный контекстный режим черновой модели. Модель предназначена для интеграции со SGLang и спекулятивного декодирования GLM-5.3-Flash. Контрольная точка опубликована 27 августа 2026 года; результаты бенчмарков, согласно README, ещё перепроверяются. Лицензия CC BY-NC-ND 4.0 ограничивает использование и распространение производной версии; перед внедрением следует проверить её условия и совместимость с лицензией базовой модели.

GLM-5.3-NVFP4-DFlash — черновая модель DFlash, разработанная Modal Labs для ускорения генерации целевой модели modal-labs/GLM-5.3-NVFP4. Это не самостоятельная языковая модель: её используют вместе с целевой моделью в сервере спекулятивного декодирования. Лёгкая черновая модель на основе блочной диффузии параллельно предлагает несколько токенов, которые целевая модель проверяет; такой подход повышает пропускную способность обслуживания, сохраняя распределение выходов целевой модели. Модель содержит 2,8 млрд параметров, использует архитектуру Qwen3 с классом DFlash2DraftModel и распространяется в формате safetensors. Метаданные указывают контекстное окно 1 048 576 токенов для модели; фактическое применение этой черновой модели требует совместимого сервера и целевой GLM-5.3-NVFP4. В README рекомендован SGLang версии 0.5.19 или новее. Лицензия указана как other, поэтому конкретные условия следует проверять в карточке репозитория.