/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
508 млн
Лицензия
Apache 2.0
Архитектура
a2d-qwen3 · dense
Базовая модель
Qwen3-0.6B-diffusion-mdlm-v0.1
Библиотека
transformers
Опубликована
24 сен 2026

Shared-YesNo-Qwen3-0.6B-S1

Заполнение пропусковТекст → текст

Диффузионная языковая модель на базе Qwen3-0.6B для динамического выбора, бинарных решений и оценки вариантов через общий считыватель Yes/No.

12скачиваний за 30 дней0лайковвеса обновлены24 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SEU-ZZH выпустила Shared-YesNo-Qwen3-0.6B-S1 — дообученную полносвязную диффузионную языковую модель на базе dllm-hub/Qwen3-0.6B-diffusion-mdlm-v0.1. Модель использует общую маску Yes/No для динамического выбора, бинарных решений и упорядоченной оценки вариантов; она предназначена для специализированного считывания решений, а не для обычного чат-генерирования. В README описаны обучение на 40 000 примерах решений в течение трёх эпох и выпуск чекпойнта на шаге 1 300, выбранного по KL на dev-наборе.

Размер модели — 507,9 млн параметров, контекст — до 40 960 токенов; формат весов — BF16 Safetensors. Внешние результаты включают точность 52,25% на typed-decisions, 80,91% на AG News и 56,35% на Emotion. Модель основана на Qwen3 и реализации MDLM. Для работы нужны AutoModelForMaskedLM, доверенная загрузка кода и специальный механизм Shared Yes/No; обычный интерфейс генерации диалога не предназначен для этого метода.

README указывает, что репозиторий модели приватный. Для указанной версии базовой модели заявлена лицензия Apache-2.0; эта лицензия не распространяет условия на обучающие данные.

Сценарии применения

  • бинарная классификация новостных текстов
  • определение эмоции в тексте
  • бинарный выбор между предложенными вариантами
  • упорядоченная оценка вариантов
  • оценка решений по полному набору кандидатов

Ограничения

Для применения требуется специальный Shared Yes/No механизм и поддержка доверенного кода; обычный чат-интерфейс генерации не подходит. В опубликованных тестах точность на typed-decisions составила 52,25%, а README не приводит полную таблицу результатов.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Shared Yes/No Qwen3-0.6B — S1

通过共享 Yes/No mask 读出进行动态选择、二元判断和有序评分的完整 BF16 模型。

  • 原始模型:dllm-hub/Qwen3-0.6B-diffusion-mdlm-v0.1,revision c8d24a3f4adaeef46881b450e1bf7d1005203bd7。
  • 训练数据:S1,40,000 条决策;从原始 MDLM base 全参数训练三轮,不是从 S0 续训。
  • 发布 checkpoint:step 1,300,按原 S0 开发集 mean KL 选中;dev KL 0.26017。它不是 epoch 1 结束时的 step 1,250,也不是 epoch 2 结束时的 step 2,500。
  • 权重、模型代码和 tokenizer 保持原 checkpoint 内容,不是 LoRA,也不是量化模型。

使用

hf download SEU-ZZH/Shared-YesNo-Qwen3-0.6B-S1 \
  --local-dir ./models/shared-yesno-s1

按代码仓库 README准备环境和数据,将评测命令的 --model-path 指向上述目录。使用 AutoModelForMaskedLM、trust_remote_code=True 和项目的 Shared Yes/No 读出,而不是普通聊天生成接口。原模型代码的演示导入需要代码仓库提供的 support/dllm_stub 兼容路径。

完整外部评测

同一冻结测试集,BF16、温度 1、batch 1、完整候选输入:

测试集Accuracy
typed-decisions52.25%
AG News80.91%
Emotion56.35%
Banking7760.49%
Prompt Injection70.69%
SST542.58%

代码、训练/测试数据和实验说明见项目仓库。模型基于 Qwen3 与 dLLM 的 MDLM 实现,保留上游归属;上游指定 revision 的模型卡声明 Apache-2.0。该声明不重新许可训练数据。当前发布为私有仓库。

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · fill-mask

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
A2DQwen3LMHeadModel
Ревизия весов
1f1c29f

0 моделей