Экспериментальная диффузионная языковая модель Dream с токенами-регистрами для переноса состояния рассуждения между фрагментами генерации.
294скачиваний за 30 дней0лайковвеса обновлены17 сен 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
albertge/dream-7b-dllm-memory-tokens-mix60k-recon-w005 — экспериментальная диффузионная языковая модель на архитектуре Dream с 7,1 млрд параметров. Она реализует подход Register Tokens for Bounded-State Reasoning in Diffusion Language Models: фиксированный набор непрерывных токенов-регистров переносит состояние рассуждения между фрагментами генерации после сброса контекста.
Модель предназначена для генерации текста и диалоговых сценариев, где рассуждение должно продолжаться между несколькими фрагментами с ограниченным состоянием. В метаданных указан контекст 131 072 токена; репозиторий содержит веса safetensors и интерфейс вызова инструментов. Карточка ссылается на исследовательский подход, но не сообщает результаты оценки качества и условия лицензии. Для загрузки требуется trust_remote_code=True.
Сценарии применения
генерация текста с продолжением рассуждения между фрагментами
диалоговая генерация с переносом состояния после сброса контекста
эксперименты с ограниченным по размеру состоянием рассуждения
оценка метода Register Tokens для диффузионных языковых моделей
Ограничения
Качество модели и результаты оценки в карточке не приведены; для загрузки требуется trust_remote_code=True. Условия лицензии в предоставленных данных не указаны.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Register Tokens for Bounded-State Reasoning in Diffusion Language Models
This model implements the approach from the paper Register Tokens for Bounded-State Reasoning in Diffusion Language Models. It is a diffusion language model that uses a fixed-size continuous state (register tokens) to carry reasoning state across context resets, enabling bounded-state reasoning over multiple generation chunks.