Характеристики

Контекст: 131 072 токена
Параметры: 7,1 млрд
Размер весов: 15,2 ГБ
Архитектура: Dream · dense
Библиотека: transformers
Опубликована: 7 сен 2026

Ссылки

dream-7b-full-sft-mix60k-4pass

Генерация текстаТекст → текст6 профессий

Дообученная диффузионная модель Dream с register-токенами для генерации текста и продолжения рассуждений между фрагментами.

294скачиваний за 30 дней0лайковвеса обновлены17 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это диффузионная языковая модель Dream на 7,1 млрд параметров, дообученная с помощью register-токенов для рассуждений с ограниченным состоянием. Фиксированный набор register-токенов переносит состояние рассуждения между фрагментами генерации: текст предыдущих фрагментов можно очищать, сохраняя значения регистров, чтобы продолжать работу после сброса контекста. Модель предназначена для генерации текста и диалоговых сценариев; заявлен интерфейс вызова инструментов. Максимальная длина контекста по метаданным — 131 072 токена.

Модель построена на архитектуре Dream и распространяется в формате safetensors. В README указано, что примеры кода и инференса доступны в связанном GitHub-репозитории. Данные о языковой специализации, лицензии и известных проблемах качества в предоставленных материалах отсутствуют.

Сценарии применения

диалоговая генерация текста
продолжение рассуждений после сброса контекста
обработка длинных задач фрагментами с сохранением состояния
генерация текста с интерфейсом вызова инструментов

Ограничения

Языковая специализация и количественные оценки качества в предоставленных материалах не описаны. Работа с состоянием между фрагментами опирается на register-токены и заявленный механизм сброса контекста.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Register Tokens for Bounded-State Reasoning in Diffusion Language Models

This repository contains a diffusion language model post-trained with register tokens for bounded-state reasoning, as described in the paper Register Tokens for Bounded-State Reasoning in Diffusion Language Models.

The model is based on the Dream architecture and uses a fixed-size set of register tokens to carry reasoning state across generation chunks. Between chunks, the generated text can be cleared while preserving the register values, enabling bounded-state continuation after context resets.

Code and inference examples are available in the GitHub repository.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: DreamModel
Ревизия весов: ef21d60