/ Модель

Характеристики

Контекст
262 144 токена
Параметры
3,7 млрд
Размер весов
8 ГБ
Архитектура
qwen3 · dense
Базовая модель
summary-sft-qwen3-4b
Библиотека
transformers
Опубликована
17 авг 2026

comem-qwen3-4b-regret-gate

Генерация текстаТекст → текст3 профессии

Экспериментальная модель Qwen3 на 3,7 млрд параметров для свёртывания контекста и выбора между сохранением истории и её суммированием в задачах программирования.

28скачиваний за 30 дней0лайковвеса обновлены17 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

CoMem Qwen3-4B Regret-Gate Manager — экспериментальная модель на архитектуре Qwen3, разработанная для управления контекстом в задачах программирования. Она объединяет генератор сводок и селектор KEEP/SUM: генератор обучен создавать сводки с помощью GRPO, учитывая сохранение следующего действия по данным DeepSWE и ограничения длины контекста; селектор выбирает, оставить ли контекст или заменить его сводкой. Модель основана на YWBrandon/summary-sft-qwen3-4b, содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов.

Модель предназначена для экспериментов по управлению контекстом в SWE-bench и сценариях, где нужно сжимать историю взаимодействия, сохраняя информацию для следующего шага. Контрольный сигнал KEEP/SUM рассчитан на сравнение логитов этих двух вариантов или декодирование с ограничением; при свободной генерации одного токена модель может выдать третий токен. Полная проверка на SWE-bench Verified ещё не проведена. Лицензия в предоставленных данных не указана.

Сценарии применения

  • сжатие истории взаимодействия при решении задач программирования
  • генерация сводки контекста с сохранением информации для следующего действия
  • выбор между сохранением контекста и заменой его сводкой
  • эксперименты с управлением контекстом для SWE-bench

Ограничения

При свободной генерации одного токена селектор может выдать значение, отличное от KEEP или SUM; для оценки следует сравнивать логиты этих вариантов или применять ограниченное декодирование. Полная проверка на SWE-bench Verified не проводилась.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

CoMem Qwen3-4B Regret-Gate Manager

This is the merged, directly loadable checkpoint from the 310-trajectory regret-weighted CoMem manager experiment.

The model starts from YWZBrandon/summary-sft-qwen3-4b. Summary generation is trained with GRPO using DeepSWE next-action preservation and bounded context length advantages. The KEEP/SUM selector is trained with regret-weighted soft targets and action-balanced replay. Above the 8,192-token budget, training uses eight summaries; at or below budget it uses one virtual KEEP reference and seven summaries.

Experimental caveat

The current one-token, unrestricted text-generation gate evaluation can emit a third token instead of the KEEP or SUM verbalizers. For a gate measurement aligned with training, compare the next-token logits of KEEP and SUM or use constrained decoding. The summary-generation checkpoint itself is unaffected by this evaluation-interface issue.

This checkpoint is experimental and has not yet been validated by a complete SWE-bench Verified harness run.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
4c38514

0 моделей