/ Модель

Характеристики

Лицензия
MIT
Библиотека
safetensors
Опубликована
6 июл 2026

openfront-rl

Обучение с подкреплением

Рекуррентная PPO-политика для игрового агента, который принимает решения в OpenFront.io.

0скачиваний за 30 дней9лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

djmango/openfront-rl — набор актуальных и исторических контрольных точек политики агента, обученного методом PPO для игры OpenFront.io. Агент обучался в режиме self-play с использованием стека oftrain на Rust; для представления игровых карт применяются замороженные tile-autoencoder, а наблюдения также включают точные игровые состояния, дипломатические данные и временные параметры.

Политика использует пространственную сетевую архитектуру с потоками для игроков и юнитов, LSTM со скрытым размером 512 и дискретные действия с маской допустимых ходов. Обучение описано как PPO с GAE и учебной программой, зависящей от результатов на нескольких картах. В репозитории рекомендуется использовать актуальный чекпойнт ppo_v11/latest; веса сохранены в safetensors. Лицензия — MIT.

Модель предназначена для управления игровым агентом в OpenFront.io, а не для генерации текста. Для запуска необходима совместимая среда и соответствующие энкодеры и инструменты стека oftrain; README указывает manifest как проверку совместимости. Результаты зависят от соответствия среды формату политики и игровым наблюдениям, описанным в карточке.

Сценарии применения

  • управление игровым агентом в OpenFront.io
  • обучение агента игре в режиме self-play
  • выбор допустимых дискретных игровых действий
  • эксперименты с PPO-агентами на картах OpenFront.io

Ограничения

Для работы нужны совместимая игровая среда OpenFront.io, энкодеры карт и стек oftrain. Карточка описывает архитектуру и обучение, но не приводит количественных результатов оценки качества политики.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

openfront-rl

PPO policy checkpoints for a self-play agent on OpenFront.io, trained with the Rust oftrain stack in djmango/openfront-ai.

Encoders used by these policies live in a sibling repo: djmango/openfront-tile-autoencoder.

Latest (use this)

FieldValue
Runppo_v11
Pointerppo_v11/latest.safetensors + ppo_v11/latest.state.json + ppo_v11/manifest.json
Update2486 (milestone file policy_update2485.* is the last numbered snapshot; latest is one step ahead)
Curriculum stage23
Approx. env steps16.2M
Reward / schedulev10-anti-spiral-v1 / curriculum v10
Weights size~154 MB (safetensors)

Download the current policy:

huggingface-cli download djmango/openfront-rl \
  ppo_v11/latest.safetensors \
  ppo_v11/latest.state.json \
  ppo_v11/manifest.json \
  --local-dir ./ppo_v11

Or from the trainer / play scripts (they already default to this repo):

# restore into a checkpoint dir (validates manifest)
uv run python scripts/hf_checkpoint_sync.py \
  --checkpoint-dir rust/checkpoints/ppo_v11 \
  --run-prefix ppo_v11 \
  --restore-latest

# live play helper
RUN_NAME=ppo_v11 bash scripts/play_live.sh

Always prefer ppo_v11/latest.* over digging through numbered milestones. manifest.json is the compatibility gate (format=oftrain-safetensors).

Layout

ppo_v11/                         # current training run
  latest.safetensors             # ← production pointer
  latest.state.json
  manifest.json                  # architecture + AE refs + update/stage
  policy_updateNNNN.*            # thinned milestone history
  curriculum_advance_*.*         # snapshots at stage promotions
  curriculum_demote_*.*          # snapshots at stage demotions

ppo_v10/ … ppo_v81/              # prior runs: latest.* + manifest only

Older dense policy_update* histories (every ~5 updates) were pruned — adjacent milestones are nearly identical for most uses. Kept history for ppo_v11 is every 100 updates, plus every 25 in the most recent ~200 updates, plus all curriculum advance/demote snapshots.

Architecture (from manifest.json)

  • Policy: oftrain-policy schema v3 — spatial grid tower + player/unit streams, legality-masked discrete actions (full OpenFront intent surface).
  • Recurrent: LSTM (hidden_size=512, BPTT 24 / rollout 48), action-outcome-v1 context, reset on episode_done.
  • Observation: frozen tile autoencoders (ae_v32_nostatic fine 1/8 + coarse 1/16) with exact-state bypass (diplomacy, scalars, transients).
  • Training: PPO + GAE, win-gated multi-map curriculum, native engine (Node hedge optional).

See the living design notes in the git repo: DESIGN.md.

Prior runs

RunRoleWhat remains here
ppo_v11Currentlatest + thinned milestones + curriculum snapshots
ppo_v10Previous mainlinelatest.* + manifest.json only
ppo_v9, ppo_v86…ppo_v81Lineage / ablationslatest.* + manifest.json only
Early ppo_v* / bc_*Legacyremoved in the HF cleanup (recoverable from git LFS/history only if re-uploaded)

Retention

Going forward, training pods should not re-flood the Hub with every-5-update milestones. Use scripts/hf_prune_openfront_rl.py after large syncs, and prefer syncing latest.* / manifest.json / curriculum markers plus sparse milestones.

License / credit

MIT, matching djmango/openfront-ai. OpenFront itself is a separate project — this repo only hosts learned weights and trainer metadata.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · safetensors

Нельзя запустить

RL-агенты не запускаются как сервис инференса.

Ревизия весов
2e76d88

0 моделей