/ Модель

Характеристики

Лицензия
MIT
Библиотека
pytorch
Опубликована
29 сен 2026

h-jepa

Языковая модельИзображение, текст → action

Набор контрольных точек H-JEPA и родственных иерархических моделей для визуального планирования действий в робототехнических средах.

0скачиваний за 30 дней7лайковвеса обновлены6 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Репозиторий содержит обученные контрольные точки H-JEPA и связанных моделей для визуального планирования в робототехнике. Модели представлены авторами работы «H-JEPA: End-to-End Learning of Hierarchical World Models for Visual Planning» — Ванконгом Чжаном, Басилем Тервером, Майком Рэббатом, Яном Лекуном и Рэндаллом Балестриеро. Репозиторий сопровождает выпуск кода для обучения, оценки и воспроизведения результатов планирования из статьи.

Контрольные точки охватывают Visual AntMaze, FourRoom с отвлекающими объектами, OGBench Cube и DROID. В набор входят LeWM, H-JEPA и HWM с двумя, тремя или четырьмя уровнями; доступны несколько случайных начальных состояний обучения. Файлы включают веса модели и нормализатор действий и проприоцептивных данных. Для загрузки контрольных точек необходим выпуск кода H-JEPA; файлы сериализованы в формате PyTorch и сохраняются как pickled-модули. Лицензия репозитория — MIT. Модель предназначена для визуального планирования действий в роботизированных средах; она не является универсальной языковой моделью.

Сценарии применения

  • планирование перемещения робота в лабиринте по визуальным наблюдениям
  • планирование действий робота в среде FourRoom с отвлекающими объектами
  • управление роботом при манипуляциях с кубом в OGBench Cube
  • воспроизведение экспериментов по визуальному планированию из статьи H-JEPA

Ограничения

Для загрузки pickled-контрольных точек требуется кодовый выпуск H-JEPA в Python-пути. Описание не сообщает о поддержке произвольных робототехнических платформ или применении вне перечисленных сред.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

H-JEPA checkpoints

arXiv Website Code Dataset

Trained models of H-JEPA: End-to-End Learning of Hierarchical World Models for Visual Planning (Wancong Zhang*, Basile Terver*, Mike Rabbat, Yann LeCun†, Randall Balestriero†). The code release trains, evaluates and reproduces the paper's planning results with them.

Contents

FolderModelsSeedsCheckpointsSize
ant/ (Visual AntMaze)LeWM, H-JEPA 2/3/4 levels, HWM 2/3/4 levels42, 43, 44212.6 GB
fourroom/ (FourRoom Distractors)same 7 models42, 43, 44211.7 GB
cube/ (OGBench Cube)same 7 models42, 43, 44212.7 GB
pusht/ (Push-T)same 7 models42, 43, 44212.7 GB
droid/ (DROID, 5 fps)LeWM + IDM, HWM 2 levels, H-JEPA 2 levels1, 1000, 1000092.7 GB

Each run is a folder <env>/<env>_<model>/seed<seed>/ with <env>_<model>_object.ckpt (the trained model) and normalizer.pt (action/proprio normalization), the layout the training code writes. <model> is lewm, hjepa_l<n> or hwm_l<n>, with <n> the number of levels. The DROID checkpoints are the epoch-100 models.

Download

Into $HJEPA_HOME/ckpts, where the code reads checkpoints:

# the 4 simulation environments (84 checkpoints)
hf download jepa-world-models/h-jepa --local-dir $HJEPA_HOME/ckpts --exclude "droid/*"
# DROID (9 checkpoints)
hf download jepa-world-models/h-jepa --local-dir $HJEPA_HOME/ckpts --include "droid/*"
# one environment or one seed: --include "cube/*", --include "*/seed42/*"

Usage

The _object.ckpt files are pickled HJEPA modules, so loading them needs the code release on the Python path (run from its h_jepa/ directory):

import torch

model = torch.load("cube/cube_hjepa_l3/seed42/cube_hjepa_l3_object.ckpt", weights_only=False)

To reproduce the paper's planning results, pass a checkpoint as policy= to eval.py or run the evaluation scripts, as described in the code release README (simulation: section 4, DROID: section 5). The evaluation tasks and datasets are in jepa-world-models/h-jepa (datasets).

Citation

@article{zhang2026hjepa,
  title   = {{H-JEPA}: End-to-End Learning of Hierarchical World Models for Visual Planning},
  author  = {Zhang, Wancong and Terver, Basile and Rabbat, Mike and LeCun, Yann and Balestriero, Randall},
  journal = {arXiv preprint arXiv:2610.06805},
  year    = {2026}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · pytorch

Нельзя запустить

Модели для роботов не запускаются как сервис инференса.

Ревизия весов
6844abd

0 моделей