/ Модель

Характеристики

Лицензия
CC BY 4.0
Библиотека
transformers
Опубликована
10 авг 2026

RefineRank

Поиск объектовИзображение → bounding_boxes

RefineRank уточняет и ранжирует рамки объектов в хирургических видео для пространственно-временной привязки по запросу.

0скачиваний за 30 дней0лайковвеса обновлены26 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

RefineRank — официальный набор чекпойнтов для модели пространственно-временной привязки объектов на хирургическом видео, представленный авторами работы для воркшопа MedVidU на ECCV 2026. Модель объединяет замороженные MedVLM на архитектуре Qwen2.5-VL и GroundingDINO с обучаемым модулем RefineNet размером 1,25 млн параметров. RefineNet использует языковые и региональные признаки MedVLM, чтобы уточнять координаты рамок и оценивать их качество; декодер выбирает исходную или уточнённую рамку с наивысшей оценкой.

Модель предназначена для пространственно-временной привязки текстовых запросов к объектам в хирургических видео: она уточняет предложения GroundingDINO и ранжирует их. В README сообщается о STG mIoU 0,421 на архивном снимке таблицы MedVidBench и улучшении с 0,2719 до 0,4534 в контролируемой оценке на данных CholecTrack20, CoPESD и EgoSurgery. Для воспроизводимости репозиторий содержит веса RefineNet и зеркала сторонних весов MedVLM и GroundingDINO; последние заморожены и не дообучаются RefineRank. Лицензия репозитория — CC BY 4.0, а для сторонних весов следует соблюдать их исходные лицензии.

Сценарии применения

  • привязка текстового запроса к объекту на кадрах хирургического видео
  • уточнение координат рамок объектов, найденных GroundingDINO
  • ранжирование предложенных рамок по качеству для хирургического видео

Ограничения

Оценки в README относятся к конкретным бенчмаркам и сплитам; переносимость на другие данные не установлена. Замороженные веса MedVLM и GroundingDINO распространяются с отдельными исходными лицензиями.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

RefineRank: Joint Box Refinement and Ranking for Surgical Spatio-Temporal Grounding

Paper: RefineRank: Joint Box Refinement and Ranking for Surgical Spatio-Temporal Grounding

Official checkpoints for the ECCV 2026 MedVidU Workshop paper RefineRank.

RefineRank couples two frozen backbones — a MedVLM (Qwen2.5-VL architecture) and GroundingDINO — with a compact 1.25M-parameter trainable module, RefineNet (QueryConditionedProposalAdapter). RefineNet uses MedVLM language and regional features to predict coordinate corrections and box-quality scores for GroundingDINO proposals; a parameter-free decoder then returns the highest-scoring original or refined box.

  • Code, training & inference guide: https://github.com/linzhe001/RefineRank
  • Headline result: 0.421 STG mIoU on the archived MedVidBench Community leaderboard snapshot (27 July 2026) — the best STG mIoU among the ten ranking metrics on that snapshot.
  • Controlled evaluation (video-separated split over CholecTrack20 / CoPESD / EgoSurgery): STG mIoU 0.2719 → 0.4534 over the frozen MedVLM + GroundingDINO baseline.

Contents

This repo hosts the complete checkpoints/ tree expected by the code repository — three flat folders, each holding its core files directly:

checkpoints/
├── vlm/                                  # frozen MedVLM, HF format (~16 GB)
│   ├── config.json, generation_config.json, tokenizer*, preprocessor_config.json, ...
│   └── model-00001..00004-of-00004.safetensors
├── grounding_dino/
│   └── groundingdino_swinb_cogcoor.pth   # frozen GroundingDINO SwinB (~895 MB)
└── refinenet/                            # trained RefineNet, this work (~5 MB)
    ├── proposal_adapter_full.pt          # SHA-256: 932e479b…463d9b
    └── deployment_manifest.json
  • refinenet/proposal_adapter_full.pt is the exact checkpoint behind the paper's MedVidBench submission (run_iter132_submission). SHA-256: 932e479b854c3d5fbafee25a3fcf9e6481e864fe98a6867502d6ebff39463d9b.
  • vlm/ and grounding_dino/ are third-party frozen weights (uAI-NEXUS-MedVLM by UII-AI and GroundingDINO by IDEA-Research), mirrored here for one-stop reproducibility. They are never fine-tuned by RefineRank; please follow their original licenses and cite the original works.

Usage

pip install "huggingface_hub[hf_transfer]"   # hf_transfer optional, faster
hf download linzher/RefineRank --local-dir .  # restores the checkpoints/ tree

git clone https://github.com/linzhe001/RefineRank
cd RefineRank
pip install -r requirements.txt
# place the downloaded checkpoints/ next to interface.py, then:
python interface.py predict   # auto-discovers checkpoints/refinenet/

Citation

@inproceedings{jiang2026refinerank,
  title     = {RefineRank: Joint Box Refinement and Ranking for Surgical
               Spatio-Temporal Grounding},
  author    = {Jiang, Linzhe and Huang, Jiayuan and Zhang, Changhao and
               Jiang, Chunyang and Mao, Zhehua and
               Garcia-Peraza-Herrera, Luis C. and Hoque, Mobarak I.},
  booktitle = {ECCV Workshops (MedVidU)},
  year      = {2026}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · object-detection

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
ab792f2

0 моделей