/ Модель

Характеристики

Лицензия
MIT
Библиотека
pytorch
Опубликована
30 июл 2026

physics-aligned-ssl

Эмбеддинги изображенийИзображение → embedding

Набор самообученных энкодеров ViT-B для извлечения признаков из изображений электронной микроскопии и дифракционных данных 4D-STEM.

0скачиваний за 30 дней0лайковвеса обновлены30 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DL4EM/physics-aligned-ssl — набор предварительно обученных одно通канальных энкодеров ViT-B от группы Deep Learning for Electron Microscopy (DL4EM) Института материаловедения и информатики IAS-9 Forschungszentrum Jülich. Модели описаны в работе GCPR 2026 о физически согласованном самообучении для научной визуализации. В набор входят варианты DINOv2, I-JEPA, MAE, SimCLR и VICRegL, обученные на изображениях электронной микроскопии в пространственной области и симулированных дифракционных картинах 4D-STEM.

Каждый метод представлен с физически согласованными аугментациями, отражающими симметрии измерений и особенности получения данных, либо со стандартными аугментациями для естественных изображений. Энкодеры предназначены для извлечения признаков из одноканальных изображений электронной микроскопии и научных изображений. Репозиторий распространяется по лицензии MIT; для загрузки энкодера README указывает сопровождающий код.

Сценарии применения

  • извлечение признаков из микрофотографий клеточной электронной микроскопии
  • получение представлений дифракционных картин 4D-STEM
  • подготовка эмбеддингов для последующей классификации научных изображений
  • сравнение физически согласованных аугментаций со стандартными аугментациями изображений

Ограничения

Энкодеры рассчитаны на одноканальные изображения; качество на данных за пределами описанных модальностей и режимов предобучения не охарактеризовано. Для загрузки модели требуется сопровождающий код из проекта.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Physics-Aligned Self-Supervised Learning for Scientific Imaging

Pretrained ViT-B encoders from the GCPR 2026 paper Physics-Aligned Self-Supervised Learning for Scientific Imaging.

Code: DL4EM/physics-aligned-ssl

Five SSL methods (DINOv2, I-JEPA, MAE, SimCLR, VICRegL) were each pretrained on two electron-microscopy modalities under two augmentation regimes:

  • *_domain — physics-aligned augmentations (T_phys): measurement-consistent symmetries plus acquisition-driven perturbations (noise, intensity variation, reciprocal-space scaling, diffraction tilt, ...).
  • *_original — standard natural-image augmentations (T_orig): random crop, horizontal flip, blur, photometric perturbations.

Pretraining data:

  • cem500k/ — real-space cellular EM (CEM500K subset, 10k images).
  • 4dstem/ — simulated LiNiO2 4D-STEM diffraction patterns (Scheunert et al. subset, 10k patterns).

All encoders are single-channel (grayscale) ViT-B backbones.

Available models

PathMethodPretraining dataAugmentations
cem500k/dinov2_domaindinov2cem500kphysics-aligned
cem500k/dinov2_originaldinov2cem500knatural-image
cem500k/ijepa_domainijepacem500kphysics-aligned
cem500k/ijepa_originalijepacem500knatural-image
cem500k/mae_domainMAEcem500kphysics-aligned
cem500k/mae_originalMAEcem500knatural-image
cem500k/simclr_domainsimclrcem500kphysics-aligned
cem500k/simclr_originalsimclrcem500knatural-image
cem500k/vicregl_domainvicreglcem500kphysics-aligned
cem500k/vicregl_originalvicreglcem500knatural-image
4dstem/dinov2_domaindinov24dstemphysics-aligned
4dstem/dinov2_originaldinov24dstemnatural-image
4dstem/ijepa_domainijepa4dstemphysics-aligned
4dstem/ijepa_originalijepa4dstemnatural-image
4dstem/mae_domainMAE4dstemphysics-aligned
4dstem/mae_originalMAE4dstemnatural-image
4dstem/simclr_domainsimclr4dstemphysics-aligned
4dstem/simclr_originalsimclr4dstemnatural-image
4dstem/vicregl_domainvicregl4dstemphysics-aligned
4dstem/vicregl_originalvicregl4dstemnatural-image

Usage

With the accompanying code (https://github.com/DL4EM/physics-aligned-ssl):

from em_ssl.hub import load_encoder

encoder = load_encoder("cem500k/dinov2_domain", repo_id="DL4EM/physics-aligned-ssl")

import torch
images = torch.randn(4, 1, 128, 128)   # grayscale EM crops in [0, 1]
features = encoder(images)

Without the codebase, each encoder.pt is a plain PyTorch checkpoint:

import torch
from huggingface_hub import hf_hub_download

path = hf_hub_download("DL4EM/physics-aligned-ssl", "cem500k/dinov2_domain/encoder.pt")
ckpt = torch.load(path, map_location="cpu", weights_only=True)
state_dict = ckpt["encoder_state_dict"]     # ViT-B weights
print(ckpt["backbone"], ckpt["backbone_kwargs"])

Inputs are single-channel images normalised to [0, 1] (percentile normalisation was used during pretraining). Real-space EM models were trained on 128x128 crops; 4D-STEM models on 224x224 crops.

Citation

@inproceedings{kazimi2026physicsaligned,
  title     = {Physics-Aligned Self-Supervised Learning for Scientific Imaging},
  author    = {Kazimi, Bashir and Sandfeld, Stefan},
  booktitle = {DAGM German Conference on Pattern Recognition (GCPR)},
  year      = {2026}
}

About

Developed by the Deep Learning for Electron Microscopy (DL4EM) group at the Institute for Materials Data Science and Informatics (IAS-9), Forschungszentrum Jülich. For questions, please open an issue on the GitHub repository.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · pytorch · image-feature-extraction

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
62499af

0 моделей