/ Модель

Характеристики

Лицензия
CC BY-NC 4.0
Базовая модель
Utonia
Библиотека
flax
Опубликована
28 сен 2026

Utonia-Jax

Языковая модель

JAX/Flax-конверсия самоконтролируемого Point Transformer V3 для извлечения признаков и сегментации облаков точек.

0скачиваний за 30 дней0лайковвеса обновлены5 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

abhaybd/Utonia-Jax — конверсия весов Utonia в формат JAX/Flax NNX. Исходная модель разработана Pointcept и представляет собой энкодер Point Transformer V3 с 137,25 млн параметров в формате float32; веса и конфигурация конвертированы из PyTorch-чекпойнта без переобучения и изменения значений. Для ScanNet-20 также доступна линейная голова сегментации.

Модель предназначена для извлечения признаков из облаков точек и их последующего использования в задачах 3D-сегментации. Utonia предварительно обучена самоконтролируемым способом на облаках точек из помещений, LiDAR-сценах, данных дистанционного зондирования, CAD-объектах и облаках, полученных из видео. Для запуска предназначен порт utonia-jax на Flax NNX; карточка сообщает о численном соответствии PyTorch-реализации на демонстрационной сцене ScanNet.

Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Представленные веса — форматная конверсия Pointcept/Utonia, а не отдельное дообучение. В README описана проверка на одной ScanNet-сцене, поэтому её результаты не гарантируют такое же соответствие для иных сцен или конфигураций.

Сценарии применения

  • извлечение признаков из 3D-облаков точек
  • сегментация сцен ScanNet на 20 классов с линейной головой
  • перенос представлений между indoor и outdoor облаками точек
  • инференс Point Transformer V3 в стеке JAX и Flax NNX

Ограничения

Линейная голова сегментации рассчитана на 20 классов ScanNet. В README соответствие PyTorch реализации проверено на одной демонстрационной сцене; эти результаты не подтверждают качество на других наборах данных.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Utonia — JAX / Flax NNX weights

[ GitHub Repo ]

JAX conversion of the Utonia weights. Utonia is from the paper Utonia: Toward One Encoder for All Point Clouds (arXiv:2603.03283). It is a Point Transformer V3 encoder, pretrained with self-supervision on indoor RGB-D, outdoor LiDAR, remote sensing, object CAD and video-lifted point clouds.

The weights are meant for use with utonia-jax, a Flax NNX port of the Utonia inference code. It does not need spconv, torch_scatter or flash-attn.

Files

PathContents
utonia/model.safetensorsEncoder weights (137.25M params, float32), converted from utonia.pth
utonia/config.jsonModel config from the original checkpoint
utonia_linear_prob_head_sc/model.safetensorsScanNet-20 linear-probe segmentation head (Linear(1386 → 20)), converted from utonia_linear_prob_head_sc.pth
utonia_linear_prob_head_sc/config.jsonSeg-head config

Changes from the original

Converted from the PyTorch checkpoints in Pointcept/Utonia. There was no retraining or fine-tuning, and every value is unchanged. Only the format and layout changed:

  • .pth (pickled state dict) was converted to .safetensors, float32.
  • Tensor names are Flax NNX state paths (e.g. enc/3/blocks/0/attn/qkv/kernel).
  • Linear weights are transposed to (in, out).
  • spconv SubMConv3d kernels are rearranged from (C_out, 3, 3, 3, C_in) to (27, C_in, C_out).

Numerical parity with the reference PyTorch implementation, on the ScanNet demo scene:

Attention precisionFeature rel. errorSeg argmax agreement
fp32≤ 3.4e-499.99%
bf16 (default, like upstream flash-attn)≤ 1.3e-399.98%

Usage

pip install git+https://github.com/abhaybd/Utonia-Jax
import jax
import utonia_jax as utonia

model = utonia.load("utonia")        # downloads from this repo on first use
head = utonia.load_seg_head()        # ScanNet-20 linear probe

point = utonia.data.load("sample1")
point = utonia.transform.default(scale=0.5)(point)
batch = utonia.prepare(point, model.config)

@jax.jit
def encode(batch):
    return utonia.upcast(model(batch), batch)   # (M, 1386) per-voxel features

feat = encode(batch)[: int(batch.stages[0].num_points)]
pred = head(feat).argmax(-1)[point["inverse"]]  # per-original-point labels

License

CC-BY-NC-4.0, inherited from the original Pointcept/Utonia weights. The weights may be used for non-commercial purposes only. The utonia-jax code is licensed separately under Apache 2.0.

All credit for the model goes to the Utonia authors.

Citation

@inproceedings{zhang2026utonia,
    title={Utonia: Toward One Encoder for All Point Clouds},
    author={Yujia Zhang and Xiaoyang Wu and Yunhan Yang and Xianzhe Fan and Han Li and Yuechen Zhang and Zehao Huang and Naiyan Wang and Hengshuang Zhao},
    booktitle={ICML},
    year={2026},
}

@misc{pointcept2023,
    title={Pointcept: A Codebase for Point Cloud Perception Research},
    author={Pointcept Contributors},
    howpublished={\url{https://github.com/Pointcept/Pointcept}},
    year={2023}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · flax

Нельзя запустить

JAX/Flax-модели рантайм не загружает.

Ревизия весов
497c73e

0 моделей