/ Модель

Характеристики

Лицензия
Apache 2.0
Библиотека
diffusers
Опубликована
18 мар 2024

marigold-depth-lcm-v1-0

Оценка глубиныИзображение → depth_map3 профессии

Marigold Depth LCM v1-0 быстро оценивает относительную глубину сцены по одному изображению с помощью латентной диффузии и дистилляции LCM.

1 591скачиваний за 30 дней58лайковвеса обновлены20 мая 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Marigold Depth LCM v1-0 — модель оценки глубины по одному изображению, разработанная Bingxin Ke, Kevin Qu и соавторами. Это генеративная модель на основе латентной диффузии, дообученная с помощью дистилляции latent consistency на базе prs-eth/marigold-depth-v1-0 для более быстрой оценки монокулярной глубины.

Модель строит аффинно-инвариантную карту глубины: значения от 0 до 1 показывают относительное расстояние от ближней до дальней плоскости, выбранных моделью. Она рассчитана на работу с планировщиком LCM за 1–4 шага; эффективное разрешение базовой диффузионной модели составляет около 768 пикселей по длинной стороне. При ансамблировании более двух предсказаний можно получить карту неопределённости.

Подходит для анализа сцен на фотографиях и других изображениях, когда требуется оценить относительную структуру глубины без специализированной камеры. Модель помечена авторами как устаревшая: рекомендуется перейти на Marigold Depth v1-1. Распространяется по лицензии Apache 2.0.

Сценарии применения

  • получение карты глубины по фотографии
  • оценка относительного расстояния до объектов на изображении
  • быстрый анализ глубины сцены за несколько шагов диффузии
  • оценка неопределённости глубины при ансамблировании предсказаний

Ограничения

Оценка относительная и аффинно-инвариантная, а не метрическая; неопределённость доступна только при ансамбле более чем из двух предсказаний. Модель устарела, авторы рекомендуют Marigold Depth v1-1; для оптимальных результатов длинную сторону изображения следует уменьшать примерно до 768 пикселей.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is a model card for the marigold-depth-lcm-v1-0 model for monocular depth estimation from a single image. The model is fine-tuned from the marigold-depth-v1-0 model using the latent consistency distillation method, as described in our papers:

  • CVPR'2024 paper titled "Repurposing Diffusion-Based Image Generators for Monocular Depth Estimation"
  • Journal extension titled "Marigold: Affordable Adaptation of Diffusion-Based Image Generators for Image Analysis"

Using the model

  • Play with the interactive Hugging Face Spaces demo: check out how the model works with example images or upload your own.
  • Use it with diffusers to compute the results with a few lines of code.
  • Get to the bottom of things with our official codebase.

Model Details

  • Developed by: Bingxin Ke, Kevin Qu, Tianfu Wang, Nando Metzger, Shengyu Huang, Bo Li, Anton Obukhov, Konrad Schindler.
  • Model type: Generative latent diffusion-based affine-invariant monocular depth estimation from a single image.
  • Language: English.
  • License: Apache License License Version 2.0.
  • Model Description: This model can be used to generate an estimated depth map of an input image.
    • Resolution: Even though any resolution can be processed, the model inherits the base diffusion model's effective resolution of roughly 768 pixels. This means that for optimal predictions, any larger input image should be resized to make the longer side 768 pixels before feeding it into the model.
    • Steps and scheduler: This model was designed for usage with the LCM scheduler and between 1 and 4 denoising steps.
    • Outputs:
      • Affine-invariant depth map: The predicted values are between 0 and 1, interpolating between the near and far planes of the model's choice.
      • Uncertainty map: Produced only when multiple predictions are ensembled with ensemble size larger than 2.
  • Resources for more information: Project Website, Paper, Code.
  • Cite as:
@misc{ke2025marigold,
  title={Marigold: Affordable Adaptation of Diffusion-Based Image Generators for Image Analysis},
  author={Bingxin Ke and Kevin Qu and Tianfu Wang and Nando Metzger and Shengyu Huang and Bo Li and Anton Obukhov and Konrad Schindler},
  year={2025},
  eprint={2505.09358},
  archivePrefix={arXiv},
  primaryClass={cs.CV}
}

@InProceedings{ke2023repurposing,
  title={Repurposing Diffusion-Based Image Generators for Monocular Depth Estimation},
  author={Bingxin Ke and Anton Obukhov and Shengyu Huang and Nando Metzger and Rodrigo Caye Daudt and Konrad Schindler},
  booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)},
  year={2024}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · diffusers · depth-estimation

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
04a7350

0 моделей