/ Модель

Характеристики

Контекст
64 токена
Лицензия
Apache 2.0
Архитектура
siglip · dense
Базовая модель
siglip-large-patch16-256
Опубликована
3 мар 2025

Git-RSCLIP

Генерация изображенийТекст → изображение3 профессии

Git-RSCLIP — дообученная на спутниковых и других снимках дистанционного зондирования модель для классификации изображений и поиска соответствий с текстом.

1 153скачиваний за 30 дней8лайковвеса обновлены1 июн 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Git-RSCLIP — большая модель сопоставления изображений и текстов для данных дистанционного зондирования Земли, разработанная авторами проекта Git-RSCLIP. Она дообучена на 10 миллионах пар изображение–текст из набора Git-10M и использует архитектуру, подобную Google SigLIP Large Patch16-256. Модель предназначена для извлечения признаков изображений, классификации изображений без дополнительного обучения и поиска соответствий между изображениями и текстовыми описаниями.

Модель принимает RGB-изображения, приводимые к размеру 256×256, и текстовые описания, токенизируемые до 64 токенов; на выходе формирует признаки для сопоставления изображений и текста. Она специализирована на снимках дистанционного зондирования, поэтому её применение вне этой области может быть ограничено. Репозиторий распространяется под лицензией Apache-2.0.

Сценарии применения

  • классификация спутниковых снимков по текстовым описаниям без дообучения
  • поиск снимков дистанционного зондирования по текстовому запросу
  • поиск текстовых описаний, соответствующих изображению
  • извлечение признаков спутниковых снимков для дальнейшего анализа

Ограничения

Модель ориентирована на изображения дистанционного зондирования; качество на обычных фотографиях и в задачах вне этой области не подтверждено. Входные изображения приводятся к 256×256, а текст ограничен длиной 64 токена.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Git-RSCLIP

[Git-RSCLIP] is pre-trained on the Git-10M dataset (a global-scale remote sensing image-text pair dataset, consisting of 10 million image-text pairs) at size 256x256, first released in this repository. It employs a similar structure to [google/siglip-large-patch16-256].

This is a large version, the base version is here: [Git-RSCLIP-base]

News 🔥

✅ 2025.06.01: Git-RSCLIP series downloads exceeded 60,000 times 🔥

Intended uses & limitations

You can use the raw model for tasks like zero-shot image classification and image-text retrieval.

How to use

Use Git-RSCLIP to get image features

from PIL import Image
import requests
from transformers import AutoProcessor, AutoModel
import torch

model = AutoModel.from_pretrained("lcybuaa/Git-RSCLIP")
processor = AutoProcessor.from_pretrained("lcybuaa/Git-RSCLIP")

url = "https://github.com/Chen-Yang-Liu/PromptCC/blob/main/Example/B/train_000051.png?raw=true"
image = Image.open(requests.get(url, stream=True).raw)

inputs = processor(images=image, return_tensors="pt")

with torch.no_grad():
  image_features = model.get_image_features(**inputs)

zero-shot image classification:

from PIL import Image
import requests
from transformers import AutoProcessor, AutoModel
import torch

model = AutoModel.from_pretrained("lcybuaa/Git-RSCLIP")
processor = AutoProcessor.from_pretrained("lcybuaa/Git-RSCLIP")

url = "https://github.com/Chen-Yang-Liu/PromptCC/blob/main/Example/B/train_000051.png?raw=true"
image = Image.open(requests.get(url, stream=True).raw)

texts = ["a remote sensing image of river", "a remote sensing image of houses and roads"]
inputs = processor(text=texts, images=image, padding="max_length", return_tensors="pt")

with torch.no_grad():
    outputs = model(**inputs)

logits_per_image = outputs.logits_per_image
probs = torch.sigmoid(logits_per_image) # these are the probabilities
top5_indices = torch.argsort(probs, descending=True)[:, :5].cpu().numpy()
top1_indices = top5_indices[:, 0]
print(f"the image 0 is '{top1_indices[0]}'")

For more code examples, we refer to the documentation.

Training procedure

Training data

Git-RSCLIP is pre-trained on the Git-10M dataset (a global-scale remote sensing image-text pair dataset, consisting of 10 million image-text pairs) (Liu et al., 2024).

Preprocessing

Images are resized/rescaled to the same resolution (256x256) and normalized across the RGB channels with mean (0.5, 0.5, 0.5) and standard deviation (0.5, 0.5, 0.5).

Texts are tokenized and padded to the same length (64 tokens).

Evaluation results

Evaluation of Git-RSCLIP compared to other CLIP is shown below (taken from the paper).

BibTeX entry and citation info

@ARTICLE{10988859,
  author={Liu, Chenyang and Chen, Keyan and Zhao, Rui and Zou, Zhengxia and Shi, Zhenwei},
  journal={IEEE Geoscience and Remote Sensing Magazine}, 
  title={Text2Earth: Unlocking text-driven remote sensing image generation with a global-scale dataset and a foundation model}, 
  year={2025},
  volume={},
  number={},
  pages={2-23},
  doi={10.1109/MGRS.2025.3560455}}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Базовая модель google/siglip-large-patch16-256 выложена не в формате diffusers, адаптер не к чему подключить.

Класс архитектуры
SiglipModel
Ревизия весов
63dae33

0 моделей