/ Модель

Характеристики

Лицензия
MIT
Библиотека
open_clip
Опубликована
21 сен 2026

sea-clip-tiny-abl-sea-only

Классификация изображений без дообученияИзображение, текст → label3 профессии

Экспериментальная мультимодальная CLIP-модель, обученная только на данных Юго-Восточной Азии для классификации изображений по текстовым описаниям и поиска изображений.

21скачиваний за 30 дней0лайковвеса обновлены21 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SEA-CLIP-Tiny — экспериментальный мультимодальный CLIP-чекпойнт, созданный для исследования влияния состава обучающих данных. Эта абляционная версия обучена только на наборах данных Юго-Восточной Азии; архитектура, конвейер и гиперпараметры совпадают с основной SEA-CLIP-Tiny. Модель предназначена для классификации изображений по текстовым описаниям без дообучения и для поиска соответствий между изображениями и текстом.

Визуальная часть использует ViT-T/16, текстовая — 12-слойный трансформер шириной 384; размер эмбеддинга — 512, всего 46,11 млн параметров. Применяются CLIP BPE с контекстом 77 токенов. Заявлены английский и несколько языков Юго-Восточной Азии, включая индонезийский, яванский, сунданский, малайский, тайский, вьетнамский и бирманский. Чекпойнт работает через open_clip и распространяется по лицензии MIT.

В README приведены результаты абляции, в том числе точность 5,6% на ImageNet, поэтому модель следует рассматривать как исследовательский вариант, а не универсальную модель распознавания. Качество может существенно зависеть от языка и обучающего распределения; приведённые метрики ограничены указанными тестами.

Сценарии применения

  • классификация изображений по пользовательским текстовым меткам без дообучения
  • поиск изображений по текстовому запросу на языках Юго-Восточной Азии
  • сопоставление изображений с подписями на индонезийском или тайском
  • сравнение влияния региональных обучающих данных на CLIP-модель

Ограничения

Это абляционный исследовательский чекпойнт, обученный только на наборах данных Юго-Восточной Азии; его качество может быть ограничено вне этого распределения. В README указана точность 5,6% на ImageNet, поэтому результаты не следует считать признаком универсальной пригодности.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SEA-CLIP-Tiny — ablation: Only SEA datasets

One row of the ablation table of SEA-CLIP-Tiny (ACCV 2026). Same architecture, pipeline and hyperparameters as the main model; the difference is the training mixture.

Usage

import open_clip

model, _, preprocess = open_clip.create_model_and_transforms('hf-hub:fassabilf/sea-clip-tiny-abl-sea-only')
tokenizer = open_clip.get_tokenizer('hf-hub:fassabilf/sea-clip-tiny-abl-sea-only')

Model

ArchitectureViT-T/16 vision tower + 12-layer / 384-wide text tower, embed dim 512
TokenizerCLIP BPE, vocab 49408, context length 77
Parameters46.11M (5.62M vision + 40.49M text)
Training dataCulturalGround-OE-filt + WIT + Bloom (1.21M pairs)
TeacherMetaCLIP2-ViT-B-16-worldwide

Results

Retrieval R@1 on the held-out splits of each training source, zero-shot ImageNet accuracy, and the paper's retrieval-only Avg@1 over XM3600, Flickr30k-200 and XTD-200 (%).

CG R@1WIT R@1Bloom R@1ImageNetR@1-Avg
63.754.624.95.63.6

Reproduce

Training and evaluation code: https://github.com/fassabilf/sea-clip-tiny. The exact training configuration of this checkpoint is in params.txt in this repo.

Citation

@inproceedings{seacliptiny2026,
  title     = {SEA-CLIP-Tiny: Efficient Multilingual Text-Vision Embedding for Southeast Asian Languages},
  booktitle = {Asian Conference on Computer Vision (ACCV)},
  year      = {2026}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · open_clip

Нельзя запустить

Модели OpenCLIP требуют отдельного рантайма.

Ревизия весов
4a5bd61

0 моделей