/ Модель

Характеристики

Размер весов
33,6 ГБ
Архитектура
idefics2 · dense
Опубликована
12 фев 2025

Finedefics

Изображение и текст → текст3 профессии

Finedefics — дообученная мультимодальная модель на базе Idefics2-8B для распознавания объектов по тонким визуальным различиям.

26скачиваний за 30 дней7лайковвеса обновлены12 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Finedefics — мультимодальная авторегрессионная модель на архитектуре Transformer, разработанная для улучшения распознавания объектов по мелким визуальным различиям (FGVR). Она основана на HuggingFaceM4/idefics2-8b и дообучена с использованием информативных описаний атрибутов объектов. Репозиторий содержит веса в формате safetensors.

Модель принимает изображения и текст и предназначена для исследовательских экспериментов в компьютерном зрении и обработке естественного языка, в частности для различения похожих видов собак, птиц, самолётов, цветов, домашних животных и автомобилей. Она поддерживает диалоговый сценарий с визуальным вводом. В карточке не указаны лицензия и длина контекста, поэтому условия лицензирования и эти параметры здесь не уточняются.

Сценарии применения

  • различение пород собак на изображениях
  • классификация видов птиц по визуальным признакам
  • распознавание моделей самолётов по внешнему виду
  • определение видов цветов по изображению
  • различение пород кошек и собак
  • распознавание марок и моделей автомобилей

Ограничения

Обучение описано для шести наборов данных тонкозернистого распознавания; качество на других категориях и сценариях в карточке не охарактеризовано.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Finedefics Model Card

Model details

Model type: Finedefics is an open-source MLLM that enhances the model's FGVR capability by incorporating informative attribute descriptions of objects into the training phase. It is an auto-regressive language model, based on the transformer architecture. Base MLLM: HuggingFaceM4/idefics2-8b

Paper or resources for more information: OpenReview: https://openreview.net/forum?id=p3NKpom1VL Arxiv: https://arxiv.org/abs/2501.15140

License

Idefics2 is licensed under the Apache 2.0 license, and we release the Finedefics checkpoints under the same license.

Where to send questions or comments about the model: https://github.com/PKU-ICST-MIPL/Finedefics_ICLR2025/issues

Intended use

Primary intended uses: The primary use of Finedefics is research on Fine-grained MLLM.

Primary intended users: The primary intended users of the model are researchers and hobbyists in computer vision, natural language processing, machine learning, and artificial intelligence.

Training and evaluation datasets

A collection of 6 fine-grained visual recognition datasets, including Stanford Dog-120, Bird-200, FGVC-Aircraft, Flower-102, Oxford-IIIT Pet-37, and Stanford Car-196.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Idefics2ForConditionalGeneration
Ревизия весов
8703059

0 моделей