/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26,1 ГБ
Архитектура
share4v · dense
Опубликована
14 дек 2023

ShareGPT4V-13B

Генерация текстаТекст → текст3 профессии

Мультимодальная чат-модель на 12,9 млрд параметров для диалога и ответов на вопросы по изображениям.

84скачиваний за 30 дней34лайкавеса обновлены6 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ShareGPT4V-13B — открытая мультимодальная чат-модель, созданная командой ShareGPT4V дообучением визуального энкодера CLIP и языковой модели LLaMA/Vicuna на данных ShareGPT4V с аннотациями GPT-4 Vision и инструкционных данных LLaVA. Модель насчитывает 12,9 млрд параметров, использует архитектуру Share4VLlamaForCausalLM и имеет контекстное окно 4096 токенов.

Модель принимает изображения и текстовые инструкции, чтобы вести диалог об изображениях, описывать их и отвечать на вопросы по визуальному содержимому. Она предназначена прежде всего для исследований мультимодальных моделей и чат-ботов; обучение включало 1,2 млн пар изображение–текст, 100 тыс. пар, созданных GPT-4 Vision, и данные инструкционного дообучения LLaVA. Карточка не приводит сведения о лицензии, поэтому условия распространения и коммерческого использования следует проверять в репозитории модели.

Сценарии применения

  • описание содержимого изображения
  • ответы на вопросы по изображению
  • диалог с пользователем о визуальной сцене
  • исследования мультимодальных чат-моделей

Ограничения

Модель ориентирована на исследовательское применение; качество ответов о содержимом изображений может зависеть от сцены и формулировки запроса. Условия лицензии в доступных сведениях не приведены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ShareGPT4V-13B Model Card

Model details

Model type: ShareGPT4V-13B is an open-source chatbot trained by fine-tuning CLP vision tower and LLaMA/Vicuna on GPT4-Vision-assisted ShareGPT4V data and LLaVA instruction-tuning data.

Model date: ShareGPT4V-13B was trained in Nov 2023.

Paper or resources for more information: [Project] [Paper] [Code]

Usage

You can directly utilize this model as we provide in our [repository]. Moreover, you can modify the architecture name from "Share4VLlamaForCausalLM" to "LLaVALlamaForCausalLM" and the model_type keyword from "share4v" to "llava" in our config file and seamlessly load our model in the [LLaVA repository].

License

Llama 2 is licensed under the LLAMA 2 Community License, Copyright (c) Meta Platforms, Inc. All Rights Reserved.

Intended use

Primary intended uses: The primary use of ShareGPT4V-13B is research on large multimodal models and chatbots.

Primary intended users: The primary intended users of the model are researchers and hobbyists in computer vision, natural language processing, machine learning, and artificial intelligence.

Training dataset

  • 1.2M high-quality image-text pairs, i.e., ShareGPT4V-PT data
  • 100K GPT4-Vision-generated image-text pairs
  • LLaVA instruction-tuning data

Evaluation dataset

A collection of 11 benchmarks

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура share4v неизвестна transformers в образе рантайма.

Класс архитектуры
Share4VLlamaForCausalLM
Ревизия весов
e4f3eb8

0 моделей