/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,6 млрд
Размер весов
13,5 ГБ
Архитектура
share4v · dense
Опубликована
20 ноя 2023

ShareGPT4V-7B

Генерация текстаТекст → текст3 профессии

ShareGPT4V-7B — мультимодальная чат-модель на 6,6 млрд параметров для ответов на вопросы по изображениям и текстовым запросам.

2 100скачиваний за 30 дней86лайковвеса обновлены6 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ShareGPT4V-7B — открытая мультимодальная чат-модель, разработанная командой ShareGPT4V и предназначенная для диалога по изображениям и тексту. Модель обучена дообучением визуального энкодера CLIP и LLaMA/Vicuna на данных ShareGPT4V с описаниями, созданными с помощью GPT-4 Vision, и на инструкционных данных LLaVA.

Модель содержит 6,6 млрд параметров, использует архитектуру Share4VLlamaForCausalLM и принимает изображения вместе с текстовыми запросами, формируя текстовые ответы. Контекст составляет 4096 токенов. Обучение включало 1,2 млн пар изображение–текст, 100 тыс. пар, созданных GPT-4 Vision, и данные LLaVA; модель предназначена прежде всего для исследований мультимодальных моделей и чат-ботов, а также для экспериментов с визуальными вопросами и описанием изображений.

Ограничения включают унаследованные ошибки и предвзятости базовых моделей и обучающих данных, а также возможные неточности в распознавании содержимого изображений. Лицензия в предоставленных материалах не указана.

Сценарии применения

  • ответы на вопросы о содержимом изображения
  • создание текстовых описаний изображений
  • диалог с пользователем по изображению
  • исследования мультимодальных чат-моделей

Ограничения

Модель может ошибаться при интерпретации изображений и воспроизводить смещения, присутствующие в базовых моделях и обучающих данных. Лицензия в предоставленных материалах не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ShareGPT4V-7B Model Card

Model details

Model type: ShareGPT4V-7B is an open-source chatbot trained by fine-tuning CLP vision tower and LLaMA/Vicuna on GPT4-Vision-assisted ShareGPT4V data and LLaVA instruction-tuning data.

Model date: ShareGPT4V-7B was trained in Nov 2023.

Paper or resources for more information: [Project] [Paper] [Code]

Usage

You can directly utilize this model as we provide in our [repository]. Moreover, you can modify the architecture name from "Share4VLlamaForCausalLM" to "LLaVALlamaForCausalLM" and the model_type keyword from "share4v" to "llava" in our config file and seamlessly load our model in the [LLaVA repository].

License

Llama 2 is licensed under the LLAMA 2 Community License, Copyright (c) Meta Platforms, Inc. All Rights Reserved.

Intended use

Primary intended uses: The primary use of ShareGPT4V-7B is research on large multimodal models and chatbots.

Primary intended users: The primary intended users of the model are researchers and hobbyists in computer vision, natural language processing, machine learning, and artificial intelligence.

Training dataset

  • 1.2M high-quality image-text pairs, i.e., ShareGPT4V-PT data
  • 100K GPT4-Vision-generated image-text pairs
  • LLaVA instruction-tuning data

Evaluation dataset

A collection of 11 benchmarks

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура share4v неизвестна transformers в образе рантайма.

Класс архитектуры
Share4VLlamaForCausalLM
Ревизия весов
e06713e

0 моделей