/ Модель

Характеристики

Контекст
4 096 токенов
Размер весов
14,3 ГБ
Лицензия
Apache 2.0
Архитектура
llava · dense
Опубликована
24 апр 2024

pllava-7b

Генерация текстаТекст → текст3 профессии

PLLaVA-7B — дообученный видеоязыковой чат-бот для ответов на вопросы и диалога о содержании видео.

115скачиваний за 30 дней12лайковвеса обновлены29 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PLLaVA-7B — открытый видеоязыковой чат-бот, разработанный дообучением Image-LLM на данных VideoChat2-IT для следования видеоинструкциям. Это авторегрессионная трансформерная модель с архитектурой семейства LLaVA и базовой языковой моделью llava-hf/llava-v1.6-vicuna-7b-hf.

Модель предназначена для диалога по видеоматериалам: она принимает видео и текстовые запросы, чтобы отвечать на вопросы о содержании и анализировать сцены. В README указана оценка на шести бенчмарках, включая пять наборов для визуальных вопросов и бенчмарк для видеоязыковых моделей.

Модель создана для исследований мультимодальных моделей и чат-ботов в компьютерном зрении, NLP и машинном обучении. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0. Число параметров и длина контекста в предоставленных данных не указаны.

Сценарии применения

  • ответы на вопросы о содержании видео
  • описание сцен и событий в видеороликах
  • диалог с моделью по видеоматериалу
  • оценка видеоязычных моделей на задачах VQA

Ограничения

README описывает модель как предназначенную прежде всего для исследований; результаты оценки приведены только в общем виде, без численных показателей. В предоставленной карточке нет сведений о поддерживаемых языках и длине контекста.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

PLLaVA Model Card

Model details

Model type: PLLaVA-7B is an open-source video-language chatbot trained by fine-tuning Image-LLM on video instruction-following data. It is an auto-regressive language model, based on the transformer architecture. Base LLM: llava-hf/llava-v1.6-vicuna-7b-hf

Model date: PLLaVA-7B was trained in April 2024.

Paper or resources for more information:

License

llava-hf/llava-v1.6-vicuna-7b-hf license.

Where to send questions or comments about the model: https://github.com/magic-research/PLLaVA/issues

Intended use

Primary intended uses: The primary use of PLLaVA is research on large multimodal models and chatbots.

Primary intended users: The primary intended users of the model are researchers and hobbyists in computer vision, natural language processing, machine learning, and artificial intelligence.

Training dataset

Video-Instruct-Tuning data of OpenGVLab/VideoChat2-IT

Evaluation dataset

A collection of 6 benchmarks, including 5 VQA benchmarks and 1 recent benchmarks specifically proposed for Video-LMMs.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
PlavaForConditionalGeneration
Ревизия весов
825854a

0 моделей