/ Модель

Характеристики

Контекст
4 096 токенов
Размер весов
26,9 ГБ
Лицензия
Apache 2.0
Архитектура
llava · dense
Опубликована
24 апр 2024

pllava-13b

Генерация текстаТекст → текст3 профессии

PLLaVA-13B — дообученный видеоязыковой чат-бот для ответов на вопросы и выполнения инструкций по содержимому видео.

20скачиваний за 30 дней8лайковвеса обновлены29 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PLLaVA-13B — открытый видеоязыковой чат-бот, разработанный на основе Image-LLM дообучением на данных для следования видеоинструкциям. Это авторегрессионная модель на архитектуре Transformer с 13 млрд параметров; базовая языковая модель — llava-hf/llava-v1.6-vicuna-13b-hf. Репозиторий содержит веса в формате safetensors.

Модель предназначена для диалога по видеоматериалам и исследований мультимодальных языковых моделей. Она может отвечать на вопросы о видео и выполнять инструкции, связанные с его содержимым; при оценке использовались пять наборов VQA и один бенчмарк для Video-LMM. В качестве обучающих данных указано Video-Instruct-Tuning из OpenGVLab/VideoChat2-IT.

Карточка сообщает об обучении в апреле 2024 года. Модель распространяется по лицензии Apache-2.0. Описанные сценарии сосредоточены на видео; подробности о длине контекста и языковом охвате карточка не приводит.

Сценарии применения

  • ответы на вопросы о содержимом видео
  • краткое описание сцен и событий в видео
  • диалог по видеоматериалу
  • исследования мультимодальных языковых моделей
  • оценка видеоязыковых моделей на задачах VQA

Ограничения

Карточка не сообщает длину контекста и языковой охват. Оценка описана через ограниченный набор из шести бенчмарков, поэтому результаты не гарантируют качество на всех типах видео и запросов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

PLLaVA Model Card

Model details

Model type: PLLaVA-13B is an open-source video-language chatbot trained by fine-tuning Image-LLM on video instruction-following data. It is an auto-regressive language model, based on the transformer architecture. Base LLM: llava-hf/llava-v1.6-vicuna-13b-hf

Model date: PLLaVA-13B was trained in April 2024.

Paper or resources for more information:

License

llava-hf/llava-v1.6-vicuna-13b-hf license.

Where to send questions or comments about the model: https://github.com/magic-research/PLLaVA/issues

Intended use

Primary intended uses: The primary use of PLLaVA is research on large multimodal models and chatbots.

Primary intended users: The primary intended users of the model are researchers and hobbyists in computer vision, natural language processing, machine learning, and artificial intelligence.

Training dataset

Video-Instruct-Tuning data of OpenGVLab/VideoChat2-IT

Evaluation dataset

A collection of 6 benchmarks, including 5 VQA benchmarks and 1 recent benchmarks specifically proposed for Video-LMMs.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MagicForConditionalGeneration
Ревизия весов
eb3aa65

0 моделей