/ Модель

Характеристики

Контекст
4 096 токенов
Размер весов
69,9 ГБ
Лицензия
Apache 2.0
Архитектура
llava · dense
Опубликована
25 апр 2024

pllava-34b

Генерация текстаТекст → текст3 профессии

PLLaVA-34B — дообученный видеоязыковой чат-бот для ответов на вопросы и ведения диалога о видеоматериалах.

81скачиваний за 30 дней14лайковвеса обновлены29 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PLLaVA-34B — открытый видеоязыковой чат-бот, разработанный на основе LLaVA v1.6 34B и дообученный на данных для следования видеоинструкциям. Это авторегрессионная модель на архитектуре Transformer с визуальным компонентом, предназначенная для диалога по видеоматериалам и исследований мультимодальных языковых моделей.

Модель подходит для вопросов и ответов по видео и других сценариев, где нужно связать визуальное содержание ролика с текстовым запросом. Её обучали на Video-Instruct-Tuning от OpenGVLab/VideoChat2-IT и оценивали на шести бенчмарках, включая пять наборов для Video QA. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0.

Карточка ориентирует модель прежде всего на исследовательское применение и работу исследователей и энтузиастов в области компьютерного зрения и NLP. Размер базовой модели — 34 млрд параметров; карточка не приводит ограничение контекста или список поддерживаемых языков. Качество может зависеть от содержимого видео и формулировки запроса; результаты бенчмарков не гарантируют точность в прикладных сценариях.

Сценарии применения

  • ответы на вопросы о содержании видео
  • краткое описание событий в видеоролике
  • диалог по визуальным деталям видеоматериала

Ограничения

Модель ориентирована на исследования; результаты на бенчмарках не гарантируют точность в реальном применении. Карточка не сообщает поддерживаемые языки и длину контекста.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

PLLaVA Model Card

Model details

Model type: PLLaVA-34B is an open-source video-language chatbot trained by fine-tuning Image-LLM on video instruction-following data. It is an auto-regressive language model, based on the transformer architecture. Base LLM: liuhaotian/llava-v1.6-34b

Model date: PLLaVA-34B was trained in April 2024.

Paper or resources for more information:

License

NousResearch/Nous-Hermes-2-Yi-34B license.

Where to send questions or comments about the model: https://github.com/magic-research/PLLaVA/issues

Intended use

Primary intended uses: The primary use of PLLaVA is research on large multimodal models and chatbots.

Primary intended users: The primary intended users of the model are researchers and hobbyists in computer vision, natural language processing, machine learning, and artificial intelligence.

Training dataset

Video-Instruct-Tuning data of OpenGVLab/VideoChat2-IT

Evaluation dataset

A collection of 6 benchmarks, including 5 Video QA benchmarks and 1 benchmarks specifically proposed for Video-LMMs.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MagicForConditionalGeneration
Ревизия весов
de51de5

0 моделей