/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26,1 ГБ
Архитектура
llava · dense
Опубликована
14 окт 2023

llava-v1.5-13b-shard3gb

Генерация текстаТекст → текст3 профессии

LLaVA-v1.5-13B — мультимодальный чат-бот для ответов на вопросы и диалога по изображениям.

81скачиваний за 30 дней14лайковвеса обновлены14 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

liuhaotian/llava-v1.5-13b-shard3gb — версия чекпойнта LLaVA-v1.5-13B, опубликованная с разбиением весов на файлы размером не более 3 ГБ для загрузки на машины с ограниченной оперативной памятью CPU. LLaVA — авторегрессионный чат-бот на архитектуре Transformer, созданный дообучением LLaMA/Vicuna на мультимодальных инструкциях, сгенерированных GPT. В репозитории указаны 12,9 млрд параметров и контекст 4096 токенов.

Модель предназначена для диалога по изображениям и мультимодальных задач, включая визуальные вопросы и ответы, а также для исследований больших мультимодальных моделей. Обучение включало пары изображение–текст, инструкции по изображениям, наборы VQA и диалоги ShareGPT. Модель принимает текст и изображения и генерирует текст. README ориентирует её на исследователей и энтузиастов; подтверждённых сведений о лицензии в предоставленных данных нет.

Сценарии применения

  • ответы на вопросы о содержимом изображения
  • описание изображений в диалоге
  • решение визуальных задач с инструкциями на естественном языке
  • исследование мультимодальных чат-ботов
  • прототипирование приложений компьютерного зрения с диалоговым интерфейсом

Ограничения

Модель заявлена для исследований и экспериментов; качество ответов и надёжность для конкретных сценариев в предоставленной карточке не гарантированы. Сведения о лицензии отсутствуют в доступных данных.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LLaVA Model Card

Model details

This is the same model checkpoint as liuhaotian/llava-v1.5-13b, except that this one is sharded with a 3GB per-shard size limit to support machines with limited CPU RAM.

Model type: LLaVA is an open-source chatbot trained by fine-tuning LLaMA/Vicuna on GPT-generated multimodal instruction-following data. It is an auto-regressive language model, based on the transformer architecture.

Model date: LLaVA-v1.5-13B was trained in September 2023.

Paper or resources for more information: https://llava-vl.github.io/

License

Llama 2 is licensed under the LLAMA 2 Community License, Copyright (c) Meta Platforms, Inc. All Rights Reserved.

Where to send questions or comments about the model: https://github.com/haotian-liu/LLaVA/issues

Intended use

Primary intended uses: The primary use of LLaVA is research on large multimodal models and chatbots.

Primary intended users: The primary intended users of the model are researchers and hobbyists in computer vision, natural language processing, machine learning, and artificial intelligence.

Training dataset

  • 558K filtered image-text pairs from LAION/CC/SBU, captioned by BLIP.
  • 158K GPT-generated multimodal instruction-following data.
  • 450K academic-task-oriented VQA data mixture.
  • 40K ShareGPT data.

Evaluation dataset

A collection of 12 benchmarks, including 5 academic VQA benchmarks and 7 recent benchmarks specifically proposed for instruction-following LMMs.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlavaLlamaForCausalLM
Ревизия весов
0a1fce3

0 моделей