You can refer the code to start evaluation and demo on your local machine. https://github.com/Luodian/Otter/blob/8b386816ec67b15833cde3dcd1d7ca6a752d2451/pipeline/demos/demo_models.py#L35
Характеристики
- Размер весов
- 32,5 ГБ
- Лицензия
- MIT
- Архитектура
- otter · dense
- Опубликована
- 9 июл 2023
Ссылки
OTTER-Image-MPT7B
Мультимодальная модель на базе MPT-7B для ответов на текстовые запросы с учетом изображений.
96скачиваний за 30 дней11лайковвеса обновлены19 дек 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
OTTER-Image-MPT7B — мультимодальная модель семейства OTTER, разработанная исследователями S-Lab Наньянского технологического университета и Microsoft Research. Она предназначена для генерации ответов на текстовые запросы с учетом изображений, например для диалога о содержимом изображения и визуальных вопросов и ответов.
Модель построена на архитектуре OtterForConditionalGeneration и использует базу MPT-7B; README предлагает запускать локальную оценку и демонстрацию. Вход включает текст и изображения, выход — текст. Лицензия — MIT. Доступные сведения не уточняют поддерживаемые языки и длину контекста.
Сценарии применения
- ответы на вопросы о содержимом изображения
- диалог с изображением
- описание и интерпретация изображений
- локальная демонстрация визуального ассистента
Ограничения
Карточка не приводит сведения о поддерживаемых языках, длине контекста или оценках качества; возможности модели следует проверять на целевых сценариях.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
I.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953моделиI.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Архитектура otter неизвестна transformers в образе рантайма.
- Класс архитектуры
- OtterForConditionalGeneration
- Ревизия весов
- af423fb