这是MiniGPT-4的转化权重,利用的教程是MiniGPT-4/PrepareVicuna.md ,使用它,您可以不需要LLAMA-13B和vicuna-13b-delta-v0进行转化。
Характеристики
- Контекст
- 2 048 токенов
- Параметры
- 12,9 млрд
- Размер весов
- 26 ГБ
- Архитектура
- llama · dense
- Опубликована
- 20 апр 2023
Ссылки
MiniGPT-4-LLaMA
Конвертированные 12,9-миллиардные веса LLaMA для использования в пайплайне MiniGPT-4 без отдельной конвертации LLAMA-13B и Vicuna-13B Delta.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это конвертированные веса для MiniGPT-4, подготовленные по инструкции MiniGPT-4/PrepareVicuna.md. Репозиторий упрощает использование MiniGPT-4: эти веса позволяют обойтись без отдельной конвертации LLAMA-13B и vicuna-13b-delta-v0. В метаданных указан 12,9-миллиардный плотный LLaMA-чекпойнт для генерации текста с контекстом 2048 токена и форматом PyTorch.
Карточка не описывает визуальный компонент MiniGPT-4, поэтому по доступным сведениям этот репозиторий следует рассматривать как конвертированные языковые веса, предназначенные для использования в соответствующем пайплайне MiniGPT-4. Метаданные не содержат лицензии; условия использования по имеющимся данным определить нельзя.
Сценарии применения
- генерация текста на основе весов LLaMA в пайплайне MiniGPT-4
- подготовка языковой части для экспериментов с MiniGPT-4
- использование конвертированных весов вместо самостоятельной конвертации LLAMA-13B и Vicuna-13B Delta
Ограничения
README не описывает визуальные возможности, качество или условия лицензирования этих весов; не следует считать репозиторий самостоятельной мультимодальной моделью без соответствующих компонентов MiniGPT-4.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- c77de0a