这是MiniGPT-4的转化权重,利用的教程是MiniGPT-4/PrepareVicuna.md ,使用它,您可以不需要LLAMA-7B和vicuna-7b-delta-v0进行转化。
Характеристики
- Контекст
- 2 048 токенов
- Параметры
- 6,6 млрд
- Размер весов
- 13,5 ГБ
- Архитектура
- llama · dense
- Опубликована
- 22 апр 2023
Ссылки
MiniGPT-4-LLaMA-7B
Преобразованные веса MiniGPT-4 на основе LLaMA 7B для генерации текста без самостоятельного этапа подготовки весов.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это преобразованные веса MiniGPT-4 на основе LLaMA 7B, подготовленные по руководству MiniGPT-4/PrepareVicuna.md. Репозиторий позволяет использовать эти веса без самостоятельного преобразования LLaMA-7B и vicuna-7b-delta-v0. По метаданным, модель построена на плотной архитектуре LLaMA с классом LlamaForCausalLM, содержит 6,6 млрд параметров, принимает текст и имеет контекст 2048 токенов.
Указанный авторами тег задачи — генерация текста; README не описывает дополнительные сценарии или мультимодальный интерфейс этой сборки. Доступные данные не содержат сведений о лицензии, поэтому условия использования по ним определить нельзя.
Сценарии применения
- генерация текста на основе текстового запроса
- использование подготовленных весов MiniGPT-4 в проекте на базе LLaMA 7B
- запуск модели без самостоятельного преобразования LLaMA-7B и vicuna-7b-delta-v0
Ограничения
README не раскрывает языковую поддержку, качество модели и лицензионные условия. Контекст модели ограничен 2048 токенами.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- 286bb48