This contains the weights for the LLaMA-7b model. This model is under a non-commercial license (see the LICENSE file). You should only use this repository if you have been granted access to the model by filling out this form but either lost your copy of the weights or got some trouble converting them to the Transformers format.
Характеристики
- Контекст
- 2 048 токенов
- Параметры
- 6,6 млрд
- Размер весов
- 27 ГБ
- Лицензия
- Своя лицензия
- Архитектура
- llama · dense
- Опубликована
- 3 апр 2023
Ссылки
llama-7b
LLaMA-7B — языковая модель на 6,6 млрд параметров для генерации текста и диалоговых сценариев.
253 тыс.скачиваний за 30 дней360лайковвеса обновлены2 июл 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки6
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат0,1313
Open LLM v2 · архивПубличная таблицаревизия совпадает
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат0,0083
Open LLM v2 · архивПубличная таблицаревизия совпадает
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Репозиторий Huggyllama содержит веса модели LLaMA-7B — плотной авторегрессионной языковой модели класса LlamaForCausalLM с 6,6 млрд параметров. Контекст модели составляет 2048 токенов; веса доступны в форматах PyTorch и safetensors. Репозиторий предназначен для тех, кто уже получил доступ к LLaMA и потерял исходные веса либо столкнулся с проблемами при их конвертации в формат Transformers.
Модель выполняет генерацию текста и может использоваться для диалоговых сценариев, а также для других задач на основе продолжения текста. Карточка не сообщает о специальной настройке под конкретные области или языки. Лицензия некоммерческая; доступ к модели ограничен условиями получения исходной LLaMA.
Сценарии применения
- генерация продолжения текста
- создание диалогового помощника
- ответы на текстовые запросы
- развёртывание LLaMA в Transformers
Ограничения
Контекст ограничен 2048 токенами. Лицензия некоммерческая, а использование репозитория предполагает, что пользователь получил доступ к исходной модели LLaMA.
Для каких профессий подходит6
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- 4782ad2