This contains the weights for the LLaMA-13b model. This model is under a non-commercial license (see the LICENSE file). You should only use this repository if you have been granted access to the model by filling out this form but either lost your copy of the weights or got some trouble converting them to the Transformers format.
Характеристики
- Контекст
- 2 048 токенов
- Параметры
- 12,9 млрд
- Размер весов
- 52,1 ГБ
- Лицензия
- Своя лицензия
- Архитектура
- llama · dense
- Опубликована
- 3 апр 2023
Ссылки
llama-13b
Веса языковой модели LLaMA-13B в формате Transformers для генерации текста при наличии разрешения на доступ.
3 167скачиваний за 30 дней145лайковвеса обновлены7 апр 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки6
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат0,1952
Open LLM v2 · архивПубличная таблицаревизия совпадает
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат0,0204
Open LLM v2 · архивПубличная таблицаревизия совпадает
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это веса языковой модели LLaMA-13B, опубликованные в формате Transformers пользователем Huggyllama. Репозиторий предназначен для тех, кому уже предоставили доступ к модели, но кто потерял копию весов или столкнулся с трудностями при их конвертации в формат Transformers.
Модель имеет плотную архитектуру LLaMA с авторегрессионной языковой головой и содержит 12,9 млрд параметров. Она генерирует текст; заявленная длина контекста — 2048 токенов. В репозитории представлены веса PyTorch и Safetensors.
Лицензия ограничивает использование некоммерческими целями, а доступ к весам требует предварительного разрешения. README не уточняет языковой охват и качество модели.
Сценарии применения
- генерация продолжения текста
- подготовка черновиков и вариантов формулировок
- эксперименты с авторегрессионными языковыми моделями
- запуск LLaMA-13B в проектах на Transformers
Ограничения
Контекст ограничен 2048 токенами. Использование некоммерческое и требует предварительно предоставленного доступа к весам.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- bf57045