This contains the weights for the LLaMA-65b model. This model is under a non-commercial license (see the LICENSE file). You should only use this repository if you have been granted access to the model by filling out this form but either lost your copy of the weights or got some trouble converting them to the Transformers format.
Характеристики
- Контекст
- 2 048 токенов
- Параметры
- 65 млрд
- Размер весов
- 261 ГБ
- Лицензия
- Своя лицензия
- Архитектура
- llama · dense
- Опубликована
- 4 апр 2023
Ссылки
llama-65b
Преобразованные веса LLaMA-65B для генерации текста с использованием Transformers.
1 845скачиваний за 30 дней78лайковвеса обновлены7 апр 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки6
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат0,3078
Open LLM v2 · архивПубличная таблицаревизия совпадает
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат0,031
Open LLM v2 · архивПубличная таблицаревизия совпадает
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
huggyllama/llama-65b содержит веса языковой модели LLaMA-65B, преобразованные для использования с библиотекой Transformers. Репозиторий предназначен для пользователей, которым уже предоставили доступ к исходным весам и которым нужна их копия или помощь с преобразованием в формат Transformers.
Модель с плотной архитектурой LLaMA и примерно 65 млрд параметров предназначена для генерации текста. Доступны веса в форматах PyTorch и Safetensors. Лицензия некоммерческая; для доступа к исходным весам требуется разрешение.
Сценарии применения
- генерация текста по запросу
- продолжение заданного текста
- подготовка черновиков и формулировок
- эксперименты с большой языковой моделью LLaMA
Ограничения
Лицензия допускает только некоммерческое использование, а доступ к исходным весам требует разрешения. README не описывает настройку диалога или специализированные возможности модели.
Для каких профессий подходит6
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельII.1Разработка и данныеАнализ требований и архитектура ПОAI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения.20 задач18 191модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- 49707c5