/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
65 млрд
Размер весов
131 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
19 апр 2023

alpaca-lora-65B-HF

Генерация текстаТекст → текст9 профессий

Дообученная на инструкциях текстовая модель семейства LLaMA с 65 млрд параметров для генерации ответов и диалогов.

208скачиваний за 30 дней3лайкавеса обновлены5 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TheBloke/alpaca-lora-65B-HF — версия модели alpaca-lora-65B в формате Hugging Face Transformers, опубликованная TheBloke. Это плотная авторегрессионная модель семейства LLaMA с 65 млрд параметров, предназначенная для генерации текста и диалоговых ответов по инструкциям. В README указано, что это объединённая модель без квантования; исходная карточка changsung не предоставлена, а происхождение и вариант обучающих данных автор README точно установить не смог. Предположительно, модель дообучена на данных Alpaca.

Модель принимает текст и генерирует текст. Указанная длина контекста — 2048 токенов. Репозиторий содержит веса PyTorch и распространяется с лицензией, обозначенной как «other»; конкретные условия использования по имеющимся сведениям определить нельзя. Возможности и качество следует оценивать с учётом отсутствия исходной карточки модели и неопределённости в данных обучения.

Сценарии применения

  • ответы на вопросы в диалоге
  • выполнение текстовых инструкций
  • создание черновиков и продолжение текста

Ограничения

Исходная карточка не предоставлена, поэтому точный рецепт дообучения и использованный вариант данных Alpaca не подтверждены. Лицензия указана как «other», а конкретные условия использования в доступных сведениях не раскрыты.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Quantised GGMLs of alpaca-lora-65B

Merged, unquantised HF repo of changsung's alpaca-lora-65B.

Discord

For further support, and discussions on these models and AI in general, join us at:

TheBloke AI's Discord server

Thanks, and how to contribute.

Thanks to the chirper.ai team!

I've had a lot of people ask if they can contribute. I enjoy providing models and helping people, and would love to be able to spend even more time doing it, as well as expanding into new projects like fine tuning/training.

If you're able and willing to contribute it will be most gratefully received and will help me to keep providing more models, and to start work on new AI projects.

Donaters will get priority support on any and all AI/LLM/model questions and requests, access to a private Discord room, plus other benefits.

Patreon special mentions: Aemon Algiz, Dmitriy Samsonov, Nathan LeClaire, Trenton Dambrowitz, Mano Prime, David Flickinger, vamX, Nikolai Manek, senxiiz, Khalefa Al-Ahmad, Illia Dulskyi, Jonathan Leane, Talal Aujan, V. Lukas, Joseph William Delisle, Pyrater, Oscar Rangel, Lone Striker, Luke Pendergrass, Eugene Pentland, Sebastain Graf, Johann-Peter Hartman.

Thank you to all my generous patrons and donaters!

Original model card not provided

No model card was provided in changsung's original repository.

Based on the name, I assume this is the result of fine tuning using the original GPT 3.5 Alpaca dataset. It is unknown as to whether the original Stanford data was used, or the cleaned tloen/alpaca-lora variant.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
113b61b

0 моделей