Модель Llama на 32,3 млрд параметров для генерации ответов на текстовые инструкции в формате Alpaca.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Aeala/VicUnlocked-alpaca-30b — языковая модель семейства Llama, опубликованная Aeala. Это слияние модели VicUnlocked-alpaca-half-30b с LoRA-адаптером; модель содержит 32,3 млрд параметров и доступна в форматах PyTorch и Safetensors. Она предназначена для генерации текста по инструкциям в формате Alpaca: запрос помещается после «### Instruction:», а ответ начинается с «### Response:». Указана длина контекста 2048 токенов.
Модель подходит для диалоговых ответов и выполнения текстовых инструкций. В README приведены оценки perplexity на наборах WikiText-2, PTB и C4; отдельные результаты качества диалогов или инструкций не описаны. В метаданных лицензия и языки не указаны, поэтому условия использования и конкретный языковой охват по имеющимся сведениям определить нельзя.
Модель рассчитана на контекст до 2048 токенов и требует формата промпта Alpaca. Языковой охват, лицензия и оценки качества выполнения инструкций в предоставленных материалах не определены.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Merge of my VicUnlocked-alpaca-half-30b LoRA
Important Note: While this is trained on a cleaned ShareGPT dataset like Vicuna used, this was trained in the Alpaca format, so prompting should be something like:
### Instruction:
<prompt> (without the <>)
### Response:
wikitext2: 4.372413635253906 ptb-new: 24.69171714782715 c4-new: 6.469308853149414
Results generated with GPTQ evals (not quantized) thanks to Neko-Institute-of-Science
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…