LoRA-адаптер для Llama 2 13B, предназначенный для разговорной генерации текста и выполнения инструкций на испанском языке.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это LoRA-адаптер marianbasti для Llama 2 13B, обученный на переведённом наборе Alpaca на испанском языке. Он предназначен для разговорной генерации текста и должен применяться вместе с базовой моделью TheBloke/Llama-2-13B-fp16. В метаданных указаны архитектура LlamaForCausalLM, 12,9 млрд параметров у базовой модели, контекст 4096 токенов и библиотека Transformers; репозиторий содержит веса PyTorch.
Адаптер нацелен на улучшение ответов Llama 2 на испанском и подходит для диалогов и выполнения инструкций на испанском языке. Автор сообщает об обучении в течение 0,75 эпохи с learning rate 2e-5 и LoRA scale 2. Для использования требуется базовая модель; сведения о лицензии указаны как llama2, поэтому применяются условия лицензии Llama 2.
Это LoRA-адаптер, которому для работы необходима базовая модель Llama 2 13B. README описывает короткое обучение на переведённом наборе Alpaca, но не приводит результаты оценки качества.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a LoRA for Llama 2 13B trained on a translated alpaca dataset on an attempt to improve spanish performance of the Llama-2 foundation model with a conversational focus.
Base model used was The Bloke's Llama-2-13B-fp16 trained in 4bit precision with an added padding token.
| Training parameteres | |
|---|---|
| LoRA scale | 2 |
| Epochs | 0.75 |
| Learning Rate | 2e-5 |
| Warmup Steps | 100 |
| Loss | 1.07 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…