QuantFactory/Llama2-7B-Hindi-finetuned-GGUF — квантованная версия модели subhrokomol/Llama2-7B-Hindi-finetuned, созданная с использованием llama.cpp на базе Meta Llama 2 7B.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации текста, прежде всего на хинди, и может использоваться в сценариях продолжения текста и других задачах text-generation. В карточке также указаны английский и хинди как поддерживаемые языки, а также метрика perplexity.
Модель дообучалась с помощью Hugging Face PEFT-LoRA и PyTorch на 1% набора данных zicsx/mC4-Hindi-Cleaned-3.0. Обучение проводилось в течение 3 часов на GPU RTX A500 с 24 ГБ памяти. Квантование должно снижать требования к ресурсам по сравнению с исходной моделью, однако конкретный формат квантования, размер файлов, поддерживаемый размер контекста и точные характеристики производительности в README не указаны. Лицензия — Apache-2.0.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is quantized version of subhrokomol/Llama2-7B-Hindi-finetuned created using llama.cpp
This model was trained on 24GB of RTX A500 on zicsx/mC4-Hindi-Cleaned-3.0 dataset (1%) for 3 hours.
We used Hugging Face PEFT-LoRA PyTorch for training.
Transtokenization process in --
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.
