LoRA-адаптер в формате GGUF F16 для генерации текста через llama.cpp вместе с базовой моделью.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
eravery/lora2-F16-GGUF — LoRA-адаптер, преобразованный в формат GGUF F16 для использования с llama.cpp. Он предназначен для генерации текста с подключённой базовой моделью; адаптер загружается вместе с файлом базовой модели через llama-cli или llama-server. В метаданных базовой дообученной модели указан идентификатор eravery/lora2, а среди тегов — связь с unsloth/qwen3-14b-base-unsloth-bnb-4bit.
Дополнительные сведения о назначении и обучении адаптера находятся в карточке исходного репозитория. Лицензия в предоставленных данных не указана.
Адаптер требует совместимую базовую модель и сам по себе не является полноценной моделью. Назначение адаптера и лицензия в предоставленных данных не описаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This LoRA adapter was converted to GGUF format from eravery/lora2 via the ggml.ai's GGUF-my-lora space.
Refer to the original adapter repository for more details.
# with cli
llama-cli -m base_model.gguf --lora lora2-f16.gguf (...other args)
# with server
llama-server -m base_model.gguf --lora lora2-f16.gguf (...other args)
To know more about LoRA usage with llama.cpp server, refer to the llama.cpp server documentation.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · peft
Репозиторий содержит только адаптер (LoRA/PEFT) без базовой модели.