QuantFactory/L3.1-Storniitova-8B-GGUF
This is quantized version of ausboss/llama7b-wizardlm-unfiltered created using llama.cpp
QuantFactory/llama7b-wizardlm-unfiltered-GGUF — квантизированная версия языковой модели ausboss/llama7b-wizardlm-unfiltered, подготовленная QuantFactory с использованием llama.cpp.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации текста и соответствует задаче text-generation.
Из доступных данных известно, что в основе лежит модель семейства Llama с заявленным размером 7B параметров и вариантом WizardLM Unfiltered. Формат GGUF предназначен для использования в совместимых инструментах локального запуска, включая llama.cpp. Конкретный метод и уровень квантизации, поддерживаемые языки, размер контекста, модальности и аппаратные требования в карточке не указаны.
Модель может быть полезна для локальной генерации текста и экспериментов с открытыми языковыми моделями. Ограничения включают отсутствие подробных сведений о качестве, языковой поддержке, безопасности, лицензии и точных характеристиках данного квантизированного варианта; перед применением необходимо проверить условия распространения исходной модели и совместимость выбранного файла с используемым программным обеспечением.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is quantized version of ausboss/llama7b-wizardlm-unfiltered created using llama.cpp
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.