/ Модель

Характеристики

Опубликована
14 сен 2024

llama7b-wizardlm-unfiltered-GGUF

Генерация текстаТекст → текст5 профессий

QuantFactory/llama7b-wizardlm-unfiltered-GGUF — квантизированная версия языковой модели ausboss/llama7b-wizardlm-unfiltered, подготовленная QuantFactory с использованием llama.cpp.

1 915скачиваний за 30 дней2лайкавеса обновлены14 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и соответствует задаче text-generation.

Из доступных данных известно, что в основе лежит модель семейства Llama с заявленным размером 7B параметров и вариантом WizardLM Unfiltered. Формат GGUF предназначен для использования в совместимых инструментах локального запуска, включая llama.cpp. Конкретный метод и уровень квантизации, поддерживаемые языки, размер контекста, модальности и аппаратные требования в карточке не указаны.

Модель может быть полезна для локальной генерации текста и экспериментов с открытыми языковыми моделями. Ограничения включают отсутствие подробных сведений о качестве, языковой поддержке, безопасности, лицензии и точных характеристиках данного квантизированного варианта; перед применением необходимо проверить условия распространения исходной модели и совместимость выбранного файла с используемым программным обеспечением.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
379a1e0

0 моделей