Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это набор файлов GGUF с разными вариантами квантования модели Edgerunners/meta-llama-3-8b-instruct-hf-ortho-baukit-34fail-3000total-bf16. Репозиторий содержит варианты Q8_0, Q4_K_S и Q2_K; метаданные также указывают формат GGUF BF16. Базовая модель — дообученная Meta Llama 3 8B Instruct с дополнительными изменениями, отражёнными в названии исходного чекпойнта.
Модель предназначена для диалоговой генерации текста и может использоваться в чат-приложениях и локальных средах вывода, совместимых с GGUF. README перечисляет несколько вариантов размера и точности квантования, что позволяет выбирать между требованиями к ресурсам и точностью. Поддерживаемый язык, длина контекста и условия лицензии в предоставленных источниках не описаны.
Сценарии применения
диалоговые ответы в чат-приложении
локальный запуск языковой модели в совместимой среде GGUF
генерация текста при ограниченных ресурсах с выбором уровня квантования
Ограничения
README не сообщает поддерживаемые языки, длину контекста или результаты оценки качества; квантование с меньшей точностью может влиять на качество генерации.
Для каких профессий подходит6
Разделы каталога профессий, в задачах которых используется эта модель
