/ Модель

Характеристики

Базовая модель
French-Alpaca-Llama3-8B-Instruct-v1.0
Опубликована
29 окт 2024

jpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-GGUF

Генерация текстаТекст → текст5 профессий

Это набор GGUF-квантизованных версий jpacifico/French-Alpaca-Llama3-8B-Instruct-v1.0, подготовленный командой featherless-ai-quants.

809скачиваний за 30 дней0лайковвеса обновлены29 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель относится к классу text-generation и предназначена для генерации текста и выполнения инструкций в сценариях, совместимых с Llama 3. В README не указаны точные языковые возможности, размер контекста, поддерживаемые модальности и результаты оценки качества.

Доступны варианты квантизации Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, Q5_K_S, Q5_K_M, Q6_K, Q8_0 и IQ4_XS. Размер файлов составляет примерно от 3,0 до 8,1 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества исходной 8B-модели. Формат GGUF обычно ориентирован на локальный запуск в совместимых инструментах, однако конкретные требования к программному обеспечению в README не указаны.

Сильной стороной набора является широкий выбор уровней квантизации и возможность адаптировать модель под доступные аппаратные ресурсы. Ограничения и характеристики исходной модели, включая качество на французском и других языках, в предоставленных данных не описаны. Лицензия также не указана, поэтому условия использования необходимо уточнять в карточке базовой модели jpacifico/French-Alpaca-Llama3-8B-Instruct-v1.0.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

jpacifico/French-Alpaca-Llama3-8B-Instruct-v1.0 GGUF Quantizations 🚀

Featherless AI Quants

Optimized GGUF quantization files for enhanced model performance


Available Quantizations 📊

Quantization TypeFileSize
Q8_0jpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-Q8_0.gguf8145.11 MB
Q4_K_Sjpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-Q4_K_S.gguf4475.28 MB
Q2_Kjpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-Q2_K.gguf3031.86 MB
Q6_Kjpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-Q6_K.gguf6290.44 MB
Q3_K_Mjpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-Q3_K_M.gguf3832.74 MB
Q3_K_Sjpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-Q3_K_S.gguf3494.74 MB
Q3_K_Ljpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-Q3_K_L.gguf4121.74 MB
Q4_K_Mjpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-Q4_K_M.gguf4692.78 MB
Q5_K_Sjpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-Q5_K_S.gguf5339.90 MB
Q5_K_Mjpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-Q5_K_M.gguf5467.40 MB
IQ4_XSjpacifico-French-Alpaca-Llama3-8B-Instruct-v1.0-IQ4_XS.gguf4276.62 MB

⚡ Powered by Featherless AI

Key Features

  • 🔥 Instant Hosting - Deploy any Llama model on HuggingFace instantly
  • 🛠️ Zero Infrastructure - No server setup or maintenance required
  • 📚 Vast Compatibility - Support for 2400+ models and counting
  • 💎 Affordable Pricing - Starting at just $10/month

Links:
Get Started | Documentation | Models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
8c3d6a8

0 моделей