/ Модель

Характеристики

Базовая модель
llama-3-aaditya-OpenBioLLM-8B
Опубликована
31 окт 2024

grimjim-llama-3-aaditya-OpenBioLLM-8B-GGUF

Генерация текстаТекст → текст3 профессии

grimjim-llama-3-aaditya-OpenBioLLM-8B-GGUF — это набор GGUF-квантизованных файлов базовой модели grimjim/llama-3-aaditya-OpenBioLLM-8B, подготовленный featherless-ai-quants.

767скачиваний за 30 дней0лайковвеса обновлены31 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель относится к классу text-generation и предназначена для генерации текста. По названию базовой модели можно предположить специализацию на биомедицинской тематике, однако README не содержит подробного описания обучающих данных, целевых сценариев или результатов оценки.

Доступны варианты квантизации Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0 размером примерно от 3 до 8 ГБ. Это позволяет выбирать компромисс между размером файла, требованиями к ресурсам и потенциальным сохранением качества. Архитектура, точное число параметров, поддерживаемые языки, длина контекста и модальности в README не указаны; из идентификатора базовой модели следует только обозначение 8B и принадлежность к семейству Llama 3.

Сильной стороной набора является широкий выбор уровней квантизации и формат GGUF, ориентированный на локальное или ресурсно-ограниченное развертывание совместимыми инструментами. Ограничения включают отсутствие сведений о качестве, безопасности, языковой поддержке, производительности и медицинской надежности модели. Лицензия и условия использования в README не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

grimjim/llama-3-aaditya-OpenBioLLM-8B GGUF Quantizations 🚀

Featherless AI Quants

Optimized GGUF quantization files for enhanced model performance

Powered by Featherless AI - run any model you'd like for a simple small fee.


Available Quantizations 📊

Quantization TypeFileSize
Q8_0grimjim-llama-3-aaditya-OpenBioLLM-8B-Q8_0.gguf8145.11 MB
Q4_K_Sgrimjim-llama-3-aaditya-OpenBioLLM-8B-Q4_K_S.gguf4475.28 MB
Q2_Kgrimjim-llama-3-aaditya-OpenBioLLM-8B-Q2_K.gguf3031.86 MB
Q6_Kgrimjim-llama-3-aaditya-OpenBioLLM-8B-Q6_K.gguf6290.44 MB
Q3_K_Mgrimjim-llama-3-aaditya-OpenBioLLM-8B-Q3_K_M.gguf3832.74 MB
Q3_K_Sgrimjim-llama-3-aaditya-OpenBioLLM-8B-Q3_K_S.gguf3494.74 MB
Q3_K_Lgrimjim-llama-3-aaditya-OpenBioLLM-8B-Q3_K_L.gguf4121.74 MB
Q4_K_Mgrimjim-llama-3-aaditya-OpenBioLLM-8B-Q4_K_M.gguf4692.78 MB
Q5_K_Sgrimjim-llama-3-aaditya-OpenBioLLM-8B-Q5_K_S.gguf5339.90 MB
Q5_K_Mgrimjim-llama-3-aaditya-OpenBioLLM-8B-Q5_K_M.gguf5467.40 MB
IQ4_XSgrimjim-llama-3-aaditya-OpenBioLLM-8B-IQ4_XS.gguf4276.62 MB

⚡ Powered by Featherless AI

Key Features

  • 🔥 Instant Hosting - Deploy any Llama model on HuggingFace instantly
  • 🛠️ Zero Infrastructure - No server setup or maintenance required
  • 📚 Vast Compatibility - Support for 2400+ models and counting
  • 💎 Affordable Pricing - Starting at just $10/month

Links:
Get Started | Documentation | Models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
92e1541

0 моделей