/ Модель

Характеристики

Базовая модель
Qwen1.5-1.8B
Опубликована
27 июн 2025

Qwen-Qwen1.5-1.8B-GGUF

Генерация текстаТекст → текст9 профессий

Qwen-Qwen1.5-1.8B-GGUF — набор GGUF-квантизированных версий языковой модели Qwen1.5-1.8B, разработанный и подготовленный Featherless AI Quants на основе Qwen/Qwen1.5-1.8B.

918скачиваний за 30 дней0лайковвеса обновлены27 июн 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и локального или ресурсоэффективного запуска сценариев обработки естественного языка.

В репозитории представлены варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 807 МБ до 1,87 ГБ. Формат GGUF обеспечивает совместимость с программным обеспечением, поддерживающим этот формат, а выбор уровня квантизации позволяет балансировать между размером файлов, требованиями к памяти и сохранением качества. Архитектура, число параметров, поддерживаемые языки и размер контекста в README не указаны.

Сильной стороной набора является наличие нескольких вариантов квантизации для разных аппаратных ограничений и требований к качеству. Ограничения включают отсутствие подробной информации о характеристиках базовой модели, её языках, производительности и рекомендуемых сценариях применения. Лицензия в README не указана; условия использования следует уточнять в материалах базовой модели Qwen/Qwen1.5-1.8B.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen/Qwen1.5-1.8B GGUF Quantizations 🚀

Featherless AI Quants

Optimized GGUF quantization files for enhanced model performance

Powered by Featherless AI - run any model you'd like for a simple small fee.


Available Quantizations 📊

Quantization TypeFileSize
IQ4_XSQwen-Qwen1.5-1.8B-IQ4_XS.gguf1036.99 MB
Q2_KQwen-Qwen1.5-1.8B-Q2_K.gguf807.35 MB
Q3_K_LQwen-Qwen1.5-1.8B-Q3_K_L.gguf1007.27 MB
Q3_K_MQwen-Qwen1.5-1.8B-Q3_K_M.gguf968.82 MB
Q3_K_SQwen-Qwen1.5-1.8B-Q3_K_S.gguf909.40 MB
Q4_K_MQwen-Qwen1.5-1.8B-Q4_K_M.gguf1161.34 MB
Q4_K_SQwen-Qwen1.5-1.8B-Q4_K_S.gguf1104.61 MB
Q5_K_MQwen-Qwen1.5-1.8B-Q5_K_M.gguf1313.00 MB
Q5_K_SQwen-Qwen1.5-1.8B-Q5_K_S.gguf1266.31 MB
Q6_KQwen-Qwen1.5-1.8B-Q6_K.gguf1505.88 MB
Q8_0Qwen-Qwen1.5-1.8B-Q8_0.gguf1867.58 MB

⚡ Powered by Featherless AI

Key Features

  • 🔥 Instant Hosting - Deploy any Llama model on HuggingFace instantly
  • 🛠️ Zero Infrastructure - No server setup or maintenance required
  • 📚 Vast Compatibility - Support for 2400+ models and counting
  • 💎 Affordable Pricing - Starting at just $10/month

Links:
Get Started | Documentation | Models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
03e8045

0 моделей