/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Smoothie-Qwen3-1.7B
Опубликована
10 сен 2025

dnotitia_Smoothie-Qwen3-1.7B-GGUF

Генерация текстаТекст → текст6 профессий

Alcoft/dnotitia_Smoothie-Qwen3-1.7B-GGUF — это квантованная GGUF-версия языковой модели dnotitia/Smoothie-Qwen3-1.7B, опубликованная пользователем Alcoft.

1 336скачиваний за 30 дней1лайквеса обновлены10 сен 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста, диалоговых сценариев, задач NLP и приложений, где важны общение и рассуждение. В README указана поддержка английского языка и текстовая модальность.

Модель имеет заявленный размер 1,7 млрд параметров и поставляется в различных вариантах квантования от Q2_K до Q8_K. Размер файлов составляет примерно от 596 МБ до 1,71 ГБ. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5_K_M или Q6_K: они обеспечивают соответственно приемлемое, высокое и очень высокое качество при разных требованиях к памяти. Варианты Q2 и Q3 характеризуются как низкокачественные и не рекомендуются для большинства пользователей.

README не содержит сведений об архитектуре, размере контекста, точных характеристиках обучения, производительности и ограничениях по скорости. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face
QuantSizeDescription
Q2_K_XXS595.71 MBNot recommended for most people. Extremelly low quality.
Q2_K_XS595.71 MBNot recommended for most people. Very low quality.
Q2_K595.71 MBNot recommended for most people. Very low quality.
Q2_K_L813.63 MBNot recommended for most people. Uses Q8_0 for output and embedding, and Q2_K for everything else. Very low quality.
Q2_K_XL1.07 GBNot recommended for most people. Uses F16 for output and embedding, and Q2_K for everything else. Very low quality.
Q3_K_XXS711.16 MBNot recommended for most people. Prefer any bigger Q3_K quantization. Very low quality.
Q3_K_XS711.16 MBNot recommended for most people. Prefer any bigger Q3_K quantization. Very low quality.
Q3_K_S711.16 MBNot recommended for most people. Prefer any bigger Q3_K quantization. Low quality.
Q3_K_M780.1 MBNot recommended for most people. Low quality.
Q3_K_L841.1 MBNot recommended for most people. Low quality.
Q3_K_XL1.0 GBNot recommended for most people. Uses Q8_0 for output and embedding, and Q3_K_L for everything else. Low quality.
Q3_K_XXL1.28 GBNot recommended for most people. Uses F16 for output and embedding, and Q3_K_L for everything else. Low quality.
Q4_K_XS934.57 MBLower quality than Q4_K_S.
Q4_K_S934.57 MBRecommended. Slightly low quality.
Q4_K_M979.6 MBRecommended. Decent quality for most use cases.
Q4_K_L1.1 GBRecommended. Uses Q8_0 for output and embedding, and Q4_K_M for everything else. Decent quality.
Q4_K_XL1.37 GBRecommended. Uses F16 for output and embedding, and Q4_K_M for everything else. Decent quality.
Q5_K_XXS1.11 GBLower quality than Q5_K_S.
Q5_K_XS1.11 GBLower quality than Q5_K_S.
Q5_K_S1.11 GBRecommended. High quality.
Q5_K_M1.13 GBRecommended. High quality.
Q5_K_L1.24 GBRecommended. Uses Q8_0 for output and embedding, and Q5_K_M for everything else. High quality.
Q5_K_XL1.51 GBRecommended. Uses F16 for output and embedding, and Q5_K_M for everything else. High quality.
Q6_K_S1.32 GBLower quality than Q6_K.
Q6_K1.32 GBRecommended. Very high quality.
Q6_K_L1.39 GBRecommended. Uses Q8_0 for output and embedding, and Q6_K for everything else. Very high quality.
Q6_K_XL1.66 GBRecommended. Uses F16 for output and embedding, and Q6_K for everything else. Very high quality.
Q8_K_XS1.71 GBLower quality than Q8_0.
Q8_K_S1.71 GBLower quality than Q8_0.
Q8_01.71 GBRecommended. Quality almost like F16.
Q8_K_XL1.98 GBRecommended. Uses F16 for output and embedding, and Q8_0 for everything else. Quality almost like F16.
F163.21 GBNot recommended. Overkill. Prefer Q8_0.
ORIGINAL (BF16)3.21 GBNot recommended. Overkill. Prefer Q8_0.

Quantized using TAO71-AI AutoQuantizer. You can check out the original model card here.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
d71d667

0 моделей