/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Smoothie-Qwen3-0.6B
Опубликована
10 сен 2025

dnotitia_Smoothie-Qwen3-0.6B-GGUF

Генерация текстаТекст → текст3 профессии

Alcoft/dnotitia_Smoothie-Qwen3-0.6B-GGUF — это GGUF-квантизации языковой модели dnotitia/Smoothie-Qwen3-0.6B, разработанной dnotitia и подготовленной пользователем Alcoft.

788скачиваний за 30 дней0лайковвеса обновлены10 сен 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста, диалоговых сценариев, чат-приложений и задач, связанных с рассуждением. В README указана поддержка английского языка и текстовая модальность; точная архитектура, длина контекста и дополнительные языки не раскрыты.

Доступны варианты квантования от Q2_K до Q8_K с размером файлов примерно от 209 до 648 МБ. Более компактные варианты Q2 и Q3 характеризуются очень низким качеством и не рекомендуются для большинства пользователей. Рекомендуемыми считаются варианты Q4_K_M и выше: Q4 обеспечивают приемлемое качество для большинства сценариев, Q5 — высокое, а Q6 — очень высокое при большем потреблении памяти. Варианты с суффиксами L и XL используют более точные форматы для выходных и embedding-слоёв.

Главное преимущество модели — небольшой размер и наличие множества уровней квантования, позволяющих выбирать баланс между качеством, скоростью и требованиями к памяти. Ограничения — малый размер базовой модели, отсутствие заявленных мультимодальных возможностей и недостаточное количество сведений о производительности, контексте и архитектуре; низкобитные варианты могут заметно терять качество. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face
QuantSizeDescription
Q2_K_XXS209.49 MBNot recommended for most people. Extremelly low quality.
Q2_K_XS209.49 MBNot recommended for most people. Very low quality.
Q2_K209.49 MBNot recommended for most people. Very low quality.
Q2_K_L318.45 MBNot recommended for most people. Uses Q8_0 for output and embedding, and Q2_K for everything else. Very low quality.
Q2_K_XL457.55 MBNot recommended for most people. Uses F16 for output and embedding, and Q2_K for everything else. Very low quality.
Q3_K_XXS250.15 MBNot recommended for most people. Prefer any bigger Q3_K quantization. Very low quality.
Q3_K_XS250.15 MBNot recommended for most people. Prefer any bigger Q3_K quantization. Very low quality.
Q3_K_S250.15 MBNot recommended for most people. Prefer any bigger Q3_K quantization. Low quality.
Q3_K_M273.09 MBNot recommended for most people. Low quality.
Q3_K_L293.46 MBNot recommended for most people. Low quality.
Q3_K_XL387.36 MBNot recommended for most people. Uses Q8_0 for output and embedding, and Q3_K_L for everything else. Low quality.
Q3_K_XXL526.46 MBNot recommended for most people. Uses F16 for output and embedding, and Q3_K_L for everything else. Low quality.
Q4_K_XS327.26 MBLower quality than Q4_K_S.
Q4_K_S327.26 MBRecommended. Slightly low quality.
Q4_K_M340.07 MBRecommended. Decent quality for most use cases.
Q4_K_L414.26 MBRecommended. Uses Q8_0 for output and embedding, and Q4_K_M for everything else. Decent quality.
Q4_K_XL553.36 MBRecommended. Uses F16 for output and embedding, and Q4_K_M for everything else. Decent quality.
Q5_K_XXS396.68 MBLower quality than Q5_K_S.
Q5_K_XS396.68 MBLower quality than Q5_K_S.
Q5_K_S396.68 MBRecommended. High quality.
Q5_K_M404.12 MBRecommended. High quality.
Q5_K_L459.76 MBRecommended. Uses Q8_0 for output and embedding, and Q5_K_M for everything else. High quality.
Q5_K_XL598.86 MBRecommended. Uses F16 for output and embedding, and Q5_K_M for everything else. High quality.
Q6_K_S472.17 MBLower quality than Q6_K.
Q6_K472.17 MBRecommended. Very high quality.
Q6_K_L508.11 MBRecommended. Uses Q8_0 for output and embedding, and Q6_K for everything else. Very high quality.
Q6_K_XL647.21 MBRecommended. Uses F16 for output and embedding, and Q6_K for everything else. Very high quality.
Q8_K_XS609.82 MBLower quality than Q8_0.
Q8_K_S609.82 MBLower quality than Q8_0.
Q8_0609.82 MBRecommended. Quality almost like F16.
Q8_K_XL748.93 MBRecommended. Uses F16 for output and embedding, and Q8_0 for everything else. Quality almost like F16.
F161.12 GBNot recommended. Overkill. Prefer Q8_0.
ORIGINAL (BF16)1.12 GBNot recommended. Overkill. Prefer Q8_0.

Quantized using TAO71-AI AutoQuantizer. You can check out the original model card here.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
8ccecc0

0 моделей