/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
amoral-qwen3-14B
Опубликована
29 авг 2025

soob3123_amoral-qwen3-14B-GGUF

Генерация текстаТекст → текст3 профессии

Alcoft/soob3123_amoral-qwen3-14B-GGUF — набор GGUF-квантизаций модели soob3123/amoral-qwen3-14B, подготовленный пользователем Alcoft с помощью TAO71-AI AutoQuantizer.

492скачиваний за 30 дней0лайковвеса обновлены29 авг 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель относится к классу text-generation и предназначена для генерации текста, аналитических задач и сценариев, связанных с нейтрализацией предвзятости. В карточке также заявлены свойства uncensored, однако подробное описание поведения модели отсутствует.

Модель основана на Qwen3 14B; точные сведения об архитектуре, размере контекста, поддерживаемых модальностях и языках в карточке не приведены, за исключением указания английского языка. Доступны варианты от Q2_K до Q8_0, а также F16 и оригинальный BF16. Более низкие квантизации экономичнее по памяти, но автор оценивает их качество как низкое; варианты Q4–Q6 и Q8_0 отмечены как рекомендуемые, причём Q8_0 обеспечивает качество, близкое к F16.

Сильной стороной модели является широкий выбор квантизаций для запуска при разных ограничениях по памяти и компромиссам между размером и качеством. Ограничения включают отсутствие подробных результатов тестирования, неизвестный размер контекста и неполную информацию о языковых возможностях; качество также заметно зависит от выбранного варианта квантизации. В качестве источников обучения указаны soob3123/amoral_reasoning и TheDrummer/AmoralQA-v2. Лицензия — Apache 2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face
QuantSizeDescription
Q2_K5.36 GBNot recommended for most people. Very low quality.
Q2_K_L6.07 GBNot recommended for most people. Uses Q8_0 for output and embedding, and Q2_K for everything else. Very low quality.
Q2_K_XL7.42 GBNot recommended for most people. Uses F16 for output and embedding, and Q2_K for everything else. Very low quality.
Q3_K_S6.2 GBNot recommended for most people. Prefer any bigger Q3_K quantization. Low quality.
Q3_K_M6.82 GBNot recommended for most people. Low quality.
Q3_K_L7.36 GBNot recommended for most people. Low quality.
Q3_K_XL7.99 GBNot recommended for most people. Uses Q8_0 for output and embedding, and Q3_K_L for everything else. Low quality.
Q3_K_XXL9.35 GBNot recommended for most people. Uses F16 for output and embedding, and Q3_K_L for everything else. Low quality.
Q4_K_S7.98 GBRecommended. Slightly low quality.
Q4_K_M8.38 GBRecommended. Decent quality for most use cases.
Q4_K_L8.92 GBRecommended. Uses Q8_0 for output and embedding, and Q4_K_M for everything else. Decent quality.
Q4_K_XL10.28 GBRecommended. Uses F16 for output and embedding, and Q4_K_M for everything else. Decent quality.
Q5_K_S9.56 GBRecommended. High quality.
Q5_K_M9.79 GBRecommended. High quality.
Q5_K_L10.24 GBRecommended. Uses Q8_0 for output and embedding, and Q5_K_M for everything else. High quality.
Q5_K_XL11.6 GBRecommended. Uses F16 for output and embedding, and Q5_K_M for everything else. High quality.
Q6_K11.29 GBRecommended. Very high quality.
Q6_K_L11.64 GBRecommended. Uses Q8_0 for output and embedding, and Q6_K for everything else. Very high quality.
Q6_K_XL13.0 GBRecommended. Uses F16 for output and embedding, and Q6_K for everything else. Very high quality.
Q8_014.62 GBRecommended. Quality almost like F16.
Q8_K_XL15.98 GBRecommended. Uses F16 for output and embedding, and Q8_0 for everything else. Quality almost like F16.
F1627.51 GBNot recommended. Overkill. Prefer Q8_0.
ORIGINAL (BF16)27.51 GBNot recommended. Overkill. Prefer Q8_0.

Quantized using TAO71-AI AutoQuantizer. You can check out the original model card here.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
a4478ce

0 моделей