Характеристики

Лицензия: Llama 3.2
Базовая модель: Llama-3.2-3B-Thai_CRM
Опубликована: 7 окт 2026

Ссылки

Llama-3.2-3B-Thai-CRM-GGUF

Генерация текстаТекст → текст

GGUF-квантизация дообученной Llama 3.2 на 3 млрд параметров для CRM-диалогов, деловой коммуникации и анализа клиентов на тайском и английском языках.

1 065скачиваний за 30 дней1лайквеса обновлены7 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это GGUF-версия модели yothinS/Llama-3.2-3B-Thai_CRM, дообученной для задач CRM, деловой коммуникации на тайском языке и анализа поведения клиентов. Модель семейства Llama 3.2 содержит 3 млрд параметров; в репозитории доступны варианты квантования GGUF, включая Q2_K, Q3_K_M, Q4_K_M и Q5_K_M. Для запуска подходят llama.cpp, Ollama и LM Studio, в том числе на локальном компьютере с CPU или GPU.

Модель предназначена для генерации ответов в CRM-сценариях, подготовки деловых сообщений и анализа клиентских взаимодействий на тайском и английском языках. Карточка рекомендует Q4_K_M как баланс размера, скорости и качества. Сильная сторона модели — специализация на тайском CRM-контексте; варианты с низким битрейтом могут заметно терять качество, особенно в сложных рассуждениях и разборе тайских предложений. Лицензия — Llama 3.2.

Сценарии применения

подготовка ответов клиентам в CRM
составление деловых сообщений на тайском языке
анализ поведения клиентов
подготовка стратегий удержания клиентов
локальный запуск CRM-ассистента на CPU или GPU

Ограничения

В README указано, что варианты Q2_K и Q3_K_M снижают качество, особенно при сложных рассуждениях; для сложного разбора тайских предложений рекомендуется Q5_K_M. Размер контекстного окна не указан.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama-3.2-3B-Thai_CRM - GGUF

This repository contains GGUF quantized weights for yothinS/Llama-3.2-3B-Thai_CRM, a model fine-tuned for Customer Relationship Management (CRM) workflows, Thai business communications, and customer behavioral analysis.

GGUF files can be run locally on CPU, Apple Silicon, or NVIDIA/AMD GPUs via llama.cpp, Ollama, LM Studio, or carrany/text-generation-webui.

Available Files & Quantization Comparison

Filename	Quant Type	File Size	Recommended RAM/VRAM	Quality / Use Case
`Llama-3.2-3B-Thai_CRM.Q2_K.gguf`	2-bit (Q2_K)	1.36 GB	~3.0 GB	Significant quality loss; ultra low-memory testing only.
`Llama-3.2-3B-Thai_CRM.Q3_K_M.gguf`	3-bit (Q3_K_M)	1.69 GB	~3.5 GB	Low resource usage; noticeable loss in complex reasoning.
`Llama-3.2-3B-Thai_CRM.Q4_K_M.gguf`	4-bit (Q4_K_M)	2.02 GB	~4.0 GB	Recommended balance of quality, generation speed, and size.
`Llama-3.2-3B-Thai_CRM.Q5_K_M.gguf`	5-bit (Q5_K_M)	2.32 GB	~4.5 GB	High fidelity; preserves nuance in Thai token generation.
`Llama-3.2-3B-Thai_CRM.Q6_K.gguf`	6-bit (Q6_K)	2.64 GB	~5.0 GB	Very close to original 16-bit performance with minor savings.
`Llama-3.2-3B-Thai_CRM.Q8_0.gguf`	8-bit (Q8_0)	3.42 GB	~5.8 GB	Near-identical output to unquantized FP16/BF16 weights.

Recommendation: Start with Q4_K_M for general deployment, or Q5_K_M if you require higher accuracy on complex Thai sentence parsing.

How to Run

1. Using `llama.cpp` CLI

Download your chosen GGUF file using the Hugging Face CLI:

huggingface-cli download yothinS/Llama-3.2-3B-Thai_CRM-GGUF Llama-3.2-3B-Thai_CRM.Q4_K_M.gguf --local-dir .

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов: 0004a3d