Характеристики

Лицензия: Apache 2.0
Базовая модель: QaptaanLM-0.75B
Опубликована: 30 авг 2026

Ссылки

Hugging Face

QaptaanLM-0.75B-GGUF

kaptaan45

Генерация текстаТекст → текст3 профессии

QaptaanLM-0.75B-GGUF — набор официальных квантованных форматов модели QaptaanLM-0.75B, разработанной kaptaan45.

522скачиваний за 30 дней0лайковвеса обновлены1 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это базовая CPT-модель, предназначенная прежде всего для быстрого автодополнения программного кода и Fill-in-the-Middle в локальных IDE и средах на устройствах с ограниченными ресурсами. Репозиторий предоставляет файлы в формате GGUF для запуска через llama.cpp и совместимых инструментов, включая Ollama.

Модель имеет размер 0,75 млрд параметров и поддерживает английский язык и код. В README упоминаются архитектурные характеристики исходной модели, связанные с Qwen и hybrid attention, однако подробные сведения об архитектуре и размере контекста не приведены. Доступны варианты от FP16 и BF16 до 2-битного Q2_K; размеры файлов составляют примерно от 402 МБ до 1,45 ГБ, а заявленный объём памяти — от 550 МБ до 2 ГБ. Вариант Q4_K_M отмечен как рекомендуемый благодаря балансу скорости, размера и точности автодополнения.

Сильными сторонами модели являются компактность, возможность локального запуска и поддержка продолжения кода и FIM-инфиллинга. Это базовая, а не instruct-модель, поэтому README не заявляет её как оптимизированную для диалогов или выполнения пользовательских инструкций. Качество зависит от выбранного уровня квантования; наиболее сжатые варианты экономят память, но могут снижать точность. Модель распространяется по лицензии Apache 2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.7Разработка и данныеDevOps, облако и эксплуатация IT-системAI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру.20 задач7 196моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

QaptaanLM-0.75B-GGUF (CPT Base)

This repository contains official GGUF quantized formats for QaptaanLM-0.75B (Base CPT foundation model), optimized for fast code continuation and Fill-in-the-Middle (FIM) infilling in local IDEs and edge environments.

📦 Quantization Matrix & Download Sizes

#	Quantization	File Name	Size	Memory Required	Quality & Description
1	FP16	`qaptaan-0.75b-cpt-f16.gguf`	1.45 GB	~2.0 GB	Full 16-bit float unquantized baseline master.
2	BF16	`qaptaan-0.75b-cpt-bf16.gguf`	1.45 GB	~2.0 GB	16-bit BFloat precision GGUF.
3	Q8_0	`qaptaan-0.75b-cpt-q8_0.gguf`	774 MB	~1.1 GB	8-bit integer quantization (99.9% quality retention).
4	Q6_K	`qaptaan-0.75b-cpt-q6_k.gguf`	600 MB	~900 MB	6-bit K-quantization for high-fidelity code completion.
5	Q5_K_M	`qaptaan-0.75b-cpt-q5_k_m.gguf`	551 MB	~800 MB	5-bit K-quantization (Medium tensor split).
6	Q5_K_S	`qaptaan-0.75b-cpt-q5_k_s.gguf`	537 MB	~780 MB	5-bit K-quantization (Small tensor split).
7	Q5_0	`qaptaan-0.75b-cpt-q5_0.gguf`	537 MB	~780 MB	5-bit standard legacy quantization.
8	Q4_K_M ⭐	`qaptaan-0.75b-cpt-q4_k_m.gguf`	504 MB	~720 MB	Recommended. Best balance of speed, size, and completion accuracy.
9	Q4_K_S	`qaptaan-0.75b-cpt-q4_k_s.gguf`	481 MB	~700 MB	4-bit K-quantization (Small).
10	Q4_0	`qaptaan-0.75b-cpt-q4_0.gguf`	478 MB	~700 MB	4-bit legacy quantization.
11	Q3_K_M	`qaptaan-0.75b-cpt-q3_k_m.gguf`	444 MB	~650 MB	3-bit K-quantization (Medium).
12	Q3_K_S	`qaptaan-0.75b-cpt-q3_k_s.gguf`	415 MB	~600 MB	3-bit K-quantization (Small).
13	Q2_K	`qaptaan-0.75b-cpt-q2_k.gguf`	402 MB	~550 MB	2-bit extreme compression.

🛠️ Usage with `llama.cpp`

Code Prefix Completion:

./llama-cli -m qaptaan-0.75b-cpt-q4_k_m.gguf \
  -p "def is_palindrome(s: str) -> bool:\n    \"\"\"Return True if s is a palindrome.\"\"\"\n    " \
  -n 64 --temp 0.15 --repeat-penalty 1.10

Fill-in-the-Middle (FIM) Completion:

./llama-cli -m qaptaan-0.75b-cpt-q4_k_m.gguf \
  -p "<|fim_prefix|>def compute_area(r: float) -> float:\n<|fim_suffix|>\n    return area<|fim_middle|>" \
  -n 32 --temp 0.10

License

Released under the Apache 2.0 License.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: f48ad8b