/ Модель

Характеристики

Контекст
262 144 токена
Параметры
581 млн
Лицензия
Apache 2.0
Архитектура
qaptaan · dense
Базовая модель
QaptaanLM-0.75B
Опубликована
31 авг 2026

QaptaanLM-0.75B-ONNX

Генерация текстаТекст → текст3 профессии

QaptaanLM-0.75B-ONNX — экспортированные веса графа ONNX Runtime для базовой foundation-модели QaptaanLM-0.75B, разработанной kaptaan45.

62скачиваний за 30 дней0лайковвеса обновлены1 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и прежде всего для лёгкого автодополнения кода во встроенных браузерных IDE, а также для вывода кода на периферийных устройствах. Она может использоваться через ONNX Runtime, включая сценарии с CPU, CUDA и WebGPU.

Модель имеет архитектуру causal language model и размер 0,75 млрд параметров. Согласно карточке, она связана с семейством Qwen и использует hybrid attention; исходная модель прошла continued pretraining. Указаны английский язык и код, поэтому основными сценариями являются работа с англоязычным программным кодом и текстовыми подсказками. Формат ONNX делает модель удобной для запуска в браузере и на устройствах с ограниченными ресурсами, однако README не содержит данных о размере контекста, точных поддерживаемых языках программирования, производительности, качестве генерации или требованиях к памяти.

Модель распространяется по лицензии Apache 2.0. Она является базовой, а не инструкционно дообученной моделью, поэтому её поведение ориентировано на продолжение последовательности и автодополнение, а не на выполнение сложных диалоговых команд без дополнительной настройки.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

QaptaanLM-0.75B-ONNX (CPT Base)

License Base Model GitHub

This repository contains exported ONNX Runtime graph weights for QaptaanLM-0.75B (Base CPT foundation model), designed for lightweight in-browser IDE autocompletion and edge device code inference.


🌐 Quickstart: Python onnxruntime

import os
import numpy as np
import onnxruntime as ort
from huggingface_hub import snapshot_download
from transformers import AutoTokenizer

model_id = "kaptaan45/QaptaanLM-0.75B-ONNX"

model_dir = snapshot_download(repo_id=model_id)
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)

session = ort.InferenceSession(
    os.path.join(model_dir, "model.onnx"),
    providers=["CUDAExecutionProvider", "CPUExecutionProvider"]
)

prompt = 'def is_palindrome(s: str) -> bool:\n    \"\"\"Return True if s is a palindrome.\"\"\"\n    '
input_ids = tokenizer.encode(prompt, return_tensors="np")

outputs = session.run(None, {"input_ids": input_ids})
logits = outputs[0]
next_token = int(np.argmax(logits[0, -1, :]))
print("Next Token ID:", next_token, "Decoded:", repr(tokenizer.decode([next_token])))

License

Released under the Apache 2.0 License.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели нужен код из репозитория; запуск откроется после проверки совместимости.

Класс архитектуры
QaptaanForCausalLM
Ревизия весов
e80a033

0 моделей