/ Модель
Каталог

Характеристики

Контекст
64 токена
Параметры
4,3 млн
Лицензия
Apache 2.0
Архитектура
sparse_ast · dense
Опубликована
8 сен 2026

Ссылки

Hugging Face

Sparse-AST-BWM-3M-32

Chaman1234
Генерация текстаТекст → текст3 профессии

Компактная модель Sparse-AST для предсказания коротких фрагментов Blender Python и кода процедурной 3D-математики.

74скачиваний за 30 дней0лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Sparse-AST-BWM-3M-32 — компактная авторегрессионная языковая модель семейства Sparse-AST, разработанная для быстрого предсказания токенов кода в задачах процедурной 3D-математики и Blender Python. Модель содержит около 4,3 млн параметров и использует рекуррентную архитектуру Recurrent Leaky Gated Transformer с байтовой токенизацией UTF-8 и словарём из 512 токенов.

Модель предназначена для черновой генерации и продолжения коротких фрагментов кода с использованием bpy, mathutils, bmesh, numpy и gpu. Нативный контекст при обучении составляет 64 токена; для вывода поддерживается интерполяция позиционных представлений до 4096 токенов. В README приведены экспериментальные результаты на учебном наборе задач Blender 3D Math & Python, включая высокую perplexity, поэтому качество генерации может быть ограниченным.

Веса распространяются в формате SafeTensors и прошли заявленную проверку числового совпадения с исходным PyTorch-чекпойнтом. Лицензия — Apache-2.0.

Сценарии применения

  • черновая генерация кода Blender Python
  • продолжение коротких фрагментов bpy
  • подсказки по mathutils и Vector
  • генерация примеров для bmesh
  • предсказание токенов кода процедурной 3D-математики

Ограничения

Нативный контекст обучения ограничен 64 токенами; увеличение до 4096 выполняется интерполяцией позиционных представлений. Заявленная perplexity на тестовом наборе очень высока, поэтому качество предсказаний может быть низким.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиIV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Sparse-AST-BWM-3M-32

Ultra-lightweight 4.18M Sparse-AST model designed for low-latency syntax drafting and basic Blender Python token prediction.

Model Details

  • Architecture: Sparse-AST (Recurrent Leaky Gated Transformer)
  • Parameters: 4,177,488
  • Serialization: SafeTensors (model.safetensors)
  • Tied Embeddings: Yes (e.weight tied to h_out.weight, preserved via SafeTensors metadata)
  • Vocabulary: 512 (UTF-8 byte-level tokenization)
  • Domain: Procedural 3D Mathematics, Blender Python (bpy, mathutils, bmesh, numpy, gpu)

Context Window Specification

  • Native Training Context: 64 tokens
  • Inference-Time Context Interpolation: Supported up to 4,096 tokens via 1D linear positional interpolation in from_pretrained(..., target_context=4096).

[!NOTE] This model was trained natively with a 64-token context window. For longer sequences, positional interpolation is applied at inference time.

Experimentally Measured Benchmarks

Evaluated on the standardized Blender 3D Math & Python Curriculum suite:

MetricMeasured Result
Curriculum Cross-Entropy Loss16.2013
Perplexity10867358.11
Evaluation Latency2.1s

Verification & Numerical Integrity

This SafeTensors distribution underwent full CPU verification against the original PyTorch checkpoint:

  • Checked Tensors: 72
  • Tied Weights Handled: 1
  • Max Absolute Error: 0.0 (Exact 0.0 bitwise equality)
  • Verification Status: PASS

Quick Start Inference

from model import SparseAST
model = SparseAST.from_pretrained('.')
from generate import generate
prompt = 'import mathutils\nfrom mathutils import Vector\nv = Vector(('
output = generate(model, prompt, max_new_tokens=30)
print(output)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура sparse_ast неизвестна transformers в образе рантайма.

Класс архитектуры
SparseASTForCausalLM
Ревизия весов
0dbc2c9

0 моделей

    Создать бенчмарк