/ Модель

Характеристики

Контекст
64 токена
Параметры
14,4 млн
Лицензия
Apache 2.0
Архитектура
sparse_ast · dense
Опубликована
8 сен 2026

Sparse-AST-BWM-10M-32

Генерация текстаТекст → текст3 профессии

Компактная модель генерирует Python-код для процедурного 3D-моделирования в Blender.

76скачиваний за 30 дней0лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Sparse-AST-BWM-10M-32 — компактная авторегрессионная модель генерации кода, разработанная автором репозитория Chaman1234. Она использует архитектуру Sparse-AST (Recurrent Leaky Gated Transformer) и содержит 14,4 млн параметров по метаданным; в README указано 11 869 032 параметра. Модель предназначена для генерации Python-кода для процедурного 3D-моделирования в Blender, включая bpy, mathutils, bmesh, numpy и gpu.

Модель обучалась с контекстом 64 токена. README сообщает о поддержке интерполяции позиций при выводе до 4096 токенов, однако приводит крайне высокие значения потерь и perplexity на описанном тесте, поэтому качество генерации требует проверки и длинный контекст не следует считать подтверждённым обучением. Веса доступны в формате SafeTensors. Лицензия — Apache-2.0.

Сценарии применения

  • генерация скриптов bpy для создания 3D-сцен
  • написание кода mathutils для геометрических преобразований
  • создание и редактирование сеток Blender через bmesh
  • черновая генерация Python-кода для процедурной 3D-математики

Ограничения

Модель обучалась на контексте всего 64 токена; интерполяция до 4096 токенов описана как экспериментальная. В README указаны очень высокие loss и perplexity на тесте, поэтому качество генерации может быть низким.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Sparse-AST-BWM-10M-32

Compact 11.87M Sparse-AST model offering intermediate structural capacity for procedural Blender bpy scripting.

Model Details

  • Architecture: Sparse-AST (Recurrent Leaky Gated Transformer)
  • Parameters: 11,869,032
  • Serialization: SafeTensors (model.safetensors)
  • Tied Embeddings: Yes (e.weight tied to h_out.weight, preserved via SafeTensors metadata)
  • Vocabulary: 512 (UTF-8 byte-level tokenization)
  • Domain: Procedural 3D Mathematics, Blender Python (bpy, mathutils, bmesh, numpy, gpu)

Context Window Specification

  • Native Training Context: 64 tokens
  • Inference-Time Context Interpolation: Supported up to 4,096 tokens via 1D linear positional interpolation in from_pretrained(..., target_context=4096).

[!NOTE] This model was trained natively with a 64-token context window. For longer sequences, positional interpolation is applied at inference time.

Experimentally Measured Benchmarks

Evaluated on the standardized Blender 3D Math & Python Curriculum suite:

MetricMeasured Result
Curriculum Cross-Entropy Loss21.2309
Perplexity485165195.41
Evaluation Latency2.45s

Verification & Numerical Integrity

This SafeTensors distribution underwent full CPU verification against the original PyTorch checkpoint:

  • Checked Tensors: 106
  • Tied Weights Handled: 1
  • Max Absolute Error: 0.0 (Exact 0.0 bitwise equality)
  • Verification Status: PASS

Quick Start Inference

from model import SparseAST
model = SparseAST.from_pretrained('.')
from generate import generate
prompt = 'import mathutils\nfrom mathutils import Vector\nv = Vector(('
output = generate(model, prompt, max_new_tokens=30)
print(output)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура sparse_ast неизвестна transformers в образе рантайма.

Класс архитектуры
SparseASTForCausalLM
Ревизия весов
e52f3a7

0 моделей