/ Модель

Характеристики

Контекст
32 токена
Параметры
287 млн
Лицензия
Apache 2.0
Архитектура
sparse_ast · dense
Опубликована
8 сен 2026

Sparse-AST-BWM-200M-32

Генерация текстаТекст → текст3 профессии

Компактная модель Sparse-AST генерирует Python-код для процедурной геометрии и математических задач в Blender.

76скачиваний за 30 дней0лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Sparse-AST-BWM-200M-32 — авторская причинная языковая модель семейства Sparse-AST от Chaman1234, предназначенная для генерации кода на Python в Blender и решения задач процедурной геометрии. В README указана рекуррентная архитектура Recurrent Leaky Gated Transformer с 28 слоями и 204,4 млн параметров; метаданные каталога приводят общий размер 287,1 млн параметров. Модель использует байтовую токенизацию UTF-8 с размером словаря 512 и обучалась с контекстом 32 токена. README сообщает о поддержке интерполяции позиционных кодировок для контекста до 4096 токенов при инференсе.

Модель ориентирована на Python-код с использованием bpy, mathutils, bmesh, numpy и gpu, включая генерацию процедурной геометрии и математических выражений для Blender. В README приведены экспериментальные результаты на учебном наборе задач Blender 3D Math & Python; они не гарантируют качество на произвольных задачах. Распространяется в формате SafeTensors по лицензии Apache-2.0.

Сценарии применения

  • генерация скриптов bpy для Blender
  • создание процедурной 3D-геометрии с помощью bmesh
  • написание кода mathutils для векторов и преобразований
  • генерация Python-кода для математических задач Blender
  • автодополнение коротких фрагментов Blender Python

Ограничения

Нативный контекст обучения составляет всего 32 токена; расширение до 4096 выполняется интерполяцией и не равнозначно обучению на длинном контексте. Приведённые в README экспериментальные метрики не подтверждают качество вне указанного набора задач.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Sparse-AST-BWM-200M-32

Large 204.4M parameter Sparse-AST architecture with 28 layers trained for deep procedural geometry reasoning in Blender Python.

Model Details

  • Architecture: Sparse-AST (Recurrent Leaky Gated Transformer)
  • Parameters: 204,372,272
  • Serialization: SafeTensors (model.safetensors)
  • Tied Embeddings: Yes (e.weight tied to h_out.weight, preserved via SafeTensors metadata)
  • Vocabulary: 512 (UTF-8 byte-level tokenization)
  • Domain: Procedural 3D Mathematics, Blender Python (bpy, mathutils, bmesh, numpy, gpu)

Context Window Specification

  • Native Training Context: 32 tokens
  • Inference-Time Context Interpolation: Supported up to 4,096 tokens via 1D linear positional interpolation in from_pretrained(..., target_context=4096).

[!NOTE] This model was trained natively with a 32-token context window. For longer sequences, positional interpolation is applied at inference time.

Experimentally Measured Benchmarks

Evaluated on the standardized Blender 3D Math & Python Curriculum suite:

MetricMeasured Result
Curriculum Cross-Entropy Loss4.4454
Perplexity85.24
Evaluation Latency7.9s

Verification & Numerical Integrity

This SafeTensors distribution underwent full CPU verification against the original PyTorch checkpoint:

  • Checked Tensors: 480
  • Tied Weights Handled: 1
  • Max Absolute Error: 0.0 (Exact 0.0 bitwise equality)
  • Verification Status: PASS

Quick Start Inference

from model import SparseAST
model = SparseAST.from_pretrained('.')
from generate import generate
prompt = 'import mathutils\nfrom mathutils import Vector\nv = Vector(('
output = generate(model, prompt, max_new_tokens=30)
print(output)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура sparse_ast неизвестна transformers в образе рантайма.

Класс архитектуры
SparseASTForCausalLM
Ревизия весов
e5e2d39

0 моделей