/ Модель

Характеристики

Контекст
32 токена
Параметры
143 млн
Лицензия
Apache 2.0
Архитектура
sparse_ast · dense
Опубликована
8 сен 2026

Sparse-AST-BWM-100M-32

Генерация текстаТекст → текст3 профессии

Компактная модель Sparse-AST для генерации Blender Python-кода и решения задач процедурной 3D-математики.

81скачиваний за 30 дней0лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Sparse-AST-BWM-100M-32 — компактная авторегрессионная языковая модель семейства Sparse-AST, разработанная для генерации кода и формул в задачах процедурной 3D-математики и Blender Python. Карточка описывает рекуррентный Leaky Gated Transformer с примерно 103,4 млн параметров по README; метаданные указывают 143,1 млн параметров. Модель использует байтовую токенизацию UTF-8 с размером словаря 512 и распространяется в формате SafeTensors.

Модель предназначена для продолжения коротких фрагментов кода и помощи с операциями над векторами, матрицами, кватернионами и bmesh, включая библиотеки bpy, mathutils, numpy и gpu. Нативный контекст обучения составляет 32 токена; README сообщает о поддержке интерполяции позиционных кодировок до 4096 токенов на этапе вывода. Приведены результаты экспериментальной оценки на учебном наборе Blender 3D Math & Python Curriculum, но они сами по себе не подтверждают качество в иных задачах.

Лицензия — Apache-2.0. Очень короткий нативный контекст и специализированная область обучения ограничивают надёжность на длинных последовательностях и общих текстовых задачах; сведения о поддержке русского языка отсутствуют, поэтому модель следует рассматривать как ориентированную на английский и код.

Сценарии применения

  • генерация коротких фрагментов Blender Python
  • подсказки по операциям с mathutils Vector и Quaternion
  • создание кода для манипуляций с bmesh
  • генерация формул для 3D-геометрии и матриц
  • продолжение кода с использованием bpy и numpy

Ограничения

Нативный контекст обучения составляет всего 32 токена; интерполяция до 4096 токенов заявлена в README, но качество на длинном контексте не подтверждено приведёнными данными. Модель специализирована на Blender Python и 3D-математике, а поддержка русского языка не заявлена.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Sparse-AST-BWM-100M-32

High-accuracy 103.4M parameter Sparse-AST foundation model for 3D mathematics, vectors, matrices, quaternions, and bmesh operations.

Model Details

  • Architecture: Sparse-AST (Recurrent Leaky Gated Transformer)
  • Parameters: 103,393,784
  • Serialization: SafeTensors (model.safetensors)
  • Tied Embeddings: Yes (e.weight tied to h_out.weight, preserved via SafeTensors metadata)
  • Vocabulary: 512 (UTF-8 byte-level tokenization)
  • Domain: Procedural 3D Mathematics, Blender Python (bpy, mathutils, bmesh, numpy, gpu)

Context Window Specification

  • Native Training Context: 32 tokens
  • Inference-Time Context Interpolation: Supported up to 4,096 tokens via 1D linear positional interpolation in from_pretrained(..., target_context=4096).

[!NOTE] This model was trained natively with a 32-token context window. For longer sequences, positional interpolation is applied at inference time.

Experimentally Measured Benchmarks

Evaluated on the standardized Blender 3D Math & Python Curriculum suite:

MetricMeasured Result
Curriculum Cross-Entropy Loss3.9078
Perplexity49.79
Evaluation Latency4.1s

Verification & Numerical Integrity

This SafeTensors distribution underwent full CPU verification against the original PyTorch checkpoint:

  • Checked Tensors: 310
  • Tied Weights Handled: 1
  • Max Absolute Error: 0.0 (Exact 0.0 bitwise equality)
  • Verification Status: PASS

Quick Start Inference

from model import SparseAST
model = SparseAST.from_pretrained('.')
from generate import generate
prompt = 'import mathutils\nfrom mathutils import Vector\nv = Vector(('
output = generate(model, prompt, max_new_tokens=30)
print(output)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура sparse_ast неизвестна transformers в образе рантайма.

Класс архитектуры
SparseASTForCausalLM
Ревизия весов
91fd814

0 моделей