/ Модель

Характеристики

Параметры
104 млн
Лицензия
Apache 2.0
Библиотека
transformers
Опубликована
5 окт 2026

Hiraya-1-Base

Генерация текстаТекст → текст

Базовая языковая модель DeepNarra с гибридной архитектурой предназначена для генерации текста и последующей адаптации.

1 206скачиваний за 30 дней0лайковвеса обновлены8 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DeepNarra Hiraya-1-Base — базовая предварительно обученная языковая модель из экосистемы DeepNarra AI. Она предназначена для генерации текста и служит основой для дальнейшей адаптации под прикладные задачи. В карточке заявлена гибридная архитектура Mamba-2 и Differential Attention с проекциями BitNet b1.58, а также иерархическая смесь экспертов с 92 специализированными субэкспертами на слой и общим экспертом, активным для каждого токена.

Модель содержит 67,3 млн параметров, распространяется в формате safetensors и использует библиотеку Transformers. В README заявлены непрерывное латентное рассуждение и рекуррентная обработка с постоянным масштабом памяти, а также высокие результаты на GSM8K, HumanEval и ARC-Challenge; эти заявления приведены разработчиком и не подтверждены независимыми данными в доступных материалах. Указана лицензия Apache-2.0. Метаданные и карточка обозначают английский язык.

Сценарии применения

  • генерация продолжений текста на английском языке
  • создание основы для дообучения разговорной модели
  • эксперименты с гибридной архитектурой Mamba-2 и смесью экспертов

Ограничения

Модель обозначена как базовая, поэтому её пригодность для диалогов и инструкций без дополнительного дообучения не установлена. Заявленные в README результаты тестов не сопровождаются в предоставленных материалах независимой проверкой.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

👑 DeepNarra Hiraya-1-Base

DeepNarra AI Ecosystem — Sovereign Frontier Architecture
Apex Tri-Hybrid Base Foundation Model

Organization License Leaderboard


🏛️ Model Overview

DeepNarra Hiraya-1-Base is an official release in the sovereign DeepNarra ecosystem.

  • Architectural Role: Pre-trained foundation base model featuring Mamba-2 SSD (75%) + Differential Attention (25%) + BitNet b1.58 Ternary Projections.
  • Ecosystem Family: Hiraya
  • Model Stage: BASE

🌟 Key Invariants & Architectural Breakthroughs:

  1. Two-Tier Hierarchical MoE (H-MoE): 92 Fine-Grained Sub-Experts per layer with active Shared Foundation Expert active on every token for baseline coherence.
  2. Coconut Continuous Latent Deliberation: Continuous thought phase space ($\mathbb{R}^{768}$) enabling internal chain-of-thought progression prior to verbal token emissions.
  3. Symplectic Störmer-Verlet Physics: Hamiltonian energy-conserving dynamics for stable long-horizon reasoning trajectories.
  4. Hardware-Efficient Recurrence: Chunk-wise Gated Linear Attention (GLA) recurrence with strict $O(1)$ constant memory scaling.
  5. Zero Numerical Drift: Verified 0.00% numerical drift across fallback layers.

📊 Standardized Benchmark Evaluation (H-AAES & Open LLM Leaderboard)

Benchmark GauntletMetric MeasuredScoreGlobal Classification
GSM8K Grade School MathAccuracy (Exact \boxed{} Num)100.0%🟢 Verified SOTA
HumanEval Python CodingPass@1 (Unit Test Assertions)100.0%🟢 Verified SOTA
ARC-Challenge ScienceMulti-Choice Accuracy100.0%🟢 Verified SOTA
ReAct Tool-Use GauntletAutonomous Sandbox Tasks100.0% (6/6)🟢 Verified SOTA
Composite Frontier IndexMacro Academic Average100.0% / 100.0%🏅 Tier 1 Flagship

🚀 Usage & Quickstart

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "DeepNarra/Hiraya-1-Base"

# Load Sovereign DeepNarra Tokenizer & Model
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16 if torch.cuda.is_available() and torch.cuda.is_bf16_supported() else torch.float32,
    device_map="auto"
)

prompt = "<think> Solve: (x + 3)^2 = x^2 + 6*x + 9 </think>"
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)

with torch.no_grad():
    outputs = model.generate(**inputs, max_new_tokens=256)

print(tokenizer.decode(outputs[0], skip_special_tokens=True))

📜 Citation & Governance

@misc{deepnarra2026hiraya_1_base,
  title = {Hiraya-1-Base: Sovereign Hierarchical MoE & Speculative Deliberation},
  author = {DeepNarra AI Engineering Team},
  year = {2026},
  publisher = {Hugging Face},
  howpublished = {\url{https://huggingface.co/DeepNarra/Hiraya-1-Base}}
}

Organization: DeepNarra
License: Apache 2.0 (Open-Source Research & Commercial Allowed)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Архитектура ? неизвестна transformers в образе рантайма.

Ревизия весов
62ddc0a

0 моделей