/ Модель

Характеристики

Контекст
262 144 токена
Параметры
990 млн
Лицензия
Своя лицензия
Архитектура
lact_swiglu · dense
Библиотека
transformers
Опубликована
16 авг 2026

lact-1b-p24-1-explicit-all-one-gtcf-on-soft-z001-step-2048

Генерация текстаТекст → текст3 профессии

Экспериментальный диалоговый чекпойнт LaCT примерно на 1 млрд параметров для генерации текста с маршрутизацией раннего выхода и длинным контекстом.

32скачиваний за 30 дней0лайковвеса обновлены16 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LaCT 1B p24-1 explicit-all-one GTCF-ON — архивный релиз весов экспериментального чекпойнта LaCTForCausalLM, опубликованный paulzy. Модель содержит около 989,7 млн параметров и предназначена для генерации текста в диалоговом режиме; в архитектуре используются плотные слои LaCT SwiGLU, маршрутизация EXIT/CONTINUE и адаптеры раннего выхода. Метаданные указывают контекст до 262 144 токенов; при обучении использовалась последовательность длиной 65 536 токенов.

Чекпойнт соответствует шагу 2048 обучения с seed 42 и явными единичными read/update gates в нероути́руемом префиксе. README сообщает, что обучение завершено, а NIAH-1, LongBenchV2 и PG-19 были выполнены, но не заявляет полный результат пяти тестовых наборов: восстановление NIAH-2/3 не включено в этот архив. Репозиторий содержит только веса без токенизатора, состояния оптимизатора и примеров оценки; для запуска нужны реализация LaCT из yuan_ttt и токенизатор совместимой базовой модели. Указана лицензия other, поэтому конкретные права использования следует сверить с файлами лицензии и provenance репозитория.

Сценарии применения

  • генерация ответов в диалоговом интерфейсе
  • эксперименты с ранним выходом и маршрутизацией токенов
  • исследование генерации текста на длинных последовательностях
  • воспроизведение и анализ чекпойнта LaCT шага 2048

Ограничения

В архиве отсутствуют токенизатор, состояние оптимизатора и примеры оценивания; для использования необходимы реализация LaCT и совместимый токенизатор базового чекпойнта. README не подтверждает полный результат пяти тестовых наборов, а лицензия указана как other.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LaCT 1B p24-1 explicit-all-one GTCF-ON, z=0.001, step 2048

This public repository is a weights-only archival release of the exact seed-42 terminal step-2048 checkpoint. The checkpoint uses the historical explicit all-one read/update gates in the unrouted prefix while retaining the current K/V-only projection, corrected variable-length boundaries, and exact frozen-head CE path.

The scientific configuration is GTCF-ON with a stop-gradient full-depth teacher, router_eff_coeff=0.5, router_z_coeff=0.001, exit_ce_loss_coeff=0.5, rank-128 SiLU exit adapters, max-pooled router features, and native binary EXIT/CONTINUE argmax routing. Training used sequence length 65,536, gradient accumulation 4, 2,048 steps, a 512-step readout-only first stage, and seed 42.

model.safetensors is 4,381,433,160 bytes with SHA-256 0fc65049d48747c8f1d52dd83ff38f2333f2e1855da335dafc3d13bf06f5b3dc. It contains 542 F32 tensors, including all 20 router tensors, 10 exit-adapter tensors, and 5 exit-norm tensors. The export was produced directly from the complete nine-file full-state step-2048 DCP and passed the project's exact config guard and from_pretrained router-state load guard.

This repository intentionally excludes optimizer and data-iterator state, evaluation predictions/targets/samples, internal operational paths, and tokenizer bytes. Use the matching LaCT implementation in yuan_ttt and the tokenizer from the compatible LaCT base checkpoint (BOS 128000, EOS 128009, vocabulary 128256).

Training completed successfully. NIAH-1, LongBenchV2, and PG-19 also completed, but this archive does not claim a complete five-suite paper result until the separate NIAH-2/3 recovery is admitted. No evaluation samples are published here.

See provenance/ for the public scientific/router contract, source attestation, tensor inventory, and payload checksums.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Архитектура lact_swiglu неизвестна transformers в образе рантайма.

Класс архитектуры
LaCTForCausalLM
Ревизия весов
64fe343

0 моделей