Это модель Mixture-of-Experts для агентного программирования, долгосрочных задач и сценариев с использованием инструментов. Версия дополнительно обработана с помощью abliterix Trial 16 для существенного снижения частоты отказов и затем квантизирована в смешанной точности APEX с использованием imatrix.
Модель имеет около 118 млрд параметров в общей сложности и около 8 млрд активных параметров на токен. Архитектура включает 256 маршрутизируемых экспертов и одного общего эксперта с выбором top-10, GQA, а также чередование глобального и скользящего оконного внимания: 48 слоёв, из которых 12 используют глобальное внимание, а 36 — локальное с окном 512 токенов. Заявлена поддержка контекста примерно до 1 млн токенов и опционального встроенного рассуждения с использованием инструментов. В README явно указан английский язык; сведения о других языках и мультимодальности не приведены.
К сильным сторонам относятся высокая ёмкость MoE при сравнительно небольшом числе активных параметров, ориентация на программирование и длинные рабочие процессы, а также уменьшенная склонность к отказам. Ограничения связаны с тем, что это uncensored-редакция: её поведение может существенно отличаться от официальной Laguna-S-2.1, поэтому необходимы оценка безопасности, контроль доступа и аудит. Модель распространяется по лицензии OpenMDW-1.1; также следует учитывать условия poolside.