LFM2.5-2.6B-Uncensored-GGUF

Модель предназначена для генерации текста и локального запуска на периферийных устройствах, включая агентские сценарии. Версия получила модификацию abliterix Trial 65, из-за которой частота отказов при ответах существенно ниже, чем у официальной базовой модели.

Модель содержит около 2,6 млрд параметров, использует гибридную архитектуру из 30 слоёв: 22 блока double-gated short-convolution и 8 блоков GQA. Заявлены контекстное окно 128K токенов, словарь размером 128K и ChatML-подобный шаблон с поддержкой встроенного рассуждения через тег <think>. Модель ориентирована прежде всего на англоязычные сценарии; другие языки и мультимодальность в предоставленных данных не указаны.

К сильным сторонам относятся компактный размер, пригодность для edge-развёртывания, большое контекстное окно и несколько уровней GGUF-квантизации, откалиброванных с использованием imatrix. Ограничение — сниженная отказоустойчивость в отношении потенциально вредных запросов: в указанной оценке модель отказала в 6 из 100 случаев против примерно 90 из 100 у базовой версии. Поэтому её следует дополнительно тестировать, защищать от несанкционированного доступа и подвергать аудиту. Распространение осуществляется по лицензии LFM Open License v1.0.