FusionNet — экспериментальная дообученная языковая модель от TomGrc, созданная для проверки метода single passthrough Fusion, который, по замыслу автора, может повысить качество исходной модели. Это плотная авторегрессионная модель семейства Llama с 21,1 млрд параметров и контекстом до 4096 токенов. Модель работает с английским языком и поддерживает генерацию текста в диалоговом режиме.

Её можно применять для генерации ответов и проверки рассуждений на англоязычных задачах. В README приведены результаты Open LLM Leaderboard: среднее значение 65,74, а также оценки AI2 Reasoning Challenge и HellaSwag; эти результаты относятся к оценкам модели на бенчмарках и не гарантируют качество в других сценариях. Модель распространяется по лицензии MIT.