Heidrun-Mistral-7B-base — базовая генеративная языковая модель, разработанная Mabeck на основе Mistral-7B-v0.1. Модель с плотной архитектурой Mistral содержит 7,1 млрд параметров и дообучена на датском корпусе из Википедии и Wikibooks, а также на небольших фрагментах Hestenettet в течение двух эпох. В метаданных указан датасет Wikimedia Wikipedia.

Модель предназначена для продолжения текста и дальнейшей адаптации к прикладным задачам посредством дообучения. Это базовый чекпойнт, а не версия для диалогового использования; для чата автор рекомендует Heidrun-Mistral-7B-chat. Указанная длина контекста — 32 768 токенов. Модель поддерживает датский и английский языки по языковым тегам, при этом обучение дополнительно продолжено на датских данных. Лицензия — MIT.