Исследовательская 7-слойная версия Mistral-7B-Instruct для экспериментов с pruning и восстановлением генеративного рассуждения.
Подходит для: сравнение генерации до и после удаления слоёв LLM · изучение влияния сокращения глубины модели на рассуждение · эксперименты по восстановлению модели после pruning с помощью QLoRA