Pernicious_Prophecy_70B

Pernicious Prophecy 70B — англоязычная текстовая модель Black Ink Guild, созданная SicariusSicariiStuff и invisietch для ролевых диалогов, работы ассистента и задач общего назначения. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; она использует формат инструкций Llama 3 Instruct и поддерживает контекст до 131 072 токенов по метаданным. Авторы тестировали ролевые сценарии на контексте до 32 768 токенов и рекомендуют этот размер.

Модель получена слиянием четырёх моделей Llama 3 и последующим целевым QLoRA дообучением на примерно 18 млн токенов. README приводит примеры развёрнутых творческих ответов и генерации кода, а также отмечает чувствительность к формулировкам запросов. Модель позиционируется как uncensored и может выдавать оскорбительный, опасный или иной нежелательный контент. Указана лицензия llama3.3.