Llama-Ko-Medical-7b — медицинская языковая модель на основе Llama 2, дообученная разработчиком на корейском медицинском корпусе объёмом около 526 МБ. В обучающие данные входят корейские медицинские материалы, новости о здоровье и специализированный корейско-английский корпус; в таблице README также упомянуты профессиональные книги по праву и медицине.

Модель содержит 6,7 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста. Она предназначена для генерации корейского текста по медицинской тематике и может служить основой для медицинских языковых приложений на корейском языке. Дообучение выполнено методом QLoRA с рангом 64 в течение трёх эпох; родительская модель — llama-2-ko.

Контекст модели составляет 2048 токенов. Репозиторий содержит веса PyTorch и распространяется по лицензии Llama 2. Специализированное дообучение не гарантирует точность медицинских ответов, поэтому модель не следует рассматривать как замену профессиональной медицинской консультации.