yi-34b-200k-rawrr-dpo-1

Модель adamo1139/yi-34b-200k-rawrr-dpo-1 — дообученная версия Yi-34B-200K, созданная автором репозитория с помощью DPO на наборе rawrr_v1. Для обучения использовался QLoRA с контекстом 200 000 токенов, рангом LoRA 4 и alpha 8; адаптер затем объединили с базовой моделью. По описанию, модель ориентирована на продолжение текста, а не на следование инструкциям, и предназначена в том числе для дальнейшего дообучения.

Дообучение направлено на снижение числа отказов, особенно на безвредные запросы, и на более свободное завершение текста по сравнению с инструктивным поведением. Это языковая модель семейства Llama с 33,9 млрд параметров; репозиторий содержит веса safetensors. Лицензия в метаданных указана как Apache 2.0, однако README заявляет условия yi-license и использование только в некоммерческих целях, поэтому перед применением следует проверить действующие условия базовой модели и производной.