Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
AIFT/AIFT-ko-orca-plat-Yi-ko-6b-v1.2-dpo-2 — корейская instruct-модель семейства Llama, дообученная AIFT методом LoRA с последующим DPO. В основе лежат данные KOR-OpenOrca-Platypus, очищенные и отобранные разработчиком, а также самостоятельно подготовленные примеры для истории, науки, математики, машинного чтения, анализа отзывов, суммаризации, грамматики и перевода между английским и корейским. Для DPO использовались около 17 тысяч примеров, ориентированных на CommonGen и TruthfulQA, а также переработанные примеры ko-hh-rlhf.
Модель содержит 5,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста; заявленная длина контекста — 2048 токенов. Она рассчитана прежде всего на инструкции и вопросы на корейском языке, включая образовательные задания, машинное чтение и перевод. Весовые файлы опубликованы в формате safetensors, лицензия — CC BY-SA 4.0.
Данные обучения закрыты, поэтому состав и качество примеров нельзя независимо проверить; карточка также не приводит результатов оценки. Практическое качество может различаться по задачам, а контекст ограничен 2048 токенами.
Сценарии применения
ответы на вопросы и выполнение инструкций на корейском языке
решение школьных задач по математике и естественным наукам
ответы на вопросы по тексту и задания машинного чтения
суммаризация корейских текстов
анализ тональности и отзывов
перевод между корейским и английским языками
Ограничения
Обучающие данные не опубликованы, а карточка не приводит независимых оценок качества. Контекст ограничен 2048 токенами.
Для каких профессий подходит6
Разделы каталога профессий, в задачах которых используется эта модель
<학습 데이터 구축>
kyujinpy 님이 공개하신 KOR-OpenOrca-Platypus 데이터를 일부 삭제(샘플링) 및 정제 작업 진행하여 활용.
그 이후 해당 데이터들을 보며 관련 태스크를 추출하였고 이를 기반으로
해당 태스크에 맞춰서 NLP 관련 오픈소스 데이터를 활용하여 학습데이터를 자체적으로
역사, 과학, 수학, 기계독해, 리뷰 분석 문제를 gpt를 통해서 구축하였고,
aihub 일반상식 및 기계독해 데이터를 활용하여 추가로 학습 데이터를 구축(형태소 관련, 기계독해 관련 및 요약)
각종 블로그에서 역사 및 상식 퀴즈를 사람이 직접 학습데이터 형태로 변경
AI2AI Challenge 데이터 형태를 보고 gpt를 통해 초등 수준의 과학 수학 문제 유형을 제작 500문제
영어 번역 데이터 영한/한영 데이터 학습 데이터로 활용 진행
총 데이터 4만개 정도 사용하였습니다.
<DPO학습 데이터>
DPO 데이터는 CommonGen과 TruthfulQA에 초점을 맞추어 약 17,000개의 데이터를 학습하였습니다.
ko-hh-rlhf 데이터에서 chosen 데이터부분을 ChatGPT를 통해 변경한 데이터를 추가 학습하였습니다.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров