qwen3.5-0.8b-wikiir-sft-v1
Qwen3.5-0.8B-Base 전체 파인튜닝(full fine-tuning, LoRA 미사용) SFT 체크포인트. 행정문서 도메인(AI Hub 88 데이터셋) 기반 정보 추출(IR) / 위키 문서 생성 태스크로 학습.
학습 정보
- Base model: Qwen3.5-0.8B-Base (24 layers, hidden_size 1024)
- Method: Full fine-tuning (no LoRA / adapter)
- Checkpoint: step 3400 / max_steps 4656 (약 73% 진행, epoch 2.19 / 3.0 — 중단 후 재개 가능한 상태에서 배포)
- Eval metrics (최종 로그 기준): eval_loss
0.0698, eval_mean_token_accuracy97.75%, entropy0.070 - Domain: 행정문서(AI Hub 88), 도메인 밖(자료구조 강의자료 등) OOD 테스트에서도 핵심 구조 보존 확인
알려진 한계
- 작은 모델(0.8B) 특성상 도메인 밖 입력에서 드물게 다국어 토큰 누출(예: 중국어 문자열)이 섞이는 환각이 관찰됨. 프로덕션 사용 시 후처리 필터 권장.
- 학습이 100% 완료되지 않은 중간 체크포인트(73% 지점)이며, 이후 추가 학습으로 더 개선될 여지가 있음.
용도 외 다른 목적 사용 주의
이 모델은 특정 도메인(한국어 행정문서 기반 위키 정보 추출)에 맞춰 파인튜닝되었으며, 일반 대화/범용 어시스턴트 용도로 설계되지 않았습니다.
라이선스
Base model(Qwen3.5-0.8B-Base)의 라이선스를 따릅니다.