논문 리뷰: DoLa - Decoding by Contrasting Layers Improves Factuality in Large Language Models (ICLR 2024 Poster)

개요

• DoLa(Decoding by Contrasting Layers)는 Open-source LLM에서 최종 Layer와 중간 Layer의 Token Probability 차이를 활용하여 Hallucination을 완화하고 Factuality를 개선하는 혁신적인 디코딩 방법론입니다.
• Information Retrieval(IR)나 추가 Fine-tuning 없이, Model Forwarding 과정에서의 연산 변경만으로 성능 개선을 달성했습니다.

---

주요 내용

1. 제안 방법
   • Transformer 모델의 각 Layer는 서로 다른 Token Probability 분포를 생성합니다.
   • DoLa는 최종 Layer의 Mature Token Probability와 중간 Layer의 Premature Token Probability 간의 차이를 활용해 Contrastive Decoding을 수행합니다.
   • Jensen-Shannon Divergence(JSD)를 통해 각 Layer의 분포 차이를 측정하고, 가장 차이가 큰 Layer를 선택하여 최적의 Token Prediction을 계산합니다.
2. 핵심 아이디어
   • LLM의 중간 Layer는 종종 잘못된 정보를 포함한 Token을 생성하는 경향이 있습니다.
   • 최종 Layer와의 Contrasting을 통해 이러한 문제를 완화하고, 모델의 내부 Factual Knowledge를 더욱 잘 활용하도록 유도합니다.
   • 이는 Preliminary Analysis 결과로도 뒷받침되며, Factual Knowledge를 요구하는 엔티티(Entity) 및 날짜 예측에서 후반 Layer의 JSD가 높다는 점이 발견되었습니다.
3. 효율적 적용
   • 디코딩 단계마다 JSD에 따라 Dynamic하게 Layer를 선택합니다.
   • 실험적으로 Layer를 여러 Bucket으로 나누어 Validation을 통해 최적의 Premature Layer를 결정합니다.

---

실험 결과

• Factuality: 다양한 데이터셋과 지표에서 DoLa 적용 시 Hallucination이 유의미하게 감소했습니다.
• Latency: 추가적인 연산량이 거의 없으며, 모델 속도 손실이 미미했습니다.
• 확장성: IR이나 Fine-tuning 없이 적용 가능해 다양한 Task에서 유용함을 입증했습니다.

---

요약

• 논리적 전개: Hallucination 문제를 해결하기 위한 근거로 사전 실험을 제시하며, 제안한 방법론의 타당성을 증명했습니다.
• 응용 가능성: DoLa는 Fine-tuning이나 외부 Knowledge Base 없이 LLM의 성능을 향상시키는 간단하고 효과적인 솔루션으로 평가되었습니다.
• 추가 논의:
  • RAG(Retrieval-Augmented Generation)와 결합할 경우 Knowledge 기반 Task에서의 전문성을 증대시킬 가능성이 있음.
  • Factual Hallucination 외에도 추론(Task-specific Reasoning) 개선에 기여할 여지가 있음.

---

개인적인 의견

DoLa는 기존 디코딩 과정에 작은 수정만으로도 Hallucination 문제를 효과적으로 완화하는 혁신적인 접근입니다. 특히 사전 학습된 모델을 그대로 활용하면서도 성능 개선을 도모할 수 있어 실용적인 면에서도 주목할 가치가 높습니다. Factuality가 중요한 응용 분야(의료, 법률, 금융 등)에서 DoLa의 적용 가능성이 클 것으로 보입니다.

추가 연구 제안

• 다양한 언어 및 도메인 데이터셋에서 DoLa의 성능 검증.
• Layer Selection 방식의 자동화 및 최적화.
• Hallucination 문제 외의 Task-specific 성능 개선 가능성 탐구.