본 논문은 제한적이고 독점적인 소규모 전문 자료로부터 학습할 때 특히 데이터 효율성이 떨어지는 대규모 언어 모델(LLM)의 문제점을 해결하기 위해, 문서 간 지식 연관성을 통합하는 합성 데이터 생성 프레임워크인 Synthetic-on-Graph (SoG)를 제안합니다. SoG는 원본 자료에서 개체와 개념을 추출하여 문서 간 연관성을 나타내는 맥락 그래프를 구성하고, 그래프 워크 전략을 사용하여 지식 연관 샘플링을 수행합니다. 이를 통해 합성 데이터의 다양성과 일관성을 높여 모델이 복잡한 지식 구조를 학습하고 희귀 지식을 처리할 수 있도록 합니다. 또한, Chain-of-Thought (CoT)와 Contrastive Clarifying (CC)를 통합하여 합성 데이터의 질을 향상시켜 추론 과정과 판별력을 강화합니다. 실험 결과, SoG는 다단계 문서 Q&A 데이터셋에서 최첨단(SOTA) 방법을 능가하고, 독해 과제 데이터셋에서는 SOTA 방법과 비슷한 성능을 보이며, SoG의 더 나은 일반화 능력을 보여줍니다.
