본 논문은 확장된 컨텍스트 윈도우를 가진 대규모 언어 모델(LLM)의 성능 향상을 위한 합성 데이터 생성 방법을 제안합니다. 기존의 Self-Instruct 프레임워크를 이용한 방법은 질 낮은 데이터와 멀티홉 질문 부족 문제를 가지고 있었는데, 본 논문에서는 품질 검증 에이전트, 단일 홉 질문 생성 에이전트, 다중 질문 샘플링 전략, 멀티홉 질문 병합 에이전트를 포함하는 Multi-agent Interactive Multi-hop Generation (MIMG) 프레임워크를 제시하여 이 문제를 해결합니다. MIMG는 고품질의 멀티홉 데이터 비율을 85% 이상으로 향상시키며, 다양한 모델과 전략에 대한 실험을 통해 문서 선택, 질문 병합, 검증 기술을 체계적으로 조사합니다. 그 결과, 제안된 합성 데이터는 기존의 사람이 주석한 대량 데이터로 학습된 모델보다 성능이 뛰어남을 보여줍니다. 소스 코드는 Github에서 공개됩니다.
