본 논문은 생성형 AI의 발전으로 인해 가속화되는 가짜 정보 확산의 위협에 대응하기 위해, 지식 그래프(KG)를 활용한 체계적인 가짜 정보 생성 방법을 제안한다. 지식 그래프의 구조적 특성(엔티티 간 거리, 술어 등)을 분석하여 그럴듯한 거짓 관계를 식별하고, 이를 바탕으로 대규모 언어 모델(LLM)을 유도하여 신뢰도가 다양한 가짜 정보 문장을 생성한다. 공개적으로 이용 가능한 지식 그래프(예: WikiGraphs)만을 사용하여 결정론적 접근 방식으로 사람이 탐지하기 어려운 가짜 정보를 생성하는 것이 특징이다. 또한, LLM이 진짜 정보와 인공적으로 생성된 가짜 정보를 구별하는 효과성을 조사하여, 현재의 LLM 기반 탐지 방법의 한계를 강조하고 향상된 탐지 전략 및 생성 모델의 고유한 편향에 대한 심층적인 탐구의 필요성을 제시한다.
