Show Me How You Reason and I'll Tell You Who You Are: Reasoning Graphs for Robust LLM Authorship Attribution
작성자
카테고리
Empty
저자
Zlata Kikteva, Artur Romazanov, Annette Hautli-Janisz, Ramon Ruiz-Dolz
💡 개요
본 논문은 최근 LLM 생성 텍스트 탐지 및 작성자 식별의 중요성이 대두됨에 따라, 표면적인 언어적 특징을 넘어 LLM이 텍스트를 생성할 때 나타나는 추론 구조에 주목합니다. 제안된 방법론은 주장 마이닝 파이프라인을 통해 추출된 추론 그래프를 활용하는 그래프 신경망(GNN) 접근 방식으로, 기존의 Longformer 모델보다 향상된 견고성과 일반화 성능을 보여줍니다.
🔑 시사점 및 한계
•
LLM 생성 텍스트에 대한 작성자 식별 시, 표면적인 언어 특징보다 텍스트의 심층적인 추론 구조를 분석하는 것이 훨씬 효과적이고 견고함을 입증했습니다.
•
제안된 추론 그래프 기반 GNN 접근 방식은 패러프레이징, 역번역과 같은 난독화 공격과 미지의 LLM 버전 평가에서 기존 모델 대비 상당한 성능 향상을 보였습니다.
•
향후 연구에서는 더 복잡한 추론 구조를 포착하고, 다양한 유형의 LLM 생성 텍스트 및 공격 방식에 대한 견고성을 더욱 강화하는 방안이 필요할 수 있습니다.
