TKRE(Two-Stage Knowledge-Guided Pre-training for Relation Extraction)는 소량의 데이터로 관계 추출을 수행하는 Few-Shot Relation Extraction (FSRE) 문제를 해결하기 위한 새로운 프레임워크입니다. 기존 모델들의 일반화 능력의 한계와 주석 데이터 부족 문제를 해결하기 위해, LLM(Large Language Model)과 기존 관계 추출 모델을 결합하여 생성적 학습과 판별적 학습 패러다임을 연결합니다. LLM을 활용하여 설명 기반 지식과 스키마 제약을 가진 합성 데이터를 생성하고, Masked Span Language Modeling (MSLM)과 Span-Level Contrastive Learning (SCL)을 결합한 2단계 사전 학습 전략을 통해 관계 추론 및 일반화 능력을 향상시킵니다. 벤치마크 데이터셋 실험 결과, 최첨단 성능을 달성하여 저자원 환경에서의 활용 가능성을 보여줍니다.
