HiURE: Hierarchical Exemplar Contrastive Learning for Unsupervised Relation Extraction
Created by
Haebom
저자
Shuliang Liu, Xuming Hu, Chenwei Zhang, Shu`ang Li, Lijie Wen, Philip S. Yu
개요
본 논문은 기존의 비지도 관계 추출 방법들의 한계점인 점진적 표류 문제와 의미적으로 유사한 문장 쌍을 부당하게 분리하는 문제를 해결하기 위해 새로운 대조 학습 프레임워크인 HiURE를 제안합니다. HiURE는 계층적 크로스 어텐션을 사용하여 관계 특징 공간에서 계층적 신호를 도출하고, 예시 기반 대조 학습 하에서 문장의 관계 표현을 효과적으로 최적화합니다. 두 개의 공개 데이터셋에 대한 실험 결과는 HiURE가 최첨단 모델에 비해 비지도 관계 추출에서 향상된 효과와 강건성을 보임을 보여줍니다.
시사점, 한계점
•
시사점:
◦
계층적 크로스 어텐션을 활용하여 관계 특징 공간에서 더욱 풍부하고 정확한 정보를 추출할 수 있음을 보여줌.
◦
예시 기반 대조 학습을 통해 기존 방법의 한계점인 의미적으로 유사한 문장 쌍의 부당한 분리를 해결함.