Invariant Link Selector for Spatial-Temporal Out-of-Distribution Problem
Created by
Haebom
저자
Katherine Tieu, Dongqi Fu, Jun Wu, Jingrui He
개요
본 논문은 기초 모델 시대의 분포 외(OOD) 문제, 특히 훈련 환경과 테스트 환경 간의 데이터 불일치 문제를 다룬다. 특히 독립 동일 분포(IID) 조건을 따르지 않는 그래프와 같은 관계형 데이터, 특히 시간과 관련된 데이터에서 이 문제는 더욱 어려워진다. 따라서 본 논문은 시간적 그래프에 대한 강건한 불변 학습을 실현하기 위해 시간적 그래프에서 레이블에 대해 가장 불변적이고 대표적인 구성 요소를 조사한다. 정보 병목(IB) 방법을 사용하여 훈련 과정에서 불변 구성 요소와 변동 구성 요소를 구별할 수 있는 오차 경계 불변 링크 선택기를 제안한다. 일련의 엄격한 일반화 가능한 최적화 함수를 도출하는 것 외에도, 사전 훈련된 모델이 인용 추천 및 상품 추천과 같은 실제 응용 작업을 해결하도록, 시간적 링크 예측과 같은 작업별 손실 함수를 훈련에 추가한다. 실험을 통해 최첨단(SOTA) 방법과 비교하여 성능을 검증한다. 코드는 https://github.com/kthrn22/OOD-Linker 에서 확인할 수 있다.
