본 논문은 인간과 동물의 지능의 특징으로 여겨지는 분포 외(Out-of-Distribution, OOD) 일반화를 조합을 통해 달성하는 방법에 대해 연구합니다. OOD 일반화를 위해서는 시스템이 경험한 입력-출력 매핑의 환경 불변 특성을 발견하고 새로운 입력에 전달해야 합니다. 이는 지능형 시스템이 적절하고, 작업 불변적이며, 조합 가능한 입력 특징과 조합 방법을 식별할 수 있을 때 가능하며, 학습된 데이터 포인트 간의 보간이 아닌 해당 특징의 작업 불변적 조합을 기반으로 동작할 수 있게 합니다. 본 논문은 알고리즘이 데이터에서 조합 구조를 실제로 학습하는지 확인하기 위해 OOD 설정에서 테스트하는 것만으로는 충분하지 않으며, 식별된 특징이 실제로 조합 가능한지 확인해야 한다고 주장합니다. MLP, CNN, Transformer 세 가지 일반적으로 사용되는 신경망이 OOD를 해결할 수 없는 명확하게 정의된 OOD 지표를 가진 두 가지 작업을 통해 이를 보여줍니다. 또한 OOD 시나리오에서 성공할 수 있도록 편향을 갖춘 두 가지 새로운 네트워크 아키텍처를 개발하고, 정확한 편향과 거의 완벽한 OOD 성능을 갖추더라도 알고리즘이 조합 일반화를 위한 올바른 특징을 학습하지 못할 수 있음을 보여줍니다.
