본 논문은 Platonic Representation Hypothesis(PRH)에 대한 검증을 시도하며, 다양한 목적 함수와 데이터 모드로 훈련된 최신 기초 모델들이 하위 작업 성능에 따라 공유된 표현 공간으로 수렴한다는 주장에 대해, 표현 유사성 측정이 데이터셋에 따라 일관되지 않을 수 있다는 점을 지적합니다. 따라서 모델 표현의 수렴이 기계 학습에서 일반적으로 사용되는 데이터셋에 의해 혼란스러울 수 있는지 여부를 조사하기 위해, 모델 간 표현 유사성이 자극 집합에 따라 어떻게 변하는지 측정하는 체계적인 방법을 제안합니다. 실험 결과, 목적 함수가 데이터셋 간 표현 유사성의 일관성을 결정하는 중요한 요소임을 밝힙니다. 특히, 자기 지도 학습 비전 모델은 이미지 분류 또는 이미지-텍스트 모델에 비해 상대적인 쌍별 유사성이 데이터셋 간에 더 잘 일반화되는 표현을 학습합니다. 또한, 표현 유사성과 모델의 작업 동작 간의 상관관계는 데이터셋에 따라 달라지며, 단일 도메인 데이터셋에서 가장 두드러집니다. 결론적으로, 본 논문은 데이터셋 간 모델 표현의 유사성을 분석하고 그 유사성을 작업 동작의 차이와 연결하는 프레임워크를 제공합니다.
