Fodor and Pylyshyn's Legacy - Still No Human-like Systematic Compositionality in Neural Networks
Created by
Haebom
저자
Tim Woydt, Moritz Willig, Antonia Wust, Lukas Helff, Wolfgang Stammer, Constantin A. Rothkopf, Kristian Kersting
개요
본 논문은 메타러닝을 통한 조합성(compositionality) 달성 가능성에 대한 기존 주장을 비판적으로 재검토한다. Fodor와 Pylyshyn의 주장처럼 신경망이 조합적 표현이나 구조 민감 연산을 모델링할 수 없다는 점을 강조하며, 최근 Lake와 Baroni가 제시한 메타러닝 기반 조합성 달성 방안의 한계를 분석한다. 분석 결과, 현대 신경망 메타러닝 시스템은 매우 제한적인 메타러닝 설정 하에서만 조합성 관련 작업을 수행할 수 있음을 보여준다. 따라서 저자들은 신경망에서 인간과 같은 체계적인 조합성이 학습되지 않았다는 결론을 내린다.
시사점, 한계점
•
시사점: 메타러닝을 통한 조합성 달성에 대한 과장된 주장에 대한 경고를 제시한다. 현재 신경망 기반 메타러닝 시스템의 한계를 명확히 밝힘으로써 향후 연구 방향을 제시한다. Fodor와 Pylyshyn의 주장에 대한 재검토를 통해 인공지능 연구의 중요한 이슈를 다시 조명한다.
•
한계점: 특정 메타러닝 프레임워크에 대한 분석에 국한되어 다른 메타러닝 접근 방식의 가능성을 배제할 수 있다. "인간과 같은" 조합성의 정의가 모호하며, 더욱 엄밀한 정의와 측정 방법이 필요하다. 제시된 비판이 특정 메타러닝 시스템에 국한되어 일반성이 부족할 수 있다.