본 논문은 고차원 데이터(이미지, 의료 스캔, 시계열 데이터 등)를 처리하는 기존 신경망 아키텍처의 한계를 지적하고, 차원 정보를 유지하는 새로운 선형 변환인 NdLinear를 제안합니다. NdLinear는 각 차원을 독립적으로 처리하여 기존 완전 연결층이 간과하는 차원 간 의존성을 포착합니다. 다양한 신경망(합성곱, 순환, 트랜스포머 기반)에서의 실험 결과, NdLinear는 표현력과 매개변수 효율성을 크게 향상시키는 것으로 나타났습니다. 특히, NdLinear는 다양한 단일 또는 다중 모달 데이터를 원형 그대로 처리하여, 고차원 기반 모델의 기본 구성 요소로 활용될 수 있으며, 플래트닝이나 모달 특화 전처리가 필요하지 않습니다. NdLinear는 어텐션을 넘어 핵심 아키텍처의 우선순위를 재고하여, 더욱 표현력 있고 맥락을 인지하는 대규모 모델을 가능하게 합니다. 기존 선형층을 대체할 수 있는 NdLinear는 차세대 신경망 아키텍처를 향한 중요한 발걸음입니다.
