본 논문은 다중 모달 대규모 언어 모델(MLLM)의 분포 이동(distribution shift)에 대한 취약성을 해결하기 위해 정보 이론적 관점에서 최대 위험을 정량화하는 이론적 프레임워크를 제시합니다. 기존 연구들의 경험적 평가를 넘어, MLLM의 안전하고 신뢰할 수 있는 실세계 적용을 위해 위험을 공식적으로 특징짓고 정량화하는 프레임워크를 구축하는 것이 필요함을 주장합니다. 본 논문에서 제안하는 프레임워크의 핵심은 입력 질의와 모델 응답 간의 관련성을 정량화하는 효과적 상호 정보(EMI)라는 지표를 도입하는 것입니다. EMI의 분포 내(ID) 데이터와 분포 외(OOD) 데이터 간 차이의 상한선을 도출하고, 이를 시각 및 텍스트 분포 차이와 연결합니다. 61가지 이동 시나리오를 포함하는 실제 벤치마크 데이터셋에 대한 광범위한 실험을 통해 이론적 통찰력을 실증적으로 검증합니다.
