IBNorm은 정보 병목 원리를 기반으로 하는 간단하지만 강력한 정규화 기법이다. 기존의 분산 중심 정규화 방식과 달리, 예측 관련 정보를 보존하면서 불필요한 변동성을 억제하는 압축 연산을 도입하여 더 유익한 표현을 유도한다. IBNorm은 표준 정규화의 안정성과 호환성을 유지하면서, 이론적으로는 기존 방식보다 더 높은 정보 병목 값과 더 좁은 일반화 범위를 달성하고, 대규모 언어 모델(LLaMA, GPT-2) 및 비전 모델(ResNet, ViT)에서 BatchNorm, LayerNorm, RMSNorm보다 일관적으로 뛰어난 성능을 보인다.
