本論文は、ベイジアンニューラルネットワーク（BNN）の実際の適用が低調な理由を、標準ガウス事後確率分布がネットワーク幾何構造と合わず、高次元でKL項が不安定であり、実装が複雑になるにもかかわらず、不確実性改善が信頼できないという点で分析します。そこで、著者らは、正規化の観点から問題を見直し、重み方向のみに依存するフォン・ミッセス・フィッシャー事後確率分布を用いて不確実性をモデル化する。これにより、高次元幾何構造では、階層ごとに1つの解釈可能なスカラー値である有効正規化後ノイズ($\sigma_{\mathrm{eff}}$)が得られ、これは順方向伝達過程で単純な加算ガウスノイズに対応し、閉じた形の簡潔かつ次元を考慮したKLを許容します。濃度 $\kappa$ と活性化分散、および $\sigma_{\mathrm{eff}}$ の間の正確な閉じた形状近似を導き、現代的な正規化されたアーキテクチャに適しており、精度を犠牲にすることなく補正を改善する軽量で実装可能な変分単位を生成します。高次元で安定した最適化のためには、次元認識が重要であり、変分事後確率をネットワークの固有の幾何構造と整列させることによって、BNNが原則的、実用的で正確であることを示しています。
