本論文は、複合損失関数によるマルチタスク学習における競合する目標関数間の方向衝突問題を解決するための新しい理論的および実用的なアプローチを提供します。特に、このような衝突が解決しにくい物理情報ニューラルネットワーク（PINN）での効果を実証します。理論的分析は、これらの衝突が一次最適化方法をどのように制限するかを示し、二次最適化が暗黙的な勾配整列によって自然に解決することを示しています。最近提案された準ニュートン法であるSOAPは、ヘシアン前処理を効率的に近似し、PINNsで画期的な性能を可能にすることを証明しています。 10の難しい偏微分方程式（PDE）ベンチマークの最先端の結果を提供し、レイノルズ数が最大10,000の乱流の流れへの最初の成功した適用を含む、従来の方法より2〜10倍の精度向上を達成します。また、複数の勾配でコサイン類似度を一般化する新しい勾配整列スコアを導入し、最適化力学を分析するための実用的なツールを提供します。この研究は、科学コンピューティングを超えて最適化の広い意味を持つ傾斜衝突を理解し解決するためのフレームワークを確立します。
