本論文は、シンボリックアルゴリズムを実行するように学習するニューラルネットワークシステムを構築するという人工知能の分野における困難な問題、特に強力な一般化と分布外のパフォーマンスを目指すときの問題を扱います。この目的のために、書き換えアルゴリズム自体に触発された神経記号アーキテクチャを使用して収束する抗書き換えシステムを学習するための一般的なフレームワークを提示します。神経書き換えシステム（NRS）と高速神経書き換えシステム（FastNRS）の2つのモジュラー実装を提供し、アルゴリズムに触発された設計とコアアーキテクチャ要素のおかげで、両方のモデルを分布外インスタンスとして一般化できます。 FastNRSは、メモリ効率、学習速度、および推論時間の面で大幅な改善を提供します。数学式の簡略化を含む4つのタスクについて2つのアーキテクチャを評価し、単一モデルが複数の種類の問題を同時に解決するように学習するマルチドメイン学習シナリオで、その多様性をさらに示します。提案されたシステムは、ニューラルデータルータ（アルゴリズムの問題を解決するように特別に設計された最近のトランスデューサバリアント）とGPT-4o（最も強力な汎用大規模言語モデルの1つ）の2つの強力な神経基準モデルよりもはるかに優れたパフォーマンスを示しています。また、推論ベンチマークで優れたパフォーマンスを発揮するOpenAIの最新のo1-previewモデルと同等またはそれ以上のパフォーマンスを示しています。
