Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Causal Interventions Reveal Shared Structure Across English Filler-Gap Constructions

Created by
  • Haebom

作者

Sasha Boguraev, Christopher Potts, Kyle Mahowald

概要

言語モデル(LM)は、構文理論を開発しようとする言語学者にとって強力な証拠として浮上しました。本論文では,LMに適用された因果的解釈可能性法は,LMが使用することを学ぶ抽象的機構を特徴づけ,これらの証拠の価値を大いに高めることができると主張する。英語のフィラーギャップ依存構造(質問、関係節など)を中心に実験を行いました。分散交換介入に基づく実験を用いて,LMはこれらの構造の類似の抽象分析に収束することを示した。これらの分析は、頻度、フィラーの種類、および周囲の文脈に関連する以前に見落とされた要因を明らかにし、標準言語理論の変化を導くことができます。全体として、LMの機械論的内部分析が言語理論を発展させることができることを示唆している。

Takeaways、Limitations

LM に対する因果的解釈可能性の方法論の適用は言語理論の発展に寄与することができる。
英語のフィラーギャップ依存構造のためのLMの同様の抽象分析を発見した。
頻度、フィラータイプ、周囲のコンテキストなどの要因が言語理論に影響を与える可能性があることを示唆しています。
論文の具体的なLimitationsは明記されていない。
👍