Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Measuring the Measures: Discriminative Capacity of Representational Similarity Metrics Across Model Families

Created by
  • Haebom

作者

Jialin Wu, Shreya Saha, Yiqing Bo, Meenakshi Khosla

概要

本論文は、神経科学および人工知能の分野におけるモデル表現間の類似性を測定する様々な指標の識別能力を体系的に比較する研究を紹介する。様々なアーキテクチャ(CNN、Vision Transformers、Swin Transformers、ConvNeXt)とトレーニング方式(マップ学習対自己マップ学習)を含むモデル群間の分離能力を評価する定量的フレームワークを提示する。信号検出理論のdprime、シルエット係数、ROC-AUCの3つの分離性指標を使用して、RSA、線形予測、Procrustes、soft matchingなど、広く使用されている指標の差別的能力を​​評価します。特に、指標がより厳しい整列制約を加えるほど分離性が高くなることを示した。

Takeaways、Limitations

Takeaways:
モデル間の表現類似性を測定するための指標の相対感度を最初に体系的に比較した。
ソフトマッチングが最も高い分離性を示し、Procrustesアラインメントと線形予測が続いた。
RSAのような非適合法も高い分離性を示した。
大規模モデルと脳比較のための指標の選択に関するガイドを提供します。
Limitations:
具体的なLimitationsへの言及は論文に記載されていない。
👍