每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

测量指标:跨模型系列的表征相似性指标的判别能力

Created by
  • Haebom

作者

吴家琳、Shreya Saha、薄一清、Meenakshi Khosla

大纲

本文系统地比较和分析了表征相似性度量 (RSM)(神经科学和人工智能领域的基本工具)在多个模型系列中的判别力。我们系统地评估了几种常用 RSM(包括 RSA、线性预测模型 (LPM)、Procrustes 分析和软匹配)在具有不同架构(CNN、Vision Transformer、Swin Transformer 和 ConvNeXt)和训练方法(监督学习和自监督学习)的模型中的判别力。我们使用了信号检测理论中的三个可分离性指标——d-prime、轮廓系数和 ROC-AUC。我们发现,具有更严格对齐约束的度量系统地提高了可分离性。在基于映射的方法中,软匹配实现了最高的可分离性,其次是 Procrustes 对齐和线性预测模型。无需拟合的方法(例如 RSA)在各个模型系列中也表现出强大的可分离性。这是第一项从可分离性角度系统地比较 RSM 的研究,阐明了它们的相对敏感性并为大规模模型和大脑比较的度量选择提供了指导。

Takeaways,Limitations

Takeaways:
我们提出了一个新颖的定量框架来系统地比较和分析各种 RSM 的判别能力。
我们表明 RSM 的可分离性取决于对齐约束的严格性。
我们发现软匹配在基于映射的 RSM 中表现出最高的可分离性。
我们还发现,RSA 等非拟合方法也表现出良好的性能。
为大规模模型和大脑比较的 RSM 选择提供指导。
Limitations:
本研究中考虑的架构类型和训练方法可能有限。
需要进一步验证对其他类型的 RSM 或数据集的普遍性。
应考虑用于衡量可分离性的指标的Limitations。
👍