每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成，并以非盈利为基础运营。
论文版权归作者及相关机构所有，分享时请注明出处。

量化基于概念的侧信道模型中的准确度-可解释性权衡

Created by
  • Haebom

作者

大卫·德博特、朱塞佩·马拉

大纲

为了弥补概念瓶颈模型（CBNM）预测精度下降的问题，概念侧通道模型（CSM）被提出，但其存在可解释性降低的问题。本文提出一种控制CSM可解释性的方法。我们提出了一个集成概率概念侧通道元模型，并引入侧通道独立性评分（SIS）来量化侧通道依赖性。我们通过SIS正则化来控制侧通道依赖性，并分析预测器的表达能力和侧通道依赖性对可解释性的影响。实验结果表明，SIS正则化可以提高CSM的可解释性和可干预性，以及学习到的可解释任务预测器的质量。

Takeaways，Limitations

•
Takeaways：
◦
提出了一种方法来平衡 CSM 的可解释性和准确性。
◦
开发一种称为 SIS 的侧信道依赖性测量指标。
◦
通过 SIS 规范化提高 CSM 的可解释性。
◦
分析 CSM 架构中表达力与侧信道依赖性之间的相互作用。
•
Limitations：
◦
需要进一步研究来确定本文提出的方法的普遍性及其对其他 CSM 架构的适用性。
◦
需要进一步分析来确定 SIS 正则化的最佳超参数设置。
◦
需要进一步研究来确定改进的可解释性如何影响实际应用。
👍
Made with Slashpage