每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

以对象为中心的概念瓶颈

Created by
  • Haebom

作者

大卫·斯坦曼、沃尔夫冈·斯塔默、安东尼娅·伍斯特、克里斯蒂安·克斯汀

大纲

为了开发兼顾性能和可解释性的模型(现代人工智能面临的关键挑战),本文提出了以对象为中心的概念瓶颈 (OCB) 框架。OCB 结合了基于概念的模型 (CBM)(提取人类可理解的概念)和预训练的以对象为中心的基础模型的优势,从而提升了性能和可解释性。OCB 在复杂图像数据集上的表现优于现有的 CBM,并能够在复杂的视觉任务中做出可解释的决策。

Takeaways,Limitations

通过以对象为中心的方法克服现有 CBM 的局限性并提高复杂视觉任务的性能。
利用以对象为中心的基础模型来增强模型的表达能力,同时保持基于概念的模型的可解释性。
我们对 OCB 的关键组成部分进行了深入分析,包括对象概念编码和聚合策略。
实现超越单标签分类的复杂视觉任务的可解释决策。
论文中没有介绍具体的Limitations。
👍