每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成，并以非盈利为基础运营。
论文版权归作者及相关机构所有，分享时请注明出处。

使用可预测性测量图像标题中的方向性偏差放大

Created by
  • Haebom

作者

拉胡尔·奈尔、巴努·托卡斯、汉娜·科纳

大纲

使用有偏差的机器学习数据集训练模型会在测试过程中放大这种偏差，这种现象被称为偏差放大。为了测量字幕中的偏差放大，人们使用了基于可预测性的指标“字幕泄漏”（LIC）。然而，LIC 存在局限性：无法识别方向性，词汇替换策略薄弱，并且容易受到攻击模型的影响。为了解决这些问题，本文提出了“字幕方向性可预测性放大”（DPAC），它可以测量字幕中的方向性偏差放大，利用改进的替换策略来更好地估计数据集偏差，并且不易受到攻击模型的影响。在 COCO 字幕数据集上的实验表明，DPAC 是测量字幕偏差放大最可靠的指标。

Takeaways, Limitations

•
Takeaways：
◦
DPAC 提出了一种测量字幕中偏差放大的新方法。
◦
我们通过测量方向偏差放大来克服现有方法的局限性。
◦
改进的词汇替换策略和不太敏感的攻击者模型设计可以实现更准确的偏差测量。
◦
我们通过在 COCO 字幕数据集上的实验证明了 DPAC 的有效性。
•
Limitations：
◦
有关具体 DPAC 实施方法和技术细节的信息可能缺乏。
◦
对其他类型的数据集或模型的普遍性需要进一步研究。
◦
可能缺乏与本文范围之外的其他偏见测量方法的比较分析。
👍
Made with Slashpage