每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

EXPLOR:基于分布不确定性的拒绝的外推伪标签匹配

Created by
  • Haebom

作者

Yunni Qu(北卡罗来纳大学教堂山分校计算机科学系)、James Wellnitz(北卡罗来纳大学教堂山分校埃舍尔曼药学院)、Dzung Dinh(北卡罗来纳大学教堂山分校计算机科学系)、Bhargav Vaduri(北卡罗来纳大学教堂山分校计算机科学系)、Alexander Tropsha(北卡罗来纳大学教堂山分校埃舍尔曼药学院)、Junier Oliva(北卡罗来纳大学教堂山分校计算机科学系)

大纲

EXPLOR 是一个新颖的框架,它利用增强的估计虚拟标签来改进对分布外 (OOD) 数据的预测和基于不确定性的拒绝。它采用多个 MLP 头(每个基础模型一个),共享嵌入,并采用一种新颖的头特定匹配损失函数,以使用不同的基础模型作为虚拟标签器来提升增强数据上的 OOD 性能。与以往依赖于特定模态的增强或假设能够访问 OOD 数据的方法不同,EXPLOR 引入了估计虚拟标签来进行潜在空间增强,从而能够对任何实值向量数据进行鲁棒的 OOD 泛化。与以往使用神经网络主干的模态无关方法不同,EXPLOR 与模型无关,并且能够有效地应用于各种 OOD 泛化模型,从简单的基于树的模型到复杂的模型。我们证明,EXPLOR 在跨不同数据集的单源域泛化设置中优于最先进的方法。

Takeaways, Limitations

Takeaways:
通过潜在空间增强估计虚拟标签,实现跨不同数据类型的稳健 OOD 泛化。
与模型无关的框架,适用于各种基础模型。
在单源域泛化设置中实现 SOTA 性能。
Limitations:
实验结果仅限于单源域泛化设置。多源域泛化性能尚未验证。
需要对所提出的匹配损失函数的泛化性能和优化进行进一步分析。
需要进一步研究分析各种基础模型之间的性能差异并制定选择最佳基础模型的策略。
👍