每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

从不精确监督中学习稳健的扩散模型

Created by
  • Haebom

作者

吴东东、崔家成、王伟、沉志强、杉山正史

DMIS:不精确监督下的扩散模型

大纲

条件扩散模型在各种生成任务中展现出卓越的性能,但它们通常基于包含不精确条件输入信息的大型数据集进行训练。这些监督信息可能源于噪声、模糊性或不完整的标签,从而导致条件不一致和生成质量下降。为了解决这个问题,我们提出了基于不精确监督的扩散模型 (DMIS)。DMIS 代表了对扩散模型的首次系统性研究,并提供了一个统一的框架,用于在不精确监督下训练稳健的扩散模型。DMIS 源于似然最大化,将目标分解为生成和分类两个部分。生成部分对不精确的标签分布进行建模,而分类部分使用扩散分类器推断类别后验概率。优化的时间步长采样策略进一步提高了效率。通过在各种形式的不精确监督(包括图像生成、弱监督学习和噪声数据集压缩)中进行的大量实验,我们证明 DMIS 能够持续生成高质量、可识别类别的样本。

Takeaways, Limitations

Takeaways:
提出了一种在非精确监督环境中训练扩散模型的新框架。
将目标分解为生成和分类组件以确保稳健性。
通过优化时间步长采样策略提高效率。
在图像生成、弱监督学习和噪声数据集压缩等各种任务中表现出高性能。
Limitations:
论文中没有具体提及Limitations。
👍