每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

量子-经典混合量化神经网络

Created by
  • Haebom

作者

李文欣、王川、朱洪东、高奇、马寅、魏海、文凯

大纲

本文提出了一种新颖的二次二元优化 (QBO) 模型,用于基于量子计算的量化神经网络训练。样条插值允许使用任意激活函数和损失函数。为了应对神经网络的非线性和多层结构挑战,我们引入了前向区间传播 (FIP) 技术,将激活函数离散化为线性子区间。该方法在保留神经网络通用近似特性的同时,能够利用量子计算机优化复杂的非线性函数,从而拓展其在人工智能领域的应用。从优化角度,我们推导出经验风险最小化问题的样本复杂度,并给出了近似误差和所需伊辛自旋数量的理论上限。求解大规模二次约束二元优化 (QCBO) 模型的一个关键挑战是存在大量约束条件。为此,我们使用量子条件梯度下降 (QCGD) 算法直接求解 QCBO 问题。我们证明了 QCGD 在具有随机且有界方差目标函数值的量子预言机下,以及在系数矩阵有限精度约束下的收敛性,并给出了 QCBO 求解过程求解时间的上限。我们还提出了一种结合单样本位级优化的训练算法。

Takeaways, Limitations

Takeaways:
提出了一种利用量子计算进行定量神经网络训练的新方法。
可以通过样条插值使用任意激活和损失函数。
使用 FIP 技术解决非线性和多层问题
量子计算机可以优化复杂的非线性函数。
提供近似误差和伊辛自旋数量的理论上限
使用 QCGD 算法有效解决 QCBO 问题。
提出的单样本位尺度优化训练算法
Limitations:
难以处理大规模 QCBO 问题中的许多约束(使用惩罚方法时会出现超参数调整问题)
需要在真实的量子计算机上实现 QCGD 算法并进行性能评估。
需要在真实的神经网络模型上对所提出的方法进行实验验证。
有必要分析理论上限和实际性能之间的差异。
👍