每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成，并以非盈利为基础运营。
论文版权归作者及相关机构所有，分享时请注明出处。

分布语义追踪：解释大型语言模型中的幻觉的框架

Created by
  • Haebom

作者

加根·巴蒂亚、Somayajulu G Sripada、凯文·艾伦、雅各布·阿斯科纳

LLM对幻觉的研究

大纲

本研究探讨了大规模语言模型 (LLM) 中幻觉的根本原因，即它们倾向于生成与现实不符的似是而非的句子。为此，我们提出了分布式语义追踪 (DST)，一个用于因果理解模型推理过程的框架，并识别出承诺层，即幻觉不可避免的特定层。此外，我们发现了一种可预测的故障模式，该模式源于快速联想通路（系统 1）和慢速语境通路（系统 2）之间的冲突。我们发现语境通路的一致性与幻觉发生率呈显著负相关 (-0.863)，这表明这种故障是内部语义缺陷的可预测结果。

Takeaways, Limitations

•
Takeaways：
◦
通过DST框架提出了对LLM内部推理过程进行因果分析的可能性。
◦
识别承诺层，即出现幻觉的特定层，为解决问题提供了重点。
◦
通过联想和情境路径之间的冲突来解释幻觉的机制。
◦
研究发现，情境通路的一致性与幻觉发生率有关，提示了预测幻觉现象的可能性。
•
Limitations：
◦
需要进一步研究来确定 DST 框架的通用性及其对其他 LLM 架构的适用性。
◦
需要进一步深入分析联想路径和情境路径之间的相互作用和冲突机制。
◦
需要研究具体的方法来解决承诺层中出现的幻觉现象。
👍
Made with Slashpage