每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

无需信任的自治:理解自主主权去中心化人工智能代理的动机、利益和治理困境

Created by
  • Haebom

作者

胡波涛 Amber Hu、刘雨涵、Helena Rong

大纲

本文探讨了去中心化自主人工智能代理(DeAgent)的出现及其社会影响。DeAgent 通过将基于大规模语言模型(LLM)的人工智能代理与区块链智能合约和可信执行环境(TEE)等分布式技术相结合,确保自主主权。这解决了中心化人工智能系统的信任问题,并促成了一种名为“共享智能”的新型人类协作范式,从而促进了社会计算的发展。然而,信任问题,例如 LLM 的幻觉现象,造成了不可靠自主性的矛盾张力。本研究旨在通过访谈 DeAgent 的利益相关者(专家、创始人和开发者),探讨他们的动机、利益和治理困境,以填补这一实证研究的空白。研究结果将为未来 DeAgent 系统和协议的设计提供指导,并丰富未来代理网络中社会技术人工智能系统治理的讨论。

Takeaways, Limitations

Takeaways:深入理解 DeAgent 的动机、优势和治理困境,为未来 DeAgent 系统和协议的设计提供洞见。它激发了人们对一种名为“共享智能”的新型社会计算范式的讨论。它也对社会技术人工智能系统的治理提出了重要启示。
Limitations:由于本研究基于少量利益相关者访谈,其普遍性有限。它可能缺乏对法学硕士(LLM)的可信度与副代理(DeAgent)的自主性之间矛盾张力的深入分析。代理网络的未来前景充满不确定性。
👍