每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

人工智能公司是否兑现了对白宫的自愿承诺?

Created by
  • Haebom

作者

Jennifer Wang、Kayla Huang、Kevin Klyman、Rishi Bommasani

大纲

本文基于白宫、七国集团、布莱奇利公园和首尔宣布的自愿性人工智能治理指南,评估了主要人工智能公司对自愿承诺的遵守情况。基于白宫2023年的八项自愿承诺,我们制定了详细的评估量表,对公司公开披露的行动进行评分。结果显示,各公司在合规性方面存在显著差异。得分最高的OpenAI公司达到了83%,而平均得分仅为53%。尤其值得一提的是,在模型权重安全承诺方面的合规性极差,平均合规率为17%,16家公司中有11家的合规率为0%。这凸显了未来人工智能治理举措必须解决的一个明显的结构性缺陷:主动披露公司如何履行其公开承诺,以确保问责制,并确保此类披露的可验证性。最后,我们提出了三项政策建议,以解决承诺不明确、复杂人工智能供应链的作用以及公共透明度等问题。

Takeaways, Limitations

Takeaways:
研究表明,人工智能公司在履行自愿承诺方面表现非常糟糕,特别是在模型权重安全方面。
未来的人工智能治理举措应侧重于确保公司承诺的透明度和可验证性。
提出的三项政策建议提供了可应用于全球人工智能治理举措的切实可行的政策方向。
Limitations:
由于本研究仅依赖公开信息,可能无法完全反映企业的实际实施水平。
评估量表的客观性和可靠性有待进一步审查。
缺乏具体措施来确保复杂的人工智能供应链的透明度和验证。
👍