每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成，并以非盈利为基础运营。
论文版权归作者及相关机构所有，分享时请注明出处。

Nav-EE：自动驾驶中高效视觉语言模型的导航引导提前退出

Created by
  • Haebom

作者

胡海波、黄连明、王新宇、崔宇飞、吴尚宇、关南、薛淳

大纲

为了解决自动驾驶中视觉语言模型 (VLM) 实时部署的高推理延迟问题，我们提出了 Nav-EE，这是一个利用导航信息的早期退出框架。Nav-EE 可以提前预测导航任务，并动态应用适当的早期退出层来降低延迟。在 CODA、Waymo 和 BOSCH 数据集上的实验结果表明，Nav-EE 在保持与完全推理相当的准确率的同时，将延迟降低了高达 63.9%。使用 Autoware Universe 进行实车集成也将推理延迟从 600 毫秒降低到 300 毫秒，支持在复杂情况下快速决策。

Takeaways, Limitations

•
Takeaways：
◦
我们证明，通过使用导航信息提前终止可以有效减少自动驾驶系统的推理延迟。
◦
通过与实际车辆的结合验证了所提出方法的实用性。
◦
提出了在自动驾驶系统中有效部署大规模模型的可能性。
•
Limitations：
◦
论文中没有具体提及Limitations。
👍
Made with Slashpage