每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成，并以非盈利为基础运营。
论文版权归作者及相关机构所有，分享时请注明出处。

从模型缩放角度理解基于语义 ID 的生成式推荐

Created by
  • Haebom

作者

刘竞哲、利亚姆·柯林斯、唐吉良、赵通、尼尔·沙阿、克拉克·鞠明轩

大纲

本文分析了生成式推荐 (GR) 系统及其 Limitations 的演变，并提出了一种在推荐系统中利用大规模语言模型 (LLM) 的新方法。具体而言，我们重点介绍了现有基于语义 ID (SID) 的 GR 模型的扩展局限性，并通过实验证明直接利用 LLM 的 LLM-as-RS 展现出更佳的扩展性能。LLM-as-RS 的性能提升高达 20%，表明 LLM 能够有效地建模用户-商品交互。

Takeaways, Limitations

•
Takeaways：
◦
随着模型尺寸的增加，基于 SID 的 GR 模型的性能提升有限。
◦
LLM-as-RS 方法表现出更好的扩展性能。
◦
LLM可以有效地学习协同过滤信息。
◦
LLM-as-RS 在 GR 领域提供了突破性的进步。
•
Limitations：
◦
我们特别分析了基于 SID 的 GR 模型的扩展限制。
◦
我们关注 LLM-as-RS 方法的潜力，并需要进一步研究以提高其性能。
◦
我们通过比较模型大小（44M 到 14B）的性能来分析扩展效果。
👍
Made with Slashpage