/
/
利用语言模型构建服务
Sign In
利用语言模型构建服务
提示在简化与 GPT-3.5 和 GPT-4 等 GPT 模型的交互方面发挥着重要作用。随着人工智能的不断发展,我认为未来将进一步简化与基础模型的沟通,并让各种应用能够更简单高效地使用这些模型。
随着人工智能的普及,令我想起以前策划人员学习 API 和 SDK 概念的那个时期。这些并不是必须了解的内容,但懂一点还是很有帮助的。实际上,我觉得无论是正在开发还是将来计划开发人工智能相关服务的人,最重要的是搞清楚基本架构。最省事的做法就是像 OpenAI 这样直接用 API,接收输入再输出结果……但对于大多数负责人或服务运营方来说,他们更希望有更好的用户体验或成本优势,所以通常并不偏向这种方式。除非是为了快速引领市场。国内云存储业务就是很典型的例子,最终如果能自主建设 IDC 或数据中心,运营费用能减少一半以上,但要搭建起来成本高、设计也并不轻松。
Emerging Architectures for LLM Applications | Andreessen Horowitz
A reference architecture for the LLM app stack. It shows the most common systems, tools, and design patterns used by AI startups and tech companies.
a16z.com
我个人认为,无论从事什么岗位,如果有人打算规划或梦想人工智能相关的服务,都建议读一读上面的内容。其实只要清楚理解三个概念就行了,就是
基础模型、嵌入模型、VectorDB
。
Matt Bornstein 和 Rajko Radovanovic 谈大模型应用的新兴架构
•
基础模型就像这个图书馆的管理员,非常了解书(也就是信息),可以帮你找到你想要的书。如果你问“请告诉我关于计算机的内容”,它就会给你推荐相关的书籍。
•
嵌入模型则是将每本书转成便于检索的编码。就像给每本书贴上独一无二的条形码,这样你就可以迅速找到想要的那本书。
•
VectorDB 就是一排用条形码管理书的巨大书架。这个书架可以按照主题,或你喜欢的任何方式整理和保存书籍。因此,如果你说“我想看看关于这个主题的书”,它可以马上把相关的书找出来给你。
在开发人工智能服务的过程中你会发现,人们向人工智能提的问题其实是能归类的,而且常见的领域也很明确。清楚这点的话,合理设计 VectorDB 和嵌入模型,就能明显降低成本。
ⓒ 2023。Haebom,保留所有权利。
经版权所有者许可,可以将其用于商业目的,但需注明来源。
Made with Slashpage