/
/
自动提示工程师(APE):提示优化
Sign In
自动提示工程师(APE):提示优化
自动提示工程师(APE)是一种自动化提示工程、自动化命令生成和语言模型选择的技术,将该过程视为自然语言合成和优化问题。该方法是周永超研究团队在2022年发表的研究《大型语言模型是人类水平的提示工程师》中提出的。
LARGE LANGUAGE MODELS ARE HUMAN-LEVEL PROMPT ENGINEERS.pdf
3.90MB
APE的流程如下:
1.
候选指令生成:语言模型为给定任务生成多个候选指令。
2.
执行和评估:在模型上执行生成的指令,并根据评分函数评估其有效性。
3.
优化:通过选择和改进最有效的指令,以零样本的方式提高语言模型的性能。
APE 不仅优于手动制作的提示,还优于分步提示,并帮助语言模型为各种任务得出更有效的链式推理。这提供了一种优于现有方法(例如思想链(CoT))的改进方法。
例如,当使用 APE 生成解决数学问题的指令时,模型会经历以下步骤:
•
问题:“哪两个数字的和为 15,差为 3?”
•
命令候选创建:“我们先设置一个简单的表达式。” /“我们将这两个数字称为 X 和 y。”
•
运行并评估:建立并求解表达式“X + y = 15”和“x - y = 3”。
•
优化:选择产生最准确答案的方法并将其应用于其他类似类型的问题。
这个使用 APE 的过程可以让语言模型产生更准确、更高效的答案,为用户提供更好的体验。 APE 通过自动化生成和评估命令候选以及选择最佳命令的过程,在减少人类工程师的工作和提高语言模型的性能方面发挥着重要作用。
最近,要求LLM自己写提示的情况有所增加……就实用性而言,它只有在需要大量推理时才会产生有意义的结果,但不是很明显。
ⓒ 2023。Haebom,保留所有权利。
经版权所有者许可,可以将其用于商业目的,但需注明来源。
Made with Slashpage