Share
Sign In
Ingeniero de avisos automatizado (APE): optimización de avisos
Automatic Prompt Engineer (APE) es una técnica para automatizar la ingeniería de avisos, automatizar la generación y selección de comandos para un modelo de lenguaje, tratando el proceso como un problema de optimización y síntesis de lenguaje natural. Este método fue propuesto en el estudio <Los modelos de lenguaje grandes son ingenieros de avisos a nivel humano> publicado por el equipo de investigación de Yongchao Zhou en 2022.
LARGE LANGUAGE MODELS ARE HUMAN-LEVEL PROMPT ENGINEERS.pdf3.90MB
APE pasa por los siguientes procedimientos:
1.
Generación de candidatos de instrucción: el modelo de lenguaje genera múltiples candidatos de instrucción para una tarea determinada.
2.
Ejecución y evaluación: Ejecute las instrucciones generadas en el modelo y evalúe su efectividad en función de la función de puntuación.
3.
Optimización: mejore el rendimiento de su modelo de lenguaje de manera inmediata seleccionando y mejorando las instrucciones más efectivas.
APE no solo supera a las indicaciones creadas manualmente, sino que también supera a las indicaciones paso a paso y ayuda a los modelos de lenguaje a derivar inferencias encadenadas más efectivas para una variedad de tareas. Esto proporciona un enfoque mejorado con respecto a los métodos existentes, como la Cadena de Pensamiento (CoT).
Por ejemplo, cuando se utiliza APE para generar instrucciones para resolver un problema matemático, el modelo sigue los siguientes pasos:
•
Problema: "¿Qué dos números tienen una suma de 15 y una diferencia de 3?"
•
Creación de candidatos de comando: "Primero configuremos una expresión simple". / “Llamemos x e y a los dos números”.
•
Ejecutar y evaluar: configurar y resolver las expresiones "x + y = 15" y "x - y = 3".
•
Optimización: seleccione el método que produzca la respuesta más precisa y aplíquelo a otros tipos de problemas similares.
Este proceso que utiliza APE permite que el modelo de lenguaje produzca respuestas más precisas y eficientes, brindando una mejor experiencia a los usuarios. APE desempeña un papel importante a la hora de reducir el trabajo de los ingenieros humanos y mejorar el rendimiento de los modelos de lenguaje al automatizar el proceso de generación y evaluación de candidatos a comandos y seleccionar el comando óptimo.
Recientemente, ha habido un aumento en el número de casos en los que se pide a los LLM que escriban el mensaje ellos mismos... En términos de utilidad, solo produce resultados significativos cuando se requiere mucho razonamiento, pero no es muy notable.
ⓒ 2023. Haebom, todos los derechos reservados.
Se indica la fuente y puede utilizarse con fines comerciales con el permiso del titular de los derechos de autor.
