Share
Sign In
Solicitud de información adicional
Generated Knowledge Prompting es una técnica propuesta por el equipo de investigación de Jiacheng Liu en el artículo <Generated Knowledge Prompting for Commonsense Reasoning> publicado en 2022. La indicación de conocimiento generado es un método para generar conocimiento directamente a partir de un modelo de lenguaje y proporcionarlo como entrada adicional para responder preguntas. Este método es especialmente útil para tareas que requieren razonamiento con sentido común o precisión objetiva.
Generated Knowledge Prompting for Commonsense Reasoning.pdf844.23KB
El principio es sorprendentemente simple e implica dos pasos. Primero, utilizamos el modelo de lenguaje para generar una declaración de conocimiento relacionada con la pregunta. En segundo lugar, integra el conocimiento generado en el proceso de decisión, haciendo predicciones con cada declaración de conocimiento y luego seleccionando la predicción con mayor confianza.
Si ha leído hasta aquí y recuerda los GPT, lo comprende bien. De hecho, se trata de una técnica que también se ha aplicado parcialmente a los GPT. Este es el proceso de ingresar conocimiento, proporcionar una respuesta apropiada para ese conocimiento y extraer una mejor respuesta integrando la información ingresada o respondida por el usuario.
Genere declaraciones de conocimientos a través de un modelo de lenguaje (usando GPT-3.5) adaptado a su pregunta específica. Esto se hace a través de varias demostraciones, cada una de las cuales consta de una pregunta sobre ese estilo de trabajo y una declaración de conocimientos de respaldo. Esta declaración de conocimiento es una declaración que presenta explícitamente información relacionada con un tema o pregunta. Una declaración no es algo grandioso.
Siguiendo el ejemplo del artículo, es el siguiente:
“¿Hay alguna parte del golf en la que intentas obtener una puntuación más alta que la de otra persona?”
Una parte del golf es intentar conseguir una puntuación más alta que otras.
Conocimiento generado => El objetivo del golf es completar el campo en el menor número de golpes. Gana el jugador con la puntuación más baja.
“¿Hay alguna parte del golf en la que intentas obtener una puntuación más alta que la de otra persona?”
En el golf, los jugadores intentan completar el campo con el menor número de golpes posible. Gana la puntuación más baja.
La importancia del conocimiento generado impulsa
Las indicaciones de conocimiento creadas representan un avance importante en LLM, especialmente para tareas que requieren la comprensión de información compleja o matizada. Al crear y aprovechar el conocimiento dentro del mensaje, LLM puede proporcionar respuestas más precisas y contextuales. En otras palabras, al incorporar el conocimiento generado en la indicación, el modelo de lenguaje comprende correctamente que en golf una puntuación más baja es mejor. Este ejemplo muestra que la comprensión y precisión de un modelo se pueden mejorar significativamente al incluir el conocimiento generado.
Solo para agregar un poco, de hecho, todo se vuelve más fácil si usa VectorDB o Embedding Model. Este es un método eficaz cuando se utilizan indicaciones para lograr la mayor eficiencia.
ⓒ 2023. Haebom, todos los derechos reservados.
Se indica la fuente y puede utilizarse con fines comerciales con el permiso del titular de los derechos de autor.
