Este artículo presenta el primer estudio exhaustivo de tres decisiones clave para la implementación efectiva de la Generación Aumentada por Recuperación (RAG): si implementar o no RAG, cuánta información recuperar y cómo integrar el conocimiento recuperado. Mediante experimentos sistemáticos en tres LLM y seis conjuntos de datos, descubrimos que la implementación de RAG debe ser selectiva, que la cantidad óptima de recuperación varía según las tareas (5-10 documentos para QA, mientras que la generación de código requiere una optimización específica para cada escenario) y que la efectividad de la integración del conocimiento varía según las tareas y las características del modelo (la generación de código se beneficia enormemente de las indicaciones, mientras que la respuesta a preguntas solo experimenta una pequeña mejora). Por lo tanto, argumentamos que una estrategia de RAG de propósito general es inadecuada y que se necesitan decisiones de diseño contextuales que consideren las características de la tarea y las capacidades del modelo.
