Cet article aborde le manque de compréhension du paysage d'optimisation de l'ingénierie des prompts, une technique cruciale pour optimiser les performances des modèles de langage à grande échelle, et réalise une analyse systématique pour combler cette lacune. Nous expérimentons des tâches de détection d'erreurs à l'aide de deux stratégies de génération de prompts (énumération systématique et diversification basée sur la nouveauté) et analysons la structure du paysage d'aptitude de l'ingénierie des prompts par une analyse d'autocorrélation dans l'espace d'inclusion sémantique. Nos résultats expérimentaux révèlent que la génération systématique présente une autocorrélation progressivement décroissante, tandis que la génération diversifiée présente un modèle non monotone avec une corrélation maximale à des distances sémantiques intermédiaires, suggérant un paysage inégal et hiérarchiquement structuré. Des analyses spécifiques à chaque tâche, portant sur dix catégories de détection d'erreurs, révèlent des différences de degré d'inégalité selon les types d'erreurs. En conclusion, cette étude fournit une base empirique pour comprendre la complexité de l'optimisation dans le paysage de l'ingénierie des prompts.
