Dans cet article, nous proposons une ressource complète appelée FalseReject, composée de 16 000 questions apparemment dangereuses et de réponses structurées réparties sur 44 catégories liées à la sécurité. Cette ressource vise à résoudre le problème des approches axées sur la sécurité des modèles de langage à grande échelle (MLH), qui rejettent excessivement même des questions anodines. Nous présentons un cadre d'interaction multi-agents antagoniste basé sur des graphes pour générer des invites diverses et complexes, et fournir des réponses structurées avec des inférences explicites afin d'aider le modèle à distinguer avec précision les contextes sûrs des contextes dangereux. FalseReject comprend des jeux de données d'entraînement personnalisés et des jeux de tests de référence annotés par des humains, tant pour les modèles standard orientés directives que pour les modèles pilotés par inférence. Nous démontrons le problème persistant des rejets excessifs grâce à une analyse comparative approfondie de 29 LLM de pointe (SOTA), et démontrons expérimentalement que l'optimisation de l'apprentissage supervisé à l'aide de FalseReject réduit considérablement les rejets inutiles sans compromettre la sécurité globale ni les fonctions générales du langage.
