Malgré les récentes améliorations des performances des modèles texte-image (T2I), cet article soulève des inquiétudes quant à la génération de contenu NSFW, notamment d'images à caractère sexuel, violent, politiquement sensible et offensant. Pour y remédier, nous présentons PromptGuard, une nouvelle technique de modération de contenu. Inspirée du mécanisme d'invite système des modèles de langage à grande échelle (LLM), PromptGuard optimise les invites logicielles sécurisées (P*), qui servent d'invites système implicites dans l'espace d'intégration textuelle des modèles T2I. Cela permet une génération d'images sûre et réaliste sans compromettre l'efficacité de l'inférence ni nécessiter de modèles proxy. De plus, nous optimisons les invites logicielles spécifiques à chaque catégorie et les intégrons pour fournir des conseils de sécurité, améliorant ainsi la fiabilité et la convivialité. Des expériences approfondies sur cinq jeux de données démontrent que PromptGuard atténue efficacement la génération de contenu NSFW tout en préservant une sortie positive de haute qualité. Elle atteint une vitesse 3,8 fois supérieure à celle des méthodes existantes et réduit le taux optimal d'insécurité à 5,84 %, surpassant ainsi huit défenses de pointe.
