Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Démystifier par le dialogue ? Explorer le contre-discours généré par l'IA pour contrer les théories du complot.

Created by
  • Haebom

Auteur

Mareike Lisker, Christina Gottschalk, Helena Mihaljevic

Contour

Cet article se concentre sur le contre-discours (réfutation) comme stratégie pour contrer les contenus en ligne préjudiciables (théories du complot). Face à la difficulté de déploiement à grande échelle du contre-discours mené par des experts, nous proposons une méthode utilisant des modèles linguistiques à grande échelle (MLH). Cependant, nous soulignons l'absence de données sur le contre-discours pour les théories du complot. Nous évaluons les capacités de génération de contre-discours des modèles GPT-4o, Llama 3 et Mistral à l'aide de messages structurés issus de recherches en psychologie. Les résultats expérimentaux montrent que ces modèles ont tendance à produire des résultats génériques, répétitifs et superficiels, à surévaluer la peur et à fabriquer des faits, des sources et des chiffres. Cela suggère que les approches basées sur des messages posent des difficultés d'application pratique.

Takeaways, Limitations_

Takeaways: Cette étude explore empiriquement le potentiel et les limites de la production de contre-discours conspirationnistes à l'aide du LLM, suggérant des pistes de recherche futures. Elle démontre clairement l'inefficacité actuelle du LLM à générer des contre-discours.
Limitations : Difficulté de généralisation en raison de l’absence de données d’évaluation. Manque de validation concrète de l’efficacité du contre-discours généré par le modèle. Si les limites du LLM (réactions généralisées, distorsion des faits et surreconnaissance de la peur) sont clairement mises en évidence, il manque des solutions concrètes pour les surmonter.
👍