Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

¿Desmitificando con diálogo? Explorando el contradiscurso generado por IA para desafiar las teorías conspirativas

Created by
  • Haebom

Autor

Mareike Lisker, Christina Gottschalk, Helena Mihaljevi c

Describir

Este artículo se centra en el contradiscurso (refutación) como estrategia para contrarrestar el contenido dañino en línea (teorías conspirativas). Dado que el contradiscurso impulsado por expertos tiene dificultades para escalarse, proponemos un método que utiliza modelos lingüísticos a gran escala (LLM). Sin embargo, destacamos la falta de un conjunto de datos de contradiscurso para teorías conspirativas. Evaluamos la capacidad de generación de contradiscurso de los modelos GPT-4o, Llama 3 y Mistral mediante indicaciones estructuradas basadas en investigación psicológica. Los resultados experimentales muestran que estos modelos tienden a producir resultados genéricos, repetitivos y superficiales, a sobreenfatizar el miedo y a inventar hechos, fuentes y cifras. Esto sugiere que los enfoques basados en indicaciones plantean desafíos para su aplicación práctica.

Takeaways, Limitations

Takeaways: Este estudio explora empíricamente el potencial y las limitaciones de generar contradiscursos a teorías de la conspiración mediante el LLM, sugiriendo futuras líneas de investigación. Demuestra claramente la insuficiencia actual de la capacidad del LLM para generar contradiscursos.
Limitations: Dificultad para generalizar debido a la falta de un conjunto de datos para la evaluación. Falta de validación en el mundo real de la eficacia del contradiscurso generado por el modelo. Si bien las limitaciones del LLM (reacciones generalizadas, distorsión de los hechos y sobrerreconocimiento del miedo) son evidentes, faltan soluciones específicas para superarlas.
👍