[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

DiCE-Extended: Un enfoque robusto para las explicaciones contrafácticas en el aprendizaje automático

Created by
  • Haebom

Autor

Volkan Bakir, Polat Goktas, Sureyya Akyuz

Describir

Este artículo analiza la inteligencia artificial explicable (XAI), que cobra cada vez mayor importancia en áreas cruciales para la toma de decisiones, como la medicina, las finanzas y el derecho. En particular, nos centramos en las explicaciones contrafácticas (CF), un enfoque fundamental de la XAI, para estudiar cómo proporcionar información práctica a los usuarios sugiriendo modificaciones mínimas en las características de entrada que diferencian los resultados del modelo. Señalamos que los métodos actuales de generación de CF tienen dificultades para equilibrar la proximidad, la diversidad y la robustez, y proponemos el marco DiCE-Extended, que mejora la robustez a la vez que mantiene la interpretabilidad mediante la integración de técnicas de optimización multiobjetivo para superar las limitaciones del marco de Explicaciones Contrafácticas Diversas (DiCE), que enfatiza la diversidad pero carece de robustez. Introducimos una nueva métrica de robustez basada en el coeficiente Dice-Sørenson y mejoramos el equilibrio entre proximidad, diversidad y robustez mediante el uso de componentes de pérdida ponderada (lambda_p, lambda_d, lambda_r). La validación experimental con conjuntos de datos de referencia, como COMPAS, Lending Club, German Credit y Adult Income, y múltiples backends de aprendizaje automático, como Scikit-learn, PyTorch y TensorFlow, demuestra que DiCE-Extended mejora la validez, la robustez y la alineación con los límites de decisión de los CF en comparación con DiCE estándar. Esto destaca el potencial de DiCE-Extended para generar CF más fiables e interpretables para aplicaciones de alto riesgo, lo que sugiere que futuras investigaciones podrían explorar técnicas de optimización adaptativa y restricciones específicas del dominio para mejorar aún más la generación de CF en escenarios reales.

Takeaways, Limitations

Takeaways:
Proponemos un nuevo marco, DiCE-Extended, que integra técnicas de optimización multiobjetivo para abordar el problema de robustez del DiCE existente y generar FC más estables y confiables manteniendo al mismo tiempo la interpretabilidad.
Proponemos una nueva métrica de robustez basada en el coeficiente de Dice-Sørenson para mejorar la evaluación de la estabilidad de CF.
Demostramos experimentalmente que el componente de pérdida ponderada puede controlar eficazmente el equilibrio entre proximidad, diversidad y robustez.
Verificamos la superioridad de DiCE-Extended en varios conjuntos de datos y backends de aprendizaje automático, aumentando su potencial para aplicaciones prácticas.
Limitations:
La investigación sobre técnicas de optimización adaptativa y restricciones específicas del dominio sigue siendo una tarea futura.
Tal vez se necesiten más investigaciones sobre la configuración óptima de los parámetros del índice de robustez propuesto y los componentes de pérdida ponderada.
Se necesitan validaciones y experimentos adicionales para aplicaciones prácticas de alto riesgo.
👍