Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo. La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro. Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.
Hacia una nueva medida de la confianza del usuario en los sistemas XAI
Created by
Haebom
Autor
Miquel Mir o-Nicolau, Gabriel Moy a-Alcover, Antoni Jaume-i-Cap o, Manuel González -Hidalgo, Adel Ghazel, Maria Gemma Sempere Campello, Juan Antonio Palmer Sancho
Describir
Este artículo aborda el estudio de la metodología de IA explicable (XAI) para mejorar la fiabilidad de los modelos de aprendizaje profundo. Para resolver el problema de la opacidad de estos modelos, proponemos un nuevo índice de medición de la fiabilidad que combina indicadores de rendimiento y fiabilidad desde una perspectiva objetiva. A través de tres casos prácticos, demostramos que presenta un rendimiento y una sensibilidad mejorados ante diversos escenarios, en comparación con los métodos existentes.
Takeaways, Limitations
•
Takeaways:
◦
Presentamos un nuevo índice de medición para mejorar la fiabilidad de los sistemas XAI
◦
Rendimiento y sensibilidad mejorados en comparación con los métodos existentes
◦
Presentar un método para evaluar integralmente el rendimiento y la confiabilidad desde una perspectiva objetiva
•
Limitations:
◦
Es necesaria una mayor validación de la generalización del estudio de caso presentado.
◦
Necesidad de revisar la aplicabilidad a diversas metodologías XAI y modelos de aprendizaje profundo
◦
Necesidad de evaluar la complejidad computacional y la eficiencia de los indicadores de medición propuestos
