Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo. La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro. Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.
Análisis comparativo de explicaciones de XAI con evaluaciones alineadas con las necesidades humanas
Created by
Haebom
Autor
Rémi Kazmierczak, Steve Azzolin, Eloise Berthier, Anna Hedstrom , Patricia Delhomme, David Filliat, Nicolas Bousquet, Goran Frehse, Massimiliano Mancini, Baptiste Caramiaux, Andrea Passerini, Gianni Franchi
Describir
PASTA (Sistema de Evaluación Perceptual para la Explicación de la Inteligencia Artificial) es un novedoso marco centrado en el ser humano para evaluar técnicas de IA explicable (XAI) en visión artificial. Presentamos el conjunto de datos PASTA, un referente a gran escala que abarca diversos modelos y métodos de explicación (basados en la prominencia y en conceptos). Este conjunto de datos permite un análisis robusto y comparable de las técnicas XAI basado en el juicio humano. Además, presentamos un referente automatizado y basado en datos (puntuación PASTA) que utiliza el conjunto de datos PASTA para predecir las preferencias humanas, proporcionando evaluaciones escalables, fiables y consistentes que se ajustan a la percepción humana. Proponemos aplicar este método para investigar la interpretabilidad de los modelos existentes y desarrollar métodos XAI más interpretables por el ser humano. En particular, nos diferenciamos de la investigación existente al permitir la comparación de explicaciones entre diferentes modalidades.
Takeaways, Limitations
•
Takeaways:
◦
Proporcionar un conjunto de datos de referencia (conjunto de datos PASTA) para el análisis comparativo de técnicas XAI diversas y a gran escala.
◦
Presentación de un índice de evaluación automatizado (PASTA-score) que coincide con la percepción humana
◦
Es posible comparar descripciones de XAI entre diferentes modalidades.
◦
Contribuir a mejorar la interpretabilidad de los métodos XAI y desarrollar nuevos métodos XAI
•
Limitations:
◦
Se necesitan más investigaciones para determinar la generalización del conjunto de datos PASTA.
◦
Se necesita una mayor validación de la precisión y confiabilidad de la puntuación PASTA.
◦
Limitaciones de los métodos de evaluación limitados a dominios específicos de visión por computadora
◦
Se necesita más investigación sobre la aplicabilidad a otros campos de la IA (procesamiento del lenguaje natural, aprendizaje de refuerzo, etc.).
