Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

I-CEE: Adaptación de las explicaciones de los modelos de clasificación de imágenes a la experiencia del usuario

Created by
  • Haebom

Autor

Yao Rong, Peizhu Qian, Vaibhav Unhelkar, Enkelejda Kasneci

Describir

Este artículo enfatiza que explicar eficazmente las decisiones de los modelos de aprendizaje automático de caja negra es crucial para el despliegue responsable de sistemas de IA y presenta un marco I-CEE para la IA explicable centrada en el usuario (XAI). I-CEE proporciona a los usuarios un subconjunto de datos de entrenamiento (imágenes de ejemplo), sus explicaciones locales y decisiones del modelo para explicar las decisiones de los modelos de clasificación de imágenes. A diferencia de estudios previos, I-CEE modela la informatividad de las imágenes de ejemplo basándose en la experiencia del usuario, proporcionando diferentes ejemplos para cada usuario. Mediante simulaciones y experimentos con 100 participantes, demostramos que mejora la precisión de la predicción (simplicidad) de las decisiones del modelo para los usuarios.

Takeaways, Limitations

Takeaways:
Presentamos un enfoque XAI centrado en el usuario, demostrando que la comprensión y la simulación se pueden mejorar al proporcionar explicaciones adaptadas a la experiencia del usuario.
Demostramos experimentalmente que el marco I-CEE mejora la comprensión del modelo por parte de los usuarios y les permite predecir mejor las decisiones del modelo.
Supera las limitaciones del actual enfoque único para XAI y enfatiza la importancia de las explicaciones adaptadas al usuario.
Limitations:
Actualmente, sólo se ha aplicado a modelos de clasificación de imágenes y su generalización a otros tipos de modelos requiere más estudios.
Tal vez se necesiten más investigaciones sobre cómo evaluar con precisión la experiencia del usuario.
Los resultados del ensayo con 100 participantes son limitados en tamaño y pueden ser necesarios más estudios con poblaciones más diversas.
👍