[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

Medición de fugas en métodos basados en conceptos: un enfoque teórico de la información

Created by
  • Haebom

Autor

Mikaël Makonnen, Moritz Vandenhirtz, Sonia Laguna, Julia E Vogt

Describir

Los Modelos de Cuello de Botella Conceptual (CBM) buscan mejorar la interpretabilidad estructurando predicciones en torno a conceptos comprensibles para el ser humano. Sin embargo, la fuga de información no intencionada, donde las señales de predicción eluden los cuellos de botella conceptuales, dificulta la transparencia. En este artículo, presentamos una medida basada en la teoría de la información que cuantifica la fuga de información en los CBM, identificando hasta qué punto las incrustaciones conceptuales codifican información no intencionada adicional, más allá de los conceptos dados. Validamos la medida mediante experimentos sintéticos controlados y demostramos su eficacia para detectar tendencias de fuga en diversas configuraciones. Destacamos que la dimensionalidad de las características y los conceptos influye significativamente en la fuga, y que la elección del clasificador influye en la estabilidad de la medición (XGBoost resulta ser el estimador más estable). Además, nuestras investigaciones iniciales muestran que la medida exhibe el comportamiento esperado al aplicarse a CBM de unión blanda, lo que sugiere la fiabilidad de la cuantificación de fugas más allá de entornos totalmente sintéticos. Si bien este estudio evalúa rigurosamente la medida en experimentos sintéticos controlados, trabajos futuros podrían extender su aplicación a conjuntos de datos del mundo real.

Takeaways, Limitations

Takeaways: Presentamos una nueva medida de teoría de la información para cuantificar la fuga de información y la validamos en conjuntos de datos sintéticos. Revelamos los efectos de las dimensiones de características y conceptos, así como la selección del clasificador, en la fuga de información. También confirmamos su aplicabilidad al CBM de unión blanda.
Limitations: El estudio se limita a experimentos sintéticos controlados y su aplicación a conjuntos de datos del mundo real sigue siendo una tarea para futuras investigaciones.
👍