Este artículo destaca el problema de que los algoritmos existentes para generar explicaciones de los resultados de los clasificadores de imágenes emplean diversas definiciones y técnicas de explicación, pero no emplean un enfoque basado en principios y una definición formal de causa y explicación. Por lo tanto, proponemos un novedoso enfoque de caja negra basado en una teoría de causalidad real. Demostramos resultados teóricos relevantes, presentamos un algoritmo para calcular explicaciones aproximadas basadas en estas definiciones y analizamos la terminación, la complejidad y la comparación de la aproximación con la definición exacta del algoritmo. Implementamos el marco propuesto en una herramienta llamada ReX y presentamos resultados experimentales y comparaciones con herramientas de vanguardia. Demostramos que ReX es la herramienta más eficiente y produce las explicaciones más pequeñas, a la vez que supera a otras herramientas de caja negra en métricas de calidad estándar.