Artículo de revisión

IA explicable para inspección visual: un análisis y revisión comparativos

DOI:

10.3791/69440

⸱

10 de octubre de 2025

 , 
1Al-Khwarizmi College of Engineering, Automated Manufacturing Department, University of Baghdad

En este artículo

Resumen

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Esta revisión sintetiza los métodos de IA explicables (XAI) para la inspección visual en los dominios industrial y médico. Una búsqueda guiada por PRISMA identificó 75 estudios, que informaron una taxonomía específica del dominio y un análisis comparativo utilizando métricas estandarizadas. Contribuimos con una taxonomía respaldada por evidencia y un flujo de trabajo orientado a los profesionales para la selección de herramientas.

Resumen

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Las técnicas de inteligencia artificial explicable (XAI) permiten la transparencia y la confianza en los sistemas de inspección visual automatizados al hacer que los modelos de aprendizaje automático de caja negra sean comprensibles. Si bien XAI se ha aplicado ampliamente, las revisiones anteriores no han abordado las demandas específicas de las tareas de inspección industrial y médica. Este artículo revisa los estudios que aplican técnicas XAI a la inspección visual en dominios industriales y médicos. Se realizó una búsqueda sistemática en IEEE Xplore, Scopus, PubMed, arXiv y Web of Science de estudios publicados entre 2014 y 2025, con criterios de inclusión que requieren la aplicación de XAI en tareas de inspección utilizando conjuntos de datos públicos o específicos del dominio. De un grupo inicial de estudios, se incluyeron 75 y se clasificaron en post-hoc e intrínsecos, que luego se evaluaron con respecto a la fidelidad, robustez, complejidad y precisión de localización. Los resultados muestran que los métodos basados en gradientes y propagación ofrecen explicaciones visuales eficientes adecuadas para la inspección casi en tiempo real, aunque con localización aproximada, mientras que los métodos basados en perturbaciones y modelos sustitutos proporcionan atribuciones más detalladas a un mayor costo computacional pero con una robustez reducida. Además, las redes basadas en prototipos y las arquitecturas de autoatención ilustran las compensaciones entre la interpretabilidad y el rendimiento predictivo. Seleccionar el método XAI más efectivo no es único para todos; Depende del conjunto de datos, la latencia y las necesidades de interpretabilidad. Esta revisión presenta una taxonomía unificada de los métodos XAI para la inspección visual, compara diferentes enfoques en los dominios industrial y médico utilizando métricas estandarizadas y propone un flujo de trabajo de selección basado en tareas para guiar a los profesionales en la elección del método óptimo. En comparación con revisiones anteriores, este trabajo ofrece un análisis comparativo entre dominios basado en puntos de referencia cuantitativos y describe las direcciones para la evaluación estandarizada y la validación centrada en el usuario.

Introducción

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Es esencial para industrias como la manufacturera, la automotriz, el envasado de alimentos, la farmacéutica y la atención médica verificar que los productos y sistemas funcionen de manera adecuada y segura. Las herramientas de automatización y aprendizaje automático, que van más allá de la inspección visual tradicional realizada por operadores humanos o sistemas rudimentarios basados en cámaras, mejoran la precisión, la velocidad de produccióny la consistencia. La inspección con IA permite la supervisión en tiempo real2 y la detección de defectos en entornos de alto rendimiento3, lo que reduce los errores humanos y los costes operativos4. El uso de la inteligencia artificial, particularmente con los avances en el aprendizaje automático (ML) y el aprendizaje profundo (DL), ha permitido sistemas autónomos que detectan defectos5, clasifican objetos e identifican patrones visuales complejos6. Recientemente, las redes neuronales convolucionales (CNN)7, las redes recurrentes y los transformadores de visión (ViT) han superado a los sistemas basados en reglas en tareas que van desde la detección de defectos superficiales hasta la localización de anomalías en imágenes médicas. La inspección ha pasado de procesos basados en reglas a modelos basados en datos entrenados en grandes conjuntos de datos8.

Muchos modelos de IA funcionan como "cajas negras", lo que significa que no hay información sobre cómo estos modelos toman decisiones. Esta falta de transparencia presenta riesgos. Por ejemplo, en la fabricación, las predicciones erróneas pueden conducir a un aumento del desperdicio, el reprocesamiento, el retiro de productos y la insatisfacción del cliente. En imágenes médicas, las clasificaciones erróneas son más críticas, ya que pueden retrasar los diagnósticos o comprometer los planes de tratamiento. Incluso los desarrolladores de estos modelos a menudo no pueden explicar completamente sus resultados, lo que limita la confianza y la adopción.

Aquí es donde la IA explicable (XAI) se vuelve esencial. XAI es un grupo de métodos y herramientas que tienen como objetivo hacer que las decisiones del modelo de aprendizaje automático sean interpretables por humanos9. Su objetivo es convertir los predictores de caja negra en sistemas transparentes de "caja de vidrio" al proporcionar justificaciones legibles por humanos para sus resultados. En la práctica, un sistema de inspección habilitado para XAI iría más allá de la detección de defectos no solo marcando una pieza como defectuosa, sino también explicando por qué se marcó.

A pesar de la creciente literatura, las encuestas existentes sobre XAI en visión por computadora siguen siendo de alcance limitado. Muchos se concentran estrechamente en imágenes médicas o inspección industrial, ofreciendo taxonomías útiles pero confiando principalmente en comparaciones cualitativas sin puntos de referencia estandarizados. Las revisiones más amplias, como Nauta et al.10, proporcionan descripciones generales agnósticas del dominio, pero no llegan a ofrecer marcos de selección orientados a los profesionales. Incluso la encuesta de visión por computadora más completa hasta la fecha realizada por Cheng et al.11 avanza la taxonomía y analiza métricas como la fidelidad y la precisión de la localización, pero sigue siendo general en todas las tareas de visión y no aborda específicamente la inspección visual, la implementación de alto rendimiento o la validación humana. Del mismo modo, las revisiones industriales de XAI para pronósticos y gestión de activos adoptan un marco PRISMA, pero se centran en el pronóstico y la gestión de la salud (PHM) en lugar de las tareas de inspección visual.

Para abordar estas brechas, esta revisión contribuye a lo siguiente:

Taxonomía sistemática: Una revisión guiada por PRISMA de 75 estudios sobre inspección visual industrial y médica.

Análisis comparativo: Evaluación comparativa de múltiples métodos XAI (GradCAM, LRP, SHAP, LIME y RISE) en conjuntos de datos de inspección visual pública (por ejemplo, MVTec AD, PCB) con métricas estandarizadas que incluyen AUC de eliminación/inserción, precisión, estabilidad y latencia del juego de señalamiento.

Marco de métricas de evaluación: Definiciones formales y ecuaciones de fidelidad, robustez, interpretabilidad y medidas específicas de la tarea utilizadas en la evaluación de los métodos XAI.

Orientación práctica: Estudios de casos y un flujo de trabajo de selección orientado a profesionales que vincula el tipo de tarea, la latencia y las necesidades de explicación con métodos específicos.

Juntas, estas contribuciones establecen la síntesis más específica del dominio y basada en puntos de referencia de XAI para la inspección visual, dirigida tanto a investigadores como a profesionales que buscan una orientación confiable.

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Revisión y perspectiva

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

2. Marco XAI

La mayoría de los modelos de IA de última generación, particularmente las redes neuronales profundas, a menudo se tratan como cajas negras; hay poca visibilidad sobre cómo toman decisiones12. Esa falta de transparencia es una barrera para la confianza y la explicabilidad en diversas aplicaciones. Como resultado, XAI se ha convertido en una parte indispensable de la IA confiable. Ningún enfoque único se adapta a todos los escenarios: algunos métodos asumen acceso completo a los componentes internos del modelo, mientras que otros tratan el modelo como una caja negra inmutable; Algunos priorizan las explicaciones locales para las predicciones individuales, mientras que otros proporcionan una visión global del comportamiento de un modelo. Como se muestra en la Figura 1, estas consideraciones han llevado a dos grandes categorías de técnicas XAI basadas en cuándo se introduce la explicabilidad: métodos de explicación post-hoc y métodos de interpretabilidad intrínseca13. Los métodos post hoc se clasifican además en independientes del modelo y específicos del modelo14.

figure-protocol-1
Figura 1: Marco XAI para inspección visual. Haga clic aquí para ver una versión más grande de esta figura.

  1. Post-hoc explanation methods
    Los métodos post-hoc generan explicaciones después de que se ha entrenado un modelo, sin alterar su arquitectura o parámetros15. Estos enfoques son populares porque permiten a los profesionales aprovechar los modelos de alto rendimiento y luego explicar retrospectivamente sus resultados16. Sin embargo, debido a que el modelo subyacente permanece sin cambios, las explicaciones post-hoc deben aproximarse o inferir el razonamiento del modelo, lo que puede introducir errores de aproximación e inestabilidad17. En las siguientes secciones, se explican los métodos agnósticos y específicos del modelo.
    1. Específico del modelo
      Estos métodos explotan el conocimiento de la estructura o el mecanismo de entrenamiento de un modelo para proporcionar explicaciones adaptadas a ese modelo. Un buen ejemplo es la atribución basada en gradientes para redes neuronales profundas. Métodos como GradCAM (Gradient-weighted Class Activation Mapping) utilizan los gradientes internos de las CNN entrenadas para producir "mapas de calor" visuales que resaltan las regiones de una imagen de entrada más importantes para una predicción dada17. GradCAM calcula el gradiente de la puntuación de la clase objetivo con respecto a los mapas de características en la capa convolucional final y proyecta estos gradientes en la imagen, lo que produce un mapa de localización discriminativa de clases. Otros métodos de propagación de gradiente se generalizan a diferentes arquitecturas de red. Los gradientes integrados (IG)18 acumulan gradientes a lo largo de la ruta desde una entrada de línea base (por ejemplo, una imagen en blanco) hasta la entrada real, y satisface los axiomas deseables para la atribución de características. DeepLIFT19 propaga de manera similar las diferencias de una activación de referencia a través de cada capa para estimar la contribución de cada entidad de entrada. La propagación de relevancia por capas (LRP) propaga hacia atrás una puntuación de predicción capa por capa, distribuyendo la "relevancia" a cada píxel o entidadde entrada 20. En resumen, los métodos específicos del modelo aprovechan los gradientes internos, las activaciones o la atención para producir explicaciones estrechamente acopladas a la estructura del modelo.
    2. Independiente del modelo
      Por el contrario, los métodos independientes del modelo tratan el modelo como una caja negra que se puede consultar para obtener salidas. Estas técnicas hacen suposiciones mínimas, que generalmente solo requieren que uno pueda obtener la predicción del modelo para entradas perturbadas. Los ejemplos incluyen LIME (Local Interpretable Model-Agnostic Explanations), que utiliza un modelo simple e interpretable (como un modelo lineal disperso o un árbol de decisión) para imitar el comportamiento del modelo complejo en las proximidades de una entrada dada21. Para una predicción específica, LIME genera muchas versiones perturbadas de la entrada, obtiene las predicciones del modelo de caja negra para cada una y luego aprende una regresión lineal ponderada que se aproxima a esas relaciones locales de entrada-salida22. Los coeficientes de este modelo lineal sustituto sirven como explicación, indicando qué características impulsan con mayor fuerza la predicción23. El atractivo de LIME radica en su flexibilidad (utilizable con cualquier clasificador) y su salida intuitiva (por ejemplo, un pequeño conjunto de características ponderadas). SHapley Additive exPlanations (SHAP) es otro método popular independiente del modelo basado en la teoría de juegos24. SHAP explica una predicción individual mediante el cálculo de atribuciones de características que se aproximan a los valores de Shapley de la teoría de juegos cooperativos, asegurando propiedades como la aditividad y la consistencia25. Más allá de la atribución de características, los enfoques independientes del modelo también incluyen métodos de perturbación visual para modelos de imágenes. RISE (Muestreo de entrada aleatorio para explicación) genera mapas de importancia enmascarando aleatoriamente partes de la imagen de entrada y observando cómo cambia la salida del modelo26. Al muestrear muchas de estas máscaras, RISE construye un mapa de prominencia probabilístico que indica qué píxeles o regiones fueron más influyentes para la predicción26. En particular, RISE no requiere acceso a los componentes internos del modelo y solo requiere la capacidad de evaluar el modelo en entradas modificadas, lo que lo convierte en una verdadera caja negra. Finalmente, un área creciente de XAI independiente del modelo se centra en explicaciones contrafácticas. Una explicación contrafáctica no enumera las importancias de las características, sino que responde a la pregunta: "¿Qué cambio mínimo en la entrada habría alterado la predicción del modelo?" 27. Los algoritmos para generar contrafactuales suelen realizar una búsqueda en el espacio de entrada (o en un espacio latente aprendido) para el ejemplo más cercano que produzca el resultado deseado, al tiempo que imponen el realismo y la escasez en los cambios. En resumen, los métodos XAI post-hoc se adoptan ampliamente porque se pueden aplicar a modelos de alto rendimiento después del entrenamiento, combinando poder predictivo con un grado de transparencia.
  2. Métodos de interpretabilidad intrínseca
    Los métodos intrínsecos adoptan un enfoque fundamentalmente diferente: en lugar de explicar una caja negra después del hecho, estos métodos hacen que el modelo sea interpretable por diseño. Las redes neuronales autoexplicativas (SENN) son un ejemplo notable. En el marco SENN propuesto por Álvarez-Melis y Jaakola28, la red neuronal está estructurada para calcular primero un conjunto de activaciones de conceptos intermedios y luego generar una predicción como una función simple y explicable de esos conceptos. ProtoPNet (Prototypical Part Network) es una red profunda que clasifica las entradas comparándolas con un conjunto de representaciones de prototipos aprendidos de cada clase. Por ejemplo, en una tarea de clasificación de imágenes, un ProtoPNet podría aprender parches de prototipos y tomar decisiones encontrando qué prototipos se activan más con la entrada29. En el ámbito de los modelos de secuencia y los transformadores, los mecanismos de atención también se han aprovechado para la interpretabilidad intrínseca. Algunos modelos se entrenan con un objetivo de alineación de atención, lo que fomenta que los pesos de atención del modelo se correspondan con características importantes conocidas o con regiones relevantes etiquetadas por humanos. Al guiar la atención para que sea "correcta por las razones correctas"30, estos enfoques producen modelos que no solo funcionan bien, sino que también tienen distribuciones de atención que pueden interpretarse directamente como explicaciones. Además, tales modelos proporcionan explicaciones que suelen ser fieles por construcción, ya que la explicación se genera a partir de la propia estructura interpretable del modelo, no de una aproximación post-hoc externa31.

3. Taxonomía XAI

Para proporcionar una síntesis estructurada del estado de la investigación, se realizó una revisión sistemática de la literatura utilizando las guías PRISMA (Figura 2). El proceso incluyó múltiples bases de datos académicas (Scopus, Web of Science, IEEE Xplore, SpringerLink, PubMed, arXiv y MDPI) y se guió por un conjunto de términos de búsqueda que combinaban "IA explicable", "interpretabilidad", "inspección visual", "detección de defectos", "detección de anomalías", "fabricación" e "imágenes médicas". Los criterios de inclusión requerían que los artículos aplicaran o evaluaran explícitamente los métodos XAI en contextos de inspección visual (industrial o médica) y reportaran suficientes detalles metodológicos. Los criterios de exclusión eliminaron propuestas puramente teóricas sin implementación, así como trabajos fuera de la inspección visual. La búsqueda inicialmente recuperó 483 registros. Después de eliminar los duplicados y examinar los títulos y resúmenes, 147 quedaron para la revisión del texto completo. La aplicación de los criterios de inclusión/exclusión produjo 75 estudios primarios, que constituyen la base de esta revisión.

figure-protocol-2
Figura 2: Diagrama de flujo PRISMA del proceso de revisión sistemática siguiendo las pautas PRISMA. La figura ilustra los registros identificados, examinados y excluidos en cada etapa, lo que arroja 75 estudios primarios incluidos en la revisión final. Haga clic aquí para ver una versión más grande de esta figura.

  1. Taxonomía aplicada de estudios revisados
    Sobre la base del marco conceptual presentado en la Sección 2 (enfoques post-hoc e intrínsecos), refinamos una taxonomía específica del dominio derivada de estos 75 estudios. Esta taxonomía aplicada distingue los métodos según su implementación en tareas de inspección visual como se muestra en la Figura 3.
  2. Distribución de estudios en taxonomía
    La distribución completa de los 75 estudios se resume en la Tabla 1. Cada estudio se asigna a su categoría metodológica y dominio de aplicación. Esto proporciona una base empírica para el análisis comparativo presentado en la Sección 4.
  3. Síntesis
    De esta revisión sistemática surgen varias tendencias claras. En primer lugar, los métodos post-hoc basados en gradientes siguen siendo los más adoptados en las tareas de inspección industrial y médica debido a su eficiencia y facilidad de integración. En segundo lugar, los métodos basados en perturbaciones proporcionan atribuciones de características más ricas, pero son menos comunes en entornos industriales de alto rendimiento debido a las demandas computacionales. En tercer lugar, los métodos intrínsecos están ganando terreno, pero siguen estando subrepresentados, con menos del 15% de los estudios implementándolos.
    Al anclar esta taxonomía en una revisión reproducible guiada por PRISMA y vincularla a una base de datos estructurada de 75 estudios, esta sección establece una base de evidencia validada. Estos hallazgos preparan el escenario para el análisis comparativo en la Sección 4, donde los métodos representativos se comparan con métricas estandarizadas (fidelidad, robustez, latencia y precisión de localización).

figure-protocol-3
Figura 3: Taxonomía propuesta de métodos XAI en tareas de inspección visual. Haga clic aquí para ver una versión más grande de esta figura.

Método XAIEnfoque XAIEstudiarIndustriaAño
IntrínsecoModelos lineales y basados en reglas32,33Medicina general2015–2019
Basado en prototipos (ProtoPNet, basado en casos, ProtoPNet deformable) 29,34,35,36 Médico, Industrial, General2018–2024
Basado en conceptos (cuello de botella de conceptos, razones correctas por las correctas) 30,31,37 Aplicaciones científicas generales2020–2021
Redes neuronales autoexplicativas (SENN)28General2018–2020
Representación desenredada (β-VAE),SOXAI38,39General2018
Vision Transformers (Interpretabilidad intrínseca a través de la atención) 40,41,42,43,44,45 Visión por computadora, Fabricación2020–2024
Post-hoc, específico del modeloFamilia CAM 46,47,48,49,50,51,52, 53,54,55,56,57,58 Imágenes médicas, fabricación, automoción, agricultura, electrónica2018–2025
LRP (Propagación de relevancia por capas) 20,59,60,61,62 General, Imágenes médicas2015–2024
Métodos de gradiente y prominencia (gradientes integrados, IG suave DeepLIFT, DeconvNet, T-Explainer, puntos de referencia de prominencia) 18,19,63,64,65,
66,67,68,69,70 		General, Imágenes médicas2013–2025
Atribución en Modelos Especializados (SNNs, Atribución de atención de Transformers) 71,72,73 Neurociencia, Transformadores de la visión2023–2025
Post-hoc, independiente del modeloLIMA & Variantes (LIME, ELIME, MASALA), SHAP & Variantes (Tree SHAP),Finanzas, Pronósticos y Gestión Sanitaria, Ciberseguridad, Vehículos Autónomos, Inspección Industrial.2016–2025
Contrafáctico 21,22,23,24,25,27,74,
75,76,77,78,79,80,81,
82,83,84,85,86
Explicaciones
Métodos híbridosIntegración de múltiples métodos XAI, incluidos (GradCAM, SHAP, LRP, LIME) 58,87,88,89,90,91,92 Inspección industrial, atención médica, fabricación.2021–2025

Tabla 1: Clasificación de 75 estudios revisados por método, año, industria y enfoque de XAI.

4. Métricas de evaluación para XAI

El rendimiento de un modelo de visión por computadora se juzga por métricas bien establecidas, como la exactitud, la precisión y la recuperación. Sin embargo, evaluar la explicabilidad de las decisiones de un modelo es mucho menos sencillo. A diferencia del rendimiento predictivo estándar, no existe una métrica universalmente aceptada para la calidad de las explicaciones de IA66. En otras palabras, si bien la precisión de un clasificador se puede medir con precisión, no existe una escala acordada para cuantificar qué tan "buena" es una explicación para una clasificación de imagen dada93. Esta disparidad pone de manifiesto una brecha fundamental en el campo de la XAI: cómo evaluar una explicación.

El desarrollo de criterios de evaluación XAI estandarizados ha demostrado ser excepcionalmente desafiante. Una razón es que la interpretabilidad y la calidad de la explicación son multifacéticas y dependen del contexto y, por lo tanto, se resisten a una única métrica universal10. La evaluación efectiva de una explicación se basa en varios factores, incluido el dominio de aplicación, la naturaleza de la explicación producida y los antecedentes del usuario final. Por ejemplo, una técnica de explicación adecuada para un diagnóstico por imagen médica podría evaluarse de manera diferente a una utilizada en una tarea de inspección visual industrial10.

En la práctica, la ausencia de métricas estándar ha llevado a los investigadores a confiar en una variedad de enfoques de evaluación. Muchos estudios todavía recurren a la evaluación cualitativa y anecdótica de los métodos XAI94,95. Es común ver a los autores presentar algunos mapas de prominencia o mapas de calor y argumentar que estos parecen razonables (la llamada prueba de "validez aparente")96. Tal inspección visual puede ser persuasiva en un sentido narrativo, pero sigue siendo subjetiva e insuficiente para una comparación rigurosa97. Esto ilustra la dificultad de estandarizar las métricas XAI; En ausencia de criterios acordados, los investigadores proponen métricas adaptadas a cada conjunto de datos o caso de uso.

Como resultado, la literatura ahora abunda en diversas métricas de evaluación XAI destinadas a llenar este vacío98. Se han propuesto numerosos marcos y medidas, cada uno de los cuales se centra en un aspecto particular de lo que hace que una explicación sea útil99. En términos generales, las métricas se pueden clasificar en función de su enfoque principal. Las métricas basadas en la fidelidad juzgan una explicación por lo bien que refleja el proceso de decisión del modelo100. Por el contrario, las métricas centradas en la interpretabilidad evalúan qué tan comprensible y convincente es la explicación para un observador humano101. Una tercera categoría son las métricas basadas en tareas, donde la evaluación de la explicación depende de su impacto en el desempeño del usuario final102. Una cuarta categoría son las métricas orientadas a la robustez que evalúan la consistencia de los resultados103. Por último, las métricas híbridas combinan varias dimensiones104.

Esta diversidad de métricas indica los aspectos de explicabilidad que los investigadores consideran importantes, pero también destaca la falta de un estándar único: cada métrica captura solo un ángulo de explicación: calidad105. A continuación, una variedad de métricas de evaluación para XAI se agrupan en cuatro categorías principales y se resumen en la Tabla 2.

Tipo de métricaMétricoFórmula / Definición
FidelidadÁrea de deleción bajo la curva (AUC)26figure-protocol-4
son características importantes de primer nivel; más bajo = más fiel
Área de inserción bajo la curva (AUC)26figure-protocol-5
más alto = más fiel
Puntuación de infidelidad103figure-protocol-6
más bajo = mejor
RUGIDO106La precisión cae después del reentrenamiento sin características "importantes"
RobustezÍndice de estabilidad107figure-protocol-7
más alto = más consistente
Puntuación de Lipschitz103figure-protocol-8
más bajo = más robusto
InterpretabilidadEscasa79figure-protocol-9
más bajo = más simple
Profundidad de la madresustituta 79Profundidad del sustituto interpretable (p. ej., árbol de decisión);
menos profundo = más simple
Tareas específicasintersección sobre unión (IoU)108figure-protocol-10
superposición de la máscara M y la verdad fundamental G
Juego de señalar108Precisión = #hits / #samples
más alto = mejor
HíbridoPuntuación compuesta104Combinación ponderada de fidelidad, escasez y robustez

Tabla 2: Métricas de evaluación para XAI en inspección visual agrupadas en cuatro categorías principales.

5. Análisis comparativo

En esta sección, los métodos se comparan entre conjuntos de datos públicos como MVTec AD109 (>5.000 imágenes de defectos con máscaras a nivel de píxeles) y DeepPCB110 (1.500 imágenes de PCB con seis clases de defectos), CheXpert111 e ImageNet112 y se evalúan en las siguientes métricas: AUC de eliminación/inserción (fidelidad), precisión del juego de puntería (localización), puntuaciones de estabilidad (robustez bajo perturbaciones) y latencia (coste de tiempo de ejecución).

Para los métodos basados en CAM (GradCAM, GradCAM++), los resultados de MVTec AD y DeepPCB muestran que GradCAM logra una fidelidad de 0,83-0,87 (AUC de inserción ~0,68; 47,113.

Para los métodos basados en perturbaciones (LIME, SHAP, RISE), el rendimiento varía entre los conjuntos de datos. En MVTec AD, LIME alcanza una fidelidad local R² = 0,70-0,80 pero muestra una robustez baja (índice de estabilidad <0,5), latencia de 3-5 s/imagen y localización moderada (IoU = 0,25-0,35). SHAP aplicado a la clasificación de defectos de PCB logra atribuciones consistentes (Δ probabilidades logarítmicas = 0,2-0,3) con una fuerte alineación humana (70-80%) pero es más lento (>1 s/imagen) y tiene una localización débil (IoU ≈0,02-0,03). RISE, comparado en MS-COCO y replicado para MVTec AD, tiene un promedio de 4,000-8,000 pases hacia adelante enmascarados, lo que produce una alta robustez (estabilidad >0.7), fidelidad (0.78-0.82 AUC) y localización superior (Pointing-Game = 62.9% vs. 48.3% para GradCAM), pero a 1-2 s/latencia de explicación 26,74,79,114.

Para los métodos de propagación de relevancia (LRP, DeepLIFT), las evaluaciones en DeepPCB y CheXpert indican que LRP logra una fidelidad de 0,82-0,90, una sensibilidad ~0,85 y una IoU de localización de 0,40-0,50. El tiempo de ejecución es de 100-200 ms por imagen, más lento que los CAM pero factible para la inspección casi en tiempo real. En las tareas de radiología de CheXpert, los estudios de expertos muestran una superposición del >70% entre los mapas de calor de LRP y las regiones clínicamente relevantes, lo que demuestra la interpretabilidad en todos los dominios60.

Para los métodos basados en la atención (Transformers), los resultados de los modelos ViT entrenados en ImageNet y CheXpert, los mapas de atención sin procesar producen una fidelidad de 0,75-0,85 pero son inestables bajo perturbaciones, con una sensibilidad de 0,70-0,75 y una localización modesta (IoU = 0,30-0,45). La confianza humana es de ~60-70%. Los enfoques adaptados (flujo de atención, Transformer-LRP) mejoran las métricas causales, superando la atención bruta en las puntuaciones de eliminación/inserción y juego de señalamiento: 40,115,116.

Para los métodos basados en prototipos y contrafactuales, las evaluaciones n MVTec AD destacan que ProtoPNet logra explicaciones basadas en ejemplos donde las predicciones están justificadas por casos de defectos similares, lo que ayuda a la toma de decisiones del operador. Los enfoques basados en SOM agrupan las características de los defectos en mapas 2D, preservando las relaciones topológicas. Los métodos contrafácticos, probados tanto en imágenes de defectos de PCB como en CheXpert, proporcionan un razonamiento procesable ("si la longitud de la grieta es inferior a 1 mm, la predicción cambia a la normalidad"), pero requieren una optimización costosa y luchan con entradas de alta resolución. Estos métodos se alinean fuertemente con el razonamiento humano, pero escalan mal 117,118,119.

Finalmente, al considerar las compensaciones y la selección práctica, los CAM dominan los flujos de trabajo críticos para la latencia, pero siguen siendo toscos. LRP equilibra la fidelidad y el tiempo de ejecución, sobresaliendo en el análisis a nivel de píxel. RISE proporciona la fidelidad causal y la localización más fuertes, pero con una latencia de nivel de segundos. SHAP y LIME mejoran la interpretabilidad, pero son lentos e inestables. Los prototipos y contrafácticos maximizan la alineación humana, pero escalan mal en la inspección de alta resolución. Los modelos basados en transformadores requieren adaptaciones especializadas más allá de la atención bruta. Por lo tanto, ningún método supera universalmente a los demás; En cambio, la elección del método debe reflejar el conjunto de datos, la tarea, la latencia, el presupuesto y las necesidades de interpretabilidad. Como se muestra en la Figura 4, el flujo de trabajo de selección integra tres de estos puntos de referencia (tarea, latencia, interpretabilidad) en una guía orientada a tareas para elegir métodos XAI en inspección visual.

figure-protocol-11
Figura 4: Flujo de trabajo de selección para la adopción del método XAI. Este es un diagrama de flujo de decisiones que guía la selección de métodos XAI apropiados en la inspección visual. El flujo de trabajo tiene en cuenta el tipo de tarea (clasificación, segmentación, detección de anomalías, regresión), las restricciones de latencia y los detalles de la explicación, y los vincula a métodos representativos. Haga clic aquí para ver una versión más grande de esta figura.

6. Discusión

  1. Hallazgos comparativos
    Nuestro análisis muestra que los métodos basados en gradientes como GradCAM y Layer-wise Relevance Propagation (LRP) destacan por resaltar las regiones específicas de la imagen más influyentes en las decisiones de una red convolucional, convirtiéndolas en herramientas intuitivas para tareas como la localización de defectos o la clasificación de imágenes médicas. Estos enfoques son eficientes ya que operan en un solo paso hacia atrás, pero sus explicaciones a menudo son toscas y pueden volverse poco claras en regiones complejas. Por el contrario, las técnicas de atribución de características independientes del modelo, como SHAP y LIME, proporcionan información más cuantitativa sobre las contribuciones de características al sondear el modelo con entradas perturbadas o ajustar sustitutos locales, pero a un costo computacional más alto que GradCAM.
    Los métodos basados en la atención aprovechan los pesos internos del modelo para resaltar las regiones de enfoque dentro del modelo115. RISE, por otro lado, representa una estrategia basada en la aleatorización que enmascara y muestrea las entradas para producir mapas de prominencia flexibles, aunque requiere miles de pasadas hacia adelante. En conjunto, estas técnicas sobresalen en circunstancias específicas, pero ninguna supera universalmente a las demás26. En cambio, la elección del método depende de la arquitectura del modelo, la tarea de inspección visual, los requisitos de latencia y el tipo de información que necesitan los responsables de la toma de decisiones.
  2. Estudios de caso
    Los siguientes son estudios de casos del mundo real que implementan XAI tanto en el sector médico como en el industrial: en la atención médica, los modelos de detección de neumonía y COVID-19 entrenados en radiografías de tórax y tomografías computarizadas se explicaron con GradCAM y LIME, y los radiólogos en estudios de usuarios prefirieron consistentemente GradCAM porque sus regiones resaltadas se alinearon con la patología esperada, como los infiltrados pulmonares120. De manera similar, en patología digital para el cáncer de cabeza y cuello, las predicciones de CNN respaldadas por GradCAM y CAM de alta resolución destacaron grupos de células malignas que los patólogos confirmaron como clínicamente relevantes, lo que demuestra que las explicaciones reforzaron tanto la precisión clínica como la confianza121.
    En la línea del sector manufacturero, XAI ha marcado una diferencia transformadora en precisión y explicabilidad. Una de las principales aplicaciones es la detección de objetos extraños en imágenes de rayos X de neumáticos empleando una red neuronal convolucional basada en la arquitectura Xception. Mediante la inclusión del mapeo de activación de clases ponderado por gradiente (GradCAM), el sistema logró una precisión de clasificación superior al 99% y produjo mapas de calor que indican las regiones precisas dentro de la imagen responsables de las predicciones. Estas explicaciones visuales permitieron a los ingenieros de control de calidad verificar que la atención del modelo estaba en anomalías legítimas dentro del soporte estructural del neumático y no en artefactos irrelevantes, lo que mejoró enormemente la confianza y facilitó la implementación en entornos de producción de alto riesgo48.
    En la industria electrónica, el enfoque de SolderNet muestra la integración de XAI en la inspección de defectos a nivel de píxel. El método basado en CNN fue desarrollado para la inspección de juntas de soldadura en placas de circuito impreso, una tarea donde la alta precisión y la explicabilidad son obligatorias. Con la aplicación de GradCAM y Layer-wise Relevance Propagation (LRP), el método extrajo mapas de prominencia que resaltaban los píxeles responsables de clasificaciones de defectos específicos. A través de esta explicabilidad, el operador pudo diferenciar los verdaderos y falsos positivos y obtener información sobre los modos de falla que anteriormente habrían sido salidas de caja negra39. Estos casos muestran que XAI se valora cuando sus explicaciones se alinean con el razonamiento experto, pero se infrautiliza cuando las explicaciones son inestables, toscas o computacionalmente poco prácticas.
  3. Limitaciones de la evidencia actual
    A pesar de estos avances, persisten varias limitaciones. En primer lugar, la mayoría de los estudios empíricos se basan en conjuntos de datos públicos como MVTec AD para inspección industrial o VinDR-CXR122 para imágenes médicas, que pueden no representar completamente los entornos del mundo real de fábricas u hospitales. En segundo lugar, la evaluación sigue siendo fragmentada: la fidelidad, la solidez y la interpretabilidad se miden de manera inconsistente en todos los estudios, a menudo con definiciones ad hoc y sin umbrales estandarizados. En tercer lugar, muchas obras carecen de validación humana. Si bien métricas como el AUC de eliminación, la precisión del juego de puntería o la IoU de localización proporcionan resultados cuantitativos, no confirman que estas explicaciones realmente mejoren la toma de decisiones del usuario. Finalmente, solo ~ 8% de los estudios de control de calidad basados en IA en la fabricación integran XAI en su flujo de trabajo123. Esto pone de relieve la brecha de adopción práctica, aunque esta estadística varía según el sector y la metodología y puede no ser precisa.
  4. Implicaciones prácticas para los profesionales
    Para los profesionales, surgen varias implicaciones. Los métodos basados en gradientes siguen siendo la opción más práctica para las tareas de inspección en tiempo real, ya que ofrecen explicaciones con una baja latencia (~100 ms por imagen) y son fáciles de implementar. Los enfoques basados en perturbaciones, como SHAP o RISE, tienen una latencia más alta que los métodos basados en gradientes, pero se adaptan mejor a dominios donde la atribución detallada supera la latencia, como la atención médica, donde la precisión tiene prioridad sobre la velocidad. Los enfoques basados en la atención son útiles con las arquitecturas de transformadores, pero requieren una interpretación cuidadosa, ya que la atención bruta no siempre proporciona una explicación clara. Más allá de las compensaciones técnicas, la adopción exitosa depende en gran medida de la integración, la capacitación del usuario y la demostración del valor clínico de la interpretabilidad. Como muestran los estudios de caso, las explicaciones solo ganan valor cuando se alinean claramente con la experiencia en el dominio y ayudan a los profesionales a verificar o desafiar las predicciones de IA.
  5. Futuras direcciones de investigación
    La investigación futura debe priorizar varias direcciones procesables:
    Estandarización de protocolos de evaluación: Establezca pautas de informes reproducibles para métricas clave, incluido el AUC de eliminación/inserción, la precisión del juego de señalamiento, los índices de estabilidad y la latencia.
    Conjuntos de datos de referencia específicos del dominio: Desarrolle conjuntos de datos seleccionados para la inspección visual industrial y médica con anotaciones reales para reducir la dependencia excesiva de conjuntos de datos públicos limitados.
    Validación centrada en el ser humano: Ampliar los estudios que miden si las explicaciones XAI mejoran la calidad de las decisiones, la confianza del usuario y la colaboración entre humanos e IA más allá de las métricas indirectas
    Análisis de costo - beneficio: Realice estudios de implementación rigurosos para cuantificar el valor comercial y clínico de la integración de XAI en los flujos de trabajo de inspección visual.

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Conclusiones

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Esta revisión examinó 75 estudios de XAI en inspección visual, lo que resultó en una taxonomía de métodos post-hoc e intrínsecos y un análisis comparativo basado en puntos de referencia. Los hallazgos confirman que ningún método supera universalmente a los demás: los enfoques basados en gradientes como GradCAM y LRP son eficientes para la localización de defectos en tiempo real, pero sus explicaciones pueden ser toscas en regiones complejas. Los métodos basados en perturbaciones como SHA...

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Divulgaciones

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Los autores declaran que no existen conflictos de intereses con respecto a la publicación de este trabajo.

Agradecimientos

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

El autor o autores declaran que este trabajo no recibió ninguna subvención específica de ninguna agencia de financiación en los sectores público, comercial o sin fines de lucro.

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Referencias

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,
  1. Alzarooni, A., et al. Anomaly detection for industrial applications, its challenges, solutions, and future directions: a review. IEEE Sens J. XX. (1), 1(2025).
  2. Hardan, F., Almusawi, A. R. J. Developing an automated vision system for maintaing social distancing to cure the pandemic. Al-Khwarizmi Eng J. 18 (1), 38-50 (2022).
  3. Terasaki, N., Fujio, Y. Mechanoluminescent visualization of crack propagation for joint evaluation. J Vis Exp. (191), e64118(2023).
  4. Al-Hamadani, S., Al-Darraji, I. Warehouse in Industry 4.0 based drone, computer vision, and artificial intelligence technologies: a literature review. Proc Eng Sci. 7 (1), 517-526 (2025).
  5. Al-Jubori, H. N., Izzat, A. D., Jerbi, H. Defect detection using thermography camera techniques: a review. Al-Khwarizmi Eng J. 20 (4), 70-88 (2024).
  6. Al-Hamadani, S., Al-Darraji, I., Jerbi, H. Improving barcode vision scanning process using a drone-based tracking PID controller for warehouse in Industry 4.0. Al-Khwarizmi Eng J. 21 (2), 72-92 (2025).
  7. Al-Jubori, H. N., Al-Darraji, I. Tools and process of defect detection in automated manufacturing systems. EAI Endorsed Trans Scalable Inf Syst. 10 (6), e4000(2023).
  8. Alaa, T., et al. Automated detection of defects on metal surfaces using vision transformers. , Published online October 6, 2024. Accessed August 1 (2025).
  9. Moosavi, S., et al. Explainable AI in manufacturing and industrial cyber-physical systems: a survey. Electronics. 13 (17), 3497(2024).
  10. Nauta, M., et al. From anecdotal evidence to quantitative evaluation methods: a systematic review on evaluating explainable AI. ACM Comput Surv. 55 (13), 1-42 (2023).
  11. Cheng, Z., et al. A comprehensive review of explainable artificial intelligence (XAI) in computer vision. Sensors. 25 (13), 4166(2025).
  12. Barredo Arrieta, A., et al. Explainable artificial intelligence (XAI): concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 58, 82-115 (2020).
  13. Kouchaki, S., et al. Survey of explainable AI techniques in healthcare. Sensors. 23 (2), 634(2023).
  14. Laugel, T., et al. The dangers of post-hoc interpretability: unjustified counterfactual explanations. Proc Int Joint Conf Artif Intell. , 2801-2807 (2019).
  15. Slack, D., et al. Reliable post hoc explanations: modeling uncertainty in explainability. Adv Neural Inf Process Syst. 33, 9391-9404 (2020).
  16. Cesarini, M., et al. Explainable AI for text classification: lessons from a comprehensive evaluation of post hoc methods. Cognit Comput. 16 (6), 3077-3095 (2024).
  17. Mohamed Musthafa, M., et al. Enhancing brain tumor detection in MRI images through explainable AI using Grad-CAM with ResNet-50. BMC Med Imaging. 24 (1), 1-19 (2024).
  18. Sundararajan, M., Taly, A., Yan, Q. Axiomatic attribution for deep networks. Proc Int Conf Mach Learn. 70, 5109-5118 (2017).
  19. Shrikumar, A., Greenside, P., Kundaje, A. Learning important features through propagating activation differences. Proc Int Conf Mach Learn. 70, 4844-4866 (2017).
  20. Bassi, P. R. A. S., et al. Improving deep neural network generalization and robustness to background bias via layer-wise relevance propagation optimization. Nat Commun. 15, 44371(2024).
  21. Knab, P., et al. Which LIME should I trust? Concepts, challenges, and solutions. arXiv preprint. , (2025).
  22. Garreau, D., von Luxburg, U. Explaining the explainer: a first theoretical analysis of LIME. Proc Mach Learn Res. 108, 1287-1296 (2020).
  23. Qian, J., et al. ELIME: exact local interpretable model-agnostic explanation. Eur J Artif Intell. , (2024).
  24. Salih, A. M., et al. A perspective on explainable artificial intelligence methods:SHAP and LIME . Adv Intell Syst. , (2024).
  25. Hermosilla, P., et al. Explainable AI for forensic analysis: a comparative study of SHAP and LIME in intrusion detection models. Appl Sci. 15 (13), 7329(2025).
  26. Petsiuk, V., Das, A., Saenko, K. RISE: randomized input sampling for explanation of black-box models. arXiv preprint. , (2018).
  27. Dandl, S., et al. Multi-objective counterfactual explanations. Lect Notes Comput Sci. 12269, 448-469 (2020).
  28. Alvarez-Melis, D., Jaakkola, T. S. Towards robust interpretability with self-explaining neural networks. Adv Neural Inf Process Syst. 31, 7775-7784 (2018).
  29. Donnelly, J., Barnett, A. J., Chen, C. Deformable ProtoPNet: an interpretable image classifier using deformable prototypes. Proc IEEE Conf Comput Vis Pattern Recognit. , 10255-10265 (2022).
  30. Ross, A. S., Hughes, M. C., Doshi-Velez, F. Right for the right reasons: training differentiable models by constraining their explanations. Proc Int Joint Conf Artif Intell. , 2662-2670 (2017).
  31. Schramowski, P., et al. Making deep neural networks right for the right scientific reasons by interacting with their explanations. Nat Mach Intell. 2 (8), 476-486 (2020).
  32. Rudin, C. Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nat Mach Intell. 1 (5), 206-215 (2019).
  33. Letham, B., et al. Interpretable classifiers using rules and Bayesian analysis: building a better stroke prediction model. Ann Appl Stat. 9 (3), 1350-1371 (2015).
  34. Barnett, A. J., et al. Interpretable mammographic image classification using case-based reasoning and deep learning. arXiv preprint. , (2021).
  35. Narayanan, A., Bergen, K. J. Prototype-based methods in explainable AI and emerging opportunities in the geosciences. arXiv preprint. , (2024).
  36. Chen, C., et al. This looks like that: deep learning for interpretable image recognition. Adv Neural Inf Process Syst. 32, 8928-8939 (2019).
  37. Koh, P. W., et al. Concept bottleneck models. Proc Int Conf Mach Learn. 119, 5294-5304 (2020).
  38. Burgess, C. P., et al. Understanding disentangling in β-VAE. arXiv preprint. , (2018).
  39. Gunraj, H., et al. SolderNet: towards trustworthy visual inspection of solder joints in electronics manufacturing using explainable artificial intelligence. Proc AAAI Conf Artif Intell. 37, 15668-15674 (2023).
  40. Dosovitskiy, A., et al. An image is worth 16×16 words: transformers for image recognition at scale. arXiv preprint. , (2020).
  41. Khan, S., et al. Transformers in vision: a survey. ACM Comput Surv. 54 (10), 1-41 (2021).
  42. Yu, L., et al. eX-ViT: a novel explainable vision transformer for weakly supervised semantic segmentation. Pattern Recognit. 142, 109666(2023).
  43. Alber, M., et al. Evaluating vision transformer models for visual quality control in industrial manufacturing. Lect Notes Comput Sci. Bifet, A., et al. 14950, 1-15 (2024).
  44. Stassin, S., et al. Explainability and evaluation of vision transformers: an in-depth experimental study. Electronics. 13 (1), 175(2024).
  45. Zhai, Y., et al. A lightweight transformer with linear self-attention for defect recognition. Electron Lett. 60 (17), e13292(2024).
  46. Dhore, V., et al. Enhancing explainable AI: a hybrid approach combining Grad-CAM and LRP for CNN interpretability. arXiv preprint. , (2024).
  47. Chattopadhay, A., et al. Grad-CAM++: generalized gradient-based visual explanations for deep convolutional networks. Proc IEEE Winter Conf Appl Comput Vis. , 839-847 (2018).
  48. Saleh, R. A. A., et al. Advancing tire safety: explainable artificial intelligence-powered foreign object defect detection with Xception networks and Grad-CAM interpretation. Appl Sci. 14 (10), 4267(2024).
  49. Meister, S., et al. Investigations on explainable artificial intelligence methods for the deep learning classification of fibre layup defect in the automated composite manufacturing. Compos Part B Eng. 224, 109160(2021).
  50. Luo, X., Alzahrani, M. Automated tomato defect detection using CNN feature fusion for enhanced classification. Processes. 13 (1), 115(2025).
  51. Rahimunnisa, K. Textile fabric defect detection. J Innov Image Process. 4 (3), 165-172 (2022).
  52. Shin, H., et al. Visualization for explanation of deep learning-based defect detection model using class activation map. Comput Mater Contin. 75 (3), 4753-4766 (2023).
  53. Yue, H., et al. ASOD: attention-based salient object detector for strip steel surface defects. Electronics. 14 (5), 831(2025).
  54. Saleh, R. A. A., Ertunç, H. M. Explainable attention-based fused convolutional neural network (XAFCNN) for tire defect detection: an industrial case study. Eng Res Express. 6 (1), 015027(2024).
  55. Leem, S., Seo, H. Attention guided CAM: visual explanations of vision transformer guided by self-attention. Proc AAAI Conf Artif Intell. 38 (4), 2956-2964 (2024).
  56. Ibrahim, R., Shafiq, M. O. Augmented Score-CAM: high-resolution visual interpretations for deep neural networks. Knowl Based Syst. 252, 109287(2022).
  57. Clement, T., et al. XAI-enhanced semantic segmentation models for visual quality inspection. Proc IEEE Int Conf Consumer Electron. , 1-4 (2024).
  58. Riedel, H., et al. Automated quality control of vacuum insulated glazing by convolutional neural network image classification. Autom Constr. 135, 104144(2022).
  59. Böhle, M., et al. Layer-wise relevance propagation for explaining deep neural network decisions in MRI-based Alzheimer's disease classification. Front Aging Neurosci. 10, 194(2019).
  60. Bach, S., et al. On pixel-wise explanations for non-linear classifier decisions by layer-wise relevance propagation. PLoS One. 10 (7), e0130140(2015).
  61. Dieter, T. R., Zisgen, H. Evaluation of the explanatory power of layer-wise relevance propagation using adversarial examples. Neural Process Lett. 55 (7), 8531-8550 (2023).
  62. Hoefler, M. A., et al. XAI-guided insulator anomaly detection for imbalanced datasets. arXiv. , (2024).
  63. Kares, F., et al. What makes for a good saliency map? Comparing strategies for evaluating saliency maps in explainable AI (XAI). arXiv preprint. , (2025).
  64. Yona, G., Greenfeld, D. Revisiting sanity checks for saliency maps. arXiv preprint. , (2021).
  65. Zeiler, M. D., Fergus, R. Visualizing and understanding convolutional networks. Eur Conf Comput Vis. 8689, 818-833 (2014).
  66. Xu-Darme, R., et al. On the stability, correctness and plausibility of visual explanation methods based on feature importance. ACM Int Conf Proc Ser. , 119-125 (2023).
  67. Ortigossa, E. S., et al. T-Explainer: a model-agnostic explainability framework based on gradients. arXiv preprint. , (2024).
  68. Singh, M., et al. Attributional robustness training using input-gradient spatial alignment. Lect Notes Comput Sci. 12372, 515-533 (2019).
  69. Cerekci, E., et al. Quantitative evaluation of saliency-based explainable artificial intelligence methods in deep learning-based mammogram analysis. Eur J Radiol. 173, 111356(2024).
  70. Meister, S., et al. Cross-evaluation of a parallel operating SVM-CNN classifier for reliable internal decision-making processes in composite inspection. J Manuf Syst. 60, 620-639 (2021).
  71. Bitar, A., et al. Gradient-based feature-attribution explainability methods for spiking neural networks. Front Neurosci. 17, 1153999(2023).
  72. Qiang, Y., et al. Interpretability-aware vision transformer. arXiv preprint. , (2023).
  73. Bousselham, W., et al. LeGrad: an explainability method for vision transformers via feature formation sensitivity. arXiv preprint. , (2025).
  74. Lundberg, S. M., Lee, S. I. A unified approach to interpreting model predictions. Adv Neural Inf Process Syst. 30, (2017).
  75. Khan, F. S., et al. Model-agnostic explainable artificial intelligence methods in finance: a systematic review, recent developments, limitations, challenges and future directions. Artif Intell Rev. 58, 1-65 (2025).
  76. Nazim, S., et al. Advancing malware imagery classification with explainable deep learning: a state-of-the-art approach using SHAP LIME and Grad-CAM. PLoS One. 20 (5), e0318542(2025).
  77. Solís-Martín, D., et al. On the soundness of XAI in prognostics and health management (PHM). Information. 14 (5), 256(2023).
  78. Biecek, P., Burzykowski, T. Local interpretable model-agnostic explanations (LIME). In:Explanatory Model Analysis. , 107-123 (2021).
  79. Ribeiro, M. T., Singh, S., Guestrin, C. 34;Why should I trust you?" Explaining the predictions of any classifier. Proc ACM SIGKDD Int Conf Knowl Discov Data Min. , 1135-1144 (2016).
  80. Tahir, H. A., et al. A novel hybrid XAI solution for autonomous vehicles: real-time interpretability through LIME-SHAP integration. Sensors. 24 (21), 6776(2024).
  81. Goldman, C. V., et al. Explaining learning models in manufacturing processes. Procedia Comput Sci. 180, 259-268 (2021).
  82. Emmanouilidis, C., Rica, E. Visual quality control via explainable AI and the case of human in the AI loop. In: Lect Notes Mech Eng. , 252-260 (2023).
  83. Huang, M., et al. An interpretable approach using hybrid graph networks and explainable AI for intelligent diagnosis recommendations in chronic disease care. Biomed Signal Process Control. 91, 105913(2024).
  84. Dardouillet, P., et al. Explainability of image semantic segmentation through SHAP values. Data. 7 (8), 255(2022).
  85. Saifullah, S., et al. The privacy-explainability trade-off: unraveling the impacts of differential privacy and federated learning on attribution methods. Front Artif Intell. 7, 1236947(2024).
  86. Velmurugan, M., et al. Developing guidelines for functionally-grounded evaluation of explainable artificial intelligence using tabular data. Eng Appl Artif Intell. 141, 109772(2025).
  87. Wells, L., Bednarz, T. Explainable AI and reinforcement learning-a systematic review of current approaches and trends. Front Artif Intell. 4, 550030(2021).
  88. Rožanec, J. M., et al. Adaptive explainable artificial intelligence for visual defect inspection. Procedia Comput Sci. 232, 3034-3043 (2024).
  89. Nguyen, H. T. T., et al. XEdgeAI: a human-centered industrial inspection framework with data-centric explainable edge AI approach. Inf Fusion. 116, 102782(2025).
  90. Han, C., et al. Visual coating inspection framework via self-labeling and multi-stage deep learning strategies. J Intell Manuf. 35, 1-18 (2024).
  91. Kotsiopoulos, T., et al. Revolutionizing defect recognition in hard metal industry through AI explainability, human-in-the-loop approaches and cognitive mechanisms. Expert Syst Appl. 255, 124839(2024).
  92. Forcher, B., et al. Evaluation of explainable AI methods for classification tasks in visual inspection. Proc XAI Workshop (Late-Breaking Work, Demos, Doctoral Consortium). , 77-82 (2023).
  93. Miller, T. Explanation in artificial intelligence: insights from the social sciences. Artif Intell. 267, 1-38 (2019).
  94. Jacovi, A., Goldberg, Y. Towards faithfully interpretable NLP systems: how should we define and evaluate faithfulness. Proc Annu Meet Assoc Comput Linguist. 58, 4198-4205 (2020).
  95. Adebayo, J., et al. Sanity checks for saliency maps. Adv Neural Inf Process Syst. 31, 9505-9515 (2018).
  96. Doshi-Velez, F., Kim, B. Considerations for evaluation and generalization in interpretable machine learning. Proc Explainable and Interpretable Models in Computer Vision and Machine Learning. , 3-17 (2018).
  97. Lage, I., et al. An evaluation of the human-interpretability of explanation. arXiv preprint. , (2019).
  98. Theunissen, M., Browning, J. Putting explainable AI in context: institutional explanations for medical AI. Ethics Inf Technol. 24 (2), 1-10 (2022).
  99. Hoffman, R. R., et al. Measures for explainable AI: explanation goodness, user satisfaction, mental models, curiosity, trust, and human-AI performance. Front Comput Sci. 5, 1096257(2023).
  100. Hedström, A., et al. Quantus: an explainable AI toolkit for responsible evaluation of neural network explanations and beyond. J Mach Learn Res. 24, 1-11 (2023).
  101. Mohseni, S., et al. A multidisciplinary survey and framework for design and evaluation of explainable AI systems. ACM Trans Interact Intell Syst. 11 (3-4), 1-45 (2021).
  102. Finzel, B., et al. Domain-specific evaluation of visual explanations for application-grounded facial expression recognition. Lect Notes Comput Sci. 14065, 31-44 (2023).
  103. Yeh, C. K., et al. On the (in)fidelity and sensitivity for explanations. Adv Neural Inf Process Syst. 32, 10967-10978 (2019).
  104. Better metrics for evaluating explainable artificial intelligence. Rosenfeld, A. Proc Int Conf Autonomous Agents Multiagent Syst, , 45-53 (2021).
  105. Evaluation metrics for XAI: a review, taxonomy, and practical applications. Kadir, M. A., et al. Proc IEEE Int Conf Intell Eng Syst, , 111-124 (2023).
  106. Sankaran, K. Data science principles for interpretable and explainable AI. J Data Sci. 22, 1-27 (2024).
  107. Alvarez-Melis, D., Jaakkola, T. S. On the robustness of interpretability methods. arXiv preprint. , (2018).
  108. Zhang, Y., et al. Saliency-Bench: a comprehensive benchmark for evaluating visual explanations. arXiv preprint. , (2025).
  109. Bergmann, P., et al. The MVTec anomaly detection dataset: a comprehensive real-world dataset for unsupervised anomaly detection. Int J Comput Vis. 129 (4), 1038-1059 (2021).
  110. Tang, S., et al. Online PCB defect detector on a new PCB defect dataset. arXiv preprint. , (2019).
  111. CheXpert: a large chest radiograph dataset with uncertainty labels and expert comparison. Irvin, J., et al. Proc AAAI Conf Artif Intell, 33, 590-597 (2019).
  112. ImageNet: a large-scale hierarchical image database. Deng, J., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 248-255 (2009).
  113. Selvaraju, R. R., et al. Grad-CAM: visual explanations from deep networks via gradient-based localization. Int J Comput Vis. 128 (2), 336-359 (2020).
  114. Black-box explanation of object detectors via saliency maps. Petsiuk, V., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 11438-11447 (2020).
  115. Attention is not explanation. Jain, S., Wallace, B. C. Proc Conf North Am Chapter Assoc Comput Linguist, , 3543-3556 (2019).
  116. Transformer interpretability beyond attention visualization. Chefer, H., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 782-791 (2021).
  117. Wachter, S., et al. Counterfactual explanations without opening the black box: automated decisions and the GDPR. SSRN Electron J. , (2017).
  118. Deep learning for case-based reasoning through prototypes: a neural network that explains its predictions. Li, O., et al. Proc AAAI Conf Artif Intell, 32, 3530-3537 (2018).
  119. Counterfactuals in explainable artificial intelligence (XAI): evidence from human reasoning. Byrne, R. M. J. Proc Int Joint Conf Artif Intell, , 6276-6282 (2019).
  120. Ihongbe, I. E., et al. Evaluating explainable artificial intelligence (XAI) techniques in chest radiology imaging through a human-centered lens. PLoS One. 19 (10), e0308758(2024).
  121. Dörrich, M., et al. Explainable convolutional neural networks for assessing head and neck cancer histopathology. Diagn Pathol. 18 (1), 121(2023).
  122. Nguyen, H. Q., et al. VinDr-CXR: an open dataset of chest X-rays with radiologist's annotations. Sci Data. 9, 429(2022).
  123. Lee, D. J., et al. A systematic literature review on artificial intelligence and explainable artificial intelligence for visual quality assurance in manufacturing. Electronics. 12 (22), 4572(2023).

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Reimpresiones y permisos

Solicitar permiso para reutilizar el texto o las figuras de este artículo de JoVE

Solicitar permiso

Etiquetas

T cnicas de XAIInspecci n IndustrialInspecci n M dicaM todos de GradienteM todos de Propagaci nM todos de Perturbaci nModelos SustitutosArquitecturas de Autoatenci n

Artículos relacionados