Article de revue

L’IA explicable pour l’inspection visuelle : une analyse et un examen comparatifs

DOI :

10.3791/69440

⸱

10 octobre 2025

 , 
1Al-Khwarizmi College of Engineering, Automated Manufacturing Department, University of Baghdad

Dans cet article

Résumé

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Cette revue synthétise les méthodes d’IA explicable (XAI) pour l’inspection visuelle dans les domaines industriel et médical. Une recherche guidée par PRISMA a permis d’identifier 75 études, ce qui a permis d’établir une taxonomie spécifique au domaine et une analyse comparative à l’aide de mesures standardisées. Nous contribuons à une taxonomie fondée sur des preuves et à un flux de travail orienté vers les praticiens pour la sélection des outils.

Résumé

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Les techniques d’intelligence artificielle explicable (XAI) permettent la transparence et la confiance dans les systèmes d’inspection visuelle automatisés en rendant compréhensibles les modèles d’apprentissage automatique en boîte noire. Bien que l’IAX ait été largement appliquée, les examens antérieurs n’ont pas abordé les exigences spécifiques des tâches d’inspection industrielle et médicale. Cet article passe en revue les études appliquant les techniques d’IAX à l’inspection visuelle dans les domaines industriels et médicaux. Une recherche systématique a été menée dans IEEE Xplore, Scopus, PubMed, arXiv et Web of Science pour les études publiées entre 2014 et 2025, avec des critères d’inclusion exigeant l’application de l’IAX dans les tâches d’inspection utilisant des ensembles de données publics ou spécifiques au domaine. À partir d’un premier ensemble d’études, 75 ont été incluses et classées en post-hoc et intrinsèques, qui ont ensuite été évaluées en termes de fidélité, de robustesse, de complexité et de précision de localisation. Les résultats montrent que les méthodes basées sur le gradient et la propagation offrent des explications visuelles efficaces adaptées à l’inspection en temps quasi réel, bien qu’avec une localisation grossière, tandis que les méthodes basées sur les perturbations et les modèles de substitution fournissent des attributions plus détaillées à un coût de calcul plus élevé mais avec une robustesse réduite. De plus, les réseaux basés sur des prototypes et les architectures d’auto-attention illustrent les compromis entre l’interprétabilité et la performance prédictive. Le choix de la méthode d’IAX la plus efficace n’est pas une solution unique. Cela dépend de l’ensemble de données, de la latence et des besoins en matière d’interprétabilité. Cette revue présente une taxonomie unifiée des méthodes d’IAX pour l’inspection visuelle, compare différentes approches dans les domaines industriel et médical à l’aide de mesures standardisées, et propose un flux de travail de sélection basé sur les tâches pour guider les praticiens dans le choix de la méthode optimale. Par rapport aux examens précédents, ce travail propose une analyse comparative interdisciplinaire fondée sur des repères quantitatifs et décrit des orientations pour une évaluation standardisée et une validation centrée sur l’utilisateur.

Introduction

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Il est essentiel pour les industries telles que l’industrie manufacturière, l’automobile, l’emballage alimentaire, les produits pharmaceutiques et les soins de santé de vérifier que les produits et les systèmes fonctionnent correctement et en toute sécurité. Les outils d’automatisation et d’apprentissage automatique, qui vont au-delà de l’inspection visuelle traditionnelle effectuée par des opérateurs humains ou des systèmes rudimentaires basés sur des caméras, améliorent la précision, la vitesse de production et la cohérence1. L’inspection par IA permet une surveillance en temps réel2 et la détection des défauts dans des environnements à haut débit3, réduisant ainsi les erreurs humaines et les coûts opérationnels4. L’utilisation de l’intelligence artificielle, en particulier avec les progrès de l’apprentissage automatique (ML) et de l’apprentissage profond (DL), a permis de mettre au point des systèmes autonomes capables de détecter les défauts5, de classer les objets et d’identifier des modèles visuels complexes6. Récemment, les réseaux neuronaux convolutifs (CNN)7, les réseaux récurrents et les transformateurs de vision (ViT) ont surpassé les systèmes basés sur des règles dans des tâches allant de la détection de défauts de surface à la localisation d’anomalies en imagerie médicale. L’inspection est passée de processus basés sur des règles à des modèles basés sur des données entraînés sur de grands ensembles de données8.

De nombreux modèles d’IA fonctionnent comme des « boîtes noires », ce qui signifie qu’il n’y a aucune idée de la façon dont ces modèles prennent des décisions. Ce manque de transparence présente des risques. Par exemple, dans le secteur de la fabrication, des prédictions erronées peuvent entraîner une augmentation des déchets, des retouches, des rappels de produits et l’insatisfaction des clients. En imagerie médicale, les erreurs de classification sont plus critiques car elles peuvent retarder les diagnostics ou compromettre les plans de traitement. Même les développeurs de ces modèles ne peuvent souvent pas expliquer pleinement leurs résultats, ce qui limite la confiance et l’adoption.

C’est là que l’IA explicable (XAI) devient essentielle. L’IAX est un groupe de méthodes et d’outils qui visent à rendre les décisions des modèles d’apprentissage automatique interprétables par les humains9. Son objectif est de transformer les prédicteurs de boîte noire en systèmes transparents de « boîte de verre » en fournissant des justifications lisibles par l’homme pour leurs sorties. En pratique, un système d’inspection basé sur l’IA XAI irait au-delà de la détection des défauts en ne se contentant pas de signaler une pièce comme défectueuse, mais en expliquant également pourquoi elle a été signalée.

Malgré l’augmentation de la littérature, les enquêtes existantes sur l’IAX dans la vision par ordinateur restent limitées. Beaucoup se concentrent étroitement sur l’imagerie médicale ou l’inspection industrielle, offrant des taxonomies utiles mais s’appuyant principalement sur des comparaisons qualitatives sans repères standardisés. Des revues plus larges, telles que Nauta et al.10, fournissent des aperçus indépendants du domaine, mais ne vont pas jusqu’à offrir des cadres de sélection orientés vers les praticiens. Même l’enquête sur la vision par ordinateur la plus complète à ce jour réalisée par Cheng et al.11 fait progresser la taxonomie et aborde des mesures telles que la fidélité et la précision de la localisation, mais elle reste générale pour toutes les tâches de vision et ne traite pas spécifiquement de l’inspection visuelle, du déploiement à haut débit ou de la validation par l’homme dans la boucle. De même, les examens industriels de l’IAX pour les pronostics et la gestion des actifs adoptent un cadre PRISMA mais se concentrent sur les pronostics et la gestion de la santé (PHM) plutôt que sur les tâches d’inspection visuelle.

Pour combler ces lacunes, cette revue apporte les éléments suivants :

Taxonomie systématique : Une revue guidée par PRISMA de 75 études sur l’inspection visuelle industrielle et médicale.

Analyse comparative: Analyse comparative de plusieurs méthodes XAI (GradCAM, LRP, SHAP, LIME et RISE) sur des ensembles de données d’inspection visuelle publique (par exemple, MVTec AD, PCB) avec des mesures standardisées, notamment l’AUC de suppression/insertion, la précision du jeu de pointage, la stabilité et la latence.

Cadre de mesure de l’évaluation : Définitions formelles et équations de fidélité, de robustesse, d’intelligibilité et de mesures spécifiques à la tâche utilisées dans l’évaluation des méthodes XAI.

Conseils pratiques : Des études de cas et un flux de travail de sélection orienté vers les praticiens reliant le type de tâche, la latence et les besoins d’explication à des méthodes spécifiques.

Ensemble, ces contributions établissent la synthèse de l’IAX la plus spécifique au domaine et fondée sur des références pour l’inspection visuelle, destinée à la fois aux chercheurs et aux praticiens à la recherche de conseils fiables.

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Revue et perspective

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

2. Cadre XAI

La plupart des modèles d’IA de pointe, en particulier les réseaux neuronaux profonds, sont souvent traités comme des boîtes noires ; Il y a peu de visibilité sur la façon dont ils prennent des décisions12. Ce manque de transparence est un obstacle à la confiance et à l’explicabilité dans diverses applications. Par conséquent, l’IAX est devenue un élément indispensable d’une IA digne de confiance. Il n’existe pas d’approche unique pour tous les scénarios : certaines méthodes supposent un accès complet aux composants internes du modèle, tandis que d’autres traitent le modèle comme une boîte noire immuable ; Certains privilégient les explications locales pour les prédictions individuelles, tandis que d’autres fournissent un aperçu global du comportement d’un modèle. Comme le montre la figure 1, ces considérations ont conduit à deux grandes catégories de techniques d’IAX en fonction du moment où l’explicabilité est introduite : les méthodes d’explication post-hoc et les méthodes d’interprétabilité intrinsèque13. Les méthodes post-hoc sont en outre classées en deux catégories : agnostiques et spécifiques au modèle14.

figure-protocol-1
Figure 1 : Cadre XAI pour l’inspection visuelle. Veuillez cliquer ici pour voir une version agrandie de cette figure.

  1. Post-hoc explanation methods
    Les méthodes post-hoc génèrent des explications après l’entraînement d’un modèle, sans altérer son architecture ou ses paramètres15. Ces approches sont populaires parce qu’elles permettent aux praticiens de tirer parti de modèles performants et d’expliquer ensuite rétrospectivement leurs résultats16. Cependant, comme le modèle sous-jacent reste inchangé, les explications a posteriori doivent approximer ou inférer le raisonnement du modèle, ce qui peut introduire une erreur d’approximation et une instabilité17. Dans les sections suivantes, les méthodes spécifiques au modèle et les méthodes agnostiques sont expliquées.
    1. Spécifique au modèle
      Ces méthodes exploitent la connaissance de la structure d’un modèle ou du mécanisme d’entraînement pour fournir des explications adaptées à ce modèle. Un excellent exemple est l’attribution basée sur le gradient pour les réseaux de neurones profonds. Des méthodes telles que GradCAM (Gradient-weighted Class Activation Mapping) utilisent les gradients internes des CNN entraînés pour produire des « cartes thermiques » visuelles mettant en évidence les régions d’une image d’entrée les plus importantes pour une prédiction donnée17. GradCAM calcule le gradient du score de la classe cible par rapport aux cartes de caractéristiques dans la couche convolutive finale et projette ces gradients sur l’image, produisant une carte de localisation discriminante de classe. D’autres méthodes de propagation par gradient se généralisent à différentes architectures de réseau. Integrated Gradients (IG)18 accumule des gradients le long du chemin entre une entrée de base (par exemple, une image vierge) et l’entrée réelle, et satisfait aux axiomes souhaitables pour l’attribution des caractéristiques. DeepLIFT19 propage de même les différences d’une activation de référence à travers chaque couche pour estimer la contribution de chaque caractéristique d’entrée. La propagation de pertinence par couche (LRP) propage un score de prédiction couche par couche, en distribuant la « pertinence » à chaque pixel ou caractéristiqued’entrée 20. En résumé, les méthodes spécifiques au modèle tirent parti des gradients internes, des activations ou de l’attention pour produire des explications étroitement liées à la structure du modèle.
    2. Indépendant du modèle
      En revanche, les méthodes indépendantes du modèle traitent le modèle comme une boîte noire qui peut être interrogée pour obtenir des résultats. Ces techniques font des hypothèses minimales, nécessitant généralement seulement que l’on puisse obtenir la prédiction du modèle pour les entrées perturbées. Parmi les exemples, citons LIME (Local Interpretable Model-Agnostic Explanations), qui utilise un modèle simple et interprétable (tel qu’un modèle linéaire clairsemé ou un arbre de décision) pour imiter le comportement du modèle complexe à proximité d’une entréedonnée 21. Pour une prédiction spécifique, LIME génère de nombreuses versions perturbées de l’entrée, obtient les prédictions du modèle de boîte noire pour chacune d’elles, puis apprend une régression linéaire pondérée qui se rapproche de ces relations d’entrée-sortie locales22. Les coefficients de ce modèle linéaire de substitution servent d’explication, indiquant quelles caractéristiques influencent le plus fortement la prédiction23. L’attrait de LIME réside dans sa flexibilité (utilisable avec n’importe quel classificateur) et sa sortie intuitive (par exemple, un petit ensemble de caractéristiques pondérées). SHapley Additive ExPlanations (SHAP) est une autre méthode populaire indépendante du modèle basée sur la théorie des jeux24. SHAP explique une prédiction individuelle en calculant des attributions de caractéristiques qui se rapprochent des valeurs de Shapley de la théorie des jeux coopératifs, garantissant des propriétés telles que l’additivité et la cohérence25. Au-delà de l’attribution des caractéristiques, les approches indépendantes du modèle incluent également des méthodes de perturbation visuelle pour les modèles d’image. RISE (Randomized Input Sampling for Explanation) génère des cartes d’importance en masquant de manière aléatoire des parties de l’image d’entrée et en observant comment la sortie du modèle change26. En échantillonnant un grand nombre de ces masques, RISE construit une carte de saillance probabiliste indiquant quels pixels ou régions ont eu le plus d’influence sur la prédiction26. Notamment, RISE ne nécessite aucun accès aux composants internes du modèle et ne nécessite que la possibilité d’évaluer le modèle sur des entrées modifiées, ce qui le rend véritablement boîte noire. Enfin, un domaine croissant de l’IAX agnostique se concentre sur les explications contrefactuelles. Une explication contrefactuelle n’énumère pas l’importance des caractéristiques, mais répond plutôt à la question : « Quel changement minime apporté à l’entrée aurait modifié la prédiction du modèle ? » 27. Les algorithmes qui génèrent des contrefactuels effectuent généralement une recherche dans l’espace d’entrée (ou un espace latent appris) pour trouver l’exemple le plus proche qui donne la sortie souhaitée, tout en appliquant le réalisme et la parcimonie des modifications. En résumé, les méthodes XAI post-hoc sont largement adoptées car elles peuvent être appliquées à des modèles haute performance après l’entraînement, combinant puissance prédictive et une certaine transparence.
  2. Méthodes d’interprétabilité intrinsèque
    Les méthodes intrinsèques adoptent une approche fondamentalement différente : plutôt que d’expliquer une boîte noire après coup, ces méthodes rendent le modèle interprétable par conception. Les réseaux de neurones auto-explicatifs (SENN) en sont un exemple notable. Dans le cadre SENN proposé par Alvarez-Melis et Jaakola28, le réseau neuronal est structuré pour calculer d’abord un ensemble d’activations de concepts intermédiaires, puis générer une prédiction en tant que fonction simple et explicable de ces concepts. ProtoPNet (Prototypical Part Network) est un réseau profond qui classifie les entrées en les comparant à un ensemble de représentations prototypes apprises de chaque classe. Par exemple, dans une tâche de classification d’images, un ProtoPNet peut apprendre des correctifs de prototype et prendre des décisions en trouvant quels prototypes sont les plus activés par l’entrée29. Dans le domaine des modèles de séquences et des transformateurs, les mécanismes d’attention ont également été exploités pour l’interprétabilité intrinsèque. Certains modèles sont entraînés avec un objectif d’alignement de l’attention, qui encourage les poids d’attention du modèle à correspondre à des caractéristiques importantes connues ou à des régions pertinentes étiquetées par l’homme. En guidant l’attention pour qu’elle soit « juste pour les bonnes raisons »30, ces approches produisent des modèles qui non seulement fonctionnent bien, mais ont également des distributions d’attention qui peuvent être directement interprétées comme des explications. De plus, de tels modèles fournissent des explications qui sont généralement fidèles par construction, puisque l’explication est générée à partir de la structure interprétable du modèle, et non d’une approximation post-hoc externe31.

3. Taxonomie de l’IAX

Afin de fournir une synthèse structurée de l’état de la recherche, une revue systématique de la littérature a été réalisée à l’aide des lignes directrices PRISMA (Figure 2). Le processus comprenait plusieurs bases de données académiques (Scopus, Web of Science, IEEE Xplore, SpringerLink, PubMed, arXiv et MDPI) et était guidé par un ensemble de termes de recherche combinant « IA explicable », « interprétabilité », « inspection visuelle », « détection de défauts », « détection d’anomalies », « fabrication » et « imagerie médicale ». Les critères d’inclusion exigeaient que les articles appliquent ou évaluent explicitement les méthodes d’IAX dans des contextes d’inspection visuelle (industrielle ou médicale) et qu’ils fassent état de suffisamment de détails méthodologiques. Les critères d’exclusion ont éliminé les propositions purement théoriques sans mise en œuvre, ainsi que les travaux en dehors de l’inspection visuelle. La recherche a d’abord permis de récupérer 483 enregistrements. Après avoir éliminé les doublons et examiné les titres et les résumés, 147 sont restés pour l’examen du texte intégral. L’application des critères d’inclusion/exclusion a donné lieu à 75 études primaires, qui constituent la base de cette revue.

figure-protocol-2
Figure 2 : Organigramme PRISMA du processus d’examen systématique suivant les lignes directrices PRISMA. La figure illustre les dossiers identifiés, examinés et exclus à chaque étape, ce qui donne 75 études primaires incluses dans l’examen final. Veuillez cliquer ici pour voir une version agrandie de cette figure.

  1. Taxonomie appliquée des études examinées
    En nous appuyant sur le cadre conceptuel introduit à la section 2 (approches post-hoc et intrinsèques), nous avons affiné une taxonomie spécifique au domaine dérivée de ces 75 études. Cette taxonomie appliquée distingue les méthodes en fonction de leur mise en œuvre dans les tâches d’inspection visuelle, comme le montre la figure 3.
  2. Répartition des études entre les taxonomies
    La répartition complète des 75 études est résumée dans le tableau 1. Chaque étude est associée à sa catégorie méthodologique et à son domaine d’application. Cela fournit une base empirique à l’analyse comparative présentée à la section 4.
  3. Synthèse
    Plusieurs tendances claires se dégagent de cette revue systématique. Tout d’abord, les méthodes post-hoc basées sur le gradient restent les plus largement adoptées dans les tâches d’inspection industrielle et médicale en raison de leur efficacité et de leur facilité d’intégration. Deuxièmement, les méthodes basées sur les perturbations fournissent des attributions de caractéristiques plus riches, mais sont moins courantes dans les environnements industriels à haut débit en raison des exigences de calcul. Troisièmement, les méthodes intrinsèques gagnent du terrain mais restent sous-représentées, avec moins de 15 % des études qui les mettent en œuvre.
    En ancrant cette taxonomie dans une revue reproductible guidée par PRISMA et en la reliant à une base de données structurée de 75 études, cette section établit une base de données validée. Ces résultats ouvrent la voie à l’analyse comparative de la section 4, où des méthodes représentatives sont évaluées à l’aide de mesures normalisées (fidélité, robustesse, latence et précision de localisation).

figure-protocol-3
Figure 3 : Taxonomie proposée des méthodes d’IAX dans les tâches d’inspection visuelle. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Méthode XAIApproche XAIÉtudierIndustrieAnnée
IntrinsèqueModèles linéaires et basés sur des règles32,33Médecine générale2015–2019
Basé sur des prototypes (ProtoPNet, Case-based, Deformable ProtoPNet) 29,34,35,36 Médical, Industriel, Général2018–2024
Axé sur les concepts (goulot d’étranglement du concept, droit pour des raisons) 30,31,37 Applications générales, scientifiques2020–2021
Réseaux neuronaux auto-explicatifs (SENN)28Généralités2018–2020
Représentation intriquée (β-VAE),SOXAI38,39Généralités2018
Transformateurs de vision (Interprétabilité intrinsèque par l’attention) 40,41,42,43,44,45 Vision par ordinateur, Fabrication2020–2024
Post-hoc, spécifique au modèleFamille CAM 46,47,48,49,50,51,52, 53,54,55,56,57,58 Imagerie médicale, Fabrication, Automobile, Agriculture, Électronique2018–2025
LRP (Layer-wise Relevance Propagation) 20,59,60,61,62 Généralités, Imagerie médicale2015–2024
Méthodes de gradient et de saillance (gradients intégrés, IG DeepLIFT lisse, DeconvNet, T-Explainer, benchmarks de saillance) 18,19,63,64,65,
66,67,68,69,70 		Généralités, Imagerie médicale2013–2025
Attribution dans les modèles spécialisés (SNNs, Transformers attention attribution) 71,72,73 Neurosciences, Transformateurs de vision2023–2025
Post-hoc, agnostique du modèleCHAUX & Variantes (LIME, ELIME, MASALA), SHAP & Variantes (Tree SHAP),Finance, pronostics et gestion de la santé, cybersécurité, véhicules autonomes, inspection industrielle.2016–2025
Contrefactuel 21,22,23,24,25,27,74,
75,76,77,78,79,80,81,
82,83,84,85,86
Explications
Méthodes hybridesIntégration de plusieurs méthodes XAI dont (GradCAM, SHAP, LRP, LIME) 58,87,88,89,90,91,92 Inspection industrielle, soins de santé, fabrication.2021–2025

Tableau 1 : Classification de 75 études examinées par méthode XAI, année, industrie et approche.

4. Métriques d’évaluation pour l’XAI

Les performances d’un modèle de vision par ordinateur sont jugées par des mesures bien établies telles que l’exactitude, la précision et le rappel. Cependant, l’évaluation de l’explicabilité des décisions d’un modèle est beaucoup moins simple. Contrairement aux performances prédictives standard, il n’existe pas de mesure universellement acceptée pour la qualité des explications de l’IA66. En d’autres termes, bien que la précision d’un classificateur puisse être mesurée avec précision, il n’existe pas d’échelle convenue pour quantifier la « qualité » d’une explication d’une classification d’image donnée93. Cette disparité met en évidence une lacune fondamentale dans le domaine de l’IAX : comment évaluer une explication.

L’élaboration de critères d’évaluation normalisés de l’IAX s’est avérée exceptionnellement difficile. L’une des raisons est que l’intelligibilité et la qualité de l’explication sont multiples et dépendent du contexte et résistent donc à une seule mesure universelle10. L’évaluation efficace d’une explication repose sur plusieurs facteurs, notamment le domaine d’application, la nature de l’explication produite et les antécédents de l’utilisateur final. Par exemple, une technique d’explication adaptée à un diagnostic d’imagerie médicale pourrait être évaluée différemment de celle utilisée dans une tâche d’inspection visuelle industrielle10.

En pratique, l’absence de mesures standard a conduit les chercheurs à s’appuyer sur diverses approches d’évaluation. De nombreuses études ont encore recours à une évaluation qualitative et anecdotique des méthodes d’IAX94,95. Il est courant de voir les auteurs présenter quelques cartes de saillance ou cartes thermiques et faire valoir qu’elles semblent raisonnables (le test dit de « validité apparente »)96. Une telle inspection visuelle peut être persuasive dans un sens narratif, mais elle reste subjective et insuffisante pour une comparaison rigoureuse97. Cela illustre la difficulté de normaliser les métriques XAI ; En l’absence de critères convenus, les chercheurs proposent des métriques adaptées à chaque jeu de données ou cas d’utilisation.

Par conséquent, la littérature abonde aujourd’hui en divers indicateurs d’évaluation de l’IAX destinés à combler cette lacune98. De nombreux cadres et mesures ont été proposés, chacun ciblant un aspect particulier de ce qui rend une explication utile99. D’une manière générale, les indicateurs peuvent être classés en fonction de leur objectif principal. Les mesures basées sur la fidélité jugent une explication en fonction de la façon dont elle reflète le processus de décision du modèle100. En revanche, les mesures centrées sur l’intelligibilité évaluent la compréhension et la conviction de l’explication pour un observateur humain101. Une troisième catégorie est celle des mesures basées sur les tâches, où l’évaluation de l’explication dépend de son impact sur les performances de l’utilisateur final102. Une quatrième catégorie est celle des mesures axées sur la robustesse qui évaluent la cohérence des résultats103. Enfin, les métriques hybrides combinent plusieurs dimensions104.

Cette diversité de métriques indique les aspects d’explicabilité que les chercheurs considèrent comme importants, mais met également en évidence l’absence d’une norme unique : chaque métrique ne capture qu’un seul angle d’explication : qualité105. Dans ce qui suit, une série d’indicateurs d’évaluation de l’IAX sont regroupés en quatre catégories principales et résumés dans le tableau 2.

Type de métriqueMétriqueFormule / Définition
FidélitéAire de délétion sous la courbe (AUC)26figure-protocol-4
sont des caractéristiques les plus importantes ; plus faible = plus fidèle
Aire d’insertion sous la courbe (AUC)26figure-protocol-5
plus élevé = plus fidèle
Score d’infidélité103figure-protocol-6
plus faible = meilleur
ROAR106La précision diminue après un réentraînement sans caractéristiques « importantes »
RobustesseIndice de stabilité107figure-protocol-7
plus élevé = plus cohérent
Score de Lipschitz: 103figure-protocol-8
plus bas = plus robuste
InterprétabilitéParcimonie79figure-protocol-9
lower = plus simple
Profondeur de substitution79Profondeur du substitut interprétable (p. ex., arbre de décision) ;
moins profond = plus simple
Spécifique à la tâcheintersection-sur-union (IoU)108figure-protocol-10
chevauchement du masque M et de la vérité terrain G
Jeu de pointage108Précision = #hits / #samples
plus élevé = meilleur
HybrideScore composite104Combinaison pondérée de fidélité, de parcimonie et de robustesse

Tableau 2 : Indicateurs d’évaluation de l’IAX dans l’inspection visuelle, regroupés en quatre catégories principales.

5. Analyse comparative

Dans cette section, les méthodes sont comparées à des ensembles de données publics tels que MVTec AD109 (>5 000 images de défauts avec des masques au niveau des pixels) et DeepPCB110 (1 500 images de circuits imprimés avec six classes de défauts), CheXpert111 et ImageNet112 et évaluées à l’aide des paramètres suivants : AUC de suppression/insertion (fidélité), précision du jeu de pointage (localisation), scores de stabilité (robustesse sous perturbations) et latence (coût d’exécution).

Pour les méthodes basées sur la FAO (GradCAM, GradCAM++), les résultats sur MVTec AD et DeepPCB montrent que GradCAM atteint une fidélité de 0,83-0,87 (AUC d’insertion ~0,68 ; < baisse de précision de 15 % lors de la suppression), une sensibilité (0,80 - 0,85) et une durée d’exécution <100 ms (~39 images par seconde (FPS)). La localisation reste modérée (IoU moyen ≈0,28 @ δ=0,25 ; précision de pointage 86-87 %). GradCAM++ améliore la localisation multi-instance (IoU moyen = 0,38) tout en maintenant une latence similaire (<120 ms) et une confiance utilisateur plus élevée (109,69/250 contre 56,08/250 pour GradCAM). Ces méthodes sont efficaces mais spatialement grossières 47,113.

Pour les méthodes basées sur les perturbations (LIME, SHAP, RISE), les performances varient selon les ensembles de données. Sur MVTec AD, LIME atteint une fidélité locale R² = 0,70-0,80 mais présente une faible robustesse (indice de stabilité <0,5), une latence de 3-5 s/image et une localisation modérée (IoU = 0,25-0,35). SHAP appliqué à la classification des défauts de PCB permet d’obtenir des attributions cohérentes (Δ log-odds = 0,2-0,3) avec un fort alignement humain (70-80 %) mais est plus lent (>1 s/image) et a une faible localisation (IoU ≈0,02-0,03). RISE, évalué sur MS-COCO et répliqué pour MVTec AD, effectue en moyenne 4 000 à 8 000 passes avant masquées, ce qui permet d’obtenir une robustesse élevée (stabilité >0,7), une fidélité (0,78-0,82 AUC) et une localisation supérieure (Pointing-Game = 62,9 % contre 48,3 % pour GradCAM), mais à une latence de 1-2 s/explication 26,74,79,114.

Pour les méthodes de propagation de la pertinence (LRP, DeepLIFT), les évaluations sur DeepPCB et CheXpert indiquent que la LRP atteint une fidélité de 0,82-0,90, une sensibilité de ~0,85 et une IoU de localisation de 0,40-0,50. Le temps d’exécution est de 100 à 200 ms par image, plus lent que les CAM, mais réalisable pour une inspection en temps quasi réel. Dans les tâches de radiologie CheXpert, des études d’experts montrent > un chevauchement de 70 % entre les cartes thermiques LRP et les régions cliniquement pertinentes, démontrant l’interprétabilité dans tous les domaines60.

Pour les méthodes basées sur l’attention (Transformers), les résultats des modèles ViT entraînés sur ImageNet et CheXpert, les cartes d’attention brutes donnent une fidélité de 0,75-0,85 mais sont instables sous perturbations, avec une sensibilité de 0,70-0,75 et une localisation modeste (IoU = 0,30-0,45). La confiance humaine est de ~60-70 %. Les approches adaptées (flux d’attention, Transformer-LRP) améliorent les métriques causales, surpassant l’attention brute dans les scores de suppression/insertion et de jeu de pointage 40,115,116.

Pour les méthodes basées sur le prototype et le contrefactuel, les évaluations n MVTec AD soulignent que ProtoPNet réalise des explications basées sur des exemples où les prédictions sont justifiées par des cas de défauts similaires, aidant ainsi l’opérateur à prendre des décisions. Les approches basées sur SOM regroupent les caractéristiques des défauts sur des cartes 2D, en préservant les relations topologiques. Les méthodes contrefactuelles, testées à la fois sur des images de défauts de PCB et sur CheXpert, fournissent un raisonnement exploitable (« si la longueur de la fissure est inférieure à 1 mm, la prédiction passe à la normale ») mais nécessitent une optimisation coûteuse et ont du mal à obtenir des entrées haute résolution. Ces méthodes s’alignent fortement sur le raisonnement humain, mais s’adaptent mal à 117,118,119.

Enfin, si l’on considère les compromis et la sélection pratique, les FAO dominent les flux de travail critiques en matière de latence, mais restent grossières. LRP équilibre la fidélité et l’autonomie, excellant dans l’analyse au niveau du pixel. RISE offre la fidélité causale et la localisation les plus fortes, mais avec une latence de quelques secondes. SHAP et LIME améliorent l’interprétabilité mais sont lents et instables. Les prototypes et les contrefactuels maximisent l’alignement humain, mais s’adaptent mal lors de l’inspection à haute résolution. Les modèles basés sur des transformateurs nécessitent des adaptations spécialisées au-delà de l’attention brute. Ainsi, aucune méthode ne surpasse universellement les autres ; Au lieu de cela, le choix de la méthode doit refléter l’ensemble de données, la tâche, la latence, le budget et les besoins en matière d’interprétabilité. Comme le montre la figure 4, le flux de travail de sélection intègre trois de ces repères (tâche, latence, interprétabilité) dans un guide orienté tâche pour le choix des méthodes XAI en inspection visuelle.

figure-protocol-11
Figure 4 : Flux de travail de sélection pour l’adoption de la méthode XAI. Il s’agit d’un organigramme de décision guidant la sélection des méthodes d’XAI appropriées pour l’inspection visuelle. Le workflow prend en compte le type de tâche (classification, segmentation, détection d’anomalies, régression), les contraintes de latence et les détails de l’explication, et les relie à des méthodes représentatives. Veuillez cliquer ici pour voir une version agrandie de cette figure.

6. Analyse

  1. Constatations comparatives
    Notre analyse montre que les méthodes basées sur le gradient telles que GradCAM et la propagation de pertinence par couche (LRP) excellent dans la mise en évidence des régions d’image spécifiques les plus influentes dans les décisions d’un réseau convolutif, ce qui en fait des outils intuitifs pour des tâches telles que la localisation de défauts ou la classification d’images médicales. Ces approches sont efficaces car elles fonctionnent en un seul passage à rebours, mais leurs explications sont souvent grossières et peuvent devenir floues dans des régions complexes. En revanche, les techniques d’attribution de caractéristiques indépendantes du modèle, telles que SHAP et LIME, fournissent des informations plus quantitatives sur les contributions de caractéristiques en sondant le modèle avec des entrées perturbées ou en ajustant des substituts locaux, mais à un coût de calcul plus élevé que GradCAM.
    Les méthodes basées sur l’attention exploitent les poids internes du modèle pour mettre en évidence les régions focales dans le modèle115. RISE, quant à lui, représente une stratégie basée sur la randomisation qui masque et échantillonne les entrées pour produire des cartes de saillance flexibles, bien qu’elle nécessite des milliers de passes vers l’avant. Prises ensemble, ces techniques excellent dans des circonstances spécifiques, mais aucune ne surpasse universellement les autres26. Au lieu de cela, le choix de la méthode dépend de l’architecture du modèle, de la tâche d’inspection visuelle, des exigences de latence et du type d’informations dont les décideurs ont besoin.
  2. Étude de cas
    Voici des études de cas concrets mettant en œuvre l’IAX dans les secteurs médical et industriel : dans les soins de santé, les modèles de détection de la pneumonie et de la COVID-19 entraînés sur les radiographies pulmonaires et les tomodensitogrammes ont été expliqués avec GradCAM et LIME, et les radiologues dans les études utilisateurs ont systématiquement préféré GradCAM parce que ses régions mises en évidence correspondaient à la pathologie attendue telle que les infiltrats pulmonaires120. De même, en pathologie numérique pour le cancer de la tête et du cou, les prédictions de CNN soutenues par GradCAM et la CAM haute résolution ont mis en évidence des amas de cellules malignes que les pathologistes ont confirmés comme cliniquement pertinents, montrant que les explications renforçaient à la fois l’exactitude clinique et la confiance121.
    Dans le secteur manufacturier, XAI a fait une différence transformatrice en termes de précision et d’explicabilité. L’une des principales applications est la détection d’objets étrangers sur des images radiographiques de pneus à l’aide d’un réseau de neurones convolutifs basé sur l’architecture Xception. Grâce à l’inclusion de la cartographie d’activation de classe pondérée en gradient (GradCAM), le système a atteint une précision de classification supérieure à 99 % et a produit des cartes thermiques indiquant les régions précises de l’image responsables des prédictions. Ces explications visuelles ont permis aux ingénieurs de l’assurance qualité de vérifier que l’attention du modèle était portée sur des anomalies légitimes dans le support structurel du pneu et non sur des artefacts non pertinents, améliorant considérablement la confiance et facilitant le déploiement dans des environnements de production à enjeux élevés48.
    Dans l’industrie électronique, l’approche SolderNet montre l’intégration de l’IAX dans l’inspection des défauts au niveau du pixel. La méthode basée sur CNN a été développée pour l’inspection des joints de soudure sur les cartes de circuits imprimés, une tâche où une précision et une explicabilité élevées sont obligatoires. Avec l’application de GradCAM et de la propagation de pertinence par couche (LRP), la méthode a extrait des cartes de saillance qui ont mis en évidence les pixels responsables de classifications de défauts spécifiques. Grâce à cette explicabilité, l’opérateur a pu différencier les vrais et les faux positifs et tirer des enseignements sur les modes de défaillance qui auraient auparavant été des sorties de boîte noire39. Ces cas montrent que l’IAX est valorisée lorsque ses explications s’alignent sur le raisonnement d’experts, mais sous-utilisée lorsque les explications sont instables, grossières ou peu pratiques sur le plan informatique.
  3. Limites des données probantes actuelles
    Malgré ces avancées, plusieurs limites persistent. Tout d’abord, la plupart des études empiriques s’appuient sur des ensembles de données publiques tels que MVTec AD pour l’inspection industrielle ou VinDR-CXR122 pour l’imagerie médicale, qui peuvent ne pas représenter pleinement les environnements réels des usines ou des hôpitaux. Deuxièmement, l’évaluation reste fragmentée : la fidélité, la robustesse et l’intelligibilité sont mesurées de manière incohérente d’une étude à l’autre, souvent avec des définitions ad hoc et sans seuils standardisés. Troisièmement, de nombreuses œuvres manquent de validation humaine. Bien que des mesures telles que l’AUC de suppression, la précision du jeu de pointage ou l’IoU de localisation fournissent des résultats quantitatifs, elles ne confirment pas que ces explications améliorent réellement la prise de décision de l’utilisateur. Enfin, seulement ~8 % des études d’assurance qualité basées sur l’IA dans l’industrie intègrent l’IAX dans leur flux de travail123. Cela met en évidence l’écart d’adoption pratique, même si cette statistique varie selon le secteur et la méthodologie et peut ne pas être exacte.
  4. Implications pratiques pour les praticiens
    Pour les praticiens, plusieurs implications émergent. Les méthodes basées sur le gradient restent le choix le plus pratique pour les tâches d’inspection en temps réel, car elles fournissent des explications avec une faible latence (~100 ms par image) et sont faciles à déployer. Les approches basées sur les perturbations, telles que SHAP ou RISE, ont une latence plus élevée que les méthodes basées sur le gradient, mais sont mieux adaptées aux domaines où l’attribution fine l’emporte sur la latence, comme les soins de santé, où la précision prime sur la vitesse. Les approches basées sur l’attention sont utiles avec les architectures de transformateurs, mais elles nécessitent une interprétation prudente car l’attention brute ne fournit pas toujours une explication claire. Au-delà des compromis techniques, le succès de l’adoption dépend fortement de l’intégration, de la formation des utilisateurs et de la démonstration de la valeur clinique de l’interprétabilité. Comme le montrent les études de cas, les explications ne prennent de valeur que lorsqu’elles s’alignent clairement sur l’expertise du domaine et aident les praticiens à vérifier ou à contester les prédictions de l’IA.
  5. Orientations futures de la recherche
    Les recherches futures devraient donner la priorité à plusieurs directions concrètes :
    Standardisation des protocoles d’évaluation : Établissez des directives de rapport reproductibles pour les indicateurs clés, notamment l’AUC de suppression/insertion, la précision du jeu de pointage, les indices de stabilité et la latence.
    Ensembles de données de référence spécifiques au domaine : Développez des ensembles de données organisés pour l’inspection visuelle industrielle et médicale avec des annotations de vérité terrain afin de réduire la dépendance excessive à l’égard d’ensembles de données publics étroits.
    Validation centrée sur l’humain : Élargir les études qui mesurent si les explications de l’IA XAI améliorent la qualité des décisions, la confiance des utilisateurs et la collaboration homme-IA au-delà des mesures indirectes
    Analyse coûts-avantages : Réalisez des études de déploiement rigoureuses pour quantifier la valeur commerciale et clinique de l’intégration de l’IAX dans les flux de travail d’inspection visuelle.

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Conclusions

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Cette revue a examiné 75 études sur l’IAX en inspection visuelle, ce qui a abouti à une taxonomie des méthodes post-hoc et intrinsèques et à une analyse comparative basée sur des références. Les résultats confirment qu’aucune méthode ne surpasse universellement les autres : les approches basées sur le gradient telles que GradCAM et LRP sont efficaces pour la localisation des défauts en temps réel, mais leurs explications peuvent être grossières dans des régions complexes. Les méthodes ba...

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Déclarations de divulgation

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Les auteurs déclarent qu’il n’y a pas de conflits d’intérêts concernant la publication de ce travail.

Remerciements

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

L’auteur déclare que ce travail n’a reçu aucune subvention spécifique d’un organisme de financement des secteurs public, commercial ou à but non lucratif.

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Références

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,
  1. Alzarooni, A., et al. Anomaly detection for industrial applications, its challenges, solutions, and future directions: a review. IEEE Sens J. XX. (1), 1(2025).
  2. Hardan, F., Almusawi, A. R. J. Developing an automated vision system for maintaing social distancing to cure the pandemic. Al-Khwarizmi Eng J. 18 (1), 38-50 (2022).
  3. Terasaki, N., Fujio, Y. Mechanoluminescent visualization of crack propagation for joint evaluation. J Vis Exp. (191), e64118(2023).
  4. Al-Hamadani, S., Al-Darraji, I. Warehouse in Industry 4.0 based drone, computer vision, and artificial intelligence technologies: a literature review. Proc Eng Sci. 7 (1), 517-526 (2025).
  5. Al-Jubori, H. N., Izzat, A. D., Jerbi, H. Defect detection using thermography camera techniques: a review. Al-Khwarizmi Eng J. 20 (4), 70-88 (2024).
  6. Al-Hamadani, S., Al-Darraji, I., Jerbi, H. Improving barcode vision scanning process using a drone-based tracking PID controller for warehouse in Industry 4.0. Al-Khwarizmi Eng J. 21 (2), 72-92 (2025).
  7. Al-Jubori, H. N., Al-Darraji, I. Tools and process of defect detection in automated manufacturing systems. EAI Endorsed Trans Scalable Inf Syst. 10 (6), e4000(2023).
  8. Alaa, T., et al. Automated detection of defects on metal surfaces using vision transformers. , Published online October 6, 2024. Accessed August 1 (2025).
  9. Moosavi, S., et al. Explainable AI in manufacturing and industrial cyber-physical systems: a survey. Electronics. 13 (17), 3497(2024).
  10. Nauta, M., et al. From anecdotal evidence to quantitative evaluation methods: a systematic review on evaluating explainable AI. ACM Comput Surv. 55 (13), 1-42 (2023).
  11. Cheng, Z., et al. A comprehensive review of explainable artificial intelligence (XAI) in computer vision. Sensors. 25 (13), 4166(2025).
  12. Barredo Arrieta, A., et al. Explainable artificial intelligence (XAI): concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 58, 82-115 (2020).
  13. Kouchaki, S., et al. Survey of explainable AI techniques in healthcare. Sensors. 23 (2), 634(2023).
  14. Laugel, T., et al. The dangers of post-hoc interpretability: unjustified counterfactual explanations. Proc Int Joint Conf Artif Intell. , 2801-2807 (2019).
  15. Slack, D., et al. Reliable post hoc explanations: modeling uncertainty in explainability. Adv Neural Inf Process Syst. 33, 9391-9404 (2020).
  16. Cesarini, M., et al. Explainable AI for text classification: lessons from a comprehensive evaluation of post hoc methods. Cognit Comput. 16 (6), 3077-3095 (2024).
  17. Mohamed Musthafa, M., et al. Enhancing brain tumor detection in MRI images through explainable AI using Grad-CAM with ResNet-50. BMC Med Imaging. 24 (1), 1-19 (2024).
  18. Sundararajan, M., Taly, A., Yan, Q. Axiomatic attribution for deep networks. Proc Int Conf Mach Learn. 70, 5109-5118 (2017).
  19. Shrikumar, A., Greenside, P., Kundaje, A. Learning important features through propagating activation differences. Proc Int Conf Mach Learn. 70, 4844-4866 (2017).
  20. Bassi, P. R. A. S., et al. Improving deep neural network generalization and robustness to background bias via layer-wise relevance propagation optimization. Nat Commun. 15, 44371(2024).
  21. Knab, P., et al. Which LIME should I trust? Concepts, challenges, and solutions. arXiv preprint. , (2025).
  22. Garreau, D., von Luxburg, U. Explaining the explainer: a first theoretical analysis of LIME. Proc Mach Learn Res. 108, 1287-1296 (2020).
  23. Qian, J., et al. ELIME: exact local interpretable model-agnostic explanation. Eur J Artif Intell. , (2024).
  24. Salih, A. M., et al. A perspective on explainable artificial intelligence methods:SHAP and LIME . Adv Intell Syst. , (2024).
  25. Hermosilla, P., et al. Explainable AI for forensic analysis: a comparative study of SHAP and LIME in intrusion detection models. Appl Sci. 15 (13), 7329(2025).
  26. Petsiuk, V., Das, A., Saenko, K. RISE: randomized input sampling for explanation of black-box models. arXiv preprint. , (2018).
  27. Dandl, S., et al. Multi-objective counterfactual explanations. Lect Notes Comput Sci. 12269, 448-469 (2020).
  28. Alvarez-Melis, D., Jaakkola, T. S. Towards robust interpretability with self-explaining neural networks. Adv Neural Inf Process Syst. 31, 7775-7784 (2018).
  29. Donnelly, J., Barnett, A. J., Chen, C. Deformable ProtoPNet: an interpretable image classifier using deformable prototypes. Proc IEEE Conf Comput Vis Pattern Recognit. , 10255-10265 (2022).
  30. Ross, A. S., Hughes, M. C., Doshi-Velez, F. Right for the right reasons: training differentiable models by constraining their explanations. Proc Int Joint Conf Artif Intell. , 2662-2670 (2017).
  31. Schramowski, P., et al. Making deep neural networks right for the right scientific reasons by interacting with their explanations. Nat Mach Intell. 2 (8), 476-486 (2020).
  32. Rudin, C. Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nat Mach Intell. 1 (5), 206-215 (2019).
  33. Letham, B., et al. Interpretable classifiers using rules and Bayesian analysis: building a better stroke prediction model. Ann Appl Stat. 9 (3), 1350-1371 (2015).
  34. Barnett, A. J., et al. Interpretable mammographic image classification using case-based reasoning and deep learning. arXiv preprint. , (2021).
  35. Narayanan, A., Bergen, K. J. Prototype-based methods in explainable AI and emerging opportunities in the geosciences. arXiv preprint. , (2024).
  36. Chen, C., et al. This looks like that: deep learning for interpretable image recognition. Adv Neural Inf Process Syst. 32, 8928-8939 (2019).
  37. Koh, P. W., et al. Concept bottleneck models. Proc Int Conf Mach Learn. 119, 5294-5304 (2020).
  38. Burgess, C. P., et al. Understanding disentangling in β-VAE. arXiv preprint. , (2018).
  39. Gunraj, H., et al. SolderNet: towards trustworthy visual inspection of solder joints in electronics manufacturing using explainable artificial intelligence. Proc AAAI Conf Artif Intell. 37, 15668-15674 (2023).
  40. Dosovitskiy, A., et al. An image is worth 16×16 words: transformers for image recognition at scale. arXiv preprint. , (2020).
  41. Khan, S., et al. Transformers in vision: a survey. ACM Comput Surv. 54 (10), 1-41 (2021).
  42. Yu, L., et al. eX-ViT: a novel explainable vision transformer for weakly supervised semantic segmentation. Pattern Recognit. 142, 109666(2023).
  43. Alber, M., et al. Evaluating vision transformer models for visual quality control in industrial manufacturing. Lect Notes Comput Sci. Bifet, A., et al. 14950, 1-15 (2024).
  44. Stassin, S., et al. Explainability and evaluation of vision transformers: an in-depth experimental study. Electronics. 13 (1), 175(2024).
  45. Zhai, Y., et al. A lightweight transformer with linear self-attention for defect recognition. Electron Lett. 60 (17), e13292(2024).
  46. Dhore, V., et al. Enhancing explainable AI: a hybrid approach combining Grad-CAM and LRP for CNN interpretability. arXiv preprint. , (2024).
  47. Chattopadhay, A., et al. Grad-CAM++: generalized gradient-based visual explanations for deep convolutional networks. Proc IEEE Winter Conf Appl Comput Vis. , 839-847 (2018).
  48. Saleh, R. A. A., et al. Advancing tire safety: explainable artificial intelligence-powered foreign object defect detection with Xception networks and Grad-CAM interpretation. Appl Sci. 14 (10), 4267(2024).
  49. Meister, S., et al. Investigations on explainable artificial intelligence methods for the deep learning classification of fibre layup defect in the automated composite manufacturing. Compos Part B Eng. 224, 109160(2021).
  50. Luo, X., Alzahrani, M. Automated tomato defect detection using CNN feature fusion for enhanced classification. Processes. 13 (1), 115(2025).
  51. Rahimunnisa, K. Textile fabric defect detection. J Innov Image Process. 4 (3), 165-172 (2022).
  52. Shin, H., et al. Visualization for explanation of deep learning-based defect detection model using class activation map. Comput Mater Contin. 75 (3), 4753-4766 (2023).
  53. Yue, H., et al. ASOD: attention-based salient object detector for strip steel surface defects. Electronics. 14 (5), 831(2025).
  54. Saleh, R. A. A., Ertunç, H. M. Explainable attention-based fused convolutional neural network (XAFCNN) for tire defect detection: an industrial case study. Eng Res Express. 6 (1), 015027(2024).
  55. Leem, S., Seo, H. Attention guided CAM: visual explanations of vision transformer guided by self-attention. Proc AAAI Conf Artif Intell. 38 (4), 2956-2964 (2024).
  56. Ibrahim, R., Shafiq, M. O. Augmented Score-CAM: high-resolution visual interpretations for deep neural networks. Knowl Based Syst. 252, 109287(2022).
  57. Clement, T., et al. XAI-enhanced semantic segmentation models for visual quality inspection. Proc IEEE Int Conf Consumer Electron. , 1-4 (2024).
  58. Riedel, H., et al. Automated quality control of vacuum insulated glazing by convolutional neural network image classification. Autom Constr. 135, 104144(2022).
  59. Böhle, M., et al. Layer-wise relevance propagation for explaining deep neural network decisions in MRI-based Alzheimer's disease classification. Front Aging Neurosci. 10, 194(2019).
  60. Bach, S., et al. On pixel-wise explanations for non-linear classifier decisions by layer-wise relevance propagation. PLoS One. 10 (7), e0130140(2015).
  61. Dieter, T. R., Zisgen, H. Evaluation of the explanatory power of layer-wise relevance propagation using adversarial examples. Neural Process Lett. 55 (7), 8531-8550 (2023).
  62. Hoefler, M. A., et al. XAI-guided insulator anomaly detection for imbalanced datasets. arXiv. , (2024).
  63. Kares, F., et al. What makes for a good saliency map? Comparing strategies for evaluating saliency maps in explainable AI (XAI). arXiv preprint. , (2025).
  64. Yona, G., Greenfeld, D. Revisiting sanity checks for saliency maps. arXiv preprint. , (2021).
  65. Zeiler, M. D., Fergus, R. Visualizing and understanding convolutional networks. Eur Conf Comput Vis. 8689, 818-833 (2014).
  66. Xu-Darme, R., et al. On the stability, correctness and plausibility of visual explanation methods based on feature importance. ACM Int Conf Proc Ser. , 119-125 (2023).
  67. Ortigossa, E. S., et al. T-Explainer: a model-agnostic explainability framework based on gradients. arXiv preprint. , (2024).
  68. Singh, M., et al. Attributional robustness training using input-gradient spatial alignment. Lect Notes Comput Sci. 12372, 515-533 (2019).
  69. Cerekci, E., et al. Quantitative evaluation of saliency-based explainable artificial intelligence methods in deep learning-based mammogram analysis. Eur J Radiol. 173, 111356(2024).
  70. Meister, S., et al. Cross-evaluation of a parallel operating SVM-CNN classifier for reliable internal decision-making processes in composite inspection. J Manuf Syst. 60, 620-639 (2021).
  71. Bitar, A., et al. Gradient-based feature-attribution explainability methods for spiking neural networks. Front Neurosci. 17, 1153999(2023).
  72. Qiang, Y., et al. Interpretability-aware vision transformer. arXiv preprint. , (2023).
  73. Bousselham, W., et al. LeGrad: an explainability method for vision transformers via feature formation sensitivity. arXiv preprint. , (2025).
  74. Lundberg, S. M., Lee, S. I. A unified approach to interpreting model predictions. Adv Neural Inf Process Syst. 30, (2017).
  75. Khan, F. S., et al. Model-agnostic explainable artificial intelligence methods in finance: a systematic review, recent developments, limitations, challenges and future directions. Artif Intell Rev. 58, 1-65 (2025).
  76. Nazim, S., et al. Advancing malware imagery classification with explainable deep learning: a state-of-the-art approach using SHAP LIME and Grad-CAM. PLoS One. 20 (5), e0318542(2025).
  77. Solís-Martín, D., et al. On the soundness of XAI in prognostics and health management (PHM). Information. 14 (5), 256(2023).
  78. Biecek, P., Burzykowski, T. Local interpretable model-agnostic explanations (LIME). In:Explanatory Model Analysis. , 107-123 (2021).
  79. Ribeiro, M. T., Singh, S., Guestrin, C. 34;Why should I trust you?" Explaining the predictions of any classifier. Proc ACM SIGKDD Int Conf Knowl Discov Data Min. , 1135-1144 (2016).
  80. Tahir, H. A., et al. A novel hybrid XAI solution for autonomous vehicles: real-time interpretability through LIME-SHAP integration. Sensors. 24 (21), 6776(2024).
  81. Goldman, C. V., et al. Explaining learning models in manufacturing processes. Procedia Comput Sci. 180, 259-268 (2021).
  82. Emmanouilidis, C., Rica, E. Visual quality control via explainable AI and the case of human in the AI loop. In: Lect Notes Mech Eng. , 252-260 (2023).
  83. Huang, M., et al. An interpretable approach using hybrid graph networks and explainable AI for intelligent diagnosis recommendations in chronic disease care. Biomed Signal Process Control. 91, 105913(2024).
  84. Dardouillet, P., et al. Explainability of image semantic segmentation through SHAP values. Data. 7 (8), 255(2022).
  85. Saifullah, S., et al. The privacy-explainability trade-off: unraveling the impacts of differential privacy and federated learning on attribution methods. Front Artif Intell. 7, 1236947(2024).
  86. Velmurugan, M., et al. Developing guidelines for functionally-grounded evaluation of explainable artificial intelligence using tabular data. Eng Appl Artif Intell. 141, 109772(2025).
  87. Wells, L., Bednarz, T. Explainable AI and reinforcement learning-a systematic review of current approaches and trends. Front Artif Intell. 4, 550030(2021).
  88. Rožanec, J. M., et al. Adaptive explainable artificial intelligence for visual defect inspection. Procedia Comput Sci. 232, 3034-3043 (2024).
  89. Nguyen, H. T. T., et al. XEdgeAI: a human-centered industrial inspection framework with data-centric explainable edge AI approach. Inf Fusion. 116, 102782(2025).
  90. Han, C., et al. Visual coating inspection framework via self-labeling and multi-stage deep learning strategies. J Intell Manuf. 35, 1-18 (2024).
  91. Kotsiopoulos, T., et al. Revolutionizing defect recognition in hard metal industry through AI explainability, human-in-the-loop approaches and cognitive mechanisms. Expert Syst Appl. 255, 124839(2024).
  92. Forcher, B., et al. Evaluation of explainable AI methods for classification tasks in visual inspection. Proc XAI Workshop (Late-Breaking Work, Demos, Doctoral Consortium). , 77-82 (2023).
  93. Miller, T. Explanation in artificial intelligence: insights from the social sciences. Artif Intell. 267, 1-38 (2019).
  94. Jacovi, A., Goldberg, Y. Towards faithfully interpretable NLP systems: how should we define and evaluate faithfulness. Proc Annu Meet Assoc Comput Linguist. 58, 4198-4205 (2020).
  95. Adebayo, J., et al. Sanity checks for saliency maps. Adv Neural Inf Process Syst. 31, 9505-9515 (2018).
  96. Doshi-Velez, F., Kim, B. Considerations for evaluation and generalization in interpretable machine learning. Proc Explainable and Interpretable Models in Computer Vision and Machine Learning. , 3-17 (2018).
  97. Lage, I., et al. An evaluation of the human-interpretability of explanation. arXiv preprint. , (2019).
  98. Theunissen, M., Browning, J. Putting explainable AI in context: institutional explanations for medical AI. Ethics Inf Technol. 24 (2), 1-10 (2022).
  99. Hoffman, R. R., et al. Measures for explainable AI: explanation goodness, user satisfaction, mental models, curiosity, trust, and human-AI performance. Front Comput Sci. 5, 1096257(2023).
  100. Hedström, A., et al. Quantus: an explainable AI toolkit for responsible evaluation of neural network explanations and beyond. J Mach Learn Res. 24, 1-11 (2023).
  101. Mohseni, S., et al. A multidisciplinary survey and framework for design and evaluation of explainable AI systems. ACM Trans Interact Intell Syst. 11 (3-4), 1-45 (2021).
  102. Finzel, B., et al. Domain-specific evaluation of visual explanations for application-grounded facial expression recognition. Lect Notes Comput Sci. 14065, 31-44 (2023).
  103. Yeh, C. K., et al. On the (in)fidelity and sensitivity for explanations. Adv Neural Inf Process Syst. 32, 10967-10978 (2019).
  104. Better metrics for evaluating explainable artificial intelligence. Rosenfeld, A. Proc Int Conf Autonomous Agents Multiagent Syst, , 45-53 (2021).
  105. Evaluation metrics for XAI: a review, taxonomy, and practical applications. Kadir, M. A., et al. Proc IEEE Int Conf Intell Eng Syst, , 111-124 (2023).
  106. Sankaran, K. Data science principles for interpretable and explainable AI. J Data Sci. 22, 1-27 (2024).
  107. Alvarez-Melis, D., Jaakkola, T. S. On the robustness of interpretability methods. arXiv preprint. , (2018).
  108. Zhang, Y., et al. Saliency-Bench: a comprehensive benchmark for evaluating visual explanations. arXiv preprint. , (2025).
  109. Bergmann, P., et al. The MVTec anomaly detection dataset: a comprehensive real-world dataset for unsupervised anomaly detection. Int J Comput Vis. 129 (4), 1038-1059 (2021).
  110. Tang, S., et al. Online PCB defect detector on a new PCB defect dataset. arXiv preprint. , (2019).
  111. CheXpert: a large chest radiograph dataset with uncertainty labels and expert comparison. Irvin, J., et al. Proc AAAI Conf Artif Intell, 33, 590-597 (2019).
  112. ImageNet: a large-scale hierarchical image database. Deng, J., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 248-255 (2009).
  113. Selvaraju, R. R., et al. Grad-CAM: visual explanations from deep networks via gradient-based localization. Int J Comput Vis. 128 (2), 336-359 (2020).
  114. Black-box explanation of object detectors via saliency maps. Petsiuk, V., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 11438-11447 (2020).
  115. Attention is not explanation. Jain, S., Wallace, B. C. Proc Conf North Am Chapter Assoc Comput Linguist, , 3543-3556 (2019).
  116. Transformer interpretability beyond attention visualization. Chefer, H., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 782-791 (2021).
  117. Wachter, S., et al. Counterfactual explanations without opening the black box: automated decisions and the GDPR. SSRN Electron J. , (2017).
  118. Deep learning for case-based reasoning through prototypes: a neural network that explains its predictions. Li, O., et al. Proc AAAI Conf Artif Intell, 32, 3530-3537 (2018).
  119. Counterfactuals in explainable artificial intelligence (XAI): evidence from human reasoning. Byrne, R. M. J. Proc Int Joint Conf Artif Intell, , 6276-6282 (2019).
  120. Ihongbe, I. E., et al. Evaluating explainable artificial intelligence (XAI) techniques in chest radiology imaging through a human-centered lens. PLoS One. 19 (10), e0308758(2024).
  121. Dörrich, M., et al. Explainable convolutional neural networks for assessing head and neck cancer histopathology. Diagn Pathol. 18 (1), 121(2023).
  122. Nguyen, H. Q., et al. VinDr-CXR: an open dataset of chest X-rays with radiologist's annotations. Sci Data. 9, 429(2022).
  123. Lee, D. J., et al. A systematic literature review on artificial intelligence and explainable artificial intelligence for visual quality assurance in manufacturing. Electronics. 12 (22), 4572(2023).

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Réimpressions et autorisations

Demander l’autorisation de réutiliser le texte ou les figures de cet article JoVE

Demander une autorisation

Mots-clés

Techniques d IA explicableInspection industrielleInspection m dicaleM thodes de gradientM thodes de propagationM thodes de perturbationMod les substitutsArchitectures d auto attention

Articles connexes