Artigo de revisão

IA explicável para inspeção visual: uma análise e revisão comparativa

DOI:

10.3791/69440

⸱

10 de outubro de 2025

 , 
1Al-Khwarizmi College of Engineering, Automated Manufacturing Department, University of Baghdad

Neste artigo

Resumo

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Esta revisão sintetiza métodos de IA explicável (XAI) para inspeção visual nos domínios industrial e médico. Uma pesquisa guiada pelo PRISMA identificou 75 estudos, informando uma taxonomia específica do domínio e análise comparativa usando métricas padronizadas. Contribuímos com uma taxonomia baseada em evidências e um fluxo de trabalho orientado para o profissional para a seleção de ferramentas.

Resumo

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

As técnicas de Inteligência Artificial Explicável (XAI) permitem transparência e confiança em sistemas automatizados de inspeção visual, tornando os modelos de aprendizado de máquina de caixa preta compreensíveis. Embora a XAI tenha sido amplamente aplicada, as revisões anteriores não abordaram as demandas específicas das tarefas de inspeção industrial e médica. Este artigo revisa estudos que aplicam técnicas de XAI à inspeção visual nos domínios industrial e médico. Uma busca sistemática foi realizada no IEEE Xplore, Scopus, PubMed, arXiv e Web of Science para estudos publicados entre 2014 e 2025, com critérios de inclusão exigindo a aplicação de XAI em tarefas de inspeção usando conjuntos de dados públicos ou específicos de domínio. De um conjunto inicial de estudos, 75 foram incluídos e categorizados em post-hoc e intrínsecos, que foram avaliados em relação à fidelidade, robustez, complexidade e precisão de localização. Os resultados mostram que os métodos baseados em gradiente e propagação oferecem explicações visuais eficientes adequadas para inspeção quase em tempo real, embora com localização grosseira, enquanto os métodos baseados em perturbação e modelo substituto fornecem atribuições mais detalhadas a um custo computacional mais alto, mas com robustez reduzida. Além disso, redes baseadas em protótipos e arquiteturas de autoatenção ilustram compensações entre interpretabilidade e desempenho preditivo. Selecionar o método XAI mais eficaz não é um tamanho único; Depende do conjunto de dados, latência e necessidades de interpretabilidade. Esta revisão apresenta uma taxonomia unificada de métodos XAI para inspeção visual, compara diferentes abordagens nos domínios industrial e médico usando métricas padronizadas e propõe um fluxo de trabalho de seleção baseado em tarefas para orientar os profissionais na escolha do método ideal. Em comparação com revisões anteriores, este trabalho oferece uma análise comparativa de domínio cruzado baseada em benchmarks quantitativos e descreve direções para avaliação padronizada e validação centrada no usuário.

Introdução

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

É essencial para indústrias como manufatura, automotiva, embalagens de alimentos, farmacêutica e saúde verificar se os produtos e sistemas estão funcionando de forma adequada e segura. As ferramentas de automação e aprendizado de máquina, que vão além da inspeção visual tradicional realizada por operadores humanos ou sistemas rudimentares baseados em câmeras, melhoram a precisão, a velocidade de produção e a consistência1. A inspeção por IA permite monitoramento em tempo real2 e detecção de defeitos em ambientes de alto rendimento3, reduzindo o erro humano e os custos operacionais4. O uso de inteligência artificial, particularmente com avanços em aprendizado de máquina (ML) e aprendizado profundo (DL), permitiu sistemas autônomos que detectam defeitos5, classificam objetos e identificam padrões visuais complexos6. Recentemente, Redes Neurais Convolucionais (CNNs)7, redes recorrentes e Transformadores de Visão (ViTs) superaram os sistemas baseados em regras em tarefas que vão desde a detecção de falhas de superfície até a localização de anomalias em imagens médicas. A inspeção mudou de processos baseados em regras para modelos baseados em dados treinados em grandes conjuntos de dados8.

Muitos modelos de IA funcionam como "caixas pretas", o que significa que não há informações sobre como esses modelos tomam decisões. Essa falta de transparência apresenta riscos. Por exemplo, na manufatura, previsões erradas podem levar ao aumento do desperdício, retrabalho, recalls de produtos e insatisfação do cliente. Em imagens médicas, as classificações incorretas são mais críticas, pois podem atrasar diagnósticos ou comprometer planos de tratamento. Mesmo os desenvolvedores desses modelos muitas vezes não conseguem explicar completamente seus resultados, o que limita a confiança e a adoção.

É aqui que a IA explicável (XAI) se torna essencial. XAI é um grupo de métodos e ferramentas que visam tornar as decisões do modelo de aprendizado de máquina interpretáveis por humanos9. Seu objetivo é transformar preditores de caixa preta em sistemas transparentes de "caixa de vidro", fornecendo justificativas legíveis por humanos para suas saídas. Na prática, um sistema de inspeção habilitado para XAI iria além da detecção de defeitos, não apenas sinalizando uma peça como defeituosa, mas também explicando por que ela foi sinalizada.

Apesar da crescente literatura, as pesquisas existentes sobre XAI em visão computacional permanecem limitadas em escopo. Muitos se concentram estritamente em imagens médicas ou inspeção industrial, oferecendo taxonomias úteis, mas contando principalmente com comparações qualitativas sem benchmarks padronizados. Revisões mais amplas, como Nauta et al.10, fornecem visões gerais independentes de domínio, mas não oferecem estruturas de seleção orientadas para o profissional. Mesmo a pesquisa de visão computacional mais abrangente até o momento por Cheng et al.11 avança a taxonomia e discute métricas como fidelidade e precisão de localização, mas permanece geral em todas as tarefas de visão e não aborda especificamente a inspeção visual, a implantação de alto rendimento ou a validação humana no circuito. Da mesma forma, as revisões industriais de XAI para prognósticos e gerenciamento de ativos adotam uma estrutura PRISMA, mas se concentram em Prognósticos e Gerenciamento de Saúde (PHM) em vez de tarefas de inspeção visual.

Para abordar essas lacunas, esta revisão contribui com o seguinte:

Taxonomia sistemática: Uma revisão guiada pelo PRISMA de 75 estudos em inspeção visual industrial e médica.

Análise comparativa: Benchmarking de vários métodos XAI (GradCAM, LRP, SHAP, LIME e RISE) em conjuntos de dados de inspeção visual pública (por exemplo, MVTec AD, PCB) com métricas padronizadas, incluindo AUC de exclusão/inserção, precisão do jogo de apontamento, estabilidade e latência.

Estrutura de métricas de avaliação: Definições e equações formais para fidelidade, robustez, interpretabilidade e medidas específicas da tarefa usadas na avaliação de métodos XAI.

Orientação prática: Estudos de caso e um fluxo de trabalho de seleção orientado ao profissional que vincula o tipo de tarefa, a latência e as necessidades de explicação a métodos específicos.

Juntas, essas contribuições estabelecem a síntese de XAI mais específica de domínio e baseada em benchmark para inspeção visual, destinada a pesquisadores e profissionais que buscam orientação confiável.

Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.

Revisão e perspetiva

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

2. Estrutura XAI

A maioria dos modelos de IA de última geração - particularmente redes neurais profundas - são frequentemente tratadas como caixas pretas; há pouca visibilidade sobre como eles tomam decisões12. Essa falta de transparência é uma barreira à confiança e à explicabilidade em diversas aplicações. Como resultado, a XAI se tornou uma parte indispensável da IA confiável. Nenhuma abordagem única se encaixa em todos os cenários: alguns métodos assumem acesso total aos componentes internos do modelo, enquanto outros tratam o modelo como uma caixa preta imutável; Alguns priorizam explicações locais para previsões individuais, enquanto outros fornecem informações globais sobre o comportamento de um modelo. Conforme ilustrado na Figura 1, essas considerações levaram a duas grandes categorias de técnicas XAI com base em quando a explicabilidade é introduzida: métodos de explicação post-hoc e métodos de interpretabilidade intrínseca13. Os métodos post hoc são categorizados em agnósticos de modelo e específicos de modelo14.

figure-protocol-1
Figura 1: Estrutura XAI para inspeção visual. Clique aqui para ver uma versão maior desta figura.

  1. Post-hoc explanation methods
    Métodos post-hoc geram explicações após um modelo ter sido treinado, sem alterar sua arquitetura ou parâmetros15. Essas abordagens são populares porque permitem que os profissionais aproveitem os modelos de alto desempenho e, em seguida, expliquem retrospectivamente seus resultados16. No entanto, como o modelo subjacente permanece inalterado, as explicações post-hoc devem aproximar ou inferir o raciocínio do modelo, o que pode introduzir erro de aproximação e instabilidade17. Nas seções a seguir, são explicados os métodos específicos do modelo e agnósticos.
    1. Específico do modelo
      Esses métodos exploram o conhecimento da estrutura ou do mecanismo de treinamento de um modelo para fornecer explicações adaptadas a esse modelo. Um excelente exemplo é a atribuição baseada em gradiente para redes neurais profundas. Métodos como o GradCAM (Gradient-weighted Class Activation Mapping) usam os gradientes internos de CNNs treinadas para produzir "mapas de calor" visuais destacando as regiões de uma imagem de entrada mais importantes para uma determinada previsão17. O GradCAM calcula o gradiente da pontuação da classe alvo em relação aos mapas de recursos na camada convolucional final e projeta esses gradientes na imagem, produzindo um mapa de localização discriminativo de classe. Outros métodos de propagação de gradiente generalizam para diferentes arquiteturas de rede. Gradientes integrados (IG)18 acumula gradientes ao longo do caminho de uma entrada de linha de base (por exemplo, uma imagem em branco) para a entrada real e satisfaz os axiomas desejáveis para atribuição de recursos. O DeepLIFT19 propaga de forma semelhante as diferenças de uma ativação de referência por meio de cada camada para estimar a contribuição de cada recurso de entrada. A Propagação de Relevância em Camadas (LRP) propaga uma pontuação de previsão camada por camada, distribuindo "relevância" para cada pixel ou recurso de entrada20. Em resumo, os métodos específicos do modelo aproveitam gradientes internos, ativações ou atenção para produzir explicações fortemente acopladas à estrutura do modelo.
    2. Independente de modelo
      Em contraste, os métodos agnósticos de modelo tratam o modelo como uma caixa preta que pode ser consultada para saídas. Essas técnicas fazem suposições mínimas, normalmente exigindo apenas que se possa obter a previsão do modelo para entradas perturbadas. Exemplos incluem LIME (Local Interpretable Model-Agnostic Explanations), que usa um modelo simples e interpretável (como um modelo linear esparso ou árvore de decisão) para imitar o comportamento do modelo complexo nas proximidades de uma determinada entrada21. Para uma previsão específica, o LIME gera muitas versões perturbadas da entrada, obtém as previsões do modelo de caixa preta para cada uma e, em seguida, aprende uma regressão linear ponderada que aproxima essas relações locais de entrada-saída22. Os coeficientes desse modelo linear substituto servem como explicação, indicando quais características impulsionam mais fortemente a previsão23. O apelo do LIME reside em sua flexibilidade (utilizável com qualquer classificador) e sua saída intuitiva (por exemplo, um pequeno conjunto de recursos ponderados). SHapley Additive exPlanations (SHAP) é outro método popular independente de modelo baseado na teoria dos jogos24. O SHAP explica uma previsão individual calculando atribuições de recursos que aproximam os valores de Shapley da teoria dos jogos cooperativos, garantindo propriedades como aditividade e consistência25. Além da atribuição de recursos, as abordagens agnósticas de modelo também incluem métodos de perturbação visual para modelos de imagem. O RISE (Randomized Input Sampling for Explanation) gera mapas de importância mascarando aleatoriamente partes da imagem de entrada e observando como a saída do modelo muda26. Ao amostrar muitas dessas máscaras, o RISE constrói um mapa de saliência probabilística indicando quais pixels ou regiões foram mais influentes para a previsão26. Notavelmente, o RISE não requer acesso aos componentes internos do modelo e requer apenas a capacidade de avaliar o modelo em entradas modificadas, tornando-o verdadeiramente uma caixa preta. Finalmente, uma área crescente de XAI independente de modelo se concentra em explicações contrafactuais. Uma explicação contrafactual não enumera as importâncias dos recursos, mas responde à pergunta: "Que alteração mínima na entrada teria alterado a previsão do modelo?" 27. Algoritmos para gerar contrafactuais normalmente realizam uma pesquisa no espaço de entrada (ou um espaço latente aprendido) para o exemplo mais próximo que produz a saída desejada, ao mesmo tempo em que reforçam realismo e esparsidade nas mudanças. Em resumo, os métodos XAI post-hoc são amplamente adotados porque podem ser aplicados a modelos de alto desempenho após o treinamento, combinando poder preditivo com um grau de transparência.
  2. Métodos de interpretabilidade intrínseca
    Os métodos intrínsecos adotam uma abordagem fundamentalmente diferente: em vez de explicar uma caixa preta após o fato, esses métodos tornam o modelo interpretável por design. As Redes Neurais Autoexplicativas (SENN) são um exemplo notável. Na estrutura SENN proposta por Alvarez-Melis e Jaakola28, a rede neural é estruturada para primeiro calcular um conjunto de ativações de conceitos intermediários e, em seguida, gerar uma previsão como uma função simples e explicável desses conceitos. ProtoPNet (Prototypical Part Network) é uma rede profunda que classifica as entradas comparando-as a um conjunto de representações de protótipos aprendidas de cada classe. Por exemplo, em uma tarefa de classificação de imagens, um ProtoPNet pode aprender patches de protótipo e tomar decisões descobrindo quais protótipos são mais ativados pela entrada29. No domínio dos modelos de sequência e transformadores, os mecanismos de atenção também foram aproveitados para interpretabilidade intrínseca. Alguns modelos são treinados com um objetivo de alinhamento de atenção, o que incentiva os pesos de atenção do modelo a corresponder a recursos importantes conhecidos ou a regiões relevantes rotuladas por humanos. Ao orientar a atenção para estar "certa pelas razões certas"30, essas abordagens produzem modelos que não apenas têm um bom desempenho, mas também têm distribuições de atenção que podem ser interpretadas diretamente como explicações. Além disso, tais modelos fornecem explicações que são tipicamente fiéis por construção, uma vez que a explicação é gerada a partir da própria estrutura interpretável do modelo, não de uma aproximação post-hoc externa31.

3. Taxonomia XAI

Para fornecer uma síntese estruturada do estado da pesquisa, foi realizada uma revisão sistemática da literatura usando as diretrizes PRISMA (Figura 2). O processo incluiu vários bancos de dados acadêmicos (Scopus, Web of Science, IEEE Xplore, SpringerLink, PubMed, arXiv e MDPI) e foi guiado por um conjunto de termos de pesquisa que combinam "IA explicável", "interpretabilidade", "inspeção visual", "detecção de defeitos", "detecção de anomalias", "fabricação" e "imagens médicas". Os critérios de inclusão exigiam que os artigos aplicassem ou avaliassem explicitamente os métodos XAI em contextos de inspeção visual (industrial ou médica) e relatassem detalhes metodológicos suficientes. Os critérios de exclusão afastaram propostas puramente teóricas sem implementação, bem como trabalhos fora da inspeção visual. A pesquisa inicialmente recuperou 483 registros. Após a remoção de duplicatas e triagem de títulos e resumos, 147 permaneceram para revisão do texto completo. A aplicação dos critérios de inclusão/exclusão resultou em 75 estudos primários, que formam a base desta revisão.

figure-protocol-2
Figura 2: Fluxograma PRISMA do processo de revisão sistemática seguindo as diretrizes PRISMA. A figura ilustra os registros identificados, triados e excluídos em cada etapa, resultando em 75 estudos primários incluídos na revisão final. Clique aqui para ver uma versão maior desta figura.

  1. Taxonomia aplicada dos estudos revisados
    Com base na estrutura conceitual introduzida na Seção 2 (abordagens post-hoc e intrínsecas), refinamos uma taxonomia específica de domínio derivada desses 75 estudos. Esta taxonomia aplicada distingue os métodos de acordo com sua implementação em tarefas de inspeção visual, conforme mostrado na Figura 3.
  2. Distribuição dos estudos pela taxonomia
    A distribuição completa dos 75 estudos está resumida na Tabela 1. Cada estudo é mapeado para sua categoria metodológica e domínio de aplicação. Isso fornece uma base empírica para a análise comparativa apresentada na Seção 4.
  3. Síntese
    Várias tendências claras emergem desta revisão sistemática. Em primeiro lugar, os métodos post-hoc baseados em gradiente continuam sendo os mais amplamente adotados em tarefas de inspeção industrial e médica devido à sua eficiência e facilidade de integração. Em segundo lugar, os métodos baseados em perturbação fornecem atribuições de recursos mais ricas, mas são menos comuns em ambientes industriais de alto rendimento devido a demandas computacionais. Em terceiro lugar, os métodos intrínsecos estão ganhando força, mas permanecem sub-representados, com menos de 15% dos estudos que os implementam.
    Ao ancorar essa taxonomia em uma revisão reprodutível guiada pelo PRISMA e vinculá-la a um banco de dados estruturado de 75 estudos, esta seção estabelece uma base de evidências validada. Essas descobertas preparam o terreno para a análise comparativa na Seção 4, onde os métodos representativos são comparados em métricas padronizadas (fidelidade, robustez, latência e precisão de localização).

figure-protocol-3
Figura 3: Taxonomia proposta de métodos XAI em tarefas de inspeção visual. Clique aqui para ver uma versão maior desta figura.

Método XAIAbordagem XAIEstudarIndústriaAno
IntrínsecoModelos lineares e baseados em regras32,33Medicina em geral2015–2019
Baseado em protótipo (ProtoPNet, baseado em caso, ProtoPNet deformável) 29,34,35,36 Médico, Industrial, Geral2018–2024
Orientado por conceito (gargalo de conceito, certo por razões certas) 30,31,37 Aplicações gerais e científicas2020–2021
Redes Neurais Autoexplicativas (SENN)28Geral2018–2020
Representação desembaraçada (β-VAE), SOXAI38,39Geral2018
Transformadores de visão (interpretabilidade intrínseca via atenção) 40,41,42,43,44,45 Visão Computacional, Manufatura2020–2024
Post-hoc, específico do modeloFamília CAM 46,47,48,49,50,51,52, 53,54,55,56,57,58 Imagens médicas, Manufatura, Automotivo, Agricultura, Eletrônica2018–2025
LRP (Propagação de Relevância em Camadas) 20,59,60,61,62 Geral, Imagens Médicas2015–2024
Métodos de Gradiente e Saliência (Gradientes Integrados, IG Suave DeepLIFT, DeconvNet, T-Explainer, Benchmarks de Saliência) 18,19,63,64,65,
66,67,68,69,70 		Geral, Imagens Médicas2013–2025
Atribuição em Modelos Especializados (SNNs, atribuição de atenção de Transformers) 71,72,73 Neurociência, Transformadores de Visão2023–2025
Post-hoc, independente de modeloLIME & Variantes (LIME, ELIME, MASALA), SHAP & Variantes (Tree SHAP),Finanças, Prognósticos e Gestão de Saúde, Cibersegurança, Veículos Autônomos, Inspeção Industrial.2016–2025
Contrafactual 21,22,23,24,25,27,74,
75,76,77,78,79,80,81,
82,83,84,85,86
Explicações
Métodos híbridosIntegração de vários métodos XAI, incluindo (GradCAM, SHAP, LRP, LIME) 58,87,88,89,90,91,92 Inspeção Industrial, Saúde, Manufatura.2021–2025

Tabela 1: Classificação de 75 estudos revisados por método XAI, ano, setor e abordagem.

4. Métricas de avaliação para XAI

O desempenho de um modelo de visão computacional é julgado por métricas bem estabelecidas, como exatidão, precisão e recall. No entanto, avaliar a explicabilidade das decisões de um modelo é muito menos simples. Ao contrário do desempenho preditivo padrão, não existe uma métrica universalmente aceita para a qualidade das explicações de IA66. Em outras palavras, embora a precisão de um classificador possa ser medida com precisão, não há escala acordada para quantificar o quão "boa" é uma explicação para uma determinada classificação de imagem93. Essa disparidade destaca uma lacuna fundamental no campo da XAI: como avaliar uma explicação.

O desenvolvimento de critérios de avaliação XAI padronizados provou ser excepcionalmente desafiador. Uma razão é que a interpretabilidade e a qualidade da explicação são multifacetadas e dependentes do contexto e, portanto, resistem a uma única métrica universal10. A avaliação eficaz de uma explicação depende de vários fatores, incluindo o domínio do aplicativo, a natureza da explicação produzida e o histórico do usuário final. Por exemplo, uma técnica de explicação adequada para um diagnóstico de imagem médica pode ser avaliada de forma diferente daquela usada em uma tarefa de inspeção visual industrial10.

Na prática, a ausência de métricas padrão levou os pesquisadores a confiar em uma variedade de abordagens de avaliação. Muitos estudos ainda recorrem à avaliação qualitativa e anedótica dos métodos XAI94,95. É comum ver autores apresentarem alguns mapas de saliência ou mapas de calor e argumentarem que estes parecem razoáveis (o chamado teste de "validade de face")96. Essa inspeção visual pode ser persuasiva em um sentido narrativo, mas permanece subjetiva e insuficiente para uma comparação rigorosa97. Isso ilustra a dificuldade de padronizar as métricas XAI; Na ausência de critérios acordados, os pesquisadores propõem métricas adaptadas a cada conjunto de dados ou caso de uso.

Como resultado, a literatura agora está repleta de diversas métricas de avaliação de XAI destinadas a preencher essa lacuna98. Foram apresentadas numerosas estruturas e medidas, cada uma visando um aspecto particular do que torna uma explicação útil99. Em geral, as métricas podem ser classificadas com base em seu foco principal. As métricas baseadas em fidelidade julgam uma explicação pelo quão bem ela reflete o processo de decisão do modelo100. Em contraste, as métricas centradas na interpretabilidade avaliam o quão compreensível e convincente é a explicação para um observador humano101. Uma terceira categoria são as métricas baseadas em tarefas, em que a avaliação da explicação depende de seu impacto no desempenho do usuário final102. Uma quarta categoria são as métricas orientadas à robustez que avaliam a consistência dos resultados103. Finalmente, as métricas híbridas combinam várias dimensões104.

Essa diversidade de métricas indica os aspectos de explicabilidade que os pesquisadores consideram importantes, mas também destaca a falta de um único padrão: cada métrica captura apenas um ângulo de qualidade de explicação105. A seguir, uma variedade de métricas de avaliação para XAI é agrupada em quatro categorias principais e resumida na Tabela 2.

Tipo de métricaMétricaFórmula / Definição
FidelidadeÁrea de deleção sob a curva (AUC)26figure-protocol-4
são características importantes do top-k; mais baixo = mais fiel
Área de inserção sob a curva (AUC)26figure-protocol-5
mais alto = mais fiel
Pontuação de infidelidade103figure-protocol-6
menor = melhor
RUGIDO106A precisão cai após o retreinamento sem recursos "importantes"
RobustezÍndice de estabilidade107figure-protocol-7
mais alto = mais consistente
Pontuação de Lipschitz103figure-protocol-8
mais baixo = mais robusto
InterpretabilidadeDispersão79figure-protocol-9
inferior = mais simples
Profundidade substituta79Profundidade do substituto interpretável (por exemplo, árvore de decisão);
mais raso = mais simples
Específico da tarefainterseção sobre união (IoU)108figure-protocol-10
sobreposição de máscara M e verdade G
Jogo de Apontar108Precisão = #hits / #samples
maior = melhor
HíbridoPontuação composta104Combinação ponderada de fidelidade, dispersão e robustez

Tabela 2: Métricas de avaliação para XAI em inspeção visual agrupadas em quatro categorias principais.

5. Análise comparativa

Nesta seção, os métodos são comparados em conjuntos de dados públicos, como MVTec AD109 (>5.000 imagens de defeitos com máscaras de nível de pixel) e DeepPCB110 (1.500 imagens de PCB com seis classes de defeitos), CheXpert111 e ImageNet112 e avaliados nas seguintes métricas: AUC de exclusão/inserção (fidelidade), precisão do jogo de apontamento (localização), pontuações de estabilidade (robustez sob perturbações) e latência (custo de tempo de execução).

Para métodos baseados em CAM (GradCAM, GradCAM++), os resultados no MVTec AD e DeepPCB mostram que o GradCAM atinge fidelidade de 0,83-0,87 (AUC de inserção ~ 0,68; 47,113.

Para métodos baseados em perturbação (LIME, SHAP, RISE), o desempenho varia entre os conjuntos de dados. No MVTec AD, o LIME atinge fidelidade local R² = 0,70-0,80, mas apresenta baixa robustez (índice de estabilidade <0,5), latência de 3-5 s/imagem e localização moderada (IoU = 0,25-0,35). O SHAP aplicado à classificação de defeitos de PCB alcança atribuições consistentes (Δ log-odds = 0,2-0,3) com forte alinhamento humano (70-80%), mas é mais lento (>1 s/imagem) e tem localização fraca (IoU ≈0,02-0,03). O RISE, benchmarked no MS-COCO e replicado para MVTec AD, tem uma média de 4.000-8.000 passes para frente mascarados, produzindo alta robustez (estabilidade >0,7), fidelidade (0,78-0,82 AUC) e localização superior (Pointing-Game = 62,9% vs. 48,3% para GradCAM), mas com latência de 1-2 s/explicação 26,74,79,114.

Para métodos de propagação de relevância (LRP, DeepLIFT), as avaliações em DeepPCB e CheXpert indicam que o LRP atinge fidelidade de 0,82-0,90, sensibilidade ~0,85 e IoU de localização de 0,40-0,50. O tempo de execução é de 100 a 200 ms por imagem, mais lento que os CAMs, mas viável para inspeção quase em tempo real. Nas tarefas de radiologia CheXpert, estudos de especialistas mostram >70% de sobreposição entre os mapas de calor LRP e regiões clinicamente relevantes, demonstrando interpretabilidade entre os domínios60.

Para métodos baseados em atenção (Transformers), resultados para modelos ViT treinados em ImageNet e CheXpert, mapas de atenção brutos produzem fidelidade de 0,75-0,85, mas são instáveis sob perturbações, com sensibilidade de 0,70-0,75 e localização modesta (IoU = 0,30-0,45). A confiança humana é de ~ 60-70%. Abordagens adaptadas (fluxo de atenção, Transformer-LRP) melhoram as métricas causais, superando a atenção bruta em pontuações de exclusão / inserção e jogo de apontamento 40.115.116.

Para métodos baseados em protótipos e contrafactuais, as avaliações no MVTec AD destacam que o ProtoPNet alcança explicações baseadas em exemplares, onde as previsões são justificadas por casos de defeitos semelhantes, auxiliando na tomada de decisão do operador. As abordagens baseadas em SOM agrupam recursos de defeitos em mapas 2D, preservando as relações topológicas. Os métodos contrafactuais, testados em imagens de defeitos de PCB e CheXpert, fornecem raciocínio acionável ("se o comprimento da trinca for inferior a 1 mm, a previsão muda para o normal"), mas exigem otimização dispendiosa e lutam com entradas de alta resolução. Esses métodos se alinham fortemente com o raciocínio humano, mas escalam mal 117.118.119.

Finalmente, ao considerar trade-offs e seleção prática, os CAMs dominam os fluxos de trabalho críticos de latência, mas permanecem grosseiros. O LRP equilibra fidelidade e tempo de execução, destacando-se na análise em nível de pixel. O RISE fornece a fidelidade causal e a localização mais fortes, mas com latência de nível de segundos. SHAP e LIME melhoram a interpretabilidade, mas são lentos e instáveis. Protótipos e contrafactuais maximizam o alinhamento humano, mas escalam mal na inspeção de alta resolução. Os modelos baseados em transformadores requerem adaptações especializadas além da atenção bruta. Assim, nenhum método único supera universalmente os outros; Em vez disso, a escolha do método deve refletir as necessidades de conjunto de dados, tarefa, latência, orçamento e interpretabilidade. Conforme mostrado na Figura 4, o fluxo de trabalho de seleção integra três desses benchmarks (tarefa, latência, interpretabilidade) em um guia orientado a tarefas para escolher métodos XAI na inspeção visual.

figure-protocol-11
Figura 4: Fluxo de trabalho de seleção para adoção do método XAI. Este é um fluxograma de decisão que orienta a seleção de métodos XAI apropriados na inspeção visual. O fluxo de trabalho considera o tipo de tarefa (classificação, segmentação, detecção de anomalias, regressão), restrições de latência e detalhes de explicação e os vincula a métodos representativos. Clique aqui para ver uma versão maior desta figura.

6. Discussão

  1. Resultados comparativos
    Nossa análise mostra que métodos baseados em gradiente, como GradCAM e Layer-wise Relevance Propagation (LRP), se destacam em destacar as regiões específicas da imagem mais influentes nas decisões de uma rede convolucional, tornando-as ferramentas intuitivas para tarefas como localização de defeitos ou classificação de imagens médicas. Essas abordagens são eficientes, pois operam em uma única passagem para trás, mas suas explicações são muitas vezes grosseiras e podem se tornar pouco claras em regiões complexas. Em contraste, as técnicas de atribuição de recursos agnósticas de modelo, como SHAP e LIME, fornecem insights mais quantitativos sobre as contribuições de recursos, sondando o modelo com entradas perturbadas ou ajustando substitutos locais, mas a um custo computacional mais alto do que o GradCAM.
    Os métodos baseados em atenção aproveitam os pesos internos do modelo para destacar as regiões de foco dentro do modelo115. O RISE, por outro lado, representa uma estratégia baseada em randomização que mascara e coleta amostras de entradas para produzir mapas de saliência flexíveis, embora exija milhares de passagens para frente. Juntas, essas técnicas se destacam em circunstâncias específicas, mas nenhuma supera universalmente as outras26. Em vez disso, a escolha do método depende da arquitetura do modelo, da tarefa de inspeção visual, dos requisitos de latência e do tipo de informação necessária para os tomadores de decisão.
  2. Estudos de caso
    A seguir estão estudos de caso do mundo real implementando XAI nos setores médico e industrial: na área da saúde, os modelos de detecção de pneumonia e COVID-19 treinados em radiografias de tórax e tomografias computadorizadas foram explicados com GradCAM e LIME, e os radiologistas em estudos com usuários preferiram consistentemente o GradCAM porque suas regiões destacadas estavam alinhadas com a patologia esperada, como infiltrados pulmonares120. Da mesma forma, na patologia digital para câncer de cabeça e pescoço, as previsões da CNN apoiadas pelo GradCAM e CAM de alta resolução destacaram aglomerados de células malignas que os patologistas confirmaram como clinicamente relevantes, mostrando que as explicações reforçaram a precisão clínica e a confiança121.
    Na linha do setor de manufatura, a XAI fez uma diferença transformadora em precisão e explicabilidade. Uma das principais aplicações é a detecção de objetos estranhos em imagens de raios-X de pneus empregando uma rede neural convolucional baseada na arquitetura Xception. Por meio da inclusão do Gradient-weighted Class Activation Mapping (GradCAM), o sistema alcançou mais de 99% de precisão de classificação e produziu mapas de calor indicando as regiões precisas dentro da imagem responsáveis pelas previsões. Essas explicações visuais permitiram que os engenheiros de controle de qualidade verificassem se a atenção do modelo estava em anomalias legítimas no suporte estrutural do pneu e não em artefatos irrelevantes, melhorando muito a confiança e facilitando a implantação em ambientes de produção de alto risco48.
    Na indústria eletrônica, a abordagem SolderNet mostra a integração do XAI na inspeção de defeitos em nível de pixel. O método baseado em CNN foi desenvolvido para a inspeção de juntas de solda em placas de circuito impresso, uma tarefa em que alta precisão e explicabilidade são obrigatórias. Com a aplicação do GradCAM e da Propagação de Relevância em Camadas (LRP), o método extraiu mapas de saliência que destacavam os pixels responsáveis por classificações específicas de defeitos. Por meio dessa explicabilidade, o operador foi capaz de diferenciar verdadeiros e falsos positivos e extrair insights sobre modos de falha que anteriormente seriam saídas de caixa preta39. Esses casos mostram que a XAI é valorizada quando suas explicações se alinham com o raciocínio especializado, mas subutilizada quando as explicações são instáveis, grosseiras ou computacionalmente impraticáveis.
  3. Limitações das evidências atuais
    Apesar desses avanços, várias limitações persistem. Primeiro, a maioria dos estudos empíricos depende de conjuntos de dados públicos, como MVTec AD para inspeção industrial ou VinDR-CXR122 para imagens médicas, que podem não representar totalmente os ambientes do mundo real de fábricas ou hospitais. Em segundo lugar, a avaliação permanece fragmentada: fidelidade, robustez e interpretabilidade são medidas de forma inconsistente entre os estudos, muitas vezes com definições ad hoc e sem limites padronizados. Terceiro, muitos trabalhos carecem de validação humana. Embora métricas como AUC de eliminação, precisão do jogo ou IoU de localização forneçam resultados quantitativos, elas não confirmam que essas explicações realmente melhoram a tomada de decisão do usuário. Finalmente, apenas ~ 8% dos estudos de garantia de qualidade baseados em IA na manufatura integram XAI em seu fluxo de trabalho123. Isso destaca a lacuna de adoção prática, embora essa estatística varie de acordo com o setor e a metodologia e possa não ser precisa.
  4. Implicações práticas para os profissionais
    Para os profissionais, surgem várias implicações. Os métodos baseados em gradiente continuam sendo a escolha mais prática para tarefas de inspeção em tempo real, pois fornecem explicações com baixa latência (~100 ms por imagem) e são fáceis de implantar. As abordagens baseadas em perturbação, como SHAP ou RISE, têm latência mais alta do que os métodos baseados em gradiente, mas são mais adequadas para domínios em que a atribuição refinada supera a latência, como saúde, em que a precisão tem precedência sobre a velocidade. Abordagens baseadas em atenção são úteis com arquiteturas de transformadores, mas requerem uma interpretação cuidadosa, pois a atenção bruta nem sempre fornece uma explicação clara. Além das compensações técnicas, a adoção bem-sucedida depende muito da integração, do treinamento do usuário e da demonstração do valor clínico da interpretabilidade. Como mostram os estudos de caso, as explicações só ganham valor quando se alinham claramente com a experiência do domínio e ajudam os profissionais a verificar ou desafiar as previsões de IA.
  5. Direções futuras de pesquisa
    Pesquisas futuras devem priorizar várias direções acionáveis:
    Padronização de protocolos de avaliação: Estabeleça diretrizes de relatórios reproduzíveis para as principais métricas, incluindo AUC de exclusão/inserção, precisão do jogo de apontamento, índices de estabilidade e latência.
    Conjuntos de dados de benchmark específicos do domínio: Desenvolva conjuntos de dados selecionados para inspeção visual industrial e médica com anotações verdadeiras para reduzir a dependência excessiva de conjuntos de dados públicos restritos.
    Validação centrada no ser humano: Expandir estudos que medem se as explicações XAI melhoram a qualidade da decisão, a confiança do usuário e a colaboração humano-IA além das métricas de proxy
    Análise custo-benefício: Realize estudos rigorosos de implantação para quantificar o valor comercial e clínico da integração da XAI nos fluxos de trabalho de inspeção visual.

Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.

Conclusões

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Esta revisão examinou 75 estudos de XAI em inspeção visual, resultando em uma taxonomia de métodos post-hoc e intrínsecos e uma análise comparativa orientada por benchmark. Os resultados confirmam que nenhum método único supera universalmente os outros: abordagens baseadas em gradiente, como GradCAM e LRP, são eficientes para localização de defeitos em tempo real, mas suas explicações podem ser grosseiras em regiões complexas. Métodos baseados em perturbação, como SHAP, LIME e RISE, forn...

Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.

Divulgações

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Os autores declaram não haver conflitos de interesse em relação à publicação deste trabalho.

Agradecimentos

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

O(s) autor(es) declara(m) que este trabalho não recebeu nenhuma bolsa específica de qualquer agência de fomento nos setores público, comercial ou sem fins lucrativos.

Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.

Referências

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,
  1. Alzarooni, A., et al. Anomaly detection for industrial applications, its challenges, solutions, and future directions: a review. IEEE Sens J. XX. (1), 1(2025).
  2. Hardan, F., Almusawi, A. R. J. Developing an automated vision system for maintaing social distancing to cure the pandemic. Al-Khwarizmi Eng J. 18 (1), 38-50 (2022).
  3. Terasaki, N., Fujio, Y. Mechanoluminescent visualization of crack propagation for joint evaluation. J Vis Exp. (191), e64118(2023).
  4. Al-Hamadani, S., Al-Darraji, I. Warehouse in Industry 4.0 based drone, computer vision, and artificial intelligence technologies: a literature review. Proc Eng Sci. 7 (1), 517-526 (2025).
  5. Al-Jubori, H. N., Izzat, A. D., Jerbi, H. Defect detection using thermography camera techniques: a review. Al-Khwarizmi Eng J. 20 (4), 70-88 (2024).
  6. Al-Hamadani, S., Al-Darraji, I., Jerbi, H. Improving barcode vision scanning process using a drone-based tracking PID controller for warehouse in Industry 4.0. Al-Khwarizmi Eng J. 21 (2), 72-92 (2025).
  7. Al-Jubori, H. N., Al-Darraji, I. Tools and process of defect detection in automated manufacturing systems. EAI Endorsed Trans Scalable Inf Syst. 10 (6), e4000(2023).
  8. Alaa, T., et al. Automated detection of defects on metal surfaces using vision transformers. , Published online October 6, 2024. Accessed August 1 (2025).
  9. Moosavi, S., et al. Explainable AI in manufacturing and industrial cyber-physical systems: a survey. Electronics. 13 (17), 3497(2024).
  10. Nauta, M., et al. From anecdotal evidence to quantitative evaluation methods: a systematic review on evaluating explainable AI. ACM Comput Surv. 55 (13), 1-42 (2023).
  11. Cheng, Z., et al. A comprehensive review of explainable artificial intelligence (XAI) in computer vision. Sensors. 25 (13), 4166(2025).
  12. Barredo Arrieta, A., et al. Explainable artificial intelligence (XAI): concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 58, 82-115 (2020).
  13. Kouchaki, S., et al. Survey of explainable AI techniques in healthcare. Sensors. 23 (2), 634(2023).
  14. Laugel, T., et al. The dangers of post-hoc interpretability: unjustified counterfactual explanations. Proc Int Joint Conf Artif Intell. , 2801-2807 (2019).
  15. Slack, D., et al. Reliable post hoc explanations: modeling uncertainty in explainability. Adv Neural Inf Process Syst. 33, 9391-9404 (2020).
  16. Cesarini, M., et al. Explainable AI for text classification: lessons from a comprehensive evaluation of post hoc methods. Cognit Comput. 16 (6), 3077-3095 (2024).
  17. Mohamed Musthafa, M., et al. Enhancing brain tumor detection in MRI images through explainable AI using Grad-CAM with ResNet-50. BMC Med Imaging. 24 (1), 1-19 (2024).
  18. Sundararajan, M., Taly, A., Yan, Q. Axiomatic attribution for deep networks. Proc Int Conf Mach Learn. 70, 5109-5118 (2017).
  19. Shrikumar, A., Greenside, P., Kundaje, A. Learning important features through propagating activation differences. Proc Int Conf Mach Learn. 70, 4844-4866 (2017).
  20. Bassi, P. R. A. S., et al. Improving deep neural network generalization and robustness to background bias via layer-wise relevance propagation optimization. Nat Commun. 15, 44371(2024).
  21. Knab, P., et al. Which LIME should I trust? Concepts, challenges, and solutions. arXiv preprint. , (2025).
  22. Garreau, D., von Luxburg, U. Explaining the explainer: a first theoretical analysis of LIME. Proc Mach Learn Res. 108, 1287-1296 (2020).
  23. Qian, J., et al. ELIME: exact local interpretable model-agnostic explanation. Eur J Artif Intell. , (2024).
  24. Salih, A. M., et al. A perspective on explainable artificial intelligence methods:SHAP and LIME . Adv Intell Syst. , (2024).
  25. Hermosilla, P., et al. Explainable AI for forensic analysis: a comparative study of SHAP and LIME in intrusion detection models. Appl Sci. 15 (13), 7329(2025).
  26. Petsiuk, V., Das, A., Saenko, K. RISE: randomized input sampling for explanation of black-box models. arXiv preprint. , (2018).
  27. Dandl, S., et al. Multi-objective counterfactual explanations. Lect Notes Comput Sci. 12269, 448-469 (2020).
  28. Alvarez-Melis, D., Jaakkola, T. S. Towards robust interpretability with self-explaining neural networks. Adv Neural Inf Process Syst. 31, 7775-7784 (2018).
  29. Donnelly, J., Barnett, A. J., Chen, C. Deformable ProtoPNet: an interpretable image classifier using deformable prototypes. Proc IEEE Conf Comput Vis Pattern Recognit. , 10255-10265 (2022).
  30. Ross, A. S., Hughes, M. C., Doshi-Velez, F. Right for the right reasons: training differentiable models by constraining their explanations. Proc Int Joint Conf Artif Intell. , 2662-2670 (2017).
  31. Schramowski, P., et al. Making deep neural networks right for the right scientific reasons by interacting with their explanations. Nat Mach Intell. 2 (8), 476-486 (2020).
  32. Rudin, C. Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nat Mach Intell. 1 (5), 206-215 (2019).
  33. Letham, B., et al. Interpretable classifiers using rules and Bayesian analysis: building a better stroke prediction model. Ann Appl Stat. 9 (3), 1350-1371 (2015).
  34. Barnett, A. J., et al. Interpretable mammographic image classification using case-based reasoning and deep learning. arXiv preprint. , (2021).
  35. Narayanan, A., Bergen, K. J. Prototype-based methods in explainable AI and emerging opportunities in the geosciences. arXiv preprint. , (2024).
  36. Chen, C., et al. This looks like that: deep learning for interpretable image recognition. Adv Neural Inf Process Syst. 32, 8928-8939 (2019).
  37. Koh, P. W., et al. Concept bottleneck models. Proc Int Conf Mach Learn. 119, 5294-5304 (2020).
  38. Burgess, C. P., et al. Understanding disentangling in β-VAE. arXiv preprint. , (2018).
  39. Gunraj, H., et al. SolderNet: towards trustworthy visual inspection of solder joints in electronics manufacturing using explainable artificial intelligence. Proc AAAI Conf Artif Intell. 37, 15668-15674 (2023).
  40. Dosovitskiy, A., et al. An image is worth 16×16 words: transformers for image recognition at scale. arXiv preprint. , (2020).
  41. Khan, S., et al. Transformers in vision: a survey. ACM Comput Surv. 54 (10), 1-41 (2021).
  42. Yu, L., et al. eX-ViT: a novel explainable vision transformer for weakly supervised semantic segmentation. Pattern Recognit. 142, 109666(2023).
  43. Alber, M., et al. Evaluating vision transformer models for visual quality control in industrial manufacturing. Lect Notes Comput Sci. Bifet, A., et al. 14950, 1-15 (2024).
  44. Stassin, S., et al. Explainability and evaluation of vision transformers: an in-depth experimental study. Electronics. 13 (1), 175(2024).
  45. Zhai, Y., et al. A lightweight transformer with linear self-attention for defect recognition. Electron Lett. 60 (17), e13292(2024).
  46. Dhore, V., et al. Enhancing explainable AI: a hybrid approach combining Grad-CAM and LRP for CNN interpretability. arXiv preprint. , (2024).
  47. Chattopadhay, A., et al. Grad-CAM++: generalized gradient-based visual explanations for deep convolutional networks. Proc IEEE Winter Conf Appl Comput Vis. , 839-847 (2018).
  48. Saleh, R. A. A., et al. Advancing tire safety: explainable artificial intelligence-powered foreign object defect detection with Xception networks and Grad-CAM interpretation. Appl Sci. 14 (10), 4267(2024).
  49. Meister, S., et al. Investigations on explainable artificial intelligence methods for the deep learning classification of fibre layup defect in the automated composite manufacturing. Compos Part B Eng. 224, 109160(2021).
  50. Luo, X., Alzahrani, M. Automated tomato defect detection using CNN feature fusion for enhanced classification. Processes. 13 (1), 115(2025).
  51. Rahimunnisa, K. Textile fabric defect detection. J Innov Image Process. 4 (3), 165-172 (2022).
  52. Shin, H., et al. Visualization for explanation of deep learning-based defect detection model using class activation map. Comput Mater Contin. 75 (3), 4753-4766 (2023).
  53. Yue, H., et al. ASOD: attention-based salient object detector for strip steel surface defects. Electronics. 14 (5), 831(2025).
  54. Saleh, R. A. A., Ertunç, H. M. Explainable attention-based fused convolutional neural network (XAFCNN) for tire defect detection: an industrial case study. Eng Res Express. 6 (1), 015027(2024).
  55. Leem, S., Seo, H. Attention guided CAM: visual explanations of vision transformer guided by self-attention. Proc AAAI Conf Artif Intell. 38 (4), 2956-2964 (2024).
  56. Ibrahim, R., Shafiq, M. O. Augmented Score-CAM: high-resolution visual interpretations for deep neural networks. Knowl Based Syst. 252, 109287(2022).
  57. Clement, T., et al. XAI-enhanced semantic segmentation models for visual quality inspection. Proc IEEE Int Conf Consumer Electron. , 1-4 (2024).
  58. Riedel, H., et al. Automated quality control of vacuum insulated glazing by convolutional neural network image classification. Autom Constr. 135, 104144(2022).
  59. Böhle, M., et al. Layer-wise relevance propagation for explaining deep neural network decisions in MRI-based Alzheimer's disease classification. Front Aging Neurosci. 10, 194(2019).
  60. Bach, S., et al. On pixel-wise explanations for non-linear classifier decisions by layer-wise relevance propagation. PLoS One. 10 (7), e0130140(2015).
  61. Dieter, T. R., Zisgen, H. Evaluation of the explanatory power of layer-wise relevance propagation using adversarial examples. Neural Process Lett. 55 (7), 8531-8550 (2023).
  62. Hoefler, M. A., et al. XAI-guided insulator anomaly detection for imbalanced datasets. arXiv. , (2024).
  63. Kares, F., et al. What makes for a good saliency map? Comparing strategies for evaluating saliency maps in explainable AI (XAI). arXiv preprint. , (2025).
  64. Yona, G., Greenfeld, D. Revisiting sanity checks for saliency maps. arXiv preprint. , (2021).
  65. Zeiler, M. D., Fergus, R. Visualizing and understanding convolutional networks. Eur Conf Comput Vis. 8689, 818-833 (2014).
  66. Xu-Darme, R., et al. On the stability, correctness and plausibility of visual explanation methods based on feature importance. ACM Int Conf Proc Ser. , 119-125 (2023).
  67. Ortigossa, E. S., et al. T-Explainer: a model-agnostic explainability framework based on gradients. arXiv preprint. , (2024).
  68. Singh, M., et al. Attributional robustness training using input-gradient spatial alignment. Lect Notes Comput Sci. 12372, 515-533 (2019).
  69. Cerekci, E., et al. Quantitative evaluation of saliency-based explainable artificial intelligence methods in deep learning-based mammogram analysis. Eur J Radiol. 173, 111356(2024).
  70. Meister, S., et al. Cross-evaluation of a parallel operating SVM-CNN classifier for reliable internal decision-making processes in composite inspection. J Manuf Syst. 60, 620-639 (2021).
  71. Bitar, A., et al. Gradient-based feature-attribution explainability methods for spiking neural networks. Front Neurosci. 17, 1153999(2023).
  72. Qiang, Y., et al. Interpretability-aware vision transformer. arXiv preprint. , (2023).
  73. Bousselham, W., et al. LeGrad: an explainability method for vision transformers via feature formation sensitivity. arXiv preprint. , (2025).
  74. Lundberg, S. M., Lee, S. I. A unified approach to interpreting model predictions. Adv Neural Inf Process Syst. 30, (2017).
  75. Khan, F. S., et al. Model-agnostic explainable artificial intelligence methods in finance: a systematic review, recent developments, limitations, challenges and future directions. Artif Intell Rev. 58, 1-65 (2025).
  76. Nazim, S., et al. Advancing malware imagery classification with explainable deep learning: a state-of-the-art approach using SHAP LIME and Grad-CAM. PLoS One. 20 (5), e0318542(2025).
  77. Solís-Martín, D., et al. On the soundness of XAI in prognostics and health management (PHM). Information. 14 (5), 256(2023).
  78. Biecek, P., Burzykowski, T. Local interpretable model-agnostic explanations (LIME). In:Explanatory Model Analysis. , 107-123 (2021).
  79. Ribeiro, M. T., Singh, S., Guestrin, C. 34;Why should I trust you?" Explaining the predictions of any classifier. Proc ACM SIGKDD Int Conf Knowl Discov Data Min. , 1135-1144 (2016).
  80. Tahir, H. A., et al. A novel hybrid XAI solution for autonomous vehicles: real-time interpretability through LIME-SHAP integration. Sensors. 24 (21), 6776(2024).
  81. Goldman, C. V., et al. Explaining learning models in manufacturing processes. Procedia Comput Sci. 180, 259-268 (2021).
  82. Emmanouilidis, C., Rica, E. Visual quality control via explainable AI and the case of human in the AI loop. In: Lect Notes Mech Eng. , 252-260 (2023).
  83. Huang, M., et al. An interpretable approach using hybrid graph networks and explainable AI for intelligent diagnosis recommendations in chronic disease care. Biomed Signal Process Control. 91, 105913(2024).
  84. Dardouillet, P., et al. Explainability of image semantic segmentation through SHAP values. Data. 7 (8), 255(2022).
  85. Saifullah, S., et al. The privacy-explainability trade-off: unraveling the impacts of differential privacy and federated learning on attribution methods. Front Artif Intell. 7, 1236947(2024).
  86. Velmurugan, M., et al. Developing guidelines for functionally-grounded evaluation of explainable artificial intelligence using tabular data. Eng Appl Artif Intell. 141, 109772(2025).
  87. Wells, L., Bednarz, T. Explainable AI and reinforcement learning-a systematic review of current approaches and trends. Front Artif Intell. 4, 550030(2021).
  88. Rožanec, J. M., et al. Adaptive explainable artificial intelligence for visual defect inspection. Procedia Comput Sci. 232, 3034-3043 (2024).
  89. Nguyen, H. T. T., et al. XEdgeAI: a human-centered industrial inspection framework with data-centric explainable edge AI approach. Inf Fusion. 116, 102782(2025).
  90. Han, C., et al. Visual coating inspection framework via self-labeling and multi-stage deep learning strategies. J Intell Manuf. 35, 1-18 (2024).
  91. Kotsiopoulos, T., et al. Revolutionizing defect recognition in hard metal industry through AI explainability, human-in-the-loop approaches and cognitive mechanisms. Expert Syst Appl. 255, 124839(2024).
  92. Forcher, B., et al. Evaluation of explainable AI methods for classification tasks in visual inspection. Proc XAI Workshop (Late-Breaking Work, Demos, Doctoral Consortium). , 77-82 (2023).
  93. Miller, T. Explanation in artificial intelligence: insights from the social sciences. Artif Intell. 267, 1-38 (2019).
  94. Jacovi, A., Goldberg, Y. Towards faithfully interpretable NLP systems: how should we define and evaluate faithfulness. Proc Annu Meet Assoc Comput Linguist. 58, 4198-4205 (2020).
  95. Adebayo, J., et al. Sanity checks for saliency maps. Adv Neural Inf Process Syst. 31, 9505-9515 (2018).
  96. Doshi-Velez, F., Kim, B. Considerations for evaluation and generalization in interpretable machine learning. Proc Explainable and Interpretable Models in Computer Vision and Machine Learning. , 3-17 (2018).
  97. Lage, I., et al. An evaluation of the human-interpretability of explanation. arXiv preprint. , (2019).
  98. Theunissen, M., Browning, J. Putting explainable AI in context: institutional explanations for medical AI. Ethics Inf Technol. 24 (2), 1-10 (2022).
  99. Hoffman, R. R., et al. Measures for explainable AI: explanation goodness, user satisfaction, mental models, curiosity, trust, and human-AI performance. Front Comput Sci. 5, 1096257(2023).
  100. Hedström, A., et al. Quantus: an explainable AI toolkit for responsible evaluation of neural network explanations and beyond. J Mach Learn Res. 24, 1-11 (2023).
  101. Mohseni, S., et al. A multidisciplinary survey and framework for design and evaluation of explainable AI systems. ACM Trans Interact Intell Syst. 11 (3-4), 1-45 (2021).
  102. Finzel, B., et al. Domain-specific evaluation of visual explanations for application-grounded facial expression recognition. Lect Notes Comput Sci. 14065, 31-44 (2023).
  103. Yeh, C. K., et al. On the (in)fidelity and sensitivity for explanations. Adv Neural Inf Process Syst. 32, 10967-10978 (2019).
  104. Better metrics for evaluating explainable artificial intelligence. Rosenfeld, A. Proc Int Conf Autonomous Agents Multiagent Syst, , 45-53 (2021).
  105. Evaluation metrics for XAI: a review, taxonomy, and practical applications. Kadir, M. A., et al. Proc IEEE Int Conf Intell Eng Syst, , 111-124 (2023).
  106. Sankaran, K. Data science principles for interpretable and explainable AI. J Data Sci. 22, 1-27 (2024).
  107. Alvarez-Melis, D., Jaakkola, T. S. On the robustness of interpretability methods. arXiv preprint. , (2018).
  108. Zhang, Y., et al. Saliency-Bench: a comprehensive benchmark for evaluating visual explanations. arXiv preprint. , (2025).
  109. Bergmann, P., et al. The MVTec anomaly detection dataset: a comprehensive real-world dataset for unsupervised anomaly detection. Int J Comput Vis. 129 (4), 1038-1059 (2021).
  110. Tang, S., et al. Online PCB defect detector on a new PCB defect dataset. arXiv preprint. , (2019).
  111. CheXpert: a large chest radiograph dataset with uncertainty labels and expert comparison. Irvin, J., et al. Proc AAAI Conf Artif Intell, 33, 590-597 (2019).
  112. ImageNet: a large-scale hierarchical image database. Deng, J., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 248-255 (2009).
  113. Selvaraju, R. R., et al. Grad-CAM: visual explanations from deep networks via gradient-based localization. Int J Comput Vis. 128 (2), 336-359 (2020).
  114. Black-box explanation of object detectors via saliency maps. Petsiuk, V., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 11438-11447 (2020).
  115. Attention is not explanation. Jain, S., Wallace, B. C. Proc Conf North Am Chapter Assoc Comput Linguist, , 3543-3556 (2019).
  116. Transformer interpretability beyond attention visualization. Chefer, H., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 782-791 (2021).
  117. Wachter, S., et al. Counterfactual explanations without opening the black box: automated decisions and the GDPR. SSRN Electron J. , (2017).
  118. Deep learning for case-based reasoning through prototypes: a neural network that explains its predictions. Li, O., et al. Proc AAAI Conf Artif Intell, 32, 3530-3537 (2018).
  119. Counterfactuals in explainable artificial intelligence (XAI): evidence from human reasoning. Byrne, R. M. J. Proc Int Joint Conf Artif Intell, , 6276-6282 (2019).
  120. Ihongbe, I. E., et al. Evaluating explainable artificial intelligence (XAI) techniques in chest radiology imaging through a human-centered lens. PLoS One. 19 (10), e0308758(2024).
  121. Dörrich, M., et al. Explainable convolutional neural networks for assessing head and neck cancer histopathology. Diagn Pathol. 18 (1), 121(2023).
  122. Nguyen, H. Q., et al. VinDr-CXR: an open dataset of chest X-rays with radiologist's annotations. Sci Data. 9, 429(2022).
  123. Lee, D. J., et al. A systematic literature review on artificial intelligence and explainable artificial intelligence for visual quality assurance in manufacturing. Electronics. 12 (22), 4572(2023).

Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.

Reimpressões e permissões

Solicitar permissão para reutilizar o texto ou as figuras deste artigo JoVE

Solicitar permissão

Etiquetas

T cnicas de XAIInspe o IndustrialInspe o M dicaM todos de GradienteM todos de Propaga oM todos de Perturba oModelos SubstitutosArquiteturas de Autoaten o

Artigos relacionados