É necessária uma assinatura do JoVE para visualizar este conteúdo. Faça login ou inicie seu teste gratuito.
Artigo de investigação
Aqui, apresentamos um protocolo reprodutível para desenvolver e avaliar modelos explicáveis de inteligência artificial para análises em saúde. O fluxo de trabalho integra pré-processamento de dados, modelagem preditiva, explicabilidade baseada em SHAP, LIME- e Grad-CAM, avaliação quantitativa e validação centrada no ser humano para apoiar a tomada de decisão clínica transparente e confiável.
A Inteligência Artificial Explicável (XAI) é cada vez mais reconhecida como uma ferramenta indispensável para construir sistemas de IA confiáveis na saúde, onde a transparência e a capacidade de explicar decisões são componentes essenciais da tomada de decisão clínica. Esta publicação apresenta uma abordagem experimental reprodutível para desenvolver e avaliar sistemas de IA explicáveis para análises em saúde. O pipeline desenvolvido integra as etapas de pré-processamento de dados, modelagem preditiva, geração de interpretação e avaliação em um fluxo de trabalho contínuo que pode ser aplicado tanto a dados clínicos estruturados quanto a conjuntos de dados de imagem médica. Modelos de aprendizado de máquina em conjunto demonstraram forte desempenho preditivo em conjuntos de dados tabulares estruturados, enquanto modelos de aprendizado profundo são eficazes para aprender padrões complexos em dados de imagem médica. Técnicas como SHAP, LIME e Grad-CAM são explicações globais e locais que facilitam a interpretação de modelos. Muito útil. A avaliação quantitativa do framework abrange muitos tipos diferentes de métricas, como precisão, exatidão, recordação, pontuação F1, ROC-AUC, métricas de explicação, fidelidade e estabilidade. Os resultados indicam que, quando as condições experimentais são controladas, a estrutura demonstrou melhor desempenho preditivo e qualidade de explicação sob as condições experimentais avaliadas. Como um documento guiado por protocolo, este trabalho apoia a reprodutibilidade e escalabilidade, a implementação persistente por outros seres vivos. Esse modelo de IA transparente e compreensível é a base sobre a qual o suporte à tomada de decisão clínica e os sistemas de análise em saúde ganham confiança e uso em larga escala.
A inteligência artificial (IA) tornou-se um componente importante da saúde moderna ao apoiar o diagnóstico de doenças, prognóstico, estratificação de riscos, análise de imagens médicas e tomada de decisãoclínica. Avanços em aprendizado de máquina e deep learning permitiram que sistemas de saúde processassem grandes volumes de dados estruturados e não estruturados, frequentemente alcançando desempenho preditivo comparável ou superior às abordagens estatísticasconvencionais 2. Apesar desses avanços, muitos modelos de IA operam como sistemas complexos de caixa-preta, dificultando para clíni....
Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.
Todos os conjuntos de dados utilizados neste estudo foram obtidos de repositórios públicos e totalmente anonimizados, incluindo o Repositório de Aprendizado de Máquina UCI, o banco de dados PhysioNet MIMIC-III e os conjuntos de dados de raio-X do tórax do NIH. Nenhuma informação identificável do paciente foi acessada. O estudo cumpriu as diretrizes institucionais de ética em pesquisa para análise secundária de dados públicos e desidentificados. Não foi necessária aprovação formal do Conselho de Revisão Institucional porque nenhum participante humano foi recrutado diretamente e nenhuma informação de saúde protegida foi utilizada.
<....Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.
Avaliamos minuciosamente o componente explicativo de IA de todo o nosso pipeline, avaliando o quão bem ele previu em diferentes tipos de dados de saúde, incluindo tanto dados clínicos estruturados quanto imagens médicas. Os resultados indicaram desempenho preditivo consistente entre os conjuntos de dados avaliados. Entre os modelos testados, o modelo de gradiente de aumento alcançou a maior precisão com 97,4%, seguido pelo modelo de floresta aleatória com 94,2%. Métodos de aprendizado pr.......
Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.
Este estudo desenvolveu e avaliou um fluxo de trabalho de inteligência artificial explicável reprodutível (XAI) para análises em saúde, que integra modelagem preditiva, avaliação de explicabilidade, avaliação centrada no clínico e recursos de reprodutibilidade dentro de um único protocolo. Os resultados demonstraram que modelos de aprendizado de máquina baseados em conjunto, especialmente Gradient Boosting e Random Forest, alcançaram o maior desempenho preditivo nos conjuntos de dados es.......
Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.
Os autores declaram que não possuem interesses financeiros ou conflitos de interesse concorrentes relacionados a esta obra. A pesquisa foi conduzida de forma independente, sem quaisquer relações comerciais ou financeiras que pudessem ser interpretadas como um potencial conflito de interesses.
Divulgação do Uso de Inteligência Artificial
Ferramentas de inteligência artificial foram usadas para refinamento da linguagem, correção gramatical e assistência editorial durante a preparação de manuscritos. Todo o conteúdo científico, desenho experimental, análise de dados, interpretação e verificação final do manuscrito foram realizados pelos autores. Os autores revisaram e validaram todos os resultados assistidos por IA para garantir precisão, integridade e conformidade com as diretrizes dos periódicos.
Os autores gostariam de agradecer às suas respectivas instituições por fornecerem a infraestrutura necessária e o apoio à pesquisa para realizar este estudo. Os autores também reconhecem o uso de conjuntos de dados públicos e ferramentas de código aberto que facilitaram o desenvolvimento e a avaliação do framework proposto para IA explicável. Agradecimentos especiais são enviados aos especialistas do setor que forneceram insights valiosos durante a fase de avaliação centrada no ser humano.
....Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.
| Nome | Empresa | Número de catálogo | Comentários |
|---|---|---|---|
| GPU Workstation | Dependente do fabricante | NA | Treinamento de modelos de aprendizado de máquina profundo |
| Jupyter Notebook | Project Jupyter | Versão estável mais recente | Execução interativa de experimentos |
| LIME | LIME | Versão 0.2.0 | Explicações interpretáveis locais |
| Matplotlib | Matplotlib Project | Versão 3.9 | Visualização de dados |
| MIMIC-III Database | PhysioNet | Versão 1.4 | Análise de registro eletrônico de saúde |
| NIH Chest X-ray Dataset | NIH Clinical Center | Conjunto de dados público | Classificação de doenças torácicas |
| NumPy | Desenvolvedores do NumPy | Versão 1.26 | Computação numérica e operações de matriz |
| OpenCV | OpenCV Foundation | Versão 4.10 | Pré-processamento de imagens |
| Pandas | Pandas Development Team | Versão 2.1 | Manipulação e pré-processamento de dados |
| Pima Indians Diabetes Dataset | UCI Machine Learning Repository | Conjunto de dados público | Predição de risco de diabetes |
| Python 3.11 | Python Software Foundation | Versão 3.11 | Ambiente de programação primário |
| Scikit-learn | scikit-learn | Versão 1.5 | Algoritmos e avaliação de aprendizado de máquina |
| Seaborn | Seaborn | Versão 0.13 | Visualização estatística |
| SHAP | SHAP | Versão 0.46 | Atribuição de características e explicabilidade |
| TensorFlow | TensorFlow | Versão 2.15 | Desenvolvimento de modelos de aprendizado de máquina profundo |
| Windows / Ubuntu Linux | Microsoft / Canonical | NA | Sistema operacional |
| Wisconsin Breast Cancer Dataset | UCI Machine Learning Repository | Conjunto de dados público | Diagnóstico de câncer de mama |
Acesso restrito. Inicie sessão ou comece um teste para visualizar este conteúdo.