Un abonnement JoVE est requis pour visualiser ce contenu. Connectez-vous ou commencez votre période d'essai gratuite.

Article de méthode

Un protocole expérimental reproductible pour le développement et l'évaluation de modèles d'intelligence artificielle explicable dans les systèmes de santé

101 vues

⸱

DOI :

10.3791/73848

⸱

15 septembre 2026

 , 
1Vishwakarma University

Dans cet article

Résumé

Ce protocole présente un flux de travail reproductible pour élaborer, évaluer et interpréter des modèles d'intelligence artificielle explicables dans le domaine de la santé. Il intègre une préparation standardisée des données, le développement de modèles, des techniques d'explicabilité, une évaluation quantitative et des pratiques de reproductibilité afin d'améliorer la transparence, la fiabilité et l'applicabilité clinique.

Résumé

L'intelligence artificielle (IA) est de plus en plus adoptée comme outil précieux pour la prise de décision clinique, la prédiction de maladies, le diagnostic médical et les soins personnalisés. Toutefois, le manque de transparence, la mise en œuvre incohérente des méthodes d'intelligence artificielle explicative (XAI) et la reproductibilité limitée restent des obstacles majeurs à un déploiement fiable des modèles d'IA dans les environnements cliniques. Cet article propose un protocole systématique, reproductible et transparent pour développer, évaluer et interpréter des modèles d'IA explicatifs destinés aux applications en santé. Le flux de travail commence par la configuration de l'environnement informatique, suivie de l'acquisition et de la caractérisation des données, du prétraitement, de l'ingénierie des caractéristiques, du développement du modèle, de l'optimisation des hyperparamètres, de l'évaluation des performances prédictives, de l'analyse d'explicabilité, de la validation statistique et de l'évaluation de la reproductibilité. Le protocole intègre des méthodes XAI telles que les explications additives de Shapley (SHAP), les explications locales interprétables indépendantes du modèle (LIME), la cartographie d'activation par classe pondérée par le gradient (Grad-CAM), les gradients intégrés, la visualisation de l'attention et les explications contrefactuelles afin de produire des interprétations globales et locales du modèle. Le protocole met l'accent sur plusieurs composantes clés, notamment la préparation de jeux de données standardisés en santé, le développement de modèles stables d'apprentissage automatique, l'évaluation des performances prédictives, la génération d'explications cliniquement pertinentes et l'évaluation statistique de la reproductibilité à travers des expériences répétées. En intégrant le développement du modèle, l'explicabilité, l'évaluation quantitative et qualitative, la validation statistique et l'évaluation de la reproductibilité dans un flux de travail unifié, ce protocole fournit un cadre complet pour concevoir des modèles d'IA transparents et reproductibles destinés aux applications en santé.

Introduction

L'intelligence artificielle est devenue un élément fondamental des soins de santé modernes en permettant une analyse intelligente de données cliniques complexes et en soutenant la prise de décisions médicales fondées sur des preuves1. La numérisation rapide du secteur de la santé grâce aux dossiers de santé électroniques, aux systèmes d'imagerie médicale, aux dispositifs portables et aux technologies génomiques a généré d'importantes quantités de données hétérogènes nécessitant des approches informatiques avancées pour une interprétation efficace2.

Les algorithmes d'apprentissage automatique (ML) et d'apprentissage profond (DL) ont démontré des capacités remarquables à extraire des motifs significatifs à partir de jeux de données multidimensionnels en santé, améliorant ainsi la précision du diagnostic, la prédiction des maladies et l'évaluation des résultats chez les patients3. Les modèles basés sur l'intelligence artificielle ont été appliqués avec succès en radiologie, en pathologie, en cardiologie, en oncologie, en ophtalmologie et dans d'autres spécialités médicales afin d'aider les cliniciens à détecter les maladies à un stade précoce et à recommander des stratégies de traitement personnalisées4. Ces technologies ont également contribué à l'optimisation des flux de travail, à la réduction de la variabilité des diagnostics et à une meilleure utilisation des ressources de santé5.

Les récents progrès réalisés dans le matériel informatique, le calcul en nuage et les frameworks open source d'intelligence artificielle ont accéléré le développement et le déploiement d'applications intelligentes en santé6. Par conséquent, l'intelligence artificielle est devenue une technologie clé permettant la médecine de précision et les systèmes d'aide à la décision clinique7. Malgré ces avancées, l'adoption généralisée de l'intelligence artificielle dans la pratique clinique courante reste limitée, car de nombreux modèles performants offrent peu d'informations sur la manière dont leurs prédictions sont générées8.

La plupart des algorithmes d'apprentissage profond fonctionnent comme des modèles complexes de type « boîte noire », dont le processus interne de prise de décision est difficile à comprendre pour les cliniciens et les chercheurs9. Bien que ces modèles atteignent souvent des performances prédictives excellentes, leur manque de transparence mine la confiance des utilisateurs et pose des difficultés en matière de validation clinique, d'approbation réglementaire et de sécurité des patients10. Les professionnels de santé doivent être en mesure de justifier les décisions assistées par l'intelligence artificielle avant de les intégrer dans la pratique clinique courante, particulièrement dans les environnements médicaux à haut risque11.

L'IA explicable (XAI) s'est imposée comme une approche efficace pour améliorer la transparence et l'interprétabilité des modèles d'apprentissage automatique12. Plutôt que de considérer les modèles de prédiction comme des systèmes opaques, les techniques d'IA explicable fournissent des informations sur les caractéristiques, les régions d'image ou les variables cliniques qui contribuent à des prédictions individuelles13. Ces explications permettent aux cliniciens de mieux comprendre le comportement du modèle, d'identifier d'éventuels biais et de déterminer si les décisions générées par l'IA sont conformes aux connaissances médicales établies14.

Plusieurs techniques d'explicabilité ont été introduites pour les applications en santé. Les explications basées sur la valeur de Shapley (SHAP) mesurent la contribution de chaque caractéristique à la prédiction du modèle sur la base de la théorie des jeux coopératifs15. Les explications locales interprétables indépendantes du modèle (LIME) créent un modèle simplifié et expliquent les prédictions d'un modèle boîte noire16. Pour les tâches d'imagerie médicale utilisant des modèles d'apprentissage profond, les cartes de activation pondérées par le gradient (Grad-CAM) produisent des cartes thermiques qui indiquent visuellement les régions d'une image contribuant aux décisions de classification17. La combinaison de ces méthodes a considérablement amélioré la transparence des systèmes d'intelligence artificielle dans divers domaines de la santé18.

Malgré l'attention croissante portée aux méthodes d'explicabilité dans les contextes de soins de santé, leur utilisation reste variable dans la littérature. Les chercheurs divergent non seulement dans le choix des stratégies de prétraitement, mais aussi dans la conception de l'architecture du modèle, les métriques d'évaluation et même les techniques d'explication19. De plus, de nombreux articles rapportent une précision prédictive élevée, mais ne parviennent pas à fournir une évaluation approfondie de la qualité des explications ou de leur reproductibilité20.

La reproductibilité est l'un des principaux goulots d'étranglement en science moderne de l'intelligence artificielle. Les articles ne divulguent souvent ni la version du logiciel, ni l'environnement de calcul, ni le pipeline de prétraitement, ni les réglages des hyperparamètres, ni l'initialisation de la graine aléatoire, ni les configurations matérielles21. Pour cette raison, les chercheurs indépendants échouent fréquemment à reproduire les résultats publiés ou à vérifier les méthodes publiées à l'aide d'autres ensembles de données ou plateformes logicielles22. Le manque de documentation détaillée constitue l'un des facteurs qui entravent les études de référence, la recherche collaborative et la traduction clinique des systèmes d'intelligence artificielle23.

Face à ces défis, plusieurs organisations et agences de réglementation ont souligné l'importance d'une intelligence artificielle transparente, fiable et reproductible pour les applications en santé24. Les lignes directrices existantes en matière de rapport ont amélioré la description des méthodologies, mais décrivent principalement ce qui devrait être rapporté, sans fournir de procédures expérimentales normalisées directement applicables par les chercheurs25. Par conséquent, il demeure nécessaire de disposer d'un protocole complet intégrant la préparation des jeux de données, le développement du modèle, l'analyse de l'explicabilité, l'évaluation statistique et les pratiques de reproductibilité au sein d'un flux de travail expérimental unique26.

Un protocole expérimental normalisé offre plusieurs avantages pour la communauté de l’intelligence artificielle en santé. En outre, il favorise la cohérence méthodologique, facilite la comparaison d’études indépendantes, accroît la transparence des expériences informatiques et permet une validation fiable des résultats publiés27. Les flux de travail normalisés aident également à l’éducation/formation, à la recherche collaborative et à l’évaluation réglementaire grâce à des procédures clairement documentées qui peuvent être reproduites dans différents laboratoires et établissements de santé28.

Un protocole expérimental reproductible pour l'entraînement et l'évaluation des modèles d'intelligence artificielle dans les systèmes de santé a été élaboré et testé. Ce protocole définit des normes pour la configuration de l'environnement informatique, le prétraitement des ensembles de données médicales, le développement de modèles d'apprentissage automatique, l'application de méthodes d'IA explicable (XAI), l'évaluation des performances prédictives, la validation statistique et l'analyse de la reproductibilité29. L'intégration de ces composants en un flux de travail cohérent devrait améliorer la transparence, la fiabilité et la reproductibilité de la recherche en intelligence artificielle appliquée à la santé, tout en contribuant au développement de systèmes de santé intelligents fiables30.

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Protocole

L'expérience de validation réalisée a utilisé le jeu de données publiquement disponible et anonymisé sur le diabète chez les Indiens Pima, sans impliquer d'archives de patients identifiables ni de recrutement nouveau de patients. Par conséquent, aucun consentement éclairé ni approbation éthique par un comité d'éthique institutionnel (IRB) n'était requis, et toutes les analyses ont été menées conformément aux conditions d'utilisation du jeu de données et aux politiques de recherche institutionnelles.

L'exemple validé présenté utilise le jeu de données publiquement accessible sur le diabète des Indiens Pima, qui contient 768 enregistrements destinés à la prédiction binaire du diabète. Le flux de travail complet en neuf étapes a été appliqué à ce jeu de données. Ces neuf étapes fondamentales comprenaient la sélection et la validation du jeu de données, la configuration de l'environnement informatique, le prétraitement des données, la partition du jeu de données, le développement et l'entraînement du modèle, l'évaluation des performances prédictives et informatiques, l'analyse d'explicabilité, la validation statistique et l'évaluation de la reproductibilité. La validation externe et l'évaluation par un expert clinique ont été conservées comme modules de validation facultatifs et n'ont pas été réalisées dans le présent exemple illustré. Figure 1 illustre le flux de travail du protocole principal, et Table 1 résume uniquement les neuf étapes fondamentales mises en œuvre dans la présente validation illustrée ; la validation externe facultative et l'évaluation par un expert clinique sont décrites séparément dans le Protocole et ne figurent pas parmi les neuf étapes expérimentales.

1. Sélectionner et valider le jeu de données de santé

  1. Sélectionnez le jeu de données Pima Indians Diabetes comme jeu de données principal pour l'exemple de validation travaillé. Vérifiez la source du jeu de données, la taille de l'échantillon, l'objectif de prédiction, la distribution des classes et la structure des données.
  2. Appliquez les critères prédéfinis d'inclusion, d'exclusion et de qualité des données. Supprimez les enregistrements en double et non valides avant le développement du modèle.
  3. Enregistrez la source du jeu de données, ses caractéristiques, la tâche de prédiction, la distribution des classes, les critères d'inclusion et d'exclusion, ainsi que la stratégie de partitionnement dans Tableau 2.
  4. Appliquez les critères de décision pour la sélection du jeu de données et du modèle
    1. Définissez l'objectif de prédiction avant de choisir le jeu de données, l'architecture du modèle, la stratégie de prétraitement ou la méthode d'explicabilité.
    2. Appariez la modalité du jeu de données à l'objectif de prédiction. Sélectionnez des données tabulaires pour des variables cliniques structurées, des données d'imagerie pour des images médicales, des données de séries temporelles pour des signaux physiologiques, des données textuelles pour des récits cliniques, ou des données multimodales lorsqu'il existe des modalités complémentaires disponibles pour le même patient ou unité d'étude.
    3. Évaluez les jeux de données candidats selon la taille de l'échantillon, la disponibilité du résultat, la distribution des classes, les valeurs manquantes, la qualité des annotations, la pertinence clinique, l'intégralité des données et l'accessibilité. Sélectionnez le jeu de données qui satisfait aux exigences prédéfinies.
    4. Sélectionnez des modèles conventionnels d'apprentissage automatique pour des données tabulaires structurées lorsque la taille de l'échantillon, les ressources de calcul ou les exigences d'interprétabilité limitent l'utilisation d'architectures complexes. Choisissez des architectures d'apprentissage profond lorsque des données d'entraînement suffisantes et des entrées de haute dimension, telles que des images médicales, des signaux physiologiques ou du texte clinique, sont disponibles.
    5. Sélectionnez des architectures multimodales uniquement lorsque plusieurs modalités sont disponibles pour le même patient ou unité d'étude et peuvent être alignées de manière fiable sans introduire de fuite d'information. Choisissez les opérations de prétraitement en fonction des caractéristiques de la modalité de données sélectionnée.
    6. Sélectionnez les méthodes d'explicabilité en fonction du modèle et de la modalité des données. Utilisez des méthodes agnostiques au modèle telles que SHAP ou LIME pour des modèles tabulaires appropriés, et des méthodes spécifiques à la modalité telles que Grad-CAM pour les modèles basés sur l'image, lorsque cela s'applique.
    7. Documentez les raisons ayant conduit à la sélection du jeu de données, de la stratégie de prétraitement, du modèle et de la méthode d'explicabilité. Conservez ces décisions dans le cadre du dossier de reproductibilité.

2. Configurer l'environnement informatique pour le développement d'un modèle d'IA explicable

  1. Configurez le système d'exploitation, l'UC, la mémoire vive, le stockage et le GPU selon les exigences du modèle sélectionné. Créez un environnement Python isolé et installez les bibliothèques nécessaires en apprentissage automatique, apprentissage profond, statistiques, visualisation et XAI.
  2. Enregistrez l'environnement computationnel réel, l'architecture du modèle et les hyperparamètres utilisés pour la validation effectuée dans Tableau 3. Précisez l'optimiseur, le taux d'apprentissage, la taille du lot, le nombre maximal d'époques, la fonction de perte, les paramètres de régularisation, la stratégie de validation, la configuration de l'arrêt précoce, la configuration de la graine aléatoire, les méthodes d'explicabilité, le matériel, le système d'exploitation, la version de Python et les versions des bibliothèques logicielles pertinentes. Faites la distinction entre ces paramètres utilisés expérimentalement et les paramètres de protocole généraux ou recommandés.
  3. Utilisez la configuration indiquée dans Tableau 3 lors de la reproduction de la validation du jeu de données Pima Indians Diabetes Dataset et des résultats prédictifs, explicatifs, statistiques et de reproductibilité correspondants.
  4. Exécutez un script de validation pour confirmer l'importation réussie des packages, le chargement du jeu de données, l'exécution du modèle et la génération des sorties. Conservez la configuration finale de l'environnement pour assurer la reproductibilité.

3. Préparer et caractériser les ensembles de données de santé pour le développement de modèles d'IA explicable

  1. Sélectionner et acquérir le jeu de données de soins de santé
    1. Sélectionnez un jeu de données de soins de santé adapté à la tâche de prédiction clinique définie. Évaluez les jeux de données candidats selon l'objectif de recherche, le type de données, la taille de l'échantillon, la qualité des annotations, l'équilibre des classes et la pertinence clinique.
    2. Privilégiez les jeux de données de référence publiquement disponibles lorsqu'ils répondent adéquatement à la tâche de prédiction et facilitent la validation indépendante.
    3. Obtenez les approbations éthiques requises, les autorisations institutionnelles et l'autorisation d'accès aux données avant d'acquérir des jeux de données institutionnels ou internes. Obtenez le jeu de données sélectionné à partir d'un référentiel vérifié ou d'une base de données institutionnelle autorisée.
    4. Conservez les fichiers du jeu de données d'origine sans modification et enregistrez le fournisseur du jeu de données, la version, les informations d'acquisition, les conditions de licence, les critères d'inclusion, les critères d'exclusion et les métadonnées accompagnantes. Organisez le jeu de données en répertoires distincts pour les données brutes, les annotations, les métadonnées et les informations supplémentaires.
  2. Caractériser le jeu de données de soins de santé
    1. Identifiez les variables prédictives, les étiquettes de résultat, les types de caractéristiques, les modalités des données et les distributions des classes. Déterminez le nombre de sujets, d'échantillons, de dimensions de caractéristiques et d'annotations disponibles.
    2. Vérifiez que les caractéristiques du jeu de données sont compatibles avec la méthode d'IA choisie.
    3. Utilisez uniquement le jeu de données Pima Indians Diabetes comme jeu de données expérimental pour valider le protocole central en neuf étapes. Incluez uniquement les jeux de données supplémentaires listés dans Tableau 2 afin de démontrer l'applicabilité du protocole général à divers types de données cliniques tabulaires, dossiers médicaux électroniques, images dermoscopiques, données temporelles physiologiques et imagerie médicale. N'utilisez pas ces jeux de données supplémentaires pour l'entraînement du modèle, les tests, la validation statistique ou la génération des résultats expérimentaux rapportés.
  3. Évaluer la qualité du jeu de données
    1. Inspectez le jeu de données à la recherche d'enregistrements en double, de fichiers corrompus, de valeurs manquantes, d'erreurs d'annotation et d'entrées de données irrégulières. Supprimez les enregistrements en double confirmés et corrigez les irrégularités de formatage vérifiées. Documentez toutes les procédures de contrôle qualité du jeu de données.
    2. Vérifiez la correspondance entre les données d'imagerie, cliniques, de laboratoire et physiologiques à l'aide des identifiants des sujets lorsque vous utilisez des jeux de données multimodaux.
    3. Supprimez les enregistrements en double ou incohérents, gérez les valeurs manquantes, standardisez les caractéristiques numériques, codez les variables catégorielles et appliquez un prétraitement spécifique à chaque modalité. Répartissez le jeu de données en ensembles d'entraînement, de validation et de test indépendants. Reportez-vous à Figure 2 pour le flux de travail de préparation, de prétraitement, de partitionnement et d'évaluation de la qualité du jeu de données de soins de santé.
  4. Garantir la confidentialité des données et la conformité éthique
    1. Supprimez les identifiants directs des données de soins de santé. Appliquez des procédures d'anonymisation ou de pseudonymisation lorsque requis. Traitez les informations de santé des patients conformément aux exigences éthiques, de protection des données, de consentement éclairé et institutionnelles applicables.
    2. Enregistrez l'approbation éthique applicable, les dérogations, les procédures de gouvernance des données, les méthodes d'anonymisation et le flux de travail de préparation du jeu de données.
    3. Évaluez les biais algorithmiques potentiels en comparant les performances du modèle entre les sous-groupes démographiques ou cliniques pertinents, lorsque ces informations sont disponibles et autorisées sur le plan éthique.
    4. Documentez l'utilisation prévue, la population cible, les limites du modèle, les modes de défaillance potentiels, les exigences de supervision humaine, ainsi que les exigences éthiques, de protection des données et réglementaires en matière de soins de santé applicables.
    5. Enregistrez les limites identifiées en matière d'équité et les considérations relatives à l'IA responsable dans la documentation finale du modèle.
      NOTE : Obtenez un jeu de données de soins de santé standardisé et documenté, adapté au développement de modèles d'IA, conforme aux exigences éthiques et exempt d'incohérences majeures identifiées.

4. Prétraiter et partitionner les données de santé pour l'apprentissage du modèle d'intelligence artificielle

  1. Effectuer le contrôle de qualité
    1. Examiner le jeu de données pour détecter les doublons, les valeurs manquantes, les valeurs non valides, les étiquettes incohérentes, les valeurs aberrantes et les fichiers corrompus.
    2. Supprimer ou corriger les observations non valides conformément à des critères prédéfinis et consigner toutes les exclusions. Vérifier la cohérence des variables prédictives et des étiquettes de résultat.
  2. Gérer les données manquantes
    1. Quantifier le taux de données manquantes pour chaque variable. Appliquer la stratégie prédéfinie d'imputation ou d'exclusion.
    2. Estimer les paramètres d'imputation à l'aide uniquement des données d'apprentissage et appliquer la transformation ajustée aux données de validation et de test.
  3. Normaliser et transformer les données
    1. Appliquer la mise à l'échelle des caractéristiques, la normalisation, le codage, la réduction de dimensionnalité ou d'autres transformations requises par le modèle sélectionné. Ajuster toutes les transformations dépendant des données en utilisant uniquement les données d'apprentissage.
    2. Appliquer les transformations ajustées sans modification aux données de validation et de test.
  4. Quantifier le déséquilibre des classes dans les données d'apprentissage. Appliquer le pondération des classes, SMOTE, le sur-échantillonnage ou l'augmentation uniquement au jeu de données d'apprentissage. Préserver la distribution d'origine des jeux de données de validation et de test.
  5. Vérifier qu'aucun sujet, observation en double, échantillon augmenté, statistique de prétraitement, critère de sélection de caractéristiques ou échantillon synthétique n'est partagé entre les partitions d'apprentissage et d'évaluation.

5. Développer et configurer le modèle d'IA explicable

  1. Définir l'architecture du modèle en précisant les modalités des données d'entrée, les opérations de prétraitement, les encodeurs de caractéristiques spécifiques à chaque modalité, le mécanisme de fusion des caractéristiques, la couche de prédiction et le module d'explicabilité.
  2. Sélectionner l'architecture d'apprentissage automatique ou d'apprentissage profond en fonction de la tâche de prédiction et de la modalité d'entrée. Configurer la couche d'entrée, les composants d'extraction de caractéristiques, les couches cachées, la couche de sortie et les fonctions d'activation. Définir l'optimiseur, le taux d'apprentissage, la taille du lot, la fonction de perte, le nombre d'époques, la régularisation, le dropout, l'arrêt précoce et le programme d'ajustement du taux d'apprentissage.
  3. Optimiser les hyperparamètres en utilisant uniquement les données d'entraînement et de validation.
  4. Enregistrer l'architecture finale et la configuration des hyperparamètres dans Tableau 3.
  5. Vérifier la compatibilité des dimensions entre les entrées et les sorties avant l'entraînement.
    NOTE : Mettre en place un modèle XAI entièrement configuré, comprenant une architecture adaptée, des hyperparamètres définis et des techniques d'explicabilité intégrées.

6. Entraîner, optimiser et préserver le modèle XAI

  1. Chargez les jeux de données d'apprentissage et de validation prédéfinis ainsi que la configuration finale du modèle. Initialisez le modèle à l'aide de la graine aléatoire prédéfinie et des paramètres d'apprentissage.
  2. Entraînez le modèle en utilisant l'optimiseur spécifié, la fonction de perte, la taille du lot et les critères d'arrêt.
  3. Surveillez les performances sur l'ensemble de validation et conservez le point de contrôle correspondant au critère de sélection de modèle prédéfini. Évaluez le point de contrôle sélectionné sur le jeu de test indépendant sans optimisation supplémentaire.
  4. Enregistrez le modèle entraîné, la configuration de prétraitement, les hyperparamètres, la graine aléatoire et le journal d'apprentissage.
    REMARQUE : Obtenez un modèle XAI optimisé entraîné et validé à l'aide du jeu de données de santé préparé. Conservez le modèle offrant les meilleures performances, les hyperparamètres, les journaux d'apprentissage, la configuration de prétraitement et l'environnement informatique afin d'assurer la reproductibilité.

7. Évaluer la performance prédictive et computationnelle

  1. Évaluer la performance prédictive
    1. Charger le modèle optimisé et le jeu de données de test indépendant après avoir terminé l'entraînement du modèle et l'optimisation des hyperparamètres. Conserver les paramètres du modèle entraîné et le pipeline de prétraitement inchangés pendant le test.
    2. Générer des prédictions pour tous les échantillons du jeu de données de test. Comparer les sorties prédites avec les étiquettes de référence correspondantes.
  2. Calculer les métriques de performance
    1. Sélectionner les métriques d'évaluation en fonction du type de tâche de prédiction.
    2. Calculer l'exactitude, la précision, le rappel, la spécificité, le score F1, l'exactitude équilibrée, le coefficient de corrélation de Matthews (MCC) et l'aire sous la courbe caractéristique de fonctionnement du récepteur (AUC-ROC) pour les tâches de classification, selon les cas. Calculer l'erreur absolue moyenne (MAE), l'erreur quadratique moyenne (RMSE), le coefficient de détermination (R2) et d'autres mesures pertinentes pour les tâches de régression, selon les cas.
  3. Évaluer la généralisation et la robustesse du modèle
    1. Évaluer le modèle à l'aide d'un jeu de données externe collecté indépendamment du jeu de données de développement, chaque fois que de telles données sont disponibles.
    2. Privilégier les jeux de données externes provenant d'un établissement de santé différent, d'une région géographique distincte ou d'une population de patients différente afin d'évaluer la transportabilité.
    3. Effectuer une validation temporelle à l'aide de données recueillies pendant une période ultérieure lorsque des jeux de données longitudinaux sont disponibles.
    4. Effectuer une validation multicentrique en évaluant le modèle finalisé séparément dans les différents établissements participants lorsque des données multicentriques sont disponibles.
    5. Effectuer une validation géographique à l'aide d'une population indépendante provenant d'une région géographique différente, lorsque cela est réalisable.
    6. Signaler les différences de performance et les intervalles de confiance entre les jeux de données de développement et externes.
  4. Évaluer la performance informatique
    1. Mesurer le temps d'entraînement du modèle dans l'environnement informatique prédéfini, le temps d'inférence et de test dans des conditions informatiques identiques, ainsi que la consommation de mémoire, la taille du modèle et l'utilisation du matériel.
    2. Répéter les mesures informatiques sur plusieurs exécutions indépendantes.
    3. Calculer le temps d'exécution moyen afin de réduire l'effet de la variabilité expérimentale.
  5. Comparer la performance des modèles
    1. Sélectionner des méthodes conventionnelles appropriées d'apprentissage automatique ou d'apprentissage profond pour l'évaluation comparative.
    2. Évaluer le modèle XAI proposé et les modèles comparateurs à l'aide du même jeu de données. Appliquer des procédures de prétraitement et des métriques d'évaluation identiques à tous les modèles comparatifs.
    3. Effectuer toutes les expériences comparatives dans le même environnement informatique.
      NOTE : Obtenir des preuves expérimentales de la stabilité prédictive et de la reproductibilité dans les conditions informatiques et le jeu de données testés.

8. Générer et évaluer les sorties XAI

  1. Générer des explications du modèle
    1. Charger le modèle XAI optimisé. Sélectionner des échantillons d'évaluation qui n'ont pas été utilisés pour l'entraînement du modèle. Appliquer les méthodes d'explicabilité prédéfinies sans modifier le modèle entraîné ni le pipeline de prétraitement.
    2. Générer des explications globales et locales du modèle
      1. Générer des explications globales afin de caractériser le comportement global du modèle prédictif.
      2. Générer des explications locales afin de caractériser les prédictions individuelles du modèle.
      3. Appliquer SHAP au jeu de données Pima Indians Diabetes afin de générer des explications globales et locales des prédictions du modèle tabulaire.
      4. Générer un graphique récapitulatif SHAP pour visualiser la direction générale et l'ampleur des contributions des caractéristiques.
      5. Générer un graphique d'importance des caractéristiques SHAP utilisant les valeurs absolues moyennes de SHAP afin de classer les caractéristiques selon leur contribution globale aux prédictions du modèle.
      6. Générer un graphique en cascade SHAP pour une prédiction représentative de l'ensemble de test afin d'illustrer les contributions spécifiques aux caractéristiques du patient.
      7. Générer un graphique de dépendance des caractéristiques SHAP afin d'examiner la relation entre une caractéristique sélectionnée et sa contribution à la sortie du modèle.
      8. Appliquer LIME à des prédictions représentatives de l'ensemble de test afin de générer des explications locales des prédictions individuelles du modèle.
      9. Générer une explication contrefactuelle spécifique à un patient afin d'illustrer les changements de caractéristiques associés à un changement du résultat prédit.
      10. Sélectionner des techniques d'explicabilité supplémentaires selon la modalité des données et l'architecture du modèle.
      11. Utiliser Grad-CAM ou des cartes de saillance pour les modèles basés sur les images compatibles, des visualisations d'attention pour les architectures basées sur les transformeurs, et les gradients intégrés pour les modèles différentiables, le cas échéant.
      12. Considérer Grad-CAM, la cartographie de saillance, la visualisation d'attention et les gradients intégrés comme des options générales d'explicabilité dépendant de la modalité, et ne pas les interpréter ni les rapporter comme des résultats expérimentaux issus de la validation sur le jeu de données Pima Indians Diabetes, sauf si les analyses correspondantes ont effectivement été réalisées.
    3. Appliquer les méthodes d'explicabilité à la validation Pima traitée
      1. Appliquer SHAP et LIME au jeu de données Pima Indians Diabetes afin de générer des explications globales et locales des prédictions du modèle tabulaire.
      2. Générer des visualisations SHAP récapitulatives, d'importance des caractéristiques, en cascade et de dépendance des caractéristiques à partir des résultats de la validation Pima.
      3. Générer une explication locale LIME pour des prédictions représentatives de l'ensemble de test.
      4. Générer une explication contrefactuelle spécifique à un patient afin d'illustrer les changements de caractéristiques associés à un changement de la prédiction du modèle.
      5. Considérer Grad-CAM, la visualisation d'attention, la cartographie de saillance et les gradients intégrés comme des options d'explicabilité dépendant de la modalité, destinées à d'autres types de données de santé et architectures de modèles.
      6. Ne pas rapporter Grad-CAM, la visualisation d'attention, la cartographie de saillance ou les gradients intégrés comme des résultats expérimentaux issus de la validation Pima traitée, sauf si les analyses correspondantes ont effectivement été réalisées.
  2. Évaluer la qualité des explications
    1. Évaluer si les explications générées reflètent le processus de prédiction du modèle. Évaluer la stabilité des explications au cours d'exécutions expérimentales répétées et la cohérence des sorties d'explication dans des conditions computationnelles identiques.
    2. Évaluer la sensibilité des sorties d'explication aux changements dans les données d'entrée, le cas échéant. Comparer les explications générées avec les connaissances disponibles dans le domaine ou les interprétations d'experts.
    3. Identifier les caractéristiques prédictives ou régions anatomiques qui correspondent aux connaissances médicales établies, lorsque de telles comparaisons sont disponibles.
    4. Enregistrer le niveau d'accord ou de désaccord entre les explications générées et l'interprétation clinique disponible.
  3. Quantifier l'incertitude des prédictions
    1. Générer des estimations de confiance des prédictions pour les échantillons évalués, en utilisant une méthode d'estimation de l'incertitude adaptée à l'architecture du modèle sélectionné et à l'application en santé.
    2. Appliquer le dropout de Monte Carlo, la prédiction par ensemble, l'inférence bayésienne, la prédiction conforme ou une autre approche validée d'estimation de l'incertitude, selon le cas.
    3. Répéter plusieurs passes de prédiction stochastique lors de l'utilisation du dropout de Monte Carlo et calculer la prédiction moyenne et la variance prédictive pour chaque échantillon d'évaluation.
    4. Rapporter les intervalles de confiance ou d'incertitude des prédictions conjointement avec les prédictions du modèle correspondantes.
    5. Évaluer si les estimations d'incertitude identifient les prédictions associées à une fiabilité moindre ou à une erreur de prédiction accrue. Conserver la méthode d'estimation de l'incertitude, les paramètres, les graines aléatoires et les sorties d'incertitude générées afin d'assurer la reproductibilité.
  4. Documenter et conserver les sorties d'explicabilité
    1. Enregistrer tous les scores d'importance des caractéristiques générés, les cartes thermiques, les cartes de saillance, les visualisations d'attention et les interprétations spécifiques aux patients. Stocker les sorties d'explicabilité en utilisant des formats de fichiers normalisés. Archiver les sorties conjointement avec le modèle entraîné et la configuration de prétraitement.
    2. Enregistrer les paramètres informatiques, les paramètres d'explication, le temps d'exécution et les versions des logiciels utilisés pour la génération des explications. Conserver toute la documentation d'explicabilité afin de faciliter l'examen indépendant et la reproductibilité.
  5. Évaluer quantitativement la qualité des explications
    1. Évaluer la fidélité des explications en perturbant ou masquant systématiquement les caractéristiques identifiées comme importantes et en mesurant le changement correspondant de la sortie du modèle. Calculer un score de fidélité des explications en comparant l'ampleur de l'attribution avec le changement résultant de la prédiction du modèle.
    2. Évaluer la stabilité des explications en générant des explications pour des exécutions répétées, des entrées perturbées ou des échantillons cliniquement similaires, et en calculant la similarité entre les profils d'attribution résultants. Calculer l'infidélité en mesurant l'écart entre le changement de sortie prédit et le changement estimé à partir de l'attribution de l'explication sous des perturbations contrôlées des entrées.
    3. Pour les explications basées sur des images médicales, évaluer la précision de la localisation à l'aide d'une région d'intérêt définie par un expert, lorsque des annotations de référence sont disponibles. Évaluer l'utilité clinique en obtenant des évaluations indépendantes d'experts cliniques qualifiés selon des critères d'interprétation prédéfinis.
    4. Calculer le kappa de Cohen ou le kappa de Fleiss lorsque plusieurs experts évaluent indépendamment la pertinence ou l'accord concernant les explications.
      NOTE : Générer des explications globales et locales qui caractérisent le comportement prédictif du modèle d'IA entraîné. Conserver les sorties d'explicabilité et les configurations correspondantes pour une interprétation transparente et une évaluation reproductible.

9. Réaliser la validation statistique et l'évaluation de la reproductibilité

  1. Réaliser la validation statistique
    1. Sélectionner les méthodes statistiques en fonction de l'objectif de l'étude, du plan expérimental, de la distribution des données et des caractéristiques des variables évaluées.
    2. Présenter les variables continues sous forme de moyenne ± écart-type ou de médiane et intervalle interquartile, selon le cas, et les variables catégorielles sous forme d'effectifs et de pourcentages.
    3. Effectuer une validation croisée en cinq parties sur l'ensemble d'apprentissage afin d'évaluer la stabilité des performances du modèle, et rapporter la précision, l'AUC-ROC, la justesse, le rappel et le score F1 sous la forme moyenne ± écart-type sur les différentes parties. Estimer les intervalles de confiance à 95 % pour les métriques de performance sur l'ensemble de test indépendant à l'aide de 1 000 rééchantillonnages bootstrap.
    4. Comparer le modèle proposé aux modèles de référence CNN, forêt aléatoire et SVM à l'aide du test de McNemar pour les comparaisons appariées de précision, du test de DeLong pour les comparaisons d'AUC-ROC corrélées, et de tests bootstrap appariés avec 1 000 rééchantillonnages pour les comparaisons de score F1.
    5. Rapporter la statistique de test correspondante et la valeur-p exacte pour chaque comparaison, et utiliser un seuil de significativité bilatéral de α = 0,05.
  2. Comparer statistiquement les performances des modèles
    1. Comparer le modèle d'intelligence artificielle explicatif proposé aux modèles de référence sélectionnés issus de l'état de l'art en apprentissage automatique et en apprentissage profond.
    2. Appliquer le test t de Student ou le test de Mann-Whitney U lors de la comparaison de deux groupes, selon le cas. Appliquer une ANOVA à un facteur pour les comparaisons paramétriques impliquant plus de deux groupes. Appliquer le test de Kruskal-Wallis pour les comparaisons non paramétriques impliquant plus de deux groupes.
    3. Considérer que p < 0,05 est statistiquement significatif, comme indiqué dans le manuscrit original.
    4. Utiliser un seuil de significativité bilatéral de α = 0,05 pour toutes les comparaisons statistiques prédéfinies, et rapporter les statistiques de test et les valeurs-p correspondantes.
    5. Rapporter les intervalles de confiance à 95 % pour les métriques principales de performance prédictive.
    6. Utiliser le rééchantillonnage bootstrap pour estimer les intervalles de confiance des mesures de performance lorsque cela est approprié. Utiliser le test de DeLong pour comparer des valeurs d'AUC-ROC corrélées lorsque les mêmes sujets sont évalués par deux modèles. Utiliser le test de McNemar pour comparer des résultats de classification catégorielle appariés obtenus pour les mêmes sujets. Utiliser des procédures bootstrap appariées pour comparer le score F1 ou d'autres métriques de performance dérivées lorsque cela est approprié.
    7. Évaluer la calibration à l'aide de graphiques de calibration, de la pente/intercept de calibration et du score de Brier lorsque des prédictions probabilistes sont disponibles.
    8. Pour la validation réalisée sur le jeu de données Pima Indians Diabetes, utiliser la comparaison statistique appariée prédéfinie entre le modèle proposé et les modèles de référence. Appliquer le test sélectionné de manière cohérente aux prédictions sur l'ensemble de test apparié ou aux mesures de performance issues de plusieurs exécutions, selon le type de comparaison. Utiliser un seuil de significativité bilatéral de α = 0,05 et rapporter la statistique de test et la valeur-p exacte. Ne pas indiquer que d'autres tests statistiques ont été réalisés à moins que leurs résultats soient présentés dans la section Résultats.
    9. Appliquer des tests bilatéraux et interpréter la significativité statistique à l'aide d'un seuil prédéfini de p < 0,05.
  3. Évaluer la robustesse du modèle
    1. Répéter la procédure complète d'apprentissage et d'évaluation 10 fois en utilisant différentes graines aléatoires, tout en conservant le partitionnement prédéfini du jeu de données, les procédures de prétraitement, l'architecture du modèle, les hyperparamètres, l'environnement logiciel et le protocole d'évaluation.
    2. Enregistrer l'AUC-ROC, la précision et le score F1 pour chaque exécution indépendante, et rapporter la moyenne ± écart-type sur les 10 exécutions.
    3. Comparer les valeurs de performance obtenues au cours des exécutions répétées afin d'évaluer la stabilité prédictive et la reproductibilité sous différentes initialisations aléatoires.
  4. Évaluer la reproductibilité de l'explicabilité
    1. Générer les attributions de caractéristiques, les cartes d'attention ou d'autres sorties explicatives sur plusieurs exécutions expérimentales lorsque l'évaluation de la stabilité des explications est incluse. Comparer quantitativement les sorties explicatives entre les exécutions répétées à l'aide d'une mesure appropriée de similarité ou d'accord basée sur les rangs.
    2. Pour la validation réalisée sur le jeu de données Pima Indians Diabetes, ne pas rapporter de métriques quantitatives de stabilité des explications à moins que les sorties explicatives répétées et les analyses correspondantes aient été effectuées.
    3. Évaluer l'accord entre les explications générées par le modèle et les interprétations des cliniciens lorsque des évaluations cliniques appropriées sont disponibles. Calculer le kappa de Cohen ou le kappa de Fleiss, selon le cas, pour évaluer l'accord entre les évaluateurs.
  5. Documenter la reproductibilité
    1. Conserver les données brutes, les procédures de prétraitement, le code source, les modèles entraînés, les configurations d'hyperparamètres, les sorties d'explicabilité, les scripts d'analyse statistique et les résultats générés.
    2. Enregistrer l'environnement logiciel et la configuration matérielle utilisés tout au long du flux de travail. Réexécuter indépendamment l'ensemble du flux de travail à l'aide des fichiers et configurations archivés.
    3. Comparer les performances prédictives reproduites avec les résultats expérimentaux initiaux, et les explications du modèle reproduites avec les sorties d'explicabilité initiales.
    4. Noter toute différence observée lors de la réplication. Mettre à jour la documentation expérimentale afin de refléter les observations de reproductibilité identifiées lors de l'exécution indépendante.
      NOTE : Obtenir des résultats de performance prédictive et d'explicabilité validés statistiquement, évaluables sur des expériences répétées. Conserver une documentation suffisante sur les aspects computationnels, analytiques et méthodologiques afin de permettre la vérification indépendante de l'ensemble du flux de travail.
  6. Liste de contrôle de la reproductibilité
    1. Noter le nom du jeu de données, sa version, la date d'acquisition, sa source, les critères d'inclusion, les critères d'exclusion et le nombre final d'échantillons. Enregistrer toutes les opérations de prétraitement, les paramètres de transformation, les réglages de normalisation, les procédures de sélection de caractéristiques et les règles de partitionnement des données.
    2. Noter le système d'exploitation, le processeur (CPU), le processeur graphique (GPU), la mémoire vive (RAM), la version de Python, les versions des frameworks et des bibliothèques. Enregistrer toutes les spécifications architecturales du modèle et les hyperparamètres.
    3. Noter l'optimiseur, le taux d'apprentissage, la taille du lot, le nombre d'époques, la fonction de perte, la régularisation et les critères d'arrêt précoce. Enregistrer toutes les graines aléatoires et les réglages du générateur de nombres aléatoires.
    4. Conserver les poids des modèles entraînés et les configurations de prétraitement. Préserver les journaux d'apprentissage, les scripts d'évaluation, les scripts d'analyse statistique et les sorties d'explicabilité. Noter les versions du modèle et des logiciels utilisées pour les expériences finales.
    5. Conserver l'environnement computationnel complet nécessaire à la réplication indépendante.
    6. Documenter la disponibilité du code source, des jeux de données, des poids des modèles et des matériaux complémentaires, sous réserve des restrictions éthiques, légales, de licence et de confidentialité.
    7. Réexécuter indépendamment le flux de travail archivé et comparer les résultats reproduits avec les résultats initiaux.
    8. Documenter l'ensemble des exigences de reproductibilité à l'aide de la liste de contrôle standardisée.

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Résultats

Le cadre XAI proposé a été mis en œuvre en utilisant le jeu de données Pima Indians Diabetes comme exemple représentatif de jeu de données en santé. Le jeu de données Pima Indians Diabetes a été utilisé comme unique jeu de données de validation expérimentale. Tous les résultats prédictifs, d'explicabilité, statistiques et de reproductibilité rapportés ont été obtenus à partir de ce jeu de données. Les jeux de données TCGA-BRCA, TCGA-UCEC, MIMIC-III, ISIC 2019, HAM10000, OhioT1DM et BraTS 2021 n'ont pas été évalués expéri...

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Discussion

Les résultats démontrent l'utilité du protocole proposé en tant que flux de travail normalisé et reproductible pour développer et évaluer des systèmes d'IA explicable (XAI) sur des ensembles de données de santé variés. Comme indiqué dans Tableau 2 et Figure 3, un prétraitement systématique a permis d'obtenir des données normalisées et d'améliorer la qualité des données grâce à la gestion des valeurs manquantes, à la normalisation des données, à la mise à l'échelle des caract...

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Déclarations de divulgation

Les auteurs déclarent qu'ils n'ont aucun intérêt financier concurrent, aucune relation commerciale ou relation personnelle pouvant avoir influencé le travail rapporté dans cette étude. Les auteurs n'ont aucun conflit d'intérêt à divulguer.

Remerciements

Les auteurs reconnaissent le soutien institutionnel fourni par leurs établissements respectifs durant le développement et la validation expérimentale de ce protocole de XAI en santé. Les auteurs reconnaissent également les infrastructures de calcul et les ressources logicielles utilisées pour mener les analyses expérimentales. Cette recherche n’a reçu aucun financement externe. Les auteurs reconnaissent l’utilisation de Python 3.11, Matplotlib 3.9 et SciPy 1.13 pour l’analyse computationnelle, la visualisation des données et la génération des figures présentées dans cette étude.

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Matériaux

Liste des matériaux utilisés dans cet article
NomEntrepriseNuméro de catalogueCommentaires
CaptumMeta AIDernière version stableExpliquabilité PyTorch
CUDA ToolkitNVIDIA12.2Accélération GPU
cuDNNNVIDIA9.xMoteur pour apprentissage profond
GitGit SCMDernière version stableContrôle de version
GitHubGitHub Inc.Plateforme webRéférentiel de code source
Grad-CAMjacobgilDernière version publiéeVisualisation CNN
Jupyter NotebookProjet JupyterDernière version stableDéveloppement interactif
LightGBMMicrosoft4.xBoosting par gradient
LIMECommunauté LIME0.2.0Expliquabilité locale
MatplotlibDéveloppeurs Matplotlib3.9Visualisation
Microsoft ExcelMicrosoftMicrosoft 365Organisation des données
NumPyDéveloppeurs NumPy1.26Calcul numérique
NVIDIA RTX 4090 GPUNVIDIA24 Go de VRAMEntraînement du modèle
OpenCVOrganisation OpenCV4.10Prétraitement d'images
PandasÉquipe de développement Pandas2.2Prétraitement des données
Pillow (PIL)Bibliothèque d'images Python10.xTraitement d'images
PlotlyPlotly Technologies5.xVisualisation interactive
PythonFondation logicielle Python3.11Environnement de programmation
PyTorchFondation PyTorch2.3Apprentissage profond
Scikit-learnDéveloppeurs Scikit-learn1.5Apprentissage automatique
SciPyDéveloppeurs SciPy1.13Calcul scientifique
SeabornDéveloppeurs Seaborn0.13Graphiques statistiques
SHAPCommunauté SHAP0.46Expliquabilité globale
SimpleITKConsortium logiciel Insight2.xTraitement d'images médicales
StatsmodelsDéveloppeurs Statsmodels0.14Analyse statistique
RAM systèmeTout fabricant32 Go ou plusMémoire
TensorBoardGoogle2.15Surveillance de l'entraînement
TensorFlowGoogle2.15Apprentissage profond
Ubuntu Linux / Windows 11Canonical / Microsoft22.04 LTS / 11Système d'exploitation
Visual Studio CodeMicrosoftDernière version stableDéveloppement de code
XGBoostDéveloppeurs XGBoost2.1Boosting par gradient

Références

  1. Acosta JN, Falcone GJ, Rajpurkar P, Topol EJ. Multimodal biomedical AI. Nat Med. 2022;28(9):1773-1784.
  2. Tang AS, et al. Harnessing EHR data for health research. Nat Med. 2024;30(7):1847-1855.
  3. Zhang A, Xing L, Zou J, Wu JC. Shifting machine learning for healthcare from development to deployment and from models to data. Nat Biomed Eng. 2022;6(11):1330-1345.
  4. Bera K, et al. Predicting cancer outcomes with radiomics and artificial intelligence in radiology. Nat Rev Clin Oncol. 2022;19(2):132-146.
  5. Wenderott K, Krups J, Zaruchas F, Weigl M. Effects of artificial intelligence implementation on efficiency in medical imaging—a systematic literature review and meta-analysis. NPJ Digit Med. 2024;7(1):265.
  6. Kaissis GA, Makowski MR, Rückert D, Braren RF. Secure, privacy-preserving and federated machine learning in medical imaging. Nat Mach Intell. 2020;2(6):305-311.
  7. He J, et al. The practical implementation of artificial intelligence technologies in medicine. Nat Med. 2019;25(1):30-36.
  8. Antoniadi AM, et al. Current challenges and future opportunities for XAI in machine learning-based clinical decision support systems: A systematic review. Appl Sci (Basel). 2021;11(11):5088.
  9. Samek W, et al. Explaining deep neural networks and beyond: A review of methods and applications. Proc IEEE. 2021;109(3):247-278.
  10. Holzinger A, et al. Causability and explainability of artificial intelligence in medicine. WIREs Data Min Knowl Discov. 2019;9(4).
  11. Markus AF, Kors JA, Rijnbeek PR. The role of explainability in creating trustworthy artificial intelligence for health care: A comprehensive survey of the terminology, design choices, and evaluation strategies. Nat Biomed Eng. 2021;5(9):996-1011.
  12. Arrieta AB, et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 2020;58:82-115.
  13. Selvaraju RR, et al. Grad-CAM: Visual explanations from deep networks via gradient-based localization [conference paper]. Presented at: IEEE International Conference on Computer Vision (ICCV); Venice, Italy; 2017:618-626. https://openaccess.thecvf.com/content_iccv_2017/html/Selvaraju_Grad-CAM_Visual_Explanations_ICCV_2017_paper.html
  14. Tonekaboni S, Joshi S, McCradden MD, Goldenberg A. What clinicians want: Contextualizing explainable machine learning for clinical end use. Nat Mach Intell. 2019;1(12):572-584.
  15. Sundararajan M, Taly A, Yan Q. Axiomatic attribution for deep networks [conference paper]. Presented at: 34th International Conference on Machine Learning; Sydney, Australia; 2017;70:3319-3328. https://proceedings.mlr.press/v70/sundararajan17a.html
  16. Ribeiro MT, Singh S, Guestrin C. “Why should I trust you?”: Explaining the predictions of any classifier [conference paper]. Presented at: 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; San Francisco, CA; 2016:1135-1144.
  17. Desai S, Ramaswamy HG. Ablation-CAM: Visual explanations for deep convolutional network via gradient-free localization [conference paper]. Presented at: IEEE/CVF Winter Conference on Applications of Computer Vision (WACV); 2020:983-991.
  18. Belle V, Papantonis I. Principles and practice of explainable machine learning. Front Big Data. 2021;4:688969.
  19. Vilone G, Longo L. Notions of explainability and evaluation approaches for explainable artificial intelligence. Inf Fusion. 2021;76:89-106.
  20. Ali S, et al. Explainable artificial intelligence (XAI): What we know and what is left to attain trustworthy artificial intelligence. Inf Fusion. 2023;99:101805.
  21. Gundersen OE, Kjensmo S. State of the art: Reproducibility in artificial intelligence [conference paper]. Presented at: Thirty-Second AAAI Conference on Artificial Intelligence; New Orleans, LA; 2018:1644-1651. https://ojs.aaai.org/index.php/AAAI/article/view/11503
  22. Hutson M. Artificial intelligence faces reproducibility crisis. Science. 2018;359(6377):725-726.
  23. Pineau J, et al. Improving reproducibility in machine learning research: A report from the NeurIPS 2019 reproducibility program. J Mach Learn Res. 2021;22(164):1-20.
  24. U.S. Food and Drug Administration, Health Canada, Medicines and Healthcare products Regulatory Agency. Good Machine Learning Practice for Medical Device Development: Guiding Principles. 2021.
  25. Liu X, et al. Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: The CONSORT-AI extension. Nat Med. 2020;26(9):1364-1374.
  26. Mongan J, Moy L, Kahn CE Jr. Checklist for Artificial Intelligence in Medical Imaging (CLAIM): A guide for authors and reviewers. Radiol Artif Intell. 2020;2(2).
  27. Peng RD. Reproducible research in computational science. Science. 2011;334(6060):1226-1227.
  28. Collins GS, et al. Protocol for development of the TRIPOD-AI and PROBAST-AI reporting and risk-of-bias tools for studies developing, validating, or updating prediction models based on artificial intelligence. BMJ Open. 2021;11.
  29. Kapoor S, Narayanan A. Leakage and the reproducibility crisis in machine-learning-based science. Patterns. 2023;4(9):100804.
  30. Wiens J, et al. Do no harm: A roadmap for responsible machine learning for health care. Nat Med. 2019;25(9):1337-1340.

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Réimpressions et autorisations

Explorer plus d’articles

IA explicablemodèles d'IA pour la santéinterprétabilité des modèlesprotocole reproductibleperformance prédictiveingénierie des caractéristiquesvalidation statistiqueexplications SHAPexplications LIMEexplications contrefactuelles
Contactez-nous
Recommander à la bibliothèque

Confidentialité

Conditions d’utilisation

Politiques

Copyright © 2026 MyJoVE Corporation. Tous droits réservés.