Ein Abonnement von JoVE ist erforderlich, um diesen Inhalt anzuzeigen. Melden Sie sich an oder beginnen Sie noch heute mit einer kostenlosen Testphase.

Forschungsartikel

Ein reproduzierbares Protokoll zur Entwicklung und Bewertung erklärbarer künstlicher Intelligenz-Rahmenwerke in der Gesundheitsanalytik

93 Ansichten

⸱

DOI:

10.3791/71999

⸱

31. Juli 2026

 ,  ,  ,  , 
1Department of Computer Engineering, Vishwakarma Institute of Technology, 2Bharati Vidyapeeth's College of Engineering for Women, 3Department of Computer Engineering, Kasetsart University, 4Department of Computer Science and Engineering (Artificial Intelligence and Machine Learning), Vishwakarma Institute of Technology, 5President Maryam Abacha American University of Nigeria

In diesem Artikel

Zusammenfassung

Hier präsentieren wir ein reproduzierbares Protokoll zur Entwicklung und Bewertung erklärbarer künstlicher Intelligenzmodelle für Gesundheitsanalytik. Der Workflow integriert Datenvorverarbeitung, prädiktive Modellierung, SHAP-, LIME- und Grad-CAM-basierte Erklärbarkeit, quantitative Bewertung und menschenzentrierte Validierung, um transparente und vertrauenswürdige klinische Entscheidungsfindung zu unterstützen.

Zusammenfassung

Erklärbare Künstliche Intelligenz (XAI) wird zunehmend als unverzichtbares Werkzeug für den Aufbau vertrauenswürdiger KI-Systeme im Gesundheitswesen anerkannt, wo Transparenz und die Fähigkeit, Entscheidungen zu erklären, wesentliche Bestandteile klinischer Entscheidungsfindung sind. Diese Veröffentlichung präsentiert einen reproduzierbaren experimentellen Ansatz zur Entwicklung und Bewertung erklärbarer KI-Systeme für Gesundheitsanalytik. Die entwickelte Pipeline integriert die Schritte der Datenvorverarbeitung, prädiktiver Modellierung, Interpretation und Bewertung in einem nahtlosen Arbeitsablauf, der sowohl auf strukturierte klinische Daten als auch auf medizinische Bilddatensätze angewendet werden kann. Ensemble-Machine-Learning-Modelle haben eine starke prädiktive Leistung auf strukturierten tabellarischen Datensätzen gezeigt, während Deep-Learning-Modelle effektiv zum Erlernen komplexer Muster in medizinischen Bildgebungsdaten sind. Techniken wie SHAP, LIME und Grad-CAM sind globale und lokale Erklärungen, die die Modellinterpretation erleichtern. Sehr hilfreich. Die quantitative Bewertung des Rahmens umfasst viele verschiedene Kennzahlen wie Genauigkeit, Präzision, Abruf, F1-Score, ROC-AUC, Erklärungsmetriken, Genauigkeit und Stabilität. Die Ergebnisse zeigen, dass das Rahmenwerk, wenn die experimentellen Bedingungen kontrolliert werden, unter den bewerteten experimentellen Bedingungen eine verbesserte Prädiktionsleistung und Erklärungsqualität zeigte. Als protokollorientiertes Dokument untermauert dieses Werk die Reproduzierbarkeit und Skalierbarkeit, die beständige Umsetzung durch andere Lebewesen. Dieses transparente, verständliche KI-Modell bildet die Grundlage, auf der klinische Entscheidungsunterstützung und Gesundheitsanalysesysteme Vertrauen gewinnen und in großem Maßstab genutzt werden.

Einleitung

Künstliche Intelligenz (KI) ist zu einem wichtigen Bestandteil der modernen Gesundheitsversorgung geworden, indem sie Krankheitsdiagnose, Prognose, Risikostratifizierung, Analyse medizinischer Bilder und klinischeEntscheidungsfindung unterstützt. Fortschritte im maschinellen Lernen und Deep Learning haben es Gesundheitssystemen ermöglicht, große Mengen strukturierter und unstrukturierter Daten zu verarbeiten und dabei oft eine prädiktive Leistung zu erzielen, die mit konventionellen statistischen Ansätzen vergleichbar oder darüber hinausgeht. Trotz dieser Fortschritte funktionieren viele KI-Modelle wie komplexe Black-Box-Systeme, was es Klinikern und Gesundheitsvertretern erschwert, zu verstehen, wie Vorhersagengeneriert werden. Dieser Mangel an Transparenz kann Vertrauen, Akzeptanz und Rechenschaftspflicht in hochriskanten Gesundheitsumgebungeneinschränken 4,5.

Erklärbare künstliche Intelligenz (XAI) hat sich als vielversprechender Ansatz herauskristallisiert, um die Transparenz und Interpretierbarkeit der Machine-Learning-Modelle6 zu verbessern. Weit verbreitete Erklärungstechniken, darunter SHAP (Shapley additive explanations), LIME (Local interpretable model-agnostic explanations) und Gradient-weighted class activation mapping (Grad-CAM), liefern Einblicke in das Modellverhalten durch Merkmalsattribution und visuelle Erklärungsmechanismen 7,8,9. Diese Methoden werden zunehmend in Gesundheitsanwendungen angewandt, um klinische Interpretation, Modellprüfung und Entscheidungsunterstützungzu unterstützen. Allein die Erklärbarkeit garantiert jedoch keine Zuverlässigkeit, Reproduzierbarkeit oder klinischen Nutzen. Jüngste Studien haben Herausforderungen im Zusammenhang mit Erklärungsinstabilität, Sensibilität gegenüber Störungen, begrenzter Validierung durch Kliniker und Inkonsistenzen zwischen Erklärungsergebnissen und wahrer Modelllogik 12,13,14,15 hervorgehoben.

Neben den Herausforderungen der Erklärbarkeit bleibt Reproduzierbarkeit ein bedeutendes Anliegen in der maschinellen Lernforschung im Gesundheitswesen 16,17,18. Viele veröffentlichte Studien liefern begrenzte Informationen zu Vorverarbeitungsverfahren, Softwareumgebungen, Hyperparameterkonfigurationen, Validierungsstrategien und Implementierungsworkflows, was unabhängige Replikation erschwert 19,20,21. Darüber hinaus konzentrieren sich KI-Studien im Gesundheitswesen häufig auf die prädiktive Leistung und geben nur begrenzte Hinweise hinsichtlich der Erklärungsqualitätsbewertung, klinikerzentrierter Bewertung und praktischer Umsetzung22. Diese Einschränkungen könnten die Übertragung erklärbarer KI-Systeme aus Forschungsumgebungen in reale Gesundheitsumgebungen erschweren 23,24,25,26,27.

Aktuelle Workflows für XAI im Gesundheitswesen bewerten oft einzelne Erklärungstechniken oder prädiktive Modelle isoliert und bieten selten standardisierte Protokolle, die Datenvorbereitung, prädiktive Modellierung, Erklärbarkeitsbewertung, menschenzentrierte Bewertung und Reproduzierbarkeitsressourcen integrieren 28,29,30,31. Folglich können Forscher und Praktiker Schwierigkeiten haben, Arbeitsabläufe zu reproduzieren, Erklärungsmethoden zu vergleichen oder den praktischen Nutzen erklärbarer KI-Systeme in verschiedenen Gesundheitsdatensätzen und Anwendungsbereichen zu bewerten. Ein umfassendes und reproduzierbares Protokoll ist daher erforderlich, um eine konsistente Implementierung, Bewertung und Berichterstattung von gesundheitsverklarbaren KI-Workflows zu ermöglichen.

Hier präsentieren wir ein reproduzierbares Protokoll zur Entwicklung, Bewertung und Interpretation erklärbarer künstlicher Intelligenzsysteme in der Gesundheitsanalyse. Das Protokoll integriert Datenvorverarbeitung, prädiktive Modellierung, Erklärbarkeitsbewertung mittels SHAP, LIME und Grad-CAM, klinikerzentrierte Evaluation, Validierungsverfahren und Reproduzierbarkeitsressourcen in einem einheitlichen Workflow. Das Ziel ist es, einen standardisierten Rahmen bereitzustellen, der transparente Modellentwicklung, Erklärungsqualitätsbewertung und reproduzierbare Implementierung über verschiedeneGesundheitsdatensätze hinweg unterstützt. Der methodische Beitrag dieser Arbeit liegt in der Integration von prädiktiver Analytik, Erklärbarkeitsbewertung, Validierung von Klinikern und Reproduzierbarkeitspraktiken in einem einzigen Protokoll, das für Forschung, Ausbildung und Implementierungsorientierte Studien im Gesundheitswesen geeignet ist. 40,41,42,43.

Der Hauptbeitrag dieser Arbeit ist nicht die Entwicklung eines neuartigen Erklärbarkeitsalgorithmus.

Stattdessen bietet es ein standardisiertes, reproduzierbares und experimentell validiertes Protokoll, das prädiktive Modellierung, Erklärbarkeitsbewertung, Visualisierung, Bewertung und menschenzentrierte Interpretation in einen einheitlichen Arbeitsablauf integriert, der für Gesundheitsanalysen und die Verbreitung von JoVE-basierten Protokollen geeignet ist. Das Hauptziel dieser Arbeit ist nicht, einen neuartigen prädiktiven Algorithmus einzuführen, sondern ein standardisiertes, reproduzierbares und experimentell validiertes Protokoll zur Implementierung erklärbarer Workflows für künstliche Intelligenz in der Gesundheitsanalytik bereitzustellen. Das Protokoll integriert Datenvorverarbeitung, prädiktive Modellierung, Erklärbarkeitsbewertung, klinikerzentrierte Bewertung und Reproduzierbarkeitsressourcen in einem einheitlichen Rahmen, der für Übernahme, Replikation und Bildungsverbreitung geeignet ist.

Zugriff eingeschränkt. Bitte melden Sie sich an oder starten Sie eine Testversion, um diesen Inhalt anzuzeigen.

Protokoll

Alle in dieser Studie verwendeten Datensätze stammen aus öffentlich zugänglichen und vollständig anonymisierten Repositorien, darunter das UCI Machine Learning Repository, die PhysioNet MIMIC-III-Datenbank und NIH Chest X-ray Datensätze. Es wurden keine identifizierbaren Patientendaten abgerufen. Die Studie entsprach den ethischen Richtlinien der institutionellen Forschung für die Sekundäranalyse öffentlich zugänglicher, deidentifizierter Daten. Eine formelle Genehmigung des Institutional Review Board war nicht erforderlich, da keine menschlichen Teilnehmer direkt rekrutiert wurden und keine geschützten Gesundheitsinformationen verwendet wurden.

1. Überblick über die experimentellen Rahmenwerke

  1. Entwickeln Sie eine reproduzierbare, erklärbare Künstliche Intelligenz (XAI)-Pipeline für transparente Gesundheitsanalysen. Organisieren Sie den Workflow in die Datenschicht, die Vorverarbeitungsschicht, die Modellierungsschicht, die Erklärbarkeitsschicht, die Evaluierungsschicht und die Visualisierungsschicht.
  2. Integrieren Sie diese Module in einen einheitlichen Arbeitsablauf, der strukturierte klinische Daten, elektronische Gesundheitsakten und medizinische Bildgebungsdatensätze verarbeiten kann.
  3. Stellen Sie sicher, dass jedes Modul zur Reproduzierbarkeit, Interpretierbarkeit, Skalierbarkeit und standardisierten experimentellen Ausführung beiträgt.
  4. Entwerfen Sie die modulare Architektur so, dass sie kontinuierlichen Datenstrom unterstützt und sicherstellen, dass jede Phase der Pipeline zur Reproduzierbarkeit, Interpretierbarkeit und Skalierbarkeit im gesamten experimentellen Workflow beiträgt.

2. Rechenumgebung und Systemkonfiguration

  1. Installieren Sie die erforderlichen Softwareabhängigkeiten, bevor Sie den Workflow ausführen, indem Sie ein Kommandozeilenterminal öffnen und folgenden Befehl ausführen:
    pip install numpy pandas scikit-learn tensorflow shap lime opencv-python matplotlib seaborn
  2. Überprüfen Sie die erfolgreiche Installation aller Softwarepakete und prüfen Sie die Kompatibilität mit den in der Materialtabelle aufgeführten Softwareversionen, bevor Sie mit der Datenvorverarbeitung und Modellentwicklung fortfahren.
  3. Verwende Python 3.11 als primäre Programmierumgebung. Installieren und konfigurieren Sie NumPy 1.26 und Pandas 2.1 für Datenmanipulation und Feature-Engineering-Aufgaben. Installieren Sie Scikit-learn 1.5 für die Entwicklung und Bewertung von maschinellen Lernmodellen.
  4. Installieren Sie TensorFlow 2.15 für das Training und die Inferenz von Deep-Learning-Modellen. Installiere SHAP 0.46 und LIME 0.2.0 für die Erklärbarkeitsanalyse. Installiere OpenCV 4.10 für Bildverarbeitungsaufgaben. Installiere Matplotlib 3.9 und Seaborn 0.13 für Datenvisualisierung und Ergebnisberichterstattung. Siehe die Materialtabelle für vollständige Softwarespezifikationen und Implementierungsdetails, die für die Reproduzierbarkeit erforderlich sind.
  5. Konfigurieren Sie die Rechenumgebung mit einer Arbeitsstation, die mit einem Multi-Core-Prozessor, GPU-Beschleunigung und ausreichenden Speicherressourcen ausgestattet ist, um große Gesundheitsdatensätze und Deep-Learning-Workloads zu bewältigen.
  6. Setzen Sie feste zufällige Seeds für Datenpartitionierung, Modellinitialisierung und Trainingsverfahren ein, um die Reproduzierbarkeit über experimentelle Durchläufe hinweg sicherzustellen. Logging-Mechanismen ermöglichen, um Datenvorverarbeitungsoperationen, Modellkonfigurationen, Hyperparametereinstellungen, Trainingsverfahren und Bewertungsergebnisse während des gesamten Arbeitsablaufs aufzuzeichnen.
  7. Konfigurieren Sie die Modellarchitekturen, Optimierungsparameter, Lernraten, Batchgrößen, Trainingseinstellungen und Hyperparameterwerte gemäß den in Tabelle 1 zusammengefassten Spezifikationen. Halten Sie diese Einstellungen während der Replikationsexperimente ein, um die Konsistenz mit den gemeldeten Ergebnissen sicherzustellen.
  8. Erwartete Ausgabe – Eine vollständig konfigurierte und reproduzierbare Rechenumgebung mit allen erforderlichen Softwarepaketen, Hardwareressourcen, Protokollmechanismen und Modellkonfigurationseinstellungen, die für nachfolgende Datenvorverarbeitung, Modellentwicklung, Erklärbarkeitsanalyse und Evaluationsverfahren zur Verfügung stehen.
KomponenteParameterWertBeschreibung
Zufälliger Waldn_estimators100Anzahl der Bäume
Zufälliger Waldmax_depthKeineBaumtiefe
XGBoostlearning_rate0.01Lernrate
XGBoostn_estimators100Boost-Geschosse
CNNEpochen25Ausbildungsphasen
CNNbatch_size32Chargengröße
CNNOptimiererAdamOptimierungsalgorithmus
MLPhidden_layers2Anzahl der versteckten Schichten
MLPAktivierungReLUAktivierungsfunktion
Allgemeinestrain_split70%Trainingsdatenverhältnis
Allgemeinesvalidation_split15%Validierungsverhältnis
Allgemeinestest_split15%Testverhältnis

Tabelle 1: Implementierungsdetails und Hyperparameter-Konfiguration.

Diese Tabelle fasst die rechnerische Umgebung, Softwarebibliotheken, Konfigurationen von maschinellen Lern- und Deep-Learning-Modellen, Optimierungseinstellungen, Lernraten, Batch-Größen, Trainingsparameter und Hyperparameterwerte zusammen, die während der experimentellen Bewertung des vorgeschlagenen erklärbaren KI-Frameworks verwendet werden.

3. Vorbereitung und Vorverarbeitung von Datensätzen

  1. Wählen Sie öffentlich verfügbare Gesundheitsdatensätze aus, um Transparenz und Reproduzierbarkeit des experimentellen Arbeitsablaufs zu gewährleisten.;
  2. Verwenden Sie vier repräsentative Gesundheitsszenarien zur Validierung des vorgeschlagenen Rahmens: (i) Brustkrebsdiagnose mit dem Wisconsin Breast Cancer Dataset, (ii) Diabetes-Risikovorhersage mit dem Pima Indians Diabetes Dataset, (iii) klinische Outcome-Vorhersage mit MIMIC-III elektronischen Gesundheitsakten und (iv) Klassifikation thorakaler Erkrankungen mit dem NIH Chest X-ray Dataset. Wählen Sie diese Datensätze, um das Rahmenwerk über strukturierte klinische Akten, longitudinale elektronische Gesundheitsakten und medizinische Bildgebende Verfahren zu bewerten, die häufig in Entscheidungsunterstützungssystemen im Gesundheitswesen verwendet werden.
  3. Importiere jeden Datensatz in die Python-Umgebung und trenne die Datensätze in Eingabefunktionen und Zielvariablen. Organisieren Sie strukturierte klinische Daten für Krankheitsvorhersageaufgaben, elektronische Gesundheitsakten für die Analyse von Längsschnitten und medizinische Bilddatensätze für diagnostische Klassifikationsaufgaben. Überprüfen Sie die Integrität jedes Datensatzes, bevor Sie mit der Vorverarbeitung fortfahren.
  4. Identifizieren und beheben Sie fehlende Werte mit geeigneten Imputationstechniken. Standardisieren Sie numerische Merkmale durch Feature-Skalierung und Normalisierungsverfahren, um Vergleichbarkeit über Variablen hinweg sicherzustellen.
  5. Kodieren Sie kategoriale Variablen mit geeigneten Codierungsmethoden basierend auf den Eigenschaften des Datensatzes. Führen Sie die Merkmalsauswahl mittels Korrelationsanalyse und modellbasierter Merkmalswichtigkeitsmaße durch, um die relevantesten Variablen zu identifizieren und die Datendimensionalität zu reduzieren.
  6. Skalieren Sie alle medizinischen Bilder vor dem Modelltraining auf 224.224 Pixel. Normalisieren Sie die Pixelintensitätswerte entsprechend den Anforderungen der gewählten Deep-Learning-Architektur. Wenden Sie Datenerweiterungstechniken an, einschließlich Bildrotation und horizontalem Flipping, um die Modellverallgemeinerung zu verbessern und Überanpassungen zu reduzieren. Überprüfen Sie die Bildqualität und gewährleisten Sie die Konsistenz der Bildmaße im gesamten Datensatz.
  7. Bewerten Sie die Datenintegrität, indem Sie die Vollständigkeit, Konsistenz und die Ausrichtung der Feature-Labels bewerten. Überprüfen Sie, dass alle Datensätze korrekt ihren jeweiligen Zielklassen zugeordnet sind. Überprüfen Sie die Eigenschaften des Datensatzes, einschließlich Stichprobengröße, Funktionsanzahl und Datenmodalität, wie sie in Tabelle 2 zusammengefasst sind.
  8. Implementierung datensatzspezifischer Validierungsverfahren, um methodische Strenge und Reproduzierbarkeit sicherzustellen. Erfassen Sie die Stichprobengröße, die Klassenverteilung, die Zug-Validierungs-Test-Split-Strategie, Maßnahmen zur Leckvermeidung, die Hyperparameter-Optimierungsverfahren, das Kreuzvalidierungsdesign und das externe Testprotokoll für jeden Datensatz. Fassen Sie diese Validierungsverfahren in Tabelle 3 zusammen.
  9. Durchführung von Qualitätskontrollprüfungen vor der Verarbeitung durch Bewertung fehlender Werte, Entfernung von Ausreißern, Feature-Skalierung, kategorialer Codierung, Klassenverteilungsbewahrung und Datensatz-Partitionierungsverfahren. Überprüfen Sie, dass Vorverarbeitungsoperationen über alle Datensätze hinweg einheitlich angewendet werden.
  10. Bestätigen Sie das Fehlen erheblicher Datenlecks während der Datensatz-Partitionierung. Überprüfen Sie die in Abbildung 1 dargestellten Ergebnisse der Vorverarbeitungsvalidierung, um sicherzustellen, dass standardisierte Datensätze für nachfolgende maschinelles Lernen und Erklärbarkeitsanalysen generiert wurden.
  11. Erwartete Ausgabe – Generiere bereinigte und standardisierte Datensätze mit fehlenden Werten, die entsprechend adressiert sind, kategorische Variablen kodiert, numerische Merkmale normalisiert und Datensätze in Trainings-, Validierungs- und Testteilmengen aufgeteilt werden. Stellen Sie sicher, dass Datensatzmerkmale, Klassenverteilungen und Validierungsverfahren mit denen in Tabelle 2 und Tabelle 3 berichtet werden, und bestätigen Sie die erfolgreiche Vorverarbeitungsvalidierung wie in Abbildung 1 dargestellt.
DatensatzTypSamplesMerkmaleZiel
BrustkrebsTabular56930Gutartig/bösartig
DiabetesTabular7688Diabetes-Ergebnis
MIMIC-IIIEHR~60.000Klinische VariablenSterblichkeit
Röntgenbild des BrustkorbsBildgebung~112.000BilderKrankheitsetiketten

Tabelle 2: Datensatzmerkmale und Anwendungsfälle im Gesundheitswesen.

Diese Tabelle bietet eine Zusammenfassung der in der Studie verwendeten Gesundheitsdatensätze, einschließlich Datensatztyp, Anzahl der Stichproben, Anzahl von Merkmalen, Zielvariablen, Anwendungsbereich im Gesundheitswesen und zugehörigen klinischen Anwendungsfällen. Die Datensätze umfassen strukturierte klinische Akten, elektronische Gesundheitsakten und medizinische Bildgebungsdaten, um die Anwendbarkeit des Rahmenwerks in verschiedenen Gesundheitsanalyseszenarien zu demonstrieren.

DatensatzStichprobengrößeKlassenverteilungSplit-StrategieLeckverhinderungHyperparametersucheKreuzvalidierungExterner Test
Brustkrebs (UCI, Wisconsin)569357 Gutartig / 212 Bösartig70/15/15Reine Zug-VorverarbeitungGittersuche5-facher geschichteter LebenslaufUnabhängige Holdout-Menge
Pima-Indianer Diabetes768500 Nicht-Diabetiker / 268 Diabetiker70/15/15Reine Zug-VorverarbeitungGittersuche5-facher geschichteter LebenslaufUnabhängige Holdout-Menge
MIMIC-III EHR5274Ergebnisstratifizierte Kohorten15.70.15 PatientenebenePatienten-TrennungZufällige Suche5-facher Patienten-LebenslaufUnabhängige Holdout-Menge
NIH-Röntgenbild des Brustkorbs112120Lungenentzündung/Normal geschichtet70/15/15Bildniveau-TrennungZufällige Suche5-facher geschichteter LebenslaufUnabhängige Holdout-Menge

Tabelle 3: Validierung auf Datensatzebene und experimentelles Design.

Diese Tabelle fasst die für jeden Datensatz verwendete Validierungsmethodik zusammen, einschließlich Stichprobengröße, Klassenverteilung, Train-Validation-Test-Split-Strategie, Leckvermeidungsverfahren, Hyperparameter-Optimierungsmethoden, Cross-Validation-Design und externen Testprotokollen. Diese Maßnahmen wurden umgesetzt, um methodische Strenge, Reproduzierbarkeit und unvoreingenommene Modellbewertung sicherzustellen.

figure-protocol-1
Abbildung 1: Validierung der Daten-Vorverarbeitungspipeline.
Validierungsergebnisse für wichtige Vorverarbeitungsoperationen, die vor der Modellentwicklung durchgeführt wurden. (A) Analyse fehlender Werte über repräsentative Gesundheitsmerkmale hinweg. (B) Verteilung einer numerischen Variablen vor und nach der Behandlung von Ausreißern. (C) Feature-Skalierungsvalidierung mittels Standardisierung. (D) Kategorische Codierungsvalidierung. (E) Klassenverteilung nach Vorverarbeitung. (F) Validierung der Zug-Validierungs-Test-Datenpartitionierung. Diese Ergebnisse bestätigen eine erfolgreiche Vorverarbeitung und Vorbereitung der Datensätze für prädiktive Modellierung und Erklärbarkeitsanalyse. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

4. Systemarchitektur des erklärbaren KI-Frameworks

  1. Organisieren Sie das Framework mit einer geschichteten Architektur, um modulare Verarbeitung zu erleichtern, die Workflow-Transparenz zu verbessern und reproduzierbare Implementierungen zu unterstützen. Konfigurieren Sie die Data Layer so, dass sie rohe Gesundheitsdatensätze empfängt und verwaltet. Routen Sie alle eingehenden Datensätze durch die Datenschicht, bevor Sie die Vorverarbeitung einleiten.
  2. Führen Sie Datenreinigung, Transformation, Normalisierung, Feature Engineering und Codierung innerhalb der Preprocessing-Schicht durch. Stellen Sie sicher, dass alle Vorverarbeitungsoperationen vor der Modellentwicklung abgeschlossen sind.
  3. Entwicklung prädiktiver Modelle innerhalb der Modellierungsschicht unter Verwendung von maschinellen Lern- und Deep-Learning-Algorithmen. Train Gradient Boosting, Random Forest, Multilayer Perceptron (MLP) und Convolutional Neural Network (CNN)-Modelle unter Verwendung der vorverarbeiteten Datensätze und optimierter Hyperparameterkonfigurationen.
  4. Wenden Sie Erklärbarkeitstechniken innerhalb der Erklärbarkeitsschicht an, um Modellvorhersagen zu interpretieren. Erstellen Sie Feature-Attributions-Erklärungen mit SHAP und LIME für strukturierte Datensätze. Erstellen Sie Grad-CAM-Heatmaps für bildbasierte Modelle, um Regionen zu visualisieren, die zur Modellvorhersage beitragen.
  5. Bewertung der prädiktiven und erklärbaren Leistung innerhalb der Evaluationsschicht. Berechnen Sie Genauigkeit, Präzision, Rückruf, F1-Score, ROC-AUC, Fidelity, Stabilität und klinikerzentrierte Bewertungsmetriken. Erfassen Sie alle Evaluationsergebnisse für die anschließende Analyse und Berichterstattung.
  6. Generiere klinisch interpretierbare visuelle Ausgaben innerhalb der Visualisierungsschicht. Erstellen Sie Leistungsvergleichsdiagramme, feature-wichtige Visualisierungen, SHAP-Zusammenfassungsdiagramme, LIME-Erklärungen, Grad-CAM-Heatmaps und klinikerorientierte Berichts-Dashboards. Speichere alle visuellen Ausgaben für die Aufnahme in den abschließenden experimentellen Bericht.
  7. Überprüfen Sie die vollständige Framework-Architektur, die in Abbildung 2 dargestellt ist, bevor Sie mit der Workflow-Ausführung fortfahren.
  8. Erwartetes Ergebnis – Vollständig trainierte Machine-Learning- und Deep-Learning-Modelle erstellen, einschließlich Gradient Boosting, Random Forest, CNN und MLP-Architekturen. Speichere Modellkonfigurationen, optimierte Hyperparameter, Trainingsprotokolle, Checkpoint-Dateien, Erklärbarkeitsausgaben und Visualisierungsartefakte für nachfolgende Evaluation und Interpretierbarkeitsanalyse.

figure-protocol-2
Abbildung 2: Systemarchitektur des erklärbaren KI-Frameworks für Gesundheitsanalytik. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

5. Workflow-Ausführung

  1. Beziehen Sie Gesundheitsdatensätze aus öffentlich verfügbaren Repositories und speichern Sie diese in strukturierten Formaten, die für maschinelles Lernen und Deep-Learning-Analysen geeignet sind. Überprüfen Sie den vollständigen Arbeitsablauf, der in Abbildung 3 dargestellt ist, bevor Sie das experimentelle Verfahren einleiten.
  2. Führen Sie Datenreinigung und Vorverarbeitung gemäß den in Abschnitt 3 beschriebenen Verfahren durch. Normalisieren Sie numerische Variablen mit geeigneten Skalierungsmethoden. Kodieren Sie kategoriale Variablen mit geeigneten Codierungstechniken. Identifizieren und imputieren Sie fehlende Werte mithilfe datensatzspezifischer Imputationsstrategien. Überprüfen Sie die Datenqualität, die Ausrichtung der Feature-Labels und die Vollständigkeit des Datensatzes, bevor Sie mit der Modellentwicklung fortfahren.
  3. Teile jeden Datensatz in Trainings-, Validierungs- und Testteilmengen auf, um eine unvoreingenommene Modellevaluierung zu unterstützen. Klassenverteilungen während der Datensatzaufteilung bewahren und gegebenenfalls Maßnahmen zur Vermeidung von Leckabflügen implementieren. Reservieren Sie die Test-Teilmenge ausschließlich für die endgültige Modellbewertung.
  4. Trainieren Sie Machine-Learning-Modelle auf strukturierten Datensätzen mit Ensemble-basierten Algorithmen, darunter Gradient Boosting und Random Forest. Trainieren Sie Deep-Learning-Modelle auf Bilddatensätzen mit Convolutional Neural Network (CNN)-Architekturen, die räumliche Bildmerkmale lernen können. Aktualisieren Sie die Modellparameter iterativ während des Trainings und überwachen Sie die Validierungsleistung nach jeder Trainingsphase. Führen Sie frühzeitige Stopps an, wenn die Validierungsleistung sich verschlechtert oder sich gemäß den vordefinierten Stoppkriterien nicht verbessert.
  5. Optimieren Sie Modellhyperparameter mithilfe systematischer Suchstrategien, einschließlich Gittersuche und randomisierter Suche. Anpassen Sie die Lernrate, die Anzahl der Schätzer, die Baumtiefe, die Batchgröße, die Anzahl der Epochen und andere modellspezifische Parameter entsprechend der Validierungsleistung. Wählen Sie das endgültige Modell basierend auf der prädiktiven Leistung und der Verallgemeinerungsfähigkeit über Validierungsdatensätze hinweg.
  6. Wenden Sie Erklärbarkeitsmethoden nach Abschluss des Modelltrainings an. Generiere globale Erklärungen mit Feature-Attributionstechniken, um Variablen zu identifizieren, die am stärksten zur Modellvorhersage beitragen. Lokale Erklärungen generieren, um einzelne Vorhersagefälle zu analysieren und das Modellverhalten auf Stichprobenebene zu bewerten. Erstellen Sie Grad-CAM-Heatmaps für Bildklassifikationsmodelle, um Bildbereiche hervorzuheben, die zum vorhergesagten Ergebnis beitragen. Speichere alle Erklärungsausgaben für spätere Analyse und Berichterstattung.
  7. Bewerten Sie die prädiktive Leistung anhand von Genauigkeit, Präzision, Rückruf, F1-Wert und der Empfänger-Betriebscharakteristik unter der Kurve (ROC-AUC). Beurteile die Erklärungsqualität anhand von Fidelity- und Stabilitätsmetriken, um die Zuverlässigkeit und Konsistenz der Erklärungen zu bewerten. Vergleichen Sie die Modellleistung über Datensätze und Erklärbarkeitsmethoden hinweg, um die Robustheit und Generalisierbarkeit des Frameworks zu bewerten.
  8. Erzeugen Sie Visualisierungsergebnisse und analytische Berichte, um Ergebnisse klinisch interpretierbar zu kommunizieren. Erstellen Sie Leistungsvergleichsdiagramme, Feature-Importance Plots, SHAP-Zusammenfassungsvisualisierungen, LIME-Erklärungsausgaben, Grad-CAM-Heatmaps und andere klinisch relevante Visualisierungen. Überprüfen Sie alle visuellen Ergebnisse, um Klarheit und Konsistenz vor der Meldung sicherzustellen.
  9. Dokumentieren Sie alle Vorverarbeitungsoperationen, Modellkonfigurationen, Hyperparametereinstellungen, Erklärbarkeitsverfahren, Validierungsstrategien und Bewertungsergebnisse. Führen Sie detaillierte experimentelle Datensätze, um die Reproduzierbarkeit und unabhängige Replikation des Arbeitsablaufs zu erleichtern. Überprüfen Sie die Konsistenz der Ergebnisse über wiederholte Versuche hinweg und archivieren Sie alle Workflow-Artefakte für zukünftige Referenz.
  10. Erwartete Ausgabe – Erstelle eines vollständig trainierten prädiktiven Modells mit optimierten Hyperparametern, gespeicherten Modellgewichten, Trainingsprotokollen, Leistungsmetriken und Erklärbarkeitsausgaben, einschließlich SHAP-Erklärungen, LIME-Erklärungen und Grad-CAM-Heatmaps. Speichern Sie alle Modellartefakte, Evaluierungsberichte und Visualisierungsausgaben für die spätere Analyse und Reproduzierbarkeitsbewertung.

figure-protocol-3
Abbildung 3: End-to-End-Workflow der erklärbaren KI-Pipeline. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

6. Modellbewertung und Erklärbarkeitsbewertung

  1. Bewertung der prädiktiven Modellleistung unter Verwendung standardisierter Klassifikationskennzahlen, einschließlich Genauigkeit, Präzision, Rückruf, F1-Wert und Empfänger-Betriebscharakteristik unter der Kurve (ROC-AUC). Berechnen Sie die Genauigkeit, um die Gesamtkorrektheit der Klassifikation zu messen.
  2. Berechnen Sie Präzision, um den Anteil korrekt identifizierter positiver Vorhersagen zu bewerten. Berechnen Sie den Rückruf, um die Fähigkeit des Modells zur Identifizierung positiver Fälle zu bewerten. Berechnen Sie den F1-Score, um Präzision und Rückruf auszubalancieren. Berechnen Sie ROC-AUC, um diskriminierende Leistung über verschiedene Klassifikationsschwellen hinweg zu bewerten.
  3. Wenden Sie diese Evaluationskennzahlen konsistent über alle Datensätze und Modellarchitekturen hinweg an, um einen objektiven Leistungsvergleich zu erleichtern. Alle Metrikwerte werden erfasst und die Bewertungsergebnisse für die anschließende statistische Analyse und Berichterstattung gespeichert.
  4. Bewertung der Erklärbarkeitsleistung anhand von Fidelity- und Stabilitätsmetriken. Berechnen Sie die Treue, um zu bestimmen, inwieweit die generierten Erklärungen die Modellvorhersagen und das Entscheidungsverhalten genau widerspiegeln.
  5. Berechnen Sie die Stabilität, indem Sie Erklärungen aus ähnlichen Eingabeproben vergleichen und die Konsistenz der Erklärungsausgaben quantifizieren. Überprüfen Sie, ob Treue- und Stabilitätswerte die vordefinierten Qualitätskriterien erfüllen, bevor Sie die Modellerklärungen interpretieren.
  6. Vergleichen Sie die Erklärbarkeitsleistung zwischen SHAP-, LIME- und Grad-CAM-Ausgaben.
  7. Erwartetes Ergebnis – Generiere quantitative Bewertungsergebnisse, einschließlich Genauigkeit, Präzision, Rückruf, F1-Score, ROC-AUC, Genauigkeit und Stabilitätsmetriken. Erstellen Sie Erklärbarkeitsausgaben und Visualisierungen, die sich für wissenschaftliche Berichterstattung, Reproduzierbarkeitsbewertung und klinische Interpretation eignen.

7. Menschzentrierte Bewertung

  1. Rekrutieren Sie 12 medizinische Fachkräfte, bestehend aus 6 Ärzten, 3 Radiologen und 3 klinischen Datenanalysten. Wählen Sie Teilnehmer mit vorheriger Erfahrung in klinischer Entscheidungsfindung, Interpretation medizinischer Bilder, Gesundheitsanalyse oder Überprüfung elektronischer Patientenakten aus. Holen Sie vor Beginn des Bewertungsverfahrens die informierte Zustimmung aller Teilnehmer ein.
  2. Wählen Sie nach Abschluss des Modelltrainings und der Erklärbarkeitsanalyse zufällig 100 Fälle aus den Testdatensätzen aus. Erzeugen Sie für jeden Fall zwei Bewertungsbedingungen:
    1. Nur vorhersagebasierte Ausgabe und
    2. Vorhersage, begleitet von Erklärbarkeitsinformationen. Randomisieren Sie die Präsentationsreihenfolge der Fälle und Bewertungsbedingungen, um Präsentationsverzerrung und Lerneffekte zu minimieren.
  3. Erstelle standardisierte Bewertungsformulare mit Vorhersage-Ergebnissen, Erklärungsergebnissen und Fragebögen. Präsentieren Sie Fälle einzeln den Teilnehmern mittels einer computergestützten Bewertungsoberfläche.
  4. Weisen Sie die Teilnehmer an, jeden Fall unabhängig zu prüfen, ohne die Antworten mit anderen Evaluatoren zu besprechen. Ermöglichen Sie den Teilnehmern, alle Bewertungen unter identischen experimentellen Bedingungen durchzuführen.
  5. Führen Sie einen fünfpunktigen Likert-Fragebogen durch, der aus veröffentlichten erklärbaren Studien zur Bewertung künstlicher Intelligenz adaptiert ist. Weisen Sie die Teilnehmer an, Vertrauen, Interpretierbarkeit und Benutzerfreundlichkeit für jeden überprüften Fall zu bewerten. Erfassen Sie die Fragebogenantworten elektronisch und überprüfen Sie das Ausfüllen aller Umfragepunkte, bevor Sie mit der statistischen Analyse beginnen.
  6. Messung der objektiven Indikatoren der klinischen Nützlichkeit während des Bewertungsprozesses. Zeichnen Sie Entscheidungsvereinbarung auf, indem Sie die Entscheidungen der Teilnehmer mit den entsprechenden Referenzlabels oder Ground-Truth-Ergebnissen vergleichen. Berechnen Sie Entscheidungsübereinstimmung als den Prozentsatz der Teilnehmerentscheidungen, die mit dem Referenzergebnis übereinstimmen.
  7. Erfassen Sie die Überprüfungszeit für jeden Fall, indem Sie das Intervall zwischen der Fallpräsentation und der Abgabe der endgültigen Antwort messen. Berechnen Sie die durchschnittliche Überprüfungszeit separat für Bedingungen mit reiner Vorhersage und Vorhersage mit Erklärung.
  8. Berechnen Sie die mittleren Vertrauens-, Interpretierbarkeits- und Usability-Werte aller Teilnehmer und Evaluationsfälle. Vergleichen Sie Werte, die unter Prognose-only- und Prediction-with-explanation-Bedingungen erzielt wurden.
  9. Führen Sie nach Abschluss aller Teilnehmerbewertungen gepaarte t-Tests durch, um festzustellen, ob Unterschiede in Vertrauen, Interpretierbarkeit, Nutzbarkeit, Entscheidungsvereinbarung und Überprüfungszeit statistisch signifikant sind. Verwenden Sie für alle statistischen Vergleiche eine Signifikanzschwelle von p 0,05.
  10. Berechnen Sie Fleiss Kappa, nachdem Sie Antworten aller Teilnehmer gesammelt haben, um die Übereinstimmung zwischen den Bewertern zu bewerten. Verwenden Sie die aggregierten Teilnehmerbewertungen, um die Konsistenz der Bewertungen zwischen den Prüfern zu bestimmen. Interpretieren Sie die Fleiss-Kappa-Werte gemäß festgelegten Vereinbarungsrichtlinien und erfassen Sie die daraus resultierenden Vereinbarungsstatistiken.
  11. Zusammenfassen Sie die Teilnehmerdemografie, die Bewertungsmethodik, das Fragebogendesign, statistische Analyseverfahren, objektive Leistungskennzahlen und die Ergebnisse der Übereinstimmung zwischen den Bewertern in Tabelle 4.
  12. Überprüfen Sie die Modellergebnisse unter beiden Bewertungsbedingungen und vergleichen die Antworten der Teilnehmer über die Bedingungen hinweg. Überprüfen Sie, dass Erklärungen das Vertrauen, die Interpretierbarkeit und die Benutzerfreundlichkeit verbessern, ohne die Entscheidungsqualität negativ zu beeinflussen.
  13. Bestätigen Sie die Konsistenz der Teilnehmerbewertungen anhand der berechneten Fleiss-Kappa-Statistik. Protokollieren Sie alle Evaluationsergebnisse für die spätere Berichterstattung und Reproduzierbarkeitsbewertung.
  14. Erwartetes Ergebnis – Erstelle von Vertrauenswerten der Kliniker, Interpretierbarkeitsbewertungen, Usability-Bewertungen, Entscheidungs-Vereinbarungsmaße, Überprüfungszeitstatistiken, gepaarten T-Testergebnissen und Inter-Rater-Vereinbarungsstatistiken. Erstellen Sie quantitative Belege, die die klinische Nützlichkeit, Interpretierbarkeit und Vertrauenswürdigkeit des erklärbaren KI-Systems beschreiben.
ParameterWert
Experten12
Ärzte6
Radiologen3
Klinische Datenanalysten3
Überprüfte Fälle100
BewertungsdesignRandomisiert (nur Vorhersage vs. Vorhersage+Erklärung)
Vermessungsinstrument5-Punkt-Likert-Skala
TreuhandbewertungInterpretierbarkeit, Vertrauen, Benutzerfreundlichkeit
Statistischer TestGepaarter t-Test (p 0,05)
Inter-Rater-ZuverlässigkeitFleiss Kappa
Zielstellende MaßnahmenEntscheidungsvereinbarung, Überprüfungszeit

Tabelle 4: Menschzentriertes Bewertungsprotokoll und Behandlungsdesign des Klinikers.

Diese Tabelle zeigt das Bewertungsrahmen für Kliniker, das zur Bewertung der Interpretierbarkeit, Vertrauenswürdigkeit und Benutzerfreundlichkeit des erklärbaren KI-Systems verwendet wird. Informationen zu Teilnehmerdemografie, Fallbegutachtungsmethodik, Umfragedesign, statistischen Analyseverfahren, Inter-Rater-Zuverlässigkeitsbewertung und objektiven Bewertungsmaßnahmen werden zusammengefasst.

8. Validierungs- und Reproduzierbarkeitsbewertung

  1. Führen Sie Validierungs- und Ablationsstudien durch, um die Robustheit und Zuverlässigkeit des vorgeschlagenen Rahmens zu bewerten. Identifizieren Sie Merkmale mit hohen Wichtigkeitswerten mithilfe der ausgewählten Erklärbarkeitsmethoden. Entfernen Sie wichtige Merkmale schrittweise und trainieren Sie die prädiktiven Modelle nach jedem Feature-Entfernungsschritt neu.
  2. Bewerten Sie die Modellleistung nach jedem Ablationsexperiment anhand von Genauigkeit, Präzision, Rückruf, F1-Wert und ROC-AUC-Metriken. Vergleichen Sie die resultierenden Leistungswerte mit der Basismodellleistung, um den Beitrag einzelner Merkmale zu prädiktiven Ergebnissen zu bestimmen.
  3. Bewerten Sie die Stabilität der Erklärungen, indem Sie Erklärungen für ähnliche Eingabeproben mit SHAP, LIME und Grad-CAM erstellen. Vergleichen Sie Erklärungsausgaben über wiederholte Auswertungen hinweg und quantifizieren Sie die Konsistenz mit den vordefinierten Stabilitätsmetriken. Überprüfen Sie, dass die Erklärungen auch bei geringfügigen Eingabeschwankungen und wiederholten experimentellen Durchläufen stabil bleiben.
  4. Zeichnen Sie alle experimentellen Verfahren während des gesamten Arbeitsablaufs auf. Dokumentieren Sie Datenvorverarbeitungsoperationen, Verfahren zur Partitionierung von Datensätzen, Modellarchitekturen, Hyperparametereinstellungen, Trainingskonfigurationen, Erklärbarkeitsmethoden, Validierungsstrategien und Evaluationsmetriken. Speichere alle Konfigurationsparameter und experimentellen Ausgaben in einem strukturierten Format, um Reproduzierbarkeit und unabhängige Verifikation zu erleichtern.
  5. Überprüfen Sie alle experimentellen Datensätze, um Vollständigkeit und Konsistenz sicherzustellen. Überprüfen Sie, dass der Arbeitsablauf mit den dokumentierten Verfahren, Konfigurationsdateien und Softwarespezifikationen replizierbar ist. Eine modulare Workflow-Struktur aufrechterhalten, um die Anpassung des Protokolls für zukünftige Studien zu erleichtern und die Umwandlung in ein videobasiertes experimentelles Protokoll im Einklang mit den JoVE-methodologischen Anforderungen zu unterstützen.

9. Reproduzierbarkeitsressourcen

  1. Alle Experimente werden mit festen zufälligen Seeds durchgeführt, um reproduzierbare Ergebnisse über wiederholte Durchläufe hinweg zu gewährleisten. Quellcode, Vorverarbeitungsskripte, Konfigurationsdateien, Umgebungsspezifikationen, Modellparameter und Visualisierungsskripte in einem öffentlich zugänglichen Repository pflegen.
  2. Bereitstellen Sie detaillierte Anweisungen für Datensatzerfassung, Vorverarbeitung, Experimentausführung, Modelltraining, Erklärbarkeitsgenerierung, Validierungsverfahren und Regenerierung aller gemeldeten Tabellen und Abbildungen. Archivieren Sie alle für die unabhängige Replikation erforderlichen Workflow-Komponenten, einschließlich Softwarespezifikationen, Vorverarbeitungsworkflows, Konfigurationsdateien, Datensatzzugriffsanweisungen, Modell-Checkpoints und Visualisierungsressourcen.
  3. Fassen Sie die Softwareressourcen, Vorverarbeitungs-Workflows, Konfigurationsdateien, Datensatzzugriffsanweisungen und Reproduzierbarkeitsressourcen im gesamten Framework in Tabelle 5 zusammen.
  4. Erwartete Ausgabe – Erstellen Sie ein vollständiges, reproduzierbares experimentelles Paket, das Vorverarbeitungsskripte, Konfigurationsdateien, trainierte Modellmodelle, Modellkontrollpunkte, Erklärungsausgaben, Validierungsberichte, Visualisierungsartefakte, Softwarespezifikationen und Dokumentation enthält, die für die unabhängige Replikation und Überprüfung des vorgeschlagenen Frameworks notwendig sind.
RessourceBeschreibung
QuellcodePython-Implementierungsskripte für Datenvorverarbeitung, Modelltraining, Erklärbarkeit und Bewertung
Umgebungsdateirequirements.txt, die Paketabhängigkeiten und -versionen enthalten
KonfigurationsdateienModellarchitektureinstellungen, Hyperparameter und Experimentkonfigurationen
Behobene zufällige SeedsSeed = 42 verwendet für reproduzierbare Experimente
DatensatzzugriffsanweisungenLinks und Verfahren zur Beschaffung öffentlicher Gesundheitsdatensätze
VorverarbeitungsskripteSkripte für Datenbereinigung, Normalisierung, Codierung und Feature-Auswahl
FigurengenerierungsskripteSchriften zur Regenerierung aller Manuskriptfiguren
TabellengenerierungsskripteSkripte zur Reproduktion berichteter Tabellen und Metriken
BeispieleingabenBeispieldatensätze und Eingabedateien
BeispielausgabenVorhersageergebnisse, Erklärungen und Bewertungsberichte

Tabelle 5: Reproduzierbarkeitsressourcen und experimentelle Ressourcen.

Diese Tabelle fasst die bereitgestellten Ressourcen zur Unterstützung der experimentellen Reproduzierbarkeit zusammen, darunter Quellcode, Vorverarbeitungsskripte, Konfigurationsdateien, Umweltspezifikationen, Datensatzzugriffsanweisungen, feste zufällige Seed-Einstellungen, Figurengenerierungsskripte sowie Beispiel-Eingabe-/Ausgabedateien, die zur Reproduktion der gemeldeten Ergebnisse erforderlich sind.

Zugriff eingeschränkt. Bitte melden Sie sich an oder starten Sie eine Testversion, um diesen Inhalt anzuzeigen.

Ergebnisse

Wir haben die erklärende KI-Komponente unserer gesamten Pipeline gründlich bewertet und bewertet, wie gut sie sich über verschiedene Arten von Gesundheitsdaten, einschließlich strukturierter klinischer Daten und medizinischer Bilder, vorhersagt. Die Ergebnisse zeigten eine konsistente prädiktive Leistung über die bewerteten Datensätze hinweg. Unter den getesteten Modellen erzielte das Gradient-Boosting-Modell mit 97,4 % die höchste Genauigkeit, gefolgt vom Random Forest-Modell mit 94,2 %...

Zugriff eingeschränkt. Bitte melden Sie sich an oder starten Sie eine Testversion, um diesen Inhalt anzuzeigen.

Diskussion

Diese Studie entwickelte und bewertete einen reproduzierbaren erklärbaren Künstlichen Intelligenz-(XAI)-Workflow für Gesundheitsanalytik, der prädiktive Modellierung, Erklärbarkeitsbewertung, klinikerzentrierte Bewertung und Reproduzierbarkeitsressourcen in einem einzigen Protokoll integriert. Die Ergebnisse zeigten, dass ensemblebasierte maschinelle Lernmodelle, insbesondere Gradient Boosting und Random Forest, die höchste prädiktive Leistung auf den bewerteten strukturierten Gesundheit...

Zugriff eingeschränkt. Bitte melden Sie sich an oder starten Sie eine Testversion, um diesen Inhalt anzuzeigen.

Offenlegungen

Die Autoren erklären, dass sie keine konkurrierenden finanziellen Interessen oder Interessenkonflikte im Zusammenhang mit diesem Werk haben. Die Forschung wurde unabhängig durchgeführt, ohne kommerzielle oder finanzielle Beziehungen, die als potenzieller Interessenkonflikt ausgelegt werden könnten.

Offenlegung der Nutzung von Künstlicher Intelligenz

Künstliche Intelligenz wurde zur Sprachverfeinerung, Grammatikprüfung und redaktioneller Unterstützung während der Manuskriptvorbereitung eingesetzt. Alle wissenschaftlichen Inhalte, das experimentelle Design, die Datenanalyse, die Interpretation und die endgültige Manuskriptverifikation wurden von den Autoren durchgeführt. Die Autoren überprüften und validierten alle KI-unterstützten Ausgaben, um Genauigkeit, Integrität und Einhaltung der Zeitschriftenrichtlinien sicherzustellen.

Danksagungen

Die Autoren möchten ihren jeweiligen Institutionen danken, dass sie die notwendige Infrastruktur und Forschungsunterstützung für die Durchführung dieser Studie bereitgestellt haben. Die Autoren erkennen auch die Verwendung öffentlich zugänglicher Datensätze und Open-Source-Tools an, die die Entwicklung und Bewertung des vorgeschlagenen erklärbaren KI-Frameworks erleichterten. Ein besonderer Dank gilt den Fachexperten, die während der menschenzentrierten Evaluationsphase wertvolle Einblicke geliefert haben.

Zugriff eingeschränkt. Bitte melden Sie sich an oder starten Sie eine Testversion, um diesen Inhalt anzuzeigen.

Materialien

Liste der in diesem Artikel verwendeten Materialien
NameUnternehmenKatalognummerKommentare
GPU WorkstationHerstellerabhängigNicht verfügbarTraining von Deep-Learning-Modellen
Jupyter NotebookProject JupyterNeueste stabile VersionInteraktive Experimentausführung
LIMELIMEVersion 0.2.0Lokale interpretierbare Erklärungen
MatplotlibMatplotlib-ProjektVersion 3.9Datenvisualisierung
MIMIC-III DatenbankPhysioNetVersion 1.4Analyse elektronischer Gesundheitsakten
NIH Chest X-ray DatasetNIH Clinical CenterÖffentlicher DatensatzKlassifikation von Brusterkrankungen
NumPyNumPy EntwicklerVersion 1.26Numerisches Rechnen und Array-Operationen
OpenCVOpenCV FoundationVersion 4.10Bildvorverarbeitung
PandasPandas Development TeamVersion 2.1Datenmanipulation und -vorverarbeitung
Pima Indians Diabetes DatasetUCI Machine Learning RepositoryÖffentlicher DatensatzVorhersage des Diabetes-Risikos
Python 3.11Python Software FoundationVersion 3.11Primäre Programmierumgebung
Scikit-learnscikit-learnVersion 1.5Maschinelles Lernen Algorithmen und Bewertung
SeabornSeabornVersion 0.13Statistische Visualisierung
SHAPSHAPVersion 0.46Feature-Attribution und Erklärbarkeit
TensorFlowTensorFlowVersion 2.15Entwicklung von Deep-Learning-Modellen
Windows / Ubuntu LinuxMicrosoft / CanonicalNicht verfügbarBetriebssystem
Wisconsin Breast Cancer DatasetUCI Machine Learning RepositoryÖffentlicher DatensatzBrustkrebsdiagnose

Referenzen

  1. Lundberg SM, et al. From local explanations to global understanding with explainable AI for trees. Nat Mach Intell. 2020;2(1):56-67.
  2. Ribeiro MT, Singh S, Guestrin C. Why should I trust you. Explaining the predictions of any classifier. Presented at: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; 2016. p. 1135-44. doi:10.1145/2939672.2939778.
  3. Selvaraju RR, et al. Grad-CAM: Visual explanations from deep networks via gradient-based localization. Int J Comput Vis. 2020;128(2):336-59.
  4. Tjoa E, Guan C. A survey on explainable artificial intelligence: Toward medical XAI. IEEE Trans Neural Netw Learn Syst. 2021;32(11):4793-813.
  5. Samek W, et al. Explainable AI: Interpreting, Explaining and Visualizing Deep Learning. Springer; Cham; 2019.
  6. Arrieta AB, et al. Explainable artificial intelligence: Concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 2020;58:82-115.
  7. Holzinger A, et al. Causability and explainability of artificial intelligence in medicine. Wiley Interdiscip Rev Data Min Knowl Discov. 2020;10(5):e1312.
  8. Topol E. Deep medicine: How artificial intelligence can make healthcare human again. Nat Med. 2020;25:44-56.
  9. Esteva A, et al. A guide to deep learning in healthcare. Nat Med. 2019;25(1):24-9.
  10. Rajpurkar P, Chen E, Banerjee O, Topol EJ. AI in health and medicine. Nat Med. 2022;28:31-38.
  11. Doshi-Velez F, Kim B. Towards a rigorous science of interpretable machine learning. arXiv. 2021. doi:10.48550/arXiv.1702.08608.
  12. Molnar C. Interpretable Machine Learning. Lulu Press; 2022.
  13. Rudin C. Stop explaining black box machine learning models for high-stakes decisions and use interpretable models instead. Nat Mach Intell. 2019;1(5):206-15.
  14. Zhang Q, Zhu S. Visual interpretability for deep learning: A survey. Front Inf Technol Electron Eng. 2020;21:27-39.
  15. Holzinger A, Biemann C, Pattichis CS, Kell DB. What do we need to build explainable AI systems for the medical domain. arXiv. 2020. Available at: https://arxiv.org/abs/1712.09923.
  16. McDermott MB, et al. Reproducibility in machine learning for health. Nat Med. 2021;27:1016-23.
  17. Kelly CJ, et al. Key challenges for delivering clinical impact with AI. BMC Med. 2019;17:195.
  18. Ahmad MA, Teredesai A, Eckert C. Interpretable machine learning in healthcare. Proc ACM Conf Health Inference Learn. 2021;4:1-7.
  19. Ghassemi M, Oakden-Rayner L, Beam AL. The false hope of current approaches to explainable AI in healthcare. Lancet Digit Health. 2021;3(11):e745-50.
  20. Carvalho DV, Pereira EM, Cardoso JS. Machine learning interpretability: A survey on methods and metrics. Inf Fusion. 2020;58:82-115.
  21. Chen RJ, et al. Synthetic data in healthcare: A narrative review. Nat Biomed Eng. 2021;5:493-97.
  22. Zhou B, et al. Learning deep features for discriminative localization. Presented at: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition; 2016. p. 2921-29.
  23. Vellido A. The importance of interpretability and visualization in machine learning for applications in medicine and health care. Expert Syst Appl. 2020;146:113222.
  24. Lipton ZC. The mythos of model interpretability. Commun ACM. 2018;61(10):36-43.
  25. Guidotti R, et al. A survey of methods for explaining black box models. ACM Comput Surv. 2018;51(5):93.
  26. Suresh H, Guttag J. A framework for understanding unintended consequences of machine learning. Commun ACM. 2021;64(12):42-50.
  27. Wiens J, et al. Do no harm: A roadmap for responsible machine learning for health care. Nat Med. 2019;25(9):1337-40.
  28. Rajkomar A, Dean J, Kohane I. Machine learning in medicine. N Engl J Med. 2019;380(14):1347-58.
  29. Lundberg SM, Lee SI. A unified approach to interpreting model predictions. Presented at: Advances in Neural Information Processing Systems. 2017;30:4765-74.
  30. Agarwal R, et al. Neural additive models: Interpretable machine learning with neural nets. Presented at: Advances in Neural Information Processing Systems. 2021;34:4699-711.
  31. Singh C, Murdoch WJ, Yu B. Hierarchical interpretations for neural network predictions. Proc Natl Acad Sci U S A. 2020;117(32):19950-57.
  32. Tonekaboni S, Joshi S, McCradden MD, Goldenberg A. What clinicians want: Contextualizing explainable machine learning for clinical end use. Nat Mach Intell. 2019;1(5):176-85.
  33. Wang F, Preininger A. AI in health care: Applications, challenges, and future directions. Annu Rev Biomed Data Sci. 2019;2:221-52.
  34. Azizi S, et al. Big self-supervised models advance medical AI. Nat Med. 2021;27(8):1431-42.
  35. Zhang Y, et al. Explainable deep learning for healthcare: Methods, applications and challenges. IEEE Access. 2020;8:120455-475.
  36. Holzinger A, et al. Explainable AI methods: A brief overview. Mach Learn Knowl Extr. 2021;3(2):606-27.
  37. Rudin C, Radin J. Why are we using black box models in AI when we do not need to  A lesson from an explainable AI competition. Nat Mach Intell. 2019;1(5):206-15.
  38. Doshi-Velez F, et al. Accountability of AI Under the Law: The Role of Explanation. Harvard University; Cambridge; 2020.
  39. Kaur H, et al. Interpreting interpretability: Understanding data scientists' use of interpretability tools for machine learning. Presented at: Proceedings of the CHI Conference on Human Factors in Computing Systems; 2020. p. 1-14.
  40. Caruana R, et al. Intelligible models for healthcare: Predicting pneumonia risk and hospital 30-day readmission. Presented at: Proceedings of the ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; 2015. p. 1721-30.
  41. Mangalote IAC, et al. Development and validation of a class imbalance-resilient cardiac arrest prediction framework incorporating multiscale aggregation, ICA and explainability. IEEE Trans Biomed Eng. 2025;72(5):1674-84.
  42. Ansari MY, Mangalote IAC, Masri D, Dakua SP. Neural network-based fast liver ultrasound image segmentation. Presented at: 2023 International Joint Conference on Neural Networks; 2023. p. 1-8.
  43. Dakua SP, et al. Artificial intelligence enabled biomineralization for eco-friendly nanomaterial synthesis: Charting future trends. Nano Select. 2025;6(5):e202400118.

Zugriff eingeschränkt. Bitte melden Sie sich an oder starten Sie eine Testversion, um diesen Inhalt anzuzeigen.

Nachdrucke und Genehmigungen

Schlagwörter

IngenieurwesenAusgabe 233Ausgabe 233LeerwertAusgabeErkl rbare K nstliche Intelligenz XAIMaschinelles LernenDeep LearningModellinterpretierbarkeitKlinische Entscheidungsunterst tzungssystemeReproduzierbares Experimentprotokoll
Kontakt
Rückmeldung an Ihre Bibliothek

Datenschutz

Nutzungsbedingungen

Richtlinien

Copyright © 2026 MyJoVE Corporation. Alle Rechte vorbehalten.