Qui presentiamo un protocollo riproducibile per sviluppare e valutare modelli di intelligenza artificiale spiegabili per l'analisi sanitaria. Il flusso di lavoro integra preelaborazione dei dati, modellazione predittiva, spiegabilità basata su SHAP, LIME- e Grad-CAM, valutazione quantitativa e validazione centrata sull'uomo per supportare decisioni cliniche trasparenti e affidabili.
È richiesta un abbonamento a JoVE per visualizzare questo contenuto. Accedi o inizia la tua prova gratuita.
Articolo di ricerca
Un protocollo riproducibile per lo sviluppo e la valutazione di framework di intelligenza artificiale spiegabili nell'analisi sanitaria
In questo articolo
Sommario
Abstract
L'Intelligenza Artificiale Spiegabile (XAI) è sempre più riconosciuta come uno strumento indispensabile per costruire sistemi di IA affidabili nel settore sanitario, dove la trasparenza e la capacità di spiegare le decisioni sono componenti essenziali del processo decisionale clinico. Questa pubblicazione presenta un approccio sperimentale riproducibile allo sviluppo e alla valutazione di sistemi di IA spiegabili per l'analisi sanitaria. La pipeline sviluppata integra i passaggi di preprocessing dei dati, modellazione predittiva, generazione di interpretazioni e valutazione in un unico flusso di lavoro fluido che può essere applicato sia a dati clinici strutturati che a dataset di imaging medico. I modelli di machine learning in ensemble hanno dimostrato forti prestazioni predittive su dataset tabellari strutturati, mentre i modelli di deep learning sono efficaci per apprendere modelli complessi nei dati di imaging medico. Tecniche come SHAP, LIME e Grad-CAM sono spiegazioni globali e locali che facilitano l'interpretazione dei modelli. Molto utile. La valutazione quantitativa del framework comprende molte metriche diverse come accuratezza, precisione, richiamo, punteggio F1, ROC-AUC, metriche di spiegazione, fedeltà e stabilità. I risultati indicano che, quando le condizioni sperimentali sono controllate, il quadro ha dimostrato un miglioramento delle prestazioni predittive e della qualità delle spiegazioni nelle condizioni sperimentali valutate. Come documento guidato da protocolli, questo lavoro sostiene la riproducibilità e la scalabilità, l'implementazione persistente da parte di altri esseri viventi. Questo modello di IA trasparente e comprensibile è la base su cui il supporto alle decisioni cliniche e i sistemi di analisi sanitaria acquisiscono fiducia e utilizzo su larga scala.
Introduzione
L'intelligenza artificiale (IA) è diventata un componente importante dell'assistenza sanitaria moderna supportando la diagnosi delle malattie, la prognosi, la stratificazione del rischio, l'analisi delle immagini mediche e il processo decisionaleclinico. I progressi nel machine learning e nel deep learning hanno permesso ai sistemi sanitari di elaborare grandi volumi di dati strutturati e non strutturati, spesso raggiungendo prestazioni predittive paragonabili o superiori agli approcci statisticiconvenzionali 2. Nonostante questi progressi, molti modelli di IA operano come complessi sistemi a scatola nera, rendendo difficile per clinici e stakeholder sanitari comprendere come vengano generatele previsioni 3. Questa mancanza di trasparenza può limitare fiducia, adozione e responsabilità negli ambienti sanitari ad alto rischio 4,5.
L'intelligenza artificiale spiegabile (XAI) si è affermata come un approccio promettente per migliorare la trasparenza e l'interpretabilità dei modelli di machinelearning 6. Tecniche di spiegazione ampiamente utilizzate, tra cui SHAP (spiegazioni additive di Shapley), LIME (spiegazioni interpretabili locali agnostiche del modello) e mappatura dell'attivazione delle classi ponderata in gradiente (Grad-CAM), forniscono intuizioni sul comportamento del modello attraverso meccanismi di attribuzione delle caratteristiche e spiegazioni visive 7,8,9. Questi metodi sono stati applicati sempre più spesso alle applicazioni sanitarie per supportare l'interpretazione clinica, l'audit dei modelli e il supportodecisionale 10,11. Tuttavia, la spiegabilità da sola non garantisce affidabilità, riproducibilità o utilità clinica. Studi recenti hanno evidenziato sfide legate all'instabilità delle spiegazioni, alla sensibilità alle perturbazioni, alla limitata validazione da parte dei clinici e alle incongruenze tra i risultati delle spiegazioni e il vero ragionamento del modello 12,13,14,15.
Oltre alle sfide di spiegabilità, la riproducibilità rimane una preoccupazione significativa nella ricerca sul machine learningsanitario 16,17,18. Molti studi pubblicati forniscono informazioni limitate riguardo alle procedure di pre-elaborazione, agli ambienti software, alle configurazioni degli iperparametri, alle strategie di validazione e ai flussi di lavoro di implementazione, rendendo difficile la replica indipendente 19,20,21. Inoltre, gli studi sull'IA sanitaria si concentrano frequentemente sulla performance predittiva, fornendo però indicazioni limitate riguardo alla valutazione della qualità della spiegazione, alla valutazione centrata sul clinico e alle considerazioni pratiche diimplementazione. Queste limitazioni possono ostacolare la traduzione di sistemi di IA spiegabili dagli ambienti di ricerca agli ambienti sanitarireali 23,24,25,26,27.
Gli attuali flussi di lavoro XAI nel settore sanitario spesso valutano tecniche di spiegazione individuale o modelli predittivi isolatamente e raramente forniscono protocolli standardizzati che integrino la preparazione dei dati, la modellazione predittiva, la valutazione della spiegabilità, la valutazione centrata sull'uomo e le risorse di riproducibilità 28,29,30,31 . Di conseguenza, ricercatori e professionisti possono incontrare difficoltà nel riprodurre flussi di lavoro, confrontare metodi di spiegazione o valutare l'utilità pratica dei sistemi di IA spiegabili tra diversi dataset e domini applicativi sanitari. È quindi necessario un protocollo completo e riproducibile per facilitare un'implementazione, valutazione e reportistica coerente dei flussi di lavoro spiegabili dell'IA sanitaria 32,33,34,35.
Qui presentiamo un protocollo riproducibile per sviluppare, valutare e interpretare sistemi di intelligenza artificiale spiegabili nell'analisi sanitaria. Il protocollo integra la preelaborazione dei dati, la modellazione predittiva, la valutazione della spiegabilità utilizzando SHAP, LIME e Grad-CAM, la valutazione centrata sul clinico, procedure di validazione e risorse di riproducibilità all'interno di un flusso di lavoro unificato. L'obiettivo è fornire un quadro standardizzato che supporti lo sviluppo trasparente dei modelli, la valutazione della qualità delle spiegazioni e l'implementazione riproducibile attraverso diversi datasetsanitari 36, 37, 38, 39. Il contributo metodologico di questo lavoro risiede nell'integrazione di analisi predittiva, valutazione della spiegabilità, validazione da parte dei clinici e pratiche di riproducibilità in un unico protocollo adatto alla ricerca, istruzione e studi orientati al deployment dell'IAsanitaria 40,41,42,43.
Il contributo principale di questo lavoro non è lo sviluppo di un nuovo algoritmo di spiegabilità.
Piuttosto, fornisce un protocollo standardizzato, riproducibile e convalidato sperimentalmente che integra modellazione predittiva, valutazione della spiegabilità, visualizzazione, valutazione e interpretazione centrata sull'uomo in un flusso di lavoro unificato adatto all'analisi sanitaria e alla diffusione di protocolli basati su JoVE. L'obiettivo principale di questo lavoro non è introdurre un algoritmo predittivo innovativo, ma fornire un protocollo standardizzato, riproducibile e convalidato sperimentalmente per implementare flussi di lavoro di intelligenza artificiale spiegabili nell'analisi sanitaria. Il protocollo integra la preelaborazione dei dati, la modellazione predittiva, la valutazione della spiegabilità, la valutazione centrata sul clinico e le risorse di riproducibilità in un quadro unificato adatto all'adozione, replicazione e diffusione educativa.
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.
Protocollo
Tutti i dataset utilizzati in questo studio sono stati ottenuti da repository pubblici e completamente anonimizzati, inclusi il UCI Machine Learning Repository, il database PhysioNet MIMIC-III e i dataset NIH Chest X-ray. Non sono state accessibili informazioni identificabili del paziente. Lo studio ha rispettato le linee guida etiche istituzionali della ricerca per l'analisi secondaria di dati pubblicamente deidentificati. Non era richiesta l'approvazione formale del Consiglio di Revisione Istituzionale perché non sono stati reclutati direttamente partecipanti umani e non sono state utilizzate informazioni sanitarie protette.
1. Panoramica dei Quadri Sperimentali
- Sviluppare una pipeline di intelligenza artificiale (XAI) riproducibile e spiegabile per un'analisi sanitaria trasparente. Organizza il flusso di lavoro in livello dati, livello di preelaborazione, livello di modellazione, livello di spiegabilità, livello di valutazione e livello di visualizzazione.
- Integrare questi moduli in un flusso di lavoro unificato in grado di elaborare dati clinici strutturati, cartelle cliniche elettroniche e dataset di imaging medico.
- Assicurati che ogni modulo contribuisca alla riproducibilità, interpretabilità, scalabilità e esecuzione sperimentale standardizzata.
- Progetta l'architettura modulare per supportare lo streaming continuo dei dati e garantire che ogni fase della pipeline contribuisca alla riproducibilità, interpretabilità e scalabilità durante tutto il flusso di lavoro sperimentale.
2. Ambiente computazionale e configurazione del sistema
- Installa le dipendenze software richieste prima di eseguire il flusso di lavoro aprendo un terminale da riga di comando ed eseguendo il seguente comando:
pip install numpy pandas scikit-learn tensorflow shap lime opencv-python matplotlib seaborn - Verifica l'installazione riuscita di tutti i pacchetti software e verifica la compatibilità con le versioni software elencate nella Tabella dei Materiali prima di procedere con la pre-elaborazione dei dati e lo sviluppo del modello.
- Usa Python 3.11 come ambiente di programmazione principale. Installa e configura NumPy 1.26 e Pandas 2.1 per compiti di manipolazione dei dati e ingegneria delle funzionalità. Installa Scikit-learn 1.5 per lo sviluppo e la valutazione di modelli di machine learning.
- Installa TensorFlow 2.15 per l'addestramento e l'inferenza di modelli di deep learning. Installa SHAP 0.46 e LIME 0.2.0 per l'analisi della spiegabilità. Installa OpenCV 4.10 per i compiti di elaborazione delle immagini. Installa Matplotlib 3.9 e Seaborn 0.13 per la visualizzazione dei dati e la reportistica dei risultati. Consulta la Tabella dei Materiali per le specifiche software complete e i dettagli di implementazione necessari per la riproducibilità.
- Configura l'ambiente computazionale utilizzando una workstation dotata di processore multi-core, accelerazione delle unità di elaborazione grafica (GPU) e risorse di memoria sufficienti per ospitare grandi dataset sanitari e carichi di lavoro di deep learning.
- Impostare semi casuali fissi per la partizione dei dati, l'inizializzazione del modello e le procedure di addestramento per garantire la riproducibilità tra esecuzioni sperimentali. Abilita meccanismi di logging per registrare operazioni di pre-elaborazione dei dati, configurazioni di modelli, impostazioni di iperparametri, procedure di addestramento e risultati di valutazione durante tutto il flusso di lavoro.
- Configura le architetture dei modelli, i parametri di ottimizzazione, le velocità di apprendimento, le dimensioni dei lotti, le impostazioni di addestramento e i valori degli iperparametri secondo le specifiche riassunte nella Tabella 1. Rispetta queste impostazioni durante gli esperimenti di replicazione per garantire la coerenza con i risultati riportati.
- Output Atteso - Un ambiente computazionale completamente configurato e riproducibile con tutti i pacchetti software necessari, risorse hardware, meccanismi di logging e impostazioni di configurazione del modello disponibili per la successiva preprocessing dei dati, sviluppo del modello, analisi della spiegabilità e procedure di valutazione.
| Componente | Parametro | Valore | Descrizione |
| Foresta Casuale | n_estimators | 100 | Numero di alberi |
| Foresta Casuale | max_depth | Nessuna | Profondità dell'albero |
| XGBoost | learning_rate | 0.01 | Tasso di apprendimento |
| XGBoost | n_estimators | 100 | Munizioni di potenziamento |
| CNN | Epoche | 25 | Epoche di addestramento |
| CNN | batch_size | 32 | Dimensione del lotto |
| CNN | Ottimizzatore | Adam | Algoritmo di ottimizzazione |
| MLP | hidden_layers | 2 | Numero di strati nascosti |
| MLP | Attivazione | ReLU | Funzione di attivazione |
| Generale | train_split | 70% | Rapporto dati di addestramento |
| Generale | validation_split | 15% | Rapporto di validazione |
| Generale | test_split | 15% | Rapporto di test |
Tabella 1: Dettagli di implementazione e configurazione degli iperparametri.
Questa tabella riassume l'ambiente computazionale, le librerie software, le configurazioni dei modelli di machine learning e deep learning, le impostazioni di ottimizzazione, i tassi di apprendimento, le dimensioni dei lotti, i parametri di addestramento e i valori degli iperparametri utilizzati durante la valutazione sperimentale del framework di IA spiegabile proposto.
3. Preparazione e preelaborazione del dataset
- Selezionare dataset sanitari pubblici per garantire trasparenza e riproducibilità del flusso di lavoro sperimentale;
- Utilizzare quattro scenari rappresentativi di sanità per validare il quadro proposto: (i) diagnosi di cancro al seno utilizzando il Wisconsin Breast Cancer Dataset, (ii) previsione del rischio di diabete utilizzando il Pima Indians Diabetes Dataset, (iii) previsione degli esiti clinici utilizzando le cartelle cliniche elettroniche MIMIC-III, e (iv) classificazione della malattia toracica utilizzando il NIH Chest X-ray Dataset. Scegli questi dataset per valutare il quadro tra cartelle cliniche strutturate, cartelle cliniche elettroniche longitudinali e modalità di imaging medico comunemente utilizzate nei sistemi di supporto alle decisioni sanitarie.
- Importare ogni dataset nell'ambiente Python e separare i record in caratteristiche di input e variabili target. Organizzare dati clinici strutturati per compiti di previsione delle malattie, cartelle cliniche elettroniche per l'analisi longitudinale degli esiti e dataset di imaging medico per compiti di classificazione diagnostica. Verifica l'integrità di ogni dataset prima di procedere con le operazioni di pre-elaborazione.
- Identificare e correggere i valori mancanti utilizzando tecniche di imputazione appropriate. Standardizzare le caratteristiche numeriche tramite procedure di scala e normalizzazione delle caratteristiche per garantire la comparabilità tra variabili.
- Codificare variabili categoriche utilizzando metodi di codifica adeguati basati sulle caratteristiche del dataset. Effettuare la selezione delle caratteristiche utilizzando analisi di correlazione e misure di importanza delle caratteristiche basate su modelli per identificare le variabili più rilevanti e ridurre la dimensionalità dei dati.
- Ridimensiona tutte le immagini mediche a 224, 224 pixel prima dell'addestramento al modello. Normalizzare i valori dell'intensità dei pixel in base ai requisiti dell'architettura di deep learning selezionata. Applicare tecniche di aumento dei dati, inclusi la rotazione delle immagini e il flipping orizzontale, per migliorare la generalizzazione dei modelli e ridurre l'overfitting. Verifica la qualità dell'immagine e assicurati la coerenza delle dimensioni dell'immagine in tutto il dataset.
- Valuta l'integrità dei dati valutando la completezza, la coerenza e l'allineamento delle etichette delle caratteristiche. Verifica che tutti i record siano correttamente assegnati alle rispettive classi target. Rivedere le caratteristiche del dataset, inclusa la dimensione del campione, il numero di caratteristiche e la modalità dei dati, come riassunto nella Tabella 2.
- Implementare procedure di validazione specifiche per dataset per garantire rigore metodologico e riproducibilità. Registra la dimensione del campione, la distribuzione delle classi, la strategia di divisione train-validation-test, le misure di prevenzione delle perdite, le procedure di ottimizzazione degli iperparametri, il design di validazione incrociata e il protocollo di test esterno per ogni dataset. Riassumi queste procedure di validazione nella Tabella 3.
- Eseguire controlli di qualità pre-elaborazione valutando la gestione dei valori mancanti, la rimozione degli outlieri, la scala delle caratteristiche, la codifica categoriale, la conservazione della distribuzione delle classi e le procedure di partizionamento dei dataset. Verifica che le operazioni di preprocessing siano applicate in modo coerente su tutti i dataset.
- Confermare l'assenza di una notevole perdita di dati durante la partizione del dataset. Esaminare i risultati della validazione della pre-elaborazione presentati nella Figura 1 per assicurarti che siano stati generati dataset standardizzati per le successive analisi di machine learning e spiegabilità.
- Output atteso - Generare dataset puliti e standardizzati con valori mancanti adeguatamente indirizzati, variabili categoriche codificate, caratteristiche numeriche normalizzate e record suddivisi in sottoinsiemi di addestramento, validazione e test. Assicurarsi che le caratteristiche del dataset, le distribuzioni di classe e le procedure di validazione corrispondano a quelle riportate nelle Tabelle 2 e Tabella 3, e confermare la validazione di preelaborazione di successo come illustrato nella Figura 1.
| Dataset | Tipo | Campioni | Caratteristiche | Bersaglio |
| Cancro al seno | Tabulare | 569 | 30 | Benigno/Maligno |
| Diabete | Tabulare | 768 | 8 | Esito del diabete |
| MIMIC-III | EHR | ~60.000 | Variabili cliniche | Mortalità |
| Radiografia toracica | Imaging | ~112.000 | Immagini | Etichette per le malattie |
Tabella 2: Caratteristiche del dataset e casi d'uso nel settore sanitario.
Questa tabella fornisce un riassunto dei dataset sanitari utilizzati nello studio, inclusi il tipo di dataset, il numero di campioni, il numero di caratteristiche, le variabili target, il dominio applicativo sanitario e i relativi casi d'uso clinici. I dataset comprendono cartelle cliniche strutturate, cartelle cliniche elettroniche e dati di imaging medico per dimostrare l'applicabilità del quadro in diversi scenari di analisi sanitaria.
| Dataset | Dimensione del campione | Distribuzione delle classi | Strategia di Divisione | Prevenzione delle perdite | Ricerca con iperparametri | Validazione incrociata | Test esterno |
| Cancro al seno (UCI Wisconsin) | 569 | 357 Benigno / 212 Maligno | 70/15/15 | Preprocessing solo per treni | Ricerca a griglia | CV stratificata a 5 piedi | Set Indipendente di Resistenza |
| Diabete degli Indiani Pima | 768 | 500 Non Diabetici / 268 Diabetici | 70/15/15 | Preprocessing solo per treni | Ricerca a griglia | CV stratificata a 5 piedi | Set Indipendente di Resistenza |
| MIMIC-III EHR | 5274 | Coorti stratificate per risultati | 70/15/15 Livello paziente | Separazione a livello di paziente | Ricerca casuale | CV a 5 volte a livello paziente | Set Indipendente di Resistenza |
| Radiografia toracica del NIH | 112120 | Polmonite/Stratificata normale | 70/15/15 | Separazione a livello di immagine | Ricerca casuale | CV stratificata a 5 piedi | Set Indipendente di Resistenza |
Tabella 3: Validazione a livello di dataset e progettazione sperimentale.
Questa tabella riassume la metodologia di validazione utilizzata per ogni dataset, inclusa dimensione del campione, distribuzione delle classi, strategia di divisione train-validation-test, procedure di prevenzione delle perdite, metodi di ottimizzazione degli iperparametri, progettazione di validazione incrociata e protocolli di test esterni. Queste misure sono state implementate per garantire rigore metodologico, riproducibilità e valutazione imparziale del modello.
Figura 1: Validazione della pipeline di preprocessing dei dati.
Risultati di validazione per le operazioni chiave di preprocessing eseguite prima dello sviluppo del modello. (A) Analisi del valore mancante tra le caratteristiche rappresentative della sanità. (B) Distribuzione di una variabile numerica prima e dopo la gestione degli outlie. (C) Validazione della scala delle funzionalità tramite standardizzazione. (D) Validazione della codifica categorica. (E) Distribuzione delle classi dopo la preelaborazione. (F) Validazione della partizionazione dei dati train-validation-test. Questi risultati confermano il successo della pre-elaborazione e della preparazione dei dataset per modellazione predittiva e analisi della spiegabilità. Clicca qui per visualizzare una versione più grande di questa figura.
4. Architettura di Sistema del Framework di IA Spiegabile
- Organizza il framework utilizzando un'architettura a livelli per facilitare l'elaborazione modulare, migliorare la trasparenza del flusso di lavoro e supportare un'implementazione riproducibile. Configura il Data Layer per ricevere e gestire dataset sanitari grezzi. Instradare tutti i dataset in arrivo attraverso il Data Layer prima di avviare le operazioni di pre-elaborazione.
- Eseguire procedure di pulizia dei dati, trasformazione, normalizzazione, ingegneria delle caratteristiche e codifica all'interno dello Livello di Preelaborazione. Assicurarsi che tutte le operazioni di pre-elaborazione siano completate prima dello sviluppo del modello.
- Sviluppare modelli predittivi all'interno del Livello di Modellazione utilizzando algoritmi di machine learning e deep learning. Modelli di Train Gradient Boosting, Random Forest, Multilayer Perceptron (MLP) e Convolutional Neural Network (CNN) utilizzando dataset preprocessati e configurazioni ottimizzate degli iperparametri.
- Applicare tecniche di spiegabilità all'interno dello Strato di Spiegabilità per interpretare le previsioni dei modelli. Genera spiegazioni di attribuzione di caratteristiche usando SHAP e LIME per dataset strutturati. Genera heatmap Grad-CAM per modelli basati su immagini per visualizzare le regioni che contribuiscono alle previsioni del modello.
- Valutare le prestazioni predittive e di spiegabilità all'interno del Livello di Valutazione. Calcola accuratezza, precisione, richiamo, punteggio F1, ROC-AUC, fedeltà, stabilità e metriche di valutazione centrate sul clinico. Registra tutti i risultati delle valutazioni per analisi e report successivi.
- Genera output visivi clinicamente interpretabili all'interno dello Layer di Visualizzazione. Crea grafici di confronto delle prestazioni, visualizzazioni di importanza delle caratteristiche, grafici riassuntivi SHAP, spiegazioni LIME, heatmap Grad-CAM e dashboard di reportistica orientati ai clinici. Conserva tutti i risultati visivi per essere inclusi nel rapporto sperimentale finale.
- Esamina l'architettura completa del framework illustrata nella Figura 2 prima di procedere con l'esecuzione del workflow.
- Output atteso - Generare modelli completamente addestrati di machine learning e deep learning, inclusi Gradient Boosting, Random Forest, CNN e MLP. Memorizza configurazioni dei modelli, iperparametri ottimizzati, log di addestramento, file checkpoint, output di spiegabilità e artefatti di visualizzazione per la successiva valutazione e analisi interpretabile.
Figura 2: Architettura di Sistema del Framework di IA Spiegabile per l'Analisi Sanitaria. Clicca qui per visualizzare una versione più grande di questa figura.
5. Esecuzione del flusso di lavoro
- Acquisire dataset sanitari da repository pubblici e memorizzare i dataset in formati strutturati adatti all'analisi di machine learning e deep learning. Esaminare l'intero flusso di lavoro illustrato nella Figura 3 prima di avviare la procedura sperimentale.
- Eseguire la pulizia e la pre-elaborazione dei dati secondo le procedure descritte nella Sezione 3. Normalizzare le variabili numeriche utilizzando metodi di scalabilità appropriati. Codificare variabili categoriche utilizzando tecniche di codifica appropriate. Identificare e imputare i valori mancanti utilizzando strategie di imputazione specifiche per dataset. Verifica la qualità dei dati, l'allineamento delle etichette delle caratteristiche e la completezza del dataset prima di procedere con lo sviluppo del modello.
- Partizionare ogni dataset in sottoinsiemi di addestramento, validazione e test per supportare la valutazione imparziale del modello. Preservare le distribuzioni di classe durante la partizionazione del dataset e implementare misure di prevenzione delle perdite quando applicabile. Riserva il sottoinsieme di test esclusivamente per la valutazione finale del modello.
- Addestrare modelli di machine learning su dataset strutturati utilizzando algoritmi basati su ensemble, inclusi Gradient Boosting e Random Forest. Addestrare modelli di deep learning su dataset di imaging utilizzando architetture di Reti Neurali Convoluzionali (CNN) capaci di apprendere le caratteristiche dell'immagine spaziale. Aggiornare iterativamente i parametri del modello durante l'addestramento e monitorare le prestazioni di validazione dopo ogni epoca di addestramento. Applicare l'arresto anticipato quando le prestazioni di validazione peggiorano o non migliorano secondo i criteri di arresto predefiniti.
- Ottimizzare gli iperparametri del modello utilizzando strategie di ricerca sistematica, inclusa la ricerca a griglia e la ricerca randomizzata. Regolare la velocità di apprendimento, il numero di stimatori, la profondità dell'albero, la dimensione del lotto, il numero di epoche e altri parametri specifici del modello in base alle prestazioni di validazione. Seleziona il modello finale in base alle prestazioni predittive e alla capacità di generalizzazione tra i dataset di validazione.
- Applica metodi di spiegabilità dopo aver completato l'addestramento al modello. Generare spiegazioni globali utilizzando tecniche di attribuzione di caratteristiche per identificare le variabili che contribuiscono maggiormente alle previsioni del modello. Generare spiegazioni locali per analizzare i singoli casi di previsione e valutare il comportamento del modello a livello di campione. Crea heatmap Grad-CAM per modelli di classificazione delle immagini per evidenziare le regioni dell'immagine che contribuiscono al risultato previsto. Conserva tutti i risultati delle spiegazioni per analisi e report successivi.
- Valutare le prestazioni predittive utilizzando accuratezza, precisione, richiamo, punteggio F1 e area di caratteristiche operative del ricevitore sotto la curva (ROC-AUC). Valuta la qualità delle spiegazioni utilizzando metriche di fedeltà e stabilità per valutare l'affidabilità e la coerenza delle spiegazioni. Confronta le prestazioni dei modelli tra dataset e metodi di spiegabilità per valutare la robustezza e la generalizzazione del framework.
- Generare risultati di visualizzazione e rapporti analitici per comunicare i risultati in modo clinicamente interpretabile. Crea grafici di confronto delle prestazioni, grafici di importanza delle caratteristiche, visualizzazioni riassuntive SHAP, output delle spiegazioni LIME, heatmap Grad-CAM e altre visualizzazioni clinicamente rilevanti. Rivedi tutti i risultati visivi per assicurarti chiarezza e coerenza prima di segnalare.
- Documenta tutte le operazioni di preelaborazione, configurazioni del modello, impostazioni degli iperparametri, procedure di spiegabilità, strategie di validazione e risultati di valutazione. Mantenere registri sperimentali dettagliati per facilitare la riproducibilità e la replica indipendente del flusso di lavoro. Verifica la coerenza dei risultati attraverso ripetute esecuzioni sperimentali e archivia tutti gli artefatti del workflow per riferimento futuro.
- Output atteso - Generare un modello predittivo completamente addestrato con iperparametri ottimizzati, pesi del modello salvati, log di addestramento, metriche di performance e output spiegabili, incluse spiegazioni SHAP, LIME e heatmap Grad-CAM. Memorizza tutti gli artefatti del modello, i rapporti di valutazione e i risultati della visualizzazione per analisi successive e valutazioni della riproducibilità.
Figura 3: Flusso di lavoro end-to-end della pipeline di IA spiegabile. Clicca qui per visualizzare una versione più grande di questa figura.
6. Valutazione del modello e valutazione della spiegabilità
- Valutare le prestazioni predittive del modello utilizzando metriche di classificazione standard, tra cui accuratezza, precisione, richiamo, punteggio F1 e area di caratteristiche operative del ricevitore sotto la curva (ROC-AUC). Calcola l'accuratezza per misurare la correttezza complessiva della classificazione.
- Calcolare la precisione per valutare la proporzione di previsioni positive correttamente identificate. Calcola il richiamo per valutare la capacità del modello di identificare casi positivi. Calcola il punteggio F1 per bilanciare precisione e richiamo. Calcolare il ROC-AUC per valutare le prestazioni discriminative su diverse soglie di classificazione.
- Applicare queste metriche di valutazione in modo coerente su tutti i dataset e le architetture dei modelli per facilitare il confronto oggettivo delle prestazioni. Registra tutti i valori delle metriche e memorizza i risultati della valutazione per analisi statistiche e reportistiche successive.
- Valuta le prestazioni di spiegabilità utilizzando metriche di fedeltà e stabilità. Calcola la fedeltà per determinare fino a che punto le spiegazioni generate riflettano accuratamente le previsioni del modello e il comportamento decisionale.
- Calcola la stabilità confrontando le spiegazioni generate da campioni di input simili e quantificando la coerenza degli output delle spiegazioni. Verifica che i valori di fedeltà e stabilità soddisfino i criteri di qualità predefiniti prima di interpretare le spiegazioni del modello.
- Confronta le prestazioni di spiegabilità tra output SHAP, LIME e Grad-CAM.
- Output atteso - Generare risultati di valutazione quantitativa, inclusi accuratezza, precisione, richiamo, F1-score, ROC-AUC, fedeltà e metriche di stabilità. Produrre risultati spiegabili e visualizzazioni adatte per la reportistica scientifica, la valutazione della riproducibilità e l'interpretazione clinica.
7. Valutazione Centrata sull'Uomo
- Reclutare 12 professionisti sanitari, composti da 6 medici, 3 radiologi e 3 analisti di dati clinici. Seleziona i partecipanti con esperienza pregressa nel processo decisionale clinico, nell'interpretazione di immagini mediche, nell'analisi sanitaria o nella revisione delle cartelle cliniche elettroniche. Ottieni il consenso informato di tutti i partecipanti prima di avviare la procedura di valutazione.
- Selezionare casualmente 100 casi dai dataset di test dopo aver completato l'addestramento del modello e l'analisi della spiegabilità. Generare due condizioni di valutazione per ogni caso:
- Output solo per previsione e
- previsione accompagnata da informazioni spiegabili. Randomizzare l'ordine di presentazione dei casi e le condizioni di valutazione per minimizzare il bias di presentazione e gli effetti di apprendimento.
- Prepara moduli di valutazione standardizzati contenenti risultati di previsione, risultati di spiegazione e questionari di valutazione. Presentare i casi individualmente ai partecipanti utilizzando un'interfaccia di valutazione computerizzata.
- Istruire i partecipanti a esaminare ogni caso in modo indipendente senza discutere le risposte con altri valutatori. Consentire ai partecipanti di completare tutte le valutazioni in condizioni sperimentali identiche.
- Somministra un questionario su scala Likert a cinque punti adattato da studi di valutazione dell'intelligenza artificiale spiegabili pubblicati. Istruire i partecipanti a valutare fiducia, interpretabilità e usabilità per ogni caso esaminato. Registra le risposte ai questionari elettronicamente e verifica il completamento di tutti gli elementi del sondaggio prima di procedere con l'analisi statistica.
- Misurare indicatori oggettivi di utilità clinica durante il processo di valutazione. Registra l'accordo decisionale confrontando le decisioni dei partecipanti con le corrispondenti etichette di riferimento o risultati basati sulla realtà. Calcola l'accordo decisionale come la percentuale di decisioni dei partecipanti che corrispondono al risultato di riferimento.
- Registra il tempo di revisione per ogni caso misurando l'intervallo tra la presentazione del caso e la presentazione della risposta finale. Calcola separatamente il tempo medio di revisione per le condizioni solo di previsione e quelle con spiegazione.
- Calcola i punteggi medi di fiducia, interpretabilità e usabilità tra tutti i partecipanti e i casi di valutazione. Confrontare i punteggi ottenuti in condizioni solo di previsione e di previsione con spiegazione.
- Eseguire test t accoppiati dopo il completamento di tutte le valutazioni dei partecipanti per determinare se differenze in termini di fiducia, interpretabilità, usabilità, accordo decisionale e tempo di revisione siano statisticamente significative. Utilizzare una soglia di significatività di p 0,05 per tutti i confronti statistici.
- Calcolare Fleiss Kappa dopo aver raccolto le risposte di tutti i partecipanti per valutare l'accordo tra valutatori. Utilizzare le valutazioni aggregate dei partecipanti per determinare la coerenza delle valutazioni tra i revisori. Interpretare i valori Fleiss Kappa secondo le linee guida stabilite dell'accordo e registrare le statistiche risultanti dell'accordo.
- Riassumere la demografia dei partecipanti, la metodologia di valutazione, la progettazione del questionario, le procedure di analisi statistica, le misure di performance oggettiva e i risultati dell'accordo tra valutatori nella Tabella 4.
- Esaminare i risultati dei modelli in entrambe le condizioni di valutazione e confrontare le risposte dei partecipanti tra le condizioni. Verifica che le spiegazioni migliorino fiducia, interpretabilità e usabilità senza influire negativamente sulla qualità decisionale.
- Confermare la coerenza delle valutazioni dei partecipanti utilizzando la statistica calcolata di Fleiss Kappa. Registra tutti i risultati della valutazione per la successiva segnalazione e la valutazione della riproducibilità.
- Output atteso - Generare punteggi di fiducia dei clinici, valutazioni di interpretabilità, valutazioni di usabilità, misure decisione-accordo, statistiche sul tempo di revisione, risultati del test t accoppiato e statistiche di accordo tra valutatori. Produrre prove quantitative che descrivono l'utilità clinica, l'interpretabilità e l'affidabilità del quadro di intelligenza artificiale spiegabile.
| Parametro | Valore |
| Esperti | 12 |
| Medici | 6 |
| Radiologi | 3 |
| Analisti di Dati Clinici | 3 |
| Casi esaminati | 100 |
| Progetto di valutazione | Randomizzato (Solo previsione vs Previsione+Spiegazione) |
| Strumento di rilevamento | Scala di Likert a 5 punti |
| Valutazione del Trust | Interpretabilità, Fiducia, Usabilità |
| Test statistico | Test t accoppiato (p 0.05) |
| Affidabilità tra valutatori | Fleiss Kappa |
| Misure Oggettive | Accordo decisionale, Tempo di revisione |
Tabella 4: Protocollo di valutazione centrata sull'uomo e disegno della valutazione clinica.
Questa tabella presenta il quadro di valutazione clinico utilizzato per verificare l'interpretabilità, l'affidabilità e l'usabilità del sistema di IA spiegabile. Le informazioni riguardanti la demografia dei partecipanti, la metodologia delle case review, la progettazione del sondaggio, le procedure di analisi statistica, la valutazione dell'affidabilità tra valutatori e le misure di valutazione oggettiva sono riassunte.
8. Valutazione della validazione e della riproducibilità
- Eseguire studi di validazione e ablazione per valutare la robustezza e l'affidabilità del quadro proposto. Identificare le caratteristiche con punteggi di alta importanza utilizzando i metodi di spiegabilità selezionati. Rimuovere le caratteristiche importanti in modo incrementale e riaddestrare i modelli predittivi dopo ogni passaggio di rimozione delle caratteristiche.
- Valutare le prestazioni del modello dopo ogni esperimento di ablazione utilizzando accuratezza, precisione, richiamo, punteggio F1 e metriche ROC-AUC. Confrontare i valori di prestazione risultanti con le prestazioni di base del modello per determinare il contributo delle singole caratteristiche agli esiti predittivi.
- Valuta la stabilità delle spiegazioni generando spiegazioni per campioni di input simili utilizzando SHAP, CLIME, Grad-CAM. Confronta i risultati delle spiegazioni tra valutazioni ripetute e quantifica la coerenza utilizzando le metriche di stabilità predefinite. Verifica che le spiegazioni rimangano stabili sotto piccole variazioni di input e ripetute esecuzioni sperimentali.
- Registra tutte le procedure sperimentali durante il flusso di lavoro. Documentare operazioni di pre-elaborazione dei dati, procedure di partizionamento dei dataset, architetture di modelli, impostazioni di iperparametri, configurazioni di addestramento, metodi di spiegabilità, strategie di validazione e metriche di valutazione. Memorizza tutti i parametri di configurazione e gli output sperimentali in un formato strutturato per facilitare la riproducibilità e la verifica indipendente.
- Esamina tutti i registri sperimentali per garantirne completezza e coerenza. Verifica che il flusso di lavoro possa essere replicato utilizzando le procedure documentate, i file di configurazione e le specifiche software. Mantenere una struttura di flusso di lavoro modulare per facilitare l'adattamento del protocollo per studi futuri e supportare la conversione in un protocollo sperimentale basato su video, conforme ai requisiti metodologici JoVE.
9. Risorse di riproducibilità
- Eseguire tutti gli esperimenti utilizzando semi casuali fissi per garantire risultati riproducibili attraverso ripetute esecuzioni. Mantenere il codice sorgente, gli script di preelaborazione, i file di configurazione, le specifiche dell'ambiente, i parametri del modello e gli script di visualizzazione all'interno di un repository accessibile al pubblico.
- Fornire istruzioni dettagliate per l'acquisizione del dataset, la pre-elaborazione, l'esecuzione degli esperimenti, l'addestramento del modello, la generazione di spiegabilità, le procedure di validazione e la rigenerazione di tutte le tabelle e figure riportate. Archiviare tutti i componenti del flusso di lavoro necessari per la replica indipendente, incluse specifiche software, flussi di preelaborazione, file di configurazione, istruzioni di accesso al dataset, checkpoint del modello e asset di visualizzazione.
- Riassumi le risorse software, i flussi di lavoro di preelaborazione, i file di configurazione, le istruzioni di accesso al dataset e gli asset di riproducibilità utilizzati in tutto il framework nella Tabella 5.
- Output atteso - Generare un pacchetto sperimentale riproducibile completo contenente script di preelaborazione, file di configurazione, modelli addestrati, checkpoint del modello, output spiegabili, rapporti di validazione, artefatti di visualizzazione, specifiche software e documentazione necessaria per la replicazione e verifica indipendente del framework proposto.
| Risorsa | Descrizione |
| Codice sorgente | Script di implementazione in Python per la preelaborazione dei dati, l'addestramento dei modelli, la spiegabilità e la valutazione |
| File Ambiente | requirements.txt contenente dipendenze e versioni di pacchetti |
| File di configurazione | Impostazioni dell'architettura del modello, iperparametri e configurazioni degli esperimenti |
| Semi casuali fissi | Seed = 42 utilizzati per esperimenti riproducibili |
| Istruzioni per l'accesso al dataset | Collegamenti e procedure per l'acquisizione di dataset per la sanità pubblica |
| Preprocessing Script | Script per la pulizia dei dati, la normalizzazione, la codifica e la selezione delle funzionalità |
| Script di generazione di figure | Copioni per rigenerare tutte le figure manoscritte |
| Script di generazione di tabelle | Script per riprodurre tabelle e metriche riportate |
| Esempi di input | Dataset di esempio e file di input |
| Esempi di output | Risultati previsionali, spiegazioni e rapporti di valutazione |
Tabella 5: Risorse di riproducibilità e risorse sperimentali.
Questa tabella riassume le risorse fornite per supportare la riproducibilità sperimentale, inclusi il codice sorgente, script di preelaborazione, file di configurazione, specifiche dell'ambiente, istruzioni di accesso al dataset, impostazioni di seed casuali fisse, script di generazione di figure e file di input/output di esempio necessari per riprodurre i risultati riportati.
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.
Risultati
Abbiamo valutato a fondo la componente esplicativa di IA dell'intera nostra pipeline, valutando quanto bene prevedeva diversi tipi di dati sanitari, inclusi sia dati clinici strutturati che immagini mediche. Gli esiti hanno indicato una performance predittiva coerente tra i dataset valutati. Tra i modelli testati, il modello di gradiente boosting ha raggiunto la massima accuratezza al 97,4%, seguito dal modello della foresta casuale al 94,2%. I metodi di deep learning applicati ai set di...
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.
Discussione
Questo studio ha sviluppato e valutato un flusso di lavoro di intelligenza artificiale spiegabile riproducibile (XAI) per l'analisi sanitaria che integra modellazione predittiva, valutazione della spiegabilità, valutazione incentrata sul clinico e risorse di riproducibilità all'interno di un unico protocollo. I risultati hanno dimostrato che i modelli di machine learning basati su ensemble, in particolare Gradient Boosting e Random Forest, hanno ottenuto le più alte prestazioni predittiv...
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.
Dichiarazioni
Gli autori dichiarano di non avere interessi finanziari o conflitti di interesse concorrenti legati a quest'opera. La ricerca è stata condotta in modo indipendente, senza alcuna relazione commerciale o finanziaria che potesse essere considerata un potenziale conflitto di interessi.
Divulgazione sull'Uso dell'Intelligenza Artificiale
Gli strumenti di intelligenza artificiale venivano utilizzati per il perfezionamento del linguaggio, il controllo grammaticale e l'assistenza editoriale durante la preparazione dei manoscritti. Tutti i contenuti scientifici, il disegno sperimentale, l'analisi dei dati, l'interpretazione e la verifica finale dei manoscritti sono stati eseguiti dagli autori. Gli autori hanno esaminato e validato tutti i risultati assistiti dall'IA per garantire accuratezza, integrità e conformità alle linee guida delle riviste.
Ringraziamenti
Gli autori desiderano ringraziare le rispettive istituzioni per aver fornito l'infrastruttura necessaria e il supporto alla ricerca per condurre questo studio. Gli autori riconoscono inoltre l'uso di dataset pubblici e strumenti open-source che hanno facilitato lo sviluppo e la valutazione del framework proposto per l'IA spiegabile. Un ringraziamento speciale è rivolto agli esperti del settore che hanno fornito preziose informazioni durante la fase di valutazione centrata sull'uomo.
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.
Materiali
| Nome | Azienda | Numero di catalogo | Commenti |
|---|---|---|---|
| GPU Workstation | Dipende dal produttore | NA | Addestramento di modelli di apprendimento profondo |
| Jupyter Notebook | Project Jupyter | Ultima versione stabile | Esecuzione interattiva degli esperimenti |
| LIME | LIME | Versione 0.2.0 | Spiegazioni interpretabili locali |
| Matplotlib | Matplotlib Project | Versione 3.9 | Visualizzazione dei dati |
| MIMIC-III Database | PhysioNet | Versione 1.4 | Analisi delle cartelle cliniche elettroniche |
| NIH Chest X-ray Dataset | NIH Clinical Center | Dataset pubblico | Classificazione delle malattie toraciche |
| NumPy | NumPy Developers | Versione 1.26 | Calcolo numerico e operazioni su array |
| OpenCV | OpenCV Foundation | Versione 4.10 | Preprocessing delle immagini |
| Pandas | Pandas Development Team | Versione 2.1 | Manipolazione e preprocessing dei dati |
| Pima Indians Diabetes Dataset | UCI Machine Learning Repository | Dataset pubblico | Previsione del rischio di diabete |
| Python 3.11 | Python Software Foundation | Versione 3.11 | Ambiente di programmazione principale |
| Scikit-learn | scikit-learn | Versione 1.5 | Algoritmi di apprendimento automatico e valutazione |
| Seaborn | Seaborn | Versione 0.13 | Visualizzazione statistica |
| SHAP | SHAP | Versione 0.46 | Attribuzione e spiegabilità delle caratteristiche |
| TensorFlow | TensorFlow | Versione 2.15 | Sviluppo di modelli di apprendimento profondo |
| Windows / Ubuntu Linux | Microsoft / Canonical | NA | Sistema operativo |
| Wisconsin Breast Cancer Dataset | UCI Machine Learning Repository | Dataset pubblico | Diagnosi del cancro al seno |
Riferimenti
- Lundberg SM, et al. From local explanations to global understanding with explainable AI for trees. Nat Mach Intell. 2020;2(1):56-67.
- Ribeiro MT, Singh S, Guestrin C. Why should I trust you. Explaining the predictions of any classifier. Presented at: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; 2016. p. 1135-44. doi:10.1145/2939672.2939778.
- Selvaraju RR, et al. Grad-CAM: Visual explanations from deep networks via gradient-based localization. Int J Comput Vis. 2020;128(2):336-59.
- Tjoa E, Guan C. A survey on explainable artificial intelligence: Toward medical XAI. IEEE Trans Neural Netw Learn Syst. 2021;32(11):4793-813.
- Samek W, et al. Explainable AI: Interpreting, Explaining and Visualizing Deep Learning. Springer; Cham; 2019.
- Arrieta AB, et al. Explainable artificial intelligence: Concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 2020;58:82-115.
- Holzinger A, et al. Causability and explainability of artificial intelligence in medicine. Wiley Interdiscip Rev Data Min Knowl Discov. 2020;10(5):e1312.
- Topol E. Deep medicine: How artificial intelligence can make healthcare human again. Nat Med. 2020;25:44-56.
- Esteva A, et al. A guide to deep learning in healthcare. Nat Med. 2019;25(1):24-9.
- Rajpurkar P, Chen E, Banerjee O, Topol EJ. AI in health and medicine. Nat Med. 2022;28:31-38.
- Doshi-Velez F, Kim B. Towards a rigorous science of interpretable machine learning. arXiv. 2021. doi:10.48550/arXiv.1702.08608.
- Molnar C. Interpretable Machine Learning. Lulu Press; 2022.
- Rudin C. Stop explaining black box machine learning models for high-stakes decisions and use interpretable models instead. Nat Mach Intell. 2019;1(5):206-15.
- Zhang Q, Zhu S. Visual interpretability for deep learning: A survey. Front Inf Technol Electron Eng. 2020;21:27-39.
- Holzinger A, Biemann C, Pattichis CS, Kell DB. What do we need to build explainable AI systems for the medical domain. arXiv. 2020. Available at: https://arxiv.org/abs/1712.09923.
- McDermott MB, et al. Reproducibility in machine learning for health. Nat Med. 2021;27:1016-23.
- Kelly CJ, et al. Key challenges for delivering clinical impact with AI. BMC Med. 2019;17:195.
- Ahmad MA, Teredesai A, Eckert C. Interpretable machine learning in healthcare. Proc ACM Conf Health Inference Learn. 2021;4:1-7.
- Ghassemi M, Oakden-Rayner L, Beam AL. The false hope of current approaches to explainable AI in healthcare. Lancet Digit Health. 2021;3(11):e745-50.
- Carvalho DV, Pereira EM, Cardoso JS. Machine learning interpretability: A survey on methods and metrics. Inf Fusion. 2020;58:82-115.
- Chen RJ, et al. Synthetic data in healthcare: A narrative review. Nat Biomed Eng. 2021;5:493-97.
- Zhou B, et al. Learning deep features for discriminative localization. Presented at: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition; 2016. p. 2921-29.
- Vellido A. The importance of interpretability and visualization in machine learning for applications in medicine and health care. Expert Syst Appl. 2020;146:113222.
- Lipton ZC. The mythos of model interpretability. Commun ACM. 2018;61(10):36-43.
- Guidotti R, et al. A survey of methods for explaining black box models. ACM Comput Surv. 2018;51(5):93.
- Suresh H, Guttag J. A framework for understanding unintended consequences of machine learning. Commun ACM. 2021;64(12):42-50.
- Wiens J, et al. Do no harm: A roadmap for responsible machine learning for health care. Nat Med. 2019;25(9):1337-40.
- Rajkomar A, Dean J, Kohane I. Machine learning in medicine. N Engl J Med. 2019;380(14):1347-58.
- Lundberg SM, Lee SI. A unified approach to interpreting model predictions. Presented at: Advances in Neural Information Processing Systems. 2017;30:4765-74.
- Agarwal R, et al. Neural additive models: Interpretable machine learning with neural nets. Presented at: Advances in Neural Information Processing Systems. 2021;34:4699-711.
- Singh C, Murdoch WJ, Yu B. Hierarchical interpretations for neural network predictions. Proc Natl Acad Sci U S A. 2020;117(32):19950-57.
- Tonekaboni S, Joshi S, McCradden MD, Goldenberg A. What clinicians want: Contextualizing explainable machine learning for clinical end use. Nat Mach Intell. 2019;1(5):176-85.
- Wang F, Preininger A. AI in health care: Applications, challenges, and future directions. Annu Rev Biomed Data Sci. 2019;2:221-52.
- Azizi S, et al. Big self-supervised models advance medical AI. Nat Med. 2021;27(8):1431-42.
- Zhang Y, et al. Explainable deep learning for healthcare: Methods, applications and challenges. IEEE Access. 2020;8:120455-475.
- Holzinger A, et al. Explainable AI methods: A brief overview. Mach Learn Knowl Extr. 2021;3(2):606-27.
- Rudin C, Radin J. Why are we using black box models in AI when we do not need to A lesson from an explainable AI competition. Nat Mach Intell. 2019;1(5):206-15.
- Doshi-Velez F, et al. Accountability of AI Under the Law: The Role of Explanation. Harvard University; Cambridge; 2020.
- Kaur H, et al. Interpreting interpretability: Understanding data scientists' use of interpretability tools for machine learning. Presented at: Proceedings of the CHI Conference on Human Factors in Computing Systems; 2020. p. 1-14.
- Caruana R, et al. Intelligible models for healthcare: Predicting pneumonia risk and hospital 30-day readmission. Presented at: Proceedings of the ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; 2015. p. 1721-30.
- Mangalote IAC, et al. Development and validation of a class imbalance-resilient cardiac arrest prediction framework incorporating multiscale aggregation, ICA and explainability. IEEE Trans Biomed Eng. 2025;72(5):1674-84.
- Ansari MY, Mangalote IAC, Masri D, Dakua SP. Neural network-based fast liver ultrasound image segmentation. Presented at: 2023 International Joint Conference on Neural Networks; 2023. p. 1-8.
- Dakua SP, et al. Artificial intelligence enabled biomineralization for eco-friendly nanomaterial synthesis: Charting future trends. Nano Select. 2025;6(5):e202400118.
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.