Framework di deep learning basato su EfficientNetB7 per una classificazione migliorata delle immagini istopatologiche del cancro ai polmoni e al colon

Summary

Qui introduciamo un sistema di deep learning con il modello EfficientNetB7 per la classificazione precisa delle immagini istopatologiche del cancro ai polmoni e al colon. Il modello ha ottenuto una precisione del 96% con l'applicazione di preprocessing, aumento dei dati e transfer learning. Il metodo ha grandi prospettive di supporto alla diagnosi clinica del cancro.

Abstract

La diagnosi precoce del tumore ai polmoni gioca un ruolo fondamentale nel garantire un trattamento migliore e la sopravvivenza dei pazienti. Questo rimane un tema centrale nella ricerca clinica. L'intelligenza artificiale (IA) ha trasformato la patologia migliorando significativamente la precisione e l'efficienza diagnostica. Questo studio presenta un modello di deep learning robusto sotto forma del modello pre-addestrato EfficientNetB7 per classificare immagini istopatologiche del colon e del tessuto polmonare con un'accuratezza estremamente elevata del 96%. Le prestazioni del modello sono state ottimizzate utilizzando metodi avanzati di preprocessing, fine-tuning e tecniche di aumento dati specifiche per dominio. Queste strategie aiutano a ridurre problemi come lo squilibrio di classe e le sottili variazioni istologiche. Per affrontare il problema dell'overfitting, sono state combinate più tecniche di aumento dei dati e è stato incorporato un criterio di arresto precoce. Questo approccio ha permesso una formazione efficiente ed economica. Una validazione robusta del modello dimostra un'elevata utilità per applicazioni cliniche e consente ai patologi di fornire diagnosi tempestive e accurate. Integrare modelli avanzati di deep learning nei flussi di lavoro di imaging medico offre grandi promesse per una diagnosi precoce e accurata del cancro, migliorando infine gli esiti per i pazienti.

Introduction

Il cancro ai polmoni e al colon è tra i tumori più diffusi al mondo in termini di mortalità. Il cancro ai polmoni è il principale cancro fatale con oltre 1,8 milioni di decessi all'anno, seguito dal cancro al colon come terza malignità più diffusa e la seconda causa più comune di mortalità per cancro, secondo le statistiche sanitarie globali. Una diagnosi accurata e precoce è fondamentale per un trattamento efficace e una migliore sopravvivenza di questi tumori. L'esame istopatologico, ovvero la valutazione microscopica dei campioni di tessuto da parte dei patologi, rimane uno dei metodi più frequenti per rilevare il^{cancro 1}. La Figura 1 mostra le immagini istopatologiche campione di diversi tipi di polmoni e tessuti del colon².

Figura 1: Campionare immagini dal dataset. Questa figura mostra esempi rappresentativi di ciascuna classe nel dataset LC25000, evidenziando la diversità visiva tra immagini benigne e maligne di tessuto polmonare e colon. Clicca qui per visualizzare una versione più grande di questa figura.

La patologia digitale ha trasformato il settore permettendole di digitalizzare vetrine di istologia, che ora vengono diagnosticate utilizzando sofisticati algoritmi di deep^{learning 3}. In combinazione con i modelli di deep learning, gli algoritmi sono ottimi nel riconoscere schemi sottili all'interno di grandi dati, aumentando significativamente l'accuratezza e l'efficienza della diagnosi. La Tabella 1 mostra la descrizione di ciascuna classe di tessuto.

Nome della classe	Descrizione
Tessuto benigno polmonare	Tessuto non canceroso nei polmoni, non coinvolto nella crescita cancerosa.
Adenocarcinoma polmonare	Un tipo di cancro ai polmoni che nasce dal tessuto epiteliale ghiandolare, noto per i suoi modelli di crescita maligni.
Carcinoma a cellule squamose polmonari	Un tipo di tumore ai polmoni distinto da una certa morfologia cellulare che nasce dalle cellule squamose che rivestono le vie aeree.
Colon Adenocarcinoma	La maggior parte delle occorrenze di tumore al colon è causata da un tipo comune di tumore al colon che inizia nelle cellule ghiandolari del rivestimento del colon.
Tessuto benigno del colon	Tessuto sano nel colon che non mostra segni di condizioni cancerose o precancerose.

Tabella 1: Panoramica delle cinque classi di tessuti e tumori nel dataset, inclusi nomi delle classi, caratteristiche e il numero di immagini in ciascuna classe.

EfficientNetB7, un'architettura di rete neurale convoluzionale all'avanguardia, è stata identificata come particolarmente efficace per compiti di classificazione delle immagini grazie alla sua scalabilità bilanciata in profondità, larghezza e risoluzione. Rispetto a architetture ampiamente utilizzate come ResNet e DenseNet, EfficientNetB7 raggiunge un equilibrio superiore tra accuratezza della classificazione ed efficienza computazionale tramite la scala composta, che scala proporzionalmente profondità, larghezza e risoluzione della rete. Sebbene ResNet e DenseNet abbiano dimostrato prestazioni robuste nei compiti di classificazione delle immagini mediche, richiedono tipicamente un conteggio di parametri più elevato e maggiori risorse computazionali per raggiungere un'accuratezza comparabile, rendendo EfficientNetB7 più adatto per un'analisi istopatologica su larga scala in contesti clinici con risorse^{limitate 4}. L'applicazione di modelli computazionali avanzati, inclusi strumenti di IA come EfficientNetB7, offre nuove possibilità per superare le tradizionali sfide diagnostiche, fornendo strumenti che supportano i patologi e potenzialmente migliorano i risultati diagnostici. L'integrazione dell'IA nella pratica patologica potrebbe democratizzare l'accesso a servizi diagnostici di qualità, rendendo possibile per regioni con competenze mediche limitate eseguire diagnostiche avanzate.

Recenti studi di riferimento e revisioni complete nell'analisi delle immagini mediche hanno costantemente sottolineato l'impatto crescente delle architetture di deep learning in^{istopatologia 5}. Analisi su larga scala hanno dimostrato che le reti neurali convoluzionali e le loro varianti moderne offrono prestazioni all'avanguardia nell'identificare caratteristiche morfologiche sottili in più tipi di tessuto, spesso superando i metodi diagnostici tradizionali. Le valutazioni comparative evidenziano che le architetture avanzate, inclusi EfficientNet e altri modelli scalabili, non solo raggiungono una precisione superiore nella classificazione, ma dimostrano anche un miglioramento dell'efficienza^{computazionale 6}. Inoltre, le revisioni sistematiche della patologia digitale sottolineano il suo ruolo trasformativo nella diagnostica di routine, consentendo la riproducibilità, riducendo la variabilità tra osservatori e permettendo l'integrazione con pipeline automatizzate. Questi risultati collettivi confermano la rilevanza dell'adozione di modelli avanzati di deep learning per la classificazione istopatologica del cancro e forniscono forti prove che l'applicazione di architetture scalabili ed efficienti può affrontare sfide cliniche come lo squilibrio di classe, la variabilità istologica e la limitata disponibilità di patologi esperti.

Gli obiettivi di questa ricerca sono (i) creare e valutare un modello di deep learning per la categorizzazione delle immagini istopatologiche del cancro polmonare e del colon basato sull'architettura EfficientNetB7; (ii) Dimostrare la capacità del modello di raggiungere un'elevata accuratezza di classificazione, potenzialmente superando i metodi diagnostici tradizionali; (iii) Esplorare l'impatto dell'aumento dei dati, delle tecniche di preprocessing e dell'apprendimento per trasferimento sulle prestazioni del modello in un contesto specifico di dominio.

Questo studio non solo dimostra l'elevata accuratezza diagnostica raggiungibile con EfficientNetB7 su immagini istopatologiche, ma affronta anche con rigore sfide chiave come lo squilibrio di classe e l'overfitting attraverso l'aumento mirativo dei dati, strategie di validazione robuste e tecniche di arresto precoce. La metodologia è specificamente progettata per riflettere contesti clinici reali utilizzando dataset su larga scala e aumentati e benchmarkando le prestazioni del modello su metriche clinicamente rilevanti. L'automazione e l'efficienza del flusso di lavoro garantiscono che il sistema sia pratico per l'integrazione nei laboratori di patologia digitale, offrendo il potenziale di aumentare la produttività dei patologi, migliorare la coerenza diagnostica e consentire un accesso più ampio all'analisi di livello esperto sia in ambienti clinici ad alta risorsa che a risorse limitate.

Nonostante i notevoli progressi nell'apprendimento profondo per l'imaging medico, rimangono diverse sfide nella classificazione delle immagini istopatologiche del cancro polmonare^{e del colon 7}. I modelli attuali tendono a fallire nel gestire lo squilibrio di classe, in cui alcuni tipi di cancro possono essere sottorappresentati nei dataset e creare previsioni distorte. Inoltre, sottili differenze istologiche tra sottotipi di tumore, come l'adenocarcinoma e il carcinoma a cellule squamose del polmone, rappresentano una sfida formidabile per una corretta classificazione. La maggior parte dei lavori precedenti è stata condotta su classificazione per un singolo cancro o con dataset limitati, che impediscono ampia applicabilità e utilità in un contesto clinico. Gli approcci tradizionali sono anche meno efficienti dal punto di vista computazionale, quindi meno desiderabili per grandi dati o applicazioni cliniche^{in tempo reale.}

Il presente studio colma queste lacune sfruttando l'architettura EfficientNetB7, un modello di deep learning all'avanguardia con scalabilità ed efficacia comprovate. Zoom, flip, rotazioni e spostamenti casuali vengono utilizzati come metodi avanzati di aumento dei dati per massimizzare la robustezza e la capacità di generalizzazione del modello attraverso diversi schemi istopatologici. L'apprendimento per trasferimento viene anche utilizzato per perfezionare il modello EfficientNetB7 pre-addestrato, affinché sia in grado di apprendere e adattarsi in modo specifico ai dataset di cancro ai polmoni e al colon, minimizzando i tempi di addestramento e i costi computazionali⁹. L'uso del global average pooling e dello stop precoce migliora anche le prestazioni del modello nel garantire un buon addestramento ed evitare l'overfitting.

L'applicazione del deep learning nell'imaging medico, specialmente per la diagnosi del cancro, ha fatto enormi progressi negli ultimi anni. La diagnosi convenzionale del cancro ai polmoni e al colon dipende principalmente dall'esame istopatologico, in cui i patologi ispezionano campioni di tessuto al^{microscopio 10}. Pur essendo efficace, è laboriosa, soggetta alla variabilità tra osservatori e solitamente limitata dalla limitata disponibilità di patologi esperti, specialmente in contesti a scarse risorse. Queste limitazioni hanno portato allo sviluppo di sistemi diagnostici informatizzati basati su IA e deep learning.

I modelli di deep learning, in particolare le reti neurali convoluzionali (CNN), hanno avuto un successo impressionante nell'analisi delle immagini di campioni^{istopatologici 11}. Sono particolarmente efficaci nell'identificare schemi intricati e sottili variazioni morfologiche tissutali, compiti adatti alla classificazione del cancro. Nonostante i progressi, rimangono carenze come lo squilibrio di classe, una generalizzazione limitata su scenari multi-dataset e alti costi computazionali negli approcci attuali. Ad esempio, la maggior parte del lavoro riguarda la classificazione di un singolo cancro, limitandone l'uso a scenari di diagnosi multitumorale. Inoltre, tecniche di preprocessing e aumento dei dati scarse lo rendono suscettibile a sovrafitting, soprattutto in scenari di dataset piccoli o sbilanciati.

Gli sviluppi recenti nell'apprendimento per trasferimento hanno parzialmente superato queste limitazioni sfruttando modelli pre-addestrati su dataset su larga scala come ImageNet. EfficientNet, ResNet e DenseNet sono alcuni modelli che hanno attirato l'attenzione nell'analisi delle immagini mediche, poiché possono apprendere funzionalità di alto livello da quantità limitate di dati di^{addestramento 12}. EfficientNet ha anche visto una diffusione diffusa per la sua scalabilità ed efficienza, poiché raggiunge un'accuratezza all'avanguardia su diversi benchmark di classificazione delle immagini. L'applicazione di EfficientNet nella classificazione del cancro combinato ai polmoni e al colon non è stata approfonditamente studiata, specialmente per quanto riguarda il trattamento dello squilibrio di classe e delle sottili variazioni^{istologiche 13}.

L'aumento dei dati è stato una strategia cruciale per il miglioramento della robustezza e della generalizzazione^{dei modelli 14}. Incorporando variazioni come rotazione, spostamento, zoom e flipping, le tecniche di aumento dei dati simulano la variabilità presente nelle immagini istopatologiche reali, permettendo ai modelli di apprendere caratteristiche invarianti. Le tecniche di arresto precoce e regolarizzazione migliorano ulteriormente le prestazioni del modello evitando il sovrafitting e massimizzando l'efficienza dell'addestramento. Nonostante tutti questi progressi, è ancora necessario un framework end-to-end che abbraccino preprocessing, augmentation e transfer learning avanzati per raggiungere un'elevata precisione ed efficienza computazionale per la classificazione multi-cancer. La Tabella 2^{15, 16, 17, 18, 19, 20, 21, 22, 23, 24} mostra la letteratura dello studio a partire dalla letteratura esistente.

Studio	Obiettivo
Talukder, M. A. et al.15 (2022)	Presentare un modello ibrido di estrazione di caratteristiche in ensemble che combina deep learning e machine learning per identificare il cancro al colon e ai polmoni.
Attallah, O. et al.16 (2022)	Fornire un framework di deep learning a basso peso che combini una varietà di modelli e tecniche di trasformazione per aiutare a individuare precocemente tumori ai polmoni e al colon.
Hage Chehade, A. et al.17 (2022)	Creare un sistema diagnostico assistito da computer basato su machine learning che possa identificare diversi tipi di tessuti polmonari e colon.
Wahid, R. R. et al.18 (2023)	Utilizza un sistema di diagnosi assistito da computer con CNN per rilevare tumori ai polmoni e al colon.
Kumar, N. et al.19 (2022)	Confronta e confronta le tecniche di estrazione delle caratteristiche utilizzate per categorizzare il cancro al colon e ai polmoni.
Mehmood, S. et al.20 (2022)	Realizzare un modello di diagnosi pre-allenato con strati modificati per tumori ai polmoni e al colon, sia accurato ed efficiente.
Zhou, L. et al.21 (2024)	Prevedere nuovi bersagli per il Wogonin (WOG) nel trattamento del cancro ai polmoni, alla vescica e al colon utilizzando metodi bioinformatici.
Reddy, K. R. et al.22 (2022)	Fornire un metodo ibrido di estrazione delle caratteristiche in ensemble basato sull'apprendimento automatico per il rilevamento del tumore del colon (LCC).
Shandilya, S., Nayak, S. R.23 (2022)	Le CNN e la progettazione dei trasformatori visivi aiutano a classificare le immagini istopatologiche del cancro polmonare e del colon.
Hasan, M. et al.24 (2023)	Utilizzando molti modelli CNN, classificano le immagini di tumori ai polmoni e al colon per migliorare le procedure diagnostiche.

Tabella 2: Confronto di studi precedenti rilevanti sulla classificazione istopatologica delle immagini, dettagliando i dataset utilizzati, i tipi di modelli e i risultati riportati.

Questo articolo si basa su questi contributi incorporando un modello di deep learning che utilizza l'architettura EfficientNetB7, integrato da potenziamenti dati all'avanguardia e transfer learning. La soluzione attuale supera i difetti delle soluzioni precedenti grazie a una maggiore accuratezza di classificazione, equilibrio di classe e costi computazionali inferiori, ed è quindi una soluzione ottimale per l'uso in ambito clinico.

Protocol

Questo studio non ha coinvolto alcuna sperimentazione diretta su partecipanti umani o animali. Tutto il lavoro è stato condotto utilizzando il dataset pubblico di LC25000 anonimizzato di immagini istopatologiche, che non conteneva informazioni identificabili sui pazienti né manipolazione diretta di tessuti umani. Non era richiesta l'approvazione del Comitato di Revisione Istituzionale (IRB) o del Comitato per la Cura e l'Uso degli Animali Istituzionali (IACUC). Tutte le procedure rispettavano gli standard etici e rispettavano i termini di utilizzo del dataset per la ricerca accademica. La Figura 2 mostra i passaggi del diagramma del flusso di lavoro.

Figura 2: Flusso di lavoro del metodo proposto. Il flusso di lavoro include pre-elaborazione dei dati, aumentazione, addestramento del modello e valutazione. Clicca qui per visualizzare una versione più grande di questa figura.

Descrizione del dataset
Il dataset LC25000 è stato utilizzato per questo studio. Era composto da 25.000 immagini istopatologiche, tutte uniformmente formattate come file JPEG con una risoluzione di 768 × 768 pixel. Il dataset ha avuto origine da un set iniziale di 1.250 immagini originali, inclusi 250 immagini di tessuto polmonare benigno, 250 adenocarcinomi polmonari, 250 carcinomi squamosi polmonari, 250 immagini di tessuto colonico benigno e 250 adenocarcinomi del colon. Le immagini rimanenti sono state generate tramite aumento dei dati per ampliare il dataset, garantendo una collezione diversificata ed estesa per un addestramento e una validazione robusta del modello.

Le immagini ad alta risoluzione permisero un esame dettagliato delle strutture cellulari, essenziale per una classificazione accurata del cancro. L'aumento dei dati era necessario a causa del numero limitato di immagini originali; Tecniche come rotazioni, flip, zoom e spostamenti sono state impiegate per aumentare sinteticamente la dimensione e la diversità del dataset. Questo processo ha generato ulteriori 23.750 immagini sintetiche in modo bilanciato tra classi, risultando in un dataset finale di 25.000 immagini, con ogni classe contenente 5.000 immagini dopo l'augmentazione.

Preprocessing dei dati
Le immagini istopatologiche grezze all'interno del dataset avevano una risoluzione di 768 × 768 pixel. Per garantire la compatibilità con l'architettura EfficientNetB7 e massimizzare l'efficienza computazionale, ogni immagine veniva ridimensionata da 768 × 768 a 224 × 224 pixel. Questo processo di ridimensionamento rappresentava un compromesso tra la conservazione delle caratteristiche istologiche essenziali e la riduzione del sovraccarico computazionale. L'operazione di ridimensionamento fu rappresentata matematicamente come mostrato in

Equazione 1: (1)

dove X indicava l'immagine originale, X_{ridimensionato} era l'immagine ridimensionata, e h e w erano rispettivamente l'altezza e la larghezza desiderate. Tutti i valori dei pixel sono stati normalizzati in un intervallo da 0 a 1, il che ha stabilizzato e accelerato l'addestramento assicurando una distribuzione costante degli input tra le immagini. Questa normalizzazione è stata calcolata matematicamente come mostrato nell'Equazione 2. Questo passaggio era essenziale per migliorare la convergenza dei modelli durante l'addestramento.

(2)

L'aumento dei dati è stato impiegato come tecnica critica per migliorare la robustezza e l'applicabilità dei modelli di deep learning, specialmente nel contesto dell'imaging medico con dataset limitati e sbilanciati. In questo studio, sono state applicate diverse tecniche di aumento utilizzando il modulo ImageDataGenerator di TensorFlow per simulare la variazione in vivo nelle immagini istopatologiche. Queste tecniche includevano rotazioni casuali fino a 20 gradi per simulare la variabilità dell'orientamento dei tessuti, spostamenti orizzontali e verticali fino al 20% delle dimensioni dell'immagine per imitare la variabilità della posizione durante la preparazione delle diapositive, e zoom casuali fino al 20% per riflettere la variabilità nei livelli di ingrandimento.

Inoltre, è stato eseguito il flipping orizzontale per introdurre variazioni a immagine speculare, arricchendo ulteriormente il dataset di addestramento. Per gestire i pixel appena sintetizzati generati durante queste trasformazioni, è stata adottata una strategia di riempimento del vicino più vicino per garantire transizioni fluide e preservare l'integrità delle caratteristiche istologiche chiave. La matrice di rotazione 2D usata per l'aumento è rappresentata nell'Equazione 3, e l'Equazione 4 definisce una funzione con un cambiamento incrementale:

(3)

(4)

Queste tecniche di aumento compensavano sfide come lo squilibrio di classe, lievi variazioni istologiche e limitazioni del dataset permettendo al modello di apprendere le caratteristiche invarianti e riducendo il rischio di sovrafitting. Espandendo sinteticamente il dataset e incorporando variabilità controllata, l'aumento dei dati ha migliorato significativamente la capacità del modello di generalizzare a dati nuovi e mai visti, producendo così un sistema più forte e robusto per l'impiego clinico nella diagnosi del cancro ai polmoni e al colon.

Architettura del modello
Il modello è stato sviluppato sulla base dell'architettura EfficientNetB7, una rete di deep learning all'avanguardia rinomata per le sue prestazioni, scalabilità ed efficacia nei compiti di classificazione delle immagini. EfficientNetB7 è stato costruito utilizzando una serie di blocchi Mobile Inverted Bottleneck Convolution (MBConv), che incorporavano convoluzioni separabili in profondità. Questo design strutturale comprimeva efficacemente il modello, portando a riduzioni significative del numero di parametri con una perdita minima di prestazioni. Tale innovazione ha permesso al modello di raggiungere un'elevata accuratezza con costi computazionali inferiori, rendendolo particolarmente adatto ad applicazioni ad alta intensità computazionale come l'analisi istopatologica delle immagini. La Figura 3 mostra l'architettura del modello dell'EfficientNetB7 pre-addestrato.

Figura 3: Architettura del modello di EfficientNetB7. Questa figura mostra la struttura dettagliata del modello EfficientNetB7, illustrando i suoi principali livelli e i blocchi funzionali utilizzati per la classificazione delle immagini. Clicca qui per visualizzare una versione più grande di questa figura.

Il modello accettava immagini istopatologiche pre-processate che erano state ridimensionate dalle loro dimensioni originali di 768 × 768 pixel a 224 × 224 pixel per soddisfare i requisiti di input di EfficientNetB7. Ogni immagine ha subito diversi processi all'interno della rete, tra cui la normalizzazione batch, le funzioni di attivazione Swish e le operazioni di convoluzione. La normalizzazione batch è stata calcolata come mostrato nell'Equazione 5. La funzione di attivazione Swish ha introdotto la non linearità e ha permesso un addestramento più rapido ed efficiente rispetto alle funzioni tradizionali come ReLU. Questi livelli sono stati progettati per estrarre e migliorare le caratteristiche gerarchiche, permettendo al modello di apprendere progressivamente da pattern di basso livello a quelli di alto livello man mano che le immagini si propagavano nella rete.

(5)

La spina dorsale convoluzionale di EfficientNetB7, pre-addestrata sul dataset ImageNet, forniva un insieme altamente generalizzabile di rivelatori di caratteristiche efficaci su un'ampia gamma di domini di immagine. La base pre-addestrata ha svolto un ruolo chiave nel catturare schemi sottili ma informativi nelle immagini istopatologiche, spesso caratterizzate da un'elevata variabilità intra-classe e da caratteristiche a grana fine. L'output dei livelli convoluzionali veniva passato a un livello globale di pooling medio, che riduceva le dimensioni spaziali a un singolo vettore di caratteristiche per ogni immagine. Questo vettore, che racchiude le caratteristiche più rilevanti apprese dagli strati convoluzionali, fu poi appiattito in un array unidimensionale per la compatibilità con i livelli completamente connessi. L'algoritmo per una rilevazione migliorata del cancro ai polmoni e al colon è fornito nel File Supplementare 1.

L'architettura di rete successiva includeva due strati densi (completamente connessi) con rispettivamente 128 e 64 unità. Entrambi i livelli utilizzavano la funzione di attivazione Rettificata Linear Unit (ReLU) per introdurre ulteriore non linearità e per perfezionare le caratteristiche estratte, permettendo al modello di riconoscere schemi e relazioni più precise all'interno dei dati. L'ultimo livello del modello era un livello di output SoftMax con cinque neuroni, ciascuno rappresentante una delle cinque classi del dataset. La funzione SoftMax produceva una distribuzione di probabilità tra le classi, che rifletteva la previsione del modello per ogni immagine di input, come descritto nell'Equazione 6:

(6)

La combinazione di tecniche convoluzionali all'avanguardia, una regolarizzazione robusta e strategie di ottimizzazione efficaci ha portato a un modello di deep learning ben adatto alla classificazione delle immagini mediche ad alto rischio. Il modello ha raggiunto precisione, scalabilità ed efficienza operativa, dimostrando un forte potenziale per l'applicazione clinica nella diagnosi del cancro ai polmoni e al colon. All'interno di questo contesto, la regolarizzazione è stata realizzata principalmente tramite potenziamento avanzato dei dati e l'uso di stop precoce; non è stato applicato alcun caduto esplicito o decadimento del peso sugli strati densi.

Formazione e validazione
La pipeline di validazione e preaddestramento della rete neurale convoluzionale (CNN) per LC25000 classificazione istopatologica delle immagini è stata progettata per ottimizzare le prestazioni del modello e garantire una buona generalizzazione. La pipeline iniziò con una pre-elaborazione completa, che includeva la riduzione delle immagini originali da 768 × 768 pixel a 224 × 224 pixel per soddisfare i requisiti di input dell'architettura EfficientNetB7. Le intensità dei pixel sono state normalizzate all'intervallo [0, 1] per stabilizzare e accelerare l'allenamento, e sono state applicate tecniche di aumento dei dati, incluse rotazioni casuali, spostamenti, zoom e flip orizzontali -- per introdurre variabilità e mitigare l'overfitting. Queste operazioni di pre-elaborazione garantivano che il modello apprese le caratteristiche invarianti e si generalizzasse bene a nuovi dati.

Il modello EfficientNetB7, pre-addestrato sul dataset ImageNet, è stato utilizzato come base, fornendo un robusto set di rilevatori di caratteristiche in grado di identificare sottili schemi istologici. Il modello fu successivamente affinato con due strati densi (128 e 64 unità) attivati dalla funzione Rectified Linear Unit (ReLU), seguiti da uno strato di output SoftMax per la classificazione in cinque classi. Questa architettura era ottimizzata sia per la precisione che per l'efficienza computazionale, rendendola particolarmente adatta all'analisi delle immagini mediche. La regola di aggiornamento dell'ottimizzatore di Adam per θ è mostrata nell'Equazione 7.

(7)

L'addestramento del modello è stato eseguito in lotti di 128 immagini utilizzando l'ottimizzatore Adam, che ha scalato in modo adattivo il tasso di apprendimento per promuovere una convergenza efficace. Un criterio di arresto precoce è stato implementato per monitorare la perdita di validazione e interrompere l'addestramento in caso di non miglioramento, prevenendo così l'overfitting e ottimizzando le risorse computazionali. Durante l'addestramento, le metriche chiave di prestazione — tra cui accuratezza, perdita, precisione e richiamo — sono state monitorate utilizzando un set di validazione di riserva che comprende il 20% dei dati. Il gruppo di riserva ha fornito approfondimenti fondamentali sulle capacità di generalizzazione del modello e ha mitigato il rischio di sovraadattamento a dati non visti.

L'integrazione di strategie avanzate di preprocessing, aumento dei dati e ottimizzazione ha portato a un'eccellente accuratezza e robustezza del modello, dimostrando un forte potenziale per l'applicazione clinica nella diagnosi del cancro ai polmoni e al colon. Tutti gli esperimenti sono stati condotti su una GPU NVIDIA Tesla P100 con 16 GB di memoria e 64 GB di RAM di sistema. L'intera pipeline di addestramento — inclusi preprocessing, augmentation e ottimizzazione del modello — richiedeva circa tre ore per completare dieci epoche con un batch di 128 minuti. Questa infrastruttura computazionale è stata scelta per gestire in modo efficiente il grande dataset aumentato, mantenendo al contempo tempi di addestramento ragionevoli e adeguati agli ambienti di ricerca clinica.

Per la riproducibilità, tutti i parametri critici sono stati esplicitamente specificati. Il modello è stato addestrato utilizzando l'ottimizzatore Adam con un tasso di apprendimento costante di 0,001. L'addestramento veniva svolto per un massimo di 10 epoche, con arresti precoci basati sulla perdita di validazione e una pazienza di tre epoche per prevenire il sovrafitting. Un lotto di 128 è stato utilizzato sia per la fase di addestramento che per quella di validazione. Per garantire risultati coerenti, il seed casuale è stato impostato a 42 in tutte le fasi del caricamento dei dati e dell'addestramento del modello. Durante l'addestramento non è stato applicato alcun programma di decadimento del tasso di apprendimento.

Il protocollo combinava preprocessing sistematico, iperparametri ben calibrati, schemi di validazione rigorosi e un ambiente computazionale aperto per promuovere sia accuratezza che riproducibilità. Il flusso di lavoro, integrando un'architettura robusta di deep learning, un'ottimizzazione efficace e un disegno sperimentale riproducibile, ha stabilito una solida base per la classificazione istopatologica delle immagini. Oltre a dimostrare forti prestazioni nella rilevazione del cancro ai polmoni e al colon, il protocollo ha definito un quadro scalabile che potrebbe essere esteso a sfide simili di imaging biomedico in future ricerche.

Durante lo sviluppo del modello, sono state implementate diverse modifiche pratiche per ottenere risultati affidabili e riproducibili. Sono stati utilizzati arresti precoci e aumenti dati avanzati per affrontare lo squilibrio di classe e l'overfitting. L'elevato consumo di memoria durante l'addestramento è stato ridimensionato le immagini a 224 × 224 pixel e utilizzando una dimensione batch di 128. Quando si incontrava una convergenza lenta, la velocità di apprendimento veniva empiricamente impostata a 0,001. La verifica manuale della struttura delle directory delle immagini veniva effettuata per evitare errori di caricamento dei dati, e venivano corretti semi casuali per garantirne la riproducibilità. Queste strategie possono servire come guida pratica per i ricercatori che affrontano sfide analoghe nell'addestramento di modelli di deep learning con grandi dataset di immagini istopatologiche.

Analisi statistica
La modellazione statistica delle prestazioni del modello è stata condotta utilizzando un insieme completo di metriche per valutare accuratezza, stabilità e generalizzabilità. Le principali misure di valutazione includevano precisione, richiamo, punteggio F1 e accuratezza per quantificare la performance nella classificazione. La matrice di confusione è stata utilizzata per riportare metriche di errore specifiche per classe, calcolate secondo le Equazioni 8-10:

(8)

(9)

(10)

Inoltre, sono state valutate misure di errore come l'Errore Quadratico Medio (MSE), l'Errore Quadratico Medio Radice (RMSE) e l'Errore Assoluto Medio (MAE) per valutare l'accuratezza della previsione, calcolata utilizzando le Equazioni 11-13:

(11)

(12)

(13)

La curva Receiver Operating Characteristic (ROC) e l'Area Under the Curve (AUC) sono state impiegate per valutare la capacità del modello di discriminare tra classi a varie soglianze. L'AUC è stato calcolato come mostrato nell'Equazione 14:

(14)

Queste analisi statistiche hanno fornito una valutazione approfondita delle prestazioni di classificazione, della robustezza e della generalizzazione dei dati mai visti del modello.

Studio dell'ablazione
Per valutare ulteriormente il contributo di ciascun componente all'interno del quadro di classificazione, è stato condotto uno studio di ablazione omettendo o modificando selettivamente specifici elementi architettonici del modello finale. In particolare, sono state valutate due configurazioni sperimentali alternative: una includeva sia gli strati Global Average Pooling che quelli Flatten, seguita da due strati densi (rispettivamente 128 e 64 unità); l'altra configurazione ometteva sia lo strato Flatten che lo strato denso di 128 unità, lasciando solo lo strato di Global Average Pooling e un unico strato denso di 64 unità.

L'architettura completa, come riportato nei risultati principali, ha raggiunto un'accuratezza di validazione di circa il 96%. Quando il livello Flatten è stato escluso e sono stati utilizzati solo gli strati densi di 128 e 64 unità dopo il Global Average Pooling, l'accuratezza della validazione è scesa all'81,6%. Al contrario, quando è stato escluso lo strato denso di 128 unità e lo strato Flatten è stato mantenuto, l'accuratezza della validazione è diminuita all'88%. Questi risultati indicarono la necessità di includere sia lo strato extra denso sia i componenti architettonici appropriati per ottenere prestazioni ottimali di classificazione. I risultati degli esperimenti di ablazione hanno dimostrato costantemente che la combinazione di Global Average Pooling, Appiattimento e due strati completamente connessi permetteva una rappresentazione delle caratteristiche più espressiva, risultando in una classificazione istopatologica delle immagini più robusta e accurata.

Results

La Figura 4 presenta l'accuratezza dell'addestramento e della validazione. La Figura 5 presenta la perdita di addestramento e validazione.

Figura 4: Accuratezza dell'addestramento e della validazione nelle epoche. Questa figura m...

Discussion

Nella revisione critica delle istanze etichettate erroneamente nell'architettura di deep learning EfficientNetB7, viene effettuato un esame critico su casi in cui le previsioni del modello non corrispondono alle etichette reali all'interno del dataset di validazione. L'analisi critica è di estrema importanza nell'analizzare alcuni errori di classificazione, in particolare quando il modello classifica erroneamente varie caratteristiche istopatologiche dei tessuti polmonari e del colon

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
GPU A100 (CUDA)	NVIDIA	CUDA Versione 11.0	Accelerazione GPU per l'addestramento e la valutazione del modello.
Piattaforma Kaggle	Google	N/A	Notebook basato su cloud per lo sviluppo di modelli di machine learning
Keras	TensorFlow (Google)	Versione 2.6.0	API di deep learning che gira sopra TensorFlow.
LC25000	Borkowski AA, Bui MM, Thomas LB, Wilson CP, DeLand LA, Mastorides SM. Dataset di immagini istopatologiche per il cancro ai polmoni e al colon (LC25000)	N/A	Questo dataset contiene 25.000 immagini istopatologiche suddivise in 5 classi. Tutte le immagini sono di 768 x 768 pixel e sono in formato file jpeg.
Matplotlib	Python Software Foundation	Versione 3.5.0	Libreria di visualizzazione per tracciare i risultati.
NumPy	Python Software Foundation	Versione 1.19.5	Libreria di calcolo numerico.
OpenCV	Open Source	Versione 4.5.4	Libreria di elaborazione immagini e visione artificiale.
Pandas	Python Software Foundation	Versione 1.3.4	Strumento di analisi e manipolazione dei dati.
Python (distribuzione Anaconda)	Anaconda Inc	Versione 3.7.12	Include pacchetti preinstallati e strumenti di gestione ambientale.
Scikit-learn	Python Software Foundation	Versione 0.23.2	Strumenti di machine learning per la valutazione delle prestazioni.
TensorFlow	Google	Versione 2.6.2	Framework di deep learning per modelli di diffusione.