$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
I dataset CaDIS e SICS-105 utilizzati in questo studio sono disponibili pubblicamente e sono stati originariamente raccolti con l'approvazione preventiva del comitato di revisione istituzionale e il consenso informato, come riportato nelle rispettive pubblicazioni. Questo studio prevede solo un'analisi secondaria di dati completamente anonimizzati e, pertanto, non è richiesta alcuna approvazione etica aggiuntiva o consenso informato.
Il modello suggerito è stato progettato per prevedere le complicazioni della vitrectomia post-operatoria sfruttando i modelli spaziotemporali provenienti dai video di microscopia intraoperatoria. La pipeline comprende quattro fasi principali: preprocessing, segmentazione, estrazione delle caratteristiche, ottimizzazione delle feature e classificazione, come mostrato nella Figura 1.
La valutazione intraoperatoria del rischio di complicanze post-operatorie è l'obiettivo di previsione dello studio. Il modello non può prevedere eventi postoperatori clinicamente verificati entro una finestra temporale specifica perché i dataset CaDIS e SICS-105 non dispongono di dati di follow-up longitudinali. Piuttosto, utilizza schemi chirurgici intraoperatori per dedurre la probabilità di possibili problemi. Le definizioni operative di "complicazione" in questo contesto includono transizioni di fase irregolari, interazioni anomale strumento-tessuto e variazioni nel flusso di lavoro chirurgico associate a una maggiore complessità chirurgica. Per garantire interpretabilità e valutazione affidabile, il lavoro di previsione è progettato come un problema di classificazione binaria che classifica i casi in gruppi a basso e alto rischio. Invece di fungere da sistema diagnostico clinico diretto, questa formulazione permette al quadro suggerito di fungere da strumento di supporto alla decisione intraoperatorio.
Descrizione del dataset:
Il modello proposto è stato valutato su due dataset: il dataset A (CaDIS, Cataract Dataset for Image Segmentation) e il dataset SICS-105 (Small-Incision Catataract Surgery).
(i) CaDIS31: Questo dataset è stato sviluppato per il compito di segmentazione nei video di chirurgia della cataratta. Questo viene introdotto per integrare il dataset di sfida CATARACTS disponibile pubblicamente e mira quindi a promuovere lo sviluppo di schemi DL per l'analisi dei video chirurgici. Il dataset consiste in 25 registrazioni video per un totale di 4.670 fotogrammi annotati, che rappresentano diverse fasi della chirurgia della cataratta (Figura Supplementare 1). Ogni fotogramma è annotato con cura, fornendo etichette a livello di pixel necessarie per addestrare e stimare lo schema di segmentazione. Serve come punto di riferimento per valutare le prestazioni del modello DL nei video chirurgici.
(ii) SICS-105 (chirurgia della cataratta a piccole incisioni) dataset32: Questo dataset comprende 105 registrazioni effettuate da chirurghi e annotate da quattro oftalmologi in un periodo di 6 mesi tra il 2023 e il 2024, coprendo 20 fasi (Figura Supplementare 2). La durata totale del video è di 22 h e 39 min, con una risoluzione di 1920 × 1080 pixel (ridimensionata a 960 × 540) e 30 fps. La durata media di un video è di 12 minuti e 57 secondi (σ=4:31 min). Un dataset è pubblicamente accessibile nel repository Zenodo all'URL: https://doi.org/10.5281/zenodo.13847781. I campioni rappresentativi di input sono mostrati nella Figura Supplementare 1 e nella Figura Supplementare 2. Sebbene i dataset CaDIS e SICS-105 siano stati originariamente progettati per il riconoscimento e la segmentazione della fase chirurgica nella chirurgia della cataratta, ci sono informazioni limitate sulle complicazioni della vitrectomia post-operatoria. Per affrontare la mancanza di informazioni sulle complicanze della vitrectomia post-operatoria, proponiamo un insieme di etichette proxy per le informazioni sul rischio basate su schemi visivi intraoperatori e eventi nella sequenza video. I frame e le sequenze video nei dataset sono stati annotati con informazioni di rischio a tre livelli (basso, moderato, alto) secondo un insieme di euristiche ispirate alla comprensione clinica, tra cui complessità di interazione strumento-tessuto, anomalie nella durata chirurgica, occlusione, instabilità e movimento anomalo. La formulazione proposta non utilizza gli esiti clinici come etichette, ma li tratta come etichette proxy per informazioni sul rischio sulle potenziali complicanze post-operatorie.
Preprocessing usando l'approccio cGAN
Tipicamente, i fotogrammi grezzi sono spesso degradati da variazioni di illuminazione, sfocatura e artefatti speculari. Per affrontare questo problema, viene utilizzata una Rete Generativa Antagionale condizionata (cGAN) per migliorare il video. I fotogrammi grezzi sono i fotogrammi originali, non processati, estratti direttamente da registrazioni video di microscopia intraoperatoria, prima di qualsiasi miglioramento o normalizzazione. Questi fotogrammi contengono tipicamente artefatti come variabilità dell'illuminazione, sfocatura del movimento, riflessi speculari e rumore proveniente da strumenti chirurgici e dal movimento della telecamera. Un generatore ripristina i fotogrammi puliti mentre un discriminatore rafforza il realismo visivo. La funzione obiettivo che integra ricostruzione dei pixel, perdite di coerenza adversariale e temporale, garantendo sequenze video stabili e prive di artefatti per ulteriori analisi.
Un frame degradato It al passo temporale t è l'input del generatore, mentre un frame migliorato Yt = G(I t) è il suo output. Condizionato dall'input it, il discriminatore viene addestrato a distinguere tra l'output generato e il frame di verità di base Yt. L'obiettivo di addestramento incorpora diverse funzioni di perdita per garantire una ricostruzione di alta qualità: (i) perdita avversaria per imporre il realismo; (ii) perdita di ricostruzione pixel per pixel (perdita L1) per mantenere la fedeltà dell'intensità; (iii) perdita percettiva per preservare la coerenza strutturale utilizzando rappresentazioni profonde delle caratteristiche; e (iv) perdita di coerenza temporale per garantire transizioni fluide tra fotogrammi consecutivi e prevenire artefatti di sfarfallio.
Per garantire input di alta qualità per l'estrazione delle caratteristiche, i video di microscopia intraoperatoria vengono inizialmente migliorati utilizzando un cGAN. Ogni frame grezzo It* è considerato un'osservazione degradata di un frame pulito . Un generatore G apprende una mappatura G(It) = It per il ripristino dei frame migliorati, mentre il discriminatore D distingue tra campioni reali e generati. Un obiettivo di addestramento integra la perdita avversaria Ladv, la perdita percettiva L perc basata su pixel e la perdita di ricostruzione LL1 e la consistenza temporale Ltemp. Questo modello sopprime sfocatura, artefatti speculari e rumore mantenendo coerenza temporale e strutturale, fornendo sequenze video stabili e prive di artefatti per l'analisi a valle. La formulazione del GAN è espressa nelle Equazioni [1-6] del Supplementary File 1.
Segmentazione tramite Segmentazione Adattiva per Contorni (CAS)
In questo, la segmentazione viene eseguita utilizzando un modello di segmentazione adattivo ai contorni. Questo definisce le linee preliminari per segmentare le immagini di vitrectomia colpite nelle immagini microscopiche, riducendo così la funzione energetica, come mostrato nelle equazioni [7-12] nel file supplementare 1. Il basso valore energetico garantisce rappresentazioni precise e una valutazione localizzata delle regioni a rischio. Questo, a sua volta, consente una segmentazione precisa delle regioni interessate, che successivamente facilita l'estrazione delle caratteristiche nella sezione successiva.
Estrazione di caratteristiche utilizzando GCN(dGCN) spaziotemporale dinamico
Una volta completata la fase di pre-elaborazione, il passo successivo è estrarre le caratteristiche spaziotemporali discriminative. Per questo motivo, si utilizza una Rete Convoluzionale di Grafi (GCN), poiché è efficace nel catturare dipendenze strutturate. Il modello adottato comprende strati GCN impilati con attivazioni non lineari che mitigano l'overfitting e affrontano il problema dell'annullamento del gradiente tramite un meccanismo di normalizzazione. La formulazione GCN si basa su un'approssimazione spettrale di primo ordine delle convoluzioni dei grafi, rendendola adatta a compiti di apprendimento semi-supervisionato su larga scala. Inoltre, la rappresentazione linearizzata semplifica l'ottimizzazione, garantendo così un apprendimento efficace dei parametri. Il funzionamento del GCN semplificato è espresso nelle Equazioni [13–15] del Supplementary File 1. Quando applicato, il GCN estrae in modo efficiente rappresentazioni strutturali di livello superiore dai dati video intraoperatori. Successivamente, solo le caratteristiche più rilevanti o appropriate vengono quindi mantenute rispetto a un meccanismo di selezione assistito dall'ottimizzazione, descritto nella sezione successiva.
Ottimizzazione delle caratteristiche utilizzando l'ottimizzazione delle caratteristiche basata su Tournasole Adattiva (ASFO)
L'Algoritmo di Ottimizzazione Adattiva dei Girasoli (ASFO) è una versione migliorata dell'Approccio Classico di Ottimizzazione dei Girasoli (SFOA). Nel modello suggerito, questo processo guidato dalla biologia è matematicamente modellato per affrontare il raffinamento e la selezione delle caratteristiche in un dataset ad alta dimensione. In particolare, questo approccio è pensato per migliorare la velocità di convergenza, bilanciare l'esplorazione e lo sfruttamento al fine di preservare la diversità delle soluzioni e mitigare la convergenza prematura. La formulazione matematica dell'ASFO è enunciata nelle Equazioni [16–21] del Supplementary File 1. Questo schema accelera la convergenza una volta che le soluzioni sono quasi ottimali. L'algoritmo dettagliato è fornito nel Supplementary File 1. Nella pipeline proposta, l'ASFO viene utilizzato per affinare il vettore caratteristico dopo la fusione basata su trasformatore. Le caratteristiche selezionate sono basate su texture, colore e intensità, morfologiche e strutturali, moto e temporali, ad alta dimensione e a descrivere regioni ponderate per attenzione. L'obiettivo è minimizzare la funzione di perdita di rilevanza delle caratteristiche, selezionando e pesando così le caratteristiche che migliorano l'accuratezza della classificazione riducendo la ridondanza.
Testa di classificazione basata su trasformatori con aggregazione di attenzione spaziotemporale
Un modello basato su transformer viene utilizzato per catturare le dipendenze temporali tra sequenze video chirurgiche. Il modello è configurato con autoattenzione multi-testa, codifica posizionale e strati completamente connessi per la previsione finale del rischio. L'ottimizzazione degli iperparametri viene eseguita utilizzando ASFO. La pipeline integrata combina preprocessing, estrazione delle caratteristiche, ottimizzazione e classificazione basata su trasformatori per consentire una previsione accurata del rischio chirurgico.