Radiomiczny selekcja cech z wykorzystaniem gradientowej utraty głębokiej sieci neuronowej do wykrywania stadium raka płuc

Summary

Przedstawiono tutaj metodę wyboru cech opartą na głębokim uczeniu, która wykorzystuje gradienty funkcji utraty sieci neuronowej względem cech wejściowych, aby zidentyfikować i priorytetyzować te, które najsilniej wpływają na wykrywanie stadium raka płuc.

Abstract

Radiomika umożliwia wyodrębnianie ilościowych biomarkerów obrazowych z obrazów medycznych i stała się ważnym narzędziem do komputerowej diagnostyki nowotworów. Jednak zbiory danych radiomiki są zazwyczaj wysokowymiarowe i mają ograniczone rozmiary próbek, co czyni wybór cech kluczowym krokiem do budowy wiarygodnych modeli predykcyjnych. Badanie to proponuje ramy rekurencyjnej eliminacji cech gradientowych (GL-RFE), które integrują analizę wrażliwości na gradient z głębokiej sieci neuronowej w celu identyfikacji najbardziej wpływowych cech radiomicznych dla wykrywania stadium raka płuc. Łącznie 106 cech radiomicznych wyodrębniono z tomografii komputerowej klatki piersiowej (CT) przy użyciu rozszerzenia PyRadiomics platformy 3D Slicer. Proponowana metoda ocenia znaczenie cech poprzez obliczanie gradientów utraty sieciowej względem cech wejściowych i rekurencyjnie eliminuje cechy o minimalnym układzie. Uzyskane w wyniku 15 najważniejszych cech radiomicznych służy do trenowania głębokiego klasyfikatora sieci neuronowej do rozróżniania wczesnego i zaawansowanego stadium raka płuc. Proponowane ramy osiągają wysoką wydajność klasyfikacji, z dokładnością 90,22%, precyzją 90,10%, zapamiętywaniem 90,24% oraz wynikiem F1 na poziomie 90,16% w zbiorze danych testowych. Analizy wizualizacyjne, w tym korelacje mapy cieplne i wykresy rozkładów, dodatkowo potwierdzają zmniejszoną redundancję cech oraz poprawę rozdzielności klas. W porównaniu z konwencjonalnymi technikami wyboru cech, GL-RFE skutecznie rejestruje nieliniowe interakcje cech i wzmacnia uogólnianie modelu. Przedstawiony protokół dostarcza powtarzalną i interpretowalną metodologię wykrywania stadium nowotworu opartą na radiomice. Jest szczególnie odpowiedni dla wysokowymiarowych, małych próbek zbiorów danych biomedycznych i ma potencjalne zastosowania w innych dziedzinach, takich jak genomika i multimodalna analiza kliniczna.

Introduction

Rak płuc pozostaje jednym z głównych typów nowotworów, prowadząc do poważnych problemów zdrowotnych, często prowadząc do śmierci¹. Radiomika umożliwia ilościową charakterystykę obrazów medycznych poprzez wyodrębnianie dużych zbiorów cech opisujących kształt, strukturę i wzorce intensywności guza ^2,3. Te cechy, nazywane także funkcjami ręcznie wykonanymi, stanowią potencjalne biomarkery do diagnozy, rokowania i odpowiedzi na leczenie raka płuc. Jednak zbiory danych radiomiki są zazwyczaj wysokowymiarowe i ograniczone względem próbki, co prowadzi do redundantnych i hałaśliwych cech, które pogarszają wydajność modelu 4,5,6,7. Dlatego efektywny i łatwy do wyjaśnienia wybór cech jest kluczowy dla opracowania solidnych modeli predykcyjnych opartych na radiomice.

Tradycyjne metody wyboru cech, takie jak metody filtrowania (np. analiza korelacji, analiza wariancji [ANOVA], informacja wzajemna) oraz metody owijania (np. Sequential Feature Selection, Recursive Feature Elimination), są szeroko stosowane w modelach wykrywania nowotworów opartych na radiomice ^4,8,9. Jednak często nie uchwycają one nieliniowych interakcji cech oraz głębokich zależności kontekstowych wpisanych w dane radiomiki ^9,10,11. Techniki uczenia cech zespołowych zostały zbadane do klasyfikacji obrazów medycznych, ale osiągnęły umiarkowaną dokładność, którą można by jeszcze bardziej ulepszyć¹².

Metody głębokiego uczenia, szczególnie głębokie sieci neuronowe (DNN), wykazały się lepszą zdolnością do modelowania nieliniowych i hierarchicznych relacji między cechami i wynikami, co czyni je idealnymi do kierowania wyborem cech oraz dostarczania dokładnych modeli wykrywania nowotworów^13,14. W tym kontekście bada się potencjał wykorzystania konwolucyjnej sieci neuronowej, technik multimodalnej AI oraz VCG-16, wstępnie wytrenowanego modelu diagnostyki nowotworów, ^1,15,16. Zaproponowano, wytrenowano i przetestowano hybrydowy model głębokiego uczenia¹⁷, obejmujący wstępnie wytrenowany model VGG-19 oraz długie sieci pamięci krótkotrwałej (LSTM), który uzyskuje dużą liczbę obrazów, osiągając dokładność przekraczającą 99%.

Oprócz wykrywania nowotworów, prowadzono także badania nad zaawansowaniem raka. Hugo i ^in.18 zaprojektowali model sieci neuronowej z perspektywą w przyszłości w bazie danych NSCLC obejmującej 300 pacjentów, aby sklasyfikować stadium nowotworów I, II i III z dokładnością 74,52% w testach modelowych. Przedstawiono metodę inwersji bayesowskiej^opartą na radimice 3 do wykrywania stadium raka płuca, wykorzystując zbiór danych NLST na próbie liczącej 200 osób. Proponowana metoda osiągnęła dokładność 86%. Przegląd literatury wykazał, że większość badań nad wykrywaniem nowotworów koncentrowała się wyłącznie na klasyfikacji guzów łagodnych i złośliwych, a tylko nieliczne zajmowały się klasyfikacją stadia nowotworu, z dokładnością poniżej 90%, którą można jeszcze ulepszyć. Niniejszy artykuł badawczy rozwiązuje wspomnianą lukę naukową i proponuje solidne ramy klasyfikacji radiomicznych oparte na cechach do dokładnego wykrywania stadium raka płuc.

W niniejszym badaniu wprowadzono ramę rekurencyjnej eliminacji cech (GL-RFE) opartą na utracie gradientu, integrującą wsteczną propagację gradientów z sieci neuronowych z procesem RFE. W przeciwieństwie do konwencjonalnych metod RFE, które opierają się na statycznych metrykach ważności cech, GL-RFE wykorzystuje gradienty funkcji straty względem każdej cechy wejściowej, aby zmierzyć, jak silnie każda z nich wpływa na przewidywania modelu. Poprzez iteracyjne usuwanie cech o minimalnym wpływie gradientu, prezentowany model dokonuje wyboru cech 15 najważniejszych cech diagnostycznych zoptymalizowanych do wykrywania stadium raka płuca w 2 klasach (łącznie stadium I i II oraz stopnie IIIa i IIIb łącznie). Diagram przepływu pracy wykonanej pracy przedstawiony jest na Rysunku 1. Wybrany zestaw danych dotyczących raka płuca dla prezentowanego modelu to NSCLC Radiomics¹⁹, obejmujący 411 tomów formatu określanego jako cyfrowe obrazowanie i komunikacja w medycynie (DICOM) wraz z informacjami o stadium nowotworu klinicznego. Łącznie 106 cech radiomiki 3D z każdego woluminu DICOM dotyczącego raka płuca jest wyodrębnionych za pomocą PyRadiomics²⁰, rozszerzenia otwartoźródłowego oprogramowania 3D Slicer²¹. Te cechy należą do siedmiu klas cech²², w tym kształtu, metody różnic poziomów szarości (GLDM), macierzy współwystępowania na poziomie szarości (GLCM), macierzy pierwszego rzędu, macierzy długości długości serii na poziomie szarym (GLRLM), macierzy strefy rozmiaru poziomu szarego (GLSZM), macierzy różnic szarości i tonów sąsiedztwa (NGTDM). Dane radiomiki klasy mniejszościowej (etap I i etap II) zostały nadpróbkowane za pomocą techniki nadpróbkowania syntetycznej mniejszości (SMOTE)²³.

Nowością proponowanego ramowego systemu GL-RFE jest integracja analizy wrażliwości opartej na gradientach, pochodzącej z trenowania sieci neuronowych, z procesem eliminacji cech rekurencyjnych. W przeciwieństwie do konwencjonalnych podejść RFE, które opierają się na statycznych miarach ważności, GL-RFE dynamicznie ocenia istotność cech poprzez wstecznie propagowane gradienty funkcji strat. Umożliwia to identyfikację cech bezpośrednio wpływających na prognozy modeli dla stadium nowotworu, jednocześnie zachowując interpretowalność i wykonalność obliczeniową dla stosunkowo niewielkich zbiorów danych medycznych.

Zbiór danych wykorzystywany do treningu i testowania proponowanych ram to publicznie dostępny zestaw obrazów tomografii komputerowej 422 pacjentów z rakiem płuc, znany jako NSCLC Radiomics¹⁷. Dla każdego pacjenta zestaw danych zawiera objętość tomografii komputerowej, zestaw struktur radioterapii DICOM (RTSTRUCT) oraz plik segmentacji DICOM (SEG). Pliki te zawierają ręczne wyznaczenia wykonane przez onkologa radioterapeutycznego trójwymiarowej objętości pierwotnego guza brutkowego (GTV-1) oraz obraz płuc. Zbiór danych jest wstępnie przetworzony, a wymiary obrazów to 512 x 512 pikseli.

Ze względu na nieliniowy charakter ręcznie tworzonych cech radiomicznych, te cechy nie mogą być bezpośrednio wykorzystywane z modelami głębokiego uczenia do diagnozowania nowotworów, a ich wrodzone wzorce danych muszą być rejestrowane za pomocą technik AI. GL-RFE klasyfikuje cechy na podstawie wielkości gradientu utraty modelu L względem każdej cechy wejściowej x_i.

Dla każdej cechy wejściowej x_i średni gradient bezwzględny oblicza się następująco:

   (1)

Tutaj N to całkowita liczba próbek. L_j to strata dla ^j-tej próbki. X_ij jest ^i-tą cechą ^j-tej próbki. oznacza czułość straty względem cechy wejściowej.

Cechy o niskich gradientach mają minimalny wpływ na aktualizacje modeli i są rekurencyjnie eliminowane. Proponowany sposób eliminacji niskogradientowych cech radiomicznych przy użyciu wielowarstwowego perceptronu (MLP) oraz trenowania sieci neuronowej głębokiego uczenia (DNN) na 15 najważniejszych cechach przedstawiono na Rysunku 1. Następnie oceniana jest wydajność metody GL-RFE do wyboru cech.

Wspomniany wcześniej model głębokiego uczenia metodą GL–RFE jest implementowany w notatniku Jupyter w Google Colab, co pozwala na pisanie i wykonywanie kodu Pythona w środowisku online. Do kompilacji kodu należy pobrać różne pakiety, zawarte w krokach protokołu i materiałach. Korzystając z metody opisanej w sekcji Protokołu, zidentyfikowano 15 najważniejszych cech radiomicznych do wykrywania raka płuc, które zostały wykorzystane do uzyskania dokładnego wykrywania raka na zbiorach danych testowych.

Protocol

1. Ekstrakcja cech radiomicznych za pomocą rozszerzenia 3D Slicer PyRadiomics

UWAGA: Poniższe kroki zostały zaprojektowane do obliczenia cech radiomicznych pliku CT DICOM dla płuc z wykorzystaniem rozszerzenia 3D Slicer PyRadiomics oraz zapisu w pliku o formacie csv.

1. Zainstaluj i otwórz 3D Slicer (użyj najnowszej stabilnej wersji od https://download.slicer.org/).
2. Zainstaluj rozszerzenie PyRadiomics i RT slicera.
   1. W pasku menu przejdź do View > Extensions Manager. Następnie wyszukaj Radiomics lub SlicerRadiomics oraz RT Slicer.
   2. Kliknij Install (Zainstaluj), aby zainstalować biblioteki RT Slicer i PyRadiomics. Zrestartuj 3D Slicer po instalacji.
3. Pobierz NSCLC RADIOMICS.
   1. Pobierz zestawy danych CT i płuc DICOM wraz z plikami SEG, RTSTRUCT 422 pacjentów z https://www.cancerimagingarchive.net/collection/nsclc-radiomics/
4. Załaduj dane DICOM CT płuc.
   1. Przejdź do modułu DICOM. Kliknij Import i wybierz folder zawierający wycinki DICOM CT oraz ich plik SEG w modalności RTSTRUCT.
   2. Po imporcie kliknij dwukrotnie pacjent/badanie/serię, aby załadować je do sceny Slicera. Objętość 3D CT powinna być widoczna w panelu przeglądarki, jak pokazano na Rysunku 2.
5. Sprawdź geometrię.
   1. W module danych rozszerzaj zarówno objętość CT, jak i segmentację. Upewnij się, że segmentacja dokładnie leży nad CT (bez rozbieżności).
6. Otwórz moduł Radiomiki.
   1. Wybierz moduł Radiomics z sekcji modułów (lub wyszukaj go w pasku wyszukiwania modułów). W Input Image Volume wybierz pożądany volume CT.
   2. W Input Label/Segmentation wybierz węzeł segmentacji (ROI).
7. Dostosuj parametry personalizacji ekstrakcji.
   1. Ustaw odstępy pikseli z ponownym próbkowaniem = [1,1,1] (zapewnia izotropowe woksele) oraz szerokość binu = 25 (standard dla CT). Ustaw rozmiar jądra LoG =2.0, 3.0, 4.0, 5.0.
8. Uruchom ekstrakcję cech.
   1. Kliknij Aplikuj. Oprogramowanie będzie teraz obliczać cechy trójwymiarowe pierwszego rzędu, kształt i tekstury (GLCM, GLRLM, GLSZM, GLDM i NGTDM). Wyświetl tabelę, aby zweryfikować obliczone tabele, jak pokazano na Rysunku 3. Wyjdź plik csv ze wszystkimi wyodrębnionymi cechami.
   2. Powtórz powyższy proces dla wszystkich woluminów DICOM pobranych z zbioru danych NSCLC RADIOMICS i zapisz je jako pojedynczy plik "radiomics.csv".

2. Opracowanie modelu wykrywania nowotworów opartego na radiomice z wykorzystaniem bibliotek Python

UWAGA: Poniższe kroki są podsumowane, aby użytkownik mógł opracować, wytrenować i przetestować model wykrywania nowotworów przy użyciu bibliotek Pythona z funkcjami radiomicznych zbiorów danych CT.

1. Sformatuj zbiór danych radiomiki zapisany w formacie csv tak, aby każdy wiersz reprezentował jednego pacjenta/próbkę, a każda kolumna cechę. Dodaj jedną kolumnę etykiet dla etykiet klas.
2. Otwórz nowy notes Jupyter w środowisku Colab i zacznij pisać kod, deklarując poniżej definicje funkcji oraz wbudowane funkcje w Pythonie w kroku 2.3.
3. Wydaj polecenie, aby zainstalować Pytorch, torchvision, scikit-learn, numpy, pandas matplotlib i imbalanced-learn na zeszycie Jupyter.
4. Zapisz funkcję files.upload(), aby pobrać wejściowy plik csv od użytkownika i przechować go w zmiennych x i y.
5. Normalizuj przechowywane dane za pomocą funkcji skaler = StandardScaler() oraz scaler.fit_transform().
6. Zdefiniuj wielowarstwową funkcję perceptron MLP(nn. Module()) z konfigurowalnymi ukrytymi warstwami.
7. Zdefiniuj funkcję treningową def train_epoch() do obliczania utraty propagacji wstecznej z modelu MLP z wejściami.
8. Dla wielu epok zdefiniuj funkcję def compute_input_gradients() do obliczania średnich gradientów straty względem cech wejściowych i iteracyjnie usuwaj cechę o najniższym gradientze, czyli o mniejszym znaczeniu, aż pozostanie 15 cech.
9. Podziel dane w stosunku 80% 20% za pomocą funkcji train_test_split() z wybranymi 15 cechami. Zastosuj 5-krotną walidację krzyżową za pomocą StratifiedKFold(n_splits=5) na danych treningowych, aby zapewnić odporność.
10. Stwórz dużą sieć neuronową MLP final_model = DNN().
11. Oceń wydajność wytrenowanego modelu na podstawie danych testowych za pomocą następujących funkcji: def plot_confusion_matrix(), accuracy_score(), precision_score(), recall_score(), f1_score(), heatmap().

3. Uruchamianie notebooka Jupyter do budowy i testowania modelu

1. Uruchom kod Pythona w notesie Jupyter. Otrzymuje się komunikat o przesłaniu pliku csv radiomics, jak pokazano na Rysunku 4.
2. Prześlij radiomics.csv.
3. Zapisz wyniki klasyfikacji i wygenerowane wykresy.

Results

Podsumowanie zbioru danych
Zbiór danych NSCLC Radiomics obejmuje 422 objętości tomografii komputerowej pacjentów w stadium I, II i III raka płuc. Podczas gdy liczba zestawów tomografii komputerowej z rakiem we wczesnym stadium (I, II) wynosi 134, próbki danych z rakiem w zaawansowanym stadium (IIIa, IIIb) to 288. Zbiór danych wykazywał istotną nierównowagę klasową, z większą liczbą przypadków zaawansowanego stadium (stadium III) w porównaniu do przypadków wczesnego stadium (stadium I i stadium II). ...

Discussion

Odporność i niezawodność proponowanego systemu widać w wysokich wartościach metryk ewaluacji, w tym dokładności, przypominania, precyzji oraz wyniku F-1²⁴. Wszystkie wyniki uzyskały ponad 90% wyników na danych testowych, a podczas szkolenia MLP zastosowano pięciokrotne CV.

Wydajność i wiarygodność proponowanego ramowego systemu GL-RFE zostały dodatkowo potwierdzone technikami wizualizacji. Mapy cieplne korelacji²⁵ na

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Oprogramowanie do 3D Slicera	Oficjalna strona internetowa	5.x	Wizualizacja obrazów medycznych, segmentacja i ekstrakcja zwrotu z inwestycji w analizie radiomiki
Pakiet Imbalanced-Learn	PyPI	0.11+	Radzenie sobie z nierównowagą klasową (np. SMOTE)
Matplotlib  Pakiet	PyPI	3.x	Wykres krzywych treningowych i znaczenia cech
Pakiet NumPy	PyPI	1.26.x	Operacje numeryczne i obsługa macierzy cech
Pakiet Pandas	PyPI	2.x	Wstępne przetwarzanie danych i zarządzanie zbiórem danych strukturalnych
Pakiet PyRadiomics	PyPI	3.x	Ekstrakcja cech radiomicznych z obrazów CT
PyTorch  Pakiet	PyPI	2.x	Ramy głębokiego uczenia dla MLP i obliczeń gradientowych
Pakiet Scikit-learn	PyPI	1.3.x	Ocena modelu (dokładność, precyzja, przypomnienie, wynik F1)
SciPy  Pakiet	PyPI	1.11+	Analiza statystyczna i walidacja
Seaborn   Pakiet	PyPI	0.13.x	Mapy ciepła do analizy korelacji cech
Moduł Torch.nn	PyPI	2.x	Architektura sieci neuronowej (warstwy, aktywacje)
Moduł Torch.optim	PyPI	2.x	Algorytmy optymalizacji (np. Adam)