폐암 병기 검출을 위한 심층 신경망의 그라디언트 손실을 이용한 방사선 특성 선택

Summary

여기서는 신경망 손실 함수의 입력 특징에 대한 구배를 활용하여 폐암 병기 발견에 가장 큰 영향을 미치는 특징을 식별하고 우선순위를 정하는 딥러닝 기반 특징 선택 방법을 제시합니다.

Abstract

방사학은 의료 이미지에서 정량적 영상 바이오마커를 추출할 수 있게 하며, 컴퓨터 보조 암 진단에 중요한 도구가 되었습니다. 하지만 방사성 학 데이터셋은 일반적으로 표본 크기가 제한된 고차원 데이터셋이기 때문에, 특징 선택은 신뢰할 수 있는 예측 모델을 구축하는 데 매우 중요한 단계입니다. 본 연구는 심층 신경망에서 구배 민감도 분석을 통합하여 폐암 병기 검출에 가장 영향력 있는 방사선 특성을 식별하는 구배-손실 재귀 특징 제거(GL-RFE) 프레임워크를 제안합니다. 3D 슬라이서 플랫폼의 PyRadiomics 확장을 이용한 흉부 컴퓨터 단층촬영(CT) 스캔에서 총 106개의 방사선 마이크 특징이 추출되었습니다. 제안된 방법은 입력 특성에 대한 네트워크 손실의 기울기를 계산하여 특징 중요성을 평가하고, 최소한의 기여로 특징을 재귀적으로 제거합니다. 이로 인해 상위 15개의 방사선 측정 특성이 초기 및 진행기 폐암을 구분하는 심층 신경망 분류기를 훈련하는 데 사용됩니다. 제안된 프레임워크는 테스트 데이터셋에서 90.22%의 정확도, 90.10%의 정확도, 90.24%의 회상율, 90.16%의 F1 점수로 강력한 분류 성능을 달성합니다. 상관 열맵과 분포 플롯을 포함한 시각화 분석은 특징 중복성 감소와 클래스 분리성 향상을 더욱 확인시켜 줍니다. 기존의 특징 선택 기법과 비교할 때, GL-RFE는 비선형 특징 상호작용을 효과적으로 포착하고 모델 일반화를 향상시킵니다. 제시된 프로토콜은 방사선 학 기반 암기 검출을 위한 재현 가능하고 해석 가능한 방법론을 제공합니다. 특히 고차원 소표본 생의학 데이터셋에 적합하며, 유전체학 및 다중 모달 임상 분석 등 다른 분야에서도 잠재적 응용이 가능합니다.

Introduction

폐암은 여전히 주요 암 유형 중 하나로 남아 있으며, 심각한 건강 문제를 초래하며 종종 사망에 이를 수 있습니다¹. 방사선학은 종양의 형태, 질감, 강도 패턴을 설명하는 대규모 특징을 추출하여 의료 영상의 정량적 특성화를 가능하게 합니다 ^2,3. 이러한 특징들은 수제 기능이라고도 하며, 폐암의 진단, 예후 및 치료 반응에 잠재적인 바이오마커 역할을 합니다. 하지만 방사성 마이크 데이터셋은 일반적으로 고차원적이고 표본이 제한되어 있어 중복되고 잡음이 많은 특징이 발생해 모델 성능을 저하시킵니다 ^4,5,6,7. 따라서 효율적이고 설명 가능한 특징 선택은 견고한 방사선 기반 예측 모델 개발에 필수적입니다.

필터 방법(예: 상관분석, 분산분석[ANOVA], 상호 정보)과 래퍼 방법(예: 순차적 특징 선택, 재귀적 특징 제거)과 같은 전통적인 특징 선택 접근법은 방사선 기반 암 탐지 모델에 널리 사용됩니다 ^4,8,9. 그러나 이들은 종종 비선형 특징 상호작용과 라디오믹스 데이터에 내재된 깊은 맥락적 의존성을 포착하지 못합니다 ^9,10,11. 앙상블 특징 학습 기법은 의료 이미지 분류를 위해 연구되었으나, 중간 정도의 정확도를 달성했으며 추가 개선이 가능하다¹².

딥러닝 기법, 특히 딥 뉴럴 네트워크(DNN)는 특징과 결과 간의 비선형적이고 계층적인 관계를 모델링하는 데 뛰어난 능력을 보여주어 특징 선택을 안내하고 정확한 암 탐지 모델을 제공하는 데 이상적이다^13,14. 이 맥락에서 합성곱 신경망, 다중 모달 AI 기법, 암 진단을 위한 사전 학습 모델인 VCG-16 활용 가능성을 탐구^합니다. 사전 학습된 VGG-19 모델과 장기 단기 기억 네트워크(LSTMs)를 포함하는 하이브리드 딥러닝 모델¹⁷이 제안되어 훈련 및 테스트되어 99% 이상의 정확도를 달성했습니다.

암 발견 외에도 암 병기 관리에 관한 연구도 진행되었습니다. Hugo 등은 NSCLC 데이터베이스에서 300명의 환자를 대상으로 한 피드 포워드 신경망 ^{모델을 설계하여} 암 1, II, III기를 모델 테스트에서 74.52%의 정확도로 분류하였습니다. NLST 데이터셋을 사용하여 200표본 크기에서 폐암 병기 검출을 위한 방사선 기반 베이지안 역전 방법³이 제시되었습니다. 제안된 방법은 86%의 정확도를 달성했다. 문헌 검토에 따르면 암 발견에 관한 대부분의 연구는 양성 및 악성 종양 분류에만 집중했으며, 암 병기 분류를 다룬 연구는 극소수에 불과하며, 정확도는 90% 미만으로 개선이 가능하다. 본 연구 논문은 앞서 언급한 연구 격차를 해소하고, 정확한 폐암 병기 진단을 위한 견고한 방사선 측정 특성 기반 분류 체계를 제안합니다.

이 연구에서는 신경망의 그라데이언트 역전파를 RFE 과정에 통합하는 그라디언트 손실 기반 재귀 특징 제거(GL-RFE) 프레임워크가 도입되었습니다. 기존의 RFE 방법이 정적인 특징 중요도 지표에 의존하는 것과 달리, GL-RFE는 손실 함수의 각 입력 특징에 대한 기울기를 활용하여 각 특징이 모델 예측에 얼마나 강하게 영향을 미치는지 측정합니다. 기울기 기여가 최소화된 특징을 반복적으로 제거함으로써, 제시된 모델은 폐암 병기 2단계 검사에 최적화된 상위 15가지 진단 특징(1기 및 2기 복합, IIIa기와 IIIb 병합)을 선택합니다. 수행된 작업의 워크플로우 다이어그램은 그림 1에 나와 있습니다. 제시된 모델에 선택된 폐암 데이터셋은 NSCLC Radiomics¹⁹로, 임상 암기 정보를 담은 디지털 영상 및 의학 통신(DICOM) 411권의 포맷을 포함하고 있습니다. 각 폐암 DICOM 볼륨의 총 106개의 3D 방사선 마이크 특징은 오픈 소스 소프트웨어 3D 슬라이서²¹의 확장인 PyRadiomics²⁰을 사용하여 추출됩니다. 이 특징들은 7개의 특징 클래스²²에 속하며, 여기에는 형태, 회색 수준 차분법(GLDM), 회색 수준 공현 행렬(GLCM), 1차 회색 수준 실행 길이 행렬(GLRLM), 회색 수준 크기 영역 행렬(GLSZM), 이웃 회색-톤 차이 행렬(NGTDM) 등이 포함됩니다. 소수민족 등급(1단계 및 2단계)의 방사선 마이크 데이터는 합성 소수자 과표본 기법(SMOTE)을 사용해 과시표본화되었습니다²³.

제안된 GL-RFE 프레임워크의 새로움은 신경망 훈련에서 파생된 그라디언트 기반 민감도 분석을 재귀적 특징 제거 과정에 통합했다는 점에 있습니다. 정적 중요성 측정에 의존하는 기존 RFE 접근법과 달리, GL-RFE는 손실 함수의 역전파 기울기를 통해 특징 관련성을 동적으로 평가합니다. 이를 통해 암기 예측에 직접적인 영향을 미치는 특징을 식별하면서도 비교적 작은 의료 데이터셋에 대한 해석 가능성과 계산 가능성을 유지할 수 있습니다.

제안된 프레임워크의 훈련 및 테스트에 사용된 데이터셋은 NSCLC Radiomics¹⁷로 알려진 422명의 폐암 환자에 대한 공개된 CT 이미지 데이터셋입니다. 각 환자에 대해 데이터 세트에는 CT 볼륨, DICOM 방사선 치료 구조 세트(RTSTRUCT), DICOM 분할(SEG) 파일이 포함됩니다. 이 파일에는 방사선 종양학자가 수행한 원발성 종양 부피(GTV-1)의 3차원 부피와 폐 영상을 수동으로 구분한 내용이 포함되어 있습니다. 데이터 세트는 사전 처리된 세트이며, 이미지 크기는 512 x 512 픽셀입니다.

수제 방사선 측정 특성의 비선형 특성 때문에, 이러한 특징들은 암 진단을 위한 딥러닝 모델과 직접 사용할 수 없으며, 그 고유한 데이터 패턴은 AI 기법을 통해 포착되어야 합니다. GL-RFE는 각 입력 특징 x_i에 대한 모델 손실 L의 기울기 크기를 기준으로 특징을 순위 매깁니다.

각 입력 특징 x_i에 대해 평균 절대 구배는 다음과 같이 계산됩니다:

(1)

여기서 N은 총 샘플 수이다. L_j 는 j^번째 샘플의 손실입니다. x_ij는 j^번째 샘플의 i^번째 특징입니다. 는 입력 특징에 대한 손실의 민감도를 나타냅니다.

낮은 기울기 크기의 특징들은 모델 업데이트에 미치는 영향이 적으며 재귀적으로 제거됩니다. 다층 퍼셉트론(MLP)을 이용해 저구배 방사선 특성을 제거하고, 상위 15개 특징에 대해 딥러닝 신경망(DNN)을 학습시키는 제안된 워크플로우는 그림 1에 나와 있습니다. 그 후 GL-RFE 방식의 특징 선택을 위한 성능을 평가합니다.

앞서 언급한 GL–RFE 방식의 딥러닝 모델은 Google Colab의 Jupyter 노트북에 구현되어 온라인 환경에서 Python 코드를 작성하고 실행할 수 있습니다. 프로토콜 단계와 자료에 포함된 다양한 패키지를 다운로드하여 코드를 컴파일해야 합니다. 프로토콜 섹션에서 설명한 방법을 사용하여 폐암 탐지에 가장 중요한 15가지 방사선 특성을 식별하고 이를 활용하여 테스트 데이터셋에서 정확한 암 탐지를 달성합니다.

Protocol

1. 3D 슬라이서 PyRadiomics 확장 기능을 이용한 방사성 특성 추출

참고: 다음 단계는 3D Slicer PyRadiomics 확장을 사용하여 폐 CT DICOM 파일의 방사선 특성을 계산하고, 쉼표 구분값(csv) 형식으로 저장하기 위해 설계되었습니다.

1. 3D 슬라이서를 설치하고 실행하세요(https://download.slicer.org/ 에서 최신 안정 버전을 사용하세요.
2. PyRadiomics 확장 프로그램과 RT 슬라이서를 설치하세요.
   1. 메뉴 바에서 확장 프로그램 관리자 보기로 가>. 그다음 Radiomics 또는 SlicerRadiomics, RT Slicer를 검색하세요.
   2. RT 슬라이서와 파이라디오믹스 라이브러리를 설치하려면 설치 를 클릭하세요. 설치 후 3D 슬라이서를 재시작하세요.
3. NSCLC 방사선 검사 다운로드하세요.
   1. https://www.cancerimagingarchive.net/collection/nsclc-radiomics/ 에서 CT 폐 DICOM 데이터셋과 SEG, RTSTRUCT 파일을 다운로드하세요
4. 폐 CT DICOM 데이터를 로드하세요.
   1. DICOM 모듈로 가세요. 가져오기 를 클릭하고 RTSTRUCT 모달리티에서 DICOM CT 슬라이스와 그 SEG 파일이 포함된 폴더를 선택하세요.
   2. 가져오기 후 환자/연구/시리즈를 더블 클릭해 슬라이서 씬에 불러오세요. 3D CT 볼륨은 그림 2에 보이듯이 뷰어 패널에서 보여야 합니다.
5. 기하학적 정렬을 확인하세요.
   1. 데이터 모듈에서 CT 볼륨과 세분화를 모두 확장하세요. 분할이 정확히 CT 위에 위치하도록 하세요(정렬 불편함이 없도록 하세요).
6. 라디오믹스 모듈을 열어.
   1. 모듈 섹션에서 Radiomics 모듈을 선택하거나 모듈 검색창에서 검색하세요. 입력 이미지 볼륨에서 원하는 CT 볼륨을 선택하세요.
   2. 입력 라벨/세분화에서 세분화 노드(ROI)를 선택하세요.
7. 추출 커스터마이징 매개변수를 조정하세요.
   1. 리샘플링된 픽셀 간격 = [1,1,1](등방성 복셀 보장)과 Bin width = 25(CT의 표준)를 설정하세요. LoG 커널 크기 =2.0, 3.0, 4.0, 5.0을 설정하세요.
8. 특징 추출을 실행하세요.
   1. '지원하기'를 클릭하세요. 소프트웨어는 이제 3D 1차 형태, 텍스처 특징(GLCM, GLRLM, GLSZM, GLDM, NGGTDM)을 계산할 것입니다. 그림 3에 표시된 계산된 표를 확인하기 위해 표를 표시하세요. 모든 추출된 특징이 포함된 csv 파일을 출력합니다.
   2. 위 과정을 NSCLC RADIOMICS 데이터셋에서 다운로드한 모든 DICOM 볼륨에 대해 반복하여 단일 파일 "radiomics.csv"으로 저장하세요.

2. Python 라이브러리를 이용한 방사선 기반 암 탐지 모델 개발

참고: 다음 단계는 사용자가 CT 데이터셋의 방사선 특성을 가진 Python 라이브러리를 사용하여 암 탐지 모델을 개발, 훈련 및 테스트하기 위해 요약된 것입니다.

1. 저장된 방사선 마이크 데이터셋을 csv 형식으로 포맷하여 각 행이 한 명의 환자/샘플을, 각 열이 한 가지 특징을 나타내도록 하세요. 클래스 라벨을 위한 라벨 열을 하나 포함하세요.
2. Colab 환경에서 새로운 Jupyter 노트북을 열고 아래에 제시된 함수 정의와 내장 Python 함수를 2.3단계에서 선언하여 코드를 작성하기 시작하세요.
3. Pytorch, torchvision, scikit-learn, numpy, pandas matplotlib, imbalanced-learn 설치 명령을 Jupyter 노트북 위에 설치하세요.
4. 함수 files.upload()를 작성해 사용자가 입력한 csv 파일을 받아 x, y 변수로 저장합니다.
5. 저장된 데이터를 함수 스케일러 = StandardScaler() 및 scaler.fit_transform()를 사용하여 정규화합니다.
6. 다층 Perceptron 함수 MLP(nn. 모듈())을 구성하여 설정 가능한 숨겨진 계층을 사용합니다.
7. MLP 모델에서 입력이 포함된 역전파 손실을 계산하기 위해 훈련 함수 def train_epoch() 를 정의합니다.
8. 여러 에포흐에 대해 함수 def compute_input_gradients() 를 정의하여 입력 특징에 대한 손실의 평균 기울기를 계산하고, 가장 낮은 기울기, 즉 중요도가 낮은 특징을 반복적으로 제거하여 15개의 특징이 남게 합니다.
9. train_test_split() 함수를 사용하여 15개의 특징을 선택해 데이터를 80% 20% 비율로 분할합니다. 학습 데이터에 대해 StratifiedKFold(n_splits=5)를 사용하여 5중 교차 검증을 적용하여 견고성을 보장합니다.
10. 큰 MLP 신경망을 생성하세요 final_model = DNN().
11. 다음 함수로 훈련된 모델의 성능을 평가합니다: def plot_confusion_matrix()), accuracy_score(), precision_score(), recall_score(), f1_score(), 히트맵()).

3. Jupyter 노트북을 실행하여 모델을 구축하고 테스트하기

1. Python 코드를 Jupyter 노트북에서 실행하세요. 그림 4에 나와 같이 radiomics csv 파일을 업로드하라는 프롬프트가 표시됩니다.
2. radiomics.csv 업로드하세요.
3. 분류 결과와 생성된 그래프를 저장하세요.

Results

데이터셋 요약
NSCLC Radiomics 데이터셋은 폐암 1, 2, 3기 환자의 CT 볼륨 422개를 포함합니다. 초기 암(I, II) CT 데이터셋은 134개이지만, 진행기 암(IIIa, IIIb) 데이터 샘플은 288개입니다. 데이터셋은 고발기(3단계) 사례가 초기 단계(1기 및 2단계) 사례보다 더 많은 것으로 나타났습니다. 이 불균형을 해소하기 위해 추출된 방사선 특성에 과잉 샘플링을 적용하여 소수 집단의 대표성을 높였습니다. 그 결과 1단계와 2단계 표본의 수가 크게 증가하여 표 1에서 보듯이 클래스 간 보다 균형 잡힌 분포가 이루어졌습니다. 이러한 조정은 모델 성능에 대한 보다 신뢰할 수 있고 편향 없는 평가를 보장하는 데 도움을 줍니다.

방사선 마이크 특징 추출
제안된 프레임워크의 워크플로우는

Discussion

제안된 프레임워크의 견고성과 신뢰성은 정확성, 회상율, 정밀도, F-1 점수²⁴ 등 평가 지표의 높은 가치에서 분명히 드러납니다. 모든 점수는 MLP 교육 중 5배 CV를 사용하여 시험 데이터에서 90% 이상의 성과를 기록했습니다.

제안된 GL-RFE 프레임워크의 성능과 타당성은 시각화 기법을 통해 더욱 지원되었습니다. 그림 7의 상관관계 열맵²⁵는 최초 추출된 방사성 특성들이 상당한 특징 간 중복성을 보이는 반면, 선택된 특징 하위 집합은 상관관계가 크게 감소하여 중복 정보가 효과적으로 제거되고 특징 독립성이 향상되었음을 나타냅니다. 더불어, 그림 8의 커널 밀도 추정(KDE)

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
3D 슬라이서 소프트웨어	공식 웹사이트	5.x	방사선 분석 분야의 의료 영상 시각화, 분할 및 ROI 추출
Imbalanced-learn 패키지	파이파이	0.11+	계급 불균형 처리 (예: SMOTE)
Matplotlib  패키지	파이파이	3.x	훈련 곡선 및 특징 중요도 도표 작성
NumPy 패키지	파이파이	1.26.x	수치 연산과 특징 행렬 처리
판다스 패키지	파이파이	2.x	데이터 전처리 및 구조화된 데이터셋 관리
파이라디믹스 패키지	파이파이	3.x	CT 영상에서 방사선 마이크 특징 추출
PyTorch  패키지	파이파이	2.x	MLP 및 그라디언트 계산을 위한 딥러닝 프레임워크
Scikit-learn 패키지	파이파이	1.3.x	모델 평가(정확성, 정밀도, 회상력, F1 점수)
SciPy  패키지	파이파이	1.11+	통계 분석 및 검증
시본  패키지	파이파이	0.13.x	특징 상관 분석을 위한 히트맵
Torch.nn 모듈	파이파이	2.x	신경망 아키텍처 (계층, 활성화)
토치.옵티움 모듈	파이파이	2.x	최적화 알고리즘(예: Adam)