폐암 및 대장암 조직병리학적 이미지 분류를 향상시키기 위한 효율적인 NetB7 기반 딥러닝 프레임워크

Summary

여기서는 폐암 및 대장암 조직병리학적 이미지를 정밀하게 분류하기 위한 EfficientNetB7 모델을 활용한 딥러닝 시스템을 소개합니다. 이 모델은 전처리, 데이터 증강, 전이 학습을 적용하여 96%의 정확도를 달성했습니다. 이 방법은 임상 암 진단에 큰 도움이 될 가능성이 높습니다.

Abstract

폐암의 조기 진단은 환자의 치료 개선과 생존을 보장하는 데 중요한 역할을 합니다. 이 분야는 임상 연구에서 여전히 주요 초점으로 남아 있습니다. 인공지능(AI)은 진단 정확도와 효율성을 크게 향상시켜 병리학을 혁신했습니다. 본 연구는 사전 학습된 EfficientNetB7 모델의 견고한 딥러닝 모델을 제시하여 대장 및 폐 조직 조직병리학적 이미지를 96%라는 매우 높은 정확도로 분류합니다. 모델의 성능은 고급 전처리 방법, 파인 튜닝, 도메인별 데이터 증강 기법을 통해 최적화되었습니다. 이러한 전략들은 계급 불균형이나 미묘한 조직학적 변이와 같은 문제를 줄이는 데 도움을 줍니다. 과적합 문제를 해결하기 위해 여러 데이터 증강 기법을 결합하고 조기 종료 기준을 도입했습니다. 이 접근법은 효율적이고 비용 효율적인 교육을 가능하게 했습니다. 모델의 견고한 검증은 임상 적용에 높은 유용성을 입증하며, 병리학자들이 시기적절하고 정확한 진단을 제공할 수 있게 합니다. 첨단 딥러닝 모델을 의료 영상 워크플로우에 통합하는 것은 조기 정확한 암 진단에 큰 가능성을 지니고 있으며, 궁극적으로 환자 치료 결과를 개선할 수 있습니다.

Introduction

폐암과 대장암은 전 세계적으로 사망률 면에서 가장 흔한 암 중 하나입니다. 폐암은 연간 180만 명 이상의 사망자를 내는 주요 치명암이며, 그 다음으로 세 번째로 많이 발생하는 악성 종양이자 전 세계 보건 통계에 따르면 두 번째로 흔한 암 사망 원인인 대장암입니다. 정확하고 조기 진단은 효과적인 치료와 이 암의 생존율 향상에 매우 중요합니다. 조직병리학적 검사, 즉 병리학자들의 조직 샘플 현미경 평가는 암을 발견하는 가장 흔한 방법 중 하나로 남아 있습니다^. 그림 1은 여러 종류의 폐와 대장 조직의 조직병리학적 샘플을 보여줍니다^.

그림 1: 데이터셋에서 샘플 이미지. 이 그림은 LC25000 데이터셋 내 각 분류의 대표적인 예시를 보여주며, 양성 및 악성 폐 및 대장 조직 이미지 간의 시각적 다양성을 강조합니다. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.

디지털 병리학은 조직학 슬라이드를 디지털화할 수 있게 하여 산업을 혁신했으며, 현재는 정교한 딥러닝 알고리즘을 사용해 진단하고 있습니다^. 딥러닝 모델과 결합하면 알고리즘은 대규모 데이터 내 미묘한 패턴을 인식하는 데 뛰어나 진단의 정확성과 효율성을 크게 향상시킵니다. 표 1은 각 조직 분류의 설명을 보여줍니다.

클래스 명칭	설명
폐 양성 조직	폐 내 비암성 조직, 암 성장에 관여하지 않는 조직.
폐선암	분비선 상피 조직에서 발생하는 폐암의 일종으로, 악성 성장 패턴으로 알려져 있습니다.
폐 편평세포암	기도를 따라 싸우는 편평세포에서 발생하는 특정 세포 형태로 구별되는 일종의 폐암입니다.
대장 선암	대부분의 대장암 발생은 대장 내막의 분비샘 세포에서 시작되는 일반적인 종류의 대장암에 의해 발생합니다.
대장 양성 조직	암이나 전암성 질환의 징후가 보이지 않는 건강한 대장 조직.

표 1: 데이터셋 내 다섯 가지 조직 및 암 클래스에 대한 개요, 클래스명, 특성, 각 클래스의 이미지 수를 포함합니다.

최첨단 컨볼루션 신경망 아키텍처인 EfficientNetB7은 깊이, 너비, 해상도의 균형 잡힌 스케일링 덕분에 이미지 분류 작업에 특히 효과적인 것으로 평가받고 있습니다. ResNet, DenseNet과 같은 널리 사용되는 아키텍처와 비교할 때, EfficientNetB7은 네트워크 깊이, 폭, 해상도를 비례적으로 확장하는 복합 스케일링을 통해 분류 정확도와 계산 효율성 간의 우수한 균형을 달성합니다. ResNet과 DenseNet은 의료 영상 분류 작업에서 견고한 성능을 입증했지만, 비슷한 정확도를 달성하기 위해서는 일반적으로 더 많은 매개변수 수와 더 많은 계산 자원이 필요하므로, EfficientNetB7은 자원이 제한된 임상 환경에서 대규모 조직병리학적 분석에 더 적합하다⁴. EfficientNetB7과 같은 AI 도구를 포함한 첨단 계산 모델의 적용은 전통적인 진단 과제를 극복할 새로운 가능성을 제공하며, 병리학자를 지원하고 진단 결과를 개선할 수 있는 도구를 제공합니다. AI를 병리학 실무에 통합하면 양질의 진단 서비스에 대한 접근성이 민주화되어, 의료 전문성이 제한된 지역에서도 고급 진단을 수행할 수 있게 될 것입니다.

최근 벤치마크 연구와 의료 영상 분석 분야의 종합 리뷰들은 조직^병리학에서 딥러닝 아키텍처의 영향력이 커지고 있음을 지속적으로 강조해 왔습니다. 대규모 분석 결과, 합성곱 신경망과 그 현대 변형들은 여러 조직 유형에서 미묘한 형태학적 특징을 식별하는 데 최첨단 성능을 제공하며, 종종 전통적인 진단 방법을 능가하는 경우가 많습니다. 비교 평가는 EfficientNet 및 기타 확장 가능한 모델을 포함한 첨단 아키텍처가 우수한 분류 정확도를 달성할 뿐만 아니라 향상된 계산 효율성도 입증한다는 점을 강조합니다^. 또한, 디지털 병리학의 체계적 문헌고찰은 재현성을 가능하게 하고, 관찰자 간 변동성을 줄이며, 자동화된 파이프라인과의 통합을 가능하게 함으로써 일상적인 진단에서 디지털 병리학의 변혁적 역할을 강조합니다. 이러한 종합 연구 결과는 조직병리학적 암 분류에 고급 딥러닝 모델 도입의 중요성을 확인시켜 주며, 확장 가능하고 효율적인 아키텍처 적용이 분류 불균형, 조직학적 변이, 전문가 병리학자의 제한된 가용성과 같은 임상적 문제를 해결할 수 있음을 강력한 증거로 제시합니다.

본 연구의 목적은 (i) EfficientNetB7 아키텍처를 기반으로 한 폐암 및 대장암 조직병리학 이미지 분류를 위한 딥러닝 모델을 생성하고 평가하는 것; (ii) 모델이 전통적인 진단 방법을 능가할 수 있는 높은 분류 정확도를 입증하는 것; (iii) 도메인 특화 맥락에서 데이터 증강, 전처리 기법, 전이 학습이 모델 성능에 미치는 영향 탐구.

이 연구는 EfficientNetB7이 조직병리학적 이미지에서 달성할 수 있는 높은 진단 정확도를 입증할 뿐만 아니라, 표적 데이터 증강, 견고한 검증 전략, 조기 정지 기법을 통해 클래스 불균형과 과적합 같은 핵심 과제를 엄격히 다룹니다. 이 방법론은 대규모 증강 데이터셋을 활용하고 임상 관련 지표에서 모델의 성능을 벤치마킹하여 실제 임상 환경을 반영하도록 특별히 설계되었습니다. 워크플로우의 자동화와 효율성은 디지털 병리학 실험실에 통합하기에 실용적임을 보장하며, 병리학자의 생산성을 높이고 진단 일관성을 개선하며, 자원이 부족한 임상 환경 모두에서 전문가급 분석에 더 폭넓게 접근할 수 있는 잠재력을 제공합니다.

의료 영상을 위한 딥러닝이 눈에 띄게 발전했음에도 불구하고, 폐암 및 대장암 조직병리학적 이미지 분류에는 여전히 여러 도전 과제가 남아 있습니다^. 현재 모델들은 일부 암 유형이 데이터셋 내에서 과소대표되어 편향된 예측을 만드는 계급 불균형을 다루는 데 실패하는 경향이 있습니다. 또한, 선암과 편평세포암과 같은 암의 아형별 미묘한 조직학적 차이는 적절한 분류에 큰 도전을 제기합니다. 이전 연구의 대부분은 단일 암 분류나 제한된 소규모 데이터셋으로 수행되어 임상 환경에서의 광범위한 적용성과 유용성이 불가능했습니다. 전통적인 접근법은 계산 효율이 낮아 대용량 데이터나 실시간 임상 응용에는 덜 선호됩니다⁸.

본 연구는 입증된 확장성과 효율성을 갖춘 최첨단 딥러닝 모델인 EfficientNetB7 아키텍처를 활용하여 이러한 격차를 메우고 있습니다. 무작위 줌, 플립, 회전, 이동 등이 고급 데이터 증강 방법으로 활용되어 모델의 견고성과 다양한 조직병리학적 패턴 전반에 걸쳐 일반화 능력을 극대화합니다. 전이 학습은 또한 사전 학습된 EfficientNetB7 모델을 미세 조정하여 폐암 및 대장암 데이터셋에 특화된 학습 및 적응 능력을 갖추고, 훈련 시간과^{계산 비용을 최소화}할 수 있도록 하는 데 사용됩니다. 전역 평균 풀링과 조기 정지 사용은 좋은 훈련과 과적합 방지 성능도 향상시킵니다.

특히 암 진단을 위한 의료 영상 분야에서의 딥러닝 적용은 지난 몇 년간 큰 진전을 이루었습니다. 폐암과 대장암의 기존 진단은 주로 조직병리학적 검사에 의존하며, 병리학자들이 현미경으로 조직 샘플을 검사합니다¹⁰. 효과적이긴 하지만 노동 집약적이고, 관찰자 간 변동성이 있으며, 특히 자원이 부족한 환경에서 전문 병리학자의 부족에 의해 제한이 많습니다. 이러한 한계는 컴퓨터화된 AI 및 딥러닝 기반 진단 시스템의 개발로 이어졌습니다.

특히 합성곱 신경망(CNN)을 포함한 딥러닝 모델은 조직병리학적 표본의 영상 분석에서 인상적인 성공을 거두었습니다¹¹. 특히 복잡한 패턴과 미묘한 조직 형태 변이를 식별하는 데 뛰어나며, 이는 암 분류에 적합한 과제입니다. 진전에도 불구하고, 클래스 불균형, 다중 데이터셋 시나리오에 대한 일반화 제한, 그리고 현재 접근법에서 높은 계산 비용 등의 결함이 남아 있습니다. 예를 들어, 대부분의 연구는 단일 암 분류에 초점을 맞추고 있으며, 이는 다중 암 진단 시나리오에 한정되어 사용됩니다. 또한, 부실한 전처리 및 데이터 보강 기법은 특히 작거나 불균형한 데이터셋 시나리오에서 과적합에 취약하게 만듭니다.

최근 전이 학습 발전은 ImageNet과 같은 대규모 데이터셋에서 사전 학습된 모델을 활용함으로써 이러한 한계를 부분적으로 극복했습니다. EfficientNet, ResNet, DenseNet은 제한된 훈련 데이터로부터 고수준 특징을 학습할 수 있어 의료 영상 분석에서 주목받은 모델들입니다¹². EfficientNet은 여러 이미지 분류 벤치마크에서 최첨단 정확도를 달성하여 확장성과 효율성 덕분에 널리 채택되고 있습니다. EfficientNet의 폐암 및 대장암 복합 분류 응용은 광범위하게 연구되지 않았으며, 특히 분류 불균형과 미묘한 조직학적 변이 처리에 관해서는 그렇습니다¹³.

데이터 증강은 모델의 견고성과 일반화 개선을 위한 중요한 전략^{이었습니다.} 회전, 이동, 줌, 뒤집기와 같은 변형을 통합함으로써, 데이터 증강 기법은 실제 조직병리학적 이미지에 존재하는 변동성을 시뮬레이션하여 모델이 불변 특징을 학습할 수 있게 합니다. 조기 정지 및 정규화 기법은 과적합을 피하고 훈련 효율을 극대화하여 모델 성능을 더욱 향상시킵니다. 이러한 모든 발전에도 불구하고, 다중 암 분류에서 높은 정확도와 계산 효율성을 달성하기 위해서는 첨단 전처리, 증강, 전이 학습을 포함하는 종단 간 프레임워크가 여전히 필요합니다. 표 2 15,16,17,18,19,20,21,22,23,24는 기존 문헌에서 본 연구 문헌을 보여줍니다.

연구	목표
탈루크더, M. A. 외 15 (2022)	딥러닝과 머신러닝을 결합한 하이브리드 앙상블 특징 추출 모델을 제시하여 대장암과 폐암을 식별합니다.
Attallah, O. 외 (2022 )	폐암과 대장암을 조기에 발견할 수 있도록 다양한 모델과 변환 기법을 결합한 저중량 딥러닝 프레임워크를 제공합니다.
Hage Chehade, A. 외 17 (2022)	다양한 폐와 대장 조직을 식별할 수 있는 머신러닝 기반 컴퓨터 지원 진단 시스템을 만듭니다.
와히드, R. R. 외 18 (2023)	컴퓨터 지원 진단 시스템을 이용해 CNN을 활용해 폐암과 대장암을 발견하세요.
쿠마르, N. 외 19 (2022)	대장암과 폐암을 분류하는 데 사용되는 특징 추출 기법을 비교하고 대조합니다.
Mehmood, S. 외 20 (2022)	수정된 계층 진단 모델을 갖춘 사전 학습된 신경망을 폐암과 대장암에 대해 정확하고 효율적으로 만드세요.
저우, L. 외 21 (2024)	생물정보학 방법을 사용하여 폐암, 방광암, 대장암 치료에서 Wogonin(WOG)의 새로운 표적을 예측합니다.
레디, K. R. 외 22 (2022)	대장암(LCC) 탐지를 위한 머신러닝 기반의 하이브리드 앙상블 특징 추출 방법을 제공합니다.
샨딜리야, S., 나약, S. R.23 (2022)	CNN과 비전 트랜스포머 설계는 폐암 및 대장암 조직병리학 이미지를 분류하는 데 도움을 줍니다.
Hasan, M. 외 24 (2023)	다양한 CNN 모델을 활용하여 폐암과 대장암의 이미지를 분류하여 진단 절차를 향상시킵니다.

표 2: 조직병리학적 영상 분류에 관한 관련 이전 연구들의 비교, 사용된 데이터셋, 모델 유형, 보고된 결과에 대한 상세 설명.

본 논문은 EfficientNetB7 아키텍처를 활용한 딥러닝 모델을 통합하여 최첨단 데이터 증강 및 전이 학습을 보완함으로써 이러한 기여를 바탕으로 합니다. 현재 솔루션은 분류 정확도 향상, 클래스 평형, 낮은 계산 비용을 통해 이전 솔루션의 결함을 능가하여 임상 환경에서 최적의 솔루션입니다.

Protocol

이 연구는 인간 참가자나 동물을 대상으로 한 직접적인 실험을 포함하지 않았습니다. 모든 연구는 공개된 익명 LC25000 조직병리학적 이미지 데이터셋을 사용하여 수행되었으며, 이 데이터에는 식별 가능한 환자 정보나 인간 조직의 직접적 접근이 포함되어 있지 않았습니다. 기관 검토 위원회(IRB)나 기관 동물 관리 및 사용 위원회(IACUC)의 승인은 필요하지 않았습니다. 모든 절차는 윤리 기준을 준수했으며, 학술 연구 데이터 사용 조건을 준수했습니다. 그림 2 는 워크플로우 다이어그램의 단계를 보여줍니다.

그림 2: 제안된 방법의 워크플로우. 워크플로우에는 데이터 전처리, 보강, 모델 학습 및 평가가 포함됩니다. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.

데이터셋 설명
LC25000 데이터셋이 이 연구에 사용되었습니다. 이 영상은 25,000장의 조직병리학적 이미지로 구성되었으며, 모두 768 × 768 픽셀 해상도의 JPEG 파일 형식으로 구성되어 있었습니다. 이 데이터셋은 초기 1,250장의 원본 이미지 세트에서 시작되었으며, 여기에는 양성 폐 조직 이미지(250 장), 폐 선암 250장, 편평세포암 250장, 양성 대장 조직 이미지, 250 장의 대장 선암 등이 포함됩니다. 나머지 이미지들은 데이터 보강을 통해 생성되어 데이터셋을 확장하여, 견고한 모델 훈련 및 검증을 위한 다양하고 광범위한 컬렉션을 확보했습니다.

고해상도 이미지 덕분에 세포 구조를 상세히 관찰할 수 있었고, 이는 정확한 암 분류에 필수적이었습니다. 원본 이미지의 수가 제한적이었기 때문에 데이터 보강이 필요했습니다; 회전, 플립, 줌, 시프트와 같은 기법들이 데이터셋 크기와 다양성을 합성적으로 증가시키기 위해 사용되었습니다. 이 과정은 클래스 균형 처리로 추가로 23,750장의 합성 이미지를 생성하여, 각 클래스마다 증강 후 5,000장의 이미지를 포함하는 최종 데이터셋 25,000장이 되었습니다.

데이터 전처리
데이터셋 내 원시 조직병리학적 이미지의 해상도는 768× 768픽셀이었습니다. EfficientNetB7 아키텍처와의 호환성을 보장하고 계산 효율을 극대화하기 위해, 각 이미지는 768 × 768에서 224 × 224픽셀로 크기 조정되었습니다. 이 크기 조정 과정은 필수 조직학적 특징을 보존하는 것과 계산 부담 감소 사이의 절충을 의미했습니다. 크기 조정 연산은 다음과 같이 수학적으로 표현되었습니다.

식1: (1)

여기서 X는 원본 이미지를, X는 크기 _변경된 이미지, h와 w는 각각 원하는 높이와 너비를 나타냅니다. 모든 픽셀 값은 0에서 1까지의 범위로 정규화되어 이미지 전반에 걸쳐 일관된 입력 분포를 보장함으로써 학습을 안정화하고 가속화했습니다. 이 정규화는 방정식 2에 나타난 것처럼 수학적으로 계산되었습니다. 이 단계는 훈련 중 모델 수렴을 개선하는 데 필수적이었습니다.

(2)

데이터 증강은 특히 제한된 데이터셋과 불균형한 데이터셋이 있는 의료 영상 맥락에서 딥러닝 모델의 견고성과 적용성을 높이기 위한 중요한 기법으로 활용되었습니다. 본 연구에서는 TensorFlow의 ImageDataGenerator 모듈을 사용하여 조직병리학적 이미지의 생체 내 변이를 시뮬레이션하기 위해 다양한 증강 기법이 적용되었습니다. 이 기법에는 조직 방향 변동을 시뮬레이션하기 위한 최대 20도의 무작위 회전, 슬라이드 준비 중 위치 변동성을 모방하기 위해 이미지 크기의 최대 20%까지 수평 및 수직 이동, 그리고 배율 변화를 반영하기 위한 최대 20%의 무작위 줌이 포함되었습니다.

또한, 수평 뒤집기를 통해 미러이미지 변형을 도입하여 학습 데이터셋을 더욱 풍부하게 만들었습니다. 이러한 변환 과정에서 생성된 새로 합성된 픽셀을 관리하기 위해, 원활한 전환과 주요 조직학적 특징의 무결성을 유지하기 위해 근접 이웃 채우기 전략이 채택되었습니다. 증강에 사용되는 2차원 회전 행렬은 방정식 3에 표현되며, 방정식 4는 점진적인 변화를 가진 함수를 정의합니다:

(3)

(4)

이러한 보강 기법들은 클래스 불균형, 약간의 조직학적 변이, 데이터셋 한계와 같은 문제를 보완하여 모델이 불변 특징을 학습하고 과적합 위험을 줄이도록 했습니다. 데이터셋을 합성적으로 확장하고 통제된 변동성을 통합함으로써, 데이터 증강은 모델이 새로운 미확인 데이터에 대한 일반화 능력을 크게 향상시켜 폐암 및 대장암 진단에 임상 적용을 위한 더 강력하고 견고한 시스템을 만들어냈습니다.

모델 아키텍처
이 모델은 EfficientNetB7 아키텍처를 기반으로 개발되었으며, 이는 이미지 분류 작업에서 성능, 확장성, 효과성으로 유명한 최첨단 딥러닝 네트워크입니다. EfficientNetB7은 깊이별 분리 가능한 합성곱을 포함하는 일련의 모바일 역병목 합성곱(MBConv) 블록을 사용하여 구축되었습니다. 이 구조 설계는 모델을 효과적으로 압축하여 성능 손실을 최소화하면서 매개변수 수를 크게 줄였습니다. 이러한 혁신 덕분에 모델은 낮은 계산 비용으로 높은 정확도를 달성할 수 있었으며, 조직병리학적 영상 분석과 같은 계산 집약적인 응용 분야에 특히 적합했습니다. 그림 3 은 사전 학습된 EfficientNetB7의 모델 아키텍처를 보여줍니다.

그림 3: EfficientNetB7의 모델 아키텍처. 이 그림은 EfficientNetB7 모델의 상세 구조를 보여주며, 이미지 분류에 사용되는 주요 계층과 기능 블록을 보여줍니다. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.

모델은 EfficientNetB7의 입력 요구사항에 맞추기 위해 원래 크기가 768× 768픽셀에서 224× 224픽셀로 재조정된 사전 처리된 조직병리학적 이미지를 수용했습니다. 각 이미지는 배치 정규화, Swish 활성화 함수, 컨볼루션 연산 등 네트워크 내에서 여러 과정을 거쳤습니다. 배치 정규화는 방정식 5에 나타난 대로 계산되었습니다. Swish 활성화 함수는 비선형성을 도입하여 ReLU와 같은 전통적인 함수보다 더 빠르고 효율적인 훈련을 가능하게 했습니다. 이 계층들은 계층적 특징을 추출하고 강화하도록 설계되어, 이미지가 네트워크를 통해 전파됨에 따라 모델이 저수준에서 고수준 패턴으로 점진적으로 학습할 수 있도록 했습니다.

(5)

ImageNet 데이터셋에서 사전 학습된 EfficientNetB7의 합성곱 백본은 광범위한 이미지 영역에서 효과적인 매우 일반화된 특징 검출기 집합을 제공했습니다. 사전 학습된 기초는 조직병리학적 이미지에서 미묘하지만 유익한 패턴을 포착하는 데 핵심적인 역할을 했으며, 이 이미지는 종종 높은 클래스 내 변이성과 세밀한 특징을 특징으로 합니다. 합성곱 층의 출력은 전역 평균 풀링 계층으로 전달되어 각 이미지에 대한 공간 차원을 단일 특징 벡터로 축소했습니다. 이 벡터는 합성곱 층에서 학습된 가장 관련 있는 특징들을 캡슐화하여 완전 연결 계층과의 호환성을 위해 1차원 배열로 평탄화되었습니다. 폐암 및 대장암 탐지 향상을 위한 알고리즘은 보충 파일 1에 제공되어 있습니다.

이후 네트워크 아키텍처는 각각 128개와 64개의 유닛으로 이루어진 두 개의 밀집된(완전 연결된) 계층을 포함했습니다. 두 계층 모두 정류 선형 단위(ReLU) 활성화 함수를 활용하여 추가적인 비선형성을 도입하고 추출된 특징을 미세 조정하여 모델이 데이터 내 더 정밀한 패턴과 관계를 인식할 수 있도록 했습니다. 모델의 마지막 층은 데이터셋 내 다섯 클래스 중 하나를 나타내는 다섯 개의 뉴런이 있는 SoftMax 출력 계층이었습니다. SoftMax 함수는 클래스 간 확률 분포를 생성했으며, 이는 각 입력 이미지에 대한 모델의 예측을 반영했으며, 이는 방정식 6에 설명되어 있습니다:

(6)

최첨단 합성곱 기법, 견고한 정규화, 효과적인 최적화 전략의 결합으로 고위험 의료 이미지 분류에 적합한 딥러닝 모델이 탄생했습니다. 이 모델은 정밀함, 확장성, 운영 효율성을 달성하여 폐암 및 대장암 진단에 임상 적용에 대한 강력한 잠재력을 입증했습니다. 이 틀 내에서 정규화는 주로 고급 데이터 증강과 조기 정지 사용을 통해 이루어졌으며; 조밀한 층에는 명시적인 드롭아웃이나 무게 감소가 적용되지 않았습니다.

교육 및 검증
조직병리학적 영상 분류를 위한 합성곱 신경망(CNN)의 검증 및 사전 학습 파이프라인LC25000 모델 성능을 최적화하고 우수한 일반화를 보장하기 위해 설계되었습니다. 파이프라인은 EfficientNetB7 아키텍처의 입력 요구사항에 맞추기 위해 원래 768× 768픽셀 이미지를 224 × 224픽셀로 줄이는 포괄적인 전처리로 시작되었습니다. 픽셀 강도는 [0, 1]로 정규화되어 훈련을 안정화하고 가속했으며, 무작위 회전, 이동, 줌, 수평 뒤집기 등 데이터 증강 기법이 적용되어 변동성을 도입하고 과적합을 완화했습니다. 이러한 전처리 작업은 모델이 불변 특징을 학습하고 새로운 데이터에 잘 일반화되도록 보장했습니다.

ImageNet 데이터셋에서 사전 학습된 EfficientNetB7 모델을 기반으로 사용하여, 미묘한 조직학적 패턴을 식별할 수 있는 견고한 특징 검출기 세트를 제공했습니다. 모델은 이후 정류 선형 단위(ReLU) 함수로 활성화된 두 개의 조밀한 층(128과 64 단위)과 5등급 분류를 위한 SoftMax 출력 계층으로 미세 조정되었습니다. 이 아키텍처는 정밀도와 계산 효율성 모두에 최적화되어 의료 영상 분석에 매우 적합했습니다. θ에 대한 아담 최적화기 업데이트 규칙은 방정식 7에 나타난다.

(7)

모델 훈련은 Adam 옵티마이저를 사용하여 128장 단위로 배치되어 학습률을 적응적으로 확장하여 효과적인 수렴을 촉진했습니다. 검증 손실을 모니터링하고 개선이 관찰되지 않을 경우 훈련을 중단하기 위해 초기 중단 기준이 도입되어 과적합을 방지하고 계산 자원을 최적화했습니다. 훈련 기간 동안 정확도, 손실, 정밀도, 리콜 등 주요 성과 지표는 데이터의 20%를 포함하는 홀드아웃 검증 세트를 사용해 추적되었습니다. 홀드아웃 집합은 모델의 일반화 능력에 대한 중요한 통찰을 제공했으며, 보이지 않는 데이터에 과적합될 위험을 완화했습니다.

첨단 전처리, 데이터 증강 및 최적화 전략의 통합은 우수한 모델의 정확성과 견고성을 가져왔으며, 폐암 및 대장암 발견에 대한 임상 적용 가능성이 매우 높았습니다. 모든 실험은 16GB 메모리와 64GB 시스템 RAM을 갖춘 NVIDIA Tesla P100 GPU에서 수행되었습니다. 전처리, 증강, 모델 최적화를 포함한 전체 학습 파이프라인은 128번의 배치 크기를 가진 10개의 에포크를 완료하는 데 약 3시간이 소요되었습니다. 이 계산 인프라는 임상 연구 환경에 적합한 합리적인 학습 시간을 유지하면서 대규모 증강 데이터셋을 효율적으로 관리하기 위해 선택되었습니다.

재현성을 위해 모든 임계 하이퍼파라미터가 명시적으로 지정되었습니다. 이 모델은 학습률 0.001의 Adam 최적화 도구를 사용해 학습되었습니다. 훈련은 최대 10에포흐에 걸쳐 수행되었으며, 검증 손실과 과적합 방지를 위한 3에포크의 인내심을 바탕으로 조기 중단을 했습니다. 훈련 및 검증 단계 모두에 128개의 배치 크기가 사용되었습니다. 일관된 결과를 보장하기 위해 데이터 로딩과 모델 학습의 모든 단계에서 무작위 시드를 42로 설정했습니다. 훈련 중에는 학습률 감쇠 일정이 적용되지 않았습니다.

이 프로토콜은 체계적인 전처리, 잘 보정된 하이퍼파라미터, 엄격한 검증 체계, 그리고 개방형 계산 환경을 결합하여 정확성과 재현성을 모두 촉진했습니다. 이 워크플로우는 견고한 딥러닝 아키텍처, 효과적인 최적화, 재현 가능한 실험 설계를 통합하여 조직병리학적 영상 분류의 견고한 토대를 마련했습니다. 폐암 및 대장암 발견에서 강력한 성능을 입증했을 뿐만 아니라, 이 프로토콜은 향후 유사한 생의학 영상 과제로 확장될 수 있는 확장 가능한 프레임워크를 정의했습니다.

모델 개발 과정에서 신뢰할 수 있고 재현 가능한 결과를 얻기 위해 여러 실용적인 조정이 시행되었습니다. 조기 정지와 고급 데이터 증강이 클래스 불균형과 과적합을 해결하기 위해 사용되었습니다. 훈련 중 높은 메모리 사용량은 이미지를 224 × 224 픽셀로 재조정하고 배치 크기를 128로 사용하여 완화했습니다. 느린 수렴이 발생하면 학습률을 경험적으로 0.001로 설정했습니다. 데이터 로드 오류를 방지하기 위해 이미지 디렉터리 구조의 수동 검증이 수행되었고, 재현성을 보장하기 위해 무작위 시드가 수정되었습니다. 이러한 전략들은 대규모 조직병리학적 이미지 데이터셋을 가진 딥러닝 모델 훈련에 직면한 유사한 어려움에 직면한 연구자들에게 실질적인 지침이 될 수 있습니다.

통계 분석
정확도, 안정성, 일반화 가능성을 평가하기 위해 포괄적인 지표 세트를 사용하여 모델 성능에 대한 통계 모델링이 수행되었습니다. 주요 평가 지표에는 분류 수행 능력을 정량화하기 위한 정밀도, 회상율, F1 점수, 정확도가 포함되었습니다. 혼동 행렬은 방정식 8-10에 따라 계산된 클래스별 오차 지표를 보고하는 데 사용되었습니다:

(8)

(9)

(10)

또한, 평균 제곱오차(MSE), 평균 제곱근 오차(RMSE), 평균 절대 오차(MAE)와 같은 오차 측정값이 예측 정확도를 평가했으며, 이는 방정식 11-13을 사용하여 계산되었습니다:

(11)

(12)

(13)

수신자 작동 특성(ROC) 곡선과 곡선 아래 면적(AUC)을 사용하여 모델이 다양한 임계값에서 클래스를 구별하는 능력을 평가하였습니다. AUC는 식14에 나타난 대로 계산되었습니다:

(14)

이 통계 분석들은 모델의 분류 성능, 견고성, 그리고 보이지 않는 데이터에 대한 일반화를 철저히 평가했습니다.

소작술 연구
분류 체계 내에서 각 구성 요소의 기여도를 추가로 평가하기 위해, 최종 모델의 특정 아키텍처 요소를 선택적으로 생략하거나 수정하여 소작 연구를 수행했습니다. 구체적으로, 두 가지 대안적 실험 구성이 평가되었습니다: 한 구성은 글로벌 평균 풀링(Global Average Pooling)과 평탄화 계층을 모두 포함했고, 이어서 두 개의 조밀한 층(각각 128과 64 단위)이 있었습니다; 다른 구성은 평탄층과 128단위 조밀층을 모두 생략하여 전역 평균 풀링 층과 단일 64단위 조밀층만 남겼습니다.

주요 결과에 보고된 완전한 아키텍처는 약 96%의 검증 정확도를 달성했습니다. 플랫텐 층이 제외되고 글로벌 평균 풀링 후 128 단위와 64단위 밀도 층만 사용되자 검증 정확도는 81.6%로 떨어졌습니다. 반대로 128 단위 조밀층을 제외하고 플랫텐 층을 유지했을 때, 검증 정확도는 88%로 감소했습니다. 이 결과는 최적의 분류 성능을 달성하기 위해 초밀도층과 적절한 아키텍처 구성 요소를 모두 포함해야 함을 시사했습니다. 소작 실험 결과는 전역 평균 풀링, 평탄화, 그리고 두 개의 완전 연결 층의 조합이 더 표현력 있는 특징 표현을 가능하게 하여 보다 견고하고 정확한 조직병리학적 영상 분류를 가능하게 함을 일관되게 보여주었습니다.

Results

그림 4 는 훈련 및 검증 정확도를 보여줍니다. 그림 5 는 훈련 및 검증 손실을 보여줍니다.

그림 4: 에포크에 따른 훈련 및 검증 정확도. 이 그림은 모든 시대에 걸쳐 훈련 및 검증 세트의 정확도 변화를 보여주며, 훈련 중 모델 성능이 어떻게 진화하는지를 보여줍니다.

Discussion

EfficientNetB7 딥러닝 아키텍처 하에서 잘못 라벨링된 인스턴스에 대한 비판적 검토에서, 모델 예측이 검증 데이터셋 내 실제 라벨과 일치하지 않는 경우에 대해 비판적 검토가 수행됩니다. 비판적 분석은 특히 모델이 폐와 대장 조직의 다양한 조직병리학적 특징을 잘못 분류할 때 분류 오류를 분석하는 데 매우 중요합니다¹¹. 절차는 검증 세트 내 모든 이미지에 대해 클래스 예측을 하고 이를 실제 분류와 비교하는 것입니다. 잘못 분류된 이미지는 인덱스를 통해 표시되어 예측된 라벨과 실제 라벨이 일치하지^{않습니다.} 잘못 분류된 이미지 중 하나, 보통 다섯 장은 시각적으로 예측된 라벨과 실제 라벨이 붙어 표시됩니다. 이 그래픽 표시는 모델이 어떤 종류의 오류를 저지르고 있는지 명확하게 보여주며, 왜 오분류가 발생하는지에 대한 아이디어를 찾는 데 도움을 줄 수 있습니다. 이러한 예리한 집중은...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
A100 GPU (CUDA)	엔비디아	CUDA 버전 11.0	모델 학습 및 평가를 위한 GPU 가속.
캐글 플랫폼	구글	해당 없음	머신러닝 모델 개발을 위한 클라우드 기반 노트북
케라스	텐서플로우 (구글)	버전 2.6.0	TensorFlow 위에 실행되는 딥러닝 API.
LC25000	보르코프스키 AA, 부이 MM, 토마스 LB, 윌슨 CP, 델랜드 LA, 마스토리데스 SM. 폐 및 대장암 조직병리학적 이미지 데이터셋 (LC25000)	해당 없음	이 데이터셋에는 5가지 클래스로 구성된 25,000개의 조직병리학적 이미지가 포함되어 있습니다. 모든 이미지는 768 x 768 픽셀 크기이며 jpeg 파일 형식으로 제공됩니다.
매트플롯립	파이썬 소프트웨어 재단	버전 3.5.0	결과 도화를 위한 시각화 라이브러리.
넘버피	파이썬 소프트웨어 재단	버전 1.19.5	수치 컴퓨팅 라이브러리.
오픈CV	오픈 소스	버전 4.5.4	이미지 처리 및 컴퓨터 비전 라이브러리.
판다	파이썬 소프트웨어 재단	버전 1.3.4	데이터 분석 및 조작 도구.
파이썬 (아나콘다 배포판)	아나콘다 주식회사	버전 3.7.12	사전 설치된 패키지와 환경 관리 도구를 포함합니다.
Scikit-learn	파이썬 소프트웨어 재단	버전 0.23.2	성과 평가를 위한 머신러닝 도구들.
텐서플로우	구글	버전 2.6.2	확산 모델을 위한 딥러닝 프레임워크.