Convolutional Neural Network-Transformer Model to Predict and Classify Early Arrhythmia Using Electrocardiogram Signal(심전도 신호를 이용한 초기 부정맥 예측 및 분류를 위한 Convolutional Neural Network-Transformer Model)

Summary

개발된 모델은 초기 부정맥을 N, L, R, V 및 A 등급으로 분류하는 것을 목표로 합니다. 여기에서 모든 데이터 세트가 결합되어 주요 데이터 세트를 생성하며, 모델은 이를 입력으로 사용하여 서로 다른 부정맥 클래스를 출력으로 생성합니다.

Abstract

전 세계적으로 주요 사망 원인인 심혈관 질환, 특히 부정맥은 조기 진단 및 감지를 위해 정확하고 자동화된 기술을 개발해야 합니다. 심전도(ECG) 신호에서 부정맥을 식별하기 위해 본 논문에서는 정상(N), 좌측 다발 분지 블록(L), 우측 다발 분지 블록(R), 심방 조기 박동(A), 조기 심실 수축(V)의 5가지 주요 심장 박동 유형에 초점을 맞춘 딥 러닝 기반 분류 모델을 소개합니다. INCART 12-lead, Sudden Cardiac Death Holter, Supraventricular 및 MIT-BIH Arrhythmia 데이터베이스와 같은 여러 소스의 Lead I 신호를 활용하여 390만 개 이상의 교육과 112,575개의 테스트 세그먼트를 산출합니다.

데이터 준비의 예로는 180 샘플, 고정 윈도우 세분화, 최소-최대 정규화 및 SMOTE(Synthetic Minority Over-sampling Technique)를 사용한 클래스 밸런싱이 있습니다. 하이브리드 아키텍처는 트랜스포머 레이어를 사용하여 시간적 종속성을 모델링하고 1D CNN(Convolutional Neural Network)을 사용하여 공간 기능을 추출합니다. 정규화를 위한 드롭아웃 및 배치 정규화를 사용하는 Adam 옵티마이저는 모델을 훈련시킵니다.

제안된 시스템은 TN4 모델 및 기타 최첨단 벤치마크를 능가하여 모든 클래스에서 99.99%의 정확도, 정밀도 및 F1 점수를 달성합니다. 기능의 견고성은 이전 연구에서 동기를 부여받은 심층 하이브리드 아키텍처와 컨볼루션 신경망을 적용하여 더욱 개선되었습니다. 제안된 패러다임은 인공 지능 기반의 개별화된 디지털 헬스케어를 발전시키고 확장 가능한 실시간 부정맥 식별에 대한 큰 가능성을 가지고 있습니다.

Introduction

세계보건기구(^WHO)에 따르면 심혈관 질환(CVD)은 전 세계적으로 가장 큰 건강 문제 중 하나로, 매년 전 세계 사망자의 약 31%를 차지합니다1. 이러한 사례의 상당 부분은 부정맥-심장 리듬의 불규칙성과 관련이 있으며, 이는 양성에서 생명을 위협하는 것까지 다양합니다. 부정맥은 종종 불규칙한 시간으로 표시됩니다. 이러한 중단은 환자의 이환율과 사망률에 크게 기여하여 뇌졸중, 심부전 및 갑작스러운 심정지와 같은 심각한 건강 문제의 위험을 높입니다. 따라서 부정맥을 조기에 식별하고 정확하게 분류하는 것은 환자 결과를 개선하고, 의료 비용을 관리하고, 심장 치료의 질을 향상시키는 데 매우 중요합니다².

심전도(ECG)는 부정맥을 감지하기 위한 핵심 비침습적 진단 도구로 남아 있습니다. ECG는 심장의 전기적 활동을 시각적 파형으로 캡처함으로써 임상의가 특정 부정맥 패턴을 가리킬 수 있는 미묘한 변화를 식별할 수 있도록 합니다³. 그러나 ECG 신호를 수동으로 해석하는 것은 시간이 많이 걸리고 실무자 간의 개인차로 인해 변동성이 발생하기 쉬우므로 인적 오류의 여지가 있습니다. 이러한 문제는 광범위한 데이터 세트를 처리하거나 미묘한 부정맥을 인식할 때 더욱 커집니다. 전 세계적으로 디지털 헬스케어로 전환함에 따라 일관된 실시간 ECG 분석을 제공할 수 있는 신뢰할 수 있고 자동화된 진단 시스템의 필요성이 점점 더 중요해지고 있습니다⁴.

전통적인 기계 학습 모델은 ECG 분석에 중간 정도의 성공으로 적용되었습니다. 그러나 수작업으로 제작된 기능과 도메인별 전문 지식에 의존하는 것은 주목할 만한 한계를 내포하고 있습니다. 이러한 제한을 해결하기 위해 모델은 과소 대표된 클래스에 대한 합성 데이터 포인트를 생성하는 SMOTE(Synthetic Minority Over-sampling Technique)를 사용하여 데이터 세트의 균형을 맞추고 모든 하트비트 유형에서 일반화할 수 있는 모델의 용량을 개선합니다. SMOTE와 딥 러닝 모델의 통합은 특히 희귀 부정맥에 대한 분류 성능을 향상시키고 보다 공평한 진단 도구를 지원합니다⁵. 이 연구의 주요 목적은 세 가지입니다. 첫째, 실시간 부정맥 감지가 가능한 정확하고 확장 가능한 모델을 개발하여 디지털 및 맞춤형 의료 서비스로의 글로벌 전환에 기여하는 것이 목표입니다. 둘째, ECG 분석에서 하이브리드 CNN-Transformer 아키텍처의 효과를 입증하여 정확성과 견고성 모두에서 기존 방법을 능가할 수 있는 잠재력을 강조합니다⁶.

마지막으로, 목표는 임상 진단에서 의미 있는 응용 프로그램을 가진 모델을 개발하여 심장 이상을 조기에 발견하는 것입니다. 이 연구는 딥 러닝의 발전과 실용적인 의료 응용 사이의 격차를 해소하고, 우리의 접근 방식을 향상된 심장 치료 및 환자 결과를 추구하는 데 유용한 도구로 포지셔닝하는 것을 목표로 합니다⁶.

Protocol

1. 데이터셋 획득

1. 공개적으로 사용 가능한 심전도(ECG) 데이터셋을 획득하여 부정맥 분류를 위한 딥러닝 모델을 개발하고^{검증합니다 7}.
2. MIT-BIH 부정맥 데이터베이스, MIT-BIH 상심실 부정맥 데이터베이스, 상트페테르부르크 INCART 12 리드 부정맥 데이터베이스 및 급성 심장사 홀터 데이터베이스의 Lead-I 데이터 세트를 결합합니다.
   참고: 데이터 세트는 환자 인구 통계 및 부정맥 유형의 다양성을 고려하여 선택되므로 모델이 다양한 사례에 걸쳐 일반화될 수 있습니다. 각 데이터 세트는 다양한 하트비트 클래스를 포괄하는 고품질 주석이 달린 ECG 기록을 제공합니다. 리드 I 데이터만 추출되어 모든 데이터 세트에서 사용되어 입력을 표준화하고 일관성을 유지하며 진단적으로 가장 관련성이 높은 신호에 집중했습니다. 그림 1에서 볼 수 있듯이 Lead I은 오른팔(음극)과 왼팔(양극) 사이의 전위차를 측정하고 Lead II는 오른팔(음극)과 왼쪽 다리(양극) 사이의 전위차를 측정합니다. 표 1 은 4개의 데이터 세트를 결합하고 null 값을 제거하여 주 데이터 세트가 생성되었으며 파일 이름이 Alldata.CSV임을 보여줍니다.

2. 데이터 전처리

1. Alldata.CSV의 데이터를 훈련과 테스트의 두 부분으로 나눕니다. 전처리 2에서 Alldata.CSV에서 N, L, R, A, V 클래스를 필터링한 다음 Train 및 Test Part의 두 부분으로 나눕니다(그림 2).
2. 각 환자의 ECG 신호를 N, L, R, A 및 V 등급과 같은 해당 부정맥 등급에 따라 각각 주석이 달린 고정된 180ms 창으로 나눕니다(그림 3).
   참고: 이 세분화는 샘플 전체에서 일관된 입력 길이를 허용하고 각 하트비트 세그먼트 내에서 시간적 특성을 캡처했습니다.
3. Python의 라이브러리를 사용하여 형식(.dat, .hea 및 .atr)의 원시 ECG 파일을 읽습니다.

3. 정규화

1. 신호 진폭의 균일성을 보장하려면 Min-Max 스케일링을 사용하여 분할된 모든 ECG 데이터를 정규화하고 각 샘플을 0과 1 사이의 범위로 변환합니다.
   참고: 여기에 사용된 정규화 기술은 MinmaxScaler⁸입니다.

4. SMOTE를 사용한 클래스 밸런싱

참고: 부정맥 분류의 일반적인 문제는 정상 심장 박동이 비정상적인 심장 박동보다 훨씬 많은 심각한 클래스 불균형입니다.

1. 위의 문제를 해결하기 위해 SMOTE(Synthetic Minority Over-sampling Technique)를 훈련 세트에 적용하여 기존 인스턴스 사이를 보간하여 소수 클래스에 대한 합성 샘플을 생성합니다⁹.
   참고: 모든 부정맥 유형에 걸쳐 일반화하는 모델의 능력은 각 클래스가 공정하게 표현되도록 보장하는 새로운 합성 샘플에 의해 향상됩니다.

5. 기차-테스트 분할

1. 전처리 후 70-30 분할을 사용하여 데이터를 학습 및 테스트 세트로 분할하고 계층화를 통해 세트 간의 클래스 분포를 유지합니다.
   참고: 이 분할을 통해 각 부정맥 클래스가 훈련 및 테스트 단계 모두에서 적절하게 표현되어 모델의 성능을 신뢰할 수 있게 평가할 수 있습니다.

6. 데이터셋 분할 및 클래스 분포

1. 최종 데이터 세트를 학습 및 테스트 세트로 분할하며, 데이터의 70%는 학습에 사용되고 30%는 테스트에 사용됩니다.
2. SMOTE를 적용하여 클래스 분포의 균형을 맞추고, 표 2와 같이 각 부정맥 유형이 학습 및 테스트 세트 모두에 적절하게 표현되도록 합니다.
   참고: 총 3,966,620 개의 ECG 세그먼트가 학습에 사용되며 112,575 개의 ECG 세그먼트가 모델 테스트에 사용됩니다. 부정맥 유형의 다양성과 함께 이러한 방대한 양의 데이터는 실제 ECG 신호에서 다양한 유형의 부정맥을 감지하는 모델의 견고성에 기여했습니다.

7. 방법론

1. 모델 아키텍처
   1. 정확한 부정맥 분류를 달성하려면 1D CNN(Convolutional Neural Network) 및 트랜스포머 계층으로 구성된 하이브리드 딥 러닝 모델을 구현하십시오.
      참고: 하이브리드 모델 아키텍처는 ECG 신호의 공간 및 시간 기능 모두의 강점을 활용하도록 특별히 설계되었습니다. 특징 추출과 시퀀스 모델링 기능이 결합되어 있습니다.
2. 1D-CNN(Convolutional Neural Network) 블록
   1. CNN 블록을 두 개의 1D 컨벌루션 계층으로 구성하고, 각 계층에는 ReLU 활성화 함수와 최댓값 풀링 계층이 오도록 설정합니다. 이러한 계층은 입력 심전도 신호에서 공간 종속성을 추출합니다. 특징 추출을 향상시키려면 CNN 계층¹⁰에서 각 변환 단계 후에 더 많은 ReLU 활성화 함수를 추가하십시오.
      참고: 이 구성을 통해 모델은 각 세그먼트 내의 공간 종속성을 효과적으로 학습할 수 있습니다.
   2. 첫 번째 컨벌루션 계층: 이 계층을 사용하여 입력 신호에 크기 3의 필터 32개를 적용할 수 있습니다. 작업은 다음과 같이 표현됩니다.
      (1)
      여기서 _yi는 출력, wj는 가중치, x_(i+j)는 입력 ECG 세그먼트, b는 바이어스 항, σ는 활성화 함수(이 경우 ReLU)를 나타냅니다¹¹.
   3. 풀링 레이어: 각 컨볼루션 후에 최대 풀링 연산을 설정하여 공간 차원을 다음과 같이 정의되는 2배로 줄입니다.
      (2)
      참고: 이 작업은 계산 복잡성을 줄이면서 가장 두드러진 기능을 유지합니다.
   4. 두 번째 컨볼루션 레이어: 이 레이어를 사용하여 이전 레이어의 피처 맵에 크기 3의 필터 64개를 적용하여 상위 레벨 피처¹²를 추출합니다. 컨볼루션 후에 ReLU 활성화 함수를 적용하여 비선형성을 도입합니다.
      (3)
      1. 추가 활성화 계층: 컨볼루션 후 모든 중간 단계에서 ReLU 활성화를 적용하여 네트워크의 표현력을 향상시켜 모델이 긍정적 활성화에 초점을 맞추도록 합니다¹³.
   5. 드롭아웃: 완전 연결 레이어 섹션¹⁴에서 드롭아웃 속도를 0.5로 지정합니다.
3. 변압기 블록:
   1. 이 프로토콜을 따르려면 두 개의 다중 헤드 셀프 어텐션 계층을 포함하도록 Transformer 블록을 설정하여 모델이 ECG 신호¹⁵의 여러 부분에 걸쳐 시간적 종속성을 캡처할 수 있도록 합니다.
   2. Multi-Head Self-Attention: 이 메커니즘은 모든 시퀀스 요소 쌍 간의 관계를 계산합니다. 쿼리 Q, 키 K 및 값 V가 있는 시퀀스의 경우 주의를 다음과 같이 계산합니다.
      (4)
      여기서 Q, K, V는 각각 쿼리 행렬, 키 행렬, 값 행렬이고, d_k는 키 벡터의 차원 수를 나타냅니다.
      참고: 모델이 관련성에 따라 다른 세그먼트의 무게를 측정할 수 있도록 함으로써 이 메커니즘은 미묘한 시간적 특성을 가진 부정맥을 구별하는 모델의 능력을 향상시킵니다.
   3. 활성화 함수: 여러 계층에서 ReLU 를 명시적으로 사용합니다.
4. 연속 웨이블릿 변환(CWT):
   1. 데이터를 CNN 계층에 공급하기 전에 연속 웨이블릿 변환을 적용하여 심전도 신호를 시간-주파수 표현¹⁶으로 변환합니다.
      참고: 이 변환은 시간 경과에 따른 빈도 변화를 캡처하여 보다 포괄적인 기능 세트를 제공하며, 이는 서로 다른 부정맥 유형을 구별하는 데 중요합니다.
5. 교육 과정:
   1. 모델을 훈련하려면 그래디언트의 첫 번째 및 두 번째 모멘트를 기반으로 학습률을 동적으로 조정하는 Adam 옵티마이저를 사용합니다. Adam에 대한 업데이트 규칙을 다음과 같이 정의합니다.
      (5)
      여기서 mt_와 vt_는 첫 번째와 두 번째 모멘트 추정치이고, α는 학습률이고, ε는 0으로 나누기¹⁷을 방지하기 위한 작은 상수입니다.
   2. 배치 크기가 64인 100개 이상의 Epoch를 통해 과적합을 완화하기 위해 조기 중지를 활용하여 교육을 수행합니다.
      참고: 훈련 데이터는 PyTorch DataLoader 유틸리티를 통해 모델에 공급되었으며, 네트워크를 정규화하고 컨버전스를 개선하기 위해 드롭아웃 및 배치 정규화가 모두 적용되었습니다.
6. 하이퍼파라미터 튜닝
   1. 조기 중지, Adam 옵티마이저, 드롭아웃, 배치 정규화 및 배치 크기 1024를 사용하여 수동 튜닝을 수행합니다.
      참고: 이 문서에서 그리드 또는 베이지안 검색에 대해 명시적으로 언급하지는 않았지만 이러한 선택은 실용적인 튜닝 전략을 반영합니다.
7. 검증 기술
   1. SMOTE¹⁸을 적용한 후 70-30 계층화된 기차-테스트 분할을 사용합니다.
      참고: k-fold는 사용되지 않지만 계층화는 클래스 분포를 유지하며, 이는 종종 대규모 데이터 세트에 충분합니다.

Results

제안된 모델의 성능 메트릭
제안된 모델의 정확도, 민감도, 특이도 및 F1 점수는 각 부정맥 등급에 대해 계산됩니다. 모델의 성능은 MIT-BIH 및 기타 관련 ECG 데이터베이스에서 평가됩니다. 주요 결과는 다음과 같이 요약됩니다.

정확도: 하이브리드 CNN-Transformer 모델은 MITDB 데이터 세트에서 99.32%, 결합된 데이터베이스에서 97.15%의 정확도를 달성하여 다양한 ECG 소스에서 모델의 견고성을 입증했습니다¹⁹.

민감도 및 특이도: 이 모델은 97.75%의 민감도와 99.51%의 특이도를 나타내어 부정맥 및 비부정맥 사례를 각각 정확하게 식별하는 데 효과적임을 강조했습니다. 높은 민감도는 임상 진단에서 위음성을 최소화하는 데 특히 중요합니다.

기준선 모델을 사용한...

Discussion

본 연구의 결과는 하이브리드 CNN-Transformer 모델이 기존의 CNN 전용 및 CNN-LSTM 모델을 현저히 능가하는 높은 정확도, 민감도, 특이도 및 F1 점수로 ECG 부정맥을 능숙하게 분류하는 것을 나타냅니다. 트랜스포머 레이어를 통합함으로써 ECG 분석의 중요한 요소인 시간적 종속성을 캡처하는 모델의 능력이 향상되었습니다. 또한 CWT(Continuous Wavelet Transformations)는 광범위한 시간-주파수 특성을 제공하여 CNN 계층이 부정맥 유형 간의 미묘한 파형 변화를 구별할 수 있도록 합니다. 이러한 결과는 ECG 데이터의 복잡성을 관리하는 데 있어 하이브리드 아키텍처의 효율성, 특히 부정맥 에피소드를 식별하는 데 효과적임을 강조합니다.

또한 이 모델은 다양한 데이터 세트에 걸쳐 놀라운 일반화 가능성을 보여주어 부정맥 분류 연구의 중요한 격차를 해결합니다. SMOTE와 같은 고급 전...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
컴퓨터 시스템			(교육용) 프로세서: AMD Ryzen 7 7840HS, CPU RAM:16GB, GPU RAM:6GB
			테이프 기반 autograd 시스템
seaborn			Seaborn은 matplotlib를 기반으로 하는 Python 시각화 라이브러리입니다.
생리학적 신호 및 주석 데이터 읽기, 쓰기, 처리 및 플로팅에 사용되는	WFDB