심전도 기반 부정맥 예측을 위한 계산 효율적인 하이브리드 접근법

요약

본 연구의 모델은 여러 데이터베이스에서 수집된 심전도(ECG) 데이터셋에서 초기 부정맥을 다섯 가지 주요 심장 박동 유형으로 분류하도록 설계되었습니다. 다른 모델과 비교했을 때, 이 모델은 정확도, 민감도, 정밀도, 호출 능력 면에서 더 우수한 성능을 보입니다.

초록

심혈관 질환, 특히 부정맥은 전 세계적으로 주요 사망 원인 중 하나입니다. 이는 이러한 질환을 조기에 감지하고 진단할 수 있는 자동화 시스템의 필요성을 강조합니다. 이 연구는 심전도(ECG) 신호를 이용해 부정맥을 식별하는 딥러닝 모델을 도입합니다. 이 모델은 다섯 가지 주요 심장 박동 유형에 초점을 맞춥니다: 정상(N), 좌다가지 차단(L), 오른쪽 다발 차단(R), 심방 조기 박동(A), 조기 심실 수축(V). 이 시스템은 MIT-BIH 부정맥, 심실상, INCART 12리드, 급연성 심장사 홀터 등 여러 데이터베이스에서 얻은 리드 I 신호를 사용합니다. 이로써 390만 개 이상의 교육 세그먼트와 112,575개의 테스트 세그먼트가 제공됩니다.

데이터는 180개의 고정된 창으로 나누어 최소 최소 정규화를 사용해 크기를 조정하고, 합성 소수자 과잉 샘플링 기법으로 클래스 밸런스를 맞추어 전처리됩니다. 이 모델은 공간적 특징을 추출하기 위해 1D 합성곱 신경망을 결합하고, 시간 기반 패턴을 포착하기 위해 트랜스포머 층을 활용합니다. Adam 옵티마이저를 사용하며 드롭아웃과 배치 정규화를 포함하여 성능을 향상시킵니다. 이 시스템은 모든 클래스에서 99.99%의 정확도, 정밀도, 그리고 F1 점수를 달성하며, 이는 TN4 모델과 다른 최고 성능 모델들보다 우수합니다. 합성곱 신경망과 딥 하이브리드 아키텍처의 사용은 특징의 견고성을 향상시킵니다. 이 모델은 확장 가능하고 실시간 부정맥 감지에 큰 잠재력을 보여주며, AI 기반 맞춤형 디지털 헬스케어 발전에 기여합니다.

서론

심혈관 질환은 인간 건강 문제의 가장 중요한 원인으로, 매년 1,700만 명 이상의 사망자가 발생합니다. 세계심장연맹에 따르면 전 세계 심혈관 질환(CVD) 환자의 거의 4분의 3이 저소득 국가에 거주하고 있습니다. 심전도(ECG)는 심장의 탈분극에 의해 발생하는 전기 활동을 포착합니다. 전기 신호가 피부로 전달됩니다. 심전도 신호는 최소 두 가지 중요한 정보를 전달합니다. 하나는 건강 관련 생의학입니다. 다른 하나는 사람 관련 자격증 또는 생체 인식입니다. 단순하기 때문에 ECG 신호를 분류하는 데 자체 제작 및 머신러닝 접근법 등 다양한 방법이 고려되어 왔습니다. 수동 방법은 시간이 많이 들고 비효율적입니다. ECG와 같은 실시간 신호와 상당한 컴퓨터 인프라가 필요합니다. 기계 학습 방법은 수작업 방법보다 브래킷 정확도가 낮을 가능성이 높지만, 부정맥 1의 발견 위험을 줄이기 위해서는 적절한 알고리즘이^{필요합니다.}

가장 흔한 심혈관 질환은 부정맥으로, 심장 박동 패턴이 비정상인 상태입니다. 이러한 비정상적인 패턴은 치료에 영향을 줄 수 있으므로 반드시 분류되어야 합니다. ECG는 비정상적인 심장 패턴을 감지하고 심장 질환을 예측하는 데 널리 사용되어 조기 발견을 가능하게 합니다. 부정맥 진단은 주로 심장 흥분성을 기록하고 신호를 전송하며 회복 상태를 모니터링하는 중요한 의료 기기인 심전도(ECG)에 의존합니다. 심전도는 현대 의학에서 필수적이고 신뢰할 수 있는 방법입니다. ECG 신호 해석의 자동화는 임상 실무를 크게 향상시키고 환자 안전을 향상시킵니다. 부정맥은 비정상적인 심장 리듬과 패턴입니다. 인공지능, 특히 머신러닝은 질병 예측과 의견 분석, 특히 심혈관 질환에 탁월한 도구입니다^.

환자 기록과 같은 다양한 의료 데이터는 일반적으로 병원에서 임상 목적으로 사용됩니다. 의료 데이터도 시기적절하게 생성되어 머신러닝 알고리즘 최적화를 지원합니다. 기계는 결국 학습하는 데이터셋을 기반으로 학습됩니다. 훈련이 완료되면 환자가 건강한지 또는 기록의 다양한 속성을 기준으로 식별하고 분류할 수 있습니다 ^3,4. 기계는 또한 주어진 데이터 속에서 시간 부족이나 제한된 자원으로 인해 인간이 쉽게 인지하기 어려운 패턴을 감지할 수 있습니다. K-최근접 이웃(KNN), 지지 벡터 기계(SVM), 신경망(NN), 결정 트리, 선형 판별 분석(LDA), 베이지안 분류기 등 여러 방법으로 ECG 신호를 분류하는 방법이 사용되었습니다. SVM은 부정맥 감지를 위한 심전도 신호 분류에 가장 효과적인 감독 학습 알고리즘 중 하나로 여겨집니다 ^5,6.

NN과 다층 지각론(MLP)을 사용하는 우수한 브래킷 모델은 다른 기존 방법보다 우수합니다. 인공 신경망(ANN)과 같은 딥러닝 알고리즘은 정보 검색, 이미지 인식, 객체 탐지, 언어 처리 등 다양한 작업에 성공적으로 활용되어 왔습니다. CNN은 ECG 파형에서 스타일적 특징을 추출하고 QRS 복합체, ST 구간, P파 ^7,8 등 다양한 목적으로 분석하는 데 널리 사용되어 왔습니다. 1D CNN은 ECG 신호에서 가장 관련 있는 특징을 감지하고 이를 다섯 가지 부정맥 유형으로 분류하는 법을 배웁니다. 신호 품질 향상을 위해 기준선 방황 및 고주파 잡음 제거 필터가 적용되었습니다. 이로 인해 부정맥은 다섯 가지 범주로 분류되었습니다 ^9,10.

그림 1에서 볼 수 있듯이, P파, QRS 복합체, T파는 심전도에서 중요한 부분입니다. P파는 심방 탈분극, 즉 심방이 수축하는 전기 활동을 나타냅니다. QRS 복합체는 심실 탈분극을 반영합니다; 뇌실 수축을 유발하는 것은 전기 신호입니다. T파는 수축 후 심실의 회복 단계인 심실 재분극을 나타냅니다. 이 파동들은 하나의 완전한 심장 주기를 나타냅니다. 심장 작동 원리를 이해하고^{심장 문제 진단}에 매우 중요합니다.

이 모든 파동은 하나의 심장 주기를 나타냅니다. 심장 작동 원리를 이해하고 심장 질환 진단에 매우 중요합니다. 딥러닝 모델은 최근 ECG 신호를 포함한 컴퓨터 지원 의료 신호 해석에서 상당한 진전을 이루었습니다. 전통적인 수작업으로 제작된 기능 기반 머신러닝 모델은 다양한 환자 집단에 따라 확장성과 적응 문제를 겪고 있습니다. 이러한 문제를 해결하기 위해 CNN과 LSTM 같은 반복 모델과 CNN을 결합한 하이브리드 모델이 등장하여 원시 ECG 신호에서 관련 특징을 자동으로 학습하고 있습니다. 이로 인해 분류 정확도가 크게 향상되었습니다¹².

본 연구는 심전도 신호를 다섯 가지 심박수 범주로 분류하는 딥러닝 프레임워크를 제안합니다: 정상(N), 좌다가지 차단(L), 오른쪽 다발 차단(R), 심방 조기 박동(A), 조기 심실 수축(V). 모델을 학습하기 위해 MIT-BIH 부정맥 데이터베이스와 상심실 데이터베이스와 같은 공개된 심전도 데이터셋을 활용합니다. 이 데이터셋들은 사전 처리되어 고정 길이의 세그먼트로 나뉘어 분석을 수행합니다. 부정맥 데이터에서 클래스 불균형이 흔한 문제이므로, 우리는 합성 소수자 과잉표본추출기법(SMOTE)을 적용하여 학습 데이터를 균형 있게 조정합니다. 이를 통해 모델은 모든 클래스에서 효과적으로 학습할 수 있고, 다양한 심장 박동 유형 분류의 정확도를 향상시킵니다.

연속 웨이블릿 변환(CWT) 및 CNN 아키텍처를 사용하는 모델 등 최근 ECG 분류 발전에서 영감을 받아, 표준 CNN과 트랜스포머 층을 포함하는 하이브리드 모델을 모두 사용합니다. 공간적 특징 추출을 위한 CNN과 시간 의존성 포착을 위한 트랜스포머를 결합하여 이 시스템은 F1 정확도를 달성하며, 모든 클래스에서 거의 100%에 가까운 정밀도를 달성합니다^13,14.

"공간적 특징"은 거리, 방향, 형태와 같은 무언가의 위치나 공간과 관련된 특성을 의미합니다. 반면, "시간적 특징"은 사건이 언제 발생했는지, 지속 시간, 사건의 순서와 같은 시간과 관련된 요소를 설명합니다. 본질적으로 "공간적"은 "공간"을, "시간적"은 "시간"을 의미합니다.

이 연구의 주요 목표는 실시간 부정맥 감지를 위한 정확하고 확장 가능한 모델을 개발하고, 의료 분야에서 확장 중인 AI 기반 진단 분야를 지원하는 것이었습니다. 이 시스템은 실시간 모니터링에 가능성을 보여주며, 심장 사건 위험이 있는 환자에 대한 조기 발견과 개입을 가능하게 합니다.

이 연구 작업의 목적은 다면적입니다. 첫째, 이 기법은 부정맥 박동을 다섯 가지 범주로 분류하는 것을 목표로 합니다: 정상(N), 좌각차단(L), 우다발 차단(R), 심방 조기 박동(A), 조기 심실 수축(V). 둘째, 이 연구는 전처리 없이 ECG 신호로부터 형태학적 및 시간적 정보를 모두 학습할 수 있는 하이브리드 CNN과 트랜스포머 모델을 구축하는 것을 목표로 한다¹⁵. 셋째, 이 제안된 기법은 실시간으로 구현 가능한 성능 지향적 솔루션을 제공하는 것을 목표로 합니다. 넷째, 이 연구는 제안된 모델의 정확도와 민감도가 최첨단 모델에 비해 향상되었음을 입증하는 것을 목표로 합니다^16,17.

또한, 구조화된 그래프 내 생리학적 요인 간 상호작용을 모델링하는 그래프 컨볼루션 네트워크(GCN)가 생의학 예측 과제에 도입되었으며, 이는 주도 간 의존성을 고려하는 미래의 부정맥 분류 모델에서 역할을 할 수 있습니다.

프로토콜

윤리적 선언
이 연구는 전적으로 PhysioNet에서 다운로드한 공개적이고 익명화된 심전도 데이터에 의존했습니다. 이 연구에 사용된 모든 데이터셋은 원래 대상자의 동의와 해당 데이터 소유자의 윤리 승인을 받아 수집되었습니다. 이 연구는 데이터 수집, 인간 또는 동물 대상 실험, 환자 개인 신원 정보가 필요하지 않았습니다. 따라서 추가적인 윤리 심사는 요청되지 않았습니다.

방법론
그림 2 는 제안된 아키텍처의 워크플로우를 보여줍니다.

데이터 수집
심전도 데이터는 생리학적 신호의 인기 저장소인 PhysioNet 데이터베이스에서 수집됩니다. 데이터베이스에서 여러 데이터셋이 검색됩니다. 이 데이터셋들은 다양한 ECG 신호 클래스를 포함하는 단일 주요 데이터셋으로 통합됩니다.

사용되는 데이터셋
이 연구는 여러 공개된 ECG 데이터셋을 사용하여 부정맥 분류를 위한 딥러닝 모델을 개발하고 평가하였습니다. 이 데이터셋 선정은 환자 인구통계학적 다양성과 부정맥 유형의 다양성을 고려하여 제안된 모델이 다양한 시나리오에서 잘 작동하도록 신중하게 수행^{되었습니다.} 본 연구에서는 MIT-BIH 부정맥 데이터베이스, MIT-BIH 심실 상부정맥 데이터베이스, 상트페테르부르크 INCART 12유도 부정맥 데이터베이스, 그리고 급연성 심장사 홀터 데이터베이스의 Lead-I 데이터만 통합하였습니다. 이 데이터셋은 다양한 부정맥 유형을 아우르는 고품질의 주석이 달린 심전도 기록으로 잘 알려져 있습니다.

위에 제시된 통합 데이터셋에는 환자 인구통계, 기록 장치, 샘플링 빈도 및 환경 등이 포함됩니다. 앞서 언급한 모델의 변동성은 광범위한 ECG 형태, 노이즈, 리듬에 노출되어 일반화를 향상시킵니다.

데이터셋 설명
MIT-BIH 부정맥 데이터베이스
MIT-BIH 부정맥 데이터셋에는 100-234번으로 번호가 매겨진 48개의 30분 ECG 기록이 포함되어 있습니다. 각 기록에는 초당 360개의 샘플로 디지털화된 2채널 ECG 신호가 포함되어 있습니다. 데이터는 .dat, .hea, .atr 형식으로 저장됩니다.

MIT-BIH 심실상부정맥 데이터베이스
이는 MIT-BIH 데이터베이스의 특정 하위 집합입니다. MIT-BIH 상심실 부정맥 데이터베이스에는 30분에서 몇 시간까지 801-811 번호로 번호가 매겨진 78개의 전면 심전도 기록이 포함되어 있습니다. 각 기록에는 초당 128샘플로 디지털 변환된 2채널 ECG 신호가 포함되어 있습니다.

상트페테르부르크 INCART 12유도 부정맥 데이터베이스
이 데이터베이스에는 32대의 홀터 모니터에서 촬영된 75개의 주석 녹음이 포함되어 있습니다. 각 녹음은 30분 동안 진행되며, 12개의 표준 리드가 포함되어 있으며, 각각 257Hz로 샘플링됩니다. 신호 세기는 밀리볼트당 250에서 1100 아날로그-디지털 변환기 단위 사이로 변동합니다.

예기치 않은 심장사 홀터 데이터베이스
이 데이터셋은 심실 빈맥(VT)과 심실 세동(VF)의 실제 사례를 포착한 여러 오픈 액세스 홀터 기록 중 하나입니다. 두 가지 모두 예기치 못한 심장사로 이어질 수 있습니다. 각 레코드는 24시간 길이이며 250Hz로 샘플링됩니다.

데이터 전처리
본 연구에서는 서로 다른 샘플링 비율을 가진 네 가지 공개 심전도 데이터베이스를 사용하였다: MIT-BIH 부정맥(360 Hz), MIT-BIH 상실성 부정맥(128 Hz), 상트페테르부르크 INCART 12유도(257 Hz), 그리고 급연성 심장사 홀터(250 Hz). 모든 데이터가 일관되고 모델 훈련 중 결합될 수 있도록 모든 ECG 신호는 MIT-BIH 부정맥 데이터베이스와 일치하는 360Hz의 공통 속도로 재샘플링되었으며, 이는 ECG 연구에서 일반적으로 표준으로 사용됩니다. 재샘플링은 밴드 제한 보간을 통해 수행되었으며; 초기에는 ECG 신호가 앨리어싱을 방지하기 위해 저역 통과 필터링을 사용했으며, 이후 보간을 위해 SINC 기반 재구성 커널을 사용한 후 360Hz에서 최종 재샘플링이 이루어졌습니다. 재샘플링 후, 각 신호는 180개의 샘플로 구성된 창으로 나뉘었으며, 이는 대략 0.5초 분량의 데이터와 같아 모든 데이터셋이 동일한 시간 해상도를 가지도록 했습니다. 이 표준화 덕분에 서로 다른 데이터베이스의 신호를 결합해 훈련과 테스트를 할 수 있었고, 시간이 지남에 따라 모델이 일관된 패턴을 학습하는 데 도움을 주었습니다.

입력 데이터 품질을 보장하기 위해 전처리는 여러 중요한 단계를 포함했습니다:
데이터 세분화:
재샘플링 후, 각 ECG 신호는 180개의 샘플로 구성된 고정 길이 창으로 나뉘었습니다. 이는 360 Hz 샘플링 속도에서 약 0.5초의 신호 지속 시간에 해당합니다. 이 연구는 세분화를 위해 고정되고 겹치지 않는 슬라이딩 윈도우를 사용했습니다. 각 창은 연속적인 심전도 샘플 시퀀스를 수집했습니다. 연구가 180표본 창을 선택한 이유는 0.5초 간격만으로도 전체 심장 주기 또는 주요 부분인 P파, QRS 복합체, T파를 전형적인 성인 심박수 전체에 담을 수 있기 때문입니다. 각 구간에 중앙의 주석을 바탕으로 클래스 라벨이 할당되었습니다. 이렇게 하면 구간 라벨이 해당 창 안의 주요 심장 박동 모양과 일치합니다. 슬라이딩 윈도우 방법을 사용하여 다음과 같은 분할 함수를 적용했습니다:

여기서 s_i 는 시간 i의 심전도 샘플 입니다.

정규화:
세분화된 ECG 데이터를 Min-Max 스케일링으로 정규화하여 모든 특징의 값이 0에서 1¹⁰ 사이인지 확인했습니다.

이 단계는 훈련 중 모델의 수렴 속도를 높이는 데 도움을 줍니다.

SMOTE를 이용한 클래스 밸런싱
ECG 데이터셋에서 정상(N) 박동이 비정상 심장 박동 그룹보다 훨씬 많아 유의미한 범주 불균형이 나타났습니다. 분할, 정규화, 열차-테스트 분할 후, 이 문제를 해결하기 위해 합성 소수자 과잉표본 기법(SMOTE)을 적용했습니다.

각 ECG 세그먼트를 표현하는 데 180차원 특징 공간이 사용되었으며, 180개의 정규화된 샘플로 구성되어 있습니다. SMOTE는 유클리드 거리를 사용해 각 소수자 집단 표본의 k개의 최근접 이웃(k = 5)을 결정했습니다. SMOTE는 70% 훈련과 30% 검정 세트로 나누어 층화된 표본 추출을 사용한 훈련 데이터에만 적용되었습니다. 이렇게 하면 인공 샘플이 테스트 세트에 추가되지 않아 과도한 샘플링 과정에 의해 결과가 영향을 받지 않도록 했습니다. 테스트 데이터는 원래 클래스 분포를 유지하며 변경되지 않았고, 모델 공정 평가에만 사용되었습니다. 따라서 이 연구의 높은 성과 결과는 과적합이나 추가 표본으로 인한 점수 부풀림 때문이 아닌, 모델의 진정한 일반화 능력을 보여줍니다.

열차-시험 분열:
전처리와 클래스 필터링 후, 데이터셋은 층화된 무작위 샘플링을 사용하여 70%–30% 비율로 훈련 및 테스트 하위 집합으로 나뉘었습니다. 이 계층화는 각 심장 박동 분류의 상대적 비율이 훈련 및 테스트 세트에서 유지되도록 클래스 라벨에 기반합니다.

분할은 재현성을 위해 무작위 시드를 사용해 수행되었습니다. 모든 ECG 구간은 훈련 세트나 테스트 세트에만 등장했습니다. 편향과 데이터 편차를 방지하기 위해, 데이터 분포에 영향을 줄 수 있는 모든 전처리 단계(즉, SMOTE를 통한 클래스 밸런싱)는 분할 후에만, 그리고 오직 훈련 데이터에만 적용되었습니다.

이와 관련해, 클래스 비율을 유지하고 무작위 층화를 사용하며 샘플을 훈련 및 테스트 세트로 엄격히 분리함으로써 분할 과정은 샘플 내 편향 가능성을 줄여 성능 지표가 데이터별 잔차가 아닌 모델의 일반화를 반영할 수 있게 합니다.

데이터셋 분할과 클래스 분포
최종 데이터셋은 훈련 세트와 테스트 세트로 나뉘었으며, 70%는 훈련, 30%는 테스트용이었습니다. SMOTE를 적용한 후 수업 불균형이 줄어들어 각 부정맥 유형이 훈련과 시험 세트 모두에서 잘 대표되도록 했습니다. 총 3,966,620개의 ECG 구간이 훈련에 사용되었고, 112,575개의 ECG 구간이 검사에 사용되었습니다. 방대한 양의 데이터와 다양한 부정맥 유형이 결합되어, 실제 ECG 신호에서 다양한 부정맥 유형을 효과적으로 식별하는 모델을 만들 수 있었습니다. 이 연구는 심층학습 모델을 사용하여 심전도 부정맥을 분류합니다. 다섯 가지 심박수 유형인 정상(N), 좌다발 분간 차단(L), 우다발 분간 차단(R), 심방 조기 박동(A), 조기 심실 수축(V)은 MIT-BIH 부정맥 데이터베이스에 제공된 표준 박동 주석과 심전도 박동 주석에 대한 AAMI 가이드라인에 따라 선택되었습니다. 여기서 언급된 다섯 가지 박동 주석은 모두 부정맥의 넓은 범주에 속하는 중요한 심장 질환을 포함하며, P, QRS, T파 주변의 ECG 신호에서 독특한 파형 특징을 보입니다.

더불어, 이 분류들은 공개 심전도 데이터베이스에서 가장 자주 사용되고 일관되게 분류되어 있어, 다른 심전도 기반 심장 리듬 분류 접근법에 비해 효과를 테스트하기가 더 쉽습니다. 데이터셋은 교차 환자 방식으로 분할되었습니다. 이 구조는 단일 환자의 ECG 구간이 훈련 및 검사 세트에 동시에 나타나지 않도록 보장했습니다. 이 분할이 일어난 후에는 SMOTE가 오직 훈련 집합에만 적용되었습니다. 테스트 세트는 합성 샘플과 반복되는 시간적 창이 없었다. 이 모든 것은 구간 수준의 중복을 방지하고, 이전에 본 적 없는 환자를 다룰 때 진정한 일반화를 지원합니다.

SMOTE 전후 학급 분포:
원래 데이터셋에서는 클래스 간에 상당한 불균형이 있었으며, 정상(N) 비트가 많고 이상 클래스의 샘플은 적었습니다. SMOTE를 사용하기 전, 훈련 데이터에는 약 133,320개의 정상(N), 8,075개의 좌다 가지 차단(L), 10,431개의 우완 가지 차단(R), 4,489개의 심방 조기 박동(A), 60,682개의 조기 심실 수축(V) 구간이 포함되어 있었습니다. 불균형을 해결하기 위해 SMOTE는 훈련 집합에만 적용되어 소수 클래스의 샘플 수를 증가시켜 다수 클래스와 일치하도록 했습니다. 증강 후 각 클래스는 793,324개의 구간을 가지며, 총 3,966,620개의 훈련용 ECG 구간이 되었습니다. 112,575개의 세그먼트를 가진 테스트 세트는 원래 클래스 분포를 유지하며 과도하게 샘플링되지 않았습니다. 이 접근법은 모델 성능에 대한 공정하고 편향되지 않은 평가를 보장했습니다.

훈련과 추론
6GB 메모리를 가진 NVIDIA RTX 3050 GPU의 학습 및 추론 성능을 확인하여 계산 효율성을 살펴보았습니다. 훈련 과정은 60에포크에 걸쳐 약 3.2시간이 걸렸습니다. 추론 지연 시간은 180개 샘플 세그먼트당 평균 0.45ms로 실시간 사용이 가능해졌습니다. GPU의 메모리 사용량은 최대 4.2GB에 달했고, 모델에는 180만 개의 파라미터만 있어 대부분의 트랜스포머 기반 ECG 세트와 비교하면 가볍게 느껴집니다.

훈련 및 추론 과정은 다음과 같은 단계로 이루어집니다:
훈련 설정: 학습률, 배치 크기, 에포크 등 훈련 매개변수가 정의됩니다.
모델 훈련: CNN-트랜스포머 모델은 학습 데이터를 기반으로 학습됩니다.
검증: 학습 후 모델의 검증 정확도와 손실을 점검합니다. 성능이 좋으면 모델이 저장됩니다. 성능이 좋지 않으면 파이프라인은 다른 훈련 매개변수로 반복되어 매개변수 설정 단계로 돌아갑니다.

모델 아키텍처
전체 CNN-트랜스포머 구성은 네 가지 주요 부분으로 구성됩니다: 컨볼루션 피처 추출, 투영 계층, 트랜스포머 인코더, 그리고 마지막으로 분류 헤드. 컨볼루션 블록은 32개의 필터, 커널 크기 3, 스트라이드 1, 패딩 1을 가진 1차원 컨볼루션 레이어로 시작하며, 이어서 ReLU가 이어집니다. 최대 풀링(커널 크기 2)으로 신호의 시간적 해상도를 줄여줍니다. 첫 번째 컨볼루션 층 이후에는 64개의 필터를 가진 또 다른 합성곱 층이 있고, 같은 커널 크기 3, 스트라이드 1, 패딩 1, 다시 ReLU, 그리고 크기 2의 또 다른 맥스 풀링이 있습니다. 이 모든 출력은 평탄화되어 선형 투영 계층을 통과하여 특징을 128차원 임베딩 공간으로 매핑하고, 이 공간은 트랜스포머^18,19로 전달됩니다.

변압기 블록은 두 개의 인코더 계층을 가지고 있으며, 각 계층은 4개의 헤드를 사용해 ECG 신호의 장거리 의존성을 포착하는 다중 헤드 셀프 어텐션을 제공합니다. 각 계층에는 위치 별 피드포워드 네트워크가 있으며, 숨은 크기는 256이고 드롭아웃은 0.5에 있어 과적합을 돕습니다. 각 하위 계층 후에 계층 정규화가 이루어져 훈련을 안정화합니다.

분류 헤드는 완전 연결 계층으로, 128에서 64로 떨어지고, 그 다음에 ReLU와 다시 0.5 드롭아웃이 옵니다. 그 다음 출력 계층에는 부정맥 클래스용 5개의 뉴런이 있고, 확률을 얻기 위해 Softmax가 있습니다.

1차원 합성곱 신경망(CNN) 블록:
CNN 블록은 두 개의 1차원 합성곱 층으로 구성되며, 각각 ReLU 활성화와 최대 풀링 층이 뒤따릅니다. 이 층들은 입력된 심전도 신호 내의 공간적 관계를 식별하는 데 도움을 줍니다. 특징 추출을 향상시키기 위해 CNN 계층의 각 변환 단계마다 추가적인 ReLU 활성화 함수가 적용됩니다.

첫 번째 컨볼루션 계층: 이 층은 입력 신호에 3개의 필터를 사용하며, 각각 크기는 3입니다. 이 과정은 다음과 같이 쓸 수 있습니다:

      

여기서 y_i 는 출력, w_j 는 필터의 가중치, x_i+j 는 입력 세그먼트, b는 바이어스 항, σ는 활성화 함수(ReLU)를 나타냅니다. 결과적으로 생성된 특징 맵은 비선형성을 추가하기 위해 ReLU 활성화 계층을 거칩니다:

풀링 계층: 각 합성곱 연산 후, 공간 차원을 절반으로 줄이기 위해 최대 풀링 단계를 적용합니다. 이 과정은 다음과 같이 정의됩니다:

이는 가장 중요한 기능을 유지하면서 계산 부하를 줄이는 데 도움을 줍니다.

두 번째 합성곱 층: 이 층은 3 x 3 크기의 64개 필터를 사용하여 이전 층의 특징 맵을 처리하여 모델이 더 복잡한 패턴을 감지할 수 있게 합니다. 합성곱 후에는 ReLU 활성화 함수를 적용하여 모델에 비선형성을 도입합니다.

이 단계는 모델이 심전도 신호에서 상세한 패턴을 포착하도록 보장합니다.

추가 활성화 계층: 합성곱 과정 이후 각 단계 후에 ReLU 활성화가 적용되어 네트워크가 복잡한 패턴을 더 잘 포착하도록 돕고, 모델이 긍정적인 활성화에 집중하도록 합니다.

평탄화 과정: 두 번째 맥스 풀링 연산 후, 특징 맵을 하나의 벡터로 평탄화하여 트랜스포머 블록에 입력합니다.

변압기 블록:
트랜스포머 블록은 두 개의 다중 헤드 자기 주의 계층으로 구성되어 있으며, 이는 모델이 시간에 따라 ECG 신호의 서로 다른 부분 간의 관계를 이해하는 데 도움을 줍니다. 다중 머리 자기 주의는 연속 요소 쌍을 살펴보는 방식으로 작동합니다. 쿼리 Q, 키 K, 값 V를 가진 시퀀스의 경우, 주의 값은 다음과 같이 계산됩니다:

여기서 dk는 키 벡터의 차원으로, 척도 불변성을 보장합니다.

피드포워드 계층: 각 자기 주의 출력은 ReLU 활성화 후 레이어 정규화가 이루어진 완전 연결된 피드포워드 네트워크를 거칩니다. 이 단계는 추출한 시간적 특징을 정제합니다:

여기서 W1과 b1은 피드포워드 층의 가중치와 편향입니다.

배치 우선 표현: 트랜스포머는 배치 우선 배열에서 동작하여 CNN 블록의 입력 형식과의 호환성을 보장합니다.

완전 연결된(조밀한) 층:
변압기 블록을 통과한 후 출력 시퀀스는 평탄화되어 두 개의 완전히 연결된 층을 거쳐 분류를 수행합니다. 첫 번째 완전 연결 계층은 입력 벡터를 128차원 특징 공간으로 변환하며, 그 과정에서 재형성합니다.

여기서 W는 가중치 행렬, x는 입력 벡터, b는 바이어스 벡터입니다. ReLU 활성화 계층이 적용됩니다:

과적합을 방지하기 위해 0.5 속도의 드롭아웃 층이 뒤따릅니다.

두 번째 완전 연결 계층: 마지막 계층은 128차원 특징을 심장박동 클래스 수(예: 부정맥 감지용 5개 클래스)에 매핑합니다. 출력은 log-SoftMax 함수를 거쳐 로그 확률을 계산합니다: exp(xi)

하이브리드 CNN-트랜스포머 모델
제시된 모델은 CNN과 트랜스포머의 강점을 결합하여 공간적 및 시간적 표현을 모두 사용하는 하이브리드 딥러닝 모델입니다. 이러한 아키텍처는 생리학적 신호와 같은 복잡하고 긴 시퀀스 데이터를 처리하는 데 특별히 적합하다.

이 방정식은 입력 표현을 나타내며, 여기서 N = 샘플 수, T = 시간 단계 수, d = 각 시간 단계별 특징 차원을 나타냅니다.

이 방정식은 위치 임베딩을 나타내며, 여기서 pos = 순서상 위치; i = 임베딩 차원 지수.

CNN 모듈 – 국소 특징 추출
CNN은 연속 데이터의 피크, 경사, 스파이크와 같은 국소적 의존성과 형태학적 패턴을 효율적으로 학습합니다. 합성곱층은 입력 텐서 위에 공간 범위 의 핵을 사용합니다. 각 출력 채널 m은 다음과 같이 결정됩니다:

= 입력 채널 수; K = 핵의 크기; W = 필터 가중치; b = 편향

ReLU 함수
이 경우 는 학습 가능한 가중치를 나타내고 는 채널 mA의 바이어스입니다. 정류 선형 단위(ReLU)와 같은 비선형 활성화가 적용됩니다:

풀링 및 특징 압축
풀링 계층은 특징 지도의 공간적 또는 시간적 차원을 줄여 중요한 특징을 보존하고 계산을 줄입니다. 창 크기 와 보폭 s를 가진 최대 풀링에서, 위치 에서의 풀링 특징은 다음과 같습니다:

풀링 후 출력 길이

여기서 는 입력 길이이며, 스트라이드는 풀링 윈도우를 슬라이딩할 수 있는 스텝 크기를 정의합니다. 이 공식은 풀링 연산(예: 최대 풀링 작업) 후 특징 지도의 출력 길이를 계산합니다. 입력 길이, 풀 크기, 보폭에 따라 특징 맵이 얼마나 축소되었는지 계산합니다. 다차원 특징 맵을 완전 연결 층의 벡터로 변환합니다.

트랜스포머 인코더 – 장거리 의존성 캡처
트랜스포머는 자기 주의를 사용해 시퀀스에서 장거리 시간 의존성을 학습합니다¹⁷.

스케일드 닷곱 주의

Q, K, V는 학습된 투영법을 통해 계산된 쿼리, 키, 값 행렬입니다; 는 점적(dot product) 척도에 사용되는 핵심 차원입니다.

다중 헤드 주의

각 머리는 독립적으로 주의를 계산한다; 출력은 연결되고 선형 변환됩니다. 각 헤드에 대해 학습된 투영 행렬입니다.   는^18,19번 연합 후 최종 투영 중치_입니다.

최종 예측과 패배
완전 연결 계층은 특징을 logit에 매핑하고, 이를 활성화 함수를 사용해 예측으로 변환합니다. 몇 개의 합성 및 풀링 층 후, 는 벡터 로 평탄화됩니다. 완전 연결 층은 로그를 계산합니다: 완전 연결 계층은 클래스 로그를 계산합니다:

시그모이드/소프트맥스 활성화:

활성화 함수는 모델의 원시 출력 'z'를 확률로 매핑합니다. Sigmoid는 이진 분류에 적용되며, 소프트맥스는 클래스 간 확률 분포를 위한 다중 클래스 문제에 사용됩니다. z는 선형 출력입니다(예: 마지막 층: z = Wx + b). 출력 ŷ는 (0, 1) 사이이며, 이는 확률²⁰을 의미합니다.

교육 과정
훈련은 다음과 같은 하드웨어 사양을 가진 시스템에서 수행되었습니다:
프로세서: AMD Ryzen 7 7840HS
CPU RAM: 16GB
GPU RAM: 6GB NVIDIA GeForce RTX 3050

모델들은 Adam 옵티마이저를 사용해 학습 중 학습률을 조정하여 그라디언트의 첫 번째와 두 번째 모멘트를 기반으로 학습 과정을 수행했습니다. 아담의 업데이트 규칙은 다음과 같이 주어집니다:

이 구성에서 m^t 와 v^t 는 1차 및 2차 모멘트 추정치를 나타내며, α는 학습률, ε는 0으로 나누는 것을 막기 위해 사용되는 작은 상수입니다. 모델들은 60 에포흐에 대해 훈련되었으며, 과적합을 방지하기 위해 조기 정지가 이루어졌습니다. 배치 크기는 1024였으며, 훈련 데이터는 PyTorch의 DataLoader를 사용해 모델에 로드되었습니다. 모델을 정규화하고 수렴을 가속화하기 위해 드롭아웃과 배치 정규화가 도입되었습니다. 드롭아웃은 훈련 중 뉴런의 일부를 무작위로 꺼버리는 정규화 방법으로, 과적합을 줄이는 데 도움을 줍니다. 수학적으로 zi를 i^번째 뉴런의 활성화를 나타내자. 훈련 단계에서 수정 활성화 z'는 다음과 같이 계산됩니다:

여기서 p는 중도 탈락률입니다(예: 50% 탈락 시 p = 0.5). 추론 중에는 드롭아웃이 적용되지 않으며, 전체 네트워크가 사용됩니다.

신경망에서의 수렴은 의료 분야의 기존 분류 체계에 심각한 영향을 미치는 문제로, 특히 수렴이 부족해 진단이 일관성이 없을 때 더욱 그렇습니다. 최근 사전 정의 시간 최적화 접근법과 고정 시점에서의 수렴에 관한 연구들은 모든 초기 상태에 대해 고정된 반복 횟수 내에서 수렴하는 모델을 여전히 훈련시키는 것이 가능함을 보여주었습니다. 이 모델을 기반으로 한 미래 모델들은 사전 정의 시간 최적화를 포함할 수 있습니다.

배치 정규화:
배치 정규화는 각 계층의 입력을 정규화하여 학습을 안정화하고 가속화합니다. 활성화 소배치 x = {x₁,_{x 2}, . . ., x_N}가 주어졌을 때, 배치 정규화된 출력 x_i .는 다음과 같이 계산됩니다:

여기서^{μ B}와^{σ B2}는 배치의 평균과 분산이고, ε는 수치 안정성을 위한 작은 상수이며, γ와 β는 정규화된 값을 스케일링하고 이동시키는 학습 가능한 매개변수입니다. 배치 정규화는 내부 공변량 이동을 줄이고 더 큰 학습률을 가능하게 합니다. 이 기법들은 Adam 최적화 도구와 결합되어 과적합을 완화하고 수렴 속도를 개선하여 견고한 훈련을 보장합니다^21,22.

그림 3은 머신러닝 모델 학습 중 에포크별 검증 손실과 검증 정확도를 보여줍니다. 검증 정확도(파란선, 오른쪽 Y축)는 비교적 낮게 시작해 약 97.5%로 시작해 처음 10 에포크 내에 빠르게 증가합니다. 약 20에포크가 지나면 약 99.7%에서 99.8%까지 수준에 도달하며 계속 개선되고 있습니다. 이는 모델이 검증 집합에서 지식을 잘 학습하고 적용하고 있음을 나타냅니다. 검증 손실(빨간 선, 왼쪽 Y축)은 처음에는 높게 시작하다가 처음 몇 에포크(약 2에서 3에포크) 내에 급격히 거의 0에 가깝게 떨어집니다. 그 이후로는 훈련 기간 내내 거의 0에 가깝게 유지됩니다^{23, 24}.

결과

이 섹션에서는 ECG 데이터를 바탕으로 부정맥을 분류하기 위해 설계된 하이브리드 딥러닝 모델을 소개합니다. 이 모델은 심방 조기 수축, 정상, 좌다 가지 차단, 오른쪽 주각 가지 차단, 조기 심실 수축 등 임상적으로 중요한 다섯 가지 심박동 분류를 인식하는 능력으로 평가됩니다. 이러한 부정맥 분류의 임상적 관련성과 불균형한 데이터셋 및 신호 변동성으로 인한 도전 과제를 고려할 때, 포괄적인 평가가 필수적입니다.

데이터 수집 단계의 첫 번째 전처리 단계에서 MIT-BIH 부정맥 데이터베이스, MIT-BIH 상심실 부정맥 데이터베이스, 상트페테르부르크 INCART 12유도 부정맥 데이터베이스, 그리고 급연성 심장사 홀터 데이터베이스의 모든 Lead I 데이터셋이 수집되었으며, 이는 그림 4에 나타난 것입니다. 이 데이터셋에는 다양한 부정맥...

토론

ECG 생체 신호에서 부정맥을 인식하고 분류하는 데 있어 제안된 딥러닝 하이브리드 모델은 트랜스포머 구조와 1차원 합성곱신경망(CNN)을 결합하여 우수한 성능을 보입니다. 이 조합은 변압기가 자기 주의 메커니즘을 통해 전역 시간 의존성을 학습하는 능력과 CNN이 원시 ECG 파형에서 국소화된 공간 특징을 식별하는 능력을 활용합니다. 이 모델은 정상, 좌다섯 가지 심박동, 우다섯 가지 심박동, 심방 조기 수축, 조기 심실 수축을 사용하여 테스트되었습니다.

CNN-트랜스포머 모델은 고립된 CNN, CNN-VAE(변분 오토인코더), TN4 아키텍처를 포함한 기본 모델들보다 꾸준히 우수한 성능을 보였습니다. 이는 F1 점수, 회상율, 정확성, 정밀도, 민감도, 특이도와 같은 성능 지표를 이용한 철저한 분석을 기반으로 하였습니다. 혼동 행렬은 이 모델이 L, R, V 클래스에서 오분류가 최소화되고 다섯 가지 클래스 모두에서 매우...

재료

이 논문에 사용된 재료 목록

이름	회사	카탈로그 번호	댓글
아담 옵티마이저	오픈 소스 (PyTorch)	https://pytorch.org/docs/stable/optim.html	역전파 중 학습률을 적응시켜 딥러닝 모델을 훈련시키는 최적화 알고리즘.
하드웨어 (계산 시스템)	AMD; 엔비디아	https://www.amd.com/en/products/processors/laptop/ryzen/7000-series/amd-ryzen-7-7840hs ; https://www.nvidia.com	프로세서: AMD 라이젠 7 7840HS; CPU RAM: 16 GB; GPU: NVIDIA GeForce RTX 3050 (6GB VRAM). 모델 훈련 및 평가에 사용됩니다.
불균형-학습	불균형-학습	https://imbalanced-learn.org	합성 소수 과잉 샘플링 기법(SMOTE)과 클래스 밸런싱에 사용되는 Python 라이브러리입니다.
매트플롯립	매트플롯립	https://matplotlib.org	심전도 신호, 혼동 행렬, 수행 그래프 도화에 사용되는 파이썬 라이브러리입니다.
PhysioNet 심전도 데이터베이스	피지오넷	https://physionet.org	연구에서 사용된 공개 심전도 데이터셋으로, 여기에는 MIT-BIH 부정맥, MIT-BIH 상심실 부정맥, INCART 12유도, 그리고 급연성 심장사 홀터 데이터베이스가 포함됩니다.
파이토치	파이토치	https://pytorch.org	CNN 및 트랜스포머 모델, 학습 파이프라인, 추론을 구현하는 데 사용되는 Python 딥러닝 프레임워크입니다.
파이썬	파이썬 소프트웨어 재단	https://www.python.org	데이터 전처리, 모델 개발, 학습 및 평가에 사용되는 프로그래밍 언어입니다.
씨본	씨본	https://seaborn.pydata.org	통계 그래프 및 결과 시각화에 사용되는 Python 데이터 시각화 라이브러리입니다.
WFDB	WFDB	https://wfdb.readthedocs.io	파이썬 패키지는 PhysioNet 데이터베이스에서 생리학적 신호와 주석을 읽고, 쓰고, 처리하며, 플롯하는 데 사용됩니다.