Convolutional Neural Network-Transformer-Modell zur Vorhersage und Klassifizierung früher Arrhythmien anhand von Elektrokardiogramm-Signalen

Summary

Das entwickelte Modell zielt darauf ab, frühe Arrhythmien in die Klassen N, L, R, V und A zu klassifizieren. Hier werden alle Datensätze kombiniert, um einen Hauptdatensatz zu erstellen, den das Modell als Eingabe verwendet, um verschiedene Arrhythmieklassen als Ausgabe zu erzeugen.

Abstract

Herz-Kreislauf-Erkrankungen - insbesondere Herzrhythmusstörungen - sind eine der Haupttodesursachen weltweit und erfordern die Entwicklung präziser und automatisierter Technologien zur Früherkennung und Früherkennung. Um Arrhythmien anhand von Elektrokardiogramm (EKG)-Signalen zu identifizieren, wird in diesem Artikel ein Deep-Learning-basiertes Klassifikationsmodell vorgestellt, das sich auf fünf Hauptherzschlagtypen konzentriert: Normal (N), Linksschenkelblock (L), Rechter Bündelastblock (R), Vorhofvorzeitiger Schlag (A) und Vorzeitige ventrikuläre Kontraktion (V). Wir nutzen Lead I-Signale aus verschiedenen Quellen, wie z. B. den INCART 12-Kanal-, Sudden Cardiac Death Holter-, Supraventricular- und MIT-BIH-Arrhythmie-Datenbanken, was zu mehr als 3,9 Millionen Trainings- und 112.575 Testsegmenten führt.

Beispiele für die Datenaufbereitung sind 180-Stichproben, Segmentierung mit festen Fenstern, Min-Max-Normalisierung und Klassenausgleich mit der Synthetic Minority Over-sampling Technique (SMOTE). Die Hybridarchitektur verwendet Transformer-Schichten, um zeitliche Abhängigkeiten zu modellieren, und 1D Convolutional Neural Networks (CNNs), um räumliche Merkmale zu extrahieren. Der Adam-Optimierer mit Dropout und Batch-Normalisierung für die Regularisierung trainiert das Modell.

Das vorgeschlagene System übertrifft das TN4-Modell und andere hochmoderne Benchmarks und erreicht eine Genauigkeit, Präzision und F1-Punktzahl von 99,99 % in allen Klassen. Die Robustheit der Funktionen wird durch den Einsatz von Deep Hybrid Architectures und Convolutional Neural Networks weiter verbessert, die durch frühere Studien motiviert wurden. Das vorgeschlagene Paradigma treibt die auf künstlicher Intelligenz basierende, individualisierte digitale Gesundheitsversorgung voran und ist vielversprechend für eine skalierbare Echtzeit-Arrhythmieerkennung.

Introduction

Herz-Kreislauf-Erkrankungen (CVDs) sind nach wie vor eines der größten Gesundheitsprobleme weltweit und nach Angaben der Weltgesundheitsorganisation (WHO)¹ jedes Jahr für fast 31 % der Todesfälle weltweit verantwortlich. Eine signifikante Untergruppe dieser Fälle sind Herzrhythmusstörungen, d. h. Unregelmäßigkeiten im Herzrhythmus, die von gutartig bis lebensbedrohlich reichen können. Herzrhythmusstörungen sind oft durch unregelmäßige Zeiten gekennzeichnet. Diese Störungen tragen erheblich zur Morbidität und Mortalität der Patienten bei und erhöhen das Risiko schwerer Gesundheitsprobleme wie Schlaganfall, Herzinsuffizienz und plötzlicher Herzstillstand. Die frühzeitige Erkennung und genaue Klassifizierung von Herzrhythmusstörungen ist daher entscheidend für die Verbesserung der Patientenergebnisse, das Management der Gesundheitskosten und die Verbesserung der Qualität der kardiologischen Versorgung².

Die Elektrokardiographie (EKG) ist nach wie vor ein wichtiges nicht-invasives diagnostisches Instrument zur Erkennung von Herzrhythmusstörungen. Durch die Erfassung der elektrischen Aktivität des Herzens in Form visueller Wellenformen ermöglicht das EKG dem Arzt, subtile Variationen zu identifizieren, die auf bestimmte Arrhythmusmuster hinweisen können³. Die manuelle Interpretation von EKG-Signalen ist jedoch zeitaufwändig und anfällig für Variabilität aufgrund individueller Unterschiede zwischen den Ärzten, was zu einer Spielraum für menschliche Fehler führt. Diese Herausforderungen werden noch größer, wenn es um den Umgang mit umfangreichen Datensätzen oder das Erkennen nuancierter Herzrhythmusstörungen geht. Mit dem weltweiten Wandel hin zur digitalen Gesundheitsversorgung wird der Bedarf an zuverlässigen und automatisierten Diagnosesystemen, die in der Lage sind, konsistente EKG-Analysen in Echtzeit zu liefern, immer wichtiger⁴.

Traditionelle Modelle des maschinellen Lernens wurden mit mäßigem Erfolg auf die EKG-Analyse angewendet. Ihre Abhängigkeit von handgefertigten Funktionen und domänenspezifischem Fachwissen weist jedoch bemerkenswerte Einschränkungen auf. Um diese Einschränkung zu umgehen, verwendet das Modell die Synthetic Minority Over-sampling Technique (SMOTE), die synthetische Datenpunkte für unterrepräsentierte Klassen generiert, wodurch das Dataset ausgeglichen und die Fähigkeit des Modells zur Generalisierung über alle Heartbeat-Typen hinweg verbessert wird. Die Integration von SMOTE in unser Deep-Learning-Modell verbessert die Klassifikationsleistung, insbesondere bei seltenen Arrhythmien, und unterstützt ein gerechteres Diagnosewerkzeug⁵. Die Hauptziele dieser Forschung sind dreierlei. Ziel ist es zunächst, ein genaues, skalierbares Modell zu entwickeln, das in der Lage ist, Arrhythmien in Echtzeit zu erkennen und so zum globalen Wandel hin zu digitaler und personalisierter Gesundheitsversorgung beizutragen. Zweitens, die Effektivität einer hybriden CNN-Transformer-Architektur in der EKG-Analyse zu demonstrieren und ihr Potenzial hervorzuheben, traditionelle Methoden sowohl in Bezug auf Genauigkeit als auch Robustheit zu übertreffen⁶.

Schließlich geht es darum, ein Modell mit sinnvollen Anwendungen in der klinischen Diagnostik zu entwickeln, das die Früherkennung von Herzanomalien verbessert. Diese Studie versucht, die Lücke zwischen den Fortschritten des Deep Learning und praktischen medizinischen Anwendungen zu schließen und unseren Ansatz als wertvolles Instrument zur Verbesserung der kardiologischen Versorgung und der Patientenergebnisse zu positionieren⁶.

Protocol

1. Erfassen von Datensätzen

1. Erwerben Sie öffentlich zugängliche Elektrokardiogramm (EKG)-Datensätze, um das Deep-Learning-Modell für die Arrhythmie-Klassifizierung zu entwickeln und zu validieren⁷.
2. Kombinieren Sie Lead-I-Datensätze aus der MIT-BIH Arrhythmia Database, der MIT-BIH Supraventricular Arrhythmia Database, der St. Petersburg INCART 12-lead Arrhythmia Database und der Sudden Cardiac Death Holter Database.
   HINWEIS: Die Datensätze werden aufgrund ihrer Vielfalt an Patientendemografien und Arrhythmietypen ausgewählt, um sicherzustellen, dass das Modell über verschiedene Fälle hinweg verallgemeinert werden kann. Jeder Datensatz bietet qualitativ hochwertige, annotierte EKG-Aufzeichnungen, die eine Reihe von Herzschlagklassen abdecken. Es wurden nur Lead I-Daten extrahiert und über alle Datensätze hinweg verwendet, um die Eingabe zu standardisieren, die Konsistenz zu wahren und sich auf das diagnostisch relevanteste Signal zu konzentrieren. Wie in Abbildung 1 gezeigt, misst Elektrode I die Potentialdifferenz zwischen dem rechten Arm (negative Elektrode) und dem linken Arm (positive Elektrode), und Elektrode II misst die Potentialdifferenz zwischen dem rechten Arm (negative Elektrode) und dem linken Bein (positive Elektrode). Tabelle 1 zeigt, dass das Hauptdataset durch Kombinieren von vier Datasets und Eliminieren von NULL-Werten erstellt wird und die Datei den Namen Alldata.CSV erhält.

2. Datenvorverarbeitung

1. Teilen Sie die Daten aus Alldata.CSV in zwei Teile auf: Trainieren und Testen. Filtern Sie in der Vorverarbeitung 2 die Klassen N, L, R, A, V aus Alldata.CSV, und unterteilen Sie sie dann in zwei Teile – Trainings- und Testteile (Abbildung 2).
2. Unterteilen Sie das EKG-Signal jedes Patienten in feste 180-ms-Fenster, die jeweils nach den entsprechenden Arrhythmieklassen wie N-, L-, R-, A- und V-Klassen annotiert sind (Abbildung 3).
   HINWEIS: Diese Segmentierung ermöglichte eine konsistente Eingabelänge über alle Stichproben hinweg und erfasste die zeitlichen Merkmale innerhalb jedes Heartbeat-Segments.
3. Lesen Sie rohe EKG-Dateien im Format (.dat, .hea und .atr) mit der Python-Bibliothek.

3. Normalisierung

1. Um eine Gleichmäßigkeit der Signalamplitude zu gewährleisten, normalisieren Sie alle segmentierten EKG-Daten mit Min-Max-Skalierung und transformieren Sie jede Probe in einen Bereich zwischen 0 und 1.
   HINWEIS: Die hier verwendete Normalisierungstechnik ist MinmaxScaler⁸.

4. Klassenausgleich mit SMOTE

HINWEIS: Eine häufige Herausforderung bei der Klassifizierung von Herzrhythmusstörungen ist das signifikante Ungleichgewicht der Klasse, bei dem normale Herzschläge die abnormalen bei weitem übertreffen.

1. Um die oben genannte Herausforderung zu lösen, wenden Sie die Synthetic Minority Over-sampling Technique (SMOTE) auf den Trainingssatz an, der synthetische Stichproben für Minderheitsklassen generiert, indem zwischen vorhandenen Instanzen^{interpoliert wird 9}.
   HINWEIS: Die Fähigkeit des Modells, über alle Arrhythmietypen hinweg zu verallgemeinern, wird durch neue synthetische Stichproben verbessert, die garantieren, dass jede Klasse fair repräsentiert wird.

5. Aufteilung zwischen Zug und Test

1. Teilen Sie die Daten nach der Vorverarbeitung in Trainings- und Testsätze auf, indem Sie eine Aufteilung von 70 zu 30 verwenden, mit einer Schichtung, um die Klassenverteilung über die Sätze hinweg beizubehalten.
   HINWEIS: Durch diese Aufteilung wurde sichergestellt, dass jede Arrhythmieklasse sowohl in der Trainings- als auch in der Testphase angemessen repräsentiert ist, was eine zuverlässige Bewertung der Leistung des Modells ermöglicht.

6. Aufteilung von Datensätzen und Klassenverteilung

1. Teilen Sie das endgültige Dataset in Trainings- und Testsätze auf, wobei 70 % der Daten für das Training und 30 % für Tests verwendet werden.
2. Wenden Sie SMOTE an, um die Klassenverteilung auszugleichen und sicherzustellen, dass jeder Arrhythmietyp sowohl in den Trainings- als auch in den Testsätzen angemessen repräsentiert wird, wie in Tabelle 2 gezeigt.
   HINWEIS: Insgesamt werden 3.966.620 EKG-Segmente für das Training und 112.575 EKG-Segmente für das Testen des Modells verwendet. Diese große Datenmenge, zusammen mit der Vielfalt der Arrhythmietypen, trug zur Robustheit des Modells bei der Erkennung verschiedener Arten von Arrhythmien in realen EKG-Signalen bei.

7. Methodik

1. Modell-Architektur
   1. Um eine genaue Arrhythmie-Klassifizierung zu erreichen, implementieren Sie ein hybrides Deep-Learning-Modell, das aus 1D-Faltungsneuronalen Netzen (CNNs) und Transformer-Schichten besteht.
      HINWEIS: Die Hybridmodellarchitektur wurde speziell entwickelt, um die Stärken beider räumlicher und zeitlicher Merkmale von EKG-Signalen zu nutzen. Es kombiniert Funktionen zur Merkmalsextraktion und Sequenzmodellierung.
2. 1D-Convolutional Neural Network (CNN) Blöcke
   1. Richten Sie den CNN-Block so ein, dass er aus zwei 1D-Faltungsschichten besteht, gefolgt von einer ReLU-Aktivierungsfunktion und einer Max-Pooling-Schicht. Diese Schichten extrahieren räumliche Abhängigkeiten aus dem EKG-Eingangssignal. Um die Merkmalsextraktion zu verbessern, fügen Sie nach jedem Transformationsschritt in den CNN-Schichten¹⁰ weitere ReLU-Aktivierungsfunktionen hinzu.
      HINWEIS: Diese Konfiguration ermöglicht es dem Modell, räumliche Abhängigkeiten innerhalb jedes Segments effektiv zu lernen.
   2. Erste Faltungsschicht: Verwenden Sie diese Ebene, um 32 Filter der Größe 3 auf das Eingangssignal anzuwenden. Der Vorgang wird wie folgt ausgedrückt:
      (1)
      Dabei steht y_i für die Ausgabe, w_j für die Gewichte, x_(i+j) für das Eingangs-EKG-Segment, b für den Bias-Term und σ für die Aktivierungsfunktion (in diesem Fall ReLU)¹¹.
   3. Pooling-Layer: Richten Sie nach jeder Faltung einen Max-Pooling-Vorgang ein, um die räumliche Dimension um den Faktor 2 zu reduzieren, definiert als:
      (2)
      HINWEIS: Bei diesem Vorgang werden die wichtigsten Merkmale beibehalten, während die Rechenkomplexität reduziert wird.
   4. Zweiter Faltungs-Layer: Verwenden Sie diesen Layer, um 64 Filter der Größe 3 auf die Feature-Maps aus dem vorherigen Layer anzuwenden und dabei Features¹² auf höherer Ebene zu extrahieren. Wenden Sie eine ReLU-Aktivierungsfunktion nach der Faltung an, um Nichtlinearität einzuführen:
      (3)
      1. Zusätzliche Aktivierungsschichten: Wenden Sie die ReLU-Aktivierung in jeder Zwischenstufe nach der Faltung an, um die Ausdruckskraft des Netzwerks zu verbessern und sicherzustellen, dass sich das Modell auf positive Aktivierungen^{konzentriert 13}.
   5. Dropout: Geben Sie eine Dropout-Rate von 0,5 im Abschnitt¹⁴ der vollständig verbundenen Schicht an.
3. Transformator-Block:
   1. Um diesem Protokoll zu folgen, richten Sie den Transformer-Block so ein, dass er zwei Multi-Head-Self-Attention-Schichten enthält, die es dem Modell ermöglichen, zeitliche Abhängigkeiten über verschiedene Teile des EKG-Signals¹⁵ zu erfassen.
   2. Multi-Head Self-Attention: Dieser Mechanismus berechnet die Beziehungen zwischen jedem Paar von Sequenzelementen. Berechnen Sie für eine Sequenz mit Abfrage Q, Schlüssel K und Wert V die Aufmerksamkeit wie folgt:
      (4)
      Dabei sind Q, K und V die Abfrage-, Schlüssel- bzw. Wertmatrizen und d_k stellt die Dimensionalität der Schlüsselvektoren dar.
      HINWEIS: Durch die Möglichkeit, dass das Modell verschiedene Segmente nach ihrer Relevanz gewichten kann, verbessert dieser Mechanismus die Fähigkeit des Modells, zwischen Arrhythmien mit subtilen zeitlichen Merkmalen zu unterscheiden.
   3. Aktivierungsfunktionen: Verwenden Sie ReLU explizit über Schichten hinweg.
4. Kontinuierliche Wavelet-Transformation (CWT):
   1. Bevor die Daten in die CNN-Schichten eingespeist werden, wenden Sie kontinuierliche Wavelet-Transformationen an, um die EKG-Signale in Zeit-Frequenz-Darstellungen¹⁶ umzuwandeln.
      HINWEIS: Diese Transformation bietet einen umfassenderen Funktionsumfang, indem sie die Frequenzschwankungen im Laufe der Zeit erfasst, die für die Unterscheidung zwischen verschiedenen Arrhythmietypen entscheidend sind.
5. Ablauf der Ausbildung:
   1. Verwenden Sie zum Trainieren des Modells den Adam-Optimierer, der die Lerngeschwindigkeit basierend auf dem ersten und zweiten Moment des Gradienten dynamisch anpasst. Definieren Sie die Aktualisierungsregel für Adam wie folgt:
      (5)
      Wobei m_t und v_t die Schätzungen des ersten und zweiten Moments sind, ist α die Lernrate und ε eine kleine Konstante, um eine Division durch Null¹⁷ zu verhindern.
   2. Führen Sie Schulungen über 100 Epochen mit einer Batchgröße von 64 durch, wobei Sie frühzeitiges Stoppen verwenden, um eine Überanpassung zu vermeiden.
      HINWEIS: Die Trainingsdaten wurden über das Dienstprogramm PyTorch DataLoader in das Modell eingespeist, und sowohl Dropout als auch Batch-Normalisierung wurden angewendet, um das Netzwerk zu regularisieren und die Konvergenz zu verbessern.
6. Hyperparameter-Tuning
   1. Führen Sie die manuelle Optimierung mit frühem Stoppen, Adam-Optimierer, Dropout, Batch-Normalisierung und einer Batchgröße von 1024 durch.
      HINWEIS: Obwohl die Raster- oder Bayes'sche Suche in diesem Dokument nicht explizit erwähnt wird, spiegeln diese Auswahlmöglichkeiten praktische Optimierungsstrategien wider.
7. Validierungstechniken
   1. Verwenden Sie nach der Anwendung von SMOTE¹⁸ eine 70:30-Aufteilung des geschichteten Zugtests.
      HINWEIS: Obwohl die k-Faltung nicht verwendet wird, bleibt bei der Schichtung die Klassenverteilung erhalten, was bei großen Datensätzen oft ausreichend ist.

Results

Leistungskennzahlen des vorgeschlagenen Modells
Die Genauigkeit, Sensitivität, Spezifität und der F1-Score des vorgeschlagenen Modells werden für jede Arrhythmieklasse berechnet. Die Leistung des Modells wird anhand des MIT-BIH und anderer relevanter EKG-Datenbanken bewertet. Die wichtigsten Ergebnisse werden wie folgt zusammengefasst:

Genauigkeit: Das hybride CNN-Transformer-Modell erreichte eine Genauigkeit von 99,32 % auf dem MITDB-Datensatz und 97,15 % auf kombinierten ...

Discussion

Die Ergebnisse dieser Studie deuten darauf hin, dass das hybride CNN-Transformer-Modell EKG-Arrhythmien mit erhöhter Genauigkeit, Sensitivität, Spezifität und F1-Score kompetent klassifiziert und damit herkömmliche CNN-only- und CNN-LSTM-Modelle deutlich übertrifft. Durch die Integration von Transformer-Schichten wurde die Fähigkeit des Modells verbessert, zeitliche Abhängigkeiten zu erfassen, ein entscheidendes Element der EKG-Analyse. Darüber hinaus bieten kontinuierliche Wavelet-Trans...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Computersystem			(für das Training) Prozessor: AMD Ryzen 7 7840HS, CPU-RAM: 16 GB, GPU-RAM: 6 GBNVIDIA GeForce RTX 3050
Balanced-Learn-Python-Paket			das zum Resampling
von Pytorch verwendet wird PyTorch			ist ein Python-Paket, das zwei High-Level-Funktionen bietet: - Tensor-Berechnung (wie NumPy) mit starker GPU-Beschleunigung - Tiefe neuronale Netze, die auf einem bandbasiertes Autograd-System
Seaborn			Seaborn ist eine Python-Visualisierungsbibliothek, die auf matplotlib basiert.
wfdb			zum Lesen, Schreiben, Verarbeiten und Darstellen physiologischer Signal- und Annotationsdaten