Konwolucyjny model transformatora sieci neuronowej do przewidywania i klasyfikacji wczesnej arytmii za pomocą sygnału elektrokardiogramu

Summary

Opracowany model ma na celu klasyfikację wczesnych zaburzeń rytmu serca do klas N, L, R, V i A. W tym miejscu wszystkie zestawy danych są łączone w celu utworzenia głównego zestawu danych, który model używa jako danych wejściowych do tworzenia różnych klas arytmii jako danych wyjściowych.

Abstract

Jako główna przyczyna zgonów na całym świecie, choroby sercowo-naczyniowe - zwłaszcza arytmie - wymagają stworzenia precyzyjnych i zautomatyzowanych technologii do wczesnej diagnozy i wykrywania. Aby zidentyfikować arytmie na podstawie sygnałów elektrokardiogramu (EKG), w niniejszym artykule przedstawiono model klasyfikacyjny oparty na głębokim uczeniu, który koncentruje się na pięciu głównych typach bicia serca: normalnym (N), bloku lewej odnogi pęczka Hisa (L), bloku prawej odnogi pęczka Hisa (R), przedwczesnego pobudzenia przedsionków (A) i przedwczesnego skurczu komór (V). Wykorzystujemy sygnały Lead I z kilku źródeł, takich jak bazy danych INCART 12-odprowadzeniowe, Holtera Nagłej Śmierci Sercowej, Nadkomorowej i MIT-BIH Arytmia, uzyskując ponad 3,9 miliona szkoleń i 112 575 segmentów testowych.

Przykłady przygotowania danych obejmują próbkę 180, segmentację w oknie stałym, normalizację Min-Max oraz równoważenie klas za pomocą Techniki Nadpróbkowania Syntetycznej Mniejszości (SMOTE). Architektura hybrydowa wykorzystuje warstwy transformatora do modelowania zależności czasowych oraz konwolucyjne sieci neuronowe 1D (CNN) do wyodrębniania cech przestrzennych. Optymalizator Adama z dropoutem i normalizacją partii na potrzeby regularyzacji trenuje model.

Proponowany system przewyższa model TN4 i inne najnowocześniejsze wzorce, osiągając 99,99% dokładności, precyzji i wyniku F1 we wszystkich klasach. Niezawodność funkcji została dodatkowo poprawiona dzięki zastosowaniu głębokich architektur hybrydowych i konwolucyjnych sieci neuronowych, które były motywowane wcześniejszymi badaniami. Sugerowany paradygmat rozwija opartą na sztucznej inteligencji, zindywidualizowaną cyfrową opiekę zdrowotną i jest bardzo obiecujący w zakresie skalowalnej identyfikacji arytmii w czasie rzeczywistym.

Introduction

Choroby układu krążenia (CVD) pozostają jednym z głównych problemów zdrowotnych na świecie, odpowiedzialnym za prawie 31% zgonów na całym świecie każdego roku, według Światowej Organizacji Zdrowia (WHO)¹. Znaczna podgrupa tych przypadków dotyczy arytmii - nieprawidłowości w rytmie serca, które mogą wahać się od łagodnych do zagrażających życiu. Arytmie często charakteryzują się nieregularnymi czasami. Zakłócenia te w znacznym stopniu przyczyniają się do zachorowalności i śmiertelności pacjentów, zwiększając ryzyko poważnych problemów zdrowotnych, takich jak udar, niewydolność serca i nagłe zatrzymanie krążenia. Wczesna identyfikacja i dokładna klasyfikacja arytmii mają zatem kluczowe znaczenie dla poprawy wyników leczenia pacjentów, zarządzania kosztami opieki zdrowotnej i poprawy jakości opieki kardiologicznej².

Elektrokardiografia (EKG) pozostaje kluczowym nieinwazyjnym narzędziem diagnostycznym do wykrywania arytmii. Rejestrując aktywność elektryczną serca w postaci fal wizualnych, EKG umożliwia klinicystom identyfikację subtelnych zmian, które mogą wskazywać na określone wzorce arytmii³. Jednak ręczna interpretacja sygnałów EKG jest czasochłonna i podatna na zmienność ze względu na indywidualne różnice między lekarzami, co wprowadza margines błędu ludzkiego. Wyzwania te nasilają się podczas pracy z obszernymi zestawami danych lub rozpoznawania niuansów arytmii. Wraz z globalnym przejściem w kierunku cyfrowej opieki zdrowotnej, potrzeba niezawodnych i zautomatyzowanych systemów diagnostycznych zdolnych do dostarczania spójnych analiz EKG w czasie rzeczywistym staje się coraz bardziej oczywista⁴.

Tradycyjne modele uczenia maszynowego były stosowane do analizy EKG z umiarkowanym powodzeniem; jednak ich poleganie na ręcznie opracowanych funkcjach i specjalistycznej wiedzy specjalistycznej stwarza znaczące ograniczenia. Aby rozwiązać to ograniczenie, model wykorzystuje technikę nadmiernego próbkowania mniejszości syntetycznej (SMOTE), która generuje syntetyczne punkty danych dla niedostatecznie reprezentowanych klas, równoważąc w ten sposób zestaw danych i poprawiając zdolność modelu do uogólniania wszystkich typów pulsu. Integracja SMOTE z naszym modelem głębokiego uczenia zwiększa wydajność klasyfikacji, szczególnie w przypadku rzadkich arytmii, i wspiera bardziej sprawiedliwe narzędzie diagnostyczne⁵. Główne cele tych badań są trojakie. Po pierwsze, celem jest opracowanie dokładnego, skalowalnego modelu zdolnego do wykrywania arytmii w czasie rzeczywistym, co przyczyni się do globalnego przejścia na cyfrową i spersonalizowaną opiekę zdrowotną. Po drugie, zademonstrowanie skuteczności hybrydowej architektury CNN-Transformer w analizie EKG, podkreślając jej potencjał do przewyższania tradycyjnych metod zarówno pod względem dokładności, jak i solidności⁶.

Na koniec, celem jest opracowanie modelu o sensownych zastosowaniach w diagnostyce klinicznej, zwiększając wczesne wykrywanie nieprawidłowości w pracy serca. To badanie ma na celu wypełnienie luki między postępami w głębokim uczeniu się a praktycznymi zastosowaniami medycznymi, pozycjonując nasze podejście jako cenne narzędzie w dążeniu do poprawy opieki kardiologicznej i wyników pacjentów⁶.

Protocol

1. Pobieranie zbiorów danych

1. Uzyskaj publicznie dostępne zestawy danych elektrokardiogramu (EKG), aby opracować i zweryfikować model uczenia głębokiego do klasyfikacji arytmii⁷.
2. Połącz zestawy danych Lead-I z bazy danych arytmii MIT-BIH, bazy danych arytmii nadkomorowej MIT-BIH, bazy danych 12-odprowadzeniowych arytmii St. Petersburg INCART oraz bazy danych Holtera nagłej śmierci sercowej.
   UWAGA: Zestawy danych są wybierane ze względu na ich różnorodność w danych demograficznych pacjentów i typach arytmii, dzięki czemu model może uogólniać się na różne przypadki. Każdy zestaw danych zapewnia wysokiej jakości zapisy EKG z adnotacjami, obejmujące szereg klas bicia serca. Tylko dane Lead I zostały wyodrębnione i wykorzystane we wszystkich zestawach danych w celu standaryzacji danych wejściowych, utrzymania spójności i skupienia się na najbardziej istotnym diagnostycznie sygnale. Jak pokazano na Rysunek 1, Lead I mierzy różnicę potencjałów między prawym ramieniem (elektroda ujemna) a lewym ramieniem (elektroda dodatnia), a Lead II mierzy różnicę potencjałów między prawym ramieniem (elektroda ujemna) a lewą nogą (elektroda dodatnia). W tabeli 1 pokazano, że główny zestaw danych jest tworzony przez połączenie czterech zestawów danych i wyeliminowanie wartości null, a plik ma nazwę Alldata.CSV.

2. Wstępne przetwarzanie danych

1. Podziel dane z Alldata.CSV na dwie części - przeszkolić i przetestować. W przetwarzaniu wstępnym 2 przefiltruj klasy N, L, R, A, V od Alldata.CSV, a następnie podziel je na dwie części - Trenuj i testuj części (Rysunek 2).
2. Podziel sygnał EKG każdego pacjenta na stałe okna 180 ms, z których każde jest oznaczone zgodnie z odpowiednimi klasami arytmii, takimi jak klasy N, L, R, A i V (Rysunek 3).
   UWAGA: Ta segmentacja pozwoliła na uzyskanie spójnej długości danych wejściowych w próbkach i uchwycenie charakterystyki czasowej w każdym segmencie bicia serca.
3. Czytaj surowe pliki EKG w formacie (.dat, .hea i .atr) przy użyciu biblioteki Pythona.

3. Normalizacja

1. Aby zapewnić jednorodność amplitudy sygnału, znormalizuj wszystkie segmentowane dane EKG przy użyciu skalowania Min-Max, przekształcając każdą próbkę w zakresie od 0 do 1,
   UWAGA: Zastosowana tutaj technika normalizacji to MinmaxScaler⁸.

4. Równoważenie klas za pomocą SMOTE

UWAGA: Częstym wyzwaniem w klasyfikacji arytmii jest znaczna nierównowaga klasowa, gdzie normalne bicie serca znacznie przewyższa liczbę nieprawidłowych.

1. Aby sprostać powyższemu wyzwaniu, zastosuj technikę nadmiernego próbkowania mniejszości syntetycznej (SMOTE) do zestawu treningowego, który generuje syntetyczne próbki dla klas mniejszościowych poprzez interpolację między istniejącymi instancjami⁹.
   UWAGA: Zdolność modelu do uogólniania na wszystkie typy arytmii została zwiększona dzięki nowym próbkom syntetycznym, które gwarantują, że każda klasa jest sprawiedliwie reprezentowana.

5. Podział na pociąg i test

1. Po wstępnym przetworzeniu podziel dane na zestawy treningowe i testowe przy użyciu podziału 70–30 z stratyfikacją w celu zachowania rozkładu klas między zestawami.
   UWAGA: Ten podział zapewnił, że każda klasa arytmii jest odpowiednio reprezentowana zarówno w fazie trenowania, jak i testowania, co pozwala na wiarygodną ocenę wydajności modelu.

6. Podział zbiorów danych i dystrybucja klas

1. Podziel końcowy zestaw danych na zestawy treningowe i testowe, przy czym 70% danych jest używanych do trenowania, a 30% do testowania.
2. Zastosuj SMOTE, aby zrównoważyć rozkład klas, upewniając się, że każdy typ arytmii jest odpowiednio reprezentowany zarówno w zestawach treningowych, jak i testowych, jak pokazano w tabeli 2.
   UWAGA: W sumie 3 966 620 segmentów EKG jest wykorzystywanych do treningu, a 112 575 segmentów EKG jest używanych do testowania modelu. Ta duża ilość danych, wraz z różnorodnością typów arytmii, przyczyniła się do niezawodności modelu w wykrywaniu różnych typów arytmii w rzeczywistych sygnałach EKG.

7. Metodologia

1. Architektura modelu
   1. Aby uzyskać dokładną klasyfikację arytmii, zaimplementuj hybrydowy model głębokiego uczenia składający się z konwolucyjnych sieci neuronowych 1D (CNN) i warstw transformatorów.
      UWAGA: Architektura modelu hybrydowego została specjalnie zaprojektowana, aby wykorzystać mocne strony zarówno w zakresie przestrzennych, jak i czasowych cech sygnałów EKG. Łączy w sobie możliwości ekstrakcji cech i modelowania sekwencyjnego.
2. Bloki konwolucyjnej sieci neuronowej 1D (CNN)
   1. Skonfiguruj blok CNN tak, aby składał się z dwóch warstw konwolucyjnych 1D, z których każda jest wyposażona w funkcję aktywacji ReLU i warstwę maksymalnej puli. Warstwy te wyodrębniają zależności przestrzenne od wejściowego sygnału EKG. Aby usprawnić wyodrębnianie cech, dodaj więcej funkcji aktywacji ReLU po każdym kroku transformacji w warstwach CNN¹⁰.
      UWAGA: Ta konfiguracja umożliwia modelowi efektywne uczenie się zależności przestrzennych w każdym segmencie.
   2. Pierwsza warstwa konwolucyjna: Użyj tej warstwy, aby zastosować 32 filtry o rozmiarze 3 do sygnału wejściowego. Operacja jest wyrażona jako:
      (1)
      Gdzie y_i reprezentuje wyjście, w_j to wagi, x_(i+j) to wejściowy segment EKG, b to składnik odchylenia, a σ to funkcja aktywacji (w tym przypadku ReLU)¹¹.
   3. Warstwa puli: Po każdej konwolucji skonfiguruj operację maksymalnej puli, aby zmniejszyć wymiar przestrzenny o współczynnik 2, zdefiniowany jako:
      (2)
      UWAGA: Ta operacja zachowuje najważniejsze cechy przy jednoczesnym zmniejszeniu złożoności obliczeniowej.
   4. Druga warstwa konwolucyjna: Użyj tej warstwy, aby zastosować 64 filtry o rozmiarze 3 do map obiektów z poprzedniej warstwy, wyodrębniając cechy wyższego poziomu¹². Zastosuj funkcję aktywacji ReLU po konwolucji, aby wprowadzić nieliniowość:
      (3)
      1. Dodatkowe warstwy aktywacji: zastosuj aktywację ReLU na każdym pośrednim etapie po konwolucji, aby zwiększyć siłę wyrazu sieci, zapewniając, że model skupia się na pozytywnych aktywacjach¹³.
   5. Dropout: Określ współczynnik Dropout równy 0,5 w sekcji w pełni połączonej warstwy¹⁴.
3. Blok transformatora:
   1. Aby postępować zgodnie z tym protokołem, skonfiguruj blok Transformer tak, aby zawierał dwie wielogłowicowe warstwy samouwagi, umożliwiając modelowi uchwycenie zależności czasowych w różnych częściach sygnału EKG¹⁵.
   2. Multi-Head Self-Attention: Ten mechanizm oblicza relacje między każdą parą elementów sekwencji. W przypadku sekwencji z zapytaniem Q, kluczem K i wartością V oblicz uwagę jako:
      (4)
      Gdzie Q, K i V są odpowiednio macierzami zapytań, kluczy i wartości, a d_k reprezentuje wymiarowość kluczowych wektorów.
      UWAGA: Umożliwiając modelowi ważenie różnych segmentów zgodnie z ich znaczeniem, mechanizm ten zwiększa zdolność modelu do rozróżniania arytmii o subtelnych cechach czasowych.
   3. Funkcje aktywacji: Używaj ReLU jawnie na różnych warstwach.
4. Ciągła transformacja falkowa (CWT):
   1. Przed wprowadzeniem danych do warstw CNN zastosuj ciągłe transformacje falkowe, aby przekonwertować sygnały EKG na reprezentacje czasowo-częstotliwościowe¹⁶.
      UWAGA: Ta transformacja zapewnia bardziej wszechstronny zestaw funkcji poprzez uchwycenie zmian częstotliwości w czasie, które mają kluczowe znaczenie dla rozróżnienia różnych typów arytmii.
5. Proces szkolenia:
   1. Aby wytrenować model, użyj optymalizatora Adam, który dynamicznie dostosowuje szybkość uczenia się na podstawie pierwszego i drugiego momentu gradientu. Zdefiniuj regułę aktualizacji dla Adama jako:
      (5)
      Gdzie m_t i v_t są oszacowaniami pierwszego i drugiego momentu, α jest szybkością uczenia się, a ε jest małą stałą zapobiegającą dzieleniu przez zero¹⁷.
   2. Przeprowadzaj szkolenia w ponad 100 epokach, z wielkością partii 64, wykorzystując wczesne zatrzymywanie w celu złagodzenia nadmiernego dopasowania.
      UWAGA: Dane treningowe zostały wprowadzone do modelu za pośrednictwem narzędzia PyTorch DataLoader, a w celu uregulowania sieci i poprawy konwergencji zastosowano zarówno przerywanie, jak i normalizację wsadową.
6. Dostrajanie hiperparametrów
   1. Wykonaj ręczne dostrajanie przy użyciu wczesnego zatrzymywania, optymalizatora Adama, zaniku, normalizacji partii i rozmiaru partii 1024,
      UWAGA: Chociaż wyszukiwanie siatkowe lub bayesowskie nie jest wyraźnie wymienione w tym dokumencie, te opcje odzwierciedlają praktyczne strategie dostrajania.
7. Techniki walidacji
   1. Użyj podziału testu pociągu warstwowego 70-30 po zastosowaniu SMOTE¹⁸.
      UWAGA: Chociaż k-krotność nie jest używana, stratyfikacja zachowuje rozkład klas, który często jest wystarczający w przypadku dużych zestawów danych.

Results

Wskaźniki wydajności proponowanego modelu
Dokładność, czułość, swoistość i wynik F1 proponowanego modelu są obliczane dla każdej klasy arytmii. Wydajność modelu jest oceniana w MIT-BIH i innych odpowiednich bazach danych EKG. Najważniejsze wyniki podsumowano w następujący sposób:

Dokładność: Hybrydowy model CNN-Transformer osiągnął dokładność 99,32% na zbiorze danych MITDB i 97,15% na połączonych bazach danych, demonstrując solidność modelu w różnych źródłach EKG

Discussion

Wyniki tego badania wskazują, że hybrydowy model CNN-Transformer biegle klasyfikuje arytmie EKG z podwyższoną dokładnością, czułością, swoistością i wynikiem F1, znacznie przewyższając konwencjonalne modele tylko CNN i CNN-LSTM. Włączenie warstw transformatora zwiększyło zdolność modelu do uchwycenia zależności czasowych, co jest kluczowym elementem analizy EKG. Co więcej, ciągłe transformacje falkowe (CWT) zapewniają obszerną charakterystykę czasowo-częstotliwościową, umożliwiając warstwom CNN rozróżnianie subtelnych zm...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
System			(do treningu) Procesor: AMD Ryzen 7 7840HS, PROCESOR RAM: 16 GB, GPU RAM: 6 GB Pakiet Pythona NVIDIA GeForce RTX 3050
z niezrównoważonym uczeniem się			używany do ponownego próbkowania
PyTorch			PyTorch to pakiet języka Python, który zapewnia dwie funkcje wysokiego poziomu: - Obliczenia tensorowe (takie jak NumPy) z silnym przyspieszeniem GPU - Głębokie sieci neuronowe zbudowane na oparty na taśmach system autograd
seaborn			Seaborn to biblioteka wizualizacji Pythona oparta na matplotlib.
WFDB			służy do odczytu, zapisu, przetwarzania i wykreślania sygnałów fizjologicznych i danych adnotacji