Niniejsze badania proponują hybrydowy framework deep reinforcement learning (HDRL), który integruje głębokie sieci neuronowe (DNN) do ekstrakcji cech z uczeniem ze wzmocnieniem (RL) dla dynamicznej fuzji sygnałów multimodalnych. Oceniany na podstawie zbiorów danych biomedycznych, wyróżnia się dokładnością, odpornością oraz wykrywaniem rzadkich zdarzeń, zapewniając kluczowe zastosowania w medycynie spersonalizowanej i klasyfikacji chorób.
Artykuł badawczy
Hybrydowe głębokie uczenie ze wzmocnieniem dla multimodalnej fuzji sygnałów biomedycznych
W tym artykule
Podsumowanie
Streszczenie
Poprawa podejmowania decyzji i dokładności diagnostyki w opiece zdrowotnej wymaga łączenia wielomodalnych sygnałów biomedycznych, takich jak elektrokardiogramy (EKG), elektroencefalogramy (EEG) oraz obrazowanie medyczne. Tradycyjne techniki fuzji sygnału napotykają poważne wyzwania ze względu na zmienność sygnału i złożoność sygnału. Proponujemy hybrydowy model Deep Reinforcement Learning (HDRL), który wykorzystuje głębokie sieci neuronowe (DNN) do ekstrakcji cech oraz uczenie ze wzmocnieniem (RL) do optymalizacji dynamicznej fuzji. Ten hybrydowy model wykorzystuje sprzężenie zwrotne w czasie rzeczywistym do optymalizacji procesu uczenia się polityki fuzyjnej i dostosowania do różnych cech danych. Aby ocenić jego wydajność, proponowany model porównano z konwencjonalnymi technikami fuzji, takimi jak metody oparte na głębokich sieciach neuronowych oraz analiza głównych komponentów (PCA). Hybrydowy model głębokiego uczenia ze wzmocnieniem został przetestowany na kilku rzeczywistych zbiorach danych biomedycznych. Proponowany model jest stosowany w medycynie spersonalizowanej i klasyfikacji chorób, ponieważ dowody eksperymentalne wykazują poprawę pod względem odporności w warunkach szumu, dokładności klasyfikacji oraz wykrywania rzadkich zdarzeń. Proponowana metodologia, oprócz rozwiązania problemów związanych z tradycyjnymi technikami fuzji sygnałów, oferuje obiecujące rozwiązania wspierające wielomodalne przetwarzanie sygnałów biomedycznych. Model wykorzystuje DNN do eksploracji cech oraz agentów RL (DQN, PPO) do optymalizacji polityk.
Wprowadzenie
Nowoczesna opieka zdrowotna coraz bardziej opiera się na integracji różnorodnych źródeł danych biomedycznych, aby poprawić dokładność diagnostyczną i podejmowanie decyzji klinicznych. Sygnały fizjologiczne, takie jak elektrokardiogramy (EKG), elektroencefalogramy (EEG) oraz medyczne metody obrazowania, w tym rezonans magnetyczny (MRI) i tomografia komputerowa (CT), dostarczają uzupełniających informacji fizjologicznych wspierających diagnozę chorób i spersonalizowane leczenie. Jednak sygnały biomedyczne są z natury złożone i często zawierają szum, brakujące wartości oraz struktury o wysokich wymiarach, co utrudnia ich analizę i interpretację. Wielomodalna fuzja sygnałów biomedycznych, która integruje informacje z wielu strumieni danych fizjologicznych, stała się zatem ważnym podejściem do poprawy wydajności diagnostycznej, zwiększenia odporności na zmiany jakości danych oraz umożliwienia kompleksowego monitorowania pacjentów w środowiskach klinicznych, takich jak oddziały intensywnej terapii (OIOM)1.
Tradycyjne metody fuzji sygnałów wielomodalnych opierały się głównie na technikach statystycznych i liniowych. Analiza głównych komponentów (PCA) zmniejsza wymiarowość danych poprzez przekształcanie sygnałów w ortogonalne składowe, podczas gdy analiza korelacji kanonicznych (CCA) identyfikuje liniowe zależności między modalnościami, aby wyrównać wielomodalne zbiory danych2. Techniki te zostały z powodzeniem zastosowane w biomedycznych warunkach fuzji multimodalnej3. Jednak ich poleganie na założeniach liniowych ogranicza zdolność do uchwycenia złożonych nieliniowych relacji, które często występują wśród sygnałów fizjologicznych. W praktyce dane biomedyczne rzadko są czysto liniowe. Konwencjonalne metody fuzji multimodalnej często nie rejestrują znaczących interakcji między modalnościami z powodu tych nieliniowych zależności 4,5. W rezultacie konwencjonalne metody fuzji mogą nie uchwycić istotnych interakcji między modalnościami, ograniczając ich skuteczność w zadaniach takich jak diagnoza chorób czy podejmowanie decyzji klinicznych w czasie rzeczywistym.
Najnowsze osiągnięcia w głębokim uczeniu znacząco zmieniły przetwarzanie sygnałów biomedycznych, umożliwiając sieciom neuronowym automatyczne wydobywanie hierarchicznych reprezentacji z surowych danych. Konwolucyjne sieci neuronowe (CNN) wykazały silne wyniki w analizie wzorców przestrzennych na obrazach medycznych 5,6. Wielomodalne architektury CNN zostały wykorzystane do integracji metod obrazowania, takich jak MRI i CT, aby poprawić dokładność diagnostyczną3. Podobnie, sieci rekurencyjne neuronowe (RNN) oraz długotrwała pamięć krótkotrwała (LSTM) zostały zastosowane do sekwencyjnych sygnałów biomedycznych, w tym EKG i EEG, w zadaniach klasyfikacji chorób7. Pomimo tych postępów, wiele podejść opartych na głębokim uczeniu opiera się na stałych strategiach fuzji, takich jak konkatenacja cech czy uśrednianie ważone. Te statyczne mechanizmy fuzji nie dostosowują się skutecznie do zmian jakości sygnału. W rzeczywistych warunkach klinicznych sygnały mogą się pogorszyć z powodu artefaktów ruchowych, przemieszczeń elektrod, zniekształceń lub szumu środowiskowego. Takie zmiany mogą obniżać niezawodność poszczególnych metod i negatywnie wpływać na cały proces fuzji. Rozwiązanie tych wyzwań wymaga adaptacyjnych strategii fuzji zdolnych do reagowania na dynamiczne warunki danych w środowiskach klinicznych w czasie rzeczywistym8.
Uczenie ze wzmocnieniem (RL) zapewnia potężne ramy do podejmowania decyzji sekwencyjnych w niepewnych środowiskach. W RL agent uczy się wybierać działania, które maksymalizują skumulowaną nagrodę poprzez interakcje ze środowiskiem. Proces ten jest powszechnie formułowany za pomocą równania Bellmana, które definiuje wartość stanu jako sumę natychmiastowej nagrody i dyskontowanej wartości przyszłych nagród9. Metody takie jak Deep Q-Networks (DQN) rozszerzają uczenie ze wzmocnieniem na problemy o wysokim wymiarze, przybliżając funkcję akcji-wartości za pomocą głębokich sieci neuronowych10. Podobnie, metody głębokiego uczenia ze wzmocnieniem oparte na politykach umożliwiają stabilne i efektywne uczenie się polityk poprzez iteracyjne aktualizacje polityki agenta11. Techniki uczenia ze wzmocnieniem były już badane w kilku zastosowaniach medycznych, w tym optymalizacji leczenia i wykrywaniu anomalii12, jednak ich zastosowanie w adaptacyjnej fuzji sygnałów multimodalnych pozostaje stosunkowo ograniczone.
Hybrydowe głębokie uczenie ze wzmocnieniem (HDRL) łączy głębokie uczenie z uczeniem ze wzmocnieniem, łącząc ekstrakcję cech i adaptacyjne podejmowanie decyzji. W tym ujęciu głębokie sieci neuronowe przekształcają multimodalne sygnały biomedyczne w wysokopoziomowe reprezentacje cech, podczas gdy agenty uczenia ze wzmocnieniem dynamicznie wybierają strategie fuzji na podstawie wydajności zadania4. Ten mechanizm adaptacyjny umożliwia systemowi reagowanie na zmiany jakości sygnału i dostępności modalności, umożliwiając bardziej solidną pracę w złożonych środowiskach klinicznych, takich jak monitoring OIOM-u czy systemy diagnostyczne do noszenia8.
Oprócz klasycznych podejść uczenia ze wzmocnieniem, badane są także różne techniki hybrydowe łączące logikę rozmytą, algorytmy genetyczne i uczenie ze wzmocnieniem dla zadań klasyfikacji biomedycznej. Na przykład rozmyte Q-learning połączone z algorytmami genetycznymi zostały zastosowane do klasyfikacji napadów padaczkowych za pomocą sygnałów EEG, wykazując lepszą adaptacyjność do niepewnych wzorców czasowych13. Podobnie zaproponowano metody uczenia ewolucyjnego oparte na rozmytej sieci ewolucyjnej do klasyfikacji chorób płuc z wykorzystaniem obrazów medycznych14. Inne badania analizowały podejścia oparte na uczeniu ze wzmocnieniem do rozpoznawania napadów15 oraz zmodyfikowane rozmyte klasyfikatory Q-learning do wykrywania zapalenia płuc i gruźlicy na podstawie obrazów rentgenowskich klatki piersiowej16. Chociaż badania te pokazują potencjał hybrydowych metod uczenia się w analizie biomedycznej, większość istniejących podejść koncentruje się na klasyfikacji pojedynczej modalności, a nie na wielomodalnej fuzji sygnałów.
Najnowsze osiągnięcia w multimodalnym uczeniu maszynowym obejmowały również architektury oparte na transformatorach dla medycznych zastosowań międzymodalnych. Modele te wykazały obiecującą wydajność w zadaniach takich jak synteza obrazów medycznych oraz analiza heterogenicznych zbiorów danych biomedycznych, w których jedna lub więcej modalności mogą być niekompletne lub brakować17. Jednak nawet przy tych postępach potrzeba adaptacyjnych mechanizmów fuzji, które dynamicznie reagują na zmiany danych multimodalnych, pozostaje ważnym wyzwaniem badawczym.
W niniejszej pracy zaproponowano hybrydowy framework Deep Reinforcement Learning (HDRL) dla multimodalnej fuzji sygnałów biomedycznych. Modele CNN specyficzne dla modalności są wykorzystywane do wyodrębniania cech z danych EKG, EEG i MRI, które następnie są łączone, tworząc jednolitą reprezentację multimodalną. Agent Deep Q-Network (DQN) dynamicznie wybiera strategie fuzji, takie jak łączenie cech lub ważone kombinacje, zgodnie z aktualnym stanem cech. Klasyfikator w dalszej części dostarcza sygnał nagrody oparty na wydajności klasyfikacji, umożliwiając agentowi uczenia ze wzmocnieniem optymalizację polityki fuzji poprzez ciągłe sprzężenie zwrotne. Ten adaptacyjny framework pozwala modelu dostosować się do zmian jakości sygnału i dostępności modalności. Proponowane podejście jest oceniane na podstawie zbiorów danych PhysioNet 2016, CHB-MIT EEG oraz OASIS-3 i porównywane z konwencjonalnymi technikami fuzji opartymi na PCA i uczeniu głębokim.
Rysunek 1: Diagram blokowy ilustrujący architekturę proponowanego multimodalnego systemu fuzji sygnałów opartego na HDRL. Schematyczne przedstawienie ram fuzji multimodalnej pokazujące wejścia EKG, EEG i obrazów medycznych przetwarzane przez głębokie ekstraktory cech sieci neuronowej, a następnie adaptacyjne fuzje i sprzężenie zwrotne oparte na uczeniu ze wzmocnieniem. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.
Architektura proponowanego wielomodalnego frameworka fuzji sygnałów została zilustrowana na Rysunku 1. W tej architekturze modele CNN specyficzne dla modalności niezależnie wyodrębniają cechy z sygnałów EKG, EEG i MRI. Te cechy są następnie łączone w jednolitą reprezentację, którą agent uczenia ze wzmocnieniem wykorzystuje do określenia optymalnej strategii fuzji.
Przetwarzanie sygnałów biomedycznych odgrywa kluczową rolę we współczesnej opiece zdrowotnej, umożliwiając dokładną diagnozę, monitorowanie i planowanie leczenia poprzez analizę sygnałów fizjologicznych uzyskanych z różnych metod. Integracja sygnałów takich jak EKG, EEG i dane obrazowe medyczne wymaga zaawansowanych technik fuzji, które rejestrują uzupełniające się informacje z różnych źródeł. Tabela 1 podsumowuje powszechnie stosowane podejścia multimodalnej fuzji sygnałów, w tym ich kluczowe cechy, zalety i ograniczenia oraz podkreśla motywację dla proponowanego frameworka opartego na HDRL.
| Metoda | Kluczowe cechy | Zalety | Ograniczenia |
| PCA | Redukcja wymiarowości liniowej | Szybko, prosto | Ograniczone do relacji liniowych |
| DNN | Nieliniowe uczenie cech | Rejestruje złożone wzorce | Stała strategia fuzji |
| DRL | Dynamiczne uczenie się polityki | Dostosowuje się do danych | Wysokie obliczenia |
| HDRL | Hybryda DNN + RL | Adaptacyjne, solidne, efektywne | Wymaga starannego strojenia |
Tabela 1: Porównanie metod fuzji multimodalnej. Podsumowanie powszechnie stosowanych multimodalnych podejść fuzji sygnałów, przedstawiające ich kluczowe cechy, zalety i ograniczenia.
Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.
Protokół
Protokół ten opisuje krok po kroku implementację modelu Hybrid Deep Reinforcement Learning (HDRL) dla multimodalnej fuzji sygnałów biomedycznych. Ramy integrują techniki uczenia głębokiego i wzmacnianego, aby zoptymalizować łączenie danych EKG, EEG oraz obrazowania medycznego w czasie rzeczywistym. Sekcja opisuje również procedury ekstrakcjonowania cech, treningu i przygotowania danych stosowane w proponowanym modelu.
Materiały
Wszystkie eksperymenty prowadzono na stacji roboczej z wielordzeniowym procesorem, ≥32 GB RAM i dedykowaną kartą graficzną (≥8 GB VRAM). Środowisko implementacyjne składało się z Pythona (wersja 3.9 lub nowsza), TensorFlow (wersja 2.12) oraz Keras (wersja 2.12). Biblioteki uczenia ze wzmocnieniem zostały zainstalowane przy użyciu pipe-install stable-baselines3. Pakiet Stable-Baselines318 zapewnia efektywne implementacje algorytmów uczenia ze wzmocnieniem, takich jak Deep Q-Network (DQN) i Proximal Policy Optimisation (PPO).
Zbiory danych
Proponowany framework Hybrid Deep Reinforcement Learning (HDRL) został oceniony przy użyciu trzech publicznie dostępnych zbiorów danych biomedycznych reprezentujących typy sygnałów multimodalnych. (1) PhysioNet Challenge 2016: Zbiór 12-odprowadzeniowych nagrań EKG pacjentów z chorobami serca, w tym migotaniem przedsionków, arytmią komorową i chorobą niedokrwienną serca. Zbiór danych zawiera anotowane etykiety dla schorzeń serca19. (2) Baza danych EEG na skalpie CHB-MIT: Do wykrywania napadów padaczkowych wykorzystywany jest zbiór danych nagrań EEG na głowie, z adnotacjami oznaczającymi zdarzenia napadów i nienapadów20. (3) Baza danych MRI OASIS-3: Zbiór obrazów mózgu MRI oraz ocen klinicznych służy do wykrywania i monitorowania choroby Alzheimera21. Reprezentatywne próbki z każdej modalności wykazują wrodzoną zmienność i charakterystykę szumu obecną w multimodalnych danych biomedycznych (Rysunek 2).
Rysunek 2: Próbka sygnałów biomedycznych z EKG, EEG i obrazowania medycznego. Reprezentatywne przykłady przebiegu EKG, sygnału EEG oraz badania obrazowego medycznego ilustrujące różne metody stosowane w badaniu. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.
Wstępne przetwarzanie danych
Każda modalność przeszła procedury wstępnego przetwarzania specyficzne dla modalności, aby zapewnić standaryzowaną reprezentację wejściową. Sygnały EEG i EKG były filtrowane za pomocą filtra pasmowego Butterwortha czwartego rzędu. Zakres częstotliwości ustawiono na 0,5–40 Hz dla EEG oraz 0,5–45 Hz dla EKG. Próbki zostały podzielone na 5-sekundowe okna z 50% nakładaniem się. Każdy sygnał był normalizowany przez segmentowanie, aby uzyskać zerową średnią i jednostkową wariancję. Obrazy MRI były przetwarzane za pomocą usuwania czaszki za pomocą narzędzia FSL Brain Extraction Tool (BET). Obrazy zostały zmniejszone do 224 × 224 pikseli. Intensywność pikseli została znormalizowana do zakresu [0,1], aby ustandaryzować rozkłady wejściowe.
Ekstrakcja cech
Ekstrakcja cech była przeprowadzana niezależnie dla każdej modalności za pomocą DNN, co zapewniało skuteczne uchwycenie unikalnych cech każdej modalności.
Ekstraktory cech EKG i EEG:
Do przetwarzania sygnałów szeregowych w czasie zastosowano architekturę 1D Convolucional Neural Network (1D-CNN). Architektura składała się z (1) warstwy wejściowej (window_length, 1), (2) warstw Conv1D z 64 filtrami i rozmiarem jądra 3, (3) aktywacji ReLU, (4) MaxPooling1D z rozmiarem puli=2, (5) warstw Flatten i Dense (128 jednostek, ReLU). Przedostatnie reprezentacje warstw gęstych zostały wyodrębnione jako wektory cech specyficzne dla modalności.
Ekstraktor cech MRI
Prewytrenowany dwuwymiarowy model CNN (np. VGG16 lub ResNet50) został dostrojony do wydobywania cech przestrzennych z obrazów MRI. CNN został wytrenowany na zbiorze danych OASIS-3, a ostatnie warstwy modelu wcześniej wytrenowanego zostały zmodyfikowane, aby dostosować się do konkretnego zadania klasyfikacji21. Ostateczne warstwy klasyfikacji zostały zastąpione warstwami specyficznymi dla zadań, a z przedostatniej warstwy 5,6 wyodrębniono cechy przestrzenne wysokiego poziomu.
Architektura modelu i trening
Proponowany framework Hybrid Deep Reinforcement Learning (HDRL) został opracowany i wytrenowany w dwóch kolejnych etapach: ekstrakcja cech specyficznych dla modalności, a następnie optymalizacja fuzji oparta na uczeniu ze wzmocnieniem. W pierwszym etapie trenowano oddzielne sieci konwolucyjne neuronowe (CNN) na znakowanych danych dla modalności EKG, EEG i MRI. Podczas szkolenia nadzorowanego stosowano optymalizator Adaptive Moment Estimation (Adam) o szybkości uczenia się 0,001 i kategorycznej utracie entropii krzyżowej. Po zbieżności wyodrębniano wysokopoziomowe reprezentacje z przedostatniej warstwy każdego CNN, dając wektory cech specyficzne dla modalności: F EKG =CNN ECG(XECG), FECG = CNNECG(XECG) oraz FMRI = CNNMRI(XMRI). Wektory te zostały połączone, tworząc jednolitą wielomodalną reprezentację Fconcat = [FEKG, FEEG,F MRI], która służy jako wejście do etapu uczenia ze wzmocnieniem.
Proces fuzji został sformułowany jako Proces Decyzyjny Markowa (MDP), gdzie stan s odpowiadał połączonemu wektorowi cech Fconcat, akcja reprezentowała wybór strategii fuzji (sumowanie ważone lub bezpośrednie konkatenowanie), a nagroda r była definiowana jako dokładność klasyfikacji uzyskana z klasyfikatora w dalszej fazie wytrenowanej na połączonych cechach. Funkcję wartości akcji-Q(s,a) przybliżono za pomocą Deep Q-Network (DQN), która oszacowała oczekiwaną skumulowaną nagrodę 
. Parametry modelu były iteracyjnie aktualizowane zgodnie z regułą.
gdzie α = 0,0001 to szybkość uczenia się, γ = 0,99 to współczynnik dyskontowy, a s' oznacza następny stan.
Podczas optymalizacji Uczenia Wzmocnionego model był trenowany dla 1000 odcinków o wielkości partii 32. Zastosowano strategię chciwości epsilonów, aby zrównoważyć eksplorację i eksploatację, z 
inicjalizacją na poziomie 1.0 i spadkiem o 0.995 na odcinek. Przy prawdopodobieństwie wybrano losową strategię fuzji, natomiast przy prawdopodobieństwie 1 - , strategię o najwyższej szacowanej wartości Q. Zbieżność nagrody była monitorowana podczas całego szkolenia, a stabilna wydajność (>0,85 skumulowanej nagrody) obserwowana była zazwyczaj przez około 500 epizodów.
Workflow HDRL obejmuje wstępne przetwarzanie sygnałów multimodalnych, wyodrębnianie specyficznych dla modalności głębokich cech, tworzenie jednolitej reprezentacji stanu, wybór strategii fuzji oraz ulepszanie polityki na podstawie informacji zwrotnej od agenta DQN. Interakcja między ekstraktorami cech opartymi na CNN a agentem uczenia ze wzmocnieniem tworzy zamknięty system adaptacyjnej fuzji (Rysunek 3), umożliwiający aktualizacje polityki na podstawie informacji zwrotnej z nagrody.
Rysunek 3: Diagram przepływu proponowanego procesu hybrydowego Głębokiego Uczenia Wzmocnionego (HDRL). Diagram przepływu pracy pokazujący ekstrakcję cech CNN specyficzną dla modalności, łączenie cech, wybór strategii fusion (DQN/PPO) oparty na uczeniu ze wzmocnieniem (DQN/PPO), klasyfikację dalszą oraz aktualizację polityki opartej na nagrodach. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.
Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.
Wyniki
Wyniki eksperymentalne wskazują, że proponowany model hybrydowego głębokiego uczenia ze wzmocnieniem (HDRL) osiąga lepszą wydajność w wielomodalnej fuzji sygnałów biomedycznych. Model HDRL oceniono poprzez weryfikację na podstawie kilku rzeczywistych zbiorów danych biomedycznych. Wyniki pod względem odporności, adaptacji i dokładności klasyfikacji pokazują jego przewagę nad innymi tradycyjnymi metodami fuzji, takimi jak fuzja PCA i oparta na DNN.
Układ eksperymentalny
Do oc...
Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.
Dyskusja
Wydajność fuzji:
Ta sekcja przedstawia porównawczą analizę efektywności fuzji między HDRL, PCA i DNN. Zbiór danych multimodalny, uzyskany przez połączenie danych EEG, EKG i MRI z PhysioNet Challenge 201619, bazy danych EEG CHB-MITScalp 20 oraz OASIS-3 MRIDatabase 21, został wykorzystany do obliczenia efektywności fuzji. Czas przetwarzania jest kluczowym parametrem w aplikacjach klinicznych w czasie rzeczywistym, takich jak monitor...
Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.
Oświadczenia
Autorzy twierdzą, że nie ma konfliktów interesów związanych z tą pracą.
Podziękowania
Badania prowadzono częściowo w siedzibie Pałacu Nauki, Fundacji Miodraga Kostića – Centrum Sztucznej Inteligencji Stosowanej. Badania te zostały wsparte przez EUROHPC-JU, Grant nr 101191697, EuroCC4SEE.
Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.
Materiały
| Nazwa | Firma | Numer katalogowy | Komentarze |
|---|---|---|---|
| Butterworth Filter (IV rzęd, implementacja SciPy) | Społeczność SciPy | Nie ma | Wstępne przetwarzanie sygnału EEG/EKG |
| Baza danych EEG skalp CHB-MIT | PhysioNet | DOI: 10.13026/C2K01R | Zbiór danych EEG |
| Narzędzie do ekstrakcji mózgu FSL (BET) | Biblioteka oprogramowania FMRIB (FSL) | Nie ma | Zdjęcie czaszki w rezonanse magnetycznym |
| Keras (v2.12) | Google LLC | Nie ma | API sieci neuronowych wysokiego poziomu |
| NVIDIA GU (≥ 8 GB VRAM) | NVIDIA Corporation | Zależność od modelu | Wymagane do przyspieszonego szkolenia z głębokiego uczenia |
| Baza danych MRI OASIS-3 | Uniwersytet Waszyngtoński | DOI: 10.1002/alz.047259 | Zbiór danych MRI |
| Zbiór danych PhysioNet Challenge 2016 | PhysioNet | DOI: 10.22489/CinC.2016.179-154 | Zbiór danych EKG |
| Python (wersja 3.9 lub nowsza) | Python Software Foundation | Nie ma | Środowisko programistyczne |
| Stabilne linie bazowe3 | DLR-RM (open-source) | Nie ma | Implementacja uczenia ze wzmocnieniem (DQN, PPO) |
| TensorFlow (wersja 2.12) | Google LLC | Nie ma | Ramy uczenia głębokiego |
| Stacja robocza (procesor wielordzeniowy, ≥ 32 GB RAM, ≥ 8 GB GPU) | Własnoręcznie zbudowany / Lokalny dostawca | Nie ma | Wykorzystywane do trenowania i eksperymentowania modeli |
Bibliografia
- Stahlschmidt, S. R., Ulfenborg, B., Synnergren, J. Multimodal deep learning for biomedical data fusion: a review. Brief. Bioinform. 23 (2), bbab569(2022).
- Er, A. G., et al. Multimodal data fusion using sparse canonical correlation analysis and cooperative learning: a COVID-19 cohort study. NPJ Digit. Med. 7 (1), 45(2024).
- Deng, X., Dragotti, P. L. Deep convolutional neural network for multi-modal image restoration and fusion. IEEE Trans. Pattern Anal. Mach. Intell. 43 (10), 3333-3348 (2021).
- Duan, J., Xiong, J., Li, Y., Ding, W. Deep learning based multimodal biomedical data fusion: overview and comparative review. Inf. Fusion. 105, 102536(2024).
- Simonyan, K., Zisserman, A. Very deep convolutional networks for large-scale image recognition. Proc. Int. Conf. Learn. Represent. , (2015).
- He, K., Zhang, X., Ren, S., Sun, J. Deep residual learning for image recognition. Proc. IEEE Conf. Comput. Vis. Pattern Recognit. , 770-778 (2016).
- Boda, S., Mahadevappa, M., Dutta, P. K. Automated patient-specific ECG beat classification using LSTM-based recurrent neural networks. Biomed. Signal Process. Control. 84, 104756(2023).
- Mulani, J., et al. Deep reinforcement learning based personalized health recommendations. Adv. Healthcare Syst. , 231-255 (2020).
- Sutton, R. S., Barto, A. G. Reinforcement Learning: An Introduction. , 2nd ed, MIT Press. (2018).
- Mnih, V., et al. Human-level control through deep reinforcement learning. Nature. 518 (7540), 529-533 (2015).
- Mnih, V., et al. Asynchronous methods for deep reinforcement learning. arXiv. , (2016).
- Yu, C., Liu, J., Nemati, S., Yin, G. Reinforcement learning in healthcare: a survey. ACM Comput. Surv. 55 (1), 1-36 (2023).
- Gupta, A., et al. Genetic algorithm assisted fuzzy Q-learning epileptic seizure classifier. IEEE Trans. Neural Syst. Rehabil. Eng. 30, 112-123 (2022).
- Sharma, R., et al. Fuzzy lattices assisted EJAYA Q-learning for pulmonary disease classification. Comput. Biol. Med. 145, 105432(2022).
- Kumar, P., et al. Epileptic seizure classification using fuzzy lattices and neural reinforcement learning. J. Biomed. Inform. 135, 104210(2023).
- Singh, V., et al. Modified fuzzy Q-learning classifier for pneumonia and tuberculosis. Med. Image Anal. 85, 102756(2023).
- Zhu, X., Li, Y. Latent multi-scale residual transformer for cross-modal medical image synthesis. IEEE Access. 13, 58745-58758 (2025).
- Raffin, A., et al. Stable-baselines3: reliable reinforcement learning implementations. J. Mach. Learn. Res. 22 (268), 1-8 (2021).
- Clifford, G. D., et al. Classification of normal/abnormal heart sound recordings: PhysioNet/Computing in Cardiology Challenge 2016. Comput. Cardiol. 43, 609-612 (2016).
- Goldberger, A., et al. CHB-MIT Scalp EEG Database. PhysioNet. , (2021).
- Marcus, D., et al. OASIS-3 MRI database for Alzheimer’s disease detection. Alzheimers Dement. 16 (S10), e047259(2020).
- Jain, A., Mehrotra, A., Rewariya, A., Kumar, S. A systematic study of deep Q-networks and their variations. 2nd Int. Conf. Adv. Comput. Innov. Technol. Eng, , 2157-2162 (2022).
Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.
Przedruki i uprawnienia
Poproś o pozwolenie na ponowne wykorzystanie tekstu lub ilustracji tego artykułu JoVE
Poproś o pozwolenie