$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Vorgeschlagene Methodik
Das vorgeschlagene Modell Adversarially Robust Federated Learning (AR-FL) zielt darauf ab, das Sterblichkeitsrisiko von Patienten sicher und gemeinsam über verschiedene Gesundheitseinrichtungen hinweg vorherzusagen, während es den Datenschutz schützt und das System widerstandsfähig gegen adversariale Störungen macht. Die Implementierung umfasst vier Hauptelemente: (1) die Federated Learning-Struktur, (2) das min-max-optimierte adversariale Training, (3) den domänenbewussten Aufmerksamkeitsmechanismus und (4) die datenschutzerhaltende Parameteraggregation. Die Methodik wird in einem systematischen Fluss durchgeführt, der für adversariales robustes föderiertes Lernen ausgelegt ist, um das Sterblichkeitsrisiko zu schätzen. Der in Abbildung 2 dargestellte Prozess beginnt mit der Datenerhebung aus zahlreichen Gesundheitseinrichtungen, gefolgt von der Datenvorverarbeitung zur Standardisierung von Funktionen und zur Behandlung fehlender Werte. Ein globales Modell wird zunächst von einem zentralen Server erstellt und dann an jede Gesundheitseinrichtung gesendet. Lokale Adversarial-Schulungen finden innerhalb von Gesundheitseinrichtungen statt, was die Robustheit des Modells gegenüber Störungen erhöht und gleichzeitig die Anpassung an domänenspezifische Daten ermöglicht. Nach dem Training werden die Parameter der lokalen Modelle sicher über sichere Parameteraggregation an den Server geliefert. Der Server integriert diese lokalen Modellbeiträge, um das globale Modell zu aktualisieren. Dieser Prozess wird mehrfach in einer iterativen Optimierung wiederholt, um die kollaborative Verfeinerung des Modells zu erleichtern. Daher wird das Modell rigoros anhand klinischer Benchmarks bewertet, die seine prädiktive Leistung, adversariale Robustheit und Verallgemeinerung über Institutionen hinweg bewerten.

Abbildung 2: Vorgeschlagenes AR-FL-Modell. Diese Abbildung zeigt die Gesamtarchitektur des vorgeschlagenen Adversarial-Robust Federated Learning-Modells, einschließlich adversarialem Training, domänenbewusster Aufmerksamkeit und datenschutzsicherer Aggregation. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.
Datenerhebung
Für diese Studie werden zwei öffentlich zugängliche elektronische Gesundheitsakten (EHR) verwendet: MIMIC-III4 und die eICU Collaborative Research Database6. MIMIC-III bietet über 40.000 Intensivstationen aus einem einzelnen großen Krankenhaus, während die eICU-Daten über 200.000 Intensivstationen verschiedener Krankenhäuser in den USA umfassen. Die jeweiligen Patientendemografien, klinischen Messungen, Laborergebnisse, dokumentierte Ereignisse und in diesen Datenströmen erfasste Ergebnisse machen sie für die Vorhersage von Sterblichkeitsrisiken sehr attraktiv. Die EHR-Datensätze werden jeweils in verschiedene Teile unterteilt, um eine realistische, multiinstitutionelle, föderierte Lernumgebung zu bilden; Jeder Teil repräsentiert ein anderes Krankenhaus oder eine andere Institution. Die Methode erfasst Unterschiede zwischen Institutionen hinsichtlich der Patientenmerkmale, klinischen Protokolle, Dokumentationsstile und Datenverfügbarkeit. Jede simulierte Institution kann nur auf ihren eigenen Datensatz zugreifen und teilt keine rohen Datensätze mit dem zentralen Server oder anderen teilnehmenden Kunden. Dieser Ansatz garantiert die vollständige Einhaltung der Datenschutzprinzipien und simuliert gleichzeitig die realen Einschränkungen der Zusammenarbeit zwischen Krankenhäusern. Sterblichkeitskennzeichnungen werden aus den in den Datensätzen angegebenen Ergebnisfeldern extrahiert, zum Beispiel Indikatoren für Sterblichkeit im Krankenhaus. Diese Labels dienen als Vorhersageziele für das föderierte Lernmodell. Jede Institution führt somit ihren eigenen lokalen Satz von Patientendaten, die mit Mortalitätsergebnissen verbunden sind, was dezentrales Modelltraining ermöglicht, ohne sensible Patienteninformationen preiszugeben.
Datenvorverarbeitung
Jede Institution verarbeitet ihre lokalen EHR-Daten eigenständig, bevor das Modelltraining beginnt. Da föderiertes Lernen den Austausch von Patientendaten oder sogar Zusammenfassungsstatistiken unter teilnehmenden Institutionen nicht erlaubt, werden alle Vorverarbeitungsschritte lokal an jeder Institution durchgeführt und basieren ausschließlich auf den Informationen im Datensatz dieser Institution. Der Vorverarbeitungsfluss besteht aus einigen entscheidenden Schritten. Zunächst werden numerische klinische Variablen wie Vitalzeichen, Laborergebnisse und physiologische Messungen normalisiert, um Unterschiede in den Wertbereichen zu eliminieren und die Modellkonvergenz zu stabilisieren. Die lokalen Daten jeder Institution sind die einzige Quelle zur Berechnung der für die Normalisierung verwendeten Statistiken. Anschließend werden kategoriale Attribute wie Geschlecht, Zulassungstyp oder diagnostische Kategorien mit Methoden wie One-Hot-Codierung oder institutionsspezifischen Zuordnungen in numerische Darstellungen umgewandelt. Daher kann das föderierte Modell kategoriale Daten verarbeiten, ohne dass gemeinsame Codierungswörterbücher oder institutionelle Referenztabellen erforderlich sind. Drittens werden fehlende Daten, die in klinischen Datensätzen häufig vorkommen, mit lokalen Imputationstechniken behandelt. Je nach Merkmalstyp und klinischem Kontext greifen Institutionen möglicherweise auf Mittel-Imputation, Forward-Filling basierend auf früheren Beobachtungen oder sogar regelbasierte klinische Ersetzungen. Da jede Institution die Imputation unabhängig durchführt, sind keine externen Metadaten oder gemeinsame Imputationsparameter erforderlich. Nach diesen Verfahren kann jede Institution einen vollständigen verarbeiteten Merkmalsdatensatz zusammen mit den zugehörigen Sterblichkeitsergebnissen erstellen. Die lokalen Datensätze werden dann als Eingabe für das föderierte Modelltraining verwendet. Während der gesamten Vorverarbeitungspipeline werden keine Rohdaten, abgeleitete Statistiken oder Zwischenergebnisse außerhalb der Institution übertragen, was eine strikte Einhaltung datenschutzschützender Datenmanagementpraktiken gewährleistet.
Modellinitialisierung
Sei K {1, 2,..., K} die Sammlung der beteiligten Institutionen (Kunden), wobei jede Institution einen lokalen Datensatz besitzt.
{
wobei
die Eingabemerkmale der EHR repräsentiert und
das zugehörige Sterblichkeitslabel (binär oder kategorisch) ist. Ein globales Modell
wird kollaborativ über alle Kunden trainiert, wobei θ die gemeinsamen Modellparameter sind.
Der Prozess folgt dem standardisierten Federated Averaging (FedAvg)-Protokoll:
Der zentrale Server initialisiert globale
Parameter und sendet sie aus. Jeder Client k∈K führt lokales Training mit seinen Daten durch und aktualisiert das Modell auf
. Der Server kombiniert die Updates, indem er den gewichteten Durchschnitt nimmt:

, wobei n =
Das Verfahren zur zentralen Serverinitialisierung und die lokalen Trainingsschritte laufen für T-globale Kommunikationsrunden weiter.
Lokales Adversarialtraining (Min–Max-Optimierung)
Um die Robustheit zu verbessern, führt jeder Klient ein adversariales Training an seinem lokalen Standort durch. Anstatt das empirische Risiko sauberer Daten zu minimieren, beschäftigen sich die Kunden mit einem Min-Max-Problem:
(x+δ),y)
L: Verlustfunktion
δ: Adversariale Störung, eingeschränkt durch 
S: Adversarialer Bedrohungsraum
(x+δ): Vorhersage unter perturbierten Eingaben
Zum Zeitpunkt jeder lokalen Epoche werden adversariale Proben mithilfe der Projected Gradient Descent (PGD) oder der Fast Gradient Sign Method (FGSM) erstellt. Anschließend wird das Training des Modells mit diesen Proben fortgesetzt, um seine Robustheit zu erhöhen.
Domänenbewusster Aufmerksamkeitsmechanismus
Daten aus elektronischen Gesundheitsakten (EHR) verschiedener Institutionen können sich stark in Bezug auf Datenverteilung, Feature-Semantik und klinische Praktiken unterscheiden. Um dieses Problem zu lösen, integriert das AR-FL-Modell ein domänenspezifisches Aufmerksamkeitsmodul in sein Modell.
Sei
der Eingabevektor von Institution k. Die Aufmerksamkeitsgewichte
für jedes Merkmal j∈ {1..., d} werden berechnet als:
=
wobei trainierbare Aufmerksamkeitsgewichte sind. Die Eingabe wird umgewichtet als:

Durch diesen Mechanismus kann das Modell Eigenschaften betonen, die für die klinische Praxis je nach Art der von der Institution verwendeten Daten wichtig sind, wodurch seine Anpassungsfähigkeit und Interpretierbarkeit erhöht wird.
Datenschutzerhaltende Parameteraggregation
AR-FL verwendet sehr sichere Aggregation sowie differenzielle Datenschutztechniken, falls erforderlich, um das höchste Maß an Privatsphäre während der Kommunikation zu gewährleisten. Sichere Aggregation: Nutzer verschlüsseln ihre Modellupdates so, dass der Server nur die Gesamtsumme, aber nicht die einzelnen Beiträge berechnen kann.
Unterschiedliche Privatsphäre: Fügt Störungen zu Modellupdates hinzu:

Wo σ den Kompromiss zwischen Privatsphäre und Genauigkeit kontrolliert.
Während verteilter Updates stellen diese Ansätze sicher, dass private Patientendaten oder institutionelle Informationen nicht Gefahr laufen, geleakt zu werden.
Globales Modellupdate
Sobald die lokale Schulungsphase an jeder Institution abgeschlossen ist, sammelt der zentrale Server die vom Client eingereichten Modellupdates. Diese Aktualisierungen bestehen ausschließlich aus Änderungen an Modellparametern und enthalten keine Rohpatientendaten oder zwischengeschnittene Merkmalsrepräsentationen. Um das von den verschiedenen Institutionen gewonnene Wissen zu bündeln, wendet der Server die Federated Averaging (FedAvg)-Methode an. In diesem Prozess berechnet der Server einen gewichteten Durchschnitt der lokalen Modelle basierend auf der verfügbaren Datenmenge jeder Institution. Institutionen, die größere Datensätze beisteuern, haben einen proportional größeren Einfluss auf das aktualisierte globale Modell. Da die Updates mit sicheren Aggregationstechniken übertragen wurden, kann der Server die Parameter einer einzelnen Institution nicht anzeigen oder isolieren. Stattdessen erhält der Server nur eine verschlüsselte oder eine datenschutzgeschützte kombinierte Darstellung. Dies garantiert die Vertraulichkeit des Schulungsprozesses und die Zerstörung etwaiger institutioneller Muster oder Patientenmerkmale, die möglicherweise erkannt wurden. Nach der Berechnung des aggregierten Updates bereitet der Server ein neues globales Modell vor, das für das gesamte Wissen steht, das in dieser Kommunikationsrunde von allen zusammenarbeitenden Institutionen erworben wird. Das neue globale Modell wird dann an jede Institution zurückgeschickt, damit die nächste Runde lokaler Adversarial-Schulungen beginnen kann.
Iterative Optimierung
Föderiertes Lernen ist ein mehrstufiger Prozess, der mehrere Kommunikationsrunden umfasst. Jede Runde besteht aus dem Training des lokalen Modells, der sicheren Übertragung von Updates, der globalen Aggregation und der anschließenden Verteilung des verbesserten Modells an die Teilnehmer. Die wiederholten Runden helfen dem Modell, allmählich auf eine robuste, stabile Lösung hinzuarbeiten. Während dieser Runden bringt jede Organisation ihr Wissen über ihre Patientengruppe ein und schafft so ein Modell, das klinische Muster in verschiedenen Umgebungen erkennen kann. Es sollte beachtet werden, dass adversariales Training und der domänenbewusste Aufmerksamkeitsmechanismus manchmal durch lokale Schulungen in jeder Runde implementiert werden. Daher wird das Modell ständig verfeinert, und seine Fähigkeit zur Bekämpfung gegnerischer Angriffe wächst, während seine Fähigkeit, sich an verschiedene Funktionsverteilungen über Institutionen hinweg anzupassen, verbessert wird. Durch iterative Optimierung verbessert das Modell nicht nur seine Verallgemeinerungsleistung, sondern wird auch zunehmend tolerant gegenüber Datenungleichgewichten, institutionellen Variationen und gegnerischen Situationen. Das Verfahren wird durchgeführt, bis entweder eine vorgegebene Anzahl von Kommunikationsrunden erreicht ist oder das globale Modell eine stabile Konvergenz anzeigt.
Bewertung
Am Ende aller Kommunikationsrunden wird das endgültige globale Modell gründlich mit ausgefüllten Testsätzen bewertet, die aus den Datensätzen der Teilnehmer abgeleitet sind. Da diese Testsätze nicht für das Modelltraining verwendet werden, liefern sie eine faire und unparteiische Messung der Leistung des Modells. Die Effektivität des Modells wird durch die Berechnung verschiedener Kennzahlen aus mehreren Blickwinkeln bewertet. Saubere Genauigkeit beurteilt die Situation, in der normale Bedingungen herrschen. Es misst die Korrektheit des Modells bei der Vorhersage von Mortalitätsergebnissen. Im Gegensatz dazu schätzt die adversariale Genauigkeit, inwieweit das Modell seine Leistung auch dann aufrechterhalten kann, wenn die Eingabedaten adversarial verändert werden. Der Bereich unter der Empfänger-Betriebscharakteristik (ROC)-Kurve (AUC-ROC) gibt Einblicke in die Fähigkeit des Modells, zwischen lebenden und verstorbenen Patienten zu unterscheiden. Der F1-Wert dient als Indikator für die Beziehung zwischen Präzision und Rückruf, was besonders für unausgewogen klinische Datensätze von Bedeutung ist. Die Verallgemeinerungslücke zeigt die Leistungsunterschiede zwischen verschiedenen Institutionen und zeigt damit die Vielseitigkeit des Modells bei der Anpassung an unterschiedliche Datenquellen. Das Datenschutzrisiko wird schließlich durch simulierte adversariale Angriffe quantifiziert, die feststellen, ob sichere Aggregation und optionale differenzierte Privatsphäre tatsächlich wirksam sind, um die Patientenvertraulichkeit zu schützen. All diese Bewertungskennzahlen zusammen liefern ein umfassendes Bild der Vorhersagekraft des Modells, der Widerstandsfähigkeit gegen adversarielle Angriffe, der Stabilität verschiedener Institutionen und der Einhaltung datenschutzanforderungen. Algorithmus 1 (Supplementary File 1) unten zeigt das Adversarial Robust Federated Learning (AR-FL) zur Mortalitätsrisiko-Vorhersage.