Diffusionsgetriebene Proxy-Lernstrategie mit sicheren Peer-Interaktionen für generative Intelligenz in cyber-physischen Systemen

Summary

Hier stellen wir das Generative Proxy Learning Framework (GPLF) vor, das Proxy-based Federated Learning (ProxyFL) zur Verbesserung von generativen KI-Lösungen in cyber-physischen Systemen (CPS) einsetzt. Durch die Integration von Differential-Privacy-Funktionen und Verschlüsselungsmethoden verbessert die GPLF den Schutz der Privatsphäre, wodurch Datenschutzverluste reduziert und der Betrieb cyber-physischer Systeme intelligenter und sicherer wird.

Abstract

Cyber-Physical System (CPS) verbindet rechnerische Intelligenz mit physischen Prozessen, was eine sofortige Überwachung, Entscheidungsfindung und Automatisierungsdienste in verschiedenen wichtigen Bereichen ermöglicht. Darüber hinaus steht generative künstliche Intelligenz (KI) vor erheblichen Hindernissen für den Einsatz innerhalb von CPS, da verteilte Umgebungen mit sensiblen Daten ernsthafte Herausforderungen für den Datenschutz und die Aufrechterhaltung der Sicherheit darstellen. Aktuelle Techniken, wie z. B. Federated Learning (FL), stoßen sowohl in Bezug auf ihre Modellvielfalt als auch auf das Risiko, dass die Privatsphäre gefährdet werden könnte, auf Schwierigkeiten. Das Generative Proxy Learning Framework (GPLF) dient als unsere innovative Lösung, die Proxy-based Federated Learning (ProxyFL) nutzt, das speziell für generative KI-Anwendungen innerhalb von Cyber-Physical Systems (CPS) angepasst ist. In der GPLF pflegt jeder Teilnehmer zwei Modelle: Die Teilnehmer betreiben ein privates Modell, das der lokalen Datenanalyse gewidmet ist, zusammen mit einem gemeinsamen Proxy-Modell, das eine geschützte Zusammenarbeit an Knoten ermöglicht. Als wesentliche Grundlage generativer KI-Mechanismen liefern fortschrittliche Diffusionsmodelle synthetische Daten mit hoher Genauigkeit zusammen mit der Beibehaltung wichtiger Datenmerkmale. Die Modelle generieren synthetische Sensordaten, die eine verbesserte Anomalieerkennung ermöglichen und die prädiktive Modellierung durch authentische CPS-Verhaltensdarstellungen unter verschiedenen Szenarien unterstützen. Das System erreicht einen erweiterten Schutz der Privatsphäre mit differenziellen Datenschutzmechanismen bei Proxy-Datenaktualisierungen, während die direkte Peer-Kommunikation im Netzwerk von fortschrittlichen Verschlüsselungsschutzmaßnahmen profitiert. GPLF bedient CPS-Plattformen, indem es sich mit Echtzeitsensoren und IoT-Geräten verbindet, die sichere generative Prozesse unterstützen, einschließlich Anomalieerkennung, Erstellung synthetischer Daten und prädiktiver Modellierung. Testergebnisse von Benchmark-CPS-Datensätzen zeigen erhebliche Leistungsverbesserungen mit 25 % weniger Datenschutzlecks und 25 % besseren Datenaustauschfunktionen sowie eine um 18 % verbesserte Genauigkeit bei generativen Aufgaben, um das transformative Potenzial für sichere, intelligente CPS-Operationen zu unterstützen.

Introduction

Die Forschung untersucht cyber-physische Systeme (CPS) durch die Kombination von computergestützter Intelligenz mit realen Prozessen, um Echtzeitüberwachung sowie schnelle Entscheidungsfindung und Systemautomatisierung zu ermöglichen¹. Neue Technologien für das Internet der Dinge (IoT) und die künstliche Intelligenz (KI) erweitern das Anwendungsspektrum erheblich, in denen CPS-Systeme wesentliche Funktionen für die Entwicklung von Smart Grids und industrielle Automatisierungsprozesse sowie für Versorgungsdienste im Gesundheitswesen ausführen². Unternehmen, die CPS einsetzen, verwenden zunehmend generative KI-Modelle, die die Möglichkeit bieten, Systemverhalten zu imitieren und neben einer verbesserten Anomalieerkennung auch eine prädiktive Modellierung zu ermöglichen. Das verteilte Format der CPS-Daten in Kombination mit ihren sensiblen Attributen führt neben Sicherheitsproblemen und Skalierbarkeitsproblemen bei generativen KI-Implementierungen auch zu großen Schwachstellen in der Privatsphäre.

Bestehende Techniken, wie z. B. Federated Learning (FL), konzentrieren sich auf den Datenschutz, stoßen jedoch auf Einschränkungen, zu denen die Gefahr von Datenschutzlecks bei Modellaktualisierungen gehört, zusammen mit einer eingeschränkten Unterstützung für generative KI und einem unzureichenden Umgang mit verschiedenen CPS-Bedingungen³. Den derzeitigen Ansätzen fehlt die notwendige Integration fortschrittlicher Mechanismen, die sowohl für die Datengenerierung als auch für Schutzmaßnahmen bei der Arbeit in verteilten CPS während des Echtzeitbetriebs konzipiert sind. Da die derzeitigen Rahmenbedingungen in mehreren Bereichen unzureichend sind, zeigen die bestehenden Forschungsergebnisse erhebliche Bedürfnisse, die nur durch die Entwicklung einer neuen Lösung erfüllt werden können, die sichere, skalierbare, generative Modelle und einen klaren Schutz der Privatsphäre bietet⁴.

Die neue Studie des Generative Proxy Learning Framework (GPLF) skizziert eine speziell entwickelte Methode, um den Einsatz von generativen KI-Funktionen innerhalb von CPS zu erleichtern. Die GPLF implementiert ein Proxy-basiertes FL-Schema⁵, so dass Benutzer mit privaten Modellen für die individuelle Datenprüfung und Proxy-Modellen arbeiten können, um geschützte kooperative Lernaktivitäten aufrechtzuerhalten. Diese Forschung zielt auf die Verbesserung des Datenschutzes durch die Anwendung von Differential-Privacy-Ansätzen in Kombination mit sicherer homomorpher Verschlüsselung ab und verwendet fortschrittliche Diffusionsmodelle für die Produktion hochwertiger synthetischer Daten. Das System unterstützt die sichere Erkennung von Anomalien sowie prädiktive Modellierungsfunktionen und ermöglicht gleichzeitig einen effizienten Informationstransfer zwischen verteilten CPS-Operationen.

Die GPLF löst bestehende FL-Herausforderungen durch ihr Dual-Model-Framework-Design, das Datenschutz und Systemflexibilität bietet⁶. Jeder CPS-Teilnehmer verwendet sowohl private als auch Proxy-Modelle, die zwei separate Systeme einrichten, um lokalen Datenschutz zu erreichen und Lernfähigkeiten im Team zu ermöglichen. Das private Modell verwendet lokalisierte Vorgänge, um aus den vertraulichen Daten eines Teilnehmers zu lernen, und wahrt den vollen Datenschutz, indem vertrauliche Informationen innerhalb der Parameter jedes Teilnehmers gespeichert werden. Maximale Leistung erreicht das System bei der Erkennung von Anomalien und der Erkennung von Mustern auf lokaler Ebene⁷. Das Proxy-Modell dient als gemeinsamer kollektiver Lernmechanismus, der allen Beteiligten für einen sicheren Wissensaustausch zur Verfügung steht. Das Proxy-Modell trainiert vertraulich über die bereinigte synthetische Datenverarbeitung aus Diffusionsmodellen und die Kommunikation von Aktualisierungen sowohl durch differentielle Privatsphäre als auch durch homomorphe Verschlüsselung, da dies private, aber dennoch funktionale FL ermöglicht.

Die Diffusionsstrategie ermöglicht die Erstellung überlegener synthetischer Datensätze, die wesentliche Merkmale beibehalten und gleichzeitig persönliche Details verbergen. Diese Forschung ergab erhebliche Fortschritte, die sich in einem deutlichen Rückgang der Datenschutzlecks mit verbesserten Datenaustauschfunktionen und einer besseren Leistung generativer Aufgaben manifestierten, was einen widerstandsfähigeren cyber-physischen Systembetrieb ermöglichte. Die GPLF schafft eine neue Methodik für intelligentes CPS, indem sie datenschutzkonformes Lernen mit generativen KI-Fähigkeiten vereint⁸.

Die GPLF bietet durch ihr Doppelmodell-Design neuartige Möglichkeiten, die speziell auf den Umgang mit Datenschutzbedenken bei der Bereitstellung von generativer KI in CPS ausgerichtet sind. Während konventionelles föderiertes Lernen ein Modell für alle Teilnehmer verwendet, setzt die GPLF sowohl private Modelle für die lokale Datenprüfung als auch Proxy-Modelle für die Durchführung von Gruppenlernaufgaben ein. Durch die strikte Datentrennung bewahren Patienten vertrauliche Informationen lokal auf, verwenden jedoch die bereinigten synthetischen Daten des Proxy-Modells in Kombination mit differenziellem Datenschutz, um eine sichere Zusammenarbeit zu erreichen. Das Proxy-Modell gewährleistet eine robuste Anomalieerkennung und prädiktive Modellierung bei gleichzeitiger Aufrechterhaltung der Systemanpassungsfähigkeit durch hochwertige synthetische Daten, die von Diffusionsmodellen generiert werden, um den Schutz der Privatsphäre der Benutzer zu gewährleisten. Die GPLF zeichnet sich als innovatives Framework für sichere CPS-Systeme aus, da ihr Dual-Modell-Ansatz einen verstärkten Schutz der Privatsphäre zusammen mit sicheren Daten bietet und gleichzeitig die Skalierbarkeit und betriebliche Effizienz beibehält.

Ziel der Studie ist es, ein Proxy-Based Federated Learning (ProxyFL) zu entwickeln, das eine Dual-Model-Architektur erfordert, um eine sichere Adaption innerhalb von CPS zu ermöglichen. Darüber hinaus sind fortschrittliche Diffusionsmodelle unerlässlich, um als Integrationspunkt für die Produktion synthetischer Daten zu dienen und wesentliche Dateneigenschaften während des Datenschutzes zu erhalten. Schließlich ist es notwendig, neben homomorphen Verschlüsselungsprotokollen auch Differential-Privacy-Methoden zu implementieren, um die Datensicherheit zu gewährleisten und die Privatsphäre während der Gradientenaggregation zu schützen.

Tabelle 1 9,10,11,12,13,14,15,16,17,18,19 zeigt die Kernprozesse bestehender Methoden und deren Errungenschaften mit einigen kritischen Einschränkungen.

Tabelle 1: Überblick über die bestehenden Forschungsschwerpunkte, Kernkomponenten, Errungenschaften und Einschränkungen. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.

Die bestehenden Ansätze für die Zusammenführung von generativer KI in CPS-Systeme zeigen kritische Probleme bei der Ausweitung auf große Bereitstellungen unter Beibehaltung von Datenschutzbestimmungen und beim Erreichen von Systemflexibilität²⁰. Die derzeitigen FL-Methoden zeigen Einschränkungen durch unzureichende Modellvielfalt, während sie gleichzeitig eine schwache Leistung in verteilten und verschiebenden Systemen aufweisen und Benutzerdaten aufgrund anfälliger Datenübertragungspraktiken offenlegen. High-Fidelity-Datendarstellungen, die für die Erkennung von Anomalien, die Generierung synthetischer Daten und die prädiktive Modellierung in CPS erforderlich sind, entgehen oft vielen generativen Modellierungslösungen, die den Datenschutz und die Recheneffizienz bei ihren Versuchen, diese Standards zu erreichen, beeinträchtigen können. Aktuelle Systemmängel bestätigen die Anforderung des Frameworks, skalierbare, sichere und effiziente generative KI-Prozesse zu unterstützen.

Protocol

Das Generative Proxy Learning Framework (GPLF) stellt eine neuartige Technologie dar, die generative KI mit CPS integriert und neben Sicherheits- und Leistungsmetriken in verteilten Netzwerksystemen auch wichtige Fragen des Datenschutzes löst. Die Funktionalität von CPS-Plattformen hängt von einer aktuellen Überwachung ab, die neben automatisierten Abläufen auch sensible Dateneingaben von einer wachsenden Anzahl von IoT-Geräten und -Sensoren extrahiert. Es hat sich gezeigt, dass die Einführung von generativen KI-Technologien in CPS-Systemen besondere Gefahren wie Datenschutzlücken in Kombination mit Sicherheitsherausforderungen in verteilten Netzwerkkonfigurationen mit sich bringt. Die GPLF führt ein innovatives Proxy-Based Federated Learning (ProxyFL)-Framework ein, das sicheres kollaboratives Lernen speziell für generative Aufgaben unterstützt, um bestehende Probleme zu entschärfen. Eine gründliche Evaluierung des GPLF-Frameworks fand auf einer CPS-Plattform statt, deren Testbed verschiedene Sensornetzwerktechnologien mit IoT-Geräten und Live-Datenstreaming kombinierte.

Teilnehmer der GPLF verwenden während ihrer Teilnahme zwei getrennte Modelle.
Ein exklusives privates Modell dient der lokalen Datenprüfung und schützt die Daten gleichzeitig vor Zugriffen von außen.
Das Shared Proxy Model⁵ des Systems ermöglicht eine sichere Zusammenarbeit der Teilnehmer durch Verschlüsselungstechnologie in Verbindung mit Differential-Privacy-Methoden.

Das Framework nutzt Diffusionsmodelle, um ausgefeilte synthetische Datensätze zu erstellen, die die Funktionen zur Erkennung von Anomalien fördern und gleichzeitig die Vorhersagemodellierung und die Verfolgung des Systemverhaltens während verschiedener Szenariosimulationen zeigen. Synthetisierte Datensätze bewahren wichtige Merkmalsmerkmale durch effektive Methoden zur Wahrung der Privatsphäre. Das Framework betreibt einen sicheren Peer-to-Peer-Austausch über starke Verschlüsselungstechniken, die die Kommunikationskanäle vor böswilligen Angriffen schützen. Die mit der GPLF durchgeführten Bewertungen auf realen CPS-Plattformen zeigten, wie sie erhebliche Fortschritte bei sicheren und intelligenten Betriebskapazitäten über die Grenzen der Skalierbarkeit hinweg bringen kann. Signifikante Verbesserungen bei den Datenschutzlecks sowie ergänzende Verbesserungen der Datenaustauschfähigkeiten und der generativen Aufgabengenauigkeit bewiesen den funktionalen Wert und konkrete Leistungsergebnisse. Zu den Kernphasen der GPLF gehören die Proxy-basierte Initialisierung von Federated Learning sowie das lokale Training privater Daten, das das Rückgrat der GPLF bildet und Proxy-Modellaktualisierungen integriert, die durch Differential Privacy geschützt sind. Synthetische Datengenerierungsmethoden mit diffusen Modellen mit sicheren Peer-to-Peer-Datenaustauschtechniken und -modulen zur Anomalieerkennung und Vorhersagemodellierung sind ebenfalls enthalten. Die organisierte Struktur in Abbildung 1 zeigt die wesentlichen Elemente der GPLF, die das Potenzial haben, die grundlegenden Operationen von CPS zu optimieren.

Abbildung 1: Architektonischer Rahmen der GPLF für einen sicheren und intelligenten CPS-Betrieb. Entwickelt, um einen sicheren und intelligenten Betrieb in cyber-physischen Systemen zu ermöglichen. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.

In den folgenden Abschnitten werden die sechs Stufen des Frameworks für die sichere Kommunikation zwischen heterogenen Geräten in einer CPS-Plattform erläutert.

1. Proxy-basierte Initialisierung des föderierten Lernens

Stufe 1 ist die Proxy-basierte Federated Learning-Initialisierung, bei der GPLF den Proxy-basierten FL-Initialisierungsprozess verwendet, um das System jedes CPS-Teilnehmers (N) mit zwei Modellen einzurichten, die den Datenschutz gewährleisten und es den Teilnehmern dennoch ermöglichen, durch Lernfunktionen sicher zusammenzuarbeiten. Einzelne CPS-Teilnehmer (i) erhalten ein privates Modell , um mit ihren lokalen Daten (d_i) zum Schutz der Privatsphäre zu arbeiten, neben einem gemeinsamen Proxy-Modell , um ein sicheres kooperatives Verhalten zwischen den Teilnehmern zu ermöglichen. Die Modelle beginnen ihr Training mit Gewichten, die aus zufälligen Eingaben einer Gaußschen Verteilung²¹ für normierte Anfangsbedingungen gebildet werden, die wie in Gleichung (1) ausgedrückt wird.
(1)
Die Teilnehmer verarbeiten ihre Daten autonom und tauschen Erkenntnisse über gemeinsame Modelle aus, die das verteilte generative Lernen in CPS-Systemen unter Wahrung der Privatsphäre unterstützen.

2. Lokale Schulungen zu privaten Daten

Stufe 2 ist die lokale Schulung zu privaten Daten; Hier findet ein Datentraining statt, bei dem CPS-Teilnehmer aus ihren gespeicherten lokalen Daten private Modelle entwickeln, um den vollen Datenschutz vor Ort zu gewährleisten, indem sie gegen externe Exposition abgeschottet werden. Die Teilnehmer erhalten eine Schulung in datenbasierter Modelloptimierung mittels stochastischem Gradientenabstieg (SGD)²² , der durch eine lokalisierte Verlustfunktion (l_local) erfolgt und sowohl die Extraktion aussagekräftiger Erkenntnisse als auch lokalisierte Anpassungen unter Wahrung des Datenschutzes unterstützt.
(2)
(3)
Aus (2) und (3) bezeichnen I und O die Probeneingabe und den entsprechenden Sollwert. L gibt den Verlust mit einer Lernrate (Ɽ) an. In diesem Schritt werden individuelle Intelligence-Systeme entwickelt, die als Basis für zukünftige sichere kollaborative Bildungsprozesse dienen.
Das Independent Recurrent Neural Network (IndRNN) fungiert als ML-Modell von Stufe 2, da seine Architektur die Unabhängigkeit der Neuronen in jedem Zeitschritt ermöglicht, um bestimmte CPS-Aufgaben zu bewältigen und gleichzeitig traditionelle RNN-Gradientenprobleme zu mildern. Jedes Neuron innerhalb des IndRNN-Setups verfügt über ein individuelles wiederkehrendes Gewicht, das eine bessere Erfassung langfristiger Abhängigkeiten ermöglicht. Das separate Betriebsmodell verbessert die Gradientenübertragung, wodurch tiefe Netzwerkstrukturen effektiv skaliert werden und gleichzeitig die Rechenprozesse effizient bleiben. Die sequentielle Datenverarbeitung auf CPS-Plattformen schneidet mit IndRNN am besten ab, da es in der Lage ist, lange Sequenzen mit starken Lernmustern zu verarbeiten und gleichzeitig die Netzwerkkomplexität gering zu halten.
Die Berechnung in Gleichung (4) zeigt, dass die Lösung des Problems des verschwindenden und explodierenden Gradienten innerhalb von IndRNN auf seinem charakteristischen Ansatz für das Design wiederkehrender Verbindungen beruht.
(4)
Von (4) geben ω und H_t das Gewicht bzw. den verborgenen Zustand bei t an. stellen den Vektor der unabhängigen wiederkehrenden Signifikanz (Gewichtungen) dar, eine für jeden Datenpunkt, was eine Unabhängigkeit über verschiedene Zeitschritte hinweg ermöglicht. ʘ bezeichnet die elementweise Multiplikationsunterstützung des Designs, die die völlige Unabhängigkeit zwischen den wiederkehrenden Verbindungen jedes Neurons aufrechterhält, und ä bezeichnet die Aktivierungsfunktion. Das Design der neuronalen Architektur vermeidet die Expansion oder Kontraktion von Gradienten während der gesamten Berechnungssequenz, was ein stabiles Training des Lernmodells und den Erfolg beim Erlernen erweiterter Muster unterstützt.
Der IndRNN wird zum bevorzugten Ansatz für die Erkennung von CPS-Anomalien, da er herkömmliche RNN-Gradientenexplosionen und das Verschwinden erfolgreich verhindert. Langfristige Abhängigkeiten lassen sich durch die IndRNN-Architektur leicht nachverfolgen, da sie mit weniger Komplexität als Transformer-Modelle arbeitet und sowohl eine schnelle Konvergenz als auch einen Echtzeitbetrieb ermöglicht. Aufgrund der Effektivität von IndRNN eignet es sich hervorragend zur Darstellung der ressourcenbegrenzten Betriebseigenschaften von CPS und bietet gleichzeitig eine exakte Anomalieerkennung ohne übermäßigen Rechenaufwand.

3. Diffusionsmodell zur Generierung synthetischer Daten

Stufe 3 ist das Diffusionsmodell für die Generierung synthetischer Daten. In dieser Phase werden fortschrittliche Diffusionsmodelle verwendet, um synthetische Daten zu erzeugen, die die Hauptmerkmale der erfassten privaten Daten replizieren. Die Modelle lernen die Verteilung der ursprünglichen datenschutzrelevanten Daten durch das Hinzufügen von kontrolliertem Rauschen, um Merkmale zu erfassen, was dazu beiträgt, synthetische Daten mit hoher Genauigkeit zu erstellen, die wichtige Merkmale beibehalten und gleichzeitig den Schutz der Privatsphäre gewährleisten. Das iterative Entrauschungsverfahren erzeugt synthetische Daten, wobei wesentliche statistische Eigenschaften und Strukturelemente der tatsächlichen Daten erhalten bleiben.
Zu Beginn konzentriert sich der Trainingsprozess des generativen Diffusionsmodells (Υ) auf die Erstellung synthetischer Daten mit hoher Genauigkeit unter Beibehaltung entscheidender Merkmale aus privaten Daten (d_i), und die Kernberechnung einer solchen Generierung umfasst:
(5)
Geben Sie in (5) die Einbeziehung von Gaußschem Rauschen in die Datenstichproben an. Die neu generierten synthetischen Daten werden wie folgt ausgedrückt:
(6)

4. Updates des Proxy-Modells mit Differential Privacy

Stufe 4 ist die Aktualisierung des Proxymodells mit differenziellem Datenschutz. In dieser Phase verwendet jeder kommunikative Teilnehmer synthetische Daten, die vom Diffusionsmodell in dieser Phase erstellt wurden, um sein Proxy-Modell in dieser Phase zu trainieren.
(7)
Gradienten von Proxymodellaktualisierungen bleiben privat, da unterschiedliche Datenschutzmechanismen ihre Werte stören .
(8)
Um den Datenschutz zu schützen, wandeln fortschrittliche Verschlüsselungsmethoden (homomorphe Verschlüsselung) bereinigte Updates (U) in sichere Daten um (ξ), die entweder über einen zentralen Server oder mehrere Peer-Knoten verteilt werden.
(9)
Ab (9) steht ҟ für den Verschlüsselungsschlüssel. Durch die kollaborative Aggregation verschlüsselter Updates gewährleisten Systeme die Sicherheit sensibler lokaler Informationen, wenn verteilte Lernvorgänge sicher durchgeführt werden.
Die homomorphe Verschlüsselung²³schafft sichere Plattformen, um Berechnungen auf verschlüsselten Daten ohne Entschlüsselung auszuführen, bevor endgültige Ergebnisse aus verschlüsselten Eingaben wie aggregierten Gradienten erzielt werden können. Die Daten bleiben während der gesamten Betriebsdauer (Ende-zu-Ende) verschlüsselt, wodurch Verstöße von außen während der Rechenprozesse verhindert werden. Die Plattform ermöglicht es CPS-Teilnehmern über verschiedene Standorte hinweg, verschlüsselte Datenaktualisierungen für kollaborative Lernvorgänge auszutauschen, ohne private Informationen preiszugeben. Gemäß den Studienzielen behält diese Technik den vollständigen Schutz der Privatsphäre bei Bedarf bei und zeigt eine überlegene Leistung im Vergleich zu anderen Verschlüsselungsmethoden, die eine Datenentschlüsselung für die Berechnung erfordern, wodurch sie potenziellen Bedrohungen ausgesetzt sind. Die homomorphe Verschlüsselung erweist sich als die am besten geeignete Sicherheitsmethode für proxyFL-Systeme, da sie sowohl sichere Berechnungen auf Daten als auch eigenständige Verschlüsselungsoperationen unterstützt.

5. Sichere Peer-to-Peer-Interaktionen

1. Stufe 5 ist Sichere Peer-to-Peer-Interaktionen. Während dieser Phase übertragen die Teilnehmer ihre verschlüsselten, bereinigten Proxy-Modellaktualisierungen, die sie in Phase 4 erstellt haben, sicher. Die Teilnehmer (i) wahren die Vertraulichkeit bei der Übertragung von Aktualisierungen dank homomorpher Verschlüsselung, die Berechnungen wie die Gradientenaggregation auf verschlüsselten Daten direkt ermöglicht, ohne dass eine Entschlüsselung erforderlich ist. Die Teilnehmer drücken die Peer-to-Peer-Kommunikation durch computergestützte Methoden wie folgt aus:
   (10)
   Aus (10) geht hervor, dass die sichere Peer-to-Peer-Interaktion/Kommunikation innerhalb von CPS-Plattformen durch homomorphe Verschlüsselung (ξ(·)) gewährleistet wird.
   Durch Gradientenaggregation (Ψ) ermöglichen verschlüsselte Gradientenbeiträge mehrerer Benutzer die gemeinsame Aktualisierung des gemeinsamen Proxy-Modells. Diese Studie zeigt die sichere Akkumulation der verschlüsselten Gradienten jedes Teilnehmers durch homomorphe Verschlüsselung.
   (11)
   Ab (11) steht N für die Anzahl des Teilnehmers. Das Verfahren erlaubt auch direkte Berechnungen auf verschlüsselten Gradienten und schützt sensible Daten während der Aggregation. Die Teilnehmer aktualisieren das Proxy-Modell durch Entschlüsselung aggregierter Gradienten, was ein datenschutzbewusstes kollaboratives Lernen im gesamten CPS-Netzwerk ermöglicht. Sichere Entschlüsselungsmethoden bewahren den privaten Zugriff auf einzelne Gradienten für alle Benutzer während des gesamten Prozesses.
   (12)
   Sichere Berechtigungseinschränkungen verhindern somit, dass einzelne Teilnehmer auf Datenaktualisierungen zugreifen können, die sich im Besitz externer Faktoren befinden. Das Netzwerk nutzt aggregierte Updates für die kollaborative Verbesserung von gemeinsam genutzten Proxy-Modellen, um ein sicheres verteiltes Lernen mit starkem Schutz der Privatsphäre über CPS-Systeme hinweg zu erreichen.

6. Anomalieerkennung und prädiktive Modellierung

1. Stufe 6 schließlich ist die Anomalieerkennung und die prädiktive Modellierung. In dieser Phase werden die aktualisierten Proxy-Modelle eingerichtet, die für die Analyse tatsächlicher CPS-Daten innerhalb einer konfigurierten Testumgebungsumgebung dienen. Die Proxy-Modelle identifizieren Anomalien (Ф) durch den Vergleich neuer Daten (I) mit Mustern aus der Synthese und historischen Eingaben zur Generierung eines Anomalie-Scores (Å), der Elemente kennzeichnet, die einen vorgegebenen Grenzwert/Schwellenwert überschreiten (τ), die rechnerisch ausgedrückt wird als,
   (13)
   (14)
   Sowohl (13) als auch (14) stellen sicher, dass es eine Methode zur Erkennung von abnormalem Systemverhalten und Fehlern in einem frühen Stadium bietet.
   Die prädiktive Modellierung mit Proxy-Modellen beinhaltet das Erlernen von Repräsentationen, die Vorhersagen über Systemverhalten oder -zustände aus dynamischen/zukünftigen Eingabedatensequenzen (I_F), die wie folgt ausgedrückt wird:
   (15)
   Der operationelle Arbeitsablauf der GPLF, der in Abbildung 2 integriert adaptive Feedbackschleifen, die sowohl die Zuverlässigkeit des CPS-Systems als auch die kontinuierliche Relevanz aufrechterhalten. Die Erkennung von Anomalien oder Systemabweichungen in Phase 6 führt dazu, dass das Verfahren seine Schritte zurück zu Phase 3 zurückverfolgt, wo neue synthetische Daten unter Verwendung aktualisierter privater Einträge erstellt werden, um den Modellen zu helfen, sich an sich ändernde Muster anzupassen. Signifikante Abweichungen von erwarteten Ergebnissen oder Vorhersagen und schlechte Genauigkeit, die in Phase 6 festgestellt wurden, erzwingen eine Rückkehr zu Phase 2, in der die Teilnehmer ihre Modelle mit den genauesten und aktuellsten verfügbaren Daten neu trainieren müssen. Wenn sich die Modellkonvergenz während der Systembewertungen der Stufe 5 als unzureichend erweist oder Inkonsistenzen offensichtlich werden, geht das System zurück zu Stufe 4, um Verfeinerungen durch verbesserte synthetische Daten und optimierte Datenschutztechniken vorzunehmen. Die Schleifenmechanismen stellen eine adaptive Lernbereitschaft her, die eine starke Systemleistung und -sicherheit über den Betrieb des Steuerungs- und Prozesssystems hinweg aufrechterhält.
   Eine starke Mischung aus Hardware- und Softwarekomponenten validierte die GPLF-Funktionen für den CPS-Einsatz durch skalierbare, sichere Operationen. Die spezifischen Plattformanforderungen für GPLF umfassten Ubuntu 20.04 LTS mit Python v3.9-Implementierung sowie die Deep-Learning-Frameworks PyTorch v1.12 und TensorFlow v2.9, um Schulungen für private, Proxy- und Diffusionsmodelle durchzuführen. Bewertung der Systemleistung: Kombination der Visualisierungssoftware Matplotlib v3.5 mit der statistischen Visualisierung Seaborn v0.11 und dem Benchmarking von Scikit-learn v1.1 neben Datenschutzmaßnahmen von PySyft v0.6.0 für Differential Privacy und TenSEAL v0.3 für homomorphe Verschlüsselung. Zu den Hardwareanforderungen gehörten ein AMD EPYC-7502P-Prozessor zusammen mit einer A100-GPU mit CUDA v11.6 für Recheneffizienz und Speicheranforderungen von 256 GB RAM zur Unterstützung umfangreicher CPS-Datensätze sowie eine 1-TB-SSD, gefolgt von einem Gigabit-Ethernet-Netzwerk, das für den sicheren Informationsaustausch ausgelegt ist, um die effizienten Forschungsexperimente durchzuführen. GPLF-Algorithmen erhielten eine Validierung durch diese Systemkonfiguration, die Daten schützte und gleichzeitig Skalierbarkeitsprinzipien für reale CPS-Implementierungen bewies. Die Versionsauswahl erreicht die Kompatibilität mit fortschrittlicher Verschlüsselung sowie Federated Learning und generativen Modelltechniken und ermöglicht eine zuverlässige Validierungsskalierbarkeit über mehrere CPS-Anwendungen hinweg.
   Während der Studie entschied sich die Studie für einige wichtige Hyperparameter, die Leistungsmaximierung mit Schutz der Privatsphäre und Skalierbarkeit über alle GPLF-Stufen hinweg in Einklang brachten. Um lokales mit kollaborativem Lernen in Einklang zu bringen, legten die Forscher die einzigartigen Lernraten auf 0,001 und 0,01 für private und Proxy-Modelle fest, behielten aber Gauß-initialisierte Gewichte bei, um eine stabile Konvergenz zu gewährleisten. Um eine Überanpassung bei der Verarbeitung von CPS-Daten zu vermeiden, wurden für den lokalen Trainingsprozess Batches von 32 Instanzen verwendet, die sich jeweils über zehn Epochen erstreckten. Für die Generierung synthetischer Daten musste das Diffusionsmodell einen Prozess von 1000 Schritten bei einer Rauschstandardabweichung von 0,05 verwenden, um die Genauigkeit kritischer Merkmale zu erhalten. Die Datenanonymisierung durch Differential Privacy wurde durch die Implementierung von Gradient Clipping bei 1,0 mit einer auf 0,1 angepassten Rauschskala unter Beibehaltung des Nutzens des Datensatzes erreicht. Für die homomorphe Verschlüsselung wird das Paillier Cryptosystem²⁴ wird eingesetzt, um Gradienten durch rein additive Operationen im Rahmen des Federated Learning zu verarbeiten. Das Paillier-Kryptosystem ermöglicht direkte Operationen mit verschlüsselten Informationen, wodurch umfangreiche Kommunikationsanforderungen in sicheren Mehrparteien-Rechensystemen entfallen. Diese Technik ermöglicht eine schnellere Aggregation bei reduzierten Kommunikationsanforderungen, was zu einer skalierbaren und effizienten Lösung für sichere Berechnungen in ressourcenbegrenzten CPS-Systemen führt. Die vorgegebene Grenze / Schwelle zur Anomalieerkennung und ein Vorhersagehorizont von zehn Schritten gewährleisteten eine genaue Überwachung und proaktive Entscheidungsfindung im CPS. Durch Hyperparameter-Feinabstimmung wird eine perfekte Balance zwischen Leistungsmetriken und Systemanpassungsfähigkeit mit Schutz der Privatsphäre in praktischen CPS-Anwendungen erreicht.
   Tabelle 2 dokumentiert die notwendigen Hyperparameter für jede Phase der GPLF-Forschung und optimale Werte, um die beste Leistung über die gesamte Methodik hinweg zu erzielen.
   Zwei prominente Datensätze werden für das Training und die Bewertung des vorgeschlagenen Ansatzes unter verschiedenen Aspekten berücksichtigt. Sie sind TON_IoT^{25,26,27,28,29,30,31} und UNSW-NB15^{32,33,34,35,36} von der University of New South Wales (UNSW) Canberra. Sowohl TON_IoT- als auch UNSW-NB15-Datensätze wurden ausgewählt, da sie eine umfassende Palette von CPS-Bedingungen enthalten. Diese Datensätze dienen unterschiedlichen Zwecken, da TON_IoT verschiedene IoT-Sensormesswerte in Kombination mit industriellen Situationsmodellen darstellen und UNSW-NB15 umfangreiche Netzwerk-Intrusionsdatentests für Sicherheitssysteme bietet. Die Kombination von TON_IoT- und UNSW-NB15-Datensätzen ermöglicht eine vollständige Leistungsbewertung der GPLF in verschiedenen Betriebsumgebungen. Die Einbeziehung neuer Datensätze wird die Betriebssicherheit des Frameworks erhöhen, da wir dieses Manko als zukünftiges Entwicklungsziel identifiziert haben.
   Die TON_IoT Datensätze stellen ein umfangreiches Datenrepository dar, das entwickelt wurde, um die Leistung von Cybersicherheitsanwendungen mit KI- und ML-Algorithmus-basierten Systemen zu testen. An der australischen Militärakademie unter der UNSW, wo Forscher diese Datensätze aus heterogenen Quellen generierten, die Telemetrieinformationen von über 10 indigenen und industriellen IoT-Sensoren verwenden, darunter Wetterleser und Modbus-Sensoren sowie Betriebssystemprotokolle und Netzwerkpakete, die mit ZEEK (Bro) im pcap-Format in Verbindung mit Protokolldateien und Comma-Separated Values (CSV)-Dateien erfasst wurden. Dieser Datensatz stammt aus einem realen Netzwerk, das IoT-Komponenten sowohl mit Cloud-Funktionen als auch mit Edge-/Fog-Computing-Funktionen kombiniert, die auf mehreren Hosts verwaltet wurden, auf denen virtuelle Maschinen und verschiedene Betriebssysteme ausgeführt werden. Das konstruierte System ermöglichte es den Forschern, Tests von Cyberangriffen durchzuführen, zu denen Distributed Denial of Service (DDoS)- und DoS-Angriffe sowie Ransomware-Angriffe auf IoT-Anwendungen und Computernetzwerke innerhalb des kombinierten Umfelds von Internet of Things und Industrial IoT gehören. TON_IoT Datensätze umfassen Rohdatenkomponenten sowie verarbeitete Daten mit Standardfunktionen und -beschriftungen, Trainings- und Testbeispiele, Merkmalsbeschreibungen, statistische Zusammenfassungen und Sicherheitsereignisse sowie Ground-Truth-Labels. KI-gesteuerte Cybersicherheitslösungen für Malware-Erkennungsmechanismen, IDS, Betrugserkennungsmethoden und Threat-Intelligence-Plattformen sowie Prozesse zur Wahrung der Privatsphäre und digitale Forensik profitieren von TON_IoT Datensätzen aufgrund ihres strukturierten Organisationsdesigns, das auch gegnerische ML-Modelle und Methoden zur Bedrohungssuche unterstützt.
   Das Cyber Range Lab der UNSW Canberra hat den UNSW-NB15-Datensatz als umfassenden Standard für die Evaluierung von Netzwerk-Intrusion-Detection-Systemen entwickelt. Durch das IXIA PerfectStorm-Tool werden bei der Erstellung des UNSW-NB15-Datensatzes sowohl reale normale moderne Aktivitäten als auch synthetische Angriffsdemonstrationen zusammengeführt, wodurch schätzungsweise 100 GB Netzwerkverkehr im pcap-Format erfasst werden. Der Datensatz umfasst neun einzigartige Angriffsvarianten: Analyse, DoS, Fuzzer, Backdoors, Shellcode, Exploits, Worms, Generic und Reconnaissance. Durch den Einsatz von Argus- und Bro-IDS-Tools zusammen mit zwölf entwickelten Algorithmen extrahierten und markierten die Forscher 49 Merkmale, die eine umfassende Analyse ermöglichten. Mehr als 2,5 Millionen Datensätze füllen das Dataset, das sich über vier CSV-Workstations erstreckt und in 175.341 Datensätze für Schulungszwecke und 82.332 Datensätze für das Testen der Funktionalität unterteilt ist. Die systematische Anordnung der Daten innerhalb dieses Rahmens treibt sowohl die Entwicklungs- als auch die Testprozesse für Intrusion-Detection-Modelle voran.

Abbildung 2: Arbeitsablauf der GPLF. Der sequenzielle Arbeitsablauf der GPLF, der jeden wichtigen Prozessschritt hervorhebt. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.

Tabelle 2: Parameterspezifikationen der GPLF. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.

Results

Die Kennzahl des Privacy Leakage Reduction Index (PLRI) misst die Reduzierung von Datenschutzlecks im Vergleich zu Standardmodellen. Die Evaluierung konzentriert sich darauf, wie Differential Privacy und homomorphe Verschlüsselung als Ansätze zur Wahrung der Privatsphäre funktionieren.

Die Bewertung von Datenschutzlecks bewertet die Anzahl der verfügbar gemachten Datenpunkte im Verhältnis zur Gesamtzahl der Aktualisierungen in Modellen sowie der synthetischen Datenverteilungsaktivitäten. Es be...

Discussion

Die Designelemente der GPLF unterstützen nicht nur ihre Datenschutzfunktionen, sondern bieten auch zusätzliche Vorteile, die ihre Einsatzfähigkeit verbessern. Durch den Einsatz von Diffusionsmodellen zur Erzeugung synthetischer Daten mit hoher Genauigkeit bietet das Framework neben der Überwachung kritischer Infrastrukturen auch grundlegende Datenschutzschichten für wichtige Bereiche wie das Gesundheitswesen und behält gleichzeitig präzise generative Modellierungsfunktionen bei. GPLF err...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
A100 GPU (CUDA)	NVIDIA	CUDA Version 11.6	GPU-Beschleunigung für Modelltraining und -bewertung.
AMD EPYC-7502P CPU	AMD	N/A	Prozessor für High-Performance-Computing.
Gigabit Ethernet	Intel	N/A	Networking für sichere Peer-to-Peer-Kommunikation in CPS.
Matplotlib	Python Software Foundation	Version 3.5	Visualisierungsbibliothek zum Zeichnen von Ergebnissen.
Paillier Cryptosystem	Open Source (implementiert über TenSEAL)	N/A	Ermöglicht additive homomorphe Verschlüsselung auf Gradienten.
PySyft	OpenMined	Version 0.6.0	Differential Privacy und Federated Learning Bibliothek.
Python (Anaconda-Distribution)	Anaconda Inc	Version 3.9	Enthält vorinstallierte Pakete und Tools zur Umgebungsverwaltung, die für die Skripterstellung und Framework-Entwicklung verwendet werden.
PyTorch	Meta AI	Version 1.12	Deep-Learning-Framework zum Trainieren von Modellen.
RAM	Corsair	256 GigaByte (GB)	Hohe Gedächtnisunterstützung für intensives Training.
Scikit-learn	Python Software Foundation	Version 1.1	Tools für maschinelles Lernen zur Leistungsbewertung.
Seaborn	Python Software Foundation	Version 0.11	Bibliothek zur Visualisierung statistischer Daten.
SSD-Speicher	Seagate	1 TeraByte (TB)	Für schnelles Speichern und Abrufen von Daten.
TenSEAL	OpenMined	Version 0.3	Homomorphe Verschlüsselungsbibliothek für sichere Aggregation.
TensorFlow	Google	Version 2.9	Deep-Learning-Framework für Diffusionsmodelle.
Ubuntu OS	Canonical	Version 20.04 LTS	Betriebssystem wird für alle Experimente verwendet.