Stratégie d’apprentissage par procuration pilotée par diffusion avec interactions sécurisées entre pairs pour l’intelligence générative dans un système cyber-physique

Summary

Nous présentons ici le cadre d’apprentissage par proxy génératif (GPLF) qui apporte l’apprentissage fédéré basé sur le proxy (ProxyFL) pour améliorer les solutions d’IA générative dans les systèmes cyber-physiques (CPS). En intégrant des fonctionnalités de confidentialité différentielle et des méthodes de cryptage, GPLF améliore la protection de la vie privée, ce qui réduit les fuites de confidentialité, rendant ainsi les opérations du système cyber-physique plus intelligentes et plus sûres.

Abstract

Le système cyber-physique (CPS) associe l’intelligence informatique aux processus physiques, ce qui permet une surveillance instantanée, une capacité de prise de décision et des services d’automatisation dans divers domaines vitaux. De plus, l’intelligence artificielle générative (IA) se heurte à des obstacles considérables au déploiement au sein de CPS, car les environnements distribués contenant des données sensibles présentent de sérieux défis en matière de confidentialité et de maintenance de la sécurité. Les techniques actuelles, comme le Federated Learning (FL), rencontrent des difficultés tant dans la diversité de leurs modèles que dans le risque de compromission de la vie privée. Le Generative Proxy Learning Framework (GPLF) est notre solution innovante qui utilise l’apprentissage fédéré basé sur le proxy (ProxyFL) spécifiquement adapté aux applications d’IA générative au sein des systèmes cyber-physiques (CPS). Dans GPLF, chaque participant gère deux modèles : les participants exploitent un modèle privé dédié à l’analyse de données locales ainsi qu’un modèle proxy partagé qui permet la collaboration de nœuds protégés. En tant que base essentielle des mécanismes d’IA générative, les modèles de diffusion avancés fournissent des données synthétiques haute fidélité ainsi que la préservation des caractéristiques clés des données. Les modèles génèrent des données de capteur synthétiques, ce qui permet d’améliorer la détection des anomalies et prend en charge la modélisation prédictive grâce à des représentations authentiques du comportement CPS dans divers scénarios. Le système offre une protection avancée de la vie privée avec des mécanismes de confidentialité différentiels dans les mises à jour des données proxy, tandis que la communication directe entre pairs dans le réseau bénéficie de protections de cryptage avancées. GPLF sert les plates-formes CPS en se connectant à des capteurs en temps réel et à des appareils IoT qui prennent en charge des processus génératifs sécurisés, notamment la détection d’anomalies, la création de données synthétiques et la modélisation prédictive. Les résultats des tests effectués à partir d’ensembles de données CPS de référence montrent des améliorations considérables des performances, avec une réduction de 25 % des fuites de confidentialité et des capacités d’échange de données améliorées de 25 %, ainsi qu’une amélioration de 18 % de la précision des tâches génératives pour soutenir son potentiel de transformation pour des opérations CPS sécurisées et intelligentes.

Introduction

La recherche étudie les systèmes cyber-physiques (CPS) en combinant l’intelligence informatique avec des processus du monde réel pour permettre une surveillance en temps réel ainsi que des capacités de prise de décision rapide et l’automatisation des systèmes¹. Les technologies émergentes de l’Internet des objets (IoT) et de l’intelligence artificielle (IA) élargissent considérablement la gamme d’applications où les systèmes CPS exécutent des fonctions essentielles dans le développement de réseaux intelligents et les processus d’automatisation industrielle, ainsi que dans les services de prestation de soins de santé². Les entreprises qui déploient CPS utilisent de plus en plus de modèles d’IA générative, qui offrent la possibilité d’imiter le comportement du système et de permettre une modélisation prédictive ainsi qu’une détection améliorée des anomalies. Le format distribué des données CPS, combiné à ses attributs sensibles, entraîne des vulnérabilités majeures en matière de confidentialité, ainsi que des problèmes de sécurité et d’évolutivité dans les implémentations d’IA générative.

Les techniques existantes, telles que l’apprentissage fédéré (FL), se concentrent sur la protection de la confidentialité des données mais se heurtent à des limites, notamment la menace de fuite de la confidentialité des mises à jour du modèle, ainsi qu’une prise en charge réduite de l’IA générative et une gestion inadéquate de diverses conditions CPS³. Les approches actuelles ne disposent pas de l’intégration essentielle de mécanismes avancés conçus à la fois pour la génération de données et les mesures de protection lors du travail dans des CPS distribués pendant un fonctionnement en temps réel. Alors que les cadres actuels sont insuffisants dans de nombreux domaines, les recherches existantes démontrent des besoins importants qui ne peuvent être satisfaits qu’en créant une nouvelle solution offrant des modèles génératifs sécurisés et évolutifs ainsi qu’une protection claire de la vie privée⁴.

La nouvelle étude GPLF (Generative Proxy Learning Framework) décrit une méthode spécialement conçue pour faciliter le déploiement des fonctions d’IA générative au sein de CPS. GPLF implémente un schéma FL⁵ basé sur un proxy, de sorte que les utilisateurs peuvent fonctionner avec des modèles privés pour l’examen de données individuelles et des modèles proxy pour soutenir des activités d’apprentissage coopératif protégées. Cette recherche vise à améliorer la confidentialité des données par l’application d’approches de confidentialité différentielles combinées à un cryptage homomorphe sécurisé et utilise des modèles de diffusion avancés pour une production de données synthétiques de haute qualité. Le système prend en charge la détection sécurisée des anomalies ainsi que les fonctions de modélisation prédictive tout en permettant un transfert efficace d’informations entre les opérations CPS distribuées.

GPLF résout les défis existants en matière de FL grâce à sa conception de cadre à double modèle, qui offre une protection des données et une flexibilité du système⁶. Chaque participant au CPS utilise à la fois des modèles privés et des modèles proxy, qui établissent deux systèmes distincts pour assurer la protection de la vie privée à l’échelle locale et permettre des capacités d’apprentissage en équipe. Le modèle privé utilise des opérations localisées pour apprendre des données confidentielles d’un participant et maintient une confidentialité totale des données en stockant des informations sensibles dans les paramètres de chaque participant. Le système atteint des performances maximales lors de la détection d’anomalies et de la reconnaissance de modèles au niveau local⁷. Le modèle indirect sert de mécanisme d’apprentissage collectif conjoint accessible à tous les participants pour un partage sécurisé des connaissances. Le modèle proxy s’entraîne en toute confidentialité via un traitement de données synthétiques épuré à partir de modèles de diffusion et la communication des mises à jour par le biais d’une confidentialité différentielle et d’un chiffrement homomorphe, car cela permet une FL privée mais fonctionnelle.

La stratégie de diffusion permet de créer des ensembles de données synthétiques de qualité supérieure qui conservent les caractéristiques essentielles tout en dissimulant les détails personnels. Cette recherche a révélé des avancées substantielles, qui se sont manifestées par une baisse majeure des fuites de confidentialité grâce à des fonctions d’échange de données améliorées et à une meilleure performance des tâches génératives, permettant des opérations de système cyber-physique plus résilientes. Le GPLF crée une nouvelle méthodologie pour le CPS intelligent en unissant un apprentissage préservant la confidentialité avec des capacités d’IA générative⁸.

Le GPLF présente de nouvelles capacités grâce à sa conception à double modèle, spécifiquement destinée à gérer les problèmes de confidentialité dans le déploiement de l’IA générative dans l’ensemble du CPS. Alors que l’apprentissage fédéré conventionnel utilise un modèle pour tous les participants, GPLF déploie à la fois des modèles privés pour l’examen des données locales et des modèles proxy pour effectuer des tâches d’apprentissage en groupe. Grâce à une séparation stricte des données, les patients conservent les informations sensibles localement, mais utilisent les données synthétiques aseptisées du modèle proxy combinées à une confidentialité différentielle pour parvenir à une collaboration sécurisée. Le modèle proxy assure une détection robuste des anomalies et une modélisation prédictive tout en maintenant l’adaptabilité du système grâce à des données synthétiques de haute qualité générées par des modèles de diffusion, garantissant ainsi la protection de la vie privée des utilisateurs. GPLF se distingue comme un cadre innovant pour les systèmes CPS sécurisés, car son approche à double modèle offre une protection renforcée de la vie privée ainsi que des données sécurisées tout en maintenant l’évolutivité et l’efficacité opérationnelle.

L’objectif de l’étude est de développer un apprentissage fédéré basé sur des proxys (ProxyFL), qui nécessite une architecture à double modèle pour permettre une adaptation sécurisée au sein de CPS. De plus, des modèles de diffusion avancés sont essentiels pour servir de point d’intégration pour la production de données synthétiques afin de maintenir les caractéristiques essentielles des données pendant les mesures de protection de la vie privée. Enfin, il est nécessaire de mettre en œuvre des méthodes de confidentialité différentielles parallèlement à des protocoles de cryptage homomorphes pour assurer la sécurité des données et protéger la confidentialité lors de l’agrégation par gradient.

Le tableau 1^{9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19} met en évidence les processus de base des méthodes existantes et leurs réalisations, avec quelques limites critiques.

Tableau 1 : Aperçu des principaux axes de recherche existants, des composantes de base, des réalisations et des limites. Veuillez cliquer ici pour télécharger ce tableau.

Les approches existantes pour fusionner l’IA générative dans les systèmes CPS présentent des problèmes critiques liés à l’extension à des déploiements à grande échelle tout en maintenant les réglementations en matière de confidentialité et en assurant la flexibilité du système²⁰. Les méthodes actuelles de FL présentent des contraintes dues à une variété insuffisante de modèles, tout en démontrant de faibles performances sur des systèmes dispersés et changeants et en exposant les données des utilisateurs en raison de pratiques de transmission de données vulnérables. Les représentations de données haute fidélité nécessaires à la détection d’anomalies, à la génération de données synthétiques et à la modélisation prédictive dans CPS échappent souvent à de nombreuses solutions de modélisation générative, qui peuvent compromettre la confidentialité et l’efficacité de calcul dans leurs tentatives d’atteindre ces normes. Les déficiences actuelles du système confirment l’exigence du cadre de prendre en charge des processus d’IA générative évolutifs, sécurisés et efficaces.

Protocol

Le Generative Proxy Learning Framework (GPLF) représente une nouvelle technologie qui intègre l’IA générative au CPS et résout d’importants problèmes de confidentialité des données ainsi que des mesures de sécurité et de performance au sein des systèmes de réseau distribués. La fonctionnalité des plateformes CPS dépend d’une surveillance à jour et d’opérations automatisées qui extraient des données sensibles d’un nombre croissant d’appareils et de capteurs IoT. L’adoption des technologies d’IA générative dans les systèmes CPS s’est avérée introduire des risques particuliers tels que des vulnérabilités en matière de confidentialité, combinés à des défis de sécurité dans les configurations de réseaux distribués. GPLF déploie un cadre innovant d’apprentissage fédéré basé sur des proxys (ProxyFL) qui prend en charge l’apprentissage collaboratif sécurisé spécifiquement destiné aux tâches génératives afin d’atténuer les problèmes existants. Une évaluation approfondie du cadre GPLF a eu lieu sur une plateforme CPS dont le banc d’essai combinait différentes technologies de réseau de capteurs avec des appareils IoT et la diffusion de données en direct.

Les participants au GPLF utilisent deux modèles distincts au cours de leur participation.
Un modèle privé exclusif fonctionne pour l’examen local des données tout en protégeant les données contre tout accès extérieur.
Le modèle de proxy partagé⁵ du système permet une coopération sécurisée entre les participants grâce à la technologie de cryptage associée à des méthodes de confidentialité différentielles.

Le cadre utilise des modèles de diffusion pour créer des ensembles de données synthétiques élaborés qui permettent de détecter les anomalies tout en montrant la modélisation prédictive et le suivi du comportement du système lors de diverses simulations de scénarios. Les ensembles de données synthétisés conservent des caractéristiques importantes grâce à des méthodes efficaces de préservation de la vie privée. Le cadre exploite des échanges sécurisés de pair à pair via des techniques de cryptage fortes qui protègent les canaux de communication contre les attaques malveillantes. Les évaluations réalisées avec GPLF sur des plateformes CPS réelles ont montré comment il pouvait apporter des avancées substantielles en matière de capacités opérationnelles sécurisées et intelligentes dans les limites de l’évolutivité. Des améliorations significatives des mesures de protection de la vie privée, ainsi que des améliorations complémentaires des capacités d’échange de données et de la précision des tâches génératives, ont prouvé sa valeur fonctionnelle et ses résultats concrets en matière de performances. Les étapes principales de GPLF comprennent l’initialisation de l’apprentissage fédéré basée sur un proxy ainsi que l’entraînement local des données privées, qui constitue l’épine dorsale de GPLF et intègre les mises à jour du modèle proxy protégées par une confidentialité différentielle. Des méthodes de génération de données synthétiques de modèle diffus avec des techniques d’échange de données peer-to-peer sécurisées et des modules pour la détection d’anomalies et la modélisation prédictive sont également inclus. La structure organisée de la figure 1 montre les éléments essentiels du GPLF, qui ont le potentiel d’optimiser les opérations de base du CPS.

Figure 1 : Cadre architectural de GPLF pour des opérations CPS sécurisées et intelligentes. Conçu pour permettre des opérations sécurisées et intelligentes dans les systèmes cyber-physiques. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Les sections suivantes détaillent les six étapes du cadre de communication sécurisée entre des appareils hétérogènes dans une plate-forme CPS.

1. Initialisation de l’apprentissage fédéré basée sur un proxy

L’étape 1 est l’initialisation de l’apprentissage fédéré basée sur un proxy, où GPLF utilise le processus d’initialisation FL basé sur un proxy pour configurer le système (N) de chaque participant CPS avec deux modèles qui garantissent la confidentialité tout en permettant aux participants de collaborer en toute sécurité grâce à la fonctionnalité d’apprentissage. Les participants individuels au CPS (i) reçoivent un modèle privé pour fonctionner avec leurs données locales (d_i) pour la protection de la vie privée, ainsi qu’un modèle de proxy partagé pour permettre un comportement coopératif sécurisé entre les participants. Les modèles commencent leur entraînement avec des poids créés à partir d’entrées aléatoires d’une distribution gaussienne²¹ pour des conditions initiales normalisées, qui est exprimée comme dans l’équation (1),
(1)
Les participants traitent leurs données de manière autonome tout en échangeant des informations par le biais de modèles partagés qui prennent en charge l’apprentissage génératif distribué préservant la confidentialité dans les systèmes CPS.

2. Formation locale sur les données privées

L’étape 2 est une formation locale sur les données privées ; Ici, la formation aux données a lieu, où les participants CPS développent des modèles privés à partir de leurs données locales stockées pour maintenir une protection complète des données sur site en les isolant à l’abri des expositions externes. Les participants reçoivent une formation sur l’optimisation de modèles basée sur les données à l’aide de la descente de gradient stochastique (SGD)²² qui se produit par le biais d’une fonction de perte localisée (l_local) et prend en charge à la fois l’extraction d’informations significatives et les adaptations localisées tout en préservant la confidentialité des données.
(2)
(3)
D’après (2) et (3), I et O désignent l’entrée de l’échantillon et la valeur cible correspondante. L indique la perte avec un taux d’apprentissage (Ɽ). Cette étape développe des systèmes d’intelligence individuelle des participants, qui servent de base à de futurs processus éducatifs collaboratifs sécurisés.
Le réseau neuronal récurrent indépendant (IndRNN) fonctionne comme le modèle ML de l’étape 2, car son architecture permet l’indépendance des neurones à chaque pas de temps pour gérer des tâches CPS spécifiques tout en atténuant les problèmes de gradient RNN traditionnels. Chaque neurone de la configuration IndRNN est livré avec un poids récurrent individuel, ce qui permet une meilleure capture des dépendances à long terme. Le modèle d’opération séparé améliore la transmission de gradient, ce qui permet d’adapter efficacement les structures de réseau profondes tout en maintenant l’efficacité des processus de calcul. Le traitement séquentiel des données sur les plates-formes CPS fonctionne mieux avec IndRNN en raison de sa capacité à traiter de longues séquences à l’aide de modèles d’apprentissage solides tout en maintenant la complexité du réseau à un faible niveau.
Le calcul de l’équation (4) montre que la solution au problème de la disparition et de l’explosion du gradient au sein d’IndRNN découle de son approche distinctive de la conception de connexions récurrentes.
(4)
D’après (4), ω et H_t indiquent respectivement le poids et l’état caché à t. représentent le vecteur de signification récurrente indépendante (poids), un pour chaque point de données, ce qui permet l’indépendance sur différents pas de temps. ʘ désigne la conception comporte un support de multiplication élément par élément, qui maintient une indépendance complète entre les connexions récurrentes de chaque neurone, et ä signifie la fonction d’activation. La conception de l’architecture neuronale évite l’expansion ou la contraction du gradient tout au long de la séquence de calculs, ce qui favorise l’entraînement stable du modèle d’apprentissage et le succès de l’apprentissage de modèles étendus.
L’IndRNN devient l’approche privilégiée pour la détection des anomalies CPS car elle permet d’empêcher avec succès les explosions et les disparitions de gradients RNN traditionnels. Les dépendances à long terme deviennent faciles à suivre grâce à l’architecture IndRNN, car elle fonctionne avec moins de complexités que les modèles Transformer et permet à la fois une convergence rapide et un fonctionnement en temps réel. La nature efficace d’IndRNN le rend exceptionnellement adapté pour représenter les caractéristiques opérationnelles limitées en ressources de CPS tout en fournissant une reconnaissance exacte des anomalies sans contrainte de calcul excessive.

3. Modèle de diffusion pour la génération de données synthétiques

L’étape 3 est le modèle de diffusion pour la génération de données synthétiques. Cette étape utilise des modèles de diffusion avancés pour produire des données synthétiques, qui reproduisent les principales caractéristiques des données privées acquises. Les modèles apprennent la distribution des données sensibles à la vie privée d’origine grâce à l’ajout d’un bruit contrôlé pour recueillir les caractéristiques, ce qui permet de créer des données synthétiques avec une haute fidélité qui conserve les caractéristiques importantes tout en protégeant les protections de la vie privée. La procédure itérative de débruitage génère des données synthétiques, en conservant les propriétés statistiques essentielles et les éléments structurels des données réelles.
Initialement, le processus d’entraînement du modèle de diffusion générative (Υ) se concentre sur la création de données synthétiques avec une haute fidélité tout en conservant les caractéristiques cruciales des données privées (d_i), et le calcul de base d’une telle génération implique,
(5)
D’après (5), indiquez l’incorporation du bruit gaussien dans les échantillons de données. Les données synthétiques nouvellement générées sont exprimées comme suit :
(6)

4. Mises à jour du modèle proxy avec confidentialité différentielle

L’étape 4 est la mise à jour du modèle proxy avec confidentialité différentielle. À cette étape, chaque participant communicatif utilise des données synthétiques créées par le modèle de diffusion au cours de cette étape pour entraîner son modèle proxy à ce stade.
(7)
Les gradients de mises à jour du modèle proxy restent privés en raison de mécanismes de confidentialité différentiels ajoutant du bruit à leurs valeurs.
(8)
Pour protéger la confidentialité des données, des méthodes de chiffrement avancées (chiffrement homomorphe) transforment (ξ) les mises à jour nettoyées (U) en données sécurisées, qui sont distribuées soit par l’intermédiaire d’un serveur central, soit par l’intermédiaire de plusieurs nœuds pairs.
(9)
De (9), ҟ signifie la clé de chiffrement. Grâce à l’agrégation collaborative de mises à jour chiffrées, les systèmes maintiennent la sécurité des informations locales sensibles lors de l’exécution sécurisée d’opérations d’apprentissage distribuées.
Le chiffrement homomorphe²³crée des plates-formes sécurisées pour exécuter des calculs sur des données chiffrées sans déchiffrement avant de permettre l’obtention de résultats finaux à partir d’entrées chiffrées telles que des gradients d’agrégats. Les données restent cryptées pendant toute leur durée de fonctionnement (de bout en bout), ce qui permet d’éviter les violations extérieures pendant les processus de calcul. La plateforme permet aux participants du CPS de différents endroits d’échanger des mises à jour de données cryptées pour des opérations d’apprentissage collaboratif sans divulguer d’informations privées. Conformément aux objectifs de l’étude, cette technique maintient une protection complète de la vie privée comme requis et présente des performances supérieures par rapport aux autres méthodes de cryptage, qui nécessitent le décryptage des données pour le calcul, l’exposant ainsi à des menaces potentielles. Le chiffrement homomorphe s’avère être la méthode de sécurité la plus appropriée pour les systèmes proxyFL car il prend en charge à la fois les calculs sécurisés sur les données et les opérations de chiffrement autonomes.

5. Sécurisez les interactions entre pairs

1. L’étape 5 est celle des interactions sécurisées entre pairs. Au cours de cette étape, les participants transmettent en toute sécurité leurs mises à jour de modèle de proxy nettoyé et chiffré, qu’ils ont créées à l’étape 4. Les participants (i) maintiennent la confidentialité lors de la transmission des mises à jour grâce au cryptage homomorphe, qui facilite les calculs tels que l’agrégation de gradient sur les données cryptées directement sans avoir besoin de décrypter. Les participants expriment la communication entre pairs par le biais de méthodes informatiques telles que,
   (10)
   D’après (10), il est évident que l’interaction/communication sécurisée entre pairs au sein des plates-formes CPS est assurée par un cryptage homomorphe, (ξ(·)).
   Grâce à l’agrégation de gradient (Ψ), les contributions de gradient chiffrées de plusieurs utilisateurs permettent la mise à jour collaborative du modèle proxy commun. Cette étude montre l’accumulation sécurisée des gradients cryptés de chaque participant grâce au cryptage homomorphe.
   (11)
   À partir de (11), N représente le décompte du participant. La méthode permet également des calculs directs sur des gradients cryptés et protège les données sensibles lors de l’agrégation. Les participants mettent à jour le modèle proxy en décryptant les gradients agrégés, ce qui permet un apprentissage collaboratif respectueux de la vie privée dans l’ensemble du réseau CPS. Les méthodes de décryptage sécurisées préservent l’accès privé à des dégradés individuels pour tous les utilisateurs pendant tout le processus.
   (12)
   Ainsi, les restrictions d’autorisation sécurisées empêchent les participants individuels d’accéder aux mises à jour de données appartenant à des facteurs externes. Le réseau utilise des mises à jour agrégées pour l’amélioration collaborative des modèles de proxy partagé afin de réaliser un apprentissage distribué sécurisé avec de solides protections de la vie privée dans les systèmes CPS.

6. Détection d’anomalies et modélisation prédictive

1. Enfin, l’étape 6 est la détection d’anomalies et la modélisation prédictive. À ce stade, les modèles proxy mis à jour sont établis pour servir à l’analyse des données CPS réelles dans un environnement de banc d’essai configuré. Les modèles proxy identifient des anomalies (Ф) en comparant de nouvelles données (I) avec des modèles provenant de la synthèse et des entrées historiques pour générer un score d’anomalie (Å) qui signale les éléments dépassant une limite/un seuil prédéterminé (τ), qui est exprimé par calcul comme suit :
   (13)
   (14)
   Les valeurs (13) et (14) garantissent qu’elles fournissent une méthode pour reconnaître les comportements anormaux et les défauts du système à un stade précoce.
   La modélisation prédictive avec des modèles proxy implique l’apprentissage de représentations qui produisent des prévisions sur les comportements ou les états du système à partir de séquences de données d’entrée dynamiques/futures (I_F), qui s’exprime comme suit :
   (15)
   Le flux de travail opérationnel du GPLF démontré dans Graphique 2 intègre des boucles de rétroaction adaptatives, qui maintiennent à la fois la fiabilité et la pertinence continue du système CPS. Les détections d’anomalies ou de dérives du système à l’étape 6 conduisent la procédure à revenir à l’étape 3, où de nouvelles données synthétiques sont créées à l’aide d’entrées privées mises à jour pour aider les modèles à s’adapter aux modèles changeants. Une divergence significative par rapport aux résultats attendus ou aux prédictions et une faible précision identifiée au cours de l’étape 6 forcent un retour à l’étape 2, où les participants doivent réentraîner leurs modèles à l’aide des données les plus précises et les plus récentes disponibles. Au cours de l’évaluation du système à l’étape 5, si la convergence des modèles s’avère insuffisante ou si des incohérences deviennent évidentes, le système revient à l’étape 4 pour appliquer des améliorations grâce à des données synthétiques améliorées et à des techniques de confidentialité optimisées. Les mécanismes de boucle établissent une préparation à l’apprentissage adaptatif, qui maintient des performances et une sécurité solides du système dans les opérations du système de contrôle et de processus.
   Un solide mélange de composants matériels et logiciels a validé les fonctions GPLF pour le déploiement de CPS grâce à des opérations évolutives et sécurisées. Les exigences spécifiques de la plate-forme pour GPLF impliquaient Ubuntu 20.04 LTS avec l’implémentation de Python v3.9 ainsi que les frameworks d’apprentissage profond PyTorch v1.12 et TensorFlow v2.9 pour effectuer l’entraînement des modèles privés, proxy et de diffusion. L’évaluation des performances du système a combiné le logiciel de visualisation Matplotlib v3.5 avec la visualisation statistique Seaborn v0.11 et l’analyse comparative Scikit-learn v1.1, ainsi que les mesures de confidentialité de PySyft v0.6.0 pour la confidentialité différentielle et de TenSEAL v0.3 pour le cryptage homomorphe. La configuration matérielle requise comprenait un processeur AMD EPYC-7502P ainsi qu’un GPU A100 exécutant CUDA v11.6 pour une efficacité de calcul et des demandes de mémoire de 256 Go de RAM pour prendre en charge de vastes ensembles de données CPS ainsi qu’un SSD de 1 To suivi d’un réseau Gigabit Ethernet conçu pour un échange d’informations sécurisé sont inclus pour mener des expériences de recherche efficaces. Les algorithmes GPLF ont été validés par le biais de cette configuration système, qui a protégé les données tout en prouvant les principes d’évolutivité pour les implémentations CPS dans le monde réel. La sélection de la version est compatible avec le chiffrement avancé ainsi qu’avec l’apprentissage fédéré et les techniques de modèle génératif, ce qui permet une évolutivité fiable de la validation dans plusieurs applications CPS.
   Au cours de la recherche, l’étude a opté pour quelques hyperparamètres essentiels qui équilibrent la maximisation des performances avec la protection de la vie privée et l’évolutivité à toutes les étapes du GPLF. Pour équilibrer l’apprentissage local et l’apprentissage collaboratif, les chercheurs ont fixé des taux d’apprentissage uniques à 0,001 et 0,01 pour les modèles privés et indirects, mais ont maintenu des poids initialisés gaussiens pour assurer une convergence stable. Pour éviter le surajustement lors du traitement des données CPS, le processus d’entraînement local a utilisé des lots de 32 instances, chacune sur dix époques. La génération de données synthétiques nécessitait que le modèle de diffusion utilise un processus de 1000 pas à un écart-type de bruit de 0,05 pour maintenir la précision des caractéristiques critiques. L’anonymisation des données par le biais de la confidentialité différentielle a été obtenue en mettant en œuvre un écrêtage dégradé à 1,0 avec une échelle de bruit ajustée à 0,1 tout en préservant l’utilité de l’ensemble de données. Pour le chiffrement homomorphe, le Cryptosystème Paillier²⁴ est utilisé pour traiter les gradients par des opérations purement additives dans l’apprentissage fédéré. Le cryptosystème Paillier permet des opérations directes sur des informations cryptées, ce qui élimine les exigences de communication étendues dans les systèmes de calcul sécurisés multipartites. Cette technique permet une agrégation plus rapide et des exigences de communication réduites, ce qui permet d’obtenir une solution évolutive et efficace pour des calculs sécurisés dans des systèmes CPS à ressources limitées. La détection des anomalies, la limite/le seuil prédéterminé et un horizon de prédiction de dix étapes ont assuré une surveillance précise et une prise de décision proactive dans CPS. Grâce à l’ajustement fin des hyperparamètres, un équilibre parfait entre les mesures de performance et l’adaptabilité du système est obtenu avec la protection de la confidentialité dans les applications CPS pratiques.
   Tableau 2 documente les hyperparamètres nécessaires pour chaque étape de la recherche GPLF et les valeurs optimales pour obtenir les meilleures performances sur l’ensemble de la méthodologie.
   Deux ensembles de données importants sont pris en compte pour la formation et l’évaluation de l’approche proposée à travers divers aspects. Ils sont TON_IoT^{25,26,27,28,29,30,31} et UNSW-NB15^{32,33,34,35,36} de l’Université de Nouvelle-Galles du Sud (UNSW) Canberra. Les ensembles de données TON_IoT et UNSW-NB15 ont été sélectionnés parce qu’ils contiennent une gamme complète de conditions CPS. Ces ensembles de données ont des objectifs différents, car TON_IoT présente diverses lectures de capteurs IoT combinées à des modèles de situation industrielle, et l’UNSW-NB15 offre des tests complets de données d’intrusion réseau pour les systèmes de sécurité. La combinaison des ensembles de données TON_IoT et UNSW-NB15 permet une évaluation complète des performances du GPLF dans différents contextes opérationnels. L’inclusion de nouveaux jeux de données permettra d’accroître la fiabilité opérationnelle du cadre, car nous avons identifié cette lacune comme un objectif de développement futur.
   Les ensembles de données TON_IoT représentent un vaste référentiel de données développé pour tester les performances des applications de cybersécurité à l’aide de systèmes basés sur des algorithmes d’IA et de ML. À l’académie militaire australienne de l’UNSW, où les chercheurs ont généré ces ensembles de données à partir de sources hétérogènes qui utilisent les informations de télémétrie de plus de 10 capteurs IoT indigènes et industriels, y compris des lecteurs météo et des capteurs Modbus, ainsi que des journaux de système d’exploitation et des paquets réseau capturés avec ZEEK (Bro) au format pcap en conjonction avec des fichiers journaux et des fichiers CSV (Comma Separated Values). Cet ensemble de données provient d’un réseau réel qui combine des composants IoT avec des fonctions cloud et des capacités d’edge computing et de fog computing, qui ont été gérées sur plusieurs hôtes exécutant des machines virtuelles et divers systèmes d’exploitation. Le système construit a permis aux chercheurs d’effectuer des tests de cyberattaques, notamment des attaques par déni de service distribué (DDoS) et DoS, ainsi que des attaques de ransomware contre des applications IoT et des réseaux informatiques dans le cadre combiné de l’Internet des objets et de l’IoT industriel. TON_IoT ensembles de données comprennent des composants de données brutes ainsi que des données traitées avec des caractéristiques et des étiquettes standard, des échantillons d’entraînement et de test, des descriptions de fonctionnalités, des résumés statistiques et des événements de sécurité, ainsi que des étiquettes de vérité terrain. Les solutions de cybersécurité basées sur l’IA pour les mécanismes de détection des logiciels malveillants, les IDS, les méthodes de détection des fraudes et les plateformes de renseignement sur les menaces, ainsi que les processus de préservation de la confidentialité et l’investigation numérique, bénéficient de TON_IoT ensembles de données en raison de leur conception organisationnelle structurée, qui facilite également les modèles ML antagonistes et les méthodes de chasse aux menaces.
   Le Cyber Range Lab de l’UNSW Canberra a développé l’ensemble de données UNSW-NB15 en tant que norme complète pour l’évaluation des systèmes de détection d’intrusion dans le réseau. Grâce à l’outil IXIA PerfectStorm, la création de l’ensemble de données UNSW-NB15 fusionne à la fois des activités modernes normales réelles et des démonstrations d’attaques synthétiques, ce qui produit environ 100 Go de trafic réseau capturé au format pcap. L’ensemble de données comprend neuf variantes d’attaque uniques : Analyse, DoS, Fuzzers, Backdoors, Shellcode, Exploits, Worms, Generic et Reconnaissance. En s’appuyant sur les outils Argus et Bro-IDS ainsi que sur douze algorithmes conçus, les chercheurs ont extrait et étiqueté 49 caractéristiques, permettant une analyse exhaustive. Plus de 2,5 millions d’enregistrements alimentent l’ensemble de données, qui s’étend sur quatre postes de travail CSV et est divisé en 175 341 enregistrements à des fins de formation et 82 332 enregistrements pour tester les fonctionnalités. L’organisation systématique des données dans ce cadre pilote à la fois les processus de développement et de test des modèles de détection d’intrusion.

Figure 2 : Flux de travail d’exploitation de GPLF. Le flux de travail d’opération séquentielle de GPLF mettant en évidence chaque étape clé du processus. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Tableau 2 : Spécifications des paramètres du GPLF. Veuillez cliquer ici pour télécharger ce tableau.

Results

L’indice de réduction des fuites de confidentialité (PLRI) mesure la réduction des fuites de confidentialité par rapport aux modèles de référence standard. L’évaluation se concentre sur le comportement de la confidentialité différentielle et du cryptage homomorphe en tant qu’approches de préservation de la vie privée.

Le score de fuite de confidentialité évalue le nombre de points de données exposés par rapport au nombre total de mises à jour des modèles, ainsi qu’aux activités de distribution...

Discussion

Les éléments de conception du GPLF soutiennent non seulement ses fonctions de confidentialité, mais offrent également des avantages supplémentaires améliorant sa capacité de déploiement. En utilisant des modèles de diffusion pour produire des données synthétiques haute fidélité, le cadre fournit des couches de protection de la vie privée essentielles pour des domaines essentiels tels que les soins de santé, ainsi que la surveillance des infrastructures critiques, tout en maintenant des c...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
GPU A100 (CUDA)	Accélération GPU NVIDIA	CUDA version 11.6	pour l’entraînement et l’évaluation des modèles.
PROCESSEUR AMD EGYC-7502P	AMD	N/A	Processeur utilisé pour le calcul haute performance.
Gigabit Ethernet	Intel	N/A	pour une communication sécurisée d’égal à égal dans CPS.
Matplotlib	Python Software Foundation	Version 3.5	Bibliothèque de visualisation pour le traçage des résultats.
Paillier Cryptosystem	Open Source (implémenté via TenSEAL)	N/A	Permet le chiffrement homomorphe additif sur les gradients.
PySyft	OpenMined	Version 0.6.0	Confidentialité différentielle et bibliothèque d’apprentissage fédéré.
Python (distribution Anaconda)	Anaconda Inc	Version 3.9	Comprend des packages préinstallés et des outils de gestion d’environnement, utilisés pour la création de scripts et le développement de frameworks.
PyTorch	Meta AI	Version 1.12	Cadre d’apprentissage profond pour l’entraînement des modèles.
RAM	Corsair	256 GigaByte (GB)  ;	Prise en charge élevée de la mémoire pour un entraînement intensif.
Scikit-learn	Python Software Foundation	Version 1.1	Outils d’apprentissage automatique pour l’évaluation des performances.
Seaborn	Python Software Foundation	Version 0.11	Bibliothèque de visualisation de données statistiques.
Stockage SSD	Seagate	1 téraoctet (TB)	Pour un stockage et une récupération rapides des données.
TenSEAL	OpenMined	Version 0.3	Bibliothèque de chiffrement homomorphe pour une agrégation sécurisée.
TensorFlow	Google	Version 2.9	Cadre d’apprentissage profond pour les modèles de diffusion.
Système d’exploitation	Ubuntu OS	Canonical Version 20.04 LTS	Système d’exploitation utilisé pour toutes les expériences.