Strategia di apprendimento proxy basata sulla diffusione con interazioni sicure tra pari per l'intelligenza generativa nel sistema cyber-fisico

Summary

Qui presentiamo il Generative Proxy Learning Framework (GPLF) che porta l'apprendimento federato basato su proxy (ProxyFL) per migliorare le soluzioni di intelligenza artificiale generativa nei sistemi cyber-fisici (CPS). Integrando funzionalità di privacy differenziali e metodi di crittografia, la GPLF migliora la protezione della privacy, riducendo la perdita di privacy, rendendo così le operazioni del sistema cyber-fisico più intelligenti e sicure.

Abstract

Il Cyber-Physical System (CPS) combina l'intelligenza computazionale con i processi fisici, consentendo il monitoraggio istantaneo, la capacità decisionale e i servizi di automazione in vari domini vitali. Inoltre, l'intelligenza artificiale generativa (AI) deve affrontare notevoli ostacoli all'implementazione all'interno di CPS perché gli ambienti distribuiti con dati sensibili presentano serie sfide per la gestione della privacy e della sicurezza. Le tecniche attuali, come il Federated Learning (FL), incontrano difficoltà sia nella diversità dei modelli che nel rischio che la privacy possa essere compromessa. Il Generative Proxy Learning Framework (GPLF) è la nostra soluzione innovativa che utilizza l'apprendimento federato basato su proxy (ProxyFL) specificamente adattato per applicazioni di intelligenza artificiale generativa all'interno di sistemi cyber-fisici (CPS). Nella GPLF, ogni partecipante mantiene due modelli: i partecipanti gestiscono un modello privato dedicato all'analisi dei dati locali insieme a un modello proxy condiviso che consente la collaborazione protetta dei nodi. Come base essenziale dei meccanismi di intelligenza artificiale generativa, i modelli di diffusione avanzati forniscono dati sintetici ad alta fedeltà insieme alla conservazione delle caratteristiche chiave dei dati. I modelli generano dati sintetici dei sensori, che consentono un migliore rilevamento delle anomalie e supportano la modellazione predittiva attraverso rappresentazioni autentiche del comportamento CPS in vari scenari. Il sistema raggiunge una protezione avanzata della privacy con meccanismi di privacy differenziali negli aggiornamenti dei dati proxy, mentre la comunicazione peer diretta nella rete beneficia di protezioni di crittografia avanzate. La GPLF serve le piattaforme CPS collegandosi a sensori in tempo reale e dispositivi IoT che supportano processi generativi sicuri, tra cui il rilevamento delle anomalie, la creazione di dati sintetici e la modellazione predittiva. I risultati dei test dei set di dati CPS di benchmark mostrano notevoli miglioramenti delle prestazioni con il 25% in meno di perdita di privacy e il 25% in più di capacità di scambio dati, insieme a un miglioramento del 18% nell'accuratezza delle attività generative per supportare il suo potenziale di trasformazione per operazioni CPS sicure e intelligenti.

Introduction

La ricerca indaga i sistemi cyber-fisici (CPS) combinando l'intelligenza computazionale con i processi del mondo reale per consentire la sorveglianza in tempo reale insieme a capacità decisionali rapide e automazione del sistema¹. Le tecnologie emergenti dell'Internet delle cose (IoT) e dell'intelligenza artificiale (AI) stanno ampliando in modo significativo la gamma di applicazioni in cui i sistemi CPS gestiscono funzioni essenziali per lo sviluppo di reti intelligenti e processi di automazione industriale, nonché per i servizi di erogazione dell'assistenza sanitaria². Le organizzazioni che implementano CPS utilizzano sempre più modelli di intelligenza artificiale generativa, che forniscono la capacità di imitare il comportamento del sistema e di abilitare la modellazione predittiva insieme al rilevamento avanzato delle anomalie. Il formato distribuito dei dati CPS, combinato con i suoi attributi sensibili, porta a gravi vulnerabilità della privacy insieme a problemi di sicurezza e scalabilità nelle implementazioni di intelligenza artificiale generativa.

Le tecniche esistenti, come il Federated Learning (FL), si concentrano sulla protezione della privacy dei dati, ma devono affrontare limitazioni, che includono la minaccia di perdita di privacy degli aggiornamenti del modello, insieme a un supporto ridotto per l'IA generativa e una gestione inadeguata di diverse condizioni CPS³. Gli approcci attuali mancano dell'integrazione essenziale di meccanismi avanzati progettati sia per la generazione dei dati che per le misure di protezione quando si lavora in CPS distribuito durante il funzionamento in tempo reale. Poiché i framework attuali non sono all'altezza di diverse aree, la ricerca esistente dimostra esigenze significative che possono essere soddisfatte solo creando una nuova soluzione che offra modelli sicuri, scalabili e generativi insieme a una chiara protezione della privacy⁴.

Il nuovo studio Generative Proxy Learning Framework (GPLF) delinea un metodo appositamente realizzato per facilitare l'implementazione di funzioni di Generative AI all'interno di CPS. La GPLF implementa^{uno schema FL} 5 basato su proxy, in modo che gli utenti possano funzionare con modelli privati per l'esame dei dati individuali e modelli proxy per sostenere attività di apprendimento cooperativo protette. Questa ricerca mira al miglioramento della privacy dei dati attraverso l'applicazione di approcci di privacy differenziale combinati con crittografia omomorfica sicura e impiega modelli di diffusione avanzati per la produzione di dati sintetici di alta qualità. Il sistema supporta il rilevamento sicuro delle anomalie e le funzioni di modellazione predittiva, consentendo al contempo un trasferimento efficiente delle informazioni tra le operazioni CPS distribuite.

GPLF risolve le sfide esistenti della FL attraverso il suo design a framework a doppio modello, che offre protezione dei dati e flessibilità del sistema⁶. Ogni partecipante al CPS utilizza sia modelli privati che proxy, che stabiliscono due sistemi separati per ottenere la protezione della privacy locale e abilitare le capacità di apprendimento del team. Il modello privato utilizza operazioni localizzate per apprendere dai dati riservati di un partecipante e mantiene la privacy completa dei dati memorizzando le informazioni sensibili all'interno dei parametri di ciascun partecipante. Il sistema raggiunge le massime prestazioni nel rilevamento di anomalie e nel riconoscimento di modelli a livello locale⁷. Il modello proxy funge da meccanismo di apprendimento collettivo congiunto a disposizione di tutti i partecipanti per una condivisione sicura delle conoscenze. Il modello proxy si addestra con riservatezza tramite l'elaborazione di dati sintetici sterilizzati da modelli di diffusione e la comunicazione degli aggiornamenti attraverso la privacy differenziale e la crittografia omomorfica perché ciò consente un FL privato ma funzionale.

La strategia di diffusione consente la creazione di set di dati sintetici di qualità superiore che mantengono le caratteristiche essenziali nascondendo i dettagli personali. Questa ricerca ha rivelato progressi sostanziali, che si sono manifestati in un importante calo della perdita di privacy con funzioni di scambio dati aggiornate e migliori prestazioni delle attività generative, consentendo operazioni di sistema cyber-fisiche più resilienti. GPLF crea una nuova metodologia per il CPS intelligente unendo l'apprendimento che preserva la privacy con le capacità di intelligenza artificiale generativa⁸.

La GPLF presenta nuove funzionalità attraverso il suo design a doppio modello specificamente mirato alla gestione dei problemi di privacy nell'implementazione dell'IA generativa in CPS. Mentre l'apprendimento federato convenzionale utilizza un modello per tutti i partecipanti, la GPLF implementa sia modelli privati per l'esame dei dati locali che modelli proxy per eseguire attività di apprendimento di gruppo. Attraverso una rigorosa separazione dei dati, i pazienti mantengono le informazioni sensibili localmente, ma utilizzano i dati sintetici sanificati del modello proxy combinati con la privacy differenziale per ottenere una collaborazione sicura. Il modello proxy garantisce un solido rilevamento delle anomalie e una modellazione predittiva, mantenendo al contempo l'adattabilità del sistema attraverso dati sintetici di alta qualità generati da modelli di diffusione, garantendo la protezione della privacy degli utenti. GPLF si distingue come framework innovativo per i sistemi CPS sicuri perché il suo approccio a doppio modello fornisce una protezione della privacy rafforzata insieme a dati sicuri, mantenendo la scalabilità e l'efficienza operativa.

L'obiettivo dello studio è quello di sviluppare un Proxy-Based Federated Learning (ProxyFL), che richiede un'architettura a doppio modello per consentire un adattamento sicuro all'interno di CPS. Inoltre, i modelli di diffusione avanzati sono essenziali per fungere da punto di integrazione per la produzione di dati sintetici per mantenere le caratteristiche essenziali dei dati durante la salvaguardia della privacy. Infine, è necessario implementare metodi di privacy differenziale accanto a protocolli di crittografia omomorfica per garantire la sicurezza dei dati e proteggere la privacy durante l'aggregazione a gradiente.

La Tabella 1 9,10,11,12,13,14,15,16,17,18,19 evidenzia i processi fondamentali dei metodi esistenti e i loro risultati con alcune limitazioni critiche.

Tabella 1: Panoramica degli obiettivi chiave della ricerca esistente, dei componenti principali, dei risultati e dei limiti. Clicca qui per scaricare questa tabella.

Gli approcci esistenti per l'integrazione dell'IA generativa nei sistemi CPS dimostrano problemi critici con l'espansione a grandi implementazioni, mantenendo al contempo le normative sulla privacy e raggiungendo la flessibilità del sistema²⁰. Gli attuali metodi di FL mostrano vincoli a causa di un'insufficiente varietà di modelli, dimostrando anche prestazioni deboli in sistemi dispersi e mutevoli ed esponendo i dati degli utenti a causa di pratiche di trasmissione dei dati vulnerabili. Le rappresentazioni dei dati ad alta fedeltà necessarie per il rilevamento delle anomalie, la generazione di dati sintetici e la modellazione predittiva in CPS spesso sfuggono a molte soluzioni di modellazione generativa, che possono compromettere la privacy e l'efficienza computazionale nei tentativi di raggiungere questi standard. Le attuali carenze di sistema confermano il requisito del framework per supportare processi di intelligenza artificiale generativa scalabili, sicuri ed efficienti.

Protocol

Il Generative Proxy Learning Framework (GPLF) rappresenta una nuova tecnologia che integra l'IA generativa con CPS e risolve importanti problemi di privacy dei dati insieme a metriche di sicurezza e prestazioni all'interno di sistemi di rete distribuiti. La funzionalità delle piattaforme CPS dipende da un monitoraggio aggiornato e da operazioni automatizzate che estraggono input di dati sensibili da un numero crescente di dispositivi e sensori IoT. È stato riscontrato che l'adozione di tecnologie di intelligenza artificiale generativa nei sistemi CPS introduce rischi speciali come le vulnerabilità della privacy combinate con sfide di sicurezza nelle configurazioni di rete distribuite. GPLF lancia un innovativo framework di apprendimento federato basato su proxy (ProxyFL) che supporta l'apprendimento collaborativo sicuro specificamente pensato per le attività generative per mitigare i problemi esistenti. Una valutazione approfondita del framework GPLF ha avuto luogo su una piattaforma CPS il cui banco di prova ha combinato diverse tecnologie di rete di sensori con dispositivi IoT e streaming di dati in tempo reale.

I partecipanti alla GPLF eseguono due modelli separati durante la loro partecipazione.
Un esclusivo modello privato funziona per l'esame dei dati locali, mantenendo i dati protetti dall'accesso esterno.
Il Shared Proxy Model⁵ del sistema consente una cooperazione sicura tra i partecipanti attraverso la tecnologia di crittografia abbinata a metodi di privacy differenziali.

Il framework utilizza modelli di diffusione per creare elaborati set di dati sintetici che guidano le capacità di rilevamento delle anomalie, mostrando al contempo la modellazione predittiva e il monitoraggio del comportamento del sistema durante diverse simulazioni di scenari. I set di dati sintetizzati mantengono importanti caratteristiche grazie a metodi efficaci di conservazione della privacy. Il framework gestisce scambi peer-to-peer sicuri tramite tecniche di crittografia avanzate che proteggono i canali di comunicazione da attacchi dannosi. Le valutazioni effettuate con GPLF su piattaforme CPS del mondo reale hanno mostrato come potrebbe apportare progressi sostanziali alle capacità operative sicure e intelligenti nonostante i limiti di scalabilità. Miglioramenti significativi alle misure di perdita di privacy, insieme a miglioramenti complementari nelle capacità di scambio di dati e nella precisione generativa delle attività, ne hanno dimostrato il valore funzionale e i risultati concreti in termini di prestazioni. Le fasi principali della GPLF includono l'inizializzazione basata su proxy dell'apprendimento federato insieme all'addestramento locale dei dati privati, che costituisce la spina dorsale della GPLF e integra gli aggiornamenti del modello proxy protetti con privacy differenziale. Sono inclusi anche metodi di generazione di dati sintetici a modello diffuso con tecniche di scambio dati peer-to-peer sicure e moduli per il rilevamento delle anomalie e la modellazione predittiva. La struttura organizzata nella Figura 1 mostra gli elementi essenziali della GPLF, che hanno il potenziale per ottimizzare le operazioni di base di CPS.

Figura 1: Struttura architetturale della GPLF per operazioni CPS sicure e intelligenti. Progettato per consentire operazioni sicure e intelligenti nei sistemi cyber-fisici. Clicca qui per visualizzare una versione più grande di questa figura.

Le sezioni seguenti elaborano le sei fasi del framework per la comunicazione sicura tra dispositivi eterogenei in una piattaforma CPS.

1. Inizializzazione dell'apprendimento federato basato su proxy

La Fase-1 è l'inizializzazione dell'apprendimento federato basata su proxy, in cui la GPLF utilizza il processo di inizializzazione FL basato su proxy per configurare il sistema (N) di ciascun partecipante CPS con due modelli che garantiscono la privacy ma consentono ai partecipanti di collaborare in modo sicuro attraverso la funzionalità di apprendimento. I singoli partecipanti al CPS (i) ricevono un modello privato per funzionare con i loro dati locali (d_i) per la protezione della privacy insieme a un modello proxy condiviso per consentire un comportamento cooperativo sicuro tra i partecipanti. I modelli iniziano il loro addestramento con pesi creati da voci casuali di una distribuzione gaussiana²¹ per condizioni iniziali normalizzate, che è espressa come nell'equazione (1),
(1)
I partecipanti elaborano autonomamente i loro dati mentre scambiano informazioni attraverso modelli condivisi che supportano l'apprendimento generativo distribuito che preserva la privacy nei sistemi CPS.

2. Formazione locale sui dati privati

La fase 2 è la formazione locale sui dati privati; qui, si svolge la formazione sui dati, in cui i partecipanti al CPS sviluppano modelli privati dai dati locali memorizzati per mantenere la piena protezione dei dati in loco sigillandoli dall'esposizione esterna. I partecipanti ricevono una formazione sull'ottimizzazione dei modelli basati sui dati utilizzando la discesa del gradiente stocastico (SGD)²² , che avviene attraverso una funzione di perdita localizzata (l_locale) e supporta sia l'estrazione di informazioni significative che gli adattamenti localizzati, mantenendo al contempo la privacy dei dati.
(2)
(3)
Da (2) e (3), I e O indicano l'input del campione e il valore target corrispondente. L indica la perdita con un tasso di apprendimento (Ɽ). Questa fase sviluppa sistemi di intelligenza dei singoli partecipanti, che fungono da base per futuri processi educativi collaborativi sicuri.
L'Independent Recurrent Neural Network (IndRNN) funziona come modello ML dello stadio 2 perché la sua architettura consente l'indipendenza dei neuroni durante ogni fase temporale per gestire specifiche attività CPS, mitigando al contempo i tradizionali problemi di gradiente RNN. Ogni neurone all'interno della configurazione IndRNN viene fornito con un peso ricorrente individuale, consentendo una migliore cattura delle dipendenze a lungo termine. Il modello operativo separato migliora la trasmissione del gradiente, che scala efficacemente le strutture di rete profonde mantenendo efficienti i processi computazionali. L'elaborazione sequenziale dei dati sulle piattaforme CPS funziona meglio con IndRNN grazie alla sua capacità di elaborare lunghe sequenze utilizzando modelli di apprendimento forti, mantenendo bassa la complessità della rete.
Il calcolo nell'equazione (4) mostra che la soluzione al problema del gradiente di scomparsa ed esplosione all'interno di IndRNN deriva dal suo approccio distintivo alla progettazione di connessioni ricorrenti.
(4)
Da (4), ω e H_t indicano rispettivamente il peso e lo stato nascosto in t. rappresentano il vettore di significatività ricorrente indipendente (pesi), uno per ogni punto dati, consentendo l'indipendenza in diverse fasi temporali. ʘ denota che il design presenta un supporto di moltiplicazione a livello di elemento, che mantiene la completa indipendenza tra le connessioni ricorrenti di ciascun neurone, e ä indica la funzione di attivazione. La progettazione dell'architettura neurale evita l'espansione o la contrazione del gradiente durante la sequenza di calcoli, il che supporta l'addestramento stabile del modello di apprendimento e il successo nell'apprendimento di modelli estesi.
L'IndRNN diventa l'approccio preferito per il rilevamento delle anomalie CPS perché previene con successo le esplosioni e le sparizioni del gradiente RNN tradizionale. Le dipendenze a lungo termine diventano facili da tracciare attraverso l'architettura IndRNN poiché opera con meno complessità rispetto ai modelli Transformer e raggiunge sia una rapida convergenza che un funzionamento in tempo reale. La natura efficace di IndRNN lo rende eccezionalmente adatto a rappresentare le caratteristiche operative limitate di CPS, fornendo al contempo un riconoscimento esatto delle anomalie senza un eccessivo sforzo computazionale.

3. Modello di diffusione per la generazione di dati sintetici

Stage-3 è il modello di diffusione per la generazione di dati sintetici. Questa fase utilizza modelli di diffusione avanzati per produrre dati sintetici, che replicano le principali caratteristiche dei dati privati acquisiti. I modelli apprendono la distribuzione originale dei dati sensibili alla privacy attraverso l'aggiunta di rumore controllato per raccogliere le caratteristiche, il che aiuta a creare dati sintetici con alta fedeltà che mantengono caratteristiche importanti proteggendo al contempo le salvaguardie della privacy. La procedura iterativa di denoising genera dati sintetici, mantenendo le proprietà statistiche essenziali e gli elementi strutturali dei dati reali.
Inizialmente, il processo di addestramento del modello di diffusione generativa (Υ) si concentra sulla creazione di dati sintetici ad alta fedeltà, pur mantenendo le caratteristiche cruciali dei dati privati (d_i), e il calcolo di base di tale generazione comporta,
(5)
Da (5), indicare l'incorporazione del rumore gaussiano nei campioni di dati. I dati sintetici appena generati sono espressi come segue:
(6)

4. Aggiornamenti del modello proxy con privacy differenziale

La fase 4 è costituita da aggiornamenti del modello proxy con privacy differenziale. In questa fase, ogni partecipante comunicativo utilizza i dati sintetici creati dal modello di diffusione durante questa fase per addestrare il proprio modello proxy in questa fase.
(7)
I gradienti degli aggiornamenti del modello proxy rimangono privati a causa di meccanismi di privacy differenziali che aggiungono rumore ai loro valori.
(8)
Per proteggere la privacy dei dati, i metodi di crittografia avanzati (crittografia omomorfica) trasformano (ξ) gli aggiornamenti sanificati (U) in dati sicuri, distribuiti tramite un server centrale o più nodi peer.
(9)
Da (9), ҟ indica la chiave di crittografia. Attraverso l'aggregazione collaborativa di aggiornamenti crittografati, i sistemi mantengono la sicurezza delle informazioni locali sensibili durante l'esecuzione sicura di operazioni di apprendimento distribuito.
La crittografia omomorfica²³crea piattaforme sicure per eseguire calcoli su dati crittografati senza decrittografia prima di consentire l'ottenimento dei risultati finali da input crittografati come i gradienti aggregati. I dati rimangono crittografati per tutta la loro durata operativa (end-to-end), il che impedisce di conseguenza violazioni esterne durante i processi computazionali. La piattaforma consente ai partecipanti al CPS in diverse sedi di scambiare aggiornamenti crittografati dei dati per operazioni di apprendimento collaborativo senza divulgare informazioni private. Secondo gli obiettivi dello studio, questa tecnica mantiene la protezione completa della privacy come richiesto e mostra prestazioni superiori rispetto ad altri metodi di crittografia, che richiedono la decrittografia dei dati per il calcolo, esponendoli così a potenziali minacce. La crittografia omomorfica si rivela il metodo di sicurezza più adatto per i sistemi proxyFL perché supporta sia calcoli sicuri sui dati che operazioni di crittografia standalone.

5. Proteggi le interazioni peer-to-peer

1. La fase 5 è costituita da interazioni peer-to-peer sicure. Durante questa fase, i partecipanti trasmettono in modo sicuro gli aggiornamenti del modello proxy sanificato crittografato, creati nella fase 4. I partecipanti (i) mantengono la riservatezza durante la trasmissione degli aggiornamenti grazie alla crittografia omomorfica, che facilita calcoli come l'aggregazione a gradiente sui dati crittografati direttamente senza la necessità di decrittografare. I partecipanti esprimono la comunicazione peer-to-peer attraverso metodi computazionali come,
   (10)
   Da (10), è evidente che l'interazione/comunicazione peer-to-peer sicura all'interno delle piattaforme CPS è assicurata tramite crittografia omomorfica, (ξ(·)).
   Attraverso l'aggregazione del gradiente (Ψ), i contributi crittografati del gradiente da più utenti consentono l'aggiornamento collaborativo del modello proxy comune. Questo studio mostra l'accumulo sicuro dei gradienti crittografati di ciascun partecipante attraverso la crittografia omomorfica.
   (11)
   Da (11), N rappresenta il conteggio del partecipante. Il metodo consente anche calcoli diretti su gradienti crittografati e protegge i dati sensibili durante l'aggregazione. I partecipanti aggiornano il modello proxy attraverso la decrittografia dei gradienti aggregati, che consente l'apprendimento collaborativo attento alla privacy in tutta la rete CPS. I metodi di decrittografia sicuri preservano l'accesso privato ai singoli gradienti per tutti gli utenti durante l'intero processo.
   (12)
   Pertanto, le restrizioni di autorizzazione sicure impediscono ai singoli partecipanti di accedere agli aggiornamenti dei dati di proprietà di fattori esterni. La rete utilizza aggiornamenti aggregati per il miglioramento collaborativo dei modelli proxy condivisi per ottenere un apprendimento distribuito sicuro con solide protezioni della privacy nei sistemi CPS.

6. Rilevamento delle anomalie e modellazione predittiva

1. Infine, la fase 6 è il rilevamento delle anomalie e la modellazione predittiva. In questa fase, vengono stabiliti i modelli proxy aggiornati che servono per l'analisi dei dati CPS effettivi all'interno di un ambiente di test configurato. I modelli proxy identificano le anomalie (Ф) confrontando i nuovi dati (I) con modelli provenienti dalla sintesi e da input storici per generare un punteggio di anomalia (Å) che segnala gli elementi che superano un limite/soglia predeterminato (τ), che è espresso computazionalmente come,
   (13)
   (14)
   Sia (13) che (14) assicurano che fornisca un metodo per riconoscere comportamenti anomali del sistema e guasti nelle fasi iniziali.
   La modellazione predittiva con modelli proxy comporta l'apprendimento di rappresentazioni che producono previsioni sui comportamenti o sugli stati del sistema da sequenze di dati di input dinamici/futuri (I_F), che si esprime come segue:
   (15)
   Il flusso di lavoro operativo GPLF dimostrato in Figura 2 integra circuiti di feedback adattivi, che sostengono sia l'affidabilità del sistema CPS che la pertinenza continua. I rilevamenti di anomalie o deviazioni del sistema della fase 6 portano la procedura a ripercorrere i suoi passaggi fino alla fase 3, in cui vengono creati nuovi dati sintetici utilizzando voci private aggiornate per aiutare i modelli ad adattarsi ai modelli mutevoli. Una divergenza significativa dai risultati attesi o dalle previsioni e la scarsa accuratezza identificata durante la Fase 6 costringono a tornare alla Fase 2, in cui i partecipanti devono riaddestrare i loro modelli utilizzando i dati più accurati e aggiornati disponibili. Durante le valutazioni del sistema della Fase 5, se la convergenza del modello si rivela inadeguata o diventano evidenti incoerenze, il sistema torna alla Fase 4 per applicare i perfezionamenti attraverso dati sintetici migliorati e tecniche di privacy ottimizzate. I meccanismi di looping stabiliscono la prontezza all'apprendimento adattivo, che mantiene elevate prestazioni e sicurezza del sistema durante le operazioni del sistema di controllo e di processo.
   Una forte combinazione di componenti hardware e software ha convalidato le funzioni GPLF per l'implementazione di CPS attraverso operazioni scalabili e sicure. I requisiti specifici della piattaforma per la GPLF prevedevano Ubuntu 20.04 LTS con implementazione Python v3.9 e i framework di deep learning PyTorch v1.12 e TensorFlow v2.9 per condurre corsi di formazione per modelli privati, proxy e di diffusione. La valutazione delle prestazioni del sistema ha combinato il software di visualizzazione Matplotlib v3.5 con la visualizzazione statistica Seaborn v0.11 e il benchmarking Scikit-learn v1.1 insieme alle misure di privacy di PySyft v0.6.0 per la privacy differenziale e TenSEAL v0.3 per la crittografia omomorfica. I requisiti hardware includevano un processore AMD EPYC-7502P insieme a una GPU A100 con CUDA v11.6 per l'efficienza di calcolo e richieste di memoria di 256 GB di RAM per supportare ampi set di dati CPS, nonché un SSD da 1 TB seguito da una rete Gigabit Ethernet progettata per lo scambio sicuro di informazioni per condurre esperimenti di ricerca efficienti. Gli algoritmi GPLF hanno ricevuto la convalida attraverso questa configurazione di sistema, che ha protetto i dati dimostrando i principi di scalabilità per le implementazioni CPS del mondo reale. La selezione della versione consente di ottenere la compatibilità con la crittografia avanzata, nonché con l'apprendimento federato e le tecniche di modellazione generativa, consentendo una scalabilità di convalida affidabile su più applicazioni CPS.
   Durante la ricerca, lo studio ha optato per alcuni iperparametri vitali che bilanciavano la massimizzazione delle prestazioni con la protezione della privacy e la scalabilità in tutte le fasi GPLF. Per bilanciare l'apprendimento locale con quello collaborativo, i ricercatori hanno impostato tassi di apprendimento unici a 0,001 e 0,01 per i modelli privati e proxy, ma hanno mantenuto pesi inizializzati gaussiani per garantire una convergenza stabile. Per evitare l'overfitting durante l'elaborazione dei dati CPS, il processo di addestramento locale ha utilizzato batch di 32 istanze, ciascuna di oltre dieci epoche. La generazione di dati sintetici richiedeva che il modello di diffusione impiegasse un processo di 1000 passi con una deviazione standard del rumore di 0,05 per mantenere l'accuratezza delle caratteristiche critiche. L'anonimizzazione dei dati attraverso la privacy differenziale è stata ottenuta implementando il clipping del gradiente a 1,0 con una scala di rumore regolata a 0,1, preservando l'utilità del set di dati. Per la crittografia omomorfica, il sistema crittografico Paillier²⁴ viene impiegato per elaborare i gradienti attraverso operazioni puramente additive nell'ambito dell'apprendimento federato. Il sistema crittografico Paillier consente operazioni dirette su informazioni crittografate, eliminando i requisiti di comunicazione estesi nei sistemi di calcolo sicuri multi-party. Questa tecnica consente un'aggregazione più rapida insieme a requisiti di comunicazione ridotti che portano a una soluzione scalabile ed efficiente per calcoli sicuri in sistemi CPS con risorse limitate. Il rilevamento delle anomalie ha predeterminato il limite/soglia e un orizzonte di previsione di dieci fasi hanno garantito un monitoraggio accurato e un processo decisionale proattivo nel CPS. Attraverso la messa a punto degli iperparametri, si ottiene un perfetto equilibrio tra le metriche delle prestazioni e l'adattabilità del sistema con la protezione della privacy nelle applicazioni CPS pratiche.
   Tabella 2 documenta gli iperparametri necessari per ogni fase della ricerca GPLF e i valori ottimali per ottenere le migliori prestazioni nell'intera metodologia.
   Due importanti set di dati sono presi in considerazione per l'addestramento e la valutazione dell'approccio proposto sotto vari aspetti. Sono TON_IoT^{25,26,27,28,29,30,31} e UNSW-NB15^{32,33,34,35,36} presso l'Università del Nuovo Galles del Sud (UNSW) di Canberra. Entrambi i set di dati TON_IoT e UNSW-NB15 sono stati selezionati perché contengono una gamma completa di condizioni CPS. Questi set di dati hanno scopi diversi perché TON_IoT presentano diverse letture dei sensori IoT combinate con modelli di situazione industriale e UNSW-NB15 offre test approfonditi dei dati sulle intrusioni di rete per i sistemi di sicurezza. La combinazione di set di dati TON_IoT e UNSW-NB15 consente una valutazione completa delle prestazioni della GPLF in diversi contesti operativi. L'inclusione di nuovi set di dati aumenterà l'affidabilità operativa del framework, poiché abbiamo identificato questa lacuna come un obiettivo di sviluppo futuro.
   I set di dati TON_IoT rappresentano un ampio repository di dati sviluppato per testare le prestazioni delle applicazioni di sicurezza informatica utilizzando sistemi basati su algoritmi di intelligenza artificiale e ML. Presso l'accademia militare australiana sotto l'UNSW, dove i ricercatori hanno generato questi set di dati da fonti eterogenee che utilizzano le informazioni di telemetria di oltre 10 sensori IoT indigeni e industriali, inclusi lettori meteorologici e sensori Modbus insieme a registri del sistema operativo e pacchetti di rete acquisiti con ZEEK (Bro) in formato pcap in combinazione con file di registro e file con valori separati da virgole (CSV). Questo set di dati proviene da una rete reale che combina componenti IoT con funzioni cloud e capacità di edge/fog computing, gestite su più host che eseguono macchine virtuali e vari sistemi operativi. Il sistema costruito ha permesso ai ricercatori di eseguire test di attacchi informatici, che includono attacchi DDoS (Distributed Denial of Service) e DoS, nonché attacchi ransomware contro applicazioni IoT e reti informatiche all'interno del quadro combinato Internet of Things / Industrial IoT. TON_IoT set di dati includono componenti di dati grezzi e dati elaborati con caratteristiche ed etichette standard, campioni di formazione e test, descrizioni delle funzionalità, riepiloghi statistici ed eventi di sicurezza, insieme a etichette di verità sul campo. Le soluzioni di sicurezza informatica basate sull'intelligenza artificiale per i meccanismi di rilevamento del malware, l'IDS, i metodi di rilevamento delle frodi e le piattaforme di intelligence sulle minacce, insieme ai processi di conservazione della privacy e all'analisi forense digitale, traggono vantaggio dai set di dati TON_IoT grazie al loro design organizzativo strutturato, che aiuta anche i modelli di ML avversari e i metodi di ricerca delle minacce.
   Il Cyber Range Lab dell'UNSW Canberra ha sviluppato il set di dati UNSW-NB15 come standard completo per la valutazione del sistema di rilevamento delle intrusioni di rete. Attraverso lo strumento IXIA PerfectStorm, la creazione del set di dati UNSW-NB15 unisce le normali attività moderne con dimostrazioni di attacchi sintetici, che producono circa 100 GB di traffico di rete catturato in formato pcap. Il set di dati comprende nove varianti di attacco univoche: Analisi, DoS, Fuzzer, Backdoor, Shellcode, Exploit, Worm, Generico e Ricognizione. Sfruttando gli strumenti Argus e Bro-IDS insieme a dodici algoritmi progettati, i ricercatori hanno estratto e taggato 49 funzionalità, consentendo un'analisi esaustiva. Più di 2,5 milioni di record popolano il set di dati, che si estende su quattro workstation CSV ed è suddiviso in 175.341 record per scopi di formazione e 82.332 record per la funzionalità di test. La disposizione sistematica dei dati all'interno di questo framework guida sia i processi di sviluppo che di test per i modelli di rilevamento delle intrusioni.

Figura 2: Flusso di lavoro operativo della GPLF. Il flusso di lavoro operativo sequenziale della GPLF evidenzia ogni fase chiave del processo. Clicca qui per visualizzare una versione più grande di questa figura.

Tabella 2: Specifiche dei parametri della GPLF. Clicca qui per scaricare questa tabella.

Results

La metrica PLRI (Privacy Leakage Reduction Index) misura la riduzione delle perdite di privacy rispetto ai modelli di base standard. La valutazione si concentra sul modo in cui la privacy differenziale e la crittografia omomorfica si comportano come approcci di conservazione della privacy.

Il punteggio di perdita di privacy valuta il numero di punti dati esposti rispetto agli aggiornamenti totali nei modelli, insieme alle attività di distribuzione dei dati sintetici. Valuta l'efficacia delle s...

Discussion

Gli elementi di progettazione della GPLF non solo supportano le sue funzioni di privacy, ma offrono anche vantaggi supplementari che ne migliorano la capacità di implementazione. Utilizzando modelli di diffusione per produrre dati sintetici ad alta fedeltà, il framework fornisce livelli essenziali di protezione della privacy per settori essenziali come l'assistenza sanitaria, oltre al monitoraggio delle infrastrutture critiche, mantenendo al contempo precise capacità di modellazione gene...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
GPU A100 (CUDA)	Accelerazione GPU NVIDIA	CUDA versione 11.6	per l'addestramento e la valutazione dei modelli.
AMD EPYC-7502P CPU	AMD	N/A	Processore utilizzato per il calcolo ad alte prestazioni.
Gigabit Ethernet	Intel	N/A	Networking per comunicazioni sicure peer-to-peer in CPS.
Matplotlib	Python Software Foundation	Versione 3.5	Libreria di visualizzazione per la rappresentazione grafica dei risultati.
Paillier Cryptosystem	Open Source (implementato tramite TenSEAL)	N/A	Abilita la crittografia omomorfica additiva sui gradienti.
PySyft	OpenMined	versione 0.6.0	Privacy differenziale e libreria di apprendimento federato.
Python (Anaconda Distribution)	Anaconda Inc	Versione 3.9	Include pacchetti preinstallati e strumenti di gestione dell'ambiente, utilizzati per lo scripting e lo sviluppo di framework.
PyTorch	Meta AI	Versione 1.12	Framework di deep learning per modelli di addestramento.
RAM	Corsair	256 GigaByte (GB)	Elevato supporto di memoria per un allenamento intensivo.
Scikit-learn	Python Software Foundation	versione 1.1	Strumenti di apprendimento automatico per la valutazione delle prestazioni.
Seaborn	Python Software Foundation	versione 0.11	Libreria di visualizzazione dei dati statistici.
Archiviazione SSD	Seagate	1 TeraByte (TB)	Per l'archiviazione e il recupero rapidi dei dati.
TenSEAL	OpenMined	versione 0.3	per un'aggregazione sicura.
TensorFlow	Google	versione 2.9	Framework di deep learning per modelli di diffusione.
Ubuntu OS	Canonical	Versione 20.04 LTS	Sistema operativo utilizzato per tutti gli esperimenti.