Estratégia de Aprendizagem por Proxy Orientada por Difusão com Interações Seguras entre Pares para Inteligência Generativa em Sistema Ciber-Físico

Summary

Aqui apresentamos o Generative Proxy Learning Framework (GPLF) que traz o Proxy-based Federated Learning (ProxyFL) para melhorar as soluções de IA generativa em sistemas ciberfísicos (CPS). Ao integrar recursos diferenciais de privacidade e métodos de criptografia, o GPLF aprimora a proteção da privacidade, o que reduz o vazamento de privacidade, tornando as operações do Sistema Ciberfísico mais inteligentes e seguras.

Abstract

O Cyber-Physical System (CPS) combina inteligência computacional com processos físicos, o que permite monitoramento instantâneo, capacidade de tomada de decisão e serviços de automação em vários domínios vitais. Além disso, a Inteligência Artificial (IA) Generativa enfrenta barreiras consideráveis à implantação no CPS porque ambientes distribuídos com dados confidenciais apresentam sérios desafios de manutenção de privacidade e segurança. As técnicas atuais, como a Aprendizagem Federada (FL), encontram dificuldades tanto na diversidade de seus modelos quanto no risco de que a privacidade possa ser comprometida. O Generative Proxy Learning Framework (GPLF) serve como nossa solução inovadora que utiliza o Proxy-based Federated Learning (ProxyFL) especificamente adaptado para aplicativos de IA generativa em sistemas ciberfísicos (CPS). Na GPLF, cada participante mantém dois modelos: Os participantes operam um modelo privado dedicado à análise de dados locais, juntamente com um modelo de proxy compartilhado que permite a colaboração de nós protegidos. Como base essencial dos mecanismos de IA generativa, os Modelos de Difusão avançados fornecem dados sintéticos de alta fidelidade junto com a preservação de recursos de dados importantes. Os modelos geram dados de sensores sintéticos, o que permite uma detecção aprimorada de anomalias e oferece suporte à modelagem preditiva por meio de representações autênticas de comportamento do CPS em vários cenários. O sistema alcança proteção de privacidade avançada com mecanismos de privacidade diferenciais em atualizações de dados de proxy, enquanto a comunicação direta entre pares na rede se beneficia de proteções avançadas de criptografia. O GPLF atende às plataformas CPS conectando-se a sensores em tempo real e dispositivos IoT que suportam processos generativos seguros, incluindo detecção de anomalias, criação de dados sintéticos e modelagem preditiva. Os resultados dos testes dos conjuntos de dados CPS de referência mostram melhorias consideráveis de desempenho com 25% menos vazamento de privacidade e 25% melhores recursos de troca de dados, juntamente com uma melhoria de 18% na precisão de tarefas generativas para apoiar seu potencial transformador para operações CPS seguras e inteligentes.

Introduction

A pesquisa investiga Sistemas Ciber-Físicos (CPS) combinando inteligência computacional com processos do mundo real para permitir vigilância em tempo real, juntamente com recursos de tomada de decisão rápida e automação do sistema¹. As tecnologias emergentes de Internet das Coisas (IoT) e Inteligência Artificial (IA) estão expandindo significativamente a gama de aplicações em que os sistemas CPS operam funções essenciais nos processos de desenvolvimento de redes inteligentes e automação industrial, bem como serviços de prestação de serviços de saúde². As organizações que implantam o CPS estão utilizando cada vez mais modelos de IA generativa, que fornecem a capacidade de imitar o comportamento do sistema, bem como permitir a modelagem preditiva juntamente com a detecção aprimorada de anomalias. O formato distribuído dos dados do CPS, combinado com seus atributos confidenciais, leva a grandes vulnerabilidades de privacidade, além de problemas de segurança e problemas de escalabilidade em implementações de IA generativa.

As técnicas existentes, como a Federated Learning (FL), concentram-se na proteção da privacidade de dados, mas enfrentam limitações, que incluem a ameaça de vazamento de privacidade de atualização de modelo, juntamente com suporte reduzido para IA generativa e tratamento inadequado de diversas condições de CPS³. As abordagens atuais carecem da integração essencial de mecanismos avançados projetados para geração de dados e medidas de proteção ao trabalhar em CPS distribuído durante a operação em tempo real. Como as estruturas atuais ficam aquém em várias áreas, a pesquisa existente demonstra necessidades significativas que só podem ser atendidas com a criação de uma nova solução que ofereça modelos seguros, escaláveis e generativos, juntamente com uma proteção clara da privacidade⁴.

O novo estudo Generative Proxy Learning Framework (GPLF) descreve um método especialmente criado para facilitar a implantação de funções de IA generativa no CPS. A GPLF implementa um esquema FL baseado em proxy⁵, para que os usuários possam funcionar com modelos privados para exame de dados individuais e modelos proxy para sustentar atividades de aprendizagem cooperativa protegidas. Esta pesquisa visa o aprimoramento da privacidade de dados por meio da aplicação de abordagens de privacidade diferencial combinadas com criptografia homomórfica segura e emprega modelos avançados de difusão para produção de dados sintéticos de alta qualidade. O sistema oferece suporte à detecção segura de anomalias, bem como funções de modelagem preditiva, permitindo a transferência eficiente de informações entre operações de CPS distribuídas.

A GPLF resolve os desafios existentes de FL por meio de seu design de estrutura de modelo duplo, que oferece proteção de dados e flexibilidade do sistema⁶. Cada participante do CPS usa modelos privados e proxy, que estabelecem dois sistemas separados para obter proteção de privacidade local e permitir recursos de aprendizado em equipe. O modelo privado usa operações localizadas para aprender com os dados confidenciais de um participante e mantém total privacidade dos dados, armazenando informações confidenciais dentro dos parâmetros de cada participante. O sistema atinge o máximo desempenho ao detectar anomalias e reconhecer padrões em nível local⁷. O modelo proxy serve como um mecanismo de aprendizagem coletiva conjunta disponível para todos os participantes para compartilhamento seguro de conhecimento. O modelo de proxy treina com confidencialidade por meio de processamento de dados sintéticos higienizados de modelos de difusão e comunicação de atualizações por meio de privacidade diferencial e criptografia homomórfica, pois isso permite FL privado, mas funcional.

A estratégia de difusão permite a criação de conjuntos de dados sintéticos superiores que mantêm características essenciais enquanto ocultam detalhes pessoais. Esta pesquisa revelou avanços substanciais, que se manifestaram como uma grande queda no vazamento de privacidade com funções atualizadas de troca de dados e melhor desempenho de tarefas generativas, permitindo operações de sistema ciberfísico mais resilientes. O GPLF cria uma nova metodologia para CPS inteligente, unindo o aprendizado que preserva a privacidade com os recursos de IA generativa⁸.

O GPLF apresenta novos recursos por meio de seu design de modelo duplo especificamente voltado para lidar com questões de privacidade na implantação de IA generativa em CPS. Enquanto o aprendizado federado convencional usa um modelo para todos os participantes, o GPLF implanta modelos privados para exame de dados locais e modelos de proxy para executar tarefas de aprendizado em grupo. Por meio da separação estrita de dados, os pacientes mantêm informações confidenciais localmente, mas usam os dados sintéticos higienizados do modelo proxy combinados com privacidade diferencial para obter uma colaboração segura. O modelo proxy garante detecção robusta de anomalias e modelagem preditiva, mantendo a adaptabilidade do sistema por meio de dados sintéticos de alta qualidade gerados por modelos de difusão, garantindo a proteção da privacidade do usuário. A GPLF se destaca como uma estrutura inovadora para sistemas CPS seguros porque sua abordagem de modelo duplo fornece proteção de privacidade reforçada junto com dados seguros, mantendo a escalabilidade e a eficiência operacional.

O objetivo do estudo é desenvolver um Aprendizado Federado Baseado em Proxy (ProxyFL), que exige arquitetura de modelo duplo para permitir a adaptação segura dentro do CPS. Além disso, os modelos avançados de difusão são essenciais para servir como um ponto de integração para a produção de dados sintéticos para manter as características essenciais dos dados durante as salvaguardas de privacidade. Finalmente, é necessário implementar métodos de privacidade diferenciais juntamente com protocolos de criptografia homomórficos para garantir a segurança dos dados e proteger a privacidade durante a agregação de gradiente.

A Tabela 1 9,10,11,12,13,14,15,16,17,18,19 destaca os principais processos dos métodos existentes e suas realizações com algumas limitações críticas.

Tabela 1: Visão geral do foco principal da pesquisa existente, componentes principais, realizações e limitações. Clique aqui para baixar esta tabela.

As abordagens existentes para mesclar IA generativa em sistemas CPS demonstram problemas críticos com a expansão para grandes implantações, mantendo os regulamentos de privacidade e alcançando a flexibilidade do sistema²⁰. Os métodos atuais de FL mostram restrições por meio de variedade insuficiente de modelos, ao mesmo tempo em que demonstram desempenho fraco em sistemas dispersos e em mudança e expõem dados do usuário devido a práticas vulneráveis de transmissão de dados. As representações de dados de alta fidelidade necessárias para detecção de anomalias, geração de dados sintéticos e modelagem preditiva no CPS geralmente escapam de muitas soluções de modelagem generativa, o que pode comprometer a privacidade e a eficiência computacional em suas tentativas de atingir esses padrões. As deficiências atuais do sistema confirmam o requisito da estrutura para oferecer suporte a processos de IA generativa escaláveis, seguros e eficientes.

Protocol

O Generative Proxy Learning Framework (GPLF) representa uma nova tecnologia que integra IA generativa com CPS e resolve questões importantes de privacidade de dados, juntamente com métricas de segurança e desempenho em sistemas de rede distribuídos. A funcionalidade das plataformas CPS depende de monitoramento atualizado juntamente com operações automatizadas que extraem entradas de dados confidenciais de um número crescente de dispositivos e sensores IoT. Descobriu-se que a adoção de tecnologias de IA generativa em sistemas CPS introduz riscos especiais, como vulnerabilidades de privacidade combinadas com desafios de segurança em configurações de rede distribuídas. A GPLF lança uma estrutura inovadora de Aprendizagem Federada Baseada em Proxy (ProxyFL) que oferece suporte ao aprendizado colaborativo seguro especificamente destinado a tarefas generativas para mitigar problemas existentes. Uma avaliação completa da estrutura GPLF ocorreu em uma plataforma CPS cujo banco de testes combinou diferentes tecnologias de rede de sensores com dispositivos IoT e streaming de dados ao vivo.

Os participantes do GPLF executam dois modelos separados durante sua participação.
Um modelo privado exclusivo funciona para exame de dados locais, mantendo os dados protegidos contra acesso externo.
O Shared Proxy Model⁵ do sistema permite a cooperação segura dos participantes por meio da tecnologia de criptografia combinada com métodos de privacidade diferenciais.

A estrutura utiliza modelos de difusão para criar conjuntos de dados sintéticos elaborados que impulsionam os recursos de detecção de anomalias, ao mesmo tempo em que mostram modelagem preditiva e rastreamento de comportamento do sistema durante diversas simulações de cenários. Os conjuntos de dados sintetizados mantêm características importantes dos recursos por meio de métodos eficazes de preservação da privacidade. A estrutura opera trocas peer-to-peer seguras por meio de técnicas de criptografia fortes que protegem os canais de comunicação contra ataques maliciosos. As avaliações realizadas com a GPLF em plataformas CPS do mundo real mostraram como ela poderia trazer avanços substanciais para capacidades operacionais seguras e inteligentes ao longo dos limites de escalabilidade. Melhorias significativas nas medidas de vazamento de privacidade, juntamente com aprimoramentos complementares nas habilidades de troca de dados e precisão de tarefas generativas, provaram seu valor funcional e resultados concretos de desempenho. Os estágios principais da GPLF incluem a inicialização baseada em proxy do aprendizado federado, juntamente com o treinamento local de dados privados, que forma a espinha dorsal da GPLF e integra atualizações de modelo de proxy protegidas com privacidade diferencial. Métodos de geração de dados sintéticos de modelo difuso com técnicas seguras de troca de dados ponto a ponto e módulos para detecção de anomalias e modelagem preditiva também estão incluídos. A estrutura organizada na Figura 1 mostra os elementos essenciais da GPLF, que têm o potencial de otimizar as operações básicas do CPS.

Figura 1: Estrutura arquitetônica da GPLF para operações CPS seguras e inteligentes. Projetado para permitir operações seguras e inteligentes em sistemas ciberfísicos. Clique aqui para ver uma versão maior desta figura.

As seções a seguir detalham os seis estágios da estrutura para comunicação segura entre dispositivos heterogêneos em uma plataforma CPS.

1. Inicialização de aprendizado federado baseada em proxy

O Estágio 1 é a Inicialização de Aprendizagem Federada Baseada em Proxy, onde a GPLF usa o processo de inicialização FL baseado em proxy para configurar o sistema de cada participante do CPS (N) com dois modelos que garantem a privacidade, mas permitem que os participantes colaborem com segurança por meio da funcionalidade de aprendizagem. Os participantes individuais do CPS (i) recebem um modelo privado para funcionar com seus dados locais (d_i) para proteção de privacidade junto com um modelo de proxy compartilhado para permitir um comportamento cooperativo seguro entre os participantes. Os modelos iniciam seu treinamento com pesos criados a partir de entradas aleatórias de uma distribuição gaussiana²¹ para condições iniciais normalizadas, que é expressa como na equação (1),
(1)
Os participantes processam seus dados de forma autônoma enquanto trocam insights por meio de modelos compartilhados que oferecem suporte ao aprendizado generativo distribuído que preserva a privacidade em sistemas CPS.

2. Treinamento local sobre dados privados

O estágio 2 é o treinamento local sobre dados privados; aqui, ocorre o treinamento de dados, onde os participantes do CPS desenvolvem modelos privados a partir de seus dados locais armazenados para manter a proteção total dos dados no local, protegendo-os da exposição externa. Os participantes recebem treinamento em otimização de modelos baseados em dados usando gradiente descendente estocástico (SGD)²² , que ocorre por meio de uma função de perda localizada (l_local) e suporta extração de insights significativos e adaptações localizadas, mantendo a privacidade dos dados.
(2)
(3)
De (2) e (3), I e O denotam a entrada da amostra e o valor alvo correspondente. L indica a perda com uma taxa de aprendizado (Ɽ). Esta etapa desenvolve sistemas de inteligência de participantes individuais, que servem como base para futuros processos educacionais colaborativos seguros.
A Rede Neural Recorrente Independente (IndRNN) funciona como o modelo de ML do estágio 2 porque sua arquitetura permite a independência do neurônio durante cada etapa de tempo para lidar com tarefas específicas de CPS enquanto mitiga os problemas tradicionais de gradiente de RNN. Cada neurônio dentro da configuração do IndRNN vem com um peso recorrente individual, permitindo uma melhor captura de dependências de longo prazo. O modelo de operação separada aprimora a transmissão de gradiente, que dimensiona estruturas de rede profundas de forma eficaz, mantendo os processos computacionais eficientes. O processamento sequencial de dados em plataformas CPS tem melhor desempenho com o IndRNN devido à sua capacidade de processar sequências longas usando fortes padrões de aprendizado, mantendo a complexidade da rede baixa.
A computação na equação (4) exibe a solução para o problema do gradiente de desaparecimento e explosão dentro do IndRNN decorre de sua abordagem distinta para o projeto de conexão recorrente.
(4)
De (4), ω e H_t indicam o peso e o estado oculto em t, respectivamente. representam o vetor de significância recorrente independente (pesos), um para cada ponto de dados, permitindo a independência em diferentes etapas de tempo. ʘ denota que o design apresenta suporte de multiplicação elementar, que mantém total independência entre as conexões recorrentes de cada neurônio, e ä significa a função de ativação. O design da arquitetura neural evita a expansão ou contração do gradiente em toda a sequência de cálculos, o que suporta o treinamento do modelo de aprendizado estável e o sucesso no aprendizado de padrões estendidos.
O IndRNN se torna a abordagem preferida para detecção de anomalias CPS porque evita com sucesso explosões e desaparecimentos de gradientes RNN tradicionais. As dependências de longo prazo tornam-se fáceis de rastrear por meio da arquitetura IndRNN, pois ela opera com menos complexidades do que os modelos Transformer e alcança convergência rápida e operação em tempo real. A natureza efetiva do IndRNN o torna excepcionalmente adequado para representar as características operacionais limitadas em recursos do CPS, ao mesmo tempo em que fornece reconhecimento exato de anomalias sem tensão computacional excessiva.

3. Modelo de difusão para geração de dados sintéticos

O Estágio-3 é o Modelo de Difusão para Geração de Dados Sintéticos. Esta etapa utiliza modelos avançados de difusão para produzir dados sintéticos, que replicam as principais características dos dados privados adquiridos. Os modelos aprendem a distribuição original de dados confidenciais de privacidade por meio da adição de ruído controlado para coletar características, o que ajuda a criar dados sintéticos com alta fidelidade que retêm recursos importantes enquanto protegem as salvaguardas de privacidade. O procedimento iterativo de redução de ruído gera dados sintéticos, mantendo propriedades estatísticas essenciais e elementos estruturais de dados reais.
Inicialmente, o processo de treinamento do modelo de difusão generativa (Υ) se concentra na criação de dados sintéticos com alta fidelidade, mantendo recursos cruciais de dados privados (d_i), e a computação central de tal geração envolve,
(5)
A partir de (5), indique a incorporação de ruído gaussiano nas amostras de dados. Os dados sintéticos recém-gerados são expressos como,
(6)

4. Atualizações de modelo de proxy com privacidade diferencial

O estágio 4 são atualizações de modelo de proxy com privacidade diferencial. Nesse estágio, cada participante comunicativo utiliza dados sintéticos criados pelo modelo de difusão durante esse estágio para treinar seu modelo proxy nesse estágio.
(7)
Os gradientes de atualizações do modelo de proxy permanecem privados devido a mecanismos de privacidade diferenciais que adicionam ruído aos seus valores.
(8)
Para proteger a privacidade dos dados, métodos avançados de criptografia (criptografia homomórfica) transformam (ξ) atualizações higienizadas (U) em dados seguros, que são distribuídos por meio de um servidor central ou de vários nós pares.
(9)
De (9), ҟ significa a chave de criptografia. Por meio da agregação colaborativa de atualizações criptografadas, os sistemas mantêm a segurança de informações locais confidenciais ao realizar operações de aprendizado distribuído com segurança.
A criptografia homomórfica²³cria plataformas seguras para executar cálculos em dados criptografados sem descriptografia antes de permitir que os resultados finais sejam obtidos de entradas criptografadas, como gradientes agregados. Os dados permanecem criptografados por toda a sua duração operacional (ponta a ponta), o que, consequentemente, evita violações externas durante os processos computacionais. A plataforma permite que os participantes do CPS em diferentes locais troquem atualizações de dados criptografados para operações de aprendizado colaborativo sem divulgar informações privadas. De acordo com os objetivos do estudo, essa técnica mantém a proteção completa da privacidade conforme necessário e mostra desempenho superior em comparação com outros métodos de criptografia, que exigem descriptografia de dados para computação, expondo-os a possíveis ameaças. A criptografia homomórfica prova ser o método de segurança mais adequado para sistemas proxyFL porque suporta cálculos seguros em dados e operações de criptografia autônomas.

5. Proteja as interações ponto a ponto

1. O estágio 5 é Interações Peer-to-Peer Seguras. Durante esse estágio, os participantes transmitem com segurança suas atualizações de modelo de proxy higienizado criptografado, que eles criaram no Estágio 4. Os participantes (i) mantêm a confidencialidade ao transmitir atualizações graças à criptografia homomórfica, o que facilita cálculos como agregação de gradiente em dados criptografados diretamente, sem a necessidade de descriptografar. Os participantes expressam a comunicação ponto a ponto por meio de métodos computacionais como,
   (10)
   A partir de (10), é evidente que a interação/comunicação peer-to-peer segura dentro das plataformas CPS é garantida por meio de criptografia homomórfica, (ξ(·)).
   Por meio da agregação de gradiente (Ψ), as contribuições de gradiente criptografadas de vários usuários permitem a atualização colaborativa do modelo de proxy comum. Este estudo mostra o acúmulo seguro dos gradientes criptografados de cada participante por meio de criptografia homomórfica.
   (11)
   De (11), N representa a contagem do participante. O método também permite cálculos diretos em gradientes criptografados e protege dados confidenciais durante a agregação. Os participantes atualizam o modelo de proxy por meio da descriptografia de gradientes agregados, o que permite o aprendizado colaborativo consciente da privacidade em toda a rede CPS. Os métodos de descriptografia seguros preservam o acesso privado a gradientes individuais para todos os usuários durante o processo completo.
   (12)
   Assim, as restrições de autorização segura impedem que participantes individuais acessem atualizações de dados que pertencem a fatores externos. A rede utiliza atualizações agregadas para aprimoramento colaborativo de modelos de proxy compartilhados para obter aprendizado distribuído seguro com fortes proteções de privacidade em sistemas CPS.

6. Detecção de anomalias e modelagem preditiva

1. Finalmente, o estágio 6 é a Detecção de Anomalias e Modelagem Preditiva. Nesse estágio, os modelos de proxy atualizados são estabelecidos para servir para analisar dados reais do CPS em um ambiente de teste configurado. Os modelos proxy identificam anomalias (Ф) comparando novos dados (I) com padrões provenientes de síntese e entradas históricas para gerar uma pontuação de anomalia (Å) que sinaliza elementos que excedem um limite/limite predeterminado (τ), que é expresso computacionalmente como,
   (13)
   (14)
   Tanto (13) quanto (14) garantem que ele forneça um método para reconhecer comportamentos anormais do sistema e falhas nos estágios iniciais.
   A modelagem preditiva com modelos proxy envolve representações de aprendizado que produzem previsões sobre comportamentos ou estados do sistema a partir de sequências de dados de entrada dinâmicas/futuras (I_F), que é expresso como,
   (15)
   O fluxo de trabalho operacional da GPLF demonstrado em Figura 2 integra loops de feedback adaptativos, que sustentam a confiabilidade do sistema CPS e a relevância contínua. As detecções de anomalias ou desvios do sistema no Estágio 6 levam o procedimento a refazer suas etapas de volta ao Estágio 3, onde novos dados sintéticos são criados usando entradas privadas atualizadas para ajudar os modelos a se adaptarem às mudanças nos padrões. A divergência significativa dos resultados ou previsões esperados e a baixa precisão identificada durante o Estágio 6 forçam um retorno ao Estágio 2, onde os participantes precisam treinar novamente seus modelos usando os dados mais precisos e atualizados disponíveis. Durante as avaliações do sistema do Estágio 5, se a convergência do modelo se mostrar inadequada ou as inconsistências se tornarem evidentes, o sistema volta ao Estágio 4 para aplicar refinamentos por meio de dados sintéticos aprimorados e técnicas de privacidade otimizadas. Os mecanismos de loop estabelecem prontidão de aprendizado adaptável, o que mantém um forte desempenho e segurança do sistema em todas as operações do sistema de controle e processo.
   Uma forte mistura de componentes de hardware e software validou as funções GPLF para implantação de CPS por meio de operações escaláveis e seguras. Os requisitos específicos da plataforma para GPLF envolviam o Ubuntu 20.04 LTS com implementação Python v3.9, além de estruturas de aprendizado profundo PyTorch v1.12 e TensorFlow v2.9 para realizar treinamento para modelos privados, proxy e de difusão. A avaliação do desempenho do sistema combinou o software de visualização Matplotlib v3.5 com a visualização estatística Seaborn v0.11 e o benchmarking Scikit-learn v1.1 juntamente com medidas de privacidade do PySyft v0.6.0 para privacidade diferencial e TenSEAL v0.3 para criptografia homomórfica. Os requisitos de hardware incluíam um processador AMD EPYC-7502P junto com uma GPU A100 executando CUDA v11.6 para eficiência de computação e demandas de memória de 256 GB de RAM para suportar extensos conjuntos de dados CPS, bem como um SSD de 1 TB seguido por uma rede Gigabit Ethernet projetada para troca segura de informações estão incluídos para conduzir as experimentações de pesquisa eficientes. Os algoritmos GPLF receberam validação por meio dessa configuração do sistema, que protegeu os dados enquanto comprovava os princípios de escalabilidade para implementações de CPS do mundo real. A seleção de versão alcança compatibilidade com criptografia avançada, bem como aprendizado federado e técnicas de modelo generativo, permitindo escalabilidade de validação confiável em vários aplicativos CPS.
   Durante a pesquisa, o estudo optou por alguns hiperparâmetros vitais que equilibravam a maximização do desempenho com proteção de privacidade e escalabilidade em todos os estágios da GPLF. Para equilibrar o aprendizado local com o colaborativo, os pesquisadores definiram taxas de aprendizado exclusivas em 0,001 e 0,01 para modelos privados e proxy, mas mantiveram pesos inicializados em gaussianos para garantir uma convergência estável. Para evitar o sobreajuste durante o processamento de dados do CPS, o processo de treinamento local usou lotes de 32 instâncias, cada uma com mais de dez épocas. A geração de dados sintéticos exigia que o modelo de difusão empregasse um processo de 1000 etapas com desvio padrão de ruído de 0,05 para manter a precisão do recurso crítico. A anonimização dos dados por meio da privacidade diferencial foi obtida implementando o recorte de gradiente em 1,0 com uma escala de ruído ajustada para 0,1, preservando a utilidade do conjunto de dados. Para criptografia homomórfica, o Paillier Cryptosystem²⁴ é empregado para processar gradientes por meio de operações puramente aditivas dentro do aprendizado federado. O sistema criptográfico Paillier permite operações diretas em informações criptografadas, o que elimina extensos requisitos de comunicação em sistemas de computação seguros de várias partes. Essa técnica permite uma agregação mais rápida, juntamente com requisitos de comunicação reduzidos, o que leva a uma solução escalável e eficiente para cálculos seguros em sistemas CPS com recursos limitados. A detecção de anomalias, limite/limite predeterminado e um horizonte de previsão de dez etapas garantiram um monitoramento preciso e uma tomada de decisão proativa no CPS. Por meio do ajuste fino de hiperparâmetros, um equilíbrio perfeito entre métricas de desempenho e adaptabilidade do sistema é alcançado com proteção de privacidade em aplicativos práticos de CPS.
   Tabela 2 documenta os hiperparâmetros necessários para cada estágio da pesquisa GPLF e os valores ideais para alcançar o melhor desempenho em toda a metodologia.
   Dois conjuntos de dados proeminentes são considerados para o treinamento e avaliação da abordagem proposta em vários aspectos. Eles são TON_IoT^{25,26,27,28,29,30,31} e UNSW-NB15^{32,33,34,35,36} da Universidade de Nova Gales do Sul (UNSW) Canberra. Os conjuntos de dados TON_IoT e UNSW-NB15 foram selecionados porque contêm uma ampla gama de condições CPS. Esses conjuntos de dados servem a propósitos diferentes porque TON_IoT apresenta diversas leituras de sensores IoT combinadas com modelos de situação industrial, e o UNSW-NB15 oferece extensos testes de dados de intrusão de rede para sistemas de segurança. A combinação de conjuntos de dados TON_IoT e UNSW-NB15 permite uma avaliação completa do desempenho da GPLF em diferentes configurações operacionais. A inclusão de novos conjuntos de dados aumentará a confiabilidade operacional da estrutura, uma vez que identificamos essa deficiência como um objetivo de desenvolvimento futuro.
   Os conjuntos de dados TON_IoT representam um extenso repositório de dados desenvolvido para testar o desempenho de aplicativos de segurança cibernética usando sistemas baseados em algoritmos de IA e ML. Na academia militar australiana sob a UNSW, onde os pesquisadores geraram esses conjuntos de dados a partir de fontes heterogêneas que usam informações de telemetria de mais de 10 sensores IoT indígenas e industriais, incluindo leitores meteorológicos e sensores Modbus, juntamente com logs do sistema operacional e pacotes de rede capturados com ZEEK (Bro) no formato pcap em conjunto com arquivos de log e arquivos de valores separados por vírgula (CSV). Esse conjunto de dados se origina de uma rede do mundo real que combina componentes de IoT com funções de nuvem e recursos de computação de borda/névoa, que foram gerenciados em vários hosts que executam máquinas virtuais e vários sistemas operacionais. O sistema construído permitiu que os pesquisadores realizassem testes de ataques cibernéticos, que incluem ataques de negação de serviço distribuído (DDoS) e DoS, bem como ataques de ransomware contra aplicativos de IoT e redes de computadores dentro da estrutura combinada de Internet das Coisas / IoT industrial. TON_IoT conjuntos de dados incluem componentes de dados brutos, bem como dados processados com recursos e rótulos padrão, amostras de treinamento e teste, descrições de recursos, resumos estatísticos e eventos de segurança, juntamente com rótulos de verdade. As soluções de segurança cibernética orientadas por IA para mecanismos de detecção de malware, IDS, métodos de detecção de fraudes e plataformas de inteligência de ameaças, juntamente com processos de preservação de privacidade e análise forense digital, se beneficiam de conjuntos de dados TON_IoT devido ao seu design organizacional estruturado, que também auxilia modelos de ML adversários e métodos de caça a ameaças.
   O Cyber Range Lab da UNSW Canberra desenvolveu o conjunto de dados UNSW-NB15 como um padrão abrangente para avaliação do sistema de detecção de intrusão de rede. Por meio da ferramenta IXIA PerfectStorm, a criação do conjunto de dados UNSW-NB15 mescla atividades modernas normais reais com demonstrações de ataques sintéticos, o que produz cerca de 100 GB de tráfego de rede capturado no formato pcap. O conjunto de dados compreende nove variantes de ataque exclusivas: Análise, DoS, Fuzzers, Backdoors, Shellcode, Exploits, Worms, Genérico e Reconhecimento. Aproveitando as ferramentas Argus e Bro-IDS junto com doze algoritmos projetados, os pesquisadores extraíram e marcaram 49 recursos, permitindo uma análise exaustiva. Mais de 2,5 milhões de registros preenchem o conjunto de dados, que abrange quatro estações de trabalho CSV e é dividido em 175.341 registros para fins de treinamento e 82.332 registros para testar a funcionalidade. O arranjo sistemático de dados dentro dessa estrutura impulsiona os processos de desenvolvimento e teste para modelos de detecção de intrusão.

Figura 2: Fluxo de trabalho de operação da GPLF. O fluxo de trabalho de operação sequencial da GPLF destacando cada etapa chave do processo. Clique aqui para ver uma versão maior desta figura.

Tabela 2: Especificações de parâmetros da GPLF. Clique aqui para baixar esta tabela.

Results

A métrica do Índice de Redução de Vazamento de Privacidade (PLRI) mede a redução de vazamento de privacidade quando comparada com modelos de linha de base padrão. A avaliação se concentra em como a privacidade diferencial e a criptografia homomórfica funcionam como abordagens de preservação de privacidade.

A pontuação de vazamento de privacidade avalia o número de pontos de dados expostos em relação ao total de atualizações em modelos, juntamente com atividades de distribuição de dados sintéti...

Discussion

Os elementos de design do GPLF não apenas suportam suas funções de privacidade, mas também oferecem benefícios suplementares, aumentando sua capacidade de implantação. Ao empregar modelos de difusão para produzir dados sintéticos de alta fidelidade, a estrutura fornece camadas essenciais de proteção de privacidade para campos essenciais como saúde, juntamente com monitoramento de infraestrutura crítica, mantendo recursos precisos de modelagem generativa. O GPLF alcança proteção aprimorad...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
GPU A100 (CUDA)	Aceleração de GPU NVIDIA	CUDA versão 11.6	para treinamento e avaliação de modelos.
CPU AMD EPYC-7502P	AMD	N/A	usado para computação de alto desempenho.
Gigabit Ethernet	Intel	N/A	Networking para comunicação segura ponto a ponto no CPS.
Matplotlib	Python Software Foundation	Versão 3.5	Biblioteca de visualização para plotagem de resultados.
Paillier Cryptosystem	Open Source (implementado via TenSEAL)	N/A	Permite a criptografia homomórfica aditiva em gradientes.
PySyft	OpenMined	Versão 0.6.0	Privacidade diferencial e biblioteca de aprendizado federado.
Python (Distribuição Anaconda)	Anaconda Inc	Versão 3.9	Inclui pacotes pré-instalados e ferramentas de gerenciamento de ambiente, Usado para scripts e desenvolvimento de framework.
PyTorch	Meta AI	versão 1.12	Estrutura de aprendizado profundo para modelos de treinamento.
RAM	Corsair	256 GigaByte (GB)	Suporte de alta memória para treinamento intensivo.
Scikit-learn	Python Software Foundation	Versão 1.1	Ferramentas de aprendizado de máquina para avaliação de desempenho.
Seaborn	Python Software Foundation	Versão 0.11	Biblioteca de visualização de dados estatísticos.
Armazenamento SSD	Seagate	1 TeraByte (TB)	Para armazenamento e recuperação de dados rápidos.
TenSEAL	OpenMined	Versão 0.3	Biblioteca de criptografia homomórfica para agregação segura.
TensorFlow	Google	Versão 2.9	Estrutura de aprendizado profundo para modelos de difusão.
Ubuntu OS	Canonical	Versão 20.04 LTS	Sistema operacional usado para todos os experimentos.