사이버 물리 시스템에서 생성 지능을 위한 안전한 피어 상호 작용을 통한 확산 기반 프록시 학습 전략

Summary

여기에서는 CPS(Cyber-Physical Systems)에서 생성 AI 솔루션을 개선하기 위해 ProxyFL(Proxy-based Federated Learning)을 제공하는 GPLF(Generative Proxy Learning Framework)를 소개합니다. GPLF는 차등 개인 정보 보호 기능과 암호화 방법을 통합함으로써 개인 정보 보호를 강화하여 개인 정보 유출을 줄여 사이버 물리 시스템 운영을 보다 스마트하고 안전하게 만듭니다.

Abstract

CPS(Cyber-Physical System)는 컴퓨팅 인텔리전스와 물리적 프로세스를 결합하여 다양한 필수 영역에 걸쳐 즉각적인 모니터링, 의사 결정 기능 및 자동화 서비스를 가능하게 합니다. 또한 생성형 인공 지능(AI)은 민감한 데이터가 있는 분산 환경에서 심각한 개인 정보 보호 및 보안 유지 관리 문제를 야기하기 때문에 CPS 내 배포에 상당한 장벽에 직면해 있습니다. FL(Federated Learning)과 같은 현재 기술은 모델 다양성과 개인 정보가 손상될 수 있는 위험 모두에서 어려움에 직면해 있습니다. GPLF(Generative Proxy Learning Framework)는 CPS(Cyber-Physical Systems) 내의 생성형 AI 애플리케이션에 특별히 조정된 ProxyFL(Proxy-based Federated Learning)을 활용하는 혁신적인 솔루션 역할을 합니다. GPLF에서 각 참가자는 두 가지 모델을 유지합니다. 참가자는 보호된 노드 협업을 가능하게 하는 공유 프록시 모델과 함께 로컬 데이터 분석 전용 개인 모델을 운영합니다. 생성형 AI 메커니즘의 필수 기반인 고급 확산 모델은 주요 데이터 기능 보존과 함께 충실도가 높은 합성 데이터를 제공합니다. 이 모델은 합성 센서 데이터를 생성하여 이상 감지를 개선하고 다양한 시나리오에서 실제 CPS 동작 표현을 통해 예측 모델링을 지원합니다. 이 시스템은 프록시 데이터 업데이트에서 차등 개인 정보 보호 메커니즘을 통해 고급 개인 정보 보호를 달성하며, 네트워크의 직접 피어 통신은 고급 암호화 보호의 이점을 누릴 수 있습니다. GPLF는 이상 감지, 합성 데이터 생성 및 예측 모델링을 포함한 안전한 생성 프로세스를 지원하는 실시간 센서 및 IoT 장치에 연결하여 CPS 플랫폼을 제공합니다. 벤치마크 CPS 데이터 세트의 테스트 결과는 개인 정보 유출이 25% 감소하고 데이터 교환 기능이 25% 향상되는 등 상당한 성능 개선과 함께 생성 작업 정확도가 18% 향상되어 안전하고 지능적인 CPS 운영을 위한 혁신적인 잠재력을 지원하는 것으로 나타났습니다.

Introduction

이 연구는 컴퓨팅 인텔리전스와 실제 프로세스를 결합하여 신속한 의사 결정 기능 및 시스템 자동화와 함께 실시간 감시를 가능하게 함으로써 사이버 물리 시스템(CPS)을 조사합니다¹. 새롭게 부상하는 사물 인터넷(IoT) 및 인공 지능(AI) 기술은 CPS 시스템이 스마트 그리드 개발 및 산업 자동화 프로세스, 의료 서비스^{제공 서비스 전반에} 걸쳐 필수 기능을 작동하는 응용 분야의 범위를 크게 확장하고 있습니다 2. CPS를 배포하는 조직은 시스템 동작을 모방할 수 있는 기능을 제공할 뿐만 아니라 향상된 이상 탐지와 함께 예측 모델링을 가능하게 하는 제너레이티브 AI 모델을 점점 더 많이 활용하고 있습니다. CPS 데이터의 분산 형식과 민감한 속성이 결합되어 생성형 AI 구현에서 보안 문제 및 확장성 문제와 함께 주요 개인 정보 보호 취약성을 초래합니다.

연합 학습(FL)과 같은 기존 기술은 데이터 개인 정보 보호에 중점을 두지만 모델 업데이트 개인 정보 유출 위협, 생성형 AI에 대한 지원 감소 및 다양한 CPS 조건의 부적절한 처리 등 한계에 직면해 있습니다³. 현재의 접근 방식은 실시간 작업 중에 분산된 CPS에서 작업할 때 데이터 생성 및 보호 조치를 위해 설계된 고급 메커니즘의 필수적인 통합이 부족합니다. 현재 프레임워크가 여러 영역에서 부족하기 때문에 기존 연구는 명확한 개인 정보 보호와 함께 안전하고 확장 가능한 생성형 모델을 제공하는 새로운 솔루션을 만들어야만 충족될 수 있는 중요한 요구 사항을 보여줍니다⁴.

새로운 GPLF(Generative Proxy Learning Framework) 연구는 CPS 내에서 생성형 AI 기능의 배포를 용이하게 하기 위해 특별히 제작된 방법을 간략하게 설명합니다. GPLF는 프록시 기반 FL 스킴⁵를 구현하여 사용자는 개별 데이터 검사를 위한 개인 모델 및 프록시 모델을 사용하여 보호된 협력 학습 활동을 유지할 수 있습니다. 이 연구는 보안 동형 암호화와 결합된 차등 개인 정보 보호 접근 방식의 적용을 통한 데이터 개인 정보 보호 강화를 목표로 하며 고품질 합성 데이터 생성을 위해 고급 확산 모델을 사용합니다. 이 시스템은 안전한 이상 탐지와 예측 모델링 기능을 지원하는 동시에 분산된 CPS 작업 간에 효율적인 정보 전달을 가능하게 합니다.

GPLF는 데이터 보호 및 시스템 유연성⁶을 제공하는 이중 모델 프레임워크 설계를 통해 기존 FL 문제를 해결합니다. 각 CPS 참가자는 프라이빗 모델과 프록시 모델을 모두 사용하며, 두 개의 별도 시스템을 구축하여 로컬 개인 정보 보호를 달성하고 팀 학습 기능을 사용할 수 있습니다. 프라이빗 모델은 지역화된 작업을 사용하여 참가자의 기밀 데이터에서 학습하고 각 참가자의 매개 변수 내에 중요한 정보를 저장하여 전체 데이터 개인 정보를 유지합니다. 이 시스템은 이상 징후를 감지하고 로컬 수준⁷에서 패턴을 인식할 때 최대 성능을 달성합니다. 프록시 모델은 안전한 지식 공유를 위해 모든 참가자가 사용할 수 있는 공동 집단 학습 메커니즘 역할을 합니다. 프록시 모델은 확산 모델의 삭제된 합성 데이터 처리를 통해 기밀성을 유지하며 학습하고 차등 개인 정보 보호 및 동형 암호화를 통해 업데이트를 전달하므로 개인적이면서도 기능적인 FL을 가능하게 합니다.

확산 전략을 사용하면 개인 정보를 숨기면서 필수 특성을 유지하는 우수한 합성 데이터 세트를 만들 수 있습니다. 이 연구는 상당한 발전을 보여주었으며, 이는 업그레이드된 데이터 교환 기능과 생성 작업의 성능 향상을 통해 개인 정보 유출이 크게 감소하여 보다 탄력적인 사이버 물리 시스템 운영을 가능하게 하는 것으로 나타났습니다. GPLF는 개인 정보 보호 학습과 생성형 AI 기능을 통합하여 지능형 CPS를 위한 새로운 방법론을 만듭니다⁸.

GPLF는 CPS 전반에 걸친 생성형 AI 배포에서 개인 정보 보호 문제를 처리하는 것을 특별히 목표로 하는 트윈 모델 설계를 통해 새로운 기능을 제공합니다. 기존의 연합 학습은 모든 참가자에 대해 하나의 모델을 사용하는 반면, GPLF는 로컬 데이터 검사를 위한 개인 모델과 그룹 학습 작업을 수행하기 위한 프록시 모델을 모두 배포합니다. 엄격한 데이터 분리를 통해 환자는 민감한 정보를 로컬에 유지하지만 차등 개인 정보 보호와 결합된 프록시 모델의 삭제된 합성 데이터를 사용하여 안전한 협업을 달성합니다. 프록시 모델은 강력한 이상 탐지 및 예측 모델링을 보장하는 동시에 확산 모델에서 생성된 고품질 합성 데이터를 통해 시스템 적응성을 유지하여 사용자 개인 정보 보호를 보장합니다. GPLF는 이중 모델 접근 방식이 확장성과 운영 효율성을 유지하면서 보안 데이터와 함께 강화된 개인 정보 보호를 제공하기 때문에 보안 CPS 시스템을 위한 혁신적인 프레임워크로 두드러집니다.

이 연구의 목적은 CPS 내에서 안전하게 적응할 수 있도록 이중 모델 아키텍처를 요구하는 ProxyFL(Proxy-Based Federated Learning)을 개발하는 것입니다. 또한 고급 확산 모델은 개인 정보 보호 장치 동안 필수 데이터 특성을 유지하기 위해 합성 데이터 생산을 위한 통합 지점 역할을 하는 데 필수적입니다. 마지막으로, 그래디언트 집계 중에 데이터 보안을 보장하고 개인 정보를 보호하기 위해 동형 암호화 프로토콜과 함께 차등 개인 정보 보호 방법을 구현해야 합니다.

표 1 9,10,11,12,13,14,15,16,17,18,19는 기존 방법의 핵심 프로세스와 그 달성 과정을 강조하지만 몇 가지 중요한 제한 사항이 있습니다.

표 1: 기존 연구의 개요, 핵심 초점, 핵심 구성 요소, 성과 및 한계. 이 표를 다운로드하려면 여기를 클릭하십시오.

제너레이티브 AI를 CPS 시스템에 병합하는 기존 접근 방식은 개인 정보 보호 규정을 유지하고 시스템 유연성을 달성하는 동시에 대규모 배포로 확장하는 데 있어 중요한 문제를 보여줍니다²⁰. 현재의 FL 방식은 불충분한 모델 다양성을 통해 제약을 보여주는 동시에 분산되고 변화하는 시스템에서 약한 성능을 보여주고 취약한 데이터 전송 관행으로 인해 사용자 데이터를 노출시킵니다. CPS의 이상 탐지, 합성 데이터 생성 및 예측 모델링에 필요한 충실도가 높은 데이터 표현은 종종 많은 생성 모델링 솔루션에서 벗어나 이러한 표준을 달성하려는 시도에서 개인 정보 보호 및 계산 효율성을 손상시킬 수 있습니다. 현재의 시스템 결함은 확장 가능하고 안전하며 효율적인 생성형 AI 프로세스를 지원하기 위한 프레임워크 요구 사항을 확인시켜줍니다.

Protocol

GPLF(Generative Proxy Learning Framework)는 제너레이티브 AI와 CPS를 통합하고 분산 네트워크 시스템 내에서 보안 및 성능 메트릭과 함께 데이터 개인 정보 보호의 중요한 문제를 해결하는 새로운 기술을 나타냅니다. CPS 플랫폼의 기능은 점점 더 많은 IoT 장치 및 센서에서 민감한 데이터 입력을 추출하는 자동화된 작업과 함께 최신 모니터링에 의존합니다. CPS 시스템에 생성형 AI 기술을 채택하면 분산 네트워크 설정 전반에 걸쳐 보안 문제와 결합된 개인 정보 보호 취약성과 같은 특별한 위험이 발생하는 것으로 밝혀졌습니다. GPLF는 기존 문제를 완화하기 위해 생성 작업을 위해 특별히 고안된 안전한 협업 학습을 지원하는 혁신적인 ProxyFL(Proxy-Based Federated Learning) 프레임워크를 출시합니다. GPLF 프레임워크에 대한 철저한 평가는 다양한 센서 네트워크 기술과 IoT 장치 및 라이브 데이터 스트리밍을 결합한 테스트베드가 있는 CPS 플랫폼에서 수행되었습니다.

GPLF 참가자는 참여하는 동안 두 가지 모델을 실행합니다.
독점적인 Private Model은 로컬 데이터 검사를 위한 기능을 하는 동시에 외부 액세스로부터 데이터를 보호합니다.
시스템의 공유 프록시 모델⁵ 는 차등 개인 정보 보호 방법과 결합된 암호화 기술을 통해 안전한 참가자 협력을 가능하게 합니다.

이 프레임워크는 확산 모델을 활용하여 이상 탐지 기능을 구동하는 정교한 합성 데이터 세트를 생성하는 동시에 다양한 시나리오 시뮬레이션 중에 예측 모델링 및 시스템 동작 추적을 보여줍니다. 합성된 데이터 세트는 효과적인 개인 정보 보호 방법을 통해 중요한 기능 특성을 유지합니다. 이 프레임워크는 악의적인 공격으로부터 통신 채널을 보호하는 강력한 암호화 기술을 통해 안전한 P2P 교환을 운영합니다. 실제 CPS 플랫폼에서 GPLF와 함께 수행된 평가는 확장성 제한 전반에 걸쳐 안전하고 지능적인 운영 용량에 상당한 발전을 가져올 수 있는 방법을 보여주었습니다. 데이터 교환 능력 및 생성 작업 정밀도의 보완적인 향상과 함께 개인 정보 유출 조치에 대한 상당한 개선은 기능적 가치와 구체적인 성능 결과를 입증했습니다. GPLF의 핵심 단계에는 GPLF의 중추를 형성하고 차등 개인 정보 보호로 보호되는 프록시 모델 업데이트를 통합하는 개인 데이터 로컬 학습과 함께 연합 학습의 프록시 기반 초기화가 포함됩니다. 안전한 피어 투 피어 데이터 교환 기술 및 이상 탐지 및 예측 모델링을 위한 모듈을 사용한 확산 모델 합성 데이터 생성 방법도 포함됩니다. 그림 1 의 조직화된 구조는 CPS의 기본 작동을 최적화할 수 있는 잠재력을 가진 GPLF의 필수 요소를 보여줍니다.

그림 1: 안전하고 스마트한 CPS 운영을 위한 GPLF의 아키텍처 프레임워크. 사이버 물리 시스템에서 안전하고 스마트한 운영을 가능하게 하도록 설계되었습니다. 이 그림의 더 큰 버전을 보려면 여기를 클릭하십시오.

다음 섹션에서는 CPS 플랫폼에서 이기종 장치 간의 보안 통신을 위한 프레임워크의 6단계에 대해 자세히 설명합니다.

1. 프록시 기반 연합 학습 초기화

1단계는 프록시 기반 연합 학습 초기화로, GPLF는 프록시 기반 FL 초기화 프로세스를 사용하여 개인 정보를 보호하면서도 참가자가 학습 기능을 통해 안전하게 협업할 수 있도록 하는 두 가지 모델로 각 CPS 참가자의 (N) 시스템을 설정합니다. 개별 CPS 참가자는 (i) 참가자 간의 안전한 협력 행동을 가능하게 하는 공유 프록시 모델과 함께 개인 정보 보호를 위해 로컬 데이터(d_i)와 함께 작동하는 개인 모델을 받습니다. 모델은 정규화된 초기 조건에 대한 가우스 분포²¹의 무작위 항목에서 생성된 가중치로 학습을 시작하며, 이는 방정식 (1)과 같이 표현됩니다.
(1)
참가자는 CPS 시스템에서 개인 정보를 보호하는 분산 생성 학습을 지원하는 공유 모델을 통해 통찰력을 교환하면서 데이터를 자율적으로 처리합니다.

2. 개인 데이터에 대한 현지 교육

2단계는 개인 데이터에 대한 현지 교육입니다. 여기에서 CPS 참가자는 저장된 로컬 데이터에서 개인 모델을 개발하여 외부 노출로부터 밀봉하여 완전한 현장 데이터 보호를 유지하는 데이터 교육이 진행됩니다. 참가자는 국소 손실 함수(l_local)를 통해 발생하는 확률적 경사 하강법(SGD)²²을 사용하여 데이터 기반 모델 최적화에 대한 교육을 받고 데이터 개인 정보를 유지하면서 의미 있는 통찰력 추출과 지역화된 적응을 모두 지원합니다.
(2)
(3)
(2)와 (3)에서 I 와 O 는 샘플 입력과 해당 목표 값을 나타냅니다. L 은 학습률(Ɽ)로 손실을 나타냅니다. 이 단계는 미래의 안전한 협업 교육 프로세스의 기반 역할을 하는 개별 참가자 인텔리전스 시스템을 개발합니다.
IndRNN(Independent Recurrent Neural Network)은 아키텍처가 기존 RNN 그래디언트 문제를 완화하면서 특정 CPS 작업을 처리하기 위해 각 시간 단계에서 뉴런 독립성을 허용하기 때문에 2단계의 ML 모델로 작동합니다. IndRNN 설정 내의 모든 뉴런에는 개별 반복 가중치가 부여되어 장기 종속성을 더 잘 포착할 수 있습니다. 별도의 작업 모델은 그래디언트 전송을 향상시켜 딥 네트워크 구조를 효과적으로 확장하는 동시에 계산 프로세스를 효율적으로 유지합니다. CPS 플랫폼에서의 순차 데이터 처리는 네트워크 복잡성을 낮게 유지하면서 강력한 학습 패턴을 사용하여 긴 시퀀스를 처리할 수 있는 기능 때문에 IndRNN에서 가장 잘 수행됩니다.
방정식 (4)의 계산은 IndRNN 내의 소실 및 폭발 기울기 문제에 대한 해가 순환 연결 설계에 대한 독특한 접근 방식에서 비롯됨을 보여줍니다.
(4)
(4)에서, ω와 _Ht는 각각 t에서 가중치와 은닉 상태를 나타냅니다. 각 데이터 점에 대해 하나씩 독립적인 반복 유의성(가중치)을 갖는 벡터를 나타내며, 다양한 시간 스텝에 걸쳐 독립성을 가능하게 합니다. ʘ는 각 뉴런의 반복적인 연결 사이의 완전한 독립성을 유지하는 요소별 곱셈 지원 설계 기능을 나타내고 ä는 활성화 기능을 의미합니다. 신경 아키텍처 설계는 계산 시퀀스 전반에 걸쳐 기울기 확장 또는 축소를 방지하여 안정적인 학습 모델 학습과 확장 패턴 학습의 성공을 지원합니다.
IndRNN은 기존의 RNN 그래디언트 폭발 및 소멸을 성공적으로 방지하기 때문에 CPS 이상 감지에 선호되는 접근 방식이 됩니다. IndRNN은 트랜스포머 모델보다 복잡성이 적고 신속한 컨버전스와 실시간 작동을 모두 달성하기 때문에 장기 종속성을 쉽게 추적할 수 있습니다. IndRNN의 효과적인 특성으로 인해 CPS의 리소스가 제한된 작동 특성을 나타내는 동시에 과도한 계산 부담 없이 정확한 이상 인식을 제공하는 데 매우 적합합니다.

3. 합성 데이터 생성을 위한 확산 모델

3단계는 합성 데이터 생성을 위한 확산 모델입니다. 이 단계에서는 고급 확산 모델을 활용하여 획득한 개인 데이터의 주요 특성을 복제하는 합성 데이터를 생성합니다. 이 모델은 특성을 수집하기 위해 제어된 노이즈를 추가하여 원래 개인 정보에 민감한 데이터의 분포를 학습하며, 이는 개인 정보 보호 장치를 보호하면서 중요한 기능을 유지하는 높은 충실도의 합성 데이터를 생성하는 데 도움이 됩니다. 반복적인 노이즈 제거 절차는 실제 데이터의 필수 통계적 속성과 구조적 요소를 유지하면서 합성 데이터를 생성합니다.
초기에 생성 확산 모델(Υ) 훈련 프로세스는 개인 데이터(d_i)의 중요한 기능을 유지하면서 충실도가 높은 합성 데이터를 생성하는 데 중점을 두며, 이러한 생성의 핵심 계산에는 다음이 포함됩니다.
(5)
(5) 에서 가우스 잡음이 데이터 샘플에 통합되었음을 나타냅니다. 새로 생성된 합성 데이터는 다음과 같이 표현됩니다.
(6)

4. 차등 개인 정보 보호를 통한 프록시 모델 업데이트

Stage-4는 차등 개인 정보 보호를 통한 프록시 모델 업데이트입니다. 이 단계에서 각 의사 소통 참가자는 이 단계에서 확산 모델에 의해 생성된 합성 데이터를 활용하여 이 단계에서 프록시 모델을 훈련합니다.
(7)
프록시 모델 업데이트의 그라데이션은 차등 개인 정보 보호 메커니즘으로 인해 비공개로 유지되어 값에 노이즈 가 추가됩니다.
(8)
데이터 개인 정보를 보호하기 위해 고급 암호화 방법(동형 암호화)은 삭제된 업데이트(U)를 중앙 서버 또는 여러 피어 노드를 통해 배포되는 안전한 데이터로 변환(ξ)합니다.
(9)
(9)부터 ҟ 는 암호화 키를 의미합니다. 암호화된 업데이트의 협업 집계를 통해 시스템은 분산 학습 작업을 안전하게 수행할 때 민감한 로컬 정보의 보안을 유지합니다.
Homomorphic encryption²³은 집계 그래디언트와 같은 암호화된 입력에서 최종 결과를 얻기 전에 암호 해독 없이 암호화된 데이터에 대한 계산을 실행할 수 있는 안전한 플랫폼을 만듭니다. 데이터는 전체 운영 기간(엔드투엔드) 동안 암호화된 상태로 유지되므로 결과적으로 컴퓨팅 프로세스 중 외부 침해를 방지할 수 있습니다. 이 플랫폼을 사용하면 서로 다른 위치에 있는 CPS 참가자가 개인 정보를 공개하지 않고 협업 학습 작업을 위해 암호화된 데이터 업데이트를 교환할 수 있습니다. 연구 목표에 따르면 이 기술은 필요에 따라 완전한 개인 정보 보호를 유지하고 계산을 위해 데이터 암호 해독이 필요한 다른 암호화 방법에 비해 우수한 성능을 보여 잠재적인 위협에 노출됩니다. 동형 암호화는 데이터에 대한 보안 계산과 독립 실행형 암호화 작업을 모두 지원하기 때문에 proxyFL 시스템에 가장 적합한 보안 방법임이 입증되었습니다.

5. 안전한 피어 투 피어 상호 작용

1. 5단계는 안전한 피어 투 피어 상호 작용입니다. 이 단계에서 참가자는 4단계에서 만든 암호화된 삭제된 프록시 모델 업데이트를 안전하게 전송합니다. 참가자는 (i) 동형 암호화 덕분에 업데이트를 전송하는 동안 기밀성을 유지하며, 이는 복호화할 필요 없이 암호화된 데이터에 대한 그래디언트 집계와 같은 계산을 직접 용이하게 합니다. 참가자는 계산 방법을 통해 P2P 커뮤니케이션을 다음과 같이 표현합니다.
   (10)
   (10)에서, CPS 플랫폼 내에서의 안전한 P2P 상호작용/통신은 동형암호화(ξ(·))를 통해 보장됨이 명백하다.
   그래디언트 어그리게이션(Ψ)을 통해 여러 사용자의 암호화된 그래디언트 기여도를 통해 공통 프록시 모델의 협업 업데이트를 가능하게 합니다. 본 연구는 동형 암호화를 통해 각 참가자의 암호화된 그래디언트가 안전하게 축적되는 것을 보여줍니다.
   (11)
   (11)에서 N 은 참가자의 수를 나타냅니다. 또한 이 방법은 암호화된 그래디언트에 대한 직접 계산을 허용하고 집계 중에 민감한 데이터를 보호합니다. 참가자는 집계된 그래디언트의 암호 해독을 통해 프록시 모델을 업데이트하여 CPS 네트워크 전체에서 개인 정보를 고려한 협업 학습을 가능하게 합니다. 보안 암호 해독 방법은 전체 프로세스 동안 모든 사용자의 개별 그라디언트에 대한 개인 액세스를 보존합니다.
   (12)
   따라서 보안 권한 부여 제한은 개별 참가자가 외부 요인이 소유한 데이터 업데이트에 액세스하지 못하도록 합니다. 네트워크는 공유 프록시 모델의 협업 향상을 위해 집계된 업데이트를 활용하여 CPS 시스템 전반에 걸쳐 강력한 개인 정보 보호 기능을 갖춘 안전한 분산 학습을 달성합니다.

6. 이상 탐지 및 예측 모델링

1. 마지막으로 6단계는 이상 탐지 및 예측 모델링입니다. 이 단계에서는 구성된 테스트 베드 환경 내에서 실제 CPS 데이터를 분석하기 위해 업데이트된 프록시 모델이 설정됩니다. 프록시 모델은 이상 징후(Ф)을 통해 새로운 데이터(I)를 synthesis 및 historical inputs에서 소싱된 패턴으로 사용하여 미리 결정된 한계/임계값(τ)이며, 이는 계산적으로 다음과 같이 표현됩니다.
   (13)
   (14)
   (13)과 (14)는 모두 초기 단계에서 비정상적인 시스템 동작과 결함을 인식할 수 있는 방법을 제공합니다.
   프록시 모델을 사용한 예측 모델링에는 동적/미래 입력 데이터 시퀀스(I_F)로 표현되며, 다음과 같이 표현됩니다.
   (15)
   GPLF 운영 워크플로우는 그림 2 적응형 피드백 루프를 통합하여 CPS 시스템의 신뢰성과 지속적인 관련성을 모두 유지합니다. 6단계에서 이상 징후 또는 시스템 드리프트가 감지되면 절차가 3단계로 되돌아가게 되며, 여기서 업데이트된 개인 항목을 사용하여 새로운 합성 데이터가 생성되어 모델이 변화하는 패턴에 적응할 수 있도록 지원합니다. 6단계에서 확인된 예상 출력 또는 예측과의 상당한 차이와 낮은 정확도로 인해 참가자는 사용 가능한 가장 정확한 최신 데이터를 사용하여 모델을 재교육해야 하는 2단계로 돌아가게 됩니다. 5단계 시스템 평가 중에 모델 수렴이 부적절한 것으로 판명되거나 불일치가 명백해지면 시스템은 4단계로 다시 진행하여 개선된 합성 데이터와 최적화된 개인 정보 보호 기술을 통해 개선을 적용합니다. 루핑 메커니즘은 적응형 학습 준비 태세를 구축하여 제어 및 프로세스 시스템 운영 전반에 걸쳐 강력한 시스템 성능과 보안을 유지합니다.
   하드웨어와 소프트웨어 구성 요소의 강력한 조합은 확장 가능하고 안전한 운영을 통해 CPS 배포를 위한 GPLF 기능을 검증했습니다. GPLF에 대한 구체적인 플랫폼 요구 사항에는 Python v3.9 구현이 포함된 Ubuntu 20.04 LTS와 프라이빗, 프록시 및 확산 모델에 대한 교육을 수행하기 위한 딥 러닝 프레임워크 PyTorch v1.12 및 TensorFlow v2.9가 수반되었습니다. 시스템 성능 평가는 Matplotlib v3.5 시각화 소프트웨어와 Seaborn v0.11 통계 시각화 및 Scikit-learn v1.1 벤치마킹을 결합했으며, 차등 개인 정보 보호를 위한 PySyft v0.6.0 및 동형 암호화를 위한 TenSEAL v0.3의 개인 정보 보호 조치와 함께 수행되었습니다. 하드웨어 요구 사항에는 계산 효율성을 위해 CUDA v11.6을 실행하는 A100 GPU와 AMD EPYC-7502P 프로세서가 포함되었으며 광범위한 CPS 데이터 세트를 지원하기 위한 256GB RAM의 메모리 요구 사항, 효율적인 연구 실험을 수행하기 위해 안전한 정보 교환을 위해 설계된 기가비트 이더넷 네트워크와 1TB SSD가 포함되어 있습니다. GPLF 알고리즘은 이 시스템 구성을 통해 검증을 받았으며, 이는 데이터를 보호하는 동시에 실제 CPS 구현을 위한 확장성 원칙을 입증했습니다. 버전 선택은 고급 암호화뿐만 아니라 연합 학습 및 생성 모델 기술과의 호환성을 달성하여 여러 CPS 애플리케이션에서 신뢰할 수 있는 검증 확장성을 가능하게 합니다.
   연구 기간 동안 이 연구는 모든 GPLF 단계에서 성능 극대화와 개인 정보 보호 및 확장성의 균형을 맞추는 몇 가지 중요한 하이퍼파라미터를 선택했습니다. 로컬 학습과 협업 학습의 균형을 맞추기 위해 연구자들은 프라이빗 및 프록시 모델에 대해 고유한 학습률을 0.001 및 0.01로 설정했지만 안정적인 수렴을 보장하기 위해 가우스 초기화 가중치를 유지했습니다. CPS 데이터를 처리하는 동안 과적합을 방지하기 위해 로컬 훈련 프로세스에서는 각각 10개의 Epoch가 넘는 32개의 인스턴스 배치를 사용했습니다. 합성 데이터 생성을 위해서는 확산 모델이 중요한 피처 정확도를 유지하기 위해 0.05 노이즈 표준 편차에서 1000단계 프로세스를 사용해야 했습니다. 차등 개인 정보 보호를 통한 데이터 익명화는 데이터 세트 유용성을 유지하면서 노이즈 스케일을 0.1로 조정한 1.0에서 그래디언트 클리핑을 구현하여 달성되었습니다. 동형 암호화의 경우, Paillier Cryptosystem²⁴ 연합 학습 내에서 순전히 덧셈 연산을 통해 그래디언트를 처리하는 데 사용됩니다. Paillier 암호화 시스템을 사용하면 암호화된 정보에 대한 직접 작업을 수행할 수 있으므로 다자간 보안 컴퓨팅 시스템에서 광범위한 통신 요구 사항을 제거할 수 있습니다. 이 기술을 사용하면 통신 요구 사항이 감소하고 더 빠른 집계가 가능하여 리소스가 제한된 CPS 시스템에서 안전한 계산을 위한 확장 가능하고 효율적인 솔루션으로 이어질 수 있습니다. 이상 탐지 사전 결정된 한계/임계값 및 10단계의 예측 수평선은 CPS에서 정확한 모니터링과 사전 예방적 의사 결정을 보장했습니다. 하이퍼파라미터 미세 조정을 통해 성능 메트릭과 시스템 적응성 간의 완벽한 균형이 달성되며, 실제 CPS 애플리케이션에서 개인 정보 보호가 이루어집니다.
   표 2 GPLF 연구의 각 단계에 필요한 하이퍼 파라미터와 전체 방법론에서 최상의 성능을 달성하기 위한 최적의 값을 문서화합니다.
   다양한 측면에서 제안된 접근 방식의 교육 및 평가를 위해 두 개의 저명한 데이터 세트가 고려됩니다. 그들은 TON_IoT^{25,26,27,28,29,30,31} 및 UNSW-NB15^{32,33,34,35,36} 캔버라 뉴사우스웨일즈 대학교(UNSW) 출신. TON_IoT 및 UNSW-NB15 데이터 세트는 모두 포괄적인 범위의 CPS 조건을 포함하고 있기 때문에 선택되었습니다. 이러한 데이터 세트는 TON_IoT 산업 상황 모델과 결합된 다양한 IoT 센서 판독값을 제공하고 UNSW-NB15는 보안 시스템에 대한 광범위한 네트워킹 침입 데이터 테스트를 제공하기 때문에 다양한 용도로 사용됩니다. TON_IoT 및 UNSW-NB15 데이터 세트의 결합을 통해 다양한 운영 환경에서 GPLF의 완전한 성능 평가를 수행할 수 있습니다. 새로운 데이터 세트를 포함하면 이러한 단점을 향후 개발 목표로 식별했기 때문에 프레임워크의 운영 안정성이 향상될 것입니다.
   TON_IoT 데이터 세트는 AI 및 ML 알고리즘 기반 시스템을 사용하여 사이버 보안 애플리케이션 성능을 테스트하기 위해 개발된 광범위한 데이터 저장소를 나타냅니다. UNSW 산하 호주 육군 사관학교의 연구원들은 날씨 판독기 및 Modbus 센서를 포함한 10개 이상의 토착 및 산업용 IoT 센서의 원격 측정 정보와 함께 로그 파일 및 쉼표로 구분된 값(CSV) 파일과 함께 pcap 형식의 ZEEK(Bro)로 캡처한 운영 체제 로그 및 네트워크 패킷과 함께 사용하는 이기종 소스에서 이러한 데이터 세트를 생성했습니다. 이 데이터 세트는 가상 머신과 다양한 운영 체제를 실행하는 여러 호스트에서 관리되는 클라우드 기능 및 에지/포그 컴퓨팅 기능과 IoT 구성 요소를 결합하는 실제 네트워크에서 비롯됩니다. 이 구축된 시스템을 통해 연구원들은 DDoS(Distributed Denial of Service) 및 DoS 공격, 사물 인터넷/산업용 IoT 프레임워크 내에서 IoT 애플리케이션 및 컴퓨터 네트워크에 대한 랜섬웨어 공격을 포함한 사이버 공격에 대한 테스트를 수행할 수 있었습니다. TON_IoT 데이터 세트에는 원시 데이터 구성 요소뿐만 아니라 표준 기능 및 레이블이 있는 처리된 데이터, 교육 및 테스트 샘플, 기능 설명, 통계 요약 및 보안 이벤트와 함께 실측 레이블이 포함됩니다. 멀웨어 탐지 메커니즘, IDS, 사기 탐지 방법 및 위협 인텔리전스 플랫폼을 위한 AI 기반 사이버 보안 솔루션은 개인 정보 보호 프로세스 및 디지털 포렌식과 함께 구조화된 조직 설계로 인해 TON_IoT 데이터 세트의 이점을 누릴 수 있으며, 이는 적대적 ML 모델 및 위협 헌팅 방법도 지원합니다.
   UNSW 캔버라의 사이버 레인지 랩(Cyber Range Lab)은 네트워크 침입 탐지 시스템 평가를 위한 포괄적인 표준으로 UNSW-NB15 데이터 세트를 개발했습니다. IXIA PerfectStorm 도구를 통해 UNSW-NB15 데이터 세트를 생성하면 실제 일반 현대 활동과 합성 공격 데모가 병합되어 pcap 형식으로 캡처된 약 100GB의 네트워크 트래픽이 생성됩니다. 이 데이터 세트는 Analysis, DoS, Fuzzers, Backdoors, Shellcode, Exploits, Worms, Generic, Reconnaissance의 9가지 고유한 공격 변종으로 구성됩니다. 연구원들은 Argus 및 Bro-IDS 도구와 12개의 설계된 알고리즘을 함께 활용하여 49개의 기능을 추출하고 태그를 지정하여 철저한 분석을 가능하게 했습니다. 250만 개 이상의 레코드가 데이터 세트를 채우고 있으며, 이 데이터 세트는 4개의 CSV 워크스테이션에 걸쳐 있으며 교육 목적의 175,341개의 레코드와 기능 테스트를 위한 82,332개의 레코드로 분류됩니다. 이 프레임워크 내에서 데이터를 체계적으로 배열하면 침입 감지 모델에 대한 개발 및 테스트 프로세스가 모두 주도됩니다.

그림 2: GPLF의 작업 흐름. 각 주요 프로세스 단계를 강조하는 GPLF의 순차적 작업 워크 플로우. 이 그림의 더 큰 버전을 보려면 여기를 클릭하십시오.

표 2: GPLF의 매개변수 사양. 이 표를 다운로드하려면 여기를 클릭하십시오.

Results

PLRI(Privacy Leakage Reduction Index) 메트릭은 표준 기준 모델과 비교할 때 개인 정보 유출 감소를 측정합니다. 이 평가는 개인 정보 보호 접근 방식에 따라 차등 개인 정보 보호 및 동형 암호화가 어떻게 수행되는지에 중점을 둡니다.

개인 정보 유출 점수는 합성 데이터 배포 활동과 함께 모델의 총 업데이트를 기준으로 노출된 데이터 포인트의 수를 평가합니다. 개인 정보 보호 전략의 효과를 평가합니다. 시스템은 PLRI가 더 높은 가치를 지닐 때 탁월한 개인 정보 보호를 달성합니다.

표 3의 PLRI 평가에 따르면, 새로운 GPLF 아키텍처는 기존 FL 기술에 비해 우수한 개인 정보 보호 기능을 보여줍니다. PMFL, HDSCNN-KF, IP2FL, FL-UPM 및 GAI-CIDS와 같은 평가된 방법은 35%에서 40% 범위의 개인 정보 유출을 보여주며, 이는 해당 작업 중에 ...

Discussion

GPLF의 디자인 요소는 개인 정보 보호 기능을 지원할 뿐만 아니라 배포 용량을 향상시키는 추가 이점도 제공합니다. 이 프레임워크는 확산 모델을 사용하여 충실도가 높은 합성 데이터를 생성함으로써 정확한 생성 모델링 기능을 유지하면서 중요한 인프라 모니터링과 함께 의료와 같은 필수 분야에 대한 필수 개인 정보 보호 계층을 제공합니다. GPLF는 참가자 변동 및 데이터 불일치와 관련된 문제를 해결하는 동시에 이중 모델 구조를 통해 이기종 시스템 내에서 향상된 개인 정보 보호와 더 높은 협업 학습 효율성을 달성합니다. 기존 시스템은 강력한 개인 정보 보호 기능과 확장 가능한 기능을 결합하는 데 어려움을 겪고 있지만 GPLF는 이러한 균형을 유지하고 향후 CPS 작업에 대한 적응성을 보여주기 때문에 두드러집니다. GPLF는 다양한 운영 상황에 지능적으로 적응할 수 있는 보안 시스템을 만드는 데 도움이 되는 혁신적인 기능을 보여줍니다.

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
A100 GPU(CUDA)	모델 교육 및 평가를 위한	NVIDIA	CUDA 버전 11.6
AMD EPYC-7502P CPU	AMD	N/A	고성능 컴퓨팅에 사용되는 프로세서.
기가비트 이더넷	CPS에서 피어 투 피어 보안 통신을 위한	Intel	N/A
Matplotlib	Python Software Foundation	버전 3.5	결과 플로팅을 위한 시각화 라이브러리.
Paillier Cryptosystem	Open Source (TenSEAL을 통해 구현됨)	N/A	그래디언트에서 추가 동형 암호화를 활성화합니다.
PySyft	OpenMined	버전 0.6.0	차등 개인 정보 보호 및 연합 학습 라이브러리.
Python (Anaconda Distribution)	Anaconda Inc	버전 3.9	스크립팅 및 프레임워크 개발에 사용되는 사전 설치된 패키지 및 환경 관리 도구가 포함되어 있습니다.
PyTorch	Meta AI	버전 1.12	학습 모델을 위한 딥 러닝 프레임워크.
RAM	커세어	256기가바이트(GB)	집중적인 훈련을 위한 높은 메모리 지원.
Scikit-learn	Python Software Foundation	버전 1.1	성능 평가를 위한 기계 학습 도구.
Seaborn	Python Software Foundation	버전 0.11	통계 데이터 시각화 라이브러리.
SSD 스토리지	Seagate	1 TeraByte (TB)	빠른 데이터 저장 및 검색.
TenSEAL	OpenMined	버전 0.3	보안 집계를 위한 동형 암호화 라이브러리.
TensorFlow	Google	버전 2.9	확산 모델을 위한 딥 러닝 프레임워크.
Ubuntu OS	Canonical	버전 20.04 LTS	모든 실험에 사용되는 운영 체제입니다.