ここでは、プロキシベースのフェデレーテッドラーニング(ProxyFL)を導入してサイバーフィジカルシステム(CPS)の生成AIソリューションを改善するGenerative Proxy Learning Framework(GPLF)を紹介します。GPLFは、差分プライバシー機能と暗号化方式を統合することにより、プライバシー保護を強化し、プライバシー漏洩を減らし、サイバーフィジカルシステムの運用をよりスマートで安全にします。
Research Article
ここでは、プロキシベースのフェデレーテッドラーニング(ProxyFL)を導入してサイバーフィジカルシステム(CPS)の生成AIソリューションを改善するGenerative Proxy Learning Framework(GPLF)を紹介します。GPLFは、差分プライバシー機能と暗号化方式を統合することにより、プライバシー保護を強化し、プライバシー漏洩を減らし、サイバーフィジカルシステムの運用をよりスマートで安全にします。
サイバーフィジカルシステム(CPS)は、計算インテリジェンスと物理プロセスを融合させ、さまざまな重要なドメイン全体で即時監視、意思決定機能、および自動化サービスを可能にします。さらに、生成型人工知能(AI)は、機密データを含む分散環境がプライバシーとセキュリティの維持に深刻な課題をもたらすため、CPS内での展開にかなりの障壁に直面しています。フェデレーテッドラーニング(FL)などの現在の手法は、モデルの多様性とプライバシーが侵害されるリスクの両方で困難に直面しています。GPLF(Generative Proxy Learning Framework)は、CPS(Cyber-Physical Systems)内のGenerative AIアプリケーションに特化して適応したProxy-based Federated Learning(ProxyFL)を利用する革新的なソリューションとして機能します。GPLFでは、各参加者は2つのモデルを維持します:参加者は、ローカルデータ分析専用のプライベートモデルと、保護されたノードのコラボレーションを可能にする共有プロキシモデルを操作します。ジェネレーティブAIメカニズムの本質的な基盤として、高度なDiffusion Modelは、主要なデータ特徴の保存とともに、忠実度の高い合成データを提供します。このモデルは合成センサーデータを生成するため、異常検出の改善が可能になり、さまざまなシナリオでの本格的なCPS動作表現による予測モデリングがサポートされます。このシステムは、プロキシデータ更新の差分プライバシーメカニズムにより高度なプライバシー保護を実現し、ネットワーク内の直接ピア通信は高度な暗号化保護の恩恵を受けます。GPLFは、異常検出、合成データ作成、予測モデリングなどの安全な生成プロセスをサポートするリアルタイムセンサーやIoTデバイスに接続することにより、CPSプラットフォームを提供します。ベンチマークCPSデータセットのテスト結果では、プライバシー漏洩が25%減少し、データ交換機能が25%向上するなど、パフォーマンスが大幅に向上し、生成タスクの精度が18%向上し、安全でインテリジェントなCPS運用の変革の可能性がサポートされています。
この研究では、計算知能と現実世界のプロセスを組み合わせて、迅速な意思決定機能とシステム自動化1とともにリアルタイムの監視を可能にすることにより、サイバーフィジカルシステム(CPS)を調査します。新しいモノのインターネット(IoT)および人工知能(AI)テクノロジーは、CPSシステムがスマートグリッド開発や産業自動化プロセス、およびヘルスケアデリバリーサービス2全体で重要な機能を操作するアプリケーションの範囲を大幅に拡大しています。CPSを導入している組織は、システムの動作を模倣する機能を提供するだけでなく、強化された異常検出とともに予測モデリングを可能にするジェネレーティブAIモデルの利用を増やしています。CPSデータの分散形式は、その機密性の高い属性と組み合わさって、生成AIの実装におけるセキュリティ問題やスケーラビリティの問題とともに、重大なプライバシーの脆弱性につながります。
フェデレーテッドラーニング(FL)などの既存の手法は、データプライバシー保護に焦点を当てていますが、モデル更新のプライバシー漏洩の脅威、ジェネレーティブAIのサポートの低下、多様なCPS条件の不適切な処理などの制限に直面しています3。現在のアプローチは、リアルタイム運用中に分散型CPSで作業する際のデータ生成と防護手段の両方について設計されている高度なメカニズムの本質的な統合を欠いています。現在のフレームワークは複数の分野で不十分であるため、既存の研究では、安全でスケーラブルな生成モデルと明確なプライバシー保護を提供する新しいソリューションを作成することによってのみ満たすことができる重要なニーズが示されています4。
新しいGenerative Proxy Learning Framework(GPLF)の調査では、CPS内でのGenerative AI機能の展開を容易にするために特別に作成された方法の概要を示しています。GPLFはプロキシベースのFLスキーム5を実装しているため、ユーザーは個々のデータ検査用のプライベートモデルとプロキシモデルを使用して機能し、保護された協調学習活動を維持できます。この研究は、安全な準同型暗号化と組み合わせた差分プライバシーアプローチの適用によるデータプライバシーの強化を対象としており、高品質の合成データ生成のための高度な拡散モデルを採用しています。このシステムは、安全な異常検出と予測モデリング機能をサポートし、分散CPS操作間での効率的な情報転送を可能にします。
GPLFは、データ保護とシステムの柔軟性を提供するデュアルモデルフレームワーク設計を通じて、既存のFLの課題を解決します6。各CPS参加者は、プライベートモデルとプロキシモデルの両方を使用し、ローカルプライバシー保護を実現し、チーム学習機能を有効にするために2つの別々のシステムを確立します。プライベート モデルでは、ローカライズされた操作を使用して参加者の機密データから学習し、各参加者のパラメーター内に機密情報を格納することで完全なデータ プライバシーを維持します。このシステムは、異常を検出し、ローカルレベルでパターンを認識するときに最大のパフォーマンスを実現します7。プロキシモデルは、すべての参加者が安全な知識共有のために利用できる共同の集合学習メカニズムとして機能します。プロキシモデルは、拡散モデルからのサニタイズされた合成データ処理と、差分プライバシーと準同型暗号化の両方による更新の通信を通じて機密性を持ってトレーニングします。これにより、プライベートでありながら機能的なFLが可能になります。
拡散戦略により、個人情報を隠すことなく本質的な特性を維持する優れた合成データセットを作成できます。この研究により、データ交換機能のアップグレードと生成タスクのパフォーマンスの向上により、プライバシー漏洩が大幅に減少し、より回復力のあるサイバーフィジカルシステム運用が可能になるなど、大幅な進歩が明らかになりました。GPLFは、プライバシー保護学習とジェネレーティブAI機能8を統合することにより、インテリジェントCPSの新しい方法論を作成します。
GPLFは、CPS全体でのGenerative AIデプロイメントにおけるプライバシー懸念の処理に特化したツインモデル設計を通じて、新しい機能を提供します。従来の連合学習では、すべての参加者に対して1つのモデルを使用しますが、GPLFでは、ローカルデータ調査用のプライベートモデルと、グループ学習タスクを実行するためのプロキシモデルの両方を展開します。厳格なデータ分離により、患者は機密情報をローカルに保持しますが、プロキシモデルのサニタイズされた合成データと差分プライバシーを組み合わせて使用し、安全なコラボレーションを実現します。プロキシモデルは、拡散モデルによって生成された高品質の合成データを通じてシステムの適応性を維持しながら、堅牢な異常検出と予測モデリングを保証し、ユーザーのプライバシー保護を確保します。GPLFは、そのデュアルモデルアプローチにより、スケーラビリティと運用効率を維持しながら、安全なデータと強化されたプライバシー保護を提供するため、安全なCPSシステムの革新的なフレームワークとして際立っています。
この研究の目的は、CPS内での安全な適応を可能にするためにデュアルモデルアーキテクチャを必要とするProxy-Based Federated Learning(ProxyFL)を開発することです。さらに、高度な拡散モデルは、プライバシー保護中に重要なデータ特性を維持するための合成データ生成の統合ポイントとして機能するために不可欠です。最後に、準同型暗号化プロトコルと並行して差分プライバシー法を実装して、データのセキュリティを確保し、勾配集約中のプライバシーを保護する必要があります。
表1 9,10,11,12,13,14,15,16,17,18,19は、既存の方法のコアプロセスとその達成に焦点を当てていますが、いくつかの重大な制限があります。
表1:既存の研究の主要な焦点、コアコンポーネント、達成、および制限の概要。この表をダウンロードするには、ここをクリックしてください。
ジェネレーティブAIをCPSシステムに統合するための既存のアプローチは、プライバシー規制を維持し、システムの柔軟性を達成しながら、大規模な展開に拡大することに重大な問題を示しています20。FLの現在の方法は、モデルの多様性が不十分であることによる制約を示す一方で、分散したシステムやシフトするシステム全体でパフォーマンスが弱くなり、脆弱なデータ伝送方法のためにユーザーデータが公開されます。CPSでの異常検出、合成データ生成、および予測モデリングに必要な忠実度の高いデータ表現は、多くの場合、これらの標準を達成しようとする際のプライバシーと計算効率を損なう可能性のある多くの生成モデリングソリューションから逃れています。現在のシステムの欠陥は、スケーラブルで安全かつ効率的な生成AIプロセスをサポートするためのフレームワーク要件を裏付けています。
Access restricted. Please log in or start a trial to view this content.
GPLF(Generative Proxy Learning Framework)は、Generative AIとCPSを統合し、分散ネットワークシステム内のセキュリティおよびパフォーマンスメトリックとともにデータプライバシーの重要な問題を解決する新しいテクノロジーです。CPSプラットフォームの機能は、最新の監視と、増え続けるIoTデバイスやセンサーから機密データ入力を抽出する自動操作に依存しています。CPSシステムにジェネレーティブAIテクノロジーを採用すると、分散ネットワーク設定全体でセキュリティの課題と組み合わせたプライバシーの脆弱性などの特別な危険が発生することがわかっています。GPLFは、既存の問題を軽減するための生成タスクに特化した安全な共同学習をサポートする革新的なProxy-Based Federated Learning(ProxyFL)フレームワークを展開しています。GPLFフレームワークの徹底的な評価は、さまざまなセンサーネットワーク技術とIoTデバイスおよびライブデータストリーミングを組み合わせたテストベッドを備えたCPSプラットフォームで行われました。
GPLFの参加者は、参加中に2つの別々のモデルを実行します。
独自のプライベートモデルは、データを外部アクセスから保護しながら、ローカルデータ検査のために機能します。
このシステムの共有プロキシモデル5 は、暗号化技術と差分プライバシー方式を組み合わせることで、安全な参加者の協力を可能にします。
このフレームワークは、拡散モデルを利用して、さまざまなシナリオシミュレーション中に予測モデリングとシステム動作追跡を示しながら、異常検出機能を推進する精巧な合成データセットを作成します。合成されたデータセットは、効果的なプライバシー保護方法を通じて重要な特徴特性を維持します。このフレームワークは、悪意のある攻撃から通信チャネルを保護する強力な暗号化技術を介して、安全なピアツーピア交換を運用します。GPLFを使用して実際のCPSプラットフォームで実施された評価では、スケーラビリティの制限を通じて、安全でインテリジェントな運用能力を大幅に向上させることができることが示されました。プライバシー漏洩対策の大幅な改善と、データ交換能力と生成タスク精度の補完的な強化により、その機能的価値と具体的なパフォーマンス結果が証明されました。GPLFのコアステージには、GPLFのバックボーンを形成し、差分プライバシーで保護されたプロキシモデルの更新を統合するプライベートデータローカルトレーニングとともに、フェデレーテッドラーニングのプロキシベースの初期化が含まれます。また、安全なピアツーピアデータ交換技術を備えた拡散モデル合成データ生成手法と、異常検出と予測モデリングのためのモジュールも含まれています。 図1 の整理された構造は、CPSの基本動作を最適化する可能性のあるGPLFの本質的な要素を示しています。

図1:安全でスマートなCPS運用のためのGPLFのアーキテクチャフレームワーク。 サイバーフィジカルシステムでの安全でスマートな運用を可能にするように設計されています。 この図の拡大版を表示するには、ここをクリックしてください。
次のセクションでは、CPS プラットフォーム内の異種デバイス間のセキュア通信のためのフレームワークの 6 つの段階について詳しく説明します。
1. プロキシベースの連合学習の初期化
ステージ1はプロキシベースの連合学習初期化であり、GPLFはプロキシベースのFL初期化プロセスを使用して、プライバシーを確保しながら参加者が学習機能を通じて安全に協力できるようにする2つのモデルで各CPS参加者(N)システムを設定します。個々のCPS参加者は、(i)プライバシー保護のために、プライバシー保護のためにローカルデータで機能するプライベートモデル
を受け取り、共有プロキシモデル
、参加者間の安全な協力行動を可能にします。モデルは、正規化された初期条件に対するガウス分布21のランダム化されたエントリから作成された重みでトレーニングを開始します。これは式(1)で表されます。
(1)
参加者は、CPSシステムでのプライバシー保護分散型生成学習をサポートする共有モデルを通じて洞察を交換しながら、データを自律的に処理します。
2. プライベートデータに関するローカルトレーニング
Stage-2 は、個人データに関するローカル トレーニングです。ここでは、データトレーニングが行われ、CPSの参加者は、保存されたローカルデータからプライベートモデルを開発し、外部からの露出からデータを密封することで、オンサイトの完全なデータ保護を維持します。参加者は、局所的な損失関数 (llocal) を通じて発生する確率的勾配降下法 (SGD)22 を使用したデータ ベースのモデル最適化のトレーニングを受け、データのプライバシーを維持しながら意味のある洞察抽出と局所的な適応の両方をサポートします。
(2)
(3)
(2)と(3)より、 I と O はサンプル入力と対応する目標値を示します。 L は学習率(Ɽ)で損失を示します。このステップでは、将来の安全な共同教育プロセスの基盤となる個々の参加者インテリジェンスシステムを開発します。
Independent Recurrent Neural Network(IndRNN)は、そのアーキテクチャにより、各タイムステップでニューロンが独立し、従来のRNN勾配の問題を軽減しながら特定のCPSタスクを処理できるため、ステージ2のMLモデルとして機能します。IndRNNセットアップ内のすべてのニューロンには、個別の再発ウェイトが付属しており、長期的な依存関係をより適切に捉えることができます。セパレート操作モデルは、グラジエント伝送を強化し、計算プロセスを効率的に保ちながら、深いネットワーク構造を効果的にスケーリングします。CPSプラットフォームでのシーケンシャルデータ処理は、ネットワークの複雑さを低く抑えながら、強力な学習パターンを使用して長いシーケンスを処理できるため、IndRNNで最高のパフォーマンスを発揮します。
式 (4) の計算は、IndRNN 内の消失勾配と爆発勾配問題の解を示しており、IndRNN のリカレント接続設計に対する独自のアプローチに由来しています。
(4)
(4)より、 ω と Ht はそれぞれ tにおける重みと隠れ状態を示します。
、データポイントごとに 1 つずつ、独立した再帰的有意性 (重み) のベクトルを表し、さまざまな時間ステップ間での独立性を可能にします。 ʘ は、各ニューロンの反復接続間の完全な独立性を維持する要素単位の乗算サポートを特徴とする設計機能を示し、 ä は活性化関数を示します。ニューラル アーキテクチャの設計により、一連の計算全体で勾配の膨張または縮小が回避されるため、安定した学習モデルのトレーニングと拡張パターンの学習の成功がサポートされます。
IndRNNは、従来のRNN勾配の爆発と消失を成功裏に防止するため、CPS異常検出に適したアプローチになります。IndRNNアーキテクチャは、Transformerモデルよりも複雑さが少なく動作し、迅速な収束とリアルタイム操作の両方を実現するため、長期的な依存関係を簡単に追跡できます。IndRNNの効果的な性質により、CPSのリソースが限られている運用特性を表現するのに非常に適しており、過度の計算負荷なしに正確な異常認識を提供します。
3. 合成データ生成のための拡散モデル
Stage-3は、合成データ生成のための拡散モデルです。このステージでは、高度な拡散モデルを使用して、取得したプライベートデータの主要な特性を再現する合成データを生成します。このモデルは、制御されたノイズを追加して特性を収集することで、プライバシーに配慮した元のデータの分布を学習し、プライバシー保護を保護しながら重要な機能を保持する忠実度の高い合成データを作成するのに役立ちます。反復的なノイズ除去手順では、実際のデータの本質的な統計的特性と構造要素を維持しながら、合成データを生成します。
最初に、生成拡散モデル(Υ)のトレーニングプロセスは、プライベートデータ(di)の重要な特徴を維持しながら、忠実度の高い合成データを作成することに焦点を当てており、そのような生成のコア計算には以下が含まれます。
(5)
(5)から、
はデータサンプルにガウスノイズが組み込まれていることを示しています。新しく生成された合成データは、次のように表されます。
(6)
4. 差分プライバシーによるプロキシモデルの更新
Stage-4 は、差分プライバシーを使用したプロキシ モデル更新です。このステージでは、各コミュニケーション参加者は、このステージで拡散モデルによって作成された合成データを利用して、このステージでのプロキシモデル
をトレーニングします。
(7)
プロキシモデルの更新の勾配は、差分プライバシーメカニズムにより、その値にノイズ
が追加されるため、プライベートなままです。
(8)
データのプライバシーを保護するために、高度な暗号化方式(準同型暗号化)は、サニタイズされた更新(U)を安全なデータに変換(ξ)し、中央サーバーまたは複数のピアノードを介して配布します。
(9)
(9)より、 ҟ は暗号鍵を示します。暗号化された更新を共同で集約することで、システムは分散学習操作を安全に実行する際に、機密性の高いローカル情報のセキュリティを維持します。
準同型暗号化23は、集約勾配のような暗号化された入力から最終結果を得る前に、復号化せずに暗号化されたデータに対して計算を実行するための安全なプラットフォームを作成する。データは運用期間全体(エンドツーエンド)で暗号化されるため、計算プロセス中の外部からの侵害を防ぐことができます。このプラットフォームにより、CPSの参加者は、異なる場所にいるため、個人情報を開示することなく、暗号化されたデータの更新を共同学習操作で交換できます。研究の目標によると、この手法は必要に応じて完全なプライバシー保護を維持し、計算のためにデータの復号化を必要とする他の暗号化方法と比較して優れたパフォーマンスを示し、潜在的な脅威にさらされます。準同型暗号化は、データの安全な計算とスタンドアロンの暗号化操作の両方をサポートしているため、proxyFLシステムに最適なセキュリティ方法であることが証明されています。
5. 安全なピアツーピアのやり取り
(10)
(11)
(12)6. 異常検出と予測モデリング
(13)
(14)
(15)
図2:GPLFの操作ワークフロー。 GPLFのシーケンシャル操作ワークフローは、各主要なプロセスステップを強調しています。 この図の拡大版を表示するには、ここをクリックしてください。
表2:GPLFのパラメータ仕様。この表をダウンロードするには、ここをクリックしてください。
Access restricted. Please log in or start a trial to view this content.
プライバシー漏えい低減指数 (PLRI) メトリックは、標準のベースライン モデルと比較した場合のプライバシー漏えい削減を測定します。この評価では、差分プライバシーと準同型暗号化がプライバシー保護アプローチとしてどのように機能するかに焦点を当てています。
プライバシー漏えいスコアは、モデル内の更新の合計に対する公開されたデータ ポイントの数と、合成データ配布アクティビティを評価します。プライバシー保護戦略の有効性を評価します。システムは、PLRIがより高い値にあるときに、優れたプライバシー保護を実現します。
表3のPLRI評価によると、新しいGPLFアーキテクチャは、既存のFL技術と比較して優れたプライバシー保持能力を示しています。PMFL、HDSCNN-KF、IP2FL、FL-UPM、GAI-CIDSなどの評価された方法では、35%から40%の範囲のプライバシー漏洩が明らかになり、これは適用可能な操作中に漏洩する機密データのレベルが異なることを示しています。ベンチマークによると、他のデータ保...
Access restricted. Please log in or start a trial to view this content.
GPLFの設計要素は、プライバシー機能をサポートするだけでなく、デプロイメント能力を強化する補足的な利点も提供します。このフレームワークは、拡散モデルを使用して忠実度の高い合成データを生成することで、正確な生成モデリング機能を維持しながら、重要なインフラストラクチャの監視とともに、ヘルスケアなどの重要な分野に不可欠なプライバシー保護レイヤーを提供します。GPLFは、デュアルモデル構造により、異種システム内でのプライバシー保護の強化と協調学習効率の向上の両方を実現しながら、参加者のばらつきやデータの非類似性に関連する問題を解決します。既存のシステムでは、強力なプライバシー保護とスケーラブルな機能を融合させることが困難ですが、GPLFはこのバランスを維持し、今後のCPS運用への適応性を示しているため、際立っています。GPLFは、さまざまな運用状況にインテリジェントに適応できる安全なシステムの作成に役立つ変革能力を示しています。
GPLFは、複数のCPS環境での操作を可能にする革新的な機能を通じて機能を発揮します。GPL...
Access restricted. Please log in or start a trial to view this content.
著者らは、この原稿の出版に関して利益相反がないことを宣言します。この研究で提示された研究、結果、または結論に影響を与えた財政的または個人的な所属はありません。
この研究は、サウジアラビアのリヤドにあるプリンセス・ノウラ・ビント・アブドゥルラーマン大学のプリンセス・ヌーラ・ビント・アブドゥルラーマン大学研究者支援プロジェクト番号(PNURSP2025R432)の支援を受けました。
Access restricted. Please log in or start a trial to view this content.
| Name | Company | Catalog Number | Comments |
|---|---|---|---|
| A100 GPU (CUDA) | モデルのトレーニングと評価のための | NVIDIA | CUDA バージョン 11.6 |
| AMD EPYC-7502P CPU | AMD | N/A | ハイパフォーマンスコンピューティングに使用されるプロセッサ。 |
| ギガビットイーサネット | Intel | N/A | ネットワーキングは、CPSでのピアツーピアの安全な通信を実現します。 |
| Matplotlib | Python Software Foundation | Version 3.5 | 結果をプロットするための視覚化ライブラリ。 |
| Paillier Cryptosystem | Open Source (Implemented via TenSEAL) | N/A | 勾配上の加法準同型暗号化を可能にします。 |
| PySyft | OpenMined | バージョン0.6.0 | 差分プライバシーおよびフェデレーション学習ライブラリ。 |
| Python (Anaconda Distribution) | Anaconda Inc | Version 3.9 | プリインストールされたパッケージと環境管理ツールが含まれており、スクリプト作成とフレームワーク開発に使用されます。 |
| PyTorch | Meta AI | バージョン 1.12 | モデルをトレーニングするためのディープラーニングフレームワーク。 |
| RAM | コルセア | 256ギガバイト (GB) | 集中的なトレーニングのための高いメモリサポート。 |
| Scikit-learn | Python Software Foundation | Version 1.1 | パフォーマンス評価用の機械学習ツール。 |
| Seaborn | Python Software Foundation | Version 0.11 | 統計データ視覚化ライブラリ。 |
| SSD Storage | Seagate | 1 TeraByte (TB) | 高速なデータ保存と取得を実現します。 |
| TenSEAL | OpenMined | Version 0.3 | 安全な集約のための準同型暗号化ライブラリ。 |
| TensorFlow | バージョン2.9 | モデル用のディープラーニングフレームワーク。 | |
| Ubuntu OS | Canonical | Version 20.04 LTS | すべての実験に使用されたオペレーティング システム。 |
Access restricted. Please log in or start a trial to view this content.
Request permission to reuse the text or figures of this JoVE article
Request Permission