信息物理系统中生成智能的扩散驱动代理学习策略与安全对等交互

Summary

在这里，我们介绍了生成式代理学习框架 （GPLF），它引入了基于代理的联邦学习 （ProxyFL） 来改进信息物理系统 （CPS） 中的生成式 AI 解决方案。通过集成差分隐私功能和加密方法，GPLF 增强了隐私保护，从而减少了隐私泄露，从而使信息物理系统的作更智能、更安全。

Abstract

信息物理系统 （CPS） 将计算智能与物理流程相结合，从而在各个重要领域实现即时监控、决策能力和自动化服务。此外，生成式人工智能 （AI） 在 CPS 中部署面临相当大的障碍，因为包含敏感数据的分布式环境带来了严重的隐私和安全维护挑战。当前的技术，如联邦学习 （FL），在模型多样性和隐私可能受到损害的风险方面都遇到了困难。生成式代理学习框架 （GPLF） 是我们的创新解决方案，它利用基于代理的联合学习 （ProxyFL），专门适用于信息物理系统 （CPS） 中的生成式 AI 应用程序。在 GPLF 中，每个参与者都维护两个模型：参与者作一个专门用于本地数据分析的私有模型和一个支持受保护节点协作的共享代理模型。作为生成式 AI 机制的重要基础，高级 Diffusion Models 提供高保真合成数据以及关键数据特征保留。这些模型生成合成传感器数据，从而改进异常检测，并通过各种场景下的真实 CPS 行为表示支持预测建模。该系统在代理数据更新中通过差分隐私机制实现高级隐私保护，而网络中的直接对等通信则受益于高级加密保护。GPLF 通过连接到支持安全生成过程（包括异常检测、合成数据创建和预测建模）的实时传感器和 IoT 设备来为 CPS 平台提供服务。基准 CPS 数据集的测试结果显示，性能有了相当大的提升，隐私泄露减少了 25%，数据交换能力提高了 25%，生成任务的准确性提高了 18%，以支持其安全、智能 CPS作的变革潜力。

Introduction

该研究通过将计算智能与现实世界的流程相结合来研究信息物理系统 （CPS），以实现实时监控以及快速决策能力和系统自动化¹。新兴的物联网 （IoT） 和人工智能 （AI） 技术正在显著扩大 CPS 系统在智能电网开发和工业自动化流程以及医疗保健服务中执行基本功能的应用范围²。部署 CPS 的组织越来越多地使用生成式 AI 模型，这些模型提供了模拟系统行为的能力，并支持预测建模和增强的异常检测。CPS 数据的分布式格式与其敏感属性相结合，导致生成式 AI 实施中存在重大隐私漏洞以及安全问题和可扩展性问题。

现有技术，如联邦学习 （FL），专注于数据隐私保护，但面临限制，其中包括模型更新隐私泄露的威胁，以及对生成式 AI 的支持减少和对各种 CPS 条件的处理不足³。目前的方法缺乏为实时作期间在分布式 CPS 中工作时为数据生成和保护措施而设计的高级机制的基本集成。由于当前框架在多个领域存在不足，现有研究表明，只有通过创建新的解决方案来满足这些需求，该解决方案提供安全、可扩展、生成的模型以及明确的隐私保护⁴。

新的生成代理学习框架 （GPLF） 研究概述了一种特制的方法，以....

Protocol

生成式代理学习框架 （GPLF） 代表了一种将生成式 AI 与 CPS 集成的新技术，并解决了分布式网络系统中数据隐私以及安全和性能指标的重要问题。CPS 平台的功能取决于最新的监控以及从越来越多的 IoT 设备和传感器中提取敏感数据输入的自动化作。已发现在 CPS 系统中采用生成式 AI 技术会带来特殊危害，例如隐私漏洞以及整个分布式网络设置中的安全挑战。GPLF 推出了一个创新的基于代理的联邦学习 （ProxyFL） 框架，该框架支持安全的协作学习，专门用于生成任务，以缓解现有问题。在 CPS 平台上对 GPLF 框架进行了全面评估，该平台的测试台将不同的传感器网络技术与 IoT 设备和实时数据流相结合。

GPLF 的参与者在参与期间运行两个独立的模型。
独有的私有模型用于本地数据检查，同时保护数据免受外部访问。
该系统的共享代理模型⁵ 通过加密技术与差分隐私方法相结合，实现安全的参与者合作。

该框架利用扩散模型创建精心设计的合成数据集，以驱动异常检测功能，同时在各种场景模拟期间显示预测建模和系统行为跟踪。合成的数据集通过有效的隐私保护方法保持重要的特征。该框架通过强大的加密技术运行安全的点对点交换，以保护通信通道免受恶意攻击。使用 GPLF 在实际 CPS 平台上进行的评估表明，它如何在整个可扩展性限制下为安全和智能的运营能力带来实质性进步。隐私泄露措施的....

Results

隐私泄漏减少指数 （PLRI） 指标衡量与标准基线模型相比的隐私泄漏减少。评估的重点是差分隐私和同态加密作为隐私保护方法的性能。

隐私泄漏分数评估相对于模型中总更新量的公开数据点的数量，以及合成数据分发活动。它评估隐私保护策略的有效性。当系统的 PLRI 值较高时，系统可实现卓越的隐私保护。

根据 表 3 中的 PLRI 评估，与现有的 FL 技术相比，新颖的 GPLF 架构表现出卓越的隐私保留能力。评估方法，如 PMFL、HDSCNN-KF、IP2FL、FL-UPM 和 GAI-CIDS，揭示了 35% 到 40% 不等的隐私泄露，这表明在适用作期间暴露的敏感数据水平不同。根据基准，其他数据保存方法显示隐私泄露率为 36.4%，而 GPLF 将泄露值降低到 30%，这意味着提高了 16%。获得的 PLRI 测量值为 0.17，验证了 GPLF 实现的重大隐私保护进步。通过将先进的差分隐私技术与安全的同态加密相结合，这种方法实现了代理模型更新的有效匿名化，同时实现了持续的系统性能。结果表明，G.......

Discussion

GPLF 的设计元素不仅支持其隐私功能，而且还提供补充优势，增强其部署能力。通过采用扩散模型生成高保真合成数据，该框架为医疗保健等重要领域提供必要的隐私保护层以及关键基础设施监控，同时保持精确的生成建模功能。GPLF 通过其双模型结构在异构系统中实现了增强的隐私保护和更高的协作学习效率，同时解决了与参与者差异和数据差异相关的问题。现有系统发现很难将强大的隐私保护与可扩展的功能融合在一起，但 GPLF 脱颖而出，因为它保持了这种平衡，并展示了对即将到来的 CPS作的适应性。GPLF 展示了有助于创建安全系统（可智能适应不同作环境）的变革性功能。

GPLF 通过创新功能展示其功能，使其能够在多个 CPS 环境中运行。GPLF 通过生成高保真合成数据的扩散模型，通过异构数据设置保持安全的协作学习。平台内的双模型结构既能实现高效的本地化洞察管理，又能在分布式 CPS 节点之间实现持续、无缝的通信。GPLF 对加密方法的关注使系统能够满足严格的数据隐私要求，使其有资格用于重要领域，包括医疗保健防御和智能基础设施。GPLF 通.......

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
A100 GPU （CUDA）	NVIDIA	CUDA 11.6 版	GPU 加速，用于模型训练和评估。
AMD EPYC-7502P CPU	AMD	N/A	处理器，用于高性能计算。
千兆以太网	Intel	N/A	网络，用于 CPS 中的点对点安全通信。
Matplotlib	Python Software Foundation	Version 3.5	用于绘制结果的可视化库。
Paillier Cryptosystem	Open Source （通过 TenSEAL 实现）	N/A	启用梯度上的加法同态加密。
PySyft	OpenMined	版本 0.6.0	差分隐私和联合学习库。
Python （Anaconda Distribution）	Anaconda Inc	版本 3.9	包括预装的软件包和环境管理工具，用于脚本和框架开发。
PyTorch	Meta AI	版本 1.12	用于训练模型的深度学习框架。
RAM	Corsair	256 GB （GB）	高内存支持，适合强化训练。
Scikit-learn	Python Software Foundation	Version 1.1	用于性能评估的机器学习工具。
Seaborn	Python Software Foundation	版本 0.11	统计数据可视化库。
SSD 存储	Seagate	1 TB	用于快速数据存储和检索。
TenSEAL	OpenMined	Version 0.3	同态加密库，用于安全聚合。
TensorFlow	Google	Version 2.9	扩散模型的深度学习框架。
Ubuntu OS	Canonical	Version 20.04 LTS	用于所有实验的作系统。