需要JoVE订阅才能观看此内容。 请登录或开始免费试用

研究文章

基于多智能体强化学习的动态馈线接纳编排——使用 FeederBW 数据集与 236 节点低压配电网

72 次观看

⸱

DOI:

10.3791/72365

⸱

2026年9月8日

 ,  ,  ,  ,  , 

本文内容

摘要

本研究提出了一种基于多智能体协同强化学习的低压馈线验收动态协调策略。智能体在不确定条件下协调馈线运行、拥塞管理、电压稳定性及可再生能源的集成。该方法通过使用FeederBW和236节点系统数据集进行仿真评估。

摘要

分布式可再生能源的大规模接入以及低压(LV)馈线的快速扩展,带来了与馈线接纳能力和拥塞协调相关的运行挑战。现有的电压控制和馈线管理方法在间歇性可再生能源发电和网络条件变化的情况下,可能存在可扩展性和适应性受限的问题。为解决这些局限性,本研究提出了一种基于多智能体强化学习框架中智能体协作的低压馈线接纳动态协同框架。与主要关注电压稳定的控制策略不同,该框架通过负责馈线监测、拥塞管理及基于电压敏感度优先排序的智能体协同运行,支持动态馈线接纳。各智能体独立观测馈线状态,评估拥塞程度和电压敏感度,并协作做出馈线接纳决策。该框架通过使用FeederBW数据集和236节点低压配电网数据集进行仿真评估,涵盖了不同可再生能源接入水平和负荷条件。所提出的框架实现了97%的馈线接纳率、98%的电压合规指数、98 ms的协同延迟(在报告的硬件上测得的协同算法实际运行时间)以及98.5%的收敛速度,优于所评估的集中式协调方法。结果还表明,在模拟的低压配电网条件下,该框架在适应性、运行韧性以及去中心化决策效率方面均有提升。

引言

由于电力需求不断增长以及分布式发电的日益普及,现代电力系统面临着严峻的运行挑战。电力供需不平衡或分布式发电量的快速增加,可能给公用事业公司和终端用户带来经济压力,并危及电网的稳定性。因此,传统的集中式化石燃料电力基础设施正逐步转向以分布式可再生能源为主导的新型架构。这一转变改善了人们对更经济、更环保能源的获取。然而,光伏(PV)发电的间歇性和不可预测性也引发了人们对电网可靠性的担忧1,2。

由于光伏发电具有环境效益好、可扩展性强以及成本不断下降等优势,全球能源转型正在加速推进其部署。根据国际可再生能源署的预测,到2050年,光伏发电装机容量预计将占全球电力供应总量的22%以上,且太阳能光伏发电有望在2030年前成为全球电力供应的主要来源之一3。这种大规模的并网应用给传统电力系统带来了重大挑战,尤其是在运行稳定性和可靠性方面。电压波动是一个关键问题,因为光伏发电具有间歇性和不可调度性,随着其在配电和输电网络中的渗透率不断提高,这种影响将更加显著4。

太阳辐照度的变化直接影响光伏系统的输出,并可能导致电压快速变化。云层移动、辐照度突变以及负载瞬变可能引起电压波动,现有电网架构难以充分适应此类波动5尽管传统技术在集中式且相对稳定的电网结构中已证明有效,但其在日益分布化的电网中适用性较差。快速的双向电压变化可能超出传统电力系统的承受能力,特别是在高比例光伏接入的情况下。6不受控制的波动可能违反电压限值,影响敏感负载,并危及电网安全。

因此,将智能负荷和分布式资源集成到配电网中,推动了更先进控制策略的发展。能够持续监测和协调分布式设备的智能控制系统,有助于缓解高比例分布式发电的低压(LV)电网所面临的挑战7。大规模光伏(PV)并网还会给热力发电带来运行难题,特别是当光伏出力下降时,热力机组必须快速响应,有时甚至超出爬坡速率限制8。与此同时,需求响应(DR)项目必须在长期可持续性与经济可行性之间取得平衡9。

需求响应(DR)项目可在支持分布式发电集成的同时,帮助平衡电力供需。这些项目可分为基于价格的需求响应和基于激励的需求响应(IBDR)。基于价格的需求响应通过随时间变化的电价激励用户调整用电行为,而基于激励的需求响应则在需要时要求用户减少用电,并提供固定或可变的经济激励10。然而,基于价格的需求响应使用户暴露于波动的批发电价风险之中,且从电力公司的角度来看,其运行灵活性有限,这可能会使风险规避型参与者望而却步11,12。

已有若干研究探讨了在光伏(PV)资源丰富的配电网系统中基于激励的需求响应(IBDR)。其中一项研究评估了将IBDR与高比例光伏渗透相结合所面临的挑战与优势,但其关注点在于聚合功率使用,而非家庭层面的家居能源管理系统13。另一项研究提出了一种基于激励的电压管理方法,通过电价信号间接控制电池运行以维持电压限值,但未对家庭用电需求进行显式建模14。一种基于模糊逻辑的激励支付确定方法考虑了用户满意度与可再生能源集成成本,但未包含馈线层级的分析15。此外,已有研究探讨了结合基于价格和基于激励的需求响应(DR)的长期发电规划,涵盖热力发电与可再生能源发电,但未计入用户舒适度或家庭层面的用电需求16。

深度强化学习(RL)也已应用于居民需求响应(DR)。已有研究提出了在分时电价下用于聚合负荷控制的深度RL方法,但其泛化能力受限于用户群体规模较小以及缺乏电器级别的调度机制17。一种结合需求响应与电压控制的多智能体强化学习框架采用了长短期记忆网络进行负荷预测,但未能解决因负荷限制导致的用户满意度下降问题18。其他研究则聚焦于使用马尔可夫决策过程对商业建筑中的空调系统进行需求响应协调,但未考虑其他居民用电负荷19。现有的深度RL电压控制研究通常未同时整合需求响应与光伏(PV)系统的接入20,21。

智能逆变器能够快速响应光伏发电输出的突发性和不规则变化22。当发生电压越限时,光伏逆变器可在毫秒级时间内动作,而传统设备可能需要数秒时间23。一些研究提出了对标准设备控制流程的改进方案,包括采用多智能体方法协调电压调节器,以及修改传统的电压控制器动作逻辑24。然而,没有配套储能的独立光伏发电系统可能加剧电压波动,并且无法缓解傍晚用电高峰,即使其可减少白天的净电力输入24,25。家用电池在白天光伏发电过剩期间可能被耗尽,若其调度未与本地用电需求和发电情况协调,则可能在夜间电动汽车充电时无法使用26,27。随机性负荷、间歇性发电以及多样化的储能行为共同作用,使得容量管理、设备寿命和系统韧性成为配电网运营商的重要关注点28。家庭能源管理系统为在用户侧实施自动控制提供了一种潜在手段。强化学习(RL)特别适用于此类应用,因为智能体可通过与环境的交互学习控制策略,同时应对不确定性并实现低延迟决策。

电动汽车路径规划领域的进展也展示了深度强化学习如何管理动态能量约束。基于异构车队的有容量限制的电动汽车路径问题综合考虑了行驶动力学、道路特征、动能阻力和充电效率,同时最小化异构车队中的最大能耗29。一种具备动态感知能力的深度强化学习方法将该问题建模为定制化的马尔可夫决策过程,并采用编码器-更新器-解码器架构。在此设计中,编码器为顶点和车辆生成角色特异性的表示,更新器随着上下文信息的变化对车辆标记进行优化,解码器则将车辆选择与车辆特定的顶点选择分离,以支持自适应决策。类似地,带取送货任务和时间窗的能量最优电动汽车路径问题采用高分辨率能耗模型,涵盖充电行为、时间依赖的驾驶动力学以及详细的路线信息30。一种基于异构注意力机制的深度强化学习框架将路径规划任务表示为马尔可夫决策过程,其中编码器捕捉车场、客户和充电站之间的角色特异性交互,解码器跟踪状态转移和时间可行性。

尽管已有这些进展,大多数低压配电网管理研究仍侧重于电压稳定和无功功率优化,而非在可再生能源出力不确定条件下的动态馈线接纳协调。基于智能逆变器和机器学习的分布式电压控制方法通常聚焦于电压补偿和无功功率优化,未能解决复杂低压网络中的自适应馈线接纳控制或基于拥塞的协调问题。同样,针对需求响应的电压约束多智能体强化学习方法,并未直接涉及互联低压配电网系统中的协同馈线接纳管理、感知拥塞的去中心化协调或节点级准入控制。基于多智能体协同的协作式电压调节方法通常利用光伏逆变器最小化电压偏差和分接头操作次数,但未考虑自适应馈线准入、与可再生能源相关的接纳不稳定性,或在动态网络条件下去中心化的协调机制。

当前的分布式和多智能体资源协调方法在拥塞感知、时间适应性和可扩展性方面也存在局限性。大多数方法侧重于过载分析、分布式能源资源交互或基于电价的能量管理,而非自适应的馈线级接纳能力与电压感知的协调控制。这些方法依赖部分中心化架构和静态优先级,可能进一步限制去中心化决策、对拥塞传播的快速响应,以及对可再生能源波动性的适应能力。因此,亟需一种完全去中心化的、基于强化学习的框架,将协同智能体协调与电压和拥塞敏感性分析相结合,以实现基于大规模数据集(如 FeederBW 和 236 节点低压配电网)的自适应馈线接纳管理。

本研究中,馈线接纳能力是指一种适应性运行过程,用于判断低压馈线在维持网络安全性、电压合规性、热负载限值和运行可靠性的前提下,是否能够接纳额外的分布式能源或电力负荷。馈线接纳的运行边界包括在接纳或优先处理新的馈线接入之前,评估馈线容量、电压敏感性、拥塞状况以及可再生能源的波动性。与传统的电压控制(调节电压分布)、分布式能源协调(管理资源运行)或拥塞管理(缓解网络过载)不同,馈线接纳能力将这些功能集成于一个协作式多智能体强化学习框架内,以在高比例可再生能源条件下支持动态、去中心化且自适应的协调运行。

本研究旨在开发一种基于协作智能代理的动态编排策略,以应对运行条件变化和可再生能源不确定性下的低压馈线接纳问题。所提出的框架通过动态评估馈线状态、电压灵敏度、拥塞灵敏度及接纳能力,实现去中心化的馈线接纳编排,从而超越静态电压控制方法,实现自适应的优先级排序与决策。利用FeederBW数据集和236节点低压配电网数据集,本研究还开发了一种可扩展的多智能体强化学习架构,适用于大规模低压系统。该框架在每次模拟运行时间间隔内执行强化驱动学习和低延迟协作优化,旨在减少拥塞传播、提高电压合规性、降低编排延迟,并提升去中心化协调效率。

该框架提出了一种动态的低压馈线接纳编排方法,可取代基于静态电压控制的馈线管理策略;采用去中心化的多智能体强化学习架构,以应对可再生能源的不确定性及变化的负载条件;基于低延迟条件和动态馈线优先级实施去中心化准入管理;通过联合的电压敏感性与阻塞敏感性指标,识别关键馈线并优先做出接纳决策;实现相邻智能体之间的协同通信;通过持续的基于强化学习的策略优化,提升馈线稳定性、缓解阻塞、确保电压合规性并加快收敛速度;并利用FeederBW和236节点低压馈线数据集进行大规模基于仿真的验证。对比结果表明,相较于传统的集中式协调方法,该方法在馈线接纳能力、阻塞缓解、编排延迟、收敛速度和电压合规性方面均有提升。

访问受限。请登录或开始试用以查看此内容。

方案

本研究未使用人类受试者、脊椎动物、人体组织或动物组织。研究仅使用了公开可获取的数据集(FeederBW 数据集和 236 节点低压配电网数据集)以及基于计算机的仿真。因此,本研究无需经过机构审查委员会(IRB)、伦理或知情同意审批。

基于智能体协作的低压馈线接纳动态协调策略在富含可再生能源的运行条件下,采用多智能体强化学习(MARL)方法开发而成。FeederBW 和 236 节点低压数据集经过预处理、归一化和时间同步,用于构建动态网络模型,以表征馈线状态、分布式能源资源、电压敏感区域及拥塞状况。将智能体分配至馈线区段和网络节点,用于监测本地电压、拥塞情况、可再生能源发电不确定性及馈线接纳能力,与邻近智能体交换信息,并通过去中心化的强化学习更新协调策略。奖励函数的设计旨在提升馈线接纳能力,同时限制拥塞、电压失稳和协调延迟。研究中考虑了电压、馈线负载、变压器负载和拥塞约束,但未显式建模三相不平衡运行、先进光伏逆变器控制和无功功率补偿。整体框架如图1所示。本研究使用的研究工具列于材料表中。

动态LV网络建模与多智能体系统的网格示意图
图1:所提出框架的架构。 动态编排框架的示意图,包含智能代理、强化学习、拥塞分析以及自适应馈线协调。 请点击此处查看此图的放大版本。

1. 数据采集

数据来自 FeederBW 数据集31 和 236 节点低压配电数据集32。选择这些数据集是因为它们包含了分布式协调和基于强化的智能体学习所需的馈线拓扑、电压状况、可再生能源发电行为、负荷需求、拥塞情况以及动态运行特征信息。

FeederBW 数据集主要用于对低压电网中的馈线运行、可再生能源间歇性、电压偏差以及阻塞传播进行建模。该数据集包含支持自适应协调分析的馈线运行数据、分布式发电行为、节点电压测量值以及负荷波动数据。236 节点低压数据集用于评估系统的可扩展性与分布式协调能力,其中包含节点连接信息、馈线负载状况、节点电压特性、分布式可再生能源渗透情况以及对阻塞敏感的运行工况。这两个数据集共同支持在高比例可再生能源渗透条件下开展馈线层级和大规模系统分析。数据集特征及其在框架中的用途汇总于表 1中。

数据集名称数据集类型节点/母线数量数据属性在本研究中的用途
FeederBW 数据集低压馈线运行数据集多个馈线节点电压曲线、可再生能源发电、负荷需求、拥塞状态、馈线运行行为低延迟馈线协调控制、拥塞分析、自适应接入优先级排序
236母线低压数据集大规模低压配电数据集236 条母线母线拓扑、馈线负载、电压敏感性、可再生能源渗透率、拥塞动态可扩展性验证、去中心化协调评估、大规模协调分析

表1:数据集特征。 各数据集的描述、操作属性及其在所提出的低压协调框架中的用途。

2. 数据预处理

对获取的数据集进行了预处理,以提高一致性、时间对齐性以及强化学习的稳定性。通过统计预处理方法,过滤了缺失条目、错误测量值、重复记录以及不一致的馈线数据。该步骤用于保持馈线运行数据、可再生能源发电曲线、电压测量值和拥塞状态数据之间的一致性。所有运行变量均进行了最小-最大归一化处理,使输入特征转换到适用于智能体学习的统一量纲。归一化的变量包括馈线电压、有功功率需求、可再生能源发电量、拥塞状态以及馈线接纳能力。预处理过程的数学表述见补充文件1(第1节)。

3. 动态低压电网建模

在数据采集和预处理之后,构建了一个动态的低压网络模型,用于模拟在不同负荷和发电条件下,高比例可再生能源接入的配电系统的运行行为。该模型能够动态追踪馈线拓扑结构、分布式能源资源行为、电压敏感区域以及拥塞传播过程。

与静态网络表示不同,该模型根据可再生能源的间歇性、用户需求和拥塞状况动态更新馈线行为。采用 FeederBW 和 236 节点低压(LV)数据集构建了互联馈线系统,其中母线、变压器、分布式可再生能源和负荷被表示为网络节点。每个馈线节点提供关于电压幅值、有功功率需求、可再生能源发电、馈线负载状态和拥塞状态的实时更新信息。智能代理利用这些变量监测馈线运行状态,并做出去中心化的协调决策。该网络模型还通过连续的敏感性分析,支持识别敏感区域和馈线接入优先级排序。

低压配电网络被表示为一个基于图的网络,包含母线站、馈线、变压器、可再生能源源和用户负荷节点。网络模型的详细数学推导见补充文件1(第2节)。动态网络状态和拥塞指数被持续监测。拥塞指数被归一化至[0,1]范围内,当拥塞指数超过0.80时,启动协同馈线接入协调机制。

4. 多智能体环境初始化

在构建动态低压网络模型后,初始化了多智能体环境以支持分散式馈线接入。智能体被分配至低压网络中的馈线区段、分布式能源接入点、变压器位置以及易发生拥塞的节点。

每个智能体作为一个独立的决策实体运行,监控本地馈线的运行状态,与相邻智能体交换信息,并执行自适应协调操作。智能体根据电压敏感性、可再生能源渗透率、拥塞程度及馈线重要性被分配至关键馈线节点。低压网络被配置为基于智能体的环境,其中各智能体持续监测馈线电压、有功功率需求、可再生能源发电波动、拥塞状态以及馈线接纳能力。多智能体环境的数学建模详见补充文件1(第3节)。

5. 基于强化驱动的智能体学习

在多智能体环境初始化后,实施了基于强化学习的训练,使智能体能够通过与变化的低压(LV)运行条件进行交互,学习馈线协调策略。在每次交互中,智能体观测当前馈线状态,选择一个协调动作,并获得相应的奖励或惩罚。这种去中心化的学习过程使智能体能够适应可再生能源发电的不确定性、变化的拥塞状况、电压波动以及馈线接纳能力的变化。每个智能体根据其学习到的策略选择协调动作。相关的数学推导详见补充文件1(第4节)。

共部署了64个智能代理。根据馈线拓扑结构、可再生能源渗透水平、电压敏感性以及拥塞严重程度,每个代理被分配至馈线区段、变压器站点、分布式能源资源接入点或对拥塞敏感的网络节点。在保持合理计算复杂度的同时,这种去中心化部署使得在整个236节点的低压配电网中实现了协同监控和自适应馈线接纳能力。每个代理观测一个五维状态向量,包括电压幅值、馈线负荷需求、可再生能源发电量、拥塞状态以及馈线接纳容量。动作空间包含五种协调操作:馈线接纳优先级设定、拥塞缓解、可再生能源协调、负荷平衡和电压控制。通过一种去中心化的邻域通信拓扑结构支持协同决策,其中每个代理仅与相邻的馈线代理交换灵敏度指标和本地运行信息。

采用具有两个隐藏层(分别包含 128 和 64 个神经元)的全连接神经网络实现了一种基于 Q 学习的多智能体强化学习(MARL)方法。隐藏层中应用了修正线性单元激活函数。网络参数使用 Adam 优化器进行优化,学习率为 0.001,折扣因子为 0.99。采用大小为 64 的小批量训练,经验回放缓冲区的容量为 100,000 次状态转移。当过去 20 个回合的累积奖励移动平均值在连续 10 个评估窗口内变化小于 0.1% 时,认为训练已收敛。若未满足此条件,则训练将继续,直至达到最多 500 个回合。强化学习的工作流程如 图 2 所示。

强化学习过程示意图;智能体-环境交互、策略更新、奖励循环。
图 2:基于强化学习的智能体学习流程图。该流程图展示了用于去中心化馈线协调与决策优化的强化学习驱动的智能体学习过程。请点击此处查看此图的放大版本。

学习过程首先初始化低压配电网环境、智能体状态和学习参数。智能体被部署在馈线区域、分布式能源资源位置以及易发生拥塞的母线处。随后定义了观测空间、学习率、探索策略、奖励因子和策略函数。在每一轮交互中,每个智能体观测其指定馈线区域的当前状态。该状态包括节点电压幅值、馈线负荷需求、可再生能源发电特性、拥塞水平以及馈线接纳能力。这些观测值构成用于协调决策的环境状态。每个智能体根据其强化学习策略选择一个动作。可选动作包括馈线接入优先级排序、拥塞管理、可再生能源协调、负荷平衡和电压管理。所选动作被应用于动态低压环境,随后更新馈线状态。

每次操作后均计算一次奖励。当所选操作改善了馈线接纳能力、防止了拥塞传播、维持了电压合规性或提升了网络稳定性时,赋予正向奖励。若操作导致或未能避免馈线过载、电压越限或编排延迟,则施加惩罚。所计算的奖励用于通过强化优化更新智能体的价值函数与决策策略。重复执行观测、动作选择、环境转移、奖励计算及策略更新的序列,直至满足终止条件。

6. 电压与拥塞敏感性评估

在强化驱动学习之后,评估了电压和拥塞敏感性,以识别易受影响的馈线区域,并在可再生能源不确定性条件下支持动态馈线接入决策。

在每个运行时间间隔内,确定了馈线功率、可再生能源发电和负荷需求变化对节点电压和网络阻塞的影响。电压和阻塞灵敏度指标在每次模拟运行时间间隔均重新计算,而非仅基于静态网络条件推导得出。各馈线节点的灵敏度指标根据当前网络状态、可再生能源发电波动以及馈线负载情况动态更新。所得数值用于对馈线节点进行排序,以指导馈线接入、阻塞管理和电压控制操作。

电压灵敏度指数用于量化有功功率流动变化所引起的节点电压变化。在计算出电压灵敏度指数和阻塞灵敏度指数后,将二者结合形成综合灵敏度评分,以实现对馈线接入的自适应优先级排序。综合评分方法详见补充文件1(第5节)。在缓解阻塞、校正馈线接入以及电压调节操作过程中,灵敏度评分较高的馈线节点被赋予更高的协调优先级。灵敏度评分在每个运行时间间隔内重新计算,并通过协同通信环境共享给相邻的代理单元。

7. 每个模拟运行时间间隔内的协作接受协调与自适应决策优化

在进行灵敏度评估后,执行了协作式接纳协调,以使分布式代理能够在可再生能源不确定性及动态阻塞条件下,做出协调一致的馈线接纳决策。各代理交换本地馈线状态、灵敏度指标、阻塞告警以及运行优先级信息。每个代理在独立评估其本地馈线状况的同时,与相邻代理进行协调,以支持整个网络的稳定性。

根据电压敏感性、阻塞严重程度、可再生能源发电的波动性以及馈线可用容量,对馈线接纳能力进行了优先级排序。各智能体对具备本地敏感性感知的观测结果进行汇总,并协同生成馈线接纳决策。协作协调过程的数学表述详见补充文件1(第6节)。动态低压配电网环境部署了协作式智能体,分别位于馈线区域、可再生能源接入点以及易发生阻塞的母线处,具体如补充文件1(算法1)所述。在每个运行时段,各智能体均观测本地馈线参数,包括电压幅值、可再生能源出力变化、馈线负载率、阻塞水平以及馈线接纳容量。

随后计算了电压敏感性指数和拥塞敏感性指数,以识别易受电压失稳或拥塞传播影响的馈线区域。这些指数被合并为一个综合的馈线敏感性评分,用于确定馈线的接纳能力与协调优先级。各相邻智能体之间交换本地状态信息、拥塞水平、电压失稳指标以及接纳优先级。基于本地观测和共享的信息,每个智能体选择并执行自适应协调动作。每次动作后,根据馈线稳定性、拥塞缓解程度、电压合规性及馈线接纳效率,从动态的低压网络环境中获取强化反馈。该反馈用于通过基于强化学习的优化方法更新每个智能体的策略。全局协调目标函数同时为整个智能体群体的自适应优化提供协调反馈。策略更新持续进行,直至各智能体的策略收敛于最优的分布式协调策略。

8. 大规模验证

采用FeederBW数据集和236节点低压配电网数据集,在高可再生能源渗透率的运行场景下验证了动态协调策略。该验证评估了去中心化协调框架在互联低压配电网系统中管理动态馈线接纳能力、可再生能源间歇性、阻塞传播及电压不稳定性的能力。所评估的运行场景包括高可再生能源渗透率、变化的负荷需求、动态阻塞传播、电压敏感条件以及变化的馈线接纳容量。

使用馈线接受率、电压合规性指数、拥塞降低率、编排延迟、收敛速度、去中心化协调效率以及可再生能源接纳能力来评估框架性能。这些指标用于评估可扩展性、鲁棒性、适应性以及协调性能。在相同的网络配置下,将所提出的框架与传统的集中式馈线编排方法进行了比较。对对比方法采用了相同的等效数据集、运行场景、评估条件和性能指标。

表2总结了用于实验验证的数据集、运行条件、编排环境和性能变量。FeederBW 数据集用于评估低压馈线条件下馈线运行动态、可再生能源间歇性、拥塞发展、居民负荷变化以及电压波动。236节点低压数据集用于评估大规模互联系统中的去中心化编排。该架构在可再生能源发电、负荷需求、电压和拥塞等不同条件下进行了验证。通过智能代理对去中心化协调与基于强化学习的策略优化进行了联合评估。

在可再生能源系统动态运行条件下,采用馈线接受率、电压合规指数、拥塞缓解率、收敛速度和编排延迟来量化性能。

实验参数FeederBW 数据集236节点低压数据集验证目的
网络类型低压馈线网络大规模低压配电网络动态协调评估
节点/母线数量多个馈线节点236 条母线可扩展性分析
可再生能源集成光伏与分布式可再生能源高可再生能源渗透母线可再生能源不确定性验证
负荷需求行为动态居民负荷曲线大规模馈线负荷变化自适应负荷协调
拥塞场景馈线过载与拥塞状态多母线拥塞传播拥塞缓解分析
电压条件电压波动曲线电压敏感母线状态电压合规性评估
智能代理分布式馈线代理大规模协作代理去中心化协调分析
学习环境基于强化学习的协调机制多代理自适应学习策略优化验证
仿真条件动态可再生能源波动性大规模动态运行低延迟协调测试
性能指标接受率、拥塞减少量电压合规性、收敛速度整体协调性能

表2:大规模实验验证。用于评估可扩展性、可再生能源不确定性及去中心化协调能力的实验设置。

访问受限。请登录或开始试用以查看此内容。

结果

所有实验均使用不同的随机种子重复五次,以降低随机学习带来的影响。最终结果取五次运行的平均值。所有方法均采用相同的数据集、仿真参数、超参数、停止准则和评估流程。对比方法包括集中式电压控制(Centralized Voltage Control, CVC)33、传统多智能体控制(Conventional Multi-Agent Control, CMAC)21、基于强化学习的电压调节(Reinforcement Learning-Based Voltage Regulation, RLVR)20、分布式能源协调(Distributed Energy Resource Coordination, DERC)26以及基于灵敏度的拥塞管理(Sensitivity-Based Congestion Management, SBCM)34。

采用单因素方差分析...

访问受限。请登录或开始试用以查看此内容。

讨论

实验结果表明,与集中式电压控制(CVC)33、传统多智能体控制(CMAC)21、基于强化学习的电压调节(RLVR)20、分布式能源资源协调(DERC)26以及基于灵敏度的拥塞管理(SBCM)34相比,所提出的动态协调策略在分散式馈线协调、可再生能源集成、电压稳定性、拥塞管理以及低延迟协调方面均有所提升。在评估的馈线接纳率(FAR)、电压合规指数(VCI)、拥塞降低率(CRR)、分散式协调效率(DCE)、可再生能源利用效率(RUE)、自适应决策准确率(ADA)和系统可靠性提升(SRI)等指标上,所提出的框架在测试条件下均实现了更优的性能。基于FeederBW和236节点低压(LV)数据集获得的结果表明,将协作式多智能体强化学习与电压和拥塞灵敏度评估相结合,能够提高自适应馈线协调的效率与速度。

比较分析还表明,在馈线条件变化的情况下,集中式和基于规则...

访问受限。请登录或开始试用以查看此内容。

披露

作者声明不存在任何竞争利益。

致谢

本研究由广东电网公司广州供电局通过项目“基于过程自动化的低压计量设备自动化验收技术研究”(项目编号:030100KC24120100)资助。

访问受限。请登录或开始试用以查看此内容。

材料

本文使用的材料清单
姓名公司目录编号评论
236节点低压配电网数据集Canizes 等DOI: 10.5281/zenodo.8274780用于评估所提出框架的可扩展性分析与大规模验证的公开基准数据集
中央处理器(CPU)Intel CorporationIntel Core i9-12900K(16核)用于仿真管理与环境执行
阻塞敏感性分析模块自主开发模块Zenodo DOI: 10.5281/zenodo.21423239执行实时阻塞敏感性计算与馈线优先级排序
CUDA 工具包NVIDIA CorporationCUDA 12.1用于加速 PyTorch 模型训练的 GPU 计算平台
cuDNN 库NVIDIA CorporationcuDNN 9.3.0与 CUDA 配合使用的深度神经网络加速库
自定义动态低压网络仿真器自主开发模块版本 1.0由作者开发的仿真平台,使用 Python 和 PyTorch 实现,用于动态馈线协调实验。实现细节见方法与数据可用性部分。
数据处理库pandas 开发团队pandas 2.2.2用于预处理、特征提取、归一化及时间序列数据管理
深度学习框架PyTorch 基金会PyTorch 2.3.1用于多智能体强化学习(MARL)模型实现、神经网络训练与策略优化
分布式智能体通信模块自主开发框架Zenodo DOI: 10.5281/zenodo.21423239实现智能体之间的去中心化通信与协同策略交换
FeederBW 数据集Treutlein 等DOI: 10.5281/zenodo.17831177包含真实低压馈线测量数据、可再生能源发电与运行剖面的公开数据集
图形处理器(GPU)NVIDIA CorporationGeForce RTX 3090,24 GB GDDR6X用于神经网络训练与并行计算的硬件加速器
多智能体强化学习环境Farama 基金会Gym 0.26.2定制化的强化学习环境,用于协同智能体交互与训练
数值计算库NumPy 开发者NumPy 1.26.4用于数值计算、张量操作与矩阵运算
操作系统Canonical Ltd.Ubuntu 22.04.5 LTS(64位)所有仿真与强化学习实验所使用的操作系统
Python 编程语言Python 软件基金会Python 3.11.9用于算法实现、仿真与模型开发的主要编程语言
系统内存Lenovo64 GB DDR5 内存用于大规模 MARL 仿真与数据处理的安装内存
电压稳定性监测模块自主开发模块Zenodo DOI: 10.5281/zenodo.21423239在馈线协调过程中持续评估电压稳定性与合规性

参考文献

  1. Ahmed F, et al. A multi-agent reinforcement learning framework for voltage-constrained incentive demand response in PV-rich low-voltage distribution systems. IEEE Access. 2026;14:45410–22.
  2. Lamsal D, Sreeram V, Mishra Y, Kumar DS. Smoothing control strategy of wind and photovoltaic output power fluctuation by considering the state of health of battery energy storage system. IET Renew Power Gener. 2019;13:578–86.
  3. Allahmoradi S, et al. Data-driven Volt/VAR optimization for modern distribution networks: A review. IEEE Access. 2024;12:71184–204.
  4. O'Connell N, Pinson P, Madsen H, O'Malley M. Benefits and challenges of electrical demand response: A critical review. Renew Sustain Energy Rev. 2014;39:686–99.
  5. Hossain MS, Madlool NA, Al-Fatlawi AW, El Haj Assad M. High penetration of solar photovoltaic structure on the grid system disruption: An overview of technology advancement. Sustainability. 2023;15:1174. https://doi.org/10.3390/su15021174
  6. Rahmouni A. Impact of static reactive power compensator (SVC) on the power grid. WSEAS Trans Electron. 2020;11:96–104.
  7. Chandran CV, et al. Application of demand response to improve voltage regulation with high DG penetration. Electr Power Syst Res. 2020;189:106722. https://doi.org/10.1016/j.epsr.2020.106722
  8. Wang Q, et al. A demand response strategy in high photovoltaic penetration power systems considering the thermal ramp rate limitation. IEEE Access. 2019;7:163814–22.
  9. Wang Z, et al. How to effectively implement an incentive-based residential electricity demand response policy? Experience from large-scale trials and matching questionnaires. Energy Policy. 2020;141:111450. https://doi.org/10.1016/j.enpol.2020.111450
  10. van Tilburg J, Siebert LC, Cremer JL. MARL-iDR: Multi-agent reinforcement learning for incentive-based residential demand response. arXiv. 2023. https://arxiv.org/abs/2304.04086
  11. Bahrami S, Chen YC, Wong VWS. Deep reinforcement learning for demand response in distribution networks. IEEE Trans Smart Grid. 2021;12:1496–506.
  12. Li J, et al. Model-free reinforcement learning economic dispatch algorithms for price-based residential demand response management system. IEEE Trans Ind Cyber-Phys Syst. 2023;1:123–35.
  13. Zheng S, et al. Incentive-based integrated demand response for multiple energy carriers under complex uncertainties and double coupling effects. Appl Energy. 2021;283:116254. https://doi.org/10.1016/j.apenergy.2020.116254
  14. Nainar K, Pillai JR, Bak-Jensen B. Incentive price-based demand response in active distribution grids. Appl Sci. 2020;11:1–17.
  15. Nguyen Duc T, et al. Impact of renewable energy integration on a novel method for pricing incentive payments of incentive-based demand response program. IET Gener Transm Distrib. 2022;16:1648–67.
  16. Pourramezan A, Samadi M. A novel approach for incorporating incentive-based and price-based demand response programs in long-term generation investment planning. Int J Electr Power Energy Syst. 2022;142:108315. https://doi.org/10.1016/j.ijepes.2022.108315
  17. Mathew A, Roy A, Mathew J. Intelligent residential energy management system using deep reinforcement learning. IEEE Syst J. 2020;14:5362–72.
  18. Khan DA, Arshad A, Lehtonen M, Mahmoud K. Combined DR pricing and voltage control using reinforcement learning based multi-agents and load forecasting. IEEE Access. 2022;10:130839-49.
  19. Zhang X, et al. An edge-cloud integrated solution for buildings demand response using reinforcement learning. IEEE Trans Smart Grid. 2021;12:420–31.
  20. Duan J, et al. Deep-reinforcement-learning-based autonomous voltage control for power grid operations. IEEE Trans Power Syst. 2020;35:814–7.
  21. Wang S, et al. A data-driven multi-agent autonomous voltage control framework using deep reinforcement learning. IEEE Trans Power Syst. 2020;35:4644–54.
  22. Turitsyn K, Sulc P, Backhaus S, Chertkov M. Options for control of reactive power by distributed photovoltaic generators. Proc IEEE. 2011;99:1063–73.
  23. Bedawy A, et al. Optimal voltage control strategy for voltage regulators in active unbalanced distribution systems using multi-agents. IEEE Trans Power Syst. 2020;35:1023–35.
  24. Bedawy A, Yorino N, Mahmoud K. Management of voltage regulators in unbalanced distribution networks using voltage/tap sensitivity analysis. Presented at: International Conference on Innovative Trends in Computer Engineering (ITCE); Aswan, Egypt; 2018. https://doi.org/10.1109/itce.2018.8316651
  25. Smith O, et al. The effect of renewable energy incorporation on power grid stability and resilience. Sci Adv. 2022;8:eabj6734. https://doi.org/10.1126/sciadv.abj6734
  26. Charbonnier F, Morstyn T, McCulloch MD. Scalable multi-agent reinforcement learning for distributed control of residential energy flexibility. Applied Energy. 2022;314:118825. doi:10.1016/j.apenergy.2022.118825
  27. Dugan J, Mohagheghi S, Kroposki B. Application of mobile energy storage for enhancing power grid resilience: A review. Energies. 2021;14:6476. https://doi.org/10.3390/en14206476
  28. Panossian N, et al. Challenges and opportunities of integrating electric vehicles in electricity distribution systems. Curr Sustain Renew Energy Rep. 2022;9:27–40.
  29. Guan Q, et al. Dynamic-aware deep reinforcement learning for heterogeneous fleet-based capacitated electric vehicle routing problems. Applied Energy. 2026;413:127757. https://doi.org/10.1016/j.apenergy.2026.127757
  30. Guan Q, et al. Heterogeneous attention-driven deep reinforcement learning for solving EVRPs with pickup-delivery and time windows. Applied Energy. 2026;407:127355. https://doi.org/10.1016/j.apenergy.2026.127355
  31. Treutlein M, et al. Real-world energy data of 200 feeders from low-voltage grids with metadata in Germany over two years (Version v1.0) [Data set]. Zenodo; 2025. https://doi.org/10.5281/zenodo.17831177
  32. Canizes B, Castro F, Silveira V, Vale Z. 236-Bus Low Voltage Distribution Network Data [Data set]. Zenodo; 2023. https://doi.org/10.5281/zenodo.8274780
  33. Xi, Haikuo & Chen, Can & Bai, Xuesong & Ma, Yuan & Ding, Jiachao & Chen, Qifang. (2024). Centralized and decentralized combined voltage control for distribution network with high penetration PV connected. Journal of Physics: Conference Series. 2771. 012040. 10.1088/1742-6596/2771/1/012040.
  34. Singh AK, Parida SK. Congestion management with distributed generation and its impact on electricity market. International Journal of Electrical Power & Energy Systems. 2013;48:39–47. doi:10.1016/j.ijepes.2012.11.025.
  35. Gooi HB, Wang T, Tang Y. Edge intelligence for smart grid: A survey on application potentials. CSEE Journal of Power and Energy Systems. 2023;9(5):1623–1640. https://doi.org/10.17775/CSEEJPES.2022.02210
  36. Molokomme DN, Onumanyi AJ, Abu-Mahfouz AM. Edge intelligence in smart grids: A survey on architectures, offloading models, cyber security measures, and challenges. Journal of Sensor and Actuator Networks. 2022;11(3):47. https://doi.org/10.3390/jsan11030047
  37. Chang Z, Liu S, Xiong X, Cai Z, Tu G. A survey of recent advances in edge-computing-powered artificial intelligence of things. IEEE Internet of Things Journal. 2021;8(18):13849–13875.

访问受限。请登录或开始试用以查看此内容。

重印与许可

探索更多文章

多智能体强化学习拥塞管理电压敏感性分布式可再生能源并网去中心化协调馈线监测运行韧性