Onderzoeksartikel

Dynamische orchestratie van de acceptatie van voedingslijnen op basis van multi-agent RL met gebruik van de FeederBW-dataset en een laagspanningsdistributienetwerk met 236 bussen

20 weergaven

DOI:

10.3791/72365

8 september 2026

In dit artikel

Samenvatting

Deze studie presenteert een Dynamische Orchestratiestrategie voor de acceptatie van laagspanningsvoeders met behulp van collaboratief multi-agent reinforcement learning. Intelligente agenten coördineren de voederbedrijfsvoering, congestiebeheer, spanningsstabiliteit en de integratie van hernieuwbare energie onder onzekere omstandigheden. De aanpak is geëvalueerd via simulaties met gebruik van de FeederBW- en 236-bus datasets.

Samenvatting

De uitgebreide integratie van verspreide hernieuwbare energiebronnen en de snelle uitbreiding van laagspanningsvoeders (LV-voeders) hebben geleid tot operationele uitdagingen met betrekking tot de acceptatie van voeders en congestiecoördinatie. Bestaande benaderingen voor spanningsregeling en voederbeheer kunnen een beperkte schaalbaarheid en aanpassingsvermogen hebben bij intermitterende hernieuwbare energieopwekking en veranderende netwerkomstandigheden. Om deze beperkingen aan te pakken, stelt deze studie een Dynamic Orchestration Framework voor voor de acceptatie van laagspanningsvoeders, gebaseerd op intelligent-agent-collaboratie binnen een multi-agent reinforcement learning-benadering. In tegenstelling tot spanningsregelingsstrategieën die primair gericht zijn op spanningsstabilisatie, ondersteunt het voorgestelde raamwerk dynamische voederacceptatie via de gecoördineerde werking van agenten die verantwoordelijk zijn voor voederbewaking, congestiebeheer en prioritering op basis van spanningsgevoeligheid. De agenten observeerden onafhankelijk de toestanden van de voeders, evalueerden de congestie en spanningsgevoeligheid en werkten samen bij beslissingen over voederacceptatie. Het raamwerk werd geëvalueerd via simulaties met behulp van de FeederBW-dataset en de 236-bus laagspanningsdistributienetwerk-dataset onder variërende niveaus van hernieuwbare integratie en belastingscondities. Het voorgestelde raamwerk behaalde een Feeder Acceptance Rate van 97%, een Voltage Compliance Index van 98%, een orchestratielatentie van 98 ms (gemeten als de wall-clock executietijd van het orchestratiealgoritme op de gerapporteerde hardware) en een convergentiesnelheid van 98,5%, waarmee het beter presteerde dan de geëvalueerde gecentraliseerde coördinatiemethoden. De resultaten wezen daarnaast op een verbeterde aanpasbaarheid, operationele veerkracht en efficiëntie van gedecentraliseerde besluitvorming onder de gesimuleerde omstandigheden van het laagspanningsdistributienetwerk.

Inleiding

Moderne elektriciteitssystemen worden geconfronteerd met aanzienlijke operationele uitdagingen vanwege de stijgende elektriciteitsvraag en het toenemende gebruik van gedistribueerde opwekking. Onbalansen tussen het aanbod en de vraag naar elektriciteit, of snelle toenames in gedistribueerde opwekking, kunnen leiden tot financiële druk op nutsbedrijven en eindgebruikers en de stabiliteit van het net in gevaar brengen. Conventionele, centraal aangestuurde elektriciteitsinfrastructuren op basis van fossiele brandstoffen verschuiven daarom naar een gedistribueerd ontwerp aangedreven door hernieuwbare energie. Deze transitie heeft de toegang tot betaalbaardere en milieuvriendelijkere energiebronnen verbeterd. Echter, het intermitterende en onvoorspelbare karakter van fotovoltaïsche (PV) opwekking roept zorgen op over de betrouwbaarheid van het net1,2.

De wereldwijde energietransitie versnelt de uitrol van PV vanwege de milieuvoordelen, schaalbaarheid en dalende kosten. Volgens het Internationaal Agentschap voor Hernieuwbare Energie wordt verwacht dat de PV-capaciteit tegen 2050 verantwoordelijk zal zijn voor meer dan 22% van de wereldwijde elektriciteitsvoorziening, en dat zonne-PV tegen 2030 een belangrijke bijdrager zal zijn aan de wereldwijde elektriciteitsvoorziening3. Deze wijdverbreide integratie vormt aanzienlijke uitdagingen voor conventionele elektriciteitssystemen, met name wat betreft de operationele stabiliteit en betrouwbaarheid. Spanningsfluctuatie is een kritiek punt omdat PV-generatie intermittent en niet-stuurbaar is, en de effecten hiervan worden prominenter naarmate de penetratie in distributie- en transmissienetwerken toeneemt4.

Variaties in de zonnestraling hebben direct invloed op de PV-opbrengst en kunnen snelle spanningsveranderingen veroorzaken. Wolkbewegingen, abrupte variaties in instraling en lasttransiënten kunnen spanningsschommelingen teweegbrengen waar bestaande netarchitecturen onvoldoende op zijn ingericht5. Hoewel conventionele technologieën effectief zijn geweest in gecentraliseerde en relatief stabiele netconfiguraties, zijn ze minder geschikt voor steeds meer gedistribueerde netwerken. Snelle bidirectionele spanningsveranderingen kunnen de capaciteiten van conventionele energiesystemen overschrijden, vooral bij een hoge PV-penetratie6. Ongecontroleerde schommelingen kunnen leiden tot overschrijding van spanningslimieten, gevoelige belastingen beïnvloeden en de netveiligheid in gevaar brengen.

De integratie van slimme belastingen en gedistribueerde bronnen in distributienetwerken heeft daarom geleid tot de ontwikkeling van geavanceerdere regelstrategieën. Intelligente regelsystemen die gedistribueerde apparatuur continu bewaken en coördineren, kunnen helpen bij het verminderen van uitdagingen in laagspanningsnetwerken (LV) met een hoge mate van gedistribueerde opwekking7. Grootschalige PV-integratie veroorzaakt ook operationele moeilijkheden voor thermische opwekking, vooral wanneer de PV-opbrengst afneemt en thermische eenheden snel moeten reageren, waarbij soms de limieten voor de opstart- en afbouwcapaciteit (ramp-rate) worden overschreden8. Tegelijkertijd moeten programma's voor vraagrespons (DR) een balans vinden tussen duurzaamheid op lange termijn en economische haalbaarheid9.

DR-programma's kunnen de integratie van gedistribueerde opwekking ondersteunen en tegelijkertijd helpen bij het balanceren van het elektriciteitsaanbod en de vraag. Deze programma's worden gecategoriseerd als prijsgebaseerde DR of stimulansgebaseerde DR (IBDR). Prijsgebaseerde DR moedigt consumenten aan om hun elektriciteitsgebruik aan te passen als reactie op tijdvariërende tarieven, terwijl IBDR vaste of variabele financiële stimulansen biedt om het verbruik te verminderen wanneer daarom wordt verzocht10. Prijsgebaseerde DR stelt consumenten echter bloot aan fluctuerende groothandelsprijzen en biedt beperkte operationele flexibiliteit vanuit het perspectief van het nutsbedrijf, wat risico-averse deelnemers kan ontmoedigen11,12.

Verschillende studies hebben IBDR in distributiesystemen met een hoog aandeel PV onderzocht. Eén studie beoordeelde de uitdagingen en voordelen van het combineren van IBDR met een hoge PV-penetratie, maar richtte zich op geaggregeerd energieverbruik in plaats van op energiebeheersystemen op huishoudniveau13. Een andere studie stelde een prikkelgebaseerde spanningsbeheermethode voor waarbij prijssignalen indirect de batterijwerking aanstuurden om spanningslimieten te handhaven, hoewel de vraag op huishoudniveau niet expliciet werd gemodelleerd14. Een op fuzzy logic gebaseerde methode voor het bepalen van stimulansbetalingen hield rekening met consumententevredenheid en kosten voor de integratie van hernieuwbare energie, maar bevatte geen analyse op voedingslijnniveau15. Er is ook onderzoek gedaan naar langetermijnplanning van energieopwekking waarin zowel prijsgebaseerde als prikkelgebaseerde DR zijn opgenomen, inclusief thermische en hernieuwbare opwekking, maar zonder rekening te houden met het comfort van de gebruiker of de vraag op huishoudniveau16.

Deep reinforcement learning (RL) is ook toegepast op residentiële DR. Er zijn deep RL-methoden voorgesteld voor geaggregeerde lastregeling onder tijd-van-gebruik-tarieven, hoewel de generaliseerbaarheid ervan beperkt werd door kleine gebruikerspopulaties en het ontbreken van planning op apparaatniveau17. Een multi-agent reinforcement learning-framework dat DR combineert met spanningsregeling maakte gebruik van long short-term memory-netwerken voor lastvoorspelling, maar loste de ontevredenheid van klanten als gevolg van lastbeperking niet op18. Ander werk heeft zich gericht op DR-coördinatie voor airconditioningsystemen in commerciële gebouwen met behulp van een Markov-beslissingsproces, zonder andere residentiële lasten mee te wegen19. Bestaande deep RL-studies naar spanningsregeling hebben over het algemeen geen integratie van zowel DR als PV opgenomen20,21.

Slimme omvormers kunnen snel reageren op abrupte en onregelmatige veranderingen in de PV-opbrengst22. Wanneer spanningsschendingen optreden, kunnen PV-omvormers binnen milliseconden reageren, terwijl conventionele apparaten enkele seconden nodig kunnen hebben23. Sommige studies hebben modificaties van standaard apparaatbesturingsprocedures voorgesteld, waaronder multi-agent benaderingen voor de coördinatie van spanningsregelaars en het aanpassen van conventionele acties van spanningsregelaars24. Desalniettemin kan standalone PV-generatie zonder colocatie van opslag de spanningsschommelingen verergeren en vermindert het de avondpieken niet, zelfs wanneer het de netto import overdag verlaagt24,25. Huishoudbatterijen kunnen bovendien uitgeput raken tijdens perioden met een PV-overschot overdag en onbeschikbaar worden voor het opladen van elektrische voertuigen 's nachts als hun inzet niet is gecoördineerd met de lokale vraag en generatie26,27. De gecombineerde effecten van stochastische vraag, intermitterende generatie en divers opslaggedrag maken capaciteitsbeheer, levensduur van activa en veerkracht belangrijke aandachtspunten voor beheerders van distributiesystemen28. Home Energy Management Systems bieden een potentiële manier om geautomatiseerde besturing op klantniveau te implementeren. RL is goed geschikt voor dergelijke toepassingen omdat agents besturingsstrategieën kunnen leren door interactie met de omgeving, terwijl ze onzekerheid beheren en beslissingen met een lage latentie nemen.

Vooruitgang in de routeplanning voor elektrische voertuigen illustreert daarnaast hoe deep RL kan omgaan met dynamische energiebeperkingen. Het capaciteitsbeperkte routeprobleem voor elektrische voertuigen met een heterogene vloot houdt rekening met rijdynamiek, wegeigenschappen, kinetische weerstand en laadefficiëntie, terwijl het maximale energieverbruik over een diverse vloot wordt geminimaliseerd29. Een dynamiekbewuste methode voor deep reinforcement learning formuleert dit probleem als een aangepast Markov-beslissingsproces en maakt gebruik van een encoder-updater-decoder-architectuur. In dit ontwerp ontwikkelt de encoder rolspecifieke representaties voor knooppunten en voertuigen, verfijnt de updater voertuigtokens naarmate de contextuele informatie verandert, en scheidt de decoder de voertuigselectie van de voertuigspecifieke knooppuntselectie om adaptieve besluitvorming te ondersteunen. Op soortgelijke wijze maakt een energie-optimaal routeprobleem voor elektrische voertuigen met ophaal- en leveringen en tijdvensters gebruik van een energieverbruiksmodel met een hoge resolutie, dat laadgedrag, tijdsafhankelijke rijdynamiek en gedetailleerde routeinformatie bevat30. Een heterogeen, attention-gestuurd deep reinforcement learning-framework representeert de routeringstaak als een Markov-beslissingsproces, met een encoder die rolspecifieke interacties tussen depots, klanten en laadstations vastlegt, en een decoder die toestandsovergangen en temporele haalbaarheid bijhoudt.

Ondanks deze ontwikkelingen leggen de meeste studies naar het beheer van LV-distributienetwerken de nadruk op spanningsstabilisatie en optimalisatie van blindvermogen, in plaats van op de dynamische orkestratie van voedingslijnacceptatie onder onzekerheid van hernieuwbare energie. Gedistribueerde spanningsregelmethoden op basis van intelligente omvormers en machine learning richten zich over het algemeen op spanningscompensatie en blindvermogenoptimalisatie, zonder adaptieve controle op de acceptatie van voedingslijnen of congestiegebaseerde orkestratie in complexe LV-netwerken aan te pakken. Evenzo pakken voltage-beperkte multi-agent reinforcement learning-benaderingen voor DR de collaboratieve beheersing van voedingslijnacceptatie, gedecentraliseerde congestiebewuste orkestratie of admission control op knooppuntniveau in onderling verbonden LV-distributiesystemen niet direct aan. Coöperatieve spanningsregelmethoden op basis van multi-agent coördinatie minimaliseren doorgaans spanningsafwijkingen en trapschakelingen met behulp van PV-omvormers, maar houden geen rekening met adaptieve acceptatie van voedingslijnen, instabiliteit van acceptatie gerelateerd aan hernieuwbare energie of gedecentraliseerde orkestratie onder dynamische netwerkomstandigheden.

Huidige gedistribueerde en multi-agent methoden voor resource-coördinatie kampen ook met beperkingen op het gebied van congestiebewustzijn, temporele aanpassingsvermogen en schaalbaarheid. De meeste methoden leggen de nadruk op overbelastingsanalyse, interacties tussen gedistribueerde energierebronnen of tariefgestuurd energiemanagement, in plaats van adaptieve acceptatie op voedingsniveau en spanningsbewuste orchestratie. Hun afhankelijkheid van gedeeltelijke centralisatie en statische prioriteiten kan de gedecentraliseerde besluitvorming, de snelle reactie op congestievoortplanting en de aanpassing aan de variabiliteit van hernieuwbare energie verder beperken. Er is daarom behoefte aan een volledig gedecentraliseerd framework op basis van reinforcement learning, dat coöperatieve agent-coördinatie combineert met spannings- en congestiegevoeligheidsanalyse voor adaptief beheer van de acceptatie op voedingsniveau, gebruikmakend van grootschalige datasets zoals FeederBW en het 236-bus LV-distributienetwerk.

In deze studie verwijst feederacceptatie naar het adaptieve operationele proces om te bepalen of een LV-feeder extra gedistribueerde energieresources of elektrische belastingen kan accommoderen, terwijl de netwerkbeveiliging, spanningsconformiteit, thermische belastingslimieten en operationele betrouwbaarheid behouden blijven. De operationele grens voor feederacceptatie omvat het evalueren van de feedercapaciteit, spanningsgevoeligheid, congestieomstandigheden en de variabiliteit van hernieuwbare energie voordat nieuwe feederverbindingen worden geaccepteerd of geprioriteerd. In tegenstelling tot conventionele spanningsregeling, die spanningsprofielen reguleert, coördinatie van gedistribueerde energieresources, die de werking van resources beheert, of congestiemanagement, dat netwerkoverbelastingen beperkt, integreert feederacceptatie deze functies binnen een collaboratief multi-agent reinforcement learning-raamwerk om dynamische, gedecentraliseerde en adaptieve orchestratie onder omstandigheden met veel hernieuwbare energie te ondersteunen.

Het doel van deze studie is om een collaboratieve, op intelligente agenten gebaseerde dynamische orchestratiestrategie te ontwikkelen voor de acceptatie van laagspanningsvoeders onder wisselende bedrijfsomstandigheden en onzekerheid van hernieuwbare energiebronnen. Het voorgestelde raamwerk voert gedecentraliseerde orchestratie van voederafname uit door dynamisch de status van de voeders, de spanningsgevoeligheid, de congestiegevoeligheid en de acceptatiecapaciteit te evalueren, waardoor adaptieve prioritering en besluitvorming mogelijk worden die verder gaan dan statische spanningsregelmethoden. Met behulp van de FeederBW-dataset en de dataset van een LV-distributienetwerk met 236 bussen ontwikkelt de studie tevens een schaalbare multi-agent reinforcement learning-architectuur voor grootschalige LV-systemen. Door middel van reinforcement-driven learning en collaboratieve optimalisatie met lage latentie, uitgevoerd bij elk gesimuleerd bedrijfsinterval, is het raamwerk ontworpen om de verspreiding van congestie te verminderen, de naleving van de spanningsnormen te verbeteren, de orchestratielatentie te verlagen en de efficiëntie van de gedecentraliseerde coördinatie te verhogen.

Het raamwerk draagt een dynamische orchestratiebenadering voor de acceptatie van LV-voeders bij die statische feeder-managementstrategieën op basis van spanningsregeling vervangt; een gedecentraliseerde multi-agent reinforcement learning-architectuur voor onzekerheid in hernieuwbare energie en variërende belastingsomstandigheden; gedecentraliseerd toegangsbeheer op basis van lage latentiecondities en dynamische feeder-prioritisering; gezamenlijke indices voor spannings- en congestiegevoeligheid om kritieke feeders te identificeren en acceptatiebeslissingen te prioriteren; collaboratieve communicatie tussen naburige agenten; continue optimalisatie van beleid op basis van reinforcement learning om de feederstabiliteit, congestievermindering, spanningsconformiteit en convergentie te verbeteren; en grootschalige validatie op basis van simulaties met behulp van de FeederBW- en 236-bus LV-datasets. Vergelijkende resultaten wijzen op een verbeterde feeder-acceptatie, congestievermindering, orchestratievertraging, convergentiesnelheid en spanningsconformiteit ten opzichte van traditionele gecentraliseerde coördinatiemethoden.

Protocol

In dit onderzoek zijn geen menselijke proefpersonen, gewervelde dieren, menselijke weefsels of dierlijke weefsels gebruikt. In de studie werden uitsluitend openbaar toegankelijke datasets (de FeederBW-dataset en de dataset van het 236-bus laagspanningsdistributienetwerk) en computersimulaties gebruikt. Daarom vereiste deze studie geen goedkeuring van een institutionele toetsingscommissie (IRB), ethische goedkeuring of geïnformeerde toestemming.

De Dynamic Orchestration Strategy for Low-Voltage Feeder Acceptance Based on Agent Collaboration werd ontwikkeld met behulp van multi-agent reinforcement learning (MARL) voor bedrijfsomstandigheden met een hoog aandeel hernieuwbare energie. De FeederBW- en 236-bus laagspanningsdatasets werden gepreprocessd, genormaliseerd en temporeel gesynchroniseerd om een dynamisch netwerkmodel te construeren dat de toestanden van de voeders, gedistribueerde energiemiddelen, spanningsgevoelige regio's en congestiecondities representeert. Intelligente agenten werden toegewezen aan voedersecties en netwerkknooppunten om de lokale spanning, congestie, onzekerheid van hernieuwbare opwekking en de acceptatiecapaciteit van het voeder te bewaken, informatie uit te wisselen met naburige agenten en orchestratiebeleid bij te werken via gedecentraliseerde reinforcement learning. De beloningsfunctie werd ontworpen om de voederacceptatie te verbeteren terwijl congestie, spanningsinstabiliteit en coördinatievertragingen werden beperkt. Spanning, voederbelasting, transformatorbelasting en congestiebeperkingen werden meegewogen, terwijl driefasige ongebalanceerde werking, geavanceerde fotovoltaïsche omvormerbesturing en reactieve vermogenscompensatie niet expliciet werden gemodelleerd. Het algemene raamwerk wordt getoond in Figuur 1De onderzoeksinstrumenten die in deze studie zijn gebruikt, staan vermeld in de Tabel met materialen.

Rasterdiagram van dynamische LV-netwerkmodellering met multi-agent systemen en reinforcement learning.
Figuur 1: Architectuur van het voorgestelde framework. Schema van het Dynamic Orchestration Framework waarin intelligente agenten, reinforcement learning, congestieanalyse en adaptieve voedingscoördinatie zijn geïntegreerd. Klik hier om een grotere versie van deze figuur te bekijken.

1. Gegevensverwerving

De gegevens werden verkregen uit de FeederBW-dataset31 en de 236-bus LV-distributiedataset32. Deze datasets werden geselecteerd omdat ze informatie bevatten over de topologie van de voedingslijnen, spanningsomstandigheden, het gedrag van hernieuwbare energieopwekking, de energievraag, congestie en dynamische bedrijfsprofielen die vereist zijn voor gedecentraliseerde orchestratie en agent-leren op basis van reinforcement learning.

De FeederBW-dataset werd primair gebruikt om de werking van feeders, de intermitterendheid van hernieuwbare energie, spanningsafwijkingen en congestievoortplanting in LV-netten te modelleren. Deze bevatte gegevens over de werking van feeders, het gedrag van gedistribueerde opwekking, knooppanningsmetingen en lastschommelingen die de adaptieve orchestratieanalyse ondersteunden. De 236-bus LV-dataset werd gebruikt om de schaalbaarheid en gedecentraliseerde coördinatie te evalueren. Deze bevatte informatie over busverbindingen, belastingsomstandigheden van feeders, knooppanningskenmerken, de penetratie van gedistribueerde hernieuwbare energie en congestiegevoelige bedrijfsgevallen. Samen ondersteunden de twee datasets analyses op feederniveau en op grote schaal onder omstandigheden van een hoge penetratie van hernieuwbare energie. De kenmerken van de datasets en hun doelen binnen het raamwerk zijn samengevat in Tabel 1.

Naam van de datasetDatasettypeAantal knooppunten/bussenGegevensattributenDoel van het voorgestelde werk
FeederBW-datasetOperationele dataset van laagspanningsvoedingslijnenMeerdere voedingsknooppuntenspanningsprofielen, hernieuwbare opwekking, belastingsvraag, congestietoestanden, operationeel gedrag van voedingslijnenorkestratie van feeder-systemen met lage latentie, congestieanalyse, adaptieve acceptantieprioritisering
236-bus LV-datasetGrootschalige dataset voor laagspanningsdistributie236 bussenBustopologie, voedingsbelasting, spanningsgevoeligheid, penetratie van hernieuwbare energie, congestiedynamiekValidatie van schaalbaarheid, evaluatie van gedecentraliseerde coördinatie, analyse van grootschalige orchestratie

Tabel 1: Kenmerken van de dataset.Beschrijving van de datasets, operationele attributen en hun doeleinden binnen het voorgestelde orchestratiekader voor lage spanning.

2. Gegevensvoorbewerking

De verkregen datasets werden voorbewerkt om de consistentie, temporele uitlijning en stabiliteit van het reinforcement-learning te verbeteren. Ontbrekende vermeldingen, foutieve metingen, dubbele records en inconsistente voedingslijngegevens werden gefilterd met behulp van statistische voorbewerkingsprocedures. Deze stap werd gebruikt om de consistentie te bewaren tussen de gegevens van de voedingslijnbedrijfsvoering, hernieuwbare generatieprofielen, spanningsmetingen en gegevens over de congestiestatus. Alle operationele variabelen werden min-max genormaliseerd, zodat de inputkenmerken werden getransformeerd naar een gemeenschappelijke schaal die geschikt is voor het leren van de agent. De genormaliseerde variabelen omvatten de voedingslijnspanning, het actief vermogen van de vraag, hernieuwbare generatie, de congestiestatus en de acceptatiecapaciteit van de voedingslijn. De wiskundige formulering van de voorbewerkingsprocedure is opgenomen in Aanvullend Bestand 1 (Sectie 1).

3. Dynamische modellering van netwerken met een lage spanning

Na de gegevensverwerving en voorbewerking werd een dynamisch LV-netwerkmodel geconstrueerd om het gedrag van een distributiesysteem met een hoog aandeel hernieuwbare opwekking te simuleren onder variërende belastings- en generatieomstandigheden. Het model volgde dynamisch de feeder-topologie, het gedrag van gedistribueerde energierebronnen, spanningsgevoelige regio's en de voortplanting van congestie.

In tegenstelling tot een statische netwerkrepresentatie, werkt het model het gedrag van de voedingen bij op basis van de intermitterendheid van hernieuwbare energie, de consumentenvraag en congestieomstandigheden. De FeederBW- en 236-bus LV-datasets werden gebruikt om onderling verbonden voedingen te construeren waarin bussen, transformatoren, gedistribueerde hernieuwbare bronnen en belastingen werden weergegeven als netwerkknopen. Elke voedingsknoop leverde bijgewerkte informatie over de spanningsamplitude, de actieve vermogensvraag, de hernieuwbare opwekking, de belastingsstatus van de voeding en de congestiestatus. Deze variabelen werden door de intelligente agenten gebruikt om het gedrag van de voedingen te bewaken en gedecentraliseerde orchestratiebeslissingen te nemen. Het netwerkmodel ondersteunde daarnaast de identificatie van gevoelige regio's en de prioritering van de acceptatie van voedingen via continue sensitiviteitsanalyse.

Het LV-distributienet werd weergegeven als een grafiekgebaseerd netwerk bestaande uit busstations, voedingslijnen, transformatoren, hernieuwbare bronnen en verbruikerslast-knopen. Gedetailleerde wiskundige afleidingen van het netwerkmodel zijn te vinden in Supplementary File 1(Section 2). De dynamische netwerktoestand en de congestie-index werden continu gemonitord. De congestie-index werd genormaliseerd naar het bereik [0,1], en de collaboratieve orchestratie voor de acceptatie van voedingslijnen werd gestart wanneer de congestie-index 0,80 overschreed.

4. Initialisatie van de multi-agentomgeving

Nadat het dynamische LV-netwerkmodel was geconstrueerd, werd de multi-agent-omgeving geïnitialiseerd om gedecentraliseerde aansluiting van voedingslijnen te ondersteunen. Intelligente agenten werden toegewezen aan segmenten van de voedingslijnen, aansluitpunten voor gedistribueerde energiebronnen, transformatorlocaties en knooppunten die gevoelig zijn voor congestie binnen het LV-netwerk.

Elke agent fungeerde als een onafhankelijke beslissingsentiteit die de lokale werking van de voedingslijn bewaakte, informatie uitwisselde met naburige agenten en adaptieve orchestratieacties uitvoerde. Agenten werden toegewezen aan cruciale knooppunten van de voedingslijn op basis van spanningsgevoeligheid, penetratie van hernieuwbare energie, congestieniveau en het belang van de voedingslijn. Het LV-netwerk werd geconfigureerd als een agent-gebaseerde omgeving waarin de agenten continu de spanning van de voedingslijn, de vraag naar actief vermogen, variaties in hernieuwbare opwekking, de congestiestatus en de acceptatiecapaciteit van de voedingslijn bewakten. De wiskundige formulering van de multi-agentomgeving is opgenomen in Aanvullend Bestand 1(Sectie 3).

5. Versterkingsgestuurd agent-leren

Na de initialisatie van de multi-agent-omgeving werd reinforcement-driven learning geïmplementeerd om de agenten in staat te stellen feeder-orchestratiebeleid aan te leren door interactie met veranderende LV-bedrijfsvoorwaarden. Tijdens elke interactie observeerde een agent de huidige toestand van de feeder, selecteerde een orchestratieactie en ontving een beloning of straf. Het gedecentraliseerde leerproces stelde de agenten in staat zich aan te passen aan onzekerheid in de hernieuwbare opwekking, veranderende congestieomstandigheden, spanningsvariaties en veranderingen in de acceptatiecapaciteit van de feeder. Elke agent selecteerde een orchestratieactie op basis van het aangeleerde beleid. De bijbehorende wiskundige afleidingen worden gegeven in Supplementary File 1(Sectie 4).

In totaal werden 64 intelligente agenten ingezet. Op basis van de feeder-topologie, het penetratielevel van hernieuwbare energie, de spanningsgevoeligheid en de ernst van de congestie werd elke agent toegewezen aan een feedersegment, een transformatorlocatie, een aansluitpunt voor gedistribueerde energiebronnen of een congestiegevoelige netwerknoode. Door de gedecentraliseerde inzetting, waarbij een redelijke computationele complexiteit behouden bleef, was coöperatieve monitoring en adaptieve feeder-acceptatie mogelijk in het gehele laagspanningsdistributienetwerk met 236 bussen. Elke agent observeerde een vijfdimensionale toestandsvector bestaande uit spanningsamplitude, feeder-vraag, hernieuwbare opwekking, congestiestatus en feeder-acceptatiecapaciteit. De actieruimte bestond uit vijf orchestratieacties: prioritering van feeder-acceptatie, mitigatie van congestie, coördinatie van hernieuwbare energie, belastingbalancering en spanningsregeling. Coöperatieve besluitvorming werd ondersteund door een gedecentraliseerde buurtcommunicatietopologie, waarbij elke agent gevoeligheidsindices en lokale operationele informatie uitsluitend uitwisselde met naburige feeder-agenten.

Er werd een op Q-learning gebaseerde MARL-methode geïmplementeerd met gebruik van een volledig verbonden neuraal netwerk met twee verborgen lagen bestaande uit 128 en 64 neuronen. In de verborgen lagen werd een rectified linear unit-activatie toegepast. De netwerkparameters werden geoptimaliseerd met de Adam-optimizer met een leersnelheid van 0,001 en een discountfactor van 0,99. Er werd een mini-batchgrootte van 64 gebruikt, en de experience-replay-buffer had een capaciteit van 100.000 transities. De training werd als geconvergeerd beschouwd wanneer het voortschrijdend gemiddelde van de cumulatieve beloning over de voorafgaande 20 episoden met minder dan 0,1% varieerde gedurende 10 opeenvolgende evaluatievensters. Indien aan dit criterium niet werd voldaan, werd de training voortgezet tot een maximum van 500 episoden. De workflow voor reinforcement-learning wordt getoond in Figuur 2.

Diagram van het reinforcement learning-proces; interactie tussen agent en omgeving, beleidsupdate, beloningslus.
Figuur 2: Stroomdiagram van reinforcement-gestuurd leren van de agent. Stroomdiagram dat het op reinforcement gebaseerde leerproces van de agent illustreert voor gedecentraliseerde orchestratie van voeders en optimalisatie van besluitvorming. Klik hier om een grotere versie van deze figuur te bekijken.

Het leerproces begon met de initialisatie van de LV-distributieomgeving, de agenttoestanden en de leerparameters. Intelligente agenten werden geplaatst in voedingsgebieden, locaties van gedistribueerde energiebronnen en congestiegevoelige bussen. Vervolgens werden de observatieruimte, de leersnelheid, de exploratiestrategie, de beloningsfactoren en de beleidsfuncties gedefinieerd. Bij elke interactiestap observeerde elke agent de huidige toestand van het toegewezen voedingsgebied. De toestand bestond uit de knoopspanningsamplitude, de belastingvraag van de voeding, kenmerken van hernieuwbare opwekking, het congestieniveau en de acceptatiecapaciteit van de voeding. Deze observaties vormden de omgevingsstaat die werd gebruikt voor de besluitvorming bij de orchestratie. Elke agent selecteerde een actie op basis van zijn reinforcement-learning-beleid. De beschikbare acties omvatten prioritering van de acceptatie van de voeding, congestiebeheer, coördinatie van hernieuwbare energie, belastingbalancering en spanningsbeheer. De geselecteerde actie werd toegepast op de dynamische LV-omgeving, waarna de toestand van de voeding werd bijgewerkt.

Na elke actie werd een beloning berekend. Een positieve beloning werd toegekend wanneer de geselecteerde actie de acceptatie van de voedingslijn verbeterde, de voortplanting van congestie voorkwam, de spanningsconformiteit handhaafde of de netwerkstabiliteit verbeterde. Er werd een boete toegepast wanneer de actie leidde tot, of er niet in slaagde te voorkomen, overbelasting van de voedingslijn, spanningsschendingen of orchestratievertragingen. De berekende beloning werd gebruikt om de waardefunctie en het beslissingsbeleid van de agent bij te werken via versterkingsoptimalisatie. De sequentie van observatie, actieselectie, omgevingstransitie, beloningsberekening en beleidsupdate werd herhaald tot het stopcriterium was voldaan.

6. Evaluatie van spannings- en congestiegevoeligheid

Na het versterkingsgestuurde leren werden de spannings- en congestiegevoeligheden geëvalueerd om kwetsbare voedingsgebieden te identificeren en om dynamische beslissingen over de acceptatie van voedingslijnen te ondersteunen onder onzekerheid van hernieuwbare energie.

Bij elk besturingsinterval werden de effecten van veranderingen in het vermogen van de voedingslijn, de hernieuwbare opwekking en de belastingvraag op de knoopspanning en netcongestie bepaald. De spannings- en congestiegevoeligheidsindices werden opnieuw berekend. bij elk gesimuleerd bedieningsinterval in plaats van uitsluitend te zijn afgeleid van statische netwerkomstandigheden. De sensitiviteitsindices voor elke voedingsknooppunt werden bijgewerkt op basis van de actuele netwerkomstandigheden, variaties in de opwekking van hernieuwbare energie en de belastingsstatus van de voeding. De resulterende waarden werden gebruikt om de voedingsknooppunten te rangschikken voor de acceptatie van voedingen, congestiemanagement en spanningsregelingmaatregelen.

De spanningsgevoeligheidsindex kwantificeerde de verandering in de knoopspanning als gevolg van een verandering in de actieve vermogensstroom. Nadat de spannings- en congestiegevoeligheidsindices waren berekend, werden deze gecombineerd tot een samengestelde gevoeligheidsscore voor adaptieve prioritering van de acceptatie van voedingslijnen. De methode voor de samengestelde scoring wordt beschreven in Supplementary File 1(Sectie 5). Knooppunten van voedingslijnen met hogere gevoeligheidsscores kregen een hogere orkestratieprioriteit tijdens operaties voor congestiebestrijding, correctie van de acceptatie van voedingslijnen en spanningsregeling. De gevoeligheidsscores werden bij elk bedrijfsinterval opnieuw berekend en gedeeld met naburige agenten via de collaboratieve communicatieomgeving.

7. Collaboratieve acceptatie-orkestratie en adaptieve beslissingsoptimalisatie bij elk gesimuleerd bedrijfsinterval

Na een gevoeligheidsbeoordeling werd een collaboratieve acceptatie-orchestratie uitgevoerd om gedecentraliseerde agenten in staat te stellen gecoördineerde beslissingen over de acceptatie van voeders te nemen onder onzekerheid van hernieuwbare energie en dynamische congestieomstandigheden. De agenten wisselden lokale feeder-staten, gevoeligheidsindices, congestiemeldingen en operationele prioriteiten uit. Elke agent evalueerde onafhankelijk de lokale conditie van de feeder, terwijl er werd gecoördineerd met naburige agenten om de algehele netwerkstabiliteit te ondersteunen.

De acceptatie van voeders werd geprioriteerd op basis van spanningsgevoeligheid, de ernst van congestie, variabiliteit van hernieuwbare energieopwekking en de beschikbare voedercapaciteit. Lokale gevoeligheidsbewuste waarnemingen werden over agenten geaggregeerd en er werden gecoördineerde acties voor voederafname gegenereerd. De mathematische formulering van het collaboratieve orchestratieproces is opgenomen in Aanvullend Bestand 1 (Sectie 6). De dynamische LV-netwerkomgeving werd geïmplementeerd met collaboratieve agenten geplaatst in voedersregio's, integratiepunten voor hernieuwbare energie en congestiegevoelige bussen, zoals beschreven in Aanvullend Bestand 1 (Algoritme 1). Bij elk operationeel interval observeerde elke agent lokale voedermeters, waaronder spanningsamplitude, variatie in hernieuwbare opwekking, voedbelasting, congestieniveau en de acceptatiecapaciteit van het voeder.

De indices voor spanningsgevoeligheid en congestiegevoeligheid werden vervolgens berekend om voedingsgebieden te identificeren die vatbaar zijn voor spanningsinstabiliteit of congestievoortplanting. Deze indices werden gecombineerd tot een algemene voedingsgevoeligheidsscore die de acceptatie van de voeding en de orchestratieprioriteit bepaalde. Lokale statusinformatie, congestieniveaus, indicatoren voor spanningsinstabiliteit en acceptatieprioriteiten werden uitgewisseld tussen naburige agenten. Op basis van de lokale waarnemingen en de gedeelde informatie selecteerde en implementeerde elke agent een adaptieve orchestratieactie. Na elke actie werd versterkingsfeedback verkregen uit de dynamische LV-netwerkomgeving op basis van voedingsstabiliteit, congestiereductie, naleving van de spanning en de efficiëntie van de voedingsacceptatie. Deze feedback werd gebruikt om het beleid van elke agent bij te werken via optimalisatie op basis van versterking. De globale orchestratiedoelfunctie leverde gelijktijdig gecoördineerde feedback voor adaptieve optimalisatie over de gehele agentenpopulatie. Beleidsupdates gingen door totdat de agentenbeleid convergeerden naar een optimale gedecentraliseerde orchestratiestrategie.

8. Validering op grote schaal

De Dynamic Orchestration Strategy werd gevalideerd met behulp van de FeederBW-dataset en de 236-bus LV-distributienetwerkdataset onder bedrijfsscenario's met een hoge penetratie van hernieuwbare energie. De validatie beoordeelde het vermogen van het gedecentraliseerde orchestratiekader om dynamische voedingsacceptatie, intermittentie van hernieuwbare energie, congestievoortplanting en spanningsinstabiliteit in onderling verbonden LV-distributiesystemen te beheren. De geëvalueerde bedrijfsscenario's omvatten een hoge penetratie van hernieuwbare energie, variërende vraaggroottes, dynamische congestievoortplanting, spanningsgevoelige condities en een variërende acceptatiecapaciteit van de voedingslijnen.

De prestaties van het framework werden geëvalueerd op basis van de acceptatiegraad van de voedingslijn, de spanningscompliantie-index, de congestiereductiegraad, de orchestratielatentie, de convergentiesnelheid, de efficiëntie van decentrale coördinatie en het vermogen om hernieuwbare energie te accommoderen. Deze maatstaven werden gebruikt om de schaalbaarheid, robuustheid, aanpassingsvermogen en coördinatieprestaties te beoordelen. Het voorgestelde framework werd vergeleken met traditionele gecentraliseerde benaderingen voor de orchestratie van voedingslijnen onder dezelfde netwerkconfiguraties. Voor de vergelijkingsmethoden werden gelijkwaardige datasets, bedrijfsscenario's, evaluatiecondities en prestatiemaatstaven toegepast.

Tabel 2 vat de datasets, bedrijfsomstandigheden, orchestratieomgevingen en prestatievariabelen samen die zijn gebruikt voor de experimentele validatie. De FeederBW-dataset werd gebruikt om de bedrijfsdynamiek van de voedingslijn, de intermittentie van hernieuwbare energie, de ontwikkeling van congestie, variaties in de residentiële last en spanningsschommelingen onder LV-voedingscondities te evalueren. De 236-bus LV-dataset werd gebruikt om gedecentraliseerde orchestratie in een groter onderling verbonden netwerk te evalueren. De architectuur werd gevalideerd onder variërende omstandigheden van hernieuwbare opwekking, lastvraag, spanning en congestie. Gedecentraliseerde coördinatie en beleidsoptimalisatie op basis van reinforcement learning werden gezamenlijk beoordeeld over de intelligente agenten.

De acceptatiegraad van de voederlijn, de spanningscompliantie-index, de congestiereductiesnelheid, de convergentiesnelheid en de orchestratielatentie werden gebruikt om de prestaties onder dynamische bedrijfsomstandigheden in hernieuwbare energiesystemen te kwantificeren.

Experimentele ParameterFeederBW-dataset236-bus LV-datasetDoel van de validatie
NetwerktypeLaagspanningsdistributienetwerkGrootschalig laagspanningsdistributienetwerkEvaluatie van dynamische orchestratie
Aantal knooppunten/bussenMeerdere voedingsknooppunten236 bussenSchaalbaarheidsanalyse
Integratie van hernieuwbare energiePV en gedistribueerde hernieuwbare bronnenBussen met een hoge penetratie van hernieuwbare energieValidatie van onzekerheid bij hernieuwbare energie
Gedrag van de belastingvraagDynamische residentiële belastingsprofielenGrootschalige variaties in de belasting van voedingsleidingenAdaptieve belastingorchestratie
Scenario's van congestieOverbelasting van voedingen en congestietoestandenPropagatie van congestie in multi-bus systemenAnalyse van congestievermindering
SpanningsconditiesSpanningsfluctuatieprofielenSpanningsgevoelige busconditiesEvaluatie van de spanningscompliantie
Intelligente agentenGedistribueerde feeder-agentenGrootschalige collaboratieve agentenGedecentraliseerde coördinatieanalyse
LeeromgevingVersterkingsgestuurde orchestratieMulti-agent adaptief lerenValidatie van beleidoptimalisatie
SimulatieconditiesDynamische variabiliteit van hernieuwbare energieGrootschalige dynamische werkingtesten van orkestratie met lage latentie
PrestatiemetriekenAcceptatiegraad, congestiereductieSpanningsconformiteit, convergentiesnelheidAlgehele orchestratieprestaties

Tabel 2: Grootschalige experimentele validatie. Experimentele instellingen gebruikt om schaalbaarheid, onzekerheid in hernieuwbare energie en gedecentraliseerde coördinatie te evalueren.

Resultaten

Alle experimenten werden vijf keer uitgevoerd met verschillende willekeurige seeds om de invloed van stochastisch leren te verminderen. Gemiddelde waarden werden berekend over de vijf runs. Dezelfde datasets, simulatieparameters, hyperparameters, stopcriteria en evaluatieprocedures werden gebruikt voor alle methoden. Centralized Voltage Control (CVC)33, Conventional Multi-Agent Control (CMAC)21, Reinforcement Learning-Based Voltage Regulation (RLVR)20, Distributed Energy Resource Coordination (DERC)26 en Sensitivity-Based Congestion Management (SBCM)34 werden gebruikt als vergelijkingsmethoden.

Met behulp van een-wegvariantieanalyse (ANOVA) werden statistische vergelijkingen tussen het voorgestelde framework en de basistechnieken (CVC, CMAC, RLVR, DERC en SBCM) onafhankelijk uitgevoerd voor elke beoordelingsmetriek. De Tukey's honestly significant difference (HSD) post hoc-test werd gebruikt voor gepaarde vergelijkingen wanneer de ANOVA statistisch significante verschillen aan het licht bracht. De drempel voor statistische significantie werd vastgesteld op p < 0,001. Alle statistische analyses werden uitgevoerd met een een-wegvariantieanalyse, gevolgd door een post hoc-test voor significante verschillen waar适当. De een-weg ANOVA werd uitgevoerd met de statsmodels.stats.anova-module. De uiteindelijke geconvergeerde prestatiewaarden van vijf afzonderlijke simulatieruns per benadering werden gebruikt voor de toetsing van de statistische significantie. Het doel van de tussenliggende trainingsepisoden was om het leerproces te visualiseren; deze werden niet op statistische significantie getest.

Gegevensverwerving

De FeederBW- en 236-bus laagspannings- (LV) distributiedatasets ondersteunden de evaluatie van het voorgestelde raamwerk onder complementaire bedrijfsomstandigheden. De FeederBW-dataset leverde tijdreeksinformatie over de voedingslijnen, inclusief spanning, gedistribueerde hernieuwbare opwekking, belastingvraag, congestieomstandigheden en het acceptatiegedrag van de voedingslijnen. Deze werd gebruikt om de dynamische werking van de voedingslijnen, de intermitterende aard van hernieuwbare energie, variaties in de residentiële belasting, congestievoortplanting en spanningsschommelingen te evalueren.

De 236-bus LV-distributiedataset bevatte 236 onderling verbonden bussen en omvatte voedingstopologieën, spanningsgevoelige regio's, condities voor hernieuwbare penetratie, vermogensstroomtoestanden en scenario's voor congestiepropagatie. Deze werd gebruikt om gedecentraliseerde coördinatie, adaptieve orchestratie en schaalbaarheid in een groter onderling verbonden distributienetwerk te evalueren. Tabel 3 en Tabel 4 vatten de experimentele validatiecondities en de simulatieomgeving samen.

ValidatieparameterBeschrijving
Gebruikte datasetsFeederBW-dataset en 236-bus LV-dataset
NetwerkomgevingDynamisch laagspanningsdistributiesysteem met een hoog aandeel hernieuwbare energie
Hernieuwbare bronnenGedistribueerde fotovoltaïsche (PV) en hernieuwbare generatoren
LeerframeworkMulti-agent reinforcement learning (MARL)
CoördinatiestrategieCollaboratieve gedecentraliseerde orchestratie
Bedrijfsscenario'sIntermittentie van hernieuwbare energie, lastschommeling, congestievoortplanting
Aantal intelligente agenten64 gedistribueerde collaboratieve agenten op voederstroomniveau
ValidatiedoelstellingOptimalisatie van de acceptatie van adaptieve voedersystemen
EvaluatieprocesRealtime orchestratie en sensitiviteitsbewuste coördinatie
Vergelijkende analyseIn vergelijking met conventionele gecentraliseerde coördinatiemethoden

Tabel 3: Omgevingsvalidatieparameters. Validatieparameters die zijn gebruikt om de adaptieve orchestratie onder dynamische laagspanningsomstandigheden te beoordelen.

SimulatiecomponentConfiguratie
ProcessoromgevingHoogwaardig multi-core verwerkingssysteem
ProgrammeerframeworkPython 3.11.9
LeerframeworkMulti-agent reinforcement learning (MARL)
LeeralgoritmeMulti-agent reinforcement learning op basis van Q-learning
Architectuur van neurale netwerkenVolledig verbonden neuraal netwerk met twee verborgen lagen (128 en 64 neuronen, ReLU-activatie)
OptimalisatorAdam-optimizer
Leersnelheid (α)0.001
Kortingsfactor (γ)0.99
AfspeelmechanismeExperience replay-buffer (capaciteit: 100.000 transities)
Mini-batchgrootte64
Exploratiebeleidε-greedy exploratie (ε afgebouwd van 1,0 naar 0,01)
Trainingssessies500
StopcriteriumMaximum aantal trainings-episodes bereikt of convergentie van de cumulatieve beloning
NetwerkmodelleringDynamische simulatie van een LV-voedingsnetwerk
Hernieuwbare SimulatieVariabele opwekkingsprofielen van hernieuwbare energie
AgentcoördinatieGedistribueerde collaboratieve communicatie
GegevensverwerkingReal-time gesynchroniseerde verwerking van de toestand van de voeder
OptimalisatiemethodeVersterkingsgebaseerd adaptief beleersleren
Experimenteel platformGrootschalige simulatie met behulp van de FeederBW-dataset en de 236-bus LV-distributienetwerkdataset
PrestatiemonitoringFeeder-acceptatiegraad (FAR), Voltage Compliance Index (VCI), Congestiereductiegraad (CRR), Orchestratielatentie (OL), Convergentiesnelheid (CS) en Gedecentraliseerde Coördinatie-efficiëntie (DCE)
Beloningsgewicht (β)0.3
Beloningsgewicht (δ)0.25
Objectieve Weging (ω₁)0,30 (Acceptatie van feeder-cellen)
Objectieve Weging (ω₂)0,25 (vermindering van congestie)
Doelgewicht (ω₃)0,25 (spanningscompliantie)
Objectieve Weging (ω₄)0,20 (Orchestratielatentie)
Leersnelheid van het beleid (η)0.001
Regularisatie / Balanceringsparameter (λ)0.1

Tabel 4: Simulatieomgeving. Simulatie-instellingen gebruikt voor experimenten naar versterkingsgebaseerde voederorchestratie.

Preprocessing van gegevens

De gesynchroniseerde en genormaliseerde gegevens maakten een consistente vergelijking mogelijk tussen het voorgestelde framework en de referentiemethoden. In alle evaluaties werden dezelfde voorbewerkte feeder-toestanden, profielen voor hernieuwbare opwekking, belastingsvraagcondities, spanningscondities en congestiescenario's gebruikt. Deze gemeenschappelijke inputstructuur verminderde verschillen veroorzaakt door de datasetvoorbereiding, waardoor de waargenomen prestatieverschillen konden worden toegeschreven aan de geëvalueerde orchestratiemethoden.

Dynamische modellering van netwerken met een laag voltage

Het dynamische LV-netwerkmodel representeerde veranderende hernieuwbare opwekking, consumentenvraag, spanningsomstandigheden, feederbelasting en congestiepropagatie. Onder deze omstandigheden behield het voorgestelde raamwerk de feederacceptatie, terwijl het reageerde op spanningsgevoelige en congestiegevoelige bedrijfstoestanden. Het model ondersteunde evaluatie onder fluctuerende hernieuwbare opwekking, veranderende consumentenlasten en congestiegevoelige netwerkomstandigheden. Over deze condities heen voerden de collaboratieve agenten feederprioritering, spanningsafhankelijke coördinatie, congestievermindering en accommodatie van hernieuwbare energie uit zonder gecentraliseerde besturing.

Initialisatie van de multi-agent-omgeving

De gedecentraliseerde agent-configuratie maakte lokale observatie en gecoördineerde besluitvorming mogelijk over voedingsregio's en netwerkknooppunten heen. Agenten wisselden informatie over de status van de voeding en gevoeligheidsmaten uit met naburige agenten, terwijl ze onafhankelijk orkestratieacties selecteerden. Het waargenomen coördinatiegedrag toonde aan dat de gedistribueerde opstelling prioritisering van voedingen, lastcoördinatie, spanningsbeheer en congestierespons ondersteunde. De gedecentraliseerde configuratie verminderde bovendien de afhankelijkheid van een enkele centrale controller en ondersteunde gecoördineerde werking over het grotere netwerk met 236 bussen.

Door bekrachtiging gestuurd leren van agenten

De op versterking gebaseerde beleidsstrategie verbeterde gedurende de trainingsperiode voor de acceptatie van voeders, spanningsconformiteit, congestiereductie, orchestratielatentie en convergentiesnelheid. Figuur 3 vergelijkt de Feeder Acceptance Rate (FAR) van het voorgestelde raamwerk met CVC, CMAC, RLVR, DERC en SBCM. CVC produceerde de laagste FAR, die steeg van 62% naar 70%. CMAC en DERC bereikten maximale FAR-waarden van respectievelijk 75% en 78%. RLVR en SBCM bereikten respectievelijk 83% en 81%. Het voorgestelde raamwerk verhoogde de FAR van 72% tijdens de vroege trainingsfase naar 97% tijdens de latere fase. Dit resultaat toonde aan dat het collaboratieve reinforcement-learning-proces adaptieve feederacceptatie ondersteunde onder onzekerheid van hernieuwbare energie en veranderende LV-bedrijfsomstandigheden.

Grafiek van de acceptatiegraad van voeders versus trainingsiteraties; vergelijking van zes methoden, statistische analyse.
Figuur 3: Acceptatiegraad van voeders (FAR). Vergelijking van de FAR tussen het voorgestelde raamwerk en de baseline-methoden voor voederscoördinatie. Waarden worden weergegeven als gemiddelde ± SD door het voorgestelde raamwerk te vergelijken met elke baseline-methode over vijf onafhankelijke simulatieruns. Statistische significantie werd geëvalueerd bij p < 0.001, met 95% betrouwbaarheidsintervallen. Afkortingen: FAR, Feeder Acceptance Rate; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 4 presenteert de Voltage Compliance Index (VCI). CVC steeg van 70% naar 77%, terwijl CMAC en DERC respectievelijk ongeveer 81% en 84% bereikten. RLVR en SBCM bereikten respectievelijk 88% en 86%. Het voorgestelde raamwerk steeg van 78% tijdens de vroege training naar ongeveer 98% bij convergentie. De hogere VCI gaf aan dat de voorgestelde aanpak de spanningsnaleving effectiever handhaafde dan de vergelijkingsmethoden onder intermittente hernieuwbare opwekking en een variërende vraaglast.

Resultaten van de spanningscompliantie-index; lijngrafiek; vergelijking van trainingsiteraties; methoden: CVC, CMAC.
Figuur 4: Spanningscompliantie-index (VCI). Vergelijkende analyse van de VCI onder dynamische omstandigheden van laagspanningsbedrijf. Waarden worden weergegeven als gemiddelde ± SD door het voorgestelde raamwerk te vergelijken met elke basislijnmethode over vijf onafhankelijke simulatieruns, waarbij 95% betrouwbaarheidsintervallen en statistische significantie zijn geëvalueerd bij p < 0,001. Afkortingen: VCI, Voltage Compliance Index; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

De VCI-heatmap in Figuur 5 toonde de progressie van de spanningsconformiteit over de trainingssessies. Het voorgestelde raamwerk behaalde waarden tussen 95% en 98% in latere iteraties. CVC bleef tussen 70% en 77%, terwijl RLVR en SBCM respectievelijk ongeveer 88% en 86% bereikten. De heatmap toonde daarom aan dat het voorgestelde raamwerk de hoogste prestaties op het gebied van spanningsconformiteit handhaafde tijdens de latere fasen van het leerproces.

Heatmap die de Voltage Compliance Index-analyse toont, trainingsiteraties versus methoden, VCI-percentages.
Figuur 5: Heatmap van de Voltage Compliance Index (VCI). Heatmap die de VCI-prestaties toont over verschillende trainingsiteraties en feeder-coördinatiemethoden. De kleurenschaal representeert de grootte van de Voltage Compliance Index, waarbij lichtere kleuren lagere VCI-waarden aangeven en donkerdere kleuren hogere VCI-waarden aangeven. Afkortingen: VCI, Voltage Compliance Index; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

Tabel 5 presenteert de Congestion Reduction Rate (CRR). CVC nam toe van 48% naar 63%. CMAC en DERC bereikten respectievelijk ongeveer 73% en 75%, terwijl RLVR 80% bereikte en SBCM 82%. Het voorgestelde framework nam toe van 64% aan het begin van de training tot ongeveer 96% na convergentie. Ten opzichte van de eindwaarden van de vergelijkingsmethoden verbeterde het voorgestelde framework de CRR met ongeveer 33% ten opzichte van CVC, 23% ten opzichte van CMAC, 16% ten opzichte van RLVR, 21% ten opzichte van DERC en 14% ten opzichte van SBCM. Deze waarnemingen toonden aan dat het collaboratieve orchestratiebeleid de verspreiding van congestie effectiever verminderde dan de gecentraliseerde, conventionele multi-agent, spanningsregeling, gedistribueerde-bronnen en op gevoeligheid gebaseerde vergelijkingsmethoden. Figuur 6 vergelijkt de Orchestration Latency (OL). De gerapporteerde orchestratielatentie komt overeen met de gemeten wall-clock executietijd die vereist is door het voorgestelde orchestratiealgoritme tijdens simulatie op het gerapporteerde hardwareplatform. Dit mag niet worden geïnterpreteerd als de fysieke bedrijfstijd van een geïmplementeerd distributienetwerk. Het voorgestelde framework verminderde de OL van 220 ms naar 98 ms. Bij convergentie produceerden CVC, CMAC, RLVR, DERC en SBCM latenties van respectievelijk 283 ms, 253 ms, 215 ms, 242 ms en 205 ms. Het voorgestelde framework verminderde de latentie dus met ongeveer 65%, 61%, 54%, 59% en 52% ten opzichte van respectievelijk CVC, CMAC, RLVR, DERC en SBCM. Een lagere latentie gaf aan dat gedecentraliseerde samenwerking snellere beslissingen mogelijk maakte over de orchestratie van de voedingslijnen.

TrainingsiteratieCVC (%)(Gemiddelde ± SD)CMAC (%)(Gemiddelde ± SD)RLVR (%)(Gemiddelde ± SD)DERC (%)(Gemiddelde ± SD)SBCM (%)(Gemiddelde ± SD)Voorgestelde methode (%)(Gemiddelde ± SD)
148.0 ± 0.552.0 ± 0.556.0 ± 0.454.0 ± 0.558.0 ± 0.464.0 ± 0.3
250.0 ± 0.554.0 ± 0.559.0 ± 0.456.0 ± 0.561.0 ± 0.468.0 ± 0.3
352.0 ± 0.557.0 ± 0.462.0 ± 0.459.0 ± 0.564.0 ± 0.472.0 ± 0.3
454.0 ± 0.460.0 ± 0.465.0 ± 0.462.0 ± 0.467.0 ± 0.476.0 ± 0.2
556.0 ± 0.462.0 ± 0.468.0 ± 0.364.0 ± 0.470.0 ± 0.380.0 ± 0.2
658.0 ± 0.465.0 ± 0.471.0 ± 0.367.0 ± 0.473.0 ± 0.384.0 ± 0.2
760.0 ± 0.467.0 ± 0.474.0 ± 0.369.0 ± 0.376.0 ± 0.387.0 ± 0.2
861.0 ± 0.469.0 ± 0.376.0 ± 0.371.0 ± 0.378.0 ± 0.390.0 ± 0.2
962.0 ± 0.471.0 ± 0.378.0 ± 0.373.0 ± 0.380.0 ± 0.393.0 ± 0.2
1063.0 ± 0.473.0 ± 0.380.0 ± 0.375.0 ± 0.382.0 ± 0.396.0 ± 0.2

Tabel 5: Congestiereductiesnelheid (CRR): Gemiddelde ± SD van de congestiereductiesnelheid (CRR) uit vijf onafhankelijke simulatieruns waarin het voorgestelde raamwerk wordt vergeleken met de baseline-methoden voor voedingsnetorkestratie. Afkortingen: CRR, Congestion Reduction Rate; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management.

Grafiek van trainingsiteraties versus orchestratielatentie; ANOVA-resultaten, vergelijking van latentiereductie.
Figuur 6: Orchestratielatentie (OL). Vergelijkende analyse van de orchestratielatentie tijdens adaptieve gedecentraliseerde voedingscoördinatie. Waarden worden weergegeven als gemiddelde ± SD door het voorgestelde raamwerk te vergelijken met elke baseline-methode over vijf onafhankelijke simulatieruns, met 95% betrouwbaarheidsintervallen en statistische significantie geëvalueerd bij p < 0,001. Afkortingen: OL, Orchestration Latency; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 7 toont de convergentiesnelheid (CS). CVC steeg van 42% naar 67% na 20 trainingsepisodes. CMAC en DERC bereikten respectievelijk ongeveer 74% en 79%. RLVR bereikte 87% en SBCM bereikte ongeveer 90%. Het voorgestelde framework steeg van 58% in de eerste episode naar 98,5% bij convergentie, waarbij de 93% al in de tiende episode werd overschreden. Het voorgestelde framework verbeterde de uiteindelijke convergentieprestaties met 31,5% ten opzichte van CVC, 24,5% ten opzichte van CMAC, 11,5% ten opzichte van RLVR, 19,5% ten opzichte van DERC en 8,5% ten opzichte van SBCM. Deze resultaten tonen aan dat de voorgestelde policy sneller een stabiele orchestratieprestatie bereikte dan de vergelijkingsmethoden.

Grafiek van convergentiesnelheid; diverse methoden; lijndiagram; trainings-episodes; prestatievergelijking.
Figuur 7: Convergentiesnelheid (CS). Convergentiecurves die de adaptieve leerefficiëntie en de snelheid van orkestratieconvergentie laten zien over de geëvalueerde methoden. Afkortingen: CS, Convergence Speed; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

Collaboratieve acceptatie-orkestratie en adaptieve beslissingsoptimalisatie met lage latentie

Figuur 8 toont de Decentralized Coordination Efficiency (DCE). CVC produceerde de laagste DCE van 68%. CMAC bereikte 75%, DERC bereikte 79%, RLVR bereikte 84% en SBCM bereikte 88%. Het voorgestelde raamwerk behaalde een DCE van 97%. Het voorgestelde raamwerk overtrof CVC met 29 procentpunten, CMAC met 22 procentpunten, RLVR met 13 procentpunten, DERC met 18 procentpunten en SBCM met 9 procentpunten. Dit resultaat toonde aan dat lokale informatie-uitwisseling, coördinatie tussen naburige agenten en gedecentraliseerde beleidsoptimalisatie een effectievere coördinatie ondersteunden dan de vergelijkingsmethoden.

Staafdiagram van de efficiëntie van gedecentraliseerde coördinatie; ANOVA-analyse van de methoden CVC, CMAC, RLVR, DERC, SBCM.
Figuur 8: Efficiëntie van gedecentraliseerde coördinatie (DCE). Vergelijkende analyse van de DCE tijdens samenwerking tussen intelligente agenten. Waarden worden gepresenteerd als gemiddelde ± SD door het voorgestelde raamwerk te vergelijken met elke basismethode over vijf onafhankelijke simulatieruns, waarbij 95% betrouwbaarheidsintervallen en statistische significantie zijn geëvalueerd bij p < 0,001. Afkortingen: DCE, Decentralized Coordination Efficiency; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 9 en Tabel 6 presenteren de Renewable Accommodation Capability (RAC). CVC steeg van 52% naar 63%. CMAC en DERC bereikten respectievelijk ongeveer 72% en 76%. RLVR bereikte ongeveer 83% en SBCM bereikte 86%. Het voorgestelde raamwerk steeg van 70% aan het begin van het leerproces naar 97% bij convergentie. Het voorgestelde raamwerk overtrof CVC met 34 procentpunten, CMAC met 25 procentpunten, RLVR met 14 procentpunten, DERC met 21 procentpunten en SBCM met 11 procentpunten. Deze resultaten tonen aan dat de voorgestelde orchestratiebenadering een groter aandeel van de hernieuwbare opwekking kon accommoderen, terwijl de werking van de voedingslijn, de spanningsprestaties en het bewustzijn van congestie behouden bleven.

Grafiek die de capaciteit voor de opname van hernieuwbare energie tussen methoden over trainingsiteraties vergelijkt.
Figuur 9: Capaciteit voor Opname van Hernieuwbare Energie (RAC). Vergelijkende analyse van RAC in voedingssystemen met een hoog aandeel hernieuwbare energie. Waarden worden weergegeven als gemiddelde ± SD door het voorgestelde raamwerk te vergelijken met elke basislijnmethode over vijf onafhankelijke simulatieruns, waarbij 95% betrouwbaarheidsintervallen en statistische significantie zijn geëvalueerd bij p < 0.001. Afkortingen: RAC, Renewable Accommodation Capability; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

TrainingsiteratieCVC (%) (gemiddelde ± SD)CMAC (%) (Gem. ± SD)RLVR (%) (Gemiddelde ± SD)DERC (%) (Gemiddelde ± SD)SBCM (%) (Gemiddelde ± SD)Voorgestelde methode (%) (Gemiddelde ± SD)
152.0 ± 0.558.0 ± 0.564.0 ± 0.460.0 ± 0.566.0 ± 0.470.0 ± 0.3
254.0 ± 0.560.0 ± 0.567.0 ± 0.462.0 ± 0.569.0 ± 0.474.0 ± 0.3
355.0 ± 0.462.0 ± 0.470.0 ± 0.464.0 ± 0.472.0 ± 0.478.0 ± 0.3
457.0 ± 0.464.0 ± 0.473.0 ± 0.366.0 ± 0.475.0 ± 0.382.0 ± 0.2
558.0 ± 0.466.0 ± 0.475.0 ± 0.368.0 ± 0.477.0 ± 0.386.0 ± 0.2
659.0 ± 0.467.0 ± 0.477.0 ± 0.370.0 ± 0.379.0 ± 0.389.0 ± 0.2
760.0 ± 0.468.0 ± 0.379.0 ± 0.372.0 ± 0.381.0 ± 0.391.0 ± 0.2
861.0 ± 0.469.0 ± 0.380.0 ± 0.373.0 ± 0.383.0 ± 0.393.0 ± 0.2
962.0 ± 0.470.0 ± 0.381.0 ± 0.374.0 ± 0.384.0 ± 0.395.0 ± 0.2
1063.0 ± 0.472.0 ± 0.383.0 ± 0.376.0 ± 0.386.0 ± 0.397.0 ± 0.2

Tabel 6: Capaciteit voor de Opname van Hernieuwbare Energie (RAC): Gemiddelde ± SD van de Capaciteit voor de Opname van Hernieuwbare Energie (RAC) uit vijf onafhankelijke simulatieruns waarbij het voorgestelde raamwerk wordt vergeleken met de basismethoden voor feeder-orchestratie. Afkortingen: RAC, Renewable Accommodation Capability; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management.

Evaluatie van spannings- en congestiegevoeligheid

Figuur 10 presenteert de Voltage Sensitivity Stability (VSS). CVC steeg van 60% naar 69%. CMAC en DERC bereikten respectievelijk ongeveer 76% en 78%, terwijl RLVR 84% bereikte. Het voorgestelde raamwerk steeg van 74% tijdens de vroege training naar 98% na convergentie. Het voorgestelde raamwerk overtrof CVC met 29 procentpunten, CMAC met 22 procentpunten, RLVR met 14 procentpunten, DERC met 20 procentpunten en SBCM met 12 procentpunten. Deze resultaten tonen aan dat het sensitiviteitsbewuste raamwerk sterkere prestaties van de spanningsgevoelige voedingslijn behield onder hernieuwbare intermittentie, variabele lastvraag en dynamische congestie.

Grafiek van spanningsgevoeligheidsstabiliteit, VSS% vs. trainingsiteraties, ANOVA-analyse, methodevergelijking.
Figuur 10: Spanningsgevoeligheidsstabiliteit (VSS). Vergelijkende analyse van de stabiliteit van de spanningsgevoeligheid tijdens adaptieve voltage-aware feeder-orkestratie. Waarden worden weergegeven als gemiddelde ± SD door het voorgestelde raamwerk te vergelijken met elke basislijnmethode over vijf onafhankelijke simulatieruns, waarbij 95% betrouwbaarheidsintervallen en statistische significantie zijn geëvalueerd bij p < 0,001. Afkortingen: VSS, Voltage Sensitivity Stability; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 11 presenteert de Congestion Sensitivity Index (CSI). CVC steeg van 52% naar 63%. CMAC en DERC bereikten respectievelijk 72% en 76%. RLVR bereikte ongeveer 83% en SBCM bereikte ongeveer 86%. Het voorgestelde raamwerk steeg van 72% tijdens de vroege training naar ongeveer 98% aan het einde van de training. Het voorgestelde raamwerk overtrof CVC met ongeveer 35 procentpunten, CMAC met 26 procentpunten, RLVR met 15 procentpunten, DERC met 22 procentpunten en SBCM met 12 procentpunten. De heatmap liet zien dat de voorgestelde benadering de hoogste prestaties op het gebied van congestiegevoeligheid behield tijdens de latere trainingsepisoden.

Heatmap van de Congestiegevoeligheidsindex; methoden versus trainingsiteraties; datavisualisatie.
Figuur 11: Heatmap van de Congestiegevoeligheidsindex (CSI). Heatmap die de prestaties van de congestiegevoeligheid laat zien over verschillende trainingsfasen en methoden voor voedingscoördinatie. De kleurenschaal vertegenwoordigt de magnitude van de Congestiegevoeligheidsindex, waarbij lichtere kleuren lagere CSI-waarden aangeven en donkerdere kleuren hogere CSI-waarden Afkortingen: CSI, Congestion Sensitivity Index; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

Grootschalige validatie

Figuur 12 en Tabel 7 presenteren de Feeder Stability Index (FSI). CVC produceerde een gemiddelde FSI van 64,7%, terwijl CMAC en DERC respectievelijk gemiddelden van 72,5% en 76,0% produceerden. RLVR produceerde een gemiddelde FSI van 81,5%. Het voorgestelde framework behaalde een spanningsstabiliteit van 97%, congestiebeheersing van 96%, capaciteit voor hernieuwbare integratie van 95%, belastingbalancerings-efficiëntie van 94%, coördinatie-efficiëntie van 98% en een responssnelheid van 97%. Deze componentwaarden produceerden een gemiddelde FSI van ongeveer 96,2%. Het voorgestelde framework verbeterde de gemiddelde FSI met ongeveer 31,5 procentpunt ten opzichte van CVC, 23,7 procentpunt ten opzichte van CMAC, 14,7 procentpunt ten opzichte van RLVR, 20,2 procentpunt ten opzichte van DERC en 11,7 procentpunt ten opzichte van SBCM. De gebalanceerde componentwaarden toonden aan dat het framework de prestaties behield over de spanningsstabiliteit, congestiebeheersing, hernieuwbare integratie, belastingbalancering, coördinatie-efficiëntie en responssnelheid. Voor elke simulatierun werd het rekenkundig gemiddelde van de zes prestatiecomponenten — spanningsstabiliteit, congestiebeheersing, hernieuwbare integratie, belastingbalancering, coördinatie-efficiëntie en responssnelheid — gebruikt om de totale FSI te bepalen. De vijf afzonderlijke simulatieruns werden gebruikt om het vermelde gemiddelde en de standaarddeviatie te berekenen.

Radarchart van Feeder Stability Index (FSI) methoden; analyse van netwerkprestatiegegevens.
Figuur 12: Feeder Stability Index (FSI). Radarchart-vergelijking van de Feeder Stability Index voor het voorgestelde framework en de baseline-methoden over zes prestatiecomponenten: Spanningsstabiliteit, Congestiebeheersing, Integratie van Hernieuwbare Energie, Belastingsbalancering, Coördinatie-efficiëntie en Responsiesnelheid. Hogere waarden duiden op betere prestaties voor elke component. Afkortingen: FSI, Feeder Stability Index; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

EvaluatieparameterCVC (%) (Gemiddelde ± SD)CMAC (%) (Gemiddelde ± SD)RLVR (%) (Gemiddelde ± SD)DERC (%) (Gemiddelde ± SD)SBCM (%) (Gemiddelde ± SD)Voorgestelde methode (%) (Gemiddelde ± SD)
Spanningsstabiliteit68.0 ± 0.674.0 ± 0.582.0 ± 0.477.0 ± 0.586.0 ± 0.397.0 ± 0.2
Congestiebeheersing64.0 ± 0.671.0 ± 0.579.0 ± 0.474.0 ± 0.584.0 ± 0.396.0 ± 0.2
Integratie van hernieuwbare energie62.0 ± 0.570.0 ± 0.581.0 ± 0.476.0 ± 0.483.0 ± 0.395.0 ± 0.2
Belastingsbalans66.0 ± 0.573.0 ± 0.480.0 ± 0.475.0 ± 0.482.0 ± 0.394.0 ± 0.2
Coördinatie-efficiëntie65.0 ± 0.575.0 ± 0.483.0 ± 0.378.0 ± 0.487.0 ± 0.398.0 ± 0.2
Reactiesnelheid63.0 ± 0.572.0 ± 0.484.0 ± 0.376.0 ± 0.485.0 ± 0.397.0 ± 0.2
Gemiddelde FSI-score64.7 ± 0.572.5 ± 0.581.5 ± 0.476.0 ± 0.484.5 ± 0.396.2 ± 0.2

Tabel 7: Voedingsstabiliteitsindex (FSI): Gemiddelde ± SD van de Voedingsstabiliteitsindex (FSI) uit vijf onafhankelijke simulatierun's gebaseerd op spanningsstabiliteit, congestiebeheersing, integratie van hernieuwbare energie, belastingbalancering, coördinatie-efficiëntie en responssnelheid. Afkortingen: FSI, Feeder Stability Index; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management.

Figuur 13 presenteert de Load Balancing Efficiency (LBE). CVC behaalde een totale LBE van ongeveer 68%, bestaande uit 42% gebalanceerde lastverdeling, 18% matige laststabiliteit en 8% dynamische adaptieve balans. CMAC en DERC behaalden totale waarden van respectievelijk ongeveer 80% en 86%. RLVR bereikte ongeveer 92% en SBCM bereikte ongeveer 96%. Het voorgestelde raamwerk behaalde een totale LBE van ongeveer 98%, bestaande uit 72% gebalanceerde lastverdeling, 20% matige laststabiliteit en 6% dynamische adaptieve balans. Dit resultaat toonde aan dat de voorgestelde benadering de hoogste totale load-balancingprestaties behield van alle geëvalueerde methoden.

Gestapeld staafdiagram van de efficiëntie van lastbalancering per methode: CVC, CMAC, RLVR, DERC, SBCM, Voorgesteld.
Figuur 13: Efficiëntie van lastbalancering (LBE). Gestapelde-staafvergelijking van de efficiëntie van lastbalancering voor het voorgestelde framework en de basismethoden. Elke gestapelde staaf bestaat uit drie prestatiecomponenten: Gebalanceerde lastverdeling, Matige laststabiliteit, en Dynamische adaptieve balans, waarvan de gecombineerde waarden de totale LBE voor elke methode vertegenwoordigen. Hogere totale waarden duiden op betere prestaties van de lastbalancering. Afkortingen: LBE, Load Balancing Efficiency; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 14 presenteert de Renewable Utilization Efficiency (RUE). CVC steeg van 50% naar 61%. CMAC en DERC bereikten respectievelijk 70% en 75%. RLVR bereikte 82% en SBCM bereikte 86%. Het voorgestelde raamwerk steeg van 72% tijdens de vroege training naar ongeveer 98% bij convergentie. Het voorgestelde raamwerk overtrof CVC met ongeveer 37 procentpunt, CMAC met 28 procentpunt, RLVR met 16 procentpunt, DERC met 23 procentpunt en SBCM met 12 procentpunt. De hogere RUE toonde aan dat het voorgestelde orchestratiebeleid een groter aandeel van de beschikbare hernieuwbare opwekking benutte onder wisselende belastings- en congestieomstandigheden.

Grafiek van de efficiëntie van hernieuwbaar gebruik versus trainingsiteraties; vergelijkt methoden zoals CVC, CMAC.
Figuur 14: Efficiëntie van hernieuwbaar gebruik (RUE). Vergelijkende analyse van de RUE tijdens orchestratie van laagspanningsvoeders. Waarden worden gepresenteerd als gemiddelde ± SD door het voorgestelde raamwerk te vergelijken met elke basislijnmethode over vijf onafhankelijke simulatieruns, waarbij 95% betrouwbaarheidsintervallen en statistische significantie zijn geëvalueerd bij p < 0,001. Afkortingen: RUE, Renewable Utilization Efficiency; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 15 en Tabel 8 presenteren de Adaptive Decision Accuracy (ADA). Het voorgestelde raamwerk steeg van 78% naar 99%. CVC, CMAC, RLVR, DERC en SBCM convergeerden respectievelijk naar 68%, 76%, 86%, 79% en 88%. Het voorgestelde raamwerk overtrof CVC met ongeveer 31 procentpunt, CMAC met 23 procentpunt, RLVR met 13 procentpunt, DERC met 20 procentpunt en SBCM met 11 procentpunt. De hogere ADA gaf aan dat de collaboratieve agenten nauwkeurigere orchestratiebeslissingen selecteerden onder LV-bedrijfsomstandigheden met een hoog aandeel hernieuwbare energie.

Grafiek van adaptieve beslissingsnauwkeurigheid; trainings-epochs versus methoden; ANOVA-resultaten.
Figuur 15: Adaptieve beslissingsnauwkeurigheid (ADA). Comparatieve analyse van ADA voor het voorgestelde orchestratieframework en de basismethoden. Waarden worden weergegeven als gemiddelde ± SD door het voorgestelde framework te vergelijken met elke basismethode over vijf onafhankelijke simulatieruns, waarbij 95% betrouwbaarheidsintervallen en statistische significantie zijn geëvalueerd bij p < 0,001. Afkortingen: ADA, Adaptive Decision Accuracy; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management. Klik hier om een grotere versie van deze figuur te bekijken.

TrainingsepochCVC (%) (Gemiddelde ± SD)CMAC (%) (Gemiddelde ± SD)RLVR (%) (Gemiddelde ± SD)DERC (%) (Gemiddelde ± SD)SBCM (%) (Gemiddelde ± SD)Voorgestelde methode (%) (Gemiddelde ± SD)
158.0 ± 0.564.0 ± 0.570.0 ± 0.466.0 ± 0.572.0 ± 0.478.0 ± 0.3
260.0 ± 0.566.0 ± 0.573.0 ± 0.468.0 ± 0.575.0 ± 0.482.0 ± 0.3
361.0 ± 0.468.0 ± 0.476.0 ± 0.470.0 ± 0.478.0 ± 0.486.0 ± 0.2
462.0 ± 0.470.0 ± 0.478.0 ± 0.372.0 ± 0.480.0 ± 0.389.0 ± 0.2
563.0 ± 0.471.0 ± 0.480.0 ± 0.374.0 ± 0.482.0 ± 0.391.0 ± 0.2
664.0 ± 0.472.0 ± 0.482.0 ± 0.375.0 ± 0.384.0 ± 0.393.0 ± 0.2
765.0 ± 0.473.0 ± 0.383.0 ± 0.376.0 ± 0.385.0 ± 0.395.0 ± 0.2
866.0 ± 0.474.0 ± 0.384.0 ± 0.377.0 ± 0.386.0 ± 0.396.0 ± 0.2
967.0 ± 0.475.0 ± 0.385.0 ± 0.378.0 ± 0.387.0 ± 0.397.0 ± 0.2
1068.0 ± 0.476.0 ± 0.386.0 ± 0.379.0 ± 0.388.0 ± 0.399.0 ± 0.2

Tabel 8: Adaptieve Beslissingsnauwkeurigheid (ADA): Gemiddelde ± SD van de Adaptieve Beslissingsnauwkeurigheid (ADA) uit vijf onafhankelijke simulatieruns waarin het voorgestelde intelligente framework voor voederorkestratie wordt vergeleken met de basismethoden. Afkortingen: ADA, Adaptive Decision Accuracy; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management.

Tabel 9 presenteert de verbetering van de systeembetrouwbaarheid (SRI). CVC steeg van 60% naar 69%. CMAC bereikte ongeveer 78%, DERC ongeveer 81%, RLVR ongeveer 86% en SBCM ongeveer 88%. Het voorgestelde raamwerk steeg van 80% tijdens de vroege leerfase tot ongeveer 99% bij convergentie. Het voorgestelde raamwerk overtrof CVC met ongeveer 30 procentpunten, CMAC met 21 procentpunten, RLVR met 13 procentpunten, DERC met 18 procentpunten en SBCM met 11 procentpunten. De hogere SRI toonde aan dat het voorgestelde raamwerk de continuïteit van de voedingslijn, spanningsstabiliteit, congestiebeheersing en adaptieve integratie van hernieuwbare energie effectiever handhaafde dan de vergelijkingsmethoden.

TrainingsiteratieCVC (%) (Gemiddelde ± SD)CMAC (%) (Gemiddelde ± SD)RLVR (%) (Gemiddelde ± SD)DERC (%) (Gemiddelde ± SD)SBCM (%) (Gemiddelde ± SD)Voorgestelde methode (%) (Gemiddelde ± SD)
160.0 ± 0.566.0 ± 0.572.0 ± 0.468.0 ± 0.575.0 ± 0.480.0 ± 0.3
261.0 ± 0.568.0 ± 0.574.0 ± 0.470.0 ± 0.577.0 ± 0.484.0 ± 0.3
362.0 ± 0.470.0 ± 0.476.0 ± 0.472.0 ± 0.479.0 ± 0.487.0 ± 0.2
463.0 ± 0.472.0 ± 0.478.0 ± 0.374.0 ± 0.481.0 ± 0.390.0 ± 0.2
564.0 ± 0.473.0 ± 0.480.0 ± 0.376.0 ± 0.483.0 ± 0.392.0 ± 0.2
665.0 ± 0.474.0 ± 0.482.0 ± 0.377.0 ± 0.384.0 ± 0.394.0 ± 0.2
766.0 ± 0.475.0 ± 0.383.0 ± 0.378.0 ± 0.385.0 ± 0.395.0 ± 0.2
867.0 ± 0.476.0 ± 0.384.0 ± 0.379.0 ± 0.386.0 ± 0.396.0 ± 0.2
968.0 ± 0.477.0 ± 0.385.0 ± 0.380.0 ± 0.387.0 ± 0.397.0 ± 0.2
1069.0 ± 0.478.0 ± 0.386.0 ± 0.381.0 ± 0.388.0 ± 0.399.0 ± 0.2

Tabel 9: Verbetering van de Systeembetrouwbaarheid (SRI): Gemiddelde ± SD van de Verbetering van de Systeembetrouwbaarheid (SRI) uit vijf onafhankelijke simulatieruns onder laagspanningsdistributieomstandigheden met een hoog aandeel hernieuwbare energie. Afkortingen: SRI, System Reliability Improvement; CVC, Centralized Voltage Control; CMAC, Conventional Multi-Agent Control; RLVR, Reinforcement Learning-Based Voltage Regulation; DERC, Distributed Energy Resource Coordination; SBCM, Sensitivity-Based Congestion Management.

Het voorgestelde raamwerk werd geëvalueerd onder uiteenlopende omstandigheden van hernieuwbare opwekking, belastingvraag, spanning en congestie met gebruik van de FeederBW- en 236-bus LV-datasets. De acceptatie van de voedingslijn, spanningsconformiteit, congestiereductie, orchestratielatentie, convergentiesnelheid, gedecentraliseerde coördinatie, accommodatie van hernieuwbare energie, spanningsgevoeligheid, congestiegevoeligheid, stabiliteit van de voedingslijn, belastingbalans, benutting van hernieuwbare energie, beslissingsnauwkeurigheid en systeembetrouwbaarheid werden beoordeeld.

Over deze meetwaarden heen produceerde het voorgestelde raamwerk de hoogste eindwaarden voor FAR, VCI, CRR, CS, DCE, RAC, VSS, CSI, FSI, LBE, RUE, ADA en SRI, en de laagste OL. Omdat de basismethoden werden geëvalueerd op dezelfde datasets, operationele scenario's, simulatieomgeving, stopcriteria en evaluatiemetrieken, ondersteunden deze vergelijkingen de hypothese dat collaboratieve multi-agent reinforcement learning, in combinatie met evaluatie van spannings- en congestiegevoeligheid, de adaptieve feeder-acceptatie verbeterde ten opzichte van de geëvalueerde gecentraliseerde en gedistribueerde vergelijkingsmethoden.

De resultaten toonden aan dat de Dynamic Orchestration Strategy de acceptatie van de voedingslijn, de spanningsconformiteit, de congestiereductie, de accommodatie van hernieuwbare energie, de lastbalans, de gedecentraliseerde coördinatie, de beslissingsnauwkeurigheid en de systeembetrouwbaarheid verbeterde, terwijl de orchestratielatentie werd verminderd. Het raamwerk convergeerde bovendien sneller dan de vergelijkingsmethoden. Onder de geëvalueerde simulatiecondities ondersteunden deze bevindingen de voorgestelde hypothese dat collaboratief, sensitiviteitsbewust, gedecentraliseerd reinforcement learning de orchestratie van laagspanningsvoedingslijnen kan verbeteren onder onzekerheid van hernieuwbare opwekking en wisselende last- en congestiecondities.

BESCHIKBAARHEID VAN GEGEVENS:

De FeederBW-dataset is openbaar beschikbaar via https://doi.org/10.5281/zenodo.17831177, en de dataset van het 236-Bus Laagspanningsdistributienet is openbaar beschikbaar via https://doi.org/10.5281/zenodo.8274780. De Python-implementatie die voor deze studie is ontwikkeld, samen met het simulatieframework, de voorverwerkingsmodules, de multi-agent reinforcement learning-omgeving, de scripts voor modeltraining en -evaluatie, de configuratiebestanden en de inputdataformaten die nodig zijn om de voorgestelde methodologie te reproduceren, is gedeponeerd in Zenodo en is openbaar beschikbaar via https://doi.org/10.5281/zenodo.21423239. De repository ondersteunt de reproduceerbaarheid van de methodologie en experimenten die in deze studie worden beschreven.

Aanvullend bestand 1. Mathematische afleidingen, algoritme en implementatiedetails van de voorgestelde Dynamic Orchestration Strategy. Dit aanvullende bestand bevat de mathematische formuleringen ter ondersteuning van elke fase van het voorgestelde framework, inclusief gegevensvoorbewerking, dynamische modellering van laagspanningsnetwerken, initialisatie van de multi-agent omgeving, reinforcement-gestuurd agent-leren, evaluatie van spannings- en congestiegevoeligheid, collaboratieve orchestratie van voedingslijnacceptatie en prestatie-evaluatiemetrieken. Het bevat daarnaast Algoritme 1, waarin de procedure voor collaboratieve orchestratie van voedingslijnacceptatie wordt beschreven, samen met de mathematische definities van de in deze studie gebruikte evaluatiemetrieken.Klik hier om dit bestand te downloaden.

Discussie

De experimentele resultaten toonden aan dat de voorgestelde Dynamic Orchestration Strategy de gedecentraliseerde coördinatie van voedingslijnen, de integratie van hernieuwbare energie, de spanningsstabiliteit, het congestiemanagement en de orchestratie met lage latentie verbeterde in vergelijking met Centralized Voltage Control (CVC)33, Conventional Multi-Agent Control (CMAC)21, Reinforcement Learning-Based Voltage Regulation (RLVR)20, Distributed Energy Resource Coordination (DERC)26 en Sensitivity-Based Congestion Management (SBCM)34. Over de geëvalueerde Feeder Acceptance Rate (FAR), Voltage Compliance Index (VCI), Congestion Reduction Rate (CRR), Decentralized Coordination Efficiency (DCE), Renewable Utilization Efficiency (RUE), Adaptive Decision Accuracy (ADA) en System Reliability Improvement (SRI) behaalde het voorgestelde raamwerk hogere prestaties onder de geteste condities. Resultaten verkregen met behulp van de FeederBW- en 236-bus laagspannings (LV) datasets gaven aan dat de combinatie van collaboratief multi-agent reinforcement learning met spannings- en congestiegevoeligheidsbeoordeling de efficiëntie en snelheid van adaptieve orchestratie van voedingslijnen verbeterde.

De vergelijkende analyse toonde ook aan dat gecentraliseerde en regelgebaseerde coördinatiemethoden tragere orchestratiereacties, een lagere capaciteit voor de integratie van hernieuwbare energie, een verminderde adaptieve coördinatie-efficiëntie en een beperktere schaalbaarheid vertoonden onder veranderende netomstandigheden33,34. Hoewel RLVR en SBCM beter presteerden dan de andere vergelijkingsmethoden vanwege hun componenten voor reinforcement learning en gevoeligheidsbewust congestiemanagement, boden zij geen collaboratief en gedecentraliseerd mechanisme voor de orchestratie van nettoelating. In tegenstelling hiermee combineerde het voorgestelde raamwerk collaboratieve intelligente agenten, gevoeligheidsbewuste prioritering van netten, adaptieve optimalisatie van de orchestratie en gedecentraliseerd beleersleren. De snellere convergentie en hogere stabiliteitsindicatoren suggereerden dat deze gecombineerde structuur de netbedrijfsvoering ondersteunde onder variabele omstandigheden van hernieuwbare energieopwekking, belasting, spanning en congestie.

De gedecentraliseerde multi-agent reinforcement learning-architectuur verdeelde de besluitvorming over agents op feeder-niveau, in plaats van te vertrouwen op één enkele centrale controller. Naarmate het distributienetwerk in omvang toenam, voerden individuele agents lokale berekeningen uit en wisselden zij enkel de coördinatie-informatie uit die vereist was voor naburige agents. Deze opzet verminderde centrale computationele knelpunten en de communicatie-overhead, waardoor schaalbaarheid werd ondersteund35. Het raamwerk kan daarom toepasbaar zijn op grotere netwerken met een hogere penetratie van hernieuwbare energie, extra feedersegmenten en een grotere operationele complexiteit. Implementatie op zeer grote schaal zou echter verdere optimalisatie van gedistribueerde computingsources en communicatieprotocollen vereisen.

De studie droeg daarnaast bij aan een gedecentraliseerde, op leren gebaseerde benadering voor het beheer van laagspanningsvoedingslijnen. In tegenstelling tot conventionele methoden voor spanningsregeling en congestiemanagement, die hoofdzakelijk gebaseerd zijn op statische operationele regels of gecentraliseerde optimalisatie33, integreerde de voorgestelde strategie spanningsgevoeligheidsbeoordeling, congestiebewuste orchestratie, door versterking gestuurde beleidsoptimalisatie, dynamische rangschikking van voedingslijnacceptatie en communicatie tussen collaboratieve agenten. Deze integratie breidde het gebruik van multi-agent reinforcement learning uit van spanningsregeling en resourcecoördinatie naar adaptieve orchestratie van voedingslijnacceptatie in LV-distributienetwerken met een hoog aandeel hernieuwbare energie.

De voorgestelde methode kan het beheer van de feeder-acceptatie ondersteunen voor nutsbedrijven, smart-grid-operators en beheersystemen voor hernieuwbare energie. Desalniettemin moeten er verschillende uitdagingen worden aangepakt voordat praktische implementatie mogelijk is. Communicatievertragingen kunnen de snelheid van informatie-uitwisseling en coördinatie tussen gedistribueerde agenten beïnvloeden, met name in grootschalige netwerken. Beveiligde communicatie en cybersecurity-maatregelen zullen ook vereist zijn om interacties tussen agenten en operationele gegevens te beschermen tegen ongeautoriseerde toegang en cyberaanvallen. Integratie met bestaande Distribution Management Systems zal interoperabiliteit vereisen met communicatieprotocollen van nutsbedrijven, supervisory-control-architecturen en operationele procedures. De praktische implementatie zal daarom afhangen van communicatiestructuren met een lage latentie, beveiligde gegevensoverdracht, gestandaardiseerde interfaces en validatie in het veld36,37.

De studie werd beperkt door de afhankelijkheid van de FeederBW- en 236-bus LV-datasets en door simulatiegebaseerde validatie onder vooraf gedefinieerde bedrijfs- en communicatieomstandigheden. Deze instellingen zijn mogelijk geen volledige weergave van de topologie, storingen, communicatiefouten of cyber-fysieke gebeurtenissen die in echte netwerken van nutsbedrijven voorkomen. De computationele complexiteit kan bovendien significanter worden bij zeer grootschalige omstandigheden of bij een hoge mate van hernieuwbare energie. Toekomstig werk zou het raamwerk daarom moeten evalueren met behulp van aanvullende datasets op schaal van nutsbedrijven, echte distributienetwerken, hardware-in-the-loop-platforms en proefinstallaties op veldschaal. Er zal gefocust worden op het valideren van het voorgestelde raamwerk met behulp van hardware-in-the-loop-platforms, echte netwerken van nutsbedrijven en grotere distributiesystemen. Daarnaast zullen toekomstige studies geavanceerde architecturen voor reinforcement-learning en verbeterde gedistribueerde coördinatiestrategieën onderzoeken om de schaalbaarheid en operationele robuustheid verder te verhogen. Over het geheel genomen toonden de simulatieresultaten aan dat collaboratieve multi-agent reinforcement learning, gecombineerd met evaluatie van spannings- en congestiegevoeligheid, de acceptatie van voedingslijnen, spanningsconformiteit, congestiebestrijding, integratie van hernieuwbare energie, gedecentraliseerde coördinatie, convergentie, latentie en adaptieve besluitvorming kan verbeteren. Aanvullende tests met echte gegevens van nutsbedrijven, realistische communicatievertragingen, cyber-fysieke verstoringen en hardware-in-the-loop- of veldtestomstandigheden zijn vereist om de praktische schaalbaarheid en operationele betrouwbaarheid te bevestigen.

Openbaarmakingen

De auteurs verklaren dat zij geen concurrerende belangen hebben.

Dankbetuigingen

Dit onderzoek werd ondersteund door het Guangzhou Power Supply Bureau van de Guangdong Power Grid Company via het project “Research on Automation Acceptance Technology of Low Voltage Metering Equipment Based on Process Automation” (Projectcode: 030100KC24120100).

Materialen

Lijst van materialen gebruikt in dit artikel
NaamBedrijfCatalogusnummerOpmerkingen
236-Bus Laagspanningsdistributienetwerk DatasetCanizes et al.DOI: 10.5281/zenodo.8274780Openbare benchmark-dataset gebruikt voor schaalbaarheidsanalyse en grootschalige validatie van het voorgestelde framework
Central Processing Unit (CPU)Intel CorporationIntel Core i9-12900K (16-Core)Gebruikt voor simulatiebeheer en uitvoering van de omgeving
Module voor CongestiegevoeligheidsanalyseCustom-developed ModuleZenodo DOI: 10.5281/zenodo.21423239Voert real-time berekeningen van congestiegevoeligheid en prioritering van voeders uit
CUDA ToolkitNVIDIA CorporationCUDA 12.1GPU-computingplatform gebruikt voor versnelde training van PyTorch-modellen
cuDNN LibraryNVIDIA CorporationcuDNN 9.3.0Versnellingsbibliotheek voor diepe neurale netwerken gebruikt in combinatie met CUDA
Custom Dynamische LV-NetwerksimulatorCustom-developed ModuleVersie 1.0Door de auteurs ontwikkelde simulatieomgeving geïmplementeerd met Python en PyTorch voor experimenten met dynamische voedersorchestratie. Implementatiedetails worden vermeld in de secties Methoden en Beschikbaarheid van Gegevens.
Dataverwerkingsbibliotheekpandas Development Teampandas 2.2.2Gebruikt voor preprocessing, feature-extractie, normalisatie en beheer van tijdreeksgegevens
Deep Learning FrameworkPyTorch FoundationPyTorch 2.3.1Gebruikt voor de implementatie van multi-agent reinforcement learning (MARL)-modellen, training van neurale netwerken en beleidsoptimalisatie
Gedistribueerde AgentcommunicatiemoduleCustom-developed FrameworkZenodo DOI: 10.5281/zenodo.21423239Maakt gedecentraliseerde communicatie en collaboratieve uitwisseling van beleid tussen intelligente agenten mogelijk
FeederBW DatasetTreutlein et al.DOI: 10.5281/zenodo.17831177Openbare dataset met praktijkmetingen van laagspanningsvoeders, hernieuwbare opwekking en bedrijfsprofielen
Graphics Processing Unit (GPU)NVIDIA CorporationGeForce RTX 3090, 24 GB GDDR6XHardwareversneller gebruikt voor training van neurale netwerken en parallelle berekeningen
Multi-Agent Reinforcement Learning OmgevingFarama FoundationGym 0.26.2Aangepaste reinforcement learning-omgeving voor collaboratieve interactie en training van intelligente agenten
Numerieke ComputatiebibliotheekNumPy DevelopersNumPy 1.26.4Gebruikt voor numerieke berekeningen, tensormanipulatie en matrixoperaties
BesturingssysteemCanonical Ltd.Ubuntu 22.04.5 LTS (64-bit)Besturingssysteem gebruikt voor alle simulaties en reinforcement learning-experimenten
Python ProgrammeertaalPython Software FoundationPython 3.11.9Primaire programmeertaal gebruikt voor algoritmische implementatie, simulatie en modelontwikkeling
SysteemgeheugenLenovo64 GB DDR5 RAMGeïnstalleerd systeemgeheugen gebruikt voor grootschalige MARL-simulatie en dataverwerking.
Module voor SpanningsstabiliteitsbewakingCustom-developed ModuleZenodo DOI: 10.5281/zenodo.21423239Evalueert continu de spanningsstabiliteit en conformiteit tijdens de voedersorchestratie

Referenties

  1. Ahmed F, et al. A multi-agent reinforcement learning framework for voltage-constrained incentive demand response in PV-rich low-voltage distribution systems. IEEE Access. 2026;14:45410–22.
  2. Lamsal D, Sreeram V, Mishra Y, Kumar DS. Smoothing control strategy of wind and photovoltaic output power fluctuation by considering the state of health of battery energy storage system. IET Renew Power Gener. 2019;13:578–86.
  3. Allahmoradi S, et al. Data-driven Volt/VAR optimization for modern distribution networks: A review. IEEE Access. 2024;12:71184–204.
  4. O'Connell N, Pinson P, Madsen H, O'Malley M. Benefits and challenges of electrical demand response: A critical review. Renew Sustain Energy Rev. 2014;39:686–99.
  5. Hossain MS, Madlool NA, Al-Fatlawi AW, El Haj Assad M. High penetration of solar photovoltaic structure on the grid system disruption: An overview of technology advancement. Sustainability. 2023;15:1174. https://doi.org/10.3390/su15021174
  6. Rahmouni A. Impact of static reactive power compensator (SVC) on the power grid. WSEAS Trans Electron. 2020;11:96–104.
  7. Chandran CV, et al. Application of demand response to improve voltage regulation with high DG penetration. Electr Power Syst Res. 2020;189:106722. https://doi.org/10.1016/j.epsr.2020.106722
  8. Wang Q, et al. A demand response strategy in high photovoltaic penetration power systems considering the thermal ramp rate limitation. IEEE Access. 2019;7:163814–22.
  9. Wang Z, et al. How to effectively implement an incentive-based residential electricity demand response policy? Experience from large-scale trials and matching questionnaires. Energy Policy. 2020;141:111450. https://doi.org/10.1016/j.enpol.2020.111450
  10. van Tilburg J, Siebert LC, Cremer JL. MARL-iDR: Multi-agent reinforcement learning for incentive-based residential demand response. arXiv. 2023. https://arxiv.org/abs/2304.04086
  11. Bahrami S, Chen YC, Wong VWS. Deep reinforcement learning for demand response in distribution networks. IEEE Trans Smart Grid. 2021;12:1496–506.
  12. Li J, et al. Model-free reinforcement learning economic dispatch algorithms for price-based residential demand response management system. IEEE Trans Ind Cyber-Phys Syst. 2023;1:123–35.
  13. Zheng S, et al. Incentive-based integrated demand response for multiple energy carriers under complex uncertainties and double coupling effects. Appl Energy. 2021;283:116254. https://doi.org/10.1016/j.apenergy.2020.116254
  14. Nainar K, Pillai JR, Bak-Jensen B. Incentive price-based demand response in active distribution grids. Appl Sci. 2020;11:1–17.
  15. Nguyen Duc T, et al. Impact of renewable energy integration on a novel method for pricing incentive payments of incentive-based demand response program. IET Gener Transm Distrib. 2022;16:1648–67.
  16. Pourramezan A, Samadi M. A novel approach for incorporating incentive-based and price-based demand response programs in long-term generation investment planning. Int J Electr Power Energy Syst. 2022;142:108315. https://doi.org/10.1016/j.ijepes.2022.108315
  17. Mathew A, Roy A, Mathew J. Intelligent residential energy management system using deep reinforcement learning. IEEE Syst J. 2020;14:5362–72.
  18. Khan DA, Arshad A, Lehtonen M, Mahmoud K. Combined DR pricing and voltage control using reinforcement learning based multi-agents and load forecasting. IEEE Access. 2022;10:130839-49.
  19. Zhang X, et al. An edge-cloud integrated solution for buildings demand response using reinforcement learning. IEEE Trans Smart Grid. 2021;12:420–31.
  20. Duan J, et al. Deep-reinforcement-learning-based autonomous voltage control for power grid operations. IEEE Trans Power Syst. 2020;35:814–7.
  21. Wang S, et al. A data-driven multi-agent autonomous voltage control framework using deep reinforcement learning. IEEE Trans Power Syst. 2020;35:4644–54.
  22. Turitsyn K, Sulc P, Backhaus S, Chertkov M. Options for control of reactive power by distributed photovoltaic generators. Proc IEEE. 2011;99:1063–73.
  23. Bedawy A, et al. Optimal voltage control strategy for voltage regulators in active unbalanced distribution systems using multi-agents. IEEE Trans Power Syst. 2020;35:1023–35.
  24. Bedawy A, Yorino N, Mahmoud K. Management of voltage regulators in unbalanced distribution networks using voltage/tap sensitivity analysis. Presented at: International Conference on Innovative Trends in Computer Engineering (ITCE); Aswan, Egypt; 2018. https://doi.org/10.1109/itce.2018.8316651
  25. Smith O, et al. The effect of renewable energy incorporation on power grid stability and resilience. Sci Adv. 2022;8:eabj6734. https://doi.org/10.1126/sciadv.abj6734
  26. Charbonnier F, Morstyn T, McCulloch MD. Scalable multi-agent reinforcement learning for distributed control of residential energy flexibility. Applied Energy. 2022;314:118825. doi:10.1016/j.apenergy.2022.118825
  27. Dugan J, Mohagheghi S, Kroposki B. Application of mobile energy storage for enhancing power grid resilience: A review. Energies. 2021;14:6476. https://doi.org/10.3390/en14206476
  28. Panossian N, et al. Challenges and opportunities of integrating electric vehicles in electricity distribution systems. Curr Sustain Renew Energy Rep. 2022;9:27–40.
  29. Guan Q, et al. Dynamic-aware deep reinforcement learning for heterogeneous fleet-based capacitated electric vehicle routing problems. Applied Energy. 2026;413:127757. https://doi.org/10.1016/j.apenergy.2026.127757
  30. Guan Q, et al. Heterogeneous attention-driven deep reinforcement learning for solving EVRPs with pickup-delivery and time windows. Applied Energy. 2026;407:127355. https://doi.org/10.1016/j.apenergy.2026.127355
  31. Treutlein M, et al. Real-world energy data of 200 feeders from low-voltage grids with metadata in Germany over two years (Version v1.0) [Data set]. Zenodo; 2025. https://doi.org/10.5281/zenodo.17831177
  32. Canizes B, Castro F, Silveira V, Vale Z. 236-Bus Low Voltage Distribution Network Data [Data set]. Zenodo; 2023. https://doi.org/10.5281/zenodo.8274780
  33. Xi, Haikuo & Chen, Can & Bai, Xuesong & Ma, Yuan & Ding, Jiachao & Chen, Qifang. (2024). Centralized and decentralized combined voltage control for distribution network with high penetration PV connected. Journal of Physics: Conference Series. 2771. 012040. 10.1088/1742-6596/2771/1/012040.
  34. Singh AK, Parida SK. Congestion management with distributed generation and its impact on electricity market. International Journal of Electrical Power & Energy Systems. 2013;48:39–47. doi:10.1016/j.ijepes.2012.11.025.
  35. Gooi HB, Wang T, Tang Y. Edge intelligence for smart grid: A survey on application potentials. CSEE Journal of Power and Energy Systems. 2023;9(5):1623–1640. https://doi.org/10.17775/CSEEJPES.2022.02210
  36. Molokomme DN, Onumanyi AJ, Abu-Mahfouz AM. Edge intelligence in smart grids: A survey on architectures, offloading models, cyber security measures, and challenges. Journal of Sensor and Actuator Networks. 2022;11(3):47. https://doi.org/10.3390/jsan11030047
  37. Chang Z, Liu S, Xiong X, Cai Z, Tu G. A survey of recent advances in edge-computing-powered artificial intelligence of things. IEEE Internet of Things Journal. 2021;8(18):13849–13875.

Herprints en machtigingen

Tags

Multi agent reinforcement learningcongestiebeheerspanningsgevoeligheidgedistribueerde integratie van hernieuwbare energiegedecentraliseerde co rdinatiefeederbewakingoperationele veerkracht