Un abonnement JoVE est requis pour visualiser ce contenu. Connectez-vous ou commencez votre période d'essai gratuite.

Article de recherche

Orchestration dynamique de l'acceptation des départs basée sur l'apprentissage par renforcement multi-agents utilisant le jeu de données FeederBW et un réseau de distribution basse tension à 236 jeux de barres

72 vues

⸱

DOI :

10.3791/72365

⸱

8 septembre 2026

 ,  ,  ,  ,  , 

Dans cet article

Résumé

Cette étude présente une stratégie d'orchestration dynamique pour l'acceptation des alimentations basse tension utilisant un apprentissage par renforcement multi-agents collaboratif. Des agents intelligents coordonnent l'exploitation des alimentations, la gestion des congestions, la stabilité de tension et l'intégration des énergies renouvelables dans des conditions incertaines. L'approche a été évaluée par des simulations utilisant les jeux de données FeederBW et 236-bus.

Résumé

L'intégration étendue des sources d'énergie renouvelables distribuées et l'expansion rapide des alimentations en basse tension (BT) ont créé des défis opérationnels liés à l'acceptation des alimentations et à la coordination de la congestion. Les approches existantes de contrôle de tension et de gestion des alimentations peuvent présenter une évolutivité et une adaptabilité limitées en cas de production renouvelable intermittente et d'évolutions des conditions du réseau. Pour pallier ces limitations, cette étude propose un cadre d'orchestration dynamique pour l'acceptation des alimentations en basse tension, fondé sur une collaboration d'agents intelligents dans le cadre d'une approche d'apprentissage par renforcement multi-agents. Contrairement aux stratégies de contrôle de tension axées principalement sur la stabilisation de la tension, le cadre proposé permet une acceptation dynamique des alimentations grâce à l'opération coordonnée d'agents chargés de la surveillance des alimentations, de la gestion de la congestion et de la priorisation basée sur la sensibilité à la tension. Les agents observaient indépendamment les états des alimentations, évaluaient la congestion et les sensibilités en tension, et collaboraient à la prise de décisions concernant l'acceptation des alimentations. Le cadre a été évalué par des simulations utilisant le jeu de données FeederBW et le jeu de données de réseau de distribution en basse tension à 236 nœuds, sous différents niveaux d'intégration des énergies renouvelables et diverses conditions de charge. Le cadre proposé a atteint un taux d'acceptation des alimentations de 97 %, un indice de conformité en tension de 98 %, une latence d'orchestration de 98 ms mesurée comme le temps d'exécution réel de l'algorithme d'orchestration sur le matériel indiqué, et une vitesse de convergence de 98,5 %, surpassant les méthodes de coordination centralisées évaluées. Les résultats ont également montré une meilleure adaptabilité, une résilience opérationnelle accrue et une efficacité améliorée de la prise de décision décentralisée dans les conditions simulées de réseau de distribution en basse tension.

Introduction

Les systèmes électriques modernes font face à des défis opérationnels importants en raison de la demande croissante en électricité et de l'utilisation accrue de la production décentralisée. Les déséquilibres entre l'offre et la demande d'électricité, ou les augmentations rapides de la production décentralisée, peuvent imposer une pression financière sur les fournisseurs et les utilisateurs finaux et compromettre la stabilité du réseau. L'infrastructure électrique conventionnelle, centralisée et basée sur les combustibles fossiles, évolue donc vers une conception décentralisée axée sur les énergies renouvelables. Cette transition a amélioré l'accès à des sources d'énergie plus abordables et plus durables sur le plan environnemental. Toutefois, le caractère intermittent et imprévisible de la production photovoltaïque (PV) soulève des préoccupations quant à la fiabilité du réseau1,2.

La transition énergétique mondiale accélère le déploiement du photovoltaïque en raison de ses avantages environnementaux, de sa scalabilité et de son coût en baisse. Selon l'Agence internationale pour les énergies renouvelables, la capacité photovoltaïque devrait représenter plus de 22 % de l'approvisionnement mondial en électricité d'ici 2050, et le solaire photovoltaïque devrait devenir un contributeur majeur à l'approvisionnement mondial en électricité d'ici 20303. Cette intégration généralisée pose des défis importants pour les systèmes électriques conventionnels, notamment en ce qui concerne la stabilité et la fiabilité du fonctionnement. La fluctuation de tension est une préoccupation critique, car la production photovoltaïque est intermittente et non pilotable, et ses effets deviennent plus marqués à mesure que la pénétration augmente dans les réseaux de distribution et de transport4.

Les variations de l'irradiance solaire affectent directement la production des panneaux photovoltaïques (PV) et peuvent provoquer des changements rapides de tension. Le déplacement des nuages, les variations brutales de l'irradiance et les transitoires de charge peuvent induire des fluctuations de tension que les architectures de réseau actuelles ne parviennent pas à gérer adéquatement5. Bien que les technologies conventionnelles se soient révélées efficaces dans des configurations de réseau centralisées et relativement stables, elles conviennent moins aux réseaux de plus en plus distribués. Des variations rapides de tension dans les deux sens peuvent dépasser les capacités des systèmes électriques conventionnels, notamment en cas d'une forte pénétration du photovoltaïque6. Des fluctuations non contrôlées peuvent enfreindre les limites de tension, perturber les charges sensibles et compromettre la sécurité du réseau.

L'intégration de charges intelligentes et de ressources distribuées dans les réseaux de distribution a donc motivé le développement de stratégies de contrôle plus avancées. Des systèmes de contrôle intelligents capables de surveiller et de coordonner en continu les équipements distribués peuvent contribuer à atténuer les défis rencontrés dans les réseaux basse tension (BT) comportant une forte génération distribuée7. L'intégration à grande échelle du photovoltaïque (PV) crée également des difficultés opérationnelles pour la production thermique, notamment lorsque la production photovoltaïque diminue et que les unités thermiques doivent réagir rapidement, dépassant parfois les limites de taux de montée en puissance8. Parallèlement, les programmes de gestion de la demande (DR) doivent concilier durabilité à long terme et faisabilité économique9.

Les programmes de réduction de la demande (DR) peuvent soutenir l'intégration de la production décentralisée tout en aidant à équilibrer l'offre et la demande d'électricité. Ces programmes sont classés en deux catégories : la réduction de la demande basée sur les prix ou la réduction de la demande incitative (IBDR). La réduction de la demande basée sur les prix incite les consommateurs à modifier leur consommation d'électricité en réponse à des tarifs variables selon l'heure, tandis que l'IBDR offre des incitations financières fixes ou variables pour réduire la consommation lorsqu'elle est demandée10. Toutefois, la réduction de la demande basée sur les prix expose les consommateurs à des prix de gros fluctuants et offre une flexibilité opérationnelle limitée du point de vue des fournisseurs, ce qui peut dissuader les participants attentifs au risque11,12.

Plusieurs études ont examiné la DRiB dans les systèmes de distribution riches en PV. Une étude a évalué les défis et avantages de combiner la DRiB à une forte pénétration de PV, mais s'est concentrée sur l'utilisation agrégée de l'énergie plutôt que sur des systèmes de gestion énergétique domestique au niveau du foyer13. Une autre a proposé une méthode de gestion de tension basée sur des incitations, dans laquelle des signaux tarifaires contrôlaient indirectement le fonctionnement des batteries afin de maintenir les limites de tension, bien que la demande domestique n'ait pas été modélisée explicitement14. Une méthode fondée sur la logique floue pour déterminer les paiements incitatifs a pris en compte la satisfaction des consommateurs et les coûts d'intégration des énergies renouvelables, mais n'incluait pas d'analyse au niveau du circuit15. La planification à long terme de la production intégrant à la fois la DR basée sur les prix et la DR incitative a également été étudiée, y compris la production thermique et renouvelable, mais sans tenir compte du confort des utilisateurs ni de la demande au niveau du foyer16.

L'apprentissage par renforcement profond (RL) a également été appliqué à la gestion de la demande résidentielle (DR). Des méthodes d'apprentissage par renforcement profond pour le contrôle de charge agrégée dans le cadre de tarifs différenciés selon les heures de pointe ont été proposées, bien que leur généralisabilité ait été limitée par de petites populations d'utilisateurs et l'absence de planification au niveau des appareils17. Un cadre d'apprentissage par renforcement multi-agents combinant DR et contrôle de tension utilisait des réseaux de mémoire à long et court terme pour la prévision de charge, mais n'a pas résolu l'insatisfaction des clients résultant de la restriction de charge18. D'autres travaux se sont concentrés sur la coordination de DR pour les systèmes de climatisation dans les bâtiments commerciaux en utilisant un processus de décision markovien, sans tenir compte des autres charges résidentielles19. Les études existantes sur le contrôle de tension par apprentissage par renforcement profond n'ont généralement pas intégré à la fois DR et l'intégration des panneaux photovoltaïques (PV)20,21.

Les onduleurs intelligents peuvent réagir rapidement à des changements brusques et irréguliers de la production photovoltaïque22. En cas de violations de tension, les onduleurs photovoltaïques peuvent intervenir en quelques millisecondes, alors que les dispositifs conventionnels peuvent nécessiter plusieurs secondes23. Certaines études ont proposé des modifications des procédures standard de commande des dispositifs, notamment des approches multi-agents pour coordonner les régulateurs de tension et modifier les actions des contrôleurs de tension conventionnels24. Toutefois, la production photovoltaïque autonome sans stockage co-localisé peut aggraver les écarts de tension et ne permet pas d'atténuer les pics du soir, même si elle réduit les importations nettes diurnes24,25. Les batteries domestiques peuvent également être épuisées pendant les périodes de surplus photovoltaïque diurne et devenir indisponibles pour la recharge nocturne des véhicules électriques si leur gestion n'est pas coordonnée avec la demande et la production locales26,27. Les effets combinés de la demande stochastique, de la génération intermittente et des comportements variés de stockage rendent la gestion de la capacité, la durabilité des équipements et la résilience particulièrement critiques pour les gestionnaires de réseaux de distribution28. Les systèmes de gestion énergétique domestique offrent une solution potentielle pour mettre en œuvre un contrôle automatisé au niveau du consommateur. Le renforcement par apprentissage (RL) convient bien à ces applications, car les agents peuvent apprendre des stratégies de commande par interaction avec l'environnement tout en gérant l'incertitude et en prenant des décisions à faible latence.

Les progrès réalisés dans le routage des véhicules électriques illustrent également comment le RL profond peut gérer des contraintes énergétiques dynamiques. Le problème de routage de flotte hétérogène de véhicules électriques avec capacité intègre la dynamique de conduite, les caractéristiques des routes, la résistance cinétique et l'efficacité de recharge, tout en minimisant la consommation d'énergie maximale au sein d'une flotte diversifiée29. Une méthode d'apprentissage par renforcement profond prenant en compte la dynamique formule ce problème comme un processus de décision markovien personnalisé et utilise une architecture encodeur-metteur à jour-décodeur. Dans cette conception, l'encodeur élabore des représentations spécifiques aux rôles pour les sommets et les véhicules, le metteur à jour affine les jetons véhicules lorsque l'information contextuelle change, et le décodeur sépare la sélection du véhicule de la sélection des sommets propres à chaque véhicule afin de permettre une prise de décision adaptative. De manière similaire, un problème de routage écoénergétique de véhicules électriques avec collecte-livraison et fenêtres temporelles utilise un modèle de consommation d'énergie à haute résolution incluant le comportement de recharge, la dynamique de conduite dépendante du temps et des informations détaillées sur l'itinéraire30. Un cadre d'apprentissage par renforcement profond hétérogène basé sur l'attention représente la tâche de routage comme un processus de décision markovien, avec un encodeur capturant les interactions spécifiques aux rôles entre dépôts, clients et stations de recharge, et un décodeur suivant les transitions d'état et la faisabilité temporelle.

Malgré ces avancées, la plupart des études sur la gestion de la distribution en basse tension mettent l'accent sur la stabilisation de la tension et l'optimisation de la puissance réactive, plutôt que sur l'orchestration dynamique de l'admission aux alimentations sous incertitude des énergies renouvelables. Les méthodes de contrôle distribué de la tension, basées sur des onduleurs intelligents et l'apprentissage automatique, se concentrent généralement sur la compensation de la tension et l'optimisation de la puissance réactive, sans aborder le contrôle adaptatif de l'admission aux alimentations ou l'orchestration fondée sur la congestion dans les réseaux complexes de basse tension. De même, les approches d'apprentissage par renforcement multi-agents soumises à des contraintes de tension pour la gestion de la demande n'abordent pas directement la gestion collaborative de l'admission aux alimentations, l'orchestration décentralisée tenant compte de la congestion ou le contrôle d'admission au niveau des nœuds dans les systèmes interconnectés de distribution en basse tension. Les méthodes coopératives de régulation de la tension fondées sur la coordination multi-agents minimisent généralement les écarts de tension et les opérations de prises à l'aide d'onduleurs photovoltaïques, mais ne prennent pas en compte l'admission adaptative aux alimentations, l'instabilité liée à l'acceptation des énergies renouvelables ou l'orchestration décentralisée dans des conditions réseau dynamiques.

Les méthodes actuelles de coordination des ressources distribuées et multi-agents font également face à des limites en matière de prise en compte de la congestion, d'adaptabilité temporelle et d'évolutivité. La plupart mettent l'accent sur l'analyse de surcharge, les interactions entre ressources énergétiques distribuées ou la gestion énergétique basée sur les tarifs, plutôt que sur l'acceptation adaptative au niveau des alimentateurs et l'orchestration tenant compte de la tension. Leur dépendance à une centralisation partielle et à des priorités fixes peut encore limiter la prise de décision décentralisée, la réponse rapide à la propagation de la congestion et l'adaptation à la variabilité des énergies renouvelables. Un cadre entièrement décentralisé, fondé sur l'apprentissage par renforcement et combinant une coordination coopérative des agents avec une analyse sensible à la tension et à la congestion, est donc nécessaire pour une gestion adaptative de l'acceptation au niveau des alimentateurs, en utilisant des ensembles de données à grande échelle tels que FeederBW et le réseau de distribution BT à 236 nœuds.

Dans cette étude, l'acceptation d'un circuit de distribution désigne le processus opérationnel adaptatif permettant de déterminer si un circuit de distribution à basse tension peut intégrer des ressources énergétiques distribuées supplémentaires ou des charges électriques tout en maintenant la sécurité du réseau, la conformité de la tension, les limites de charge thermique et la fiabilité opérationnelle. La limite opérationnelle pour l'acceptation d'un circuit comprend l'évaluation de la capacité du circuit, de la sensibilité en tension, des conditions de congestion et de la variabilité des énergies renouvelables avant d'accepter ou de prioriser de nouvelles connexions au circuit. Contrairement au contrôle classique de tension, qui régule les profils de tension, à la coordination des ressources énergétiques distribuées, qui gère le fonctionnement des ressources, ou à la gestion de la congestion, qui atténue les surcharges du réseau, l'acceptation du circuit intègre ces fonctions dans un cadre d'apprentissage par renforcement multi-agents collaboratif afin de permettre une orchestration dynamique, décentralisée et adaptative dans des conditions riches en énergies renouvelables.

L'objectif de cette étude est de développer une stratégie dynamique d'orchestration collaborative basée sur des agents intelligents pour l'acceptation des alimentations basse tension dans des conditions de fonctionnement variables et en présence d'incertitudes liées aux énergies renouvelables. Le cadre proposé effectue une orchestration décentralisée de l'acceptation des alimentations en évaluant dynamiquement l'état des alimentations, la sensibilité en tension, la sensibilité à la congestion et la capacité d'acceptation, permettant ainsi une priorisation adaptative et une prise de décision allant au-delà des méthodes de contrôle statique de la tension. À l'aide du jeu de données FeederBW et du jeu de données de réseau de distribution BT à 236 nœuds, l'étude développe également une architecture d'apprentissage par renforcement multi-agents évolutible pour les grands systèmes BT. Grâce à un apprentissage piloté par renforcement et à une optimisation collaborative à faible latence effectuée à chaque intervalle de fonctionnement simulé, le cadre vise à réduire la propagation de la congestion, à améliorer la conformité en tension, à diminuer la latence d'orchestration et à accroître l'efficacité de la coordination décentralisée.

Le cadre propose une approche dynamique d'orchestration de l'acceptation des alimentations BT qui remplace les stratégies de gestion des alimentations basées sur des contrôles de tension statiques ; une architecture décentralisée d'apprentissage par renforcement multi-agents pour faire face à l'incertitude des énergies renouvelables et aux conditions de charge variables ; une gestion décentralisée des admissions fondée sur des conditions de faible latence et une priorisation dynamique des alimentations ; des indices conjoints de sensibilité à la tension et à la congestion permettant d'identifier les alimentations critiques et de hiérarchiser les décisions d'acceptation ; une communication collaborative entre agents voisins ; une optimisation continue des politiques fondée sur l'apprentissage par renforcement afin d'améliorer la stabilité des alimentations, la mitigation de la congestion, la conformité en tension et la convergence ; ainsi qu'une validation à grande échelle par simulation utilisant les jeux de données FeederBW et 236-bus LV. Les résultats comparatifs montrent une amélioration de l'acceptation des alimentations, de la mitigation de la congestion, du délai d'orchestration, de la vitesse de convergence et de la conformité en tension par rapport aux méthodes traditionnelles de coordination centralisée.

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Protocole

Des sujets humains, des animaux vertébrés, des tissus humains ou des tissus animaux n'ont pas été utilisés dans cette étude. Seuls des ensembles de données accessibles au public (l'ensemble de données FeederBW et l'ensemble de données de réseau de distribution basse tension à 236 nœuds) ainsi que des simulations informatiques ont été utilisés dans cette recherche. Par conséquent, cette étude n'a pas nécessité l'approbation d'un comité d'éthique (IRB), ni d'autorisation éthique ou de consentement éclairé.

La stratégie d'orchestration dynamique pour l'acceptation des alimentations basse tension basée sur la collaboration d'agents a été développée à l'aide de l'apprentissage par renforcement multi-agents (MARL) dans des conditions de fonctionnement riches en énergies renouvelables. Les jeux de données FeederBW et 236-bus basse tension ont été prétraités, normalisés et synchronisés temporellement afin de construire un modèle de réseau dynamique représentant les états des alimentations, les ressources énergétiques distribuées, les zones sensibles à la tension et les conditions de congestion. Des agents intelligents ont été attribués aux sections des alimentations et aux jonctions du réseau afin de surveiller localement la tension, la congestion, l'incertitude liée à la production renouvelable et la capacité d'acceptation des alimentations, d'échanger des informations avec les agents voisins et de mettre à jour les politiques d'orchestration par apprentissage par renforcement décentralisé. La fonction de récompense a été conçue pour améliorer l'acceptation des alimentations tout en limitant la congestion, l'instabilité de tension et les retards de coordination. Les contraintes de tension, de charge des alimentations, de charge des transformateurs et de congestion ont été prises en compte, tandis que le fonctionnement déséquilibré triphasé, la commande avancée des onduleurs photovoltaïques et la compensation de puissance réactive n'ont pas été modélisés explicitement. Le cadre global est présenté dans Figure 1. Les outils de recherche utilisés dans cette étude sont répertoriés dans le Tableau des matériaux.

Schéma en grille de la modélisation dynamique d'un réseau LV avec des systèmes multi-agents et un apprentissage par renforcement.
Figure 1 : Architecture du cadre proposé. Schéma du cadre d'orchestration dynamique intégrant des agents intelligents, l'apprentissage par renforcement, l'analyse de congestion et une coordination adaptative des alimentateurs. Veuillez cliquer ici pour visualiser une version agrandie de cette figure.

1. Acquisition des données

Les données ont été acquises à partir du jeu de données FeederBW31 et du jeu de données de distribution BT à 236 nœuds32. Ces jeux de données ont été sélectionnés car ils contenaient des informations sur la topologie des alimentations, les conditions de tension, le comportement de la génération renouvelable, la demande de charge, les congestions et les profils de fonctionnement dynamiques nécessaires à l'orchestration décentralisée et à l'apprentissage des agents basé sur le renforcement.

L'ensemble de données FeederBW a été principalement utilisé pour modéliser le fonctionnement des alimentateurs, l'intermittence de l'énergie renouvelable, les écarts de tension et la propagation de la congestion dans les réseaux BT. Il comprenait des données de fonctionnement des alimentateurs, le comportement des générateurs distribués, des mesures de tension aux nœuds et des fluctuations de charge, soutenant ainsi l'analyse d'une orchestration adaptative. L'ensemble de données BT à 236 nœuds a été utilisé pour évaluer l'évolutivité et la coordination décentralisée. Il contenait des informations sur les connexions des nœuds, les conditions de charge des alimentateurs, les caractéristiques de tension aux nœuds, la pénétration des énergies renouvelables distribuées et des cas de fonctionnement sensibles à la congestion. Ensemble, ces deux ensembles de données ont permis des analyses à l'échelle des alimentateurs et à grande échelle dans des conditions de forte pénétration d'énergie renouvelable. Les caractéristiques des ensembles de données et leurs objectifs dans le cadre sont résumés dans Tableau 1.

Nom du jeu de donnéesType de jeu de donnéesNombre de nœuds/points de livraisonAttributs des donnéesObjectif dans le travail proposé
Jeu de données FeederBWJeu de données opérationnels de départements basse tensionMultiples nœuds de départProfils de tension, production renouvelable, demande de charge, états de congestion, comportement opérationnel des départementsOrchestration rapide des départements, analyse de congestion, priorisation adaptative des acceptations
Jeu de données LV 236-busJeu de données de distribution basse tension à grande échelle236 points de livraisonTopologie des points de livraison, charge des départements, sensibilité de tension, pénétration des énergies renouvelables, dynamique de congestionValidation de l'évolutivité, évaluation de la coordination décentralisée, analyse d'orchestration à grande échelle

Tableau 1 : Caractéristiques des ensembles de données. Description des ensembles de données, des attributs opérationnels et de leurs objectifs dans le cadre proposé d'orchestration à basse tension.

2. Prétraitement des données

Les jeux de données acquis ont été prétraités afin d'améliorer la cohérence, l'alignement temporel et la stabilité de l'apprentissage par renforcement. Les entrées manquantes, les mesures erronées, les enregistrements en double et les données incohérentes des alimentateurs ont été filtrées à l'aide de procédures statistiques de prétraitement. Cette étape a permis de maintenir la cohérence entre les données de fonctionnement des alimentateurs, les profils de production renouvelable, les mesures de tension et les données d'état de congestion. Toutes les variables opérationnelles ont été normalisées selon la méthode min-max afin que les caractéristiques d'entrée soient transformées à une échelle commune adaptée à l'apprentissage de l'agent. Les variables normalisées comprenaient la tension de l'alimentateur, la demande de puissance active, la production renouvelable, l'état de congestion et la capacité d'acceptation de l'alimentateur. La formulation mathématique de la procédure de prétraitement est fournie dans le Fichier supplémentaire 1 (Section 1).

3. Modélisation dynamique de réseaux basse tension

Après l'acquisition des données et le prétraitement, un modèle dynamique de réseau MT a été construit pour simuler le comportement d'un système de distribution avec une forte proportion de production renouvelable dans des conditions de charge et de production variables. Le modèle suivait dynamiquement la topologie des alimentateurs, le comportement des ressources énergétiques distribuées, les zones sensibles à la tension et la propagation des congestions.

Contrairement à une représentation statique du réseau, le modèle met à jour le comportement des alimentateurs en fonction de l'intermittence des énergies renouvelables, de la demande des consommateurs et des conditions de congestion. Les jeux de données FeederBW et 236-bus LV ont été utilisés pour construire des alimentateurs interconnectés dans lesquels les jeux de barres, les transformateurs, les sources renouvelables distribuées et les charges étaient représentés comme des nœuds du réseau. Chaque nœud d’alimentateur fournissait des informations mises à jour sur l'amplitude de la tension, la demande de puissance active, la génération d'énergie renouvelable, l'état de charge de l’alimentateur et l’état de congestion. Ces variables étaient utilisées par les agents intelligents pour surveiller le comportement des alimentateurs et prendre des décisions d'orchestration décentralisées. Le modèle de réseau permettait également d'identifier les régions sensibles et de hiérarchiser l'acceptation des alimentateurs grâce à une analyse de sensibilité continue.

Le réseau de distribution BT a été représenté comme un réseau basé sur un graphe contenant des postes électriques, des lignes d’alimentation, des transformateurs, des sources renouvelables et des nœuds de charge consommateurs. Des dérivations mathématiques détaillées du modèle de réseau sont fournies dans le fichier supplémentaire 1 (section 2). L’état dynamique du réseau et l’indice de congestion ont été surveillés en continu. L’indice de congestion a été normalisé dans la plage [0,1], et une orchestration collaborative d’acceptation des alimentateurs a été lancée lorsque l’indice de congestion dépassait 0,80.

4. Initialisation de l'environnement multi-agents

Une fois le modèle dynamique du réseau BT construit, l’environnement multi-agents a été initialisé afin de permettre une acceptation décentralisée des alimentations. Des agents intelligents ont été attribués aux tronçons d’alimentation, aux points de raccordement des ressources énergétiques distribuées, aux emplacements des transformateurs et aux nœuds sujets à des congestions au sein du réseau BT.

Chaque agent fonctionnait comme une entité indépendante prenant des décisions, surveillant le fonctionnement du jeu de barres local, échangeant des informations avec les agents voisins et exécutant des actions d'orchestration adaptatives. Les agents ont été attribués à des nœuds clés du jeu de barres en fonction de la sensibilité en tension, du taux d'intégration des énergies renouvelables, du niveau de congestion et de l'importance du jeu de barres. Le réseau BT a été configuré comme un environnement basé sur des agents, dans lequel les agents surveillaient en continu la tension du jeu de barres, la demande de puissance active, les variations de production renouvelable, l'état de congestion et la capacité d'acceptation du jeu de barres. La formulation mathématique de l'environnement multi-agents est fournie dans le Fichier supplémentaire 1 (Section 3).

5. Apprentissage de l'agent guidé par renforcement

Après l'initialisation de l'environnement multi-agents, un apprentissage guidé par renforcement a été mis en œuvre afin de permettre aux agents d'apprendre des politiques d'orchestration des alimentations par interaction avec des conditions de fonctionnement variables du réseau basse tension. Lors de chaque interaction, un agent observait l'état actuel de l'alimentation, sélectionnait une action d'orchestration et recevait une récompense ou une pénalité. Le processus d'apprentissage décentralisé a permis aux agents de s'adapter à l'incertitude liée à la production renouvelable, aux conditions de congestion changeantes, aux variations de tension et aux modifications de la capacité d'acceptation de l'alimentation. Chaque agent sélectionnait une action d'orchestration conformément à sa politique apprise. Les dérivations mathématiques associées sont fournies dans le Fichier supplémentaire 1 (section 4).

Un total de 64 agents intelligents a été déployé. En fonction de la topologie de l’alimentateur, du niveau de pénétration des énergies renouvelables, de la sensibilité en tension et de la gravité des congestions, chaque agent a été attribué à un tronçon d’alimentateur, un site de transformateur, un point de raccordement d’une ressource énergétique distribuée ou un nœud du réseau sensible à la congestion. Tout en préservant une complexité computationnelle raisonnable, le déploiement décentralisé a permis une surveillance coopérative et une acceptation adaptative des alimentateurs sur l’ensemble du réseau de distribution basse tension composé de 236 nœuds. Chaque agent observait un vecteur d’état à cinq dimensions comprenant l’amplitude de la tension, la demande de charge de l’alimentateur, la génération d’énergie renouvelable, l’état de congestion et la capacité d’acceptation de l’alimentateur. L’espace des actions comprenait cinq actions d’orchestration : la priorisation de l’acceptation des alimentateurs, l’atténuation des congestions, la coordination des sources renouvelables, l’équilibrage de charge et la régulation de tension. La prise de décision coopérative était facilitée par une topologie de communication décentralisée entre voisins, dans laquelle chaque agent échangeait uniquement des indices de sensibilité et des informations locales de fonctionnement avec les agents des alimentateurs voisins.

Une méthode d'apprentissage par renforcement multi-agents (MARL) basée sur le Q-learning a été mise en œuvre à l'aide d'un réseau de neurones entièrement connecté comportant deux couches cachées de 128 et 64 neurones respectivement. Une fonction d'activation de type unité linéaire rectifiée a été appliquée aux couches cachées. Les paramètres du réseau ont été optimisés à l'aide de l'optimiseur Adam avec un taux d'apprentissage de 0,001 et un facteur d'actualisation de 0,99. Une taille de mini-lot de 64 a été utilisée, et la mémoire tampon de relecture d'expérience avait une capacité de 100 000 transitions. L'entraînement était considéré comme convergé lorsque la moyenne mobile de la récompense cumulée sur les 20 épisodes précédents variait de moins de 0,1 % pendant 10 fenêtres d'évaluation consécutives. Si ce critère n'était pas satisfait, l'entraînement se poursuivait jusqu'à un maximum de 500 épisodes. Le flux de travail d'apprentissage par renforcement est illustré dans la Figure 2.

Schéma du processus d'apprentissage par renforcement ; interaction agent-environnement, mise à jour de la politique, boucle de récompenses.
Figure 2 : Organigramme du processus d'apprentissage de l'agent piloté par renforcement. Organigramme illustrant le processus d'apprentissage de l'agent fondé sur le renforcement, destiné à l'orchestration décentralisée des alimentateurs et à l'optimisation des décisions. Veuillez cliquer ici pour visualiser une version agrandie de cette figure.

Le processus d'apprentissage a commencé par l'initialisation de l'environnement de distribution BT, des états des agents et des paramètres d'apprentissage. Des agents intelligents ont été placés dans les zones d'alimentation, les emplacements des ressources énergétiques distribuées et les jeux de barres sujets à des congestions. L'espace d'observation, le taux d'apprentissage, la stratégie d'exploration, les facteurs de récompense et les fonctions de politique ont ensuite été définis. À chaque étape d'interaction, chaque agent observait l'état courant de sa zone d'alimentation attribuée. Cet état comprenait l'amplitude de la tension au nœud, la demande de charge de l'alimentateur, les caractéristiques de génération renouvelable, le niveau de congestion et la capacité d'acceptation de l'alimentateur. Ces observations formaient l'état environnemental utilisé pour la prise de décision d'orchestration. Chaque agent choisissait une action conformément à sa politique d'apprentissage par renforcement. Les actions disponibles incluaient la priorisation de l'acceptation par l'alimentateur, la gestion des congestions, la coordination de l'énergie renouvelable, l'équilibrage de charge et la gestion de la tension. L'action sélectionnée était appliquée à l'environnement BT dynamique, après quoi l'état de l'alimentateur était mis à jour.

Une récompense était calculée après chaque action. Une récompense positive était attribuée lorsque l'action sélectionnée améliorait l'acceptation du départ, empêchait la propagation de la congestion, maintenait la conformité de la tension ou améliorait la stabilité du réseau. Une pénalité était appliquée lorsque l'action entraînait ou n'empêchait pas une surcharge du départ, des violations de tension ou des retards d'orchestration. La récompense calculée était utilisée pour mettre à jour la fonction de valeur et la politique de décision de l'agent par optimisation par renforcement. La séquence observation, sélection de l'action, transition de l'environnement, calcul de la récompense et mise à jour de la politique était répétée jusqu'à ce que le critère d'arrêt soit satisfait.

6. Évaluation de la sensibilité à la tension et à la congestion

Après un apprentissage guidé par le renforcement, les sensibilités aux tensions et aux congestions ont été évaluées afin d'identifier les zones fragiles des alimentations électriques et de soutenir les décisions dynamiques d'acceptation des alimentations en cas d'incertitude liée à l'énergie renouvelable.

À chaque intervalle de fonctionnement, les effets des variations de la puissance d'alimentation, de la génération renouvelable et de la demande de charge sur la tension au niveau des nœuds et la congestion du réseau ont été déterminés. Les indices de sensibilité à la tension et à la congestion ont été recalculés à chaque intervalle de fonctionnement simulé, plutôt que d'être dérivés uniquement de conditions statiques du réseau. Les indices de sensibilité pour chaque nœud de l'alimentateur ont été mis à jour en fonction des conditions actuelles du réseau, des variations de la génération renouvelable et de l'état de charge de l'alimentateur. Les valeurs obtenues ont été utilisées pour classer les nœuds de l'alimentateur en vue d'actions d'acceptation de l'alimentateur, de gestion de la congestion et de contrôle de la tension.

L'indice de sensibilité à la tension quantifiait la variation de la tension au nœud résultant d'un changement du flux de puissance active. Une fois les indices de sensibilité à la tension et de sensibilité à la congestion calculés, ils étaient combinés en un score composite de sensibilité pour une priorisation adaptative de l'acceptation des dérivations. La méthode de notation composite est décrite dans le Fichier supplémentaire 1 (Section 5). Les nœuds de dérivation présentant des scores de sensibilité plus élevés se voyaient attribuer des priorités d'orchestration plus élevées lors des opérations de soulagement de congestion, de correction de l'acceptation des dérivations et de régulation de la tension. Les scores de sensibilité étaient recalculés à chaque intervalle de fonctionnement et partagés avec les agents voisins via l'environnement de communication collaborative.

7. Orchestration collaborative de l'acceptation et optimisation adaptative des décisions à chaque intervalle de fonctionnement simulé

Après une évaluation de la sensibilité, une orchestration collaborative de l'acceptation a été effectuée afin de permettre à des agents décentralisés de prendre des décisions coordonnées concernant l'acceptation des alimentations en présence d'incertitudes liées aux énergies renouvelables et de conditions dynamiques de congestion. Les agents ont échangé des états locaux des alimentations, des indices de sensibilité, des alertes de congestion et des priorités de fonctionnement. Chaque agent a évalué indépendamment l'état de son alimentation locale tout en coordonnant ses actions avec les agents voisins afin de soutenir la stabilité globale du réseau.

L'acceptation des départs a été priorisée en fonction de la sensibilité à la tension, de la gravité de la congestion, de la variabilité de la génération renouvelable et de la capacité disponible des départs. Les observations locales tenant compte de la sensibilité ont été agrégées entre les agents, et des actions coordonnées d'acceptation des départs ont été générées. La formulation mathématique du processus d'orchestration collaborative est fournie dans le Fichier supplémentaire 1 (section 6). L'environnement dynamique du réseau BT a été mis en œuvre avec des agents collaboratifs positionnés dans les zones de départ, les points d'intégration de l'énergie renouvelable et les jeux de barres sujets à la congestion, comme décrit dans le Fichier supplémentaire 1 (algorithme 1). À chaque intervalle de fonctionnement, chaque agent observait les paramètres locaux du départ, notamment l'amplitude de la tension, la variation de la génération renouvelable, la charge du départ, le niveau de congestion et la capacité d'acceptation du départ.

Les indices de sensibilité à la tension et de sensibilité à la congestion ont ensuite été calculés afin d'identifier les zones d'alimentation vulnérables à l'instabilité de tension ou à la propagation de la congestion. Ces indices ont été combinés en un score global de sensibilité des alimentations, déterminant la priorité d'acceptation et d'orchestration des alimentations. Des informations locales sur l'état du réseau, les niveaux de congestion, les indicateurs d'instabilité de tension et les priorités d'acceptation ont été échangées entre agents voisins. Sur la base des observations locales et des informations partagées, chaque agent a sélectionné et mis en œuvre une action d'orchestration adaptative. Après chaque action, un rétrosignalement par renforcement a été obtenu à partir de l'environnement dynamique du réseau BT, selon la stabilité des alimentations, la réduction de la congestion, la conformité en tension et l'efficacité d'acceptation des alimentations. Ce rétrosignalement a été utilisé pour mettre à jour la politique de chaque agent par une optimisation fondée sur le renforcement. La fonction objective globale d'orchestration a simultanément fourni un rétrosignalement coordonné pour l'optimisation adaptative au sein de l'ensemble des agents. Les mises à jour des politiques se sont poursuivies jusqu'à ce que les politiques des agents convergent vers une stratégie d'orchestration décentralisée optimale.

8. Validation à grande échelle

La stratégie d'orchestration dynamique a été validée à l'aide du jeu de données FeederBW et du jeu de données du réseau de distribution BT à 236 nœuds, dans des scénarios de fonctionnement caractérisés par une forte pénétration d'énergies renouvelables. La validation a évalué la capacité du cadre d'orchestration décentralisé à gérer l'acceptation dynamique des alimentateurs, l'intermittence des sources renouvelables, la propagation des congestions et l'instabilité de tension dans les systèmes de distribution BT interconnectés. Les scénarios de fonctionnement évalués comprenaient une forte pénétration des énergies renouvelables, des variations de la demande en charge, une propagation dynamique des congestions, des conditions sensibles à la tension et une capacité d'acceptation variable des alimentateurs.

Les performances du cadre ont été évaluées à l'aide du taux d'acceptation des alimentateurs, de l'indice de conformité de tension, du taux de réduction de la congestion, de la latence d'orchestration, de la vitesse de convergence, de l'efficacité de la coordination décentralisée et de la capacité d'intégration des énergies renouvelables. Ces mesures ont été utilisées pour évaluer l'évolutivité, la robustesse, l'adaptabilité et les performances de coordination. Le cadre proposé a été comparé aux approches traditionnelles centralisées d'orchestration des alimentateurs dans des configurations de réseau identiques. Des ensembles de données équivalents, des scénarios de fonctionnement, des conditions d'évaluation et des mesures de performance ont été appliqués aux méthodes comparées.

Tableau 2 résume les ensembles de données, les conditions de fonctionnement, les environnements d'orchestration et les variables de performance utilisés pour la validation expérimentale. L'ensemble de données FeederBW a été utilisé pour évaluer la dynamique de fonctionnement des alimentateurs, l'intermittence des énergies renouvelables, le développement de la congestion, la variation de la charge résidentielle et les fluctuations de tension dans des conditions de réseau basse tension. L'ensemble de données à 236 nœuds basse tension a été utilisé pour évaluer l'orchestration décentralisée dans un réseau interconnecté plus vaste. L'architecture a été validée dans des conditions variables de production d'énergie renouvelable, de demande de charge, de tension et de congestion. La coordination décentralisée et l'optimisation des politiques fondée sur l'apprentissage par renforcement ont été évaluées conjointement à travers les agents intelligents.

Le taux d'acceptation des alimentations, l'indice de conformité de tension, le taux de réduction de la congestion, la vitesse de convergence et la latence d'orchestration ont été utilisés pour quantifier les performances dans des conditions de fonctionnement dynamiques des systèmes d'énergie renouvelable.

Paramètre expérimentalJeu de données FeederBWJeu de données 236-bus BTObjectif de validation
Type de réseauRéseau d’alimentation basse tensionRéseau de distribution BT à grande échelleÉvaluation de l’orchestration dynamique
Nombre de nœuds/postesMultiples nœuds d’alimentation236 postesAnalyse de la scalabilité
Intégration des énergies renouvelablesSources photovoltaïques et renouvelables distribuéesPostes à forte pénétration renouvelableValidation de l’incertitude liée aux renouvelables
Comportement de la demande en chargeProfils dynamiques de charge résidentielleVariations de charge importantes sur l’alimentationOrchestration adaptative de la charge
Scénarios de congestionÉtats de surcharge et de congestion de l’alimentationPropagation de la congestion sur plusieurs postesAnalyse de la mitigation de la congestion
Conditions de tensionProfils de fluctuation de tensionConditions sensibles à la tension sur les postesÉvaluation de la conformité en tension
Agents intelligentsAgents d’alimentation distribuésAgents collaboratifs à grande échelleAnalyse de coordination décentralisée
Environnement d’apprentissageOrchestration pilotée par renforcementApprentissage adaptatif multi-agentsValidation de l’optimisation des politiques
Conditions de simulationVariabilité dynamique des renouvelablesFonctionnement dynamique à grande échelleTest d’orchestration à faible latence
Indicateurs de performanceTaux d’acceptation, réduction de la congestionConformité en tension, vitesse de convergencePerformance globale de l’orchestration

Tableau 2 : Validation expérimentale à grande échelle. Paramètres expérimentaux utilisés pour évaluer l'évolutivité, l'incertitude liée aux énergies renouvelables et la coordination décentralisée.

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Résultats

Toutes les expériences ont été réalisées cinq fois en utilisant différentes graines aléatoires afin de réduire l'influence de l'apprentissage stochastique. Les valeurs moyennes ont été calculées à partir des cinq exécutions. Les mêmes ensembles de données, paramètres de simulation, hyperparamètres, critères d'arrêt et procédures d'évaluation ont été utilisés pour toutes les méthodes. Le contrôle centralisé de la tension (CVC)33, le contrôle conventionnel multi-agents (CMAC)21

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Discussion

Les résultats expérimentaux ont montré que la stratégie de coordination dynamique proposée améliore la coordination décentralisée des alimentateurs, l'intégration des énergies renouvelables, la stabilité de tension, la gestion des congestions et l'orchestration à faible latence par rapport au contrôle centralisé de tension (CVC)33, au contrôle conventionnel multi-agents (CMAC)21, à la régulation de tension basée sur l'apprentissage par renforcement (RLVR)2...

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Déclarations de divulgation

Les auteurs déclarent qu’ils n’ont aucun intérêt concurrentiel.

Remerciements

Cette recherche a été soutenue par le Bureau d’alimentation électrique de Guangzhou de la Compagnie Guangdong Power Grid dans le cadre du projet « Recherche sur la technologie d'acceptation automatisée des équipements de mesure basse tension basée sur l'automatisation des processus » (Code du projet : 030100KC24120100).

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Matériaux

Liste des matériaux utilisés dans cet article
NomEntrepriseNuméro de catalogueCommentaires
Jeu de données de réseau de distribution basse tension 236-BusCanizes et al.DOI : 10.5281/zenodo.8274780Jeu de données de référence public utilisé pour l'analyse de la scalabilité et la validation à grande échelle du cadre proposé
Unité centrale de traitement (CPU)Intel CorporationIntel Core i9-12900K (16 cœurs)Utilisée pour la gestion des simulations et l'exécution de l'environnement
Module d'analyse de sensibilité à la congestionModule développé sur mesureZenodo DOI : 10.5281/zenodo.21423239Effectue le calcul en temps réel de la sensibilité à la congestion et la priorisation des alimentations
CUDA ToolkitNVIDIA CorporationCUDA 12.1Plateforme de calcul GPU utilisée pour l'entraînement accéléré des modèles PyTorch
Bibliothèque cuDNNNVIDIA CorporationcuDNN 9.3.0Bibliothèque d'accélération de réseaux neuronaux profonds utilisée avec CUDA
Simulateur dynamique personnalisé de réseau basse tensionModule développé sur mesureVersion 1.0Plateforme de simulation développée par l'auteur, implémentée en Python et PyTorch, pour des expériences d'orchestration dynamique des alimentations. Les détails de l'implémentation sont fournis dans les sections Méthodes et Disponibilité des données.
Bibliothèque de traitement des donnéesÉquipe de développement de pandaspandas 2.2.2Utilisée pour le prétraitement, l'extraction de caractéristiques, la normalisation et la gestion des données de séries temporelles
Cadre d'apprentissage profondPyTorch FoundationPyTorch 2.3.1Utilisé pour l'implémentation du modèle d'apprentissage par renforcement multi-agents (MARL), l'entraînement des réseaux neuronaux et l'optimisation des politiques
Module de communication distribuée entre agentsCadre développé sur mesureZenodo DOI : 10.5281/zenodo.21423239Permet une communication décentralisée et un échange collaboratif de politiques entre agents intelligents
Jeu de données FeederBWTreutlein et al.DOI : 10.5281/zenodo.17831177Jeu de données public contenant des mesures réelles d'alimentations basse tension, de production renouvelable et de profils de fonctionnement
Unité de traitement graphique (GPU)NVIDIA CorporationGeForce RTX 3090, 24 Go GDDR6XAccélérateur matériel utilisé pour l'entraînement des réseaux neuronaux et le calcul parallèle
Environnement d'apprentissage par renforcement multi-agentsFarama FoundationGym 0.26.2Environnement d'apprentissage par renforcement personnalisé pour l'interaction et l'entraînement collaboratifs des agents intelligents
Bibliothèque de calcul numériqueDéveloppeurs de NumPyNumPy 1.26.4Utilisée pour les calculs numériques, la manipulation de tenseurs et les opérations matricielles
Système d'exploitationCanonical Ltd.Ubuntu 22.04.5 LTS (64 bits)Système d'exploitation utilisé pour toutes les simulations et expériences d'apprentissage par renforcement
Langage de programmation PythonPython Software FoundationPython 3.11.9Langage de programmation principal utilisé pour l'implémentation des algorithmes, les simulations et le développement des modèles
Mémoire systèmeLenovo64 Go de RAM DDR5Mémoire système installée utilisée pour les simulations MARL à grande échelle et le traitement des données.
Module de surveillance de la stabilité de tensionModule développé sur mesureZenodo DOI : 10.5281/zenodo.21423239Évalue en continu la stabilité et la conformité de la tension pendant l'orchestration des alimentations

Références

  1. Ahmed F, et al. A multi-agent reinforcement learning framework for voltage-constrained incentive demand response in PV-rich low-voltage distribution systems. IEEE Access. 2026;14:45410–22.
  2. Lamsal D, Sreeram V, Mishra Y, Kumar DS. Smoothing control strategy of wind and photovoltaic output power fluctuation by considering the state of health of battery energy storage system. IET Renew Power Gener. 2019;13:578–86.
  3. Allahmoradi S, et al. Data-driven Volt/VAR optimization for modern distribution networks: A review. IEEE Access. 2024;12:71184–204.
  4. O'Connell N, Pinson P, Madsen H, O'Malley M. Benefits and challenges of electrical demand response: A critical review. Renew Sustain Energy Rev. 2014;39:686–99.
  5. Hossain MS, Madlool NA, Al-Fatlawi AW, El Haj Assad M. High penetration of solar photovoltaic structure on the grid system disruption: An overview of technology advancement. Sustainability. 2023;15:1174. https://doi.org/10.3390/su15021174
  6. Rahmouni A. Impact of static reactive power compensator (SVC) on the power grid. WSEAS Trans Electron. 2020;11:96–104.
  7. Chandran CV, et al. Application of demand response to improve voltage regulation with high DG penetration. Electr Power Syst Res. 2020;189:106722. https://doi.org/10.1016/j.epsr.2020.106722
  8. Wang Q, et al. A demand response strategy in high photovoltaic penetration power systems considering the thermal ramp rate limitation. IEEE Access. 2019;7:163814–22.
  9. Wang Z, et al. How to effectively implement an incentive-based residential electricity demand response policy? Experience from large-scale trials and matching questionnaires. Energy Policy. 2020;141:111450. https://doi.org/10.1016/j.enpol.2020.111450
  10. van Tilburg J, Siebert LC, Cremer JL. MARL-iDR: Multi-agent reinforcement learning for incentive-based residential demand response. arXiv. 2023. https://arxiv.org/abs/2304.04086
  11. Bahrami S, Chen YC, Wong VWS. Deep reinforcement learning for demand response in distribution networks. IEEE Trans Smart Grid. 2021;12:1496–506.
  12. Li J, et al. Model-free reinforcement learning economic dispatch algorithms for price-based residential demand response management system. IEEE Trans Ind Cyber-Phys Syst. 2023;1:123–35.
  13. Zheng S, et al. Incentive-based integrated demand response for multiple energy carriers under complex uncertainties and double coupling effects. Appl Energy. 2021;283:116254. https://doi.org/10.1016/j.apenergy.2020.116254
  14. Nainar K, Pillai JR, Bak-Jensen B. Incentive price-based demand response in active distribution grids. Appl Sci. 2020;11:1–17.
  15. Nguyen Duc T, et al. Impact of renewable energy integration on a novel method for pricing incentive payments of incentive-based demand response program. IET Gener Transm Distrib. 2022;16:1648–67.
  16. Pourramezan A, Samadi M. A novel approach for incorporating incentive-based and price-based demand response programs in long-term generation investment planning. Int J Electr Power Energy Syst. 2022;142:108315. https://doi.org/10.1016/j.ijepes.2022.108315
  17. Mathew A, Roy A, Mathew J. Intelligent residential energy management system using deep reinforcement learning. IEEE Syst J. 2020;14:5362–72.
  18. Khan DA, Arshad A, Lehtonen M, Mahmoud K. Combined DR pricing and voltage control using reinforcement learning based multi-agents and load forecasting. IEEE Access. 2022;10:130839-49.
  19. Zhang X, et al. An edge-cloud integrated solution for buildings demand response using reinforcement learning. IEEE Trans Smart Grid. 2021;12:420–31.
  20. Duan J, et al. Deep-reinforcement-learning-based autonomous voltage control for power grid operations. IEEE Trans Power Syst. 2020;35:814–7.
  21. Wang S, et al. A data-driven multi-agent autonomous voltage control framework using deep reinforcement learning. IEEE Trans Power Syst. 2020;35:4644–54.
  22. Turitsyn K, Sulc P, Backhaus S, Chertkov M. Options for control of reactive power by distributed photovoltaic generators. Proc IEEE. 2011;99:1063–73.
  23. Bedawy A, et al. Optimal voltage control strategy for voltage regulators in active unbalanced distribution systems using multi-agents. IEEE Trans Power Syst. 2020;35:1023–35.
  24. Bedawy A, Yorino N, Mahmoud K. Management of voltage regulators in unbalanced distribution networks using voltage/tap sensitivity analysis. Presented at: International Conference on Innovative Trends in Computer Engineering (ITCE); Aswan, Egypt; 2018. https://doi.org/10.1109/itce.2018.8316651
  25. Smith O, et al. The effect of renewable energy incorporation on power grid stability and resilience. Sci Adv. 2022;8:eabj6734. https://doi.org/10.1126/sciadv.abj6734
  26. Charbonnier F, Morstyn T, McCulloch MD. Scalable multi-agent reinforcement learning for distributed control of residential energy flexibility. Applied Energy. 2022;314:118825. doi:10.1016/j.apenergy.2022.118825
  27. Dugan J, Mohagheghi S, Kroposki B. Application of mobile energy storage for enhancing power grid resilience: A review. Energies. 2021;14:6476. https://doi.org/10.3390/en14206476
  28. Panossian N, et al. Challenges and opportunities of integrating electric vehicles in electricity distribution systems. Curr Sustain Renew Energy Rep. 2022;9:27–40.
  29. Guan Q, et al. Dynamic-aware deep reinforcement learning for heterogeneous fleet-based capacitated electric vehicle routing problems. Applied Energy. 2026;413:127757. https://doi.org/10.1016/j.apenergy.2026.127757
  30. Guan Q, et al. Heterogeneous attention-driven deep reinforcement learning for solving EVRPs with pickup-delivery and time windows. Applied Energy. 2026;407:127355. https://doi.org/10.1016/j.apenergy.2026.127355
  31. Treutlein M, et al. Real-world energy data of 200 feeders from low-voltage grids with metadata in Germany over two years (Version v1.0) [Data set]. Zenodo; 2025. https://doi.org/10.5281/zenodo.17831177
  32. Canizes B, Castro F, Silveira V, Vale Z. 236-Bus Low Voltage Distribution Network Data [Data set]. Zenodo; 2023. https://doi.org/10.5281/zenodo.8274780
  33. Xi, Haikuo & Chen, Can & Bai, Xuesong & Ma, Yuan & Ding, Jiachao & Chen, Qifang. (2024). Centralized and decentralized combined voltage control for distribution network with high penetration PV connected. Journal of Physics: Conference Series. 2771. 012040. 10.1088/1742-6596/2771/1/012040.
  34. Singh AK, Parida SK. Congestion management with distributed generation and its impact on electricity market. International Journal of Electrical Power & Energy Systems. 2013;48:39–47. doi:10.1016/j.ijepes.2012.11.025.
  35. Gooi HB, Wang T, Tang Y. Edge intelligence for smart grid: A survey on application potentials. CSEE Journal of Power and Energy Systems. 2023;9(5):1623–1640. https://doi.org/10.17775/CSEEJPES.2022.02210
  36. Molokomme DN, Onumanyi AJ, Abu-Mahfouz AM. Edge intelligence in smart grids: A survey on architectures, offloading models, cyber security measures, and challenges. Journal of Sensor and Actuator Networks. 2022;11(3):47. https://doi.org/10.3390/jsan11030047
  37. Chang Z, Liu S, Xiong X, Cai Z, Tu G. A survey of recent advances in edge-computing-powered artificial intelligence of things. IEEE Internet of Things Journal. 2021;8(18):13849–13875.

Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.

Réimpressions et autorisations

Explorer plus d’articles

Apprentissage par renforcement multi-agentsGestion de la congestionSensibilité de la tensionIntégration des énergies renouvelables distribuéesCoordination décentraliséeSurveillance des départsRésilience opérationnelle