Des sujets humains, des animaux vertébrés, des tissus humains ou des tissus animaux n'ont pas été utilisés dans cette étude. Seuls des ensembles de données accessibles au public (l'ensemble de données FeederBW et l'ensemble de données de réseau de distribution basse tension à 236 nœuds) ainsi que des simulations informatiques ont été utilisés dans cette recherche. Par conséquent, cette étude n'a pas nécessité l'approbation d'un comité d'éthique (IRB), ni d'autorisation éthique ou de consentement éclairé.
La stratégie d'orchestration dynamique pour l'acceptation des alimentations basse tension basée sur la collaboration d'agents a été développée à l'aide de l'apprentissage par renforcement multi-agents (MARL) dans des conditions de fonctionnement riches en énergies renouvelables. Les jeux de données FeederBW et 236-bus basse tension ont été prétraités, normalisés et synchronisés temporellement afin de construire un modèle de réseau dynamique représentant les états des alimentations, les ressources énergétiques distribuées, les zones sensibles à la tension et les conditions de congestion. Des agents intelligents ont été attribués aux sections des alimentations et aux jonctions du réseau afin de surveiller localement la tension, la congestion, l'incertitude liée à la production renouvelable et la capacité d'acceptation des alimentations, d'échanger des informations avec les agents voisins et de mettre à jour les politiques d'orchestration par apprentissage par renforcement décentralisé. La fonction de récompense a été conçue pour améliorer l'acceptation des alimentations tout en limitant la congestion, l'instabilité de tension et les retards de coordination. Les contraintes de tension, de charge des alimentations, de charge des transformateurs et de congestion ont été prises en compte, tandis que le fonctionnement déséquilibré triphasé, la commande avancée des onduleurs photovoltaïques et la compensation de puissance réactive n'ont pas été modélisés explicitement. Le cadre global est présenté dans Figure 1. Les outils de recherche utilisés dans cette étude sont répertoriés dans le Tableau des matériaux.

Figure 1 : Architecture du cadre proposé. Schéma du cadre d'orchestration dynamique intégrant des agents intelligents, l'apprentissage par renforcement, l'analyse de congestion et une coordination adaptative des alimentateurs. Veuillez cliquer ici pour visualiser une version agrandie de cette figure.
1. Acquisition des données
Les données ont été acquises à partir du jeu de données FeederBW31 et du jeu de données de distribution BT à 236 nœuds32. Ces jeux de données ont été sélectionnés car ils contenaient des informations sur la topologie des alimentations, les conditions de tension, le comportement de la génération renouvelable, la demande de charge, les congestions et les profils de fonctionnement dynamiques nécessaires à l'orchestration décentralisée et à l'apprentissage des agents basé sur le renforcement.
L'ensemble de données FeederBW a été principalement utilisé pour modéliser le fonctionnement des alimentateurs, l'intermittence de l'énergie renouvelable, les écarts de tension et la propagation de la congestion dans les réseaux BT. Il comprenait des données de fonctionnement des alimentateurs, le comportement des générateurs distribués, des mesures de tension aux nœuds et des fluctuations de charge, soutenant ainsi l'analyse d'une orchestration adaptative. L'ensemble de données BT à 236 nœuds a été utilisé pour évaluer l'évolutivité et la coordination décentralisée. Il contenait des informations sur les connexions des nœuds, les conditions de charge des alimentateurs, les caractéristiques de tension aux nœuds, la pénétration des énergies renouvelables distribuées et des cas de fonctionnement sensibles à la congestion. Ensemble, ces deux ensembles de données ont permis des analyses à l'échelle des alimentateurs et à grande échelle dans des conditions de forte pénétration d'énergie renouvelable. Les caractéristiques des ensembles de données et leurs objectifs dans le cadre sont résumés dans Tableau 1.
| Nom du jeu de données | Type de jeu de données | Nombre de nœuds/points de livraison | Attributs des données | Objectif dans le travail proposé |
| Jeu de données FeederBW | Jeu de données opérationnels de départements basse tension | Multiples nœuds de départ | Profils de tension, production renouvelable, demande de charge, états de congestion, comportement opérationnel des départements | Orchestration rapide des départements, analyse de congestion, priorisation adaptative des acceptations |
| Jeu de données LV 236-bus | Jeu de données de distribution basse tension à grande échelle | 236 points de livraison | Topologie des points de livraison, charge des départements, sensibilité de tension, pénétration des énergies renouvelables, dynamique de congestion | Validation de l'évolutivité, évaluation de la coordination décentralisée, analyse d'orchestration à grande échelle |
Tableau 1 : Caractéristiques des ensembles de données. Description des ensembles de données, des attributs opérationnels et de leurs objectifs dans le cadre proposé d'orchestration à basse tension.
2. Prétraitement des données
Les jeux de données acquis ont été prétraités afin d'améliorer la cohérence, l'alignement temporel et la stabilité de l'apprentissage par renforcement. Les entrées manquantes, les mesures erronées, les enregistrements en double et les données incohérentes des alimentateurs ont été filtrées à l'aide de procédures statistiques de prétraitement. Cette étape a permis de maintenir la cohérence entre les données de fonctionnement des alimentateurs, les profils de production renouvelable, les mesures de tension et les données d'état de congestion. Toutes les variables opérationnelles ont été normalisées selon la méthode min-max afin que les caractéristiques d'entrée soient transformées à une échelle commune adaptée à l'apprentissage de l'agent. Les variables normalisées comprenaient la tension de l'alimentateur, la demande de puissance active, la production renouvelable, l'état de congestion et la capacité d'acceptation de l'alimentateur. La formulation mathématique de la procédure de prétraitement est fournie dans le Fichier supplémentaire 1 (Section 1).
3. Modélisation dynamique de réseaux basse tension
Après l'acquisition des données et le prétraitement, un modèle dynamique de réseau MT a été construit pour simuler le comportement d'un système de distribution avec une forte proportion de production renouvelable dans des conditions de charge et de production variables. Le modèle suivait dynamiquement la topologie des alimentateurs, le comportement des ressources énergétiques distribuées, les zones sensibles à la tension et la propagation des congestions.
Contrairement à une représentation statique du réseau, le modèle met à jour le comportement des alimentateurs en fonction de l'intermittence des énergies renouvelables, de la demande des consommateurs et des conditions de congestion. Les jeux de données FeederBW et 236-bus LV ont été utilisés pour construire des alimentateurs interconnectés dans lesquels les jeux de barres, les transformateurs, les sources renouvelables distribuées et les charges étaient représentés comme des nœuds du réseau. Chaque nœud d’alimentateur fournissait des informations mises à jour sur l'amplitude de la tension, la demande de puissance active, la génération d'énergie renouvelable, l'état de charge de l’alimentateur et l’état de congestion. Ces variables étaient utilisées par les agents intelligents pour surveiller le comportement des alimentateurs et prendre des décisions d'orchestration décentralisées. Le modèle de réseau permettait également d'identifier les régions sensibles et de hiérarchiser l'acceptation des alimentateurs grâce à une analyse de sensibilité continue.
Le réseau de distribution BT a été représenté comme un réseau basé sur un graphe contenant des postes électriques, des lignes d’alimentation, des transformateurs, des sources renouvelables et des nœuds de charge consommateurs. Des dérivations mathématiques détaillées du modèle de réseau sont fournies dans le fichier supplémentaire 1 (section 2). L’état dynamique du réseau et l’indice de congestion ont été surveillés en continu. L’indice de congestion a été normalisé dans la plage [0,1], et une orchestration collaborative d’acceptation des alimentateurs a été lancée lorsque l’indice de congestion dépassait 0,80.
4. Initialisation de l'environnement multi-agents
Une fois le modèle dynamique du réseau BT construit, l’environnement multi-agents a été initialisé afin de permettre une acceptation décentralisée des alimentations. Des agents intelligents ont été attribués aux tronçons d’alimentation, aux points de raccordement des ressources énergétiques distribuées, aux emplacements des transformateurs et aux nœuds sujets à des congestions au sein du réseau BT.
Chaque agent fonctionnait comme une entité indépendante prenant des décisions, surveillant le fonctionnement du jeu de barres local, échangeant des informations avec les agents voisins et exécutant des actions d'orchestration adaptatives. Les agents ont été attribués à des nœuds clés du jeu de barres en fonction de la sensibilité en tension, du taux d'intégration des énergies renouvelables, du niveau de congestion et de l'importance du jeu de barres. Le réseau BT a été configuré comme un environnement basé sur des agents, dans lequel les agents surveillaient en continu la tension du jeu de barres, la demande de puissance active, les variations de production renouvelable, l'état de congestion et la capacité d'acceptation du jeu de barres. La formulation mathématique de l'environnement multi-agents est fournie dans le Fichier supplémentaire 1 (Section 3).
5. Apprentissage de l'agent guidé par renforcement
Après l'initialisation de l'environnement multi-agents, un apprentissage guidé par renforcement a été mis en œuvre afin de permettre aux agents d'apprendre des politiques d'orchestration des alimentations par interaction avec des conditions de fonctionnement variables du réseau basse tension. Lors de chaque interaction, un agent observait l'état actuel de l'alimentation, sélectionnait une action d'orchestration et recevait une récompense ou une pénalité. Le processus d'apprentissage décentralisé a permis aux agents de s'adapter à l'incertitude liée à la production renouvelable, aux conditions de congestion changeantes, aux variations de tension et aux modifications de la capacité d'acceptation de l'alimentation. Chaque agent sélectionnait une action d'orchestration conformément à sa politique apprise. Les dérivations mathématiques associées sont fournies dans le Fichier supplémentaire 1 (section 4).
Un total de 64 agents intelligents a été déployé. En fonction de la topologie de l’alimentateur, du niveau de pénétration des énergies renouvelables, de la sensibilité en tension et de la gravité des congestions, chaque agent a été attribué à un tronçon d’alimentateur, un site de transformateur, un point de raccordement d’une ressource énergétique distribuée ou un nœud du réseau sensible à la congestion. Tout en préservant une complexité computationnelle raisonnable, le déploiement décentralisé a permis une surveillance coopérative et une acceptation adaptative des alimentateurs sur l’ensemble du réseau de distribution basse tension composé de 236 nœuds. Chaque agent observait un vecteur d’état à cinq dimensions comprenant l’amplitude de la tension, la demande de charge de l’alimentateur, la génération d’énergie renouvelable, l’état de congestion et la capacité d’acceptation de l’alimentateur. L’espace des actions comprenait cinq actions d’orchestration : la priorisation de l’acceptation des alimentateurs, l’atténuation des congestions, la coordination des sources renouvelables, l’équilibrage de charge et la régulation de tension. La prise de décision coopérative était facilitée par une topologie de communication décentralisée entre voisins, dans laquelle chaque agent échangeait uniquement des indices de sensibilité et des informations locales de fonctionnement avec les agents des alimentateurs voisins.
Une méthode d'apprentissage par renforcement multi-agents (MARL) basée sur le Q-learning a été mise en œuvre à l'aide d'un réseau de neurones entièrement connecté comportant deux couches cachées de 128 et 64 neurones respectivement. Une fonction d'activation de type unité linéaire rectifiée a été appliquée aux couches cachées. Les paramètres du réseau ont été optimisés à l'aide de l'optimiseur Adam avec un taux d'apprentissage de 0,001 et un facteur d'actualisation de 0,99. Une taille de mini-lot de 64 a été utilisée, et la mémoire tampon de relecture d'expérience avait une capacité de 100 000 transitions. L'entraînement était considéré comme convergé lorsque la moyenne mobile de la récompense cumulée sur les 20 épisodes précédents variait de moins de 0,1 % pendant 10 fenêtres d'évaluation consécutives. Si ce critère n'était pas satisfait, l'entraînement se poursuivait jusqu'à un maximum de 500 épisodes. Le flux de travail d'apprentissage par renforcement est illustré dans la Figure 2.

Figure 2 : Organigramme du processus d'apprentissage de l'agent piloté par renforcement. Organigramme illustrant le processus d'apprentissage de l'agent fondé sur le renforcement, destiné à l'orchestration décentralisée des alimentateurs et à l'optimisation des décisions. Veuillez cliquer ici pour visualiser une version agrandie de cette figure.
Le processus d'apprentissage a commencé par l'initialisation de l'environnement de distribution BT, des états des agents et des paramètres d'apprentissage. Des agents intelligents ont été placés dans les zones d'alimentation, les emplacements des ressources énergétiques distribuées et les jeux de barres sujets à des congestions. L'espace d'observation, le taux d'apprentissage, la stratégie d'exploration, les facteurs de récompense et les fonctions de politique ont ensuite été définis. À chaque étape d'interaction, chaque agent observait l'état courant de sa zone d'alimentation attribuée. Cet état comprenait l'amplitude de la tension au nœud, la demande de charge de l'alimentateur, les caractéristiques de génération renouvelable, le niveau de congestion et la capacité d'acceptation de l'alimentateur. Ces observations formaient l'état environnemental utilisé pour la prise de décision d'orchestration. Chaque agent choisissait une action conformément à sa politique d'apprentissage par renforcement. Les actions disponibles incluaient la priorisation de l'acceptation par l'alimentateur, la gestion des congestions, la coordination de l'énergie renouvelable, l'équilibrage de charge et la gestion de la tension. L'action sélectionnée était appliquée à l'environnement BT dynamique, après quoi l'état de l'alimentateur était mis à jour.
Une récompense était calculée après chaque action. Une récompense positive était attribuée lorsque l'action sélectionnée améliorait l'acceptation du départ, empêchait la propagation de la congestion, maintenait la conformité de la tension ou améliorait la stabilité du réseau. Une pénalité était appliquée lorsque l'action entraînait ou n'empêchait pas une surcharge du départ, des violations de tension ou des retards d'orchestration. La récompense calculée était utilisée pour mettre à jour la fonction de valeur et la politique de décision de l'agent par optimisation par renforcement. La séquence observation, sélection de l'action, transition de l'environnement, calcul de la récompense et mise à jour de la politique était répétée jusqu'à ce que le critère d'arrêt soit satisfait.
6. Évaluation de la sensibilité à la tension et à la congestion
Après un apprentissage guidé par le renforcement, les sensibilités aux tensions et aux congestions ont été évaluées afin d'identifier les zones fragiles des alimentations électriques et de soutenir les décisions dynamiques d'acceptation des alimentations en cas d'incertitude liée à l'énergie renouvelable.
À chaque intervalle de fonctionnement, les effets des variations de la puissance d'alimentation, de la génération renouvelable et de la demande de charge sur la tension au niveau des nœuds et la congestion du réseau ont été déterminés. Les indices de sensibilité à la tension et à la congestion ont été recalculés à chaque intervalle de fonctionnement simulé, plutôt que d'être dérivés uniquement de conditions statiques du réseau. Les indices de sensibilité pour chaque nœud de l'alimentateur ont été mis à jour en fonction des conditions actuelles du réseau, des variations de la génération renouvelable et de l'état de charge de l'alimentateur. Les valeurs obtenues ont été utilisées pour classer les nœuds de l'alimentateur en vue d'actions d'acceptation de l'alimentateur, de gestion de la congestion et de contrôle de la tension.
L'indice de sensibilité à la tension quantifiait la variation de la tension au nœud résultant d'un changement du flux de puissance active. Une fois les indices de sensibilité à la tension et de sensibilité à la congestion calculés, ils étaient combinés en un score composite de sensibilité pour une priorisation adaptative de l'acceptation des dérivations. La méthode de notation composite est décrite dans le Fichier supplémentaire 1 (Section 5). Les nœuds de dérivation présentant des scores de sensibilité plus élevés se voyaient attribuer des priorités d'orchestration plus élevées lors des opérations de soulagement de congestion, de correction de l'acceptation des dérivations et de régulation de la tension. Les scores de sensibilité étaient recalculés à chaque intervalle de fonctionnement et partagés avec les agents voisins via l'environnement de communication collaborative.
7. Orchestration collaborative de l'acceptation et optimisation adaptative des décisions à chaque intervalle de fonctionnement simulé
Après une évaluation de la sensibilité, une orchestration collaborative de l'acceptation a été effectuée afin de permettre à des agents décentralisés de prendre des décisions coordonnées concernant l'acceptation des alimentations en présence d'incertitudes liées aux énergies renouvelables et de conditions dynamiques de congestion. Les agents ont échangé des états locaux des alimentations, des indices de sensibilité, des alertes de congestion et des priorités de fonctionnement. Chaque agent a évalué indépendamment l'état de son alimentation locale tout en coordonnant ses actions avec les agents voisins afin de soutenir la stabilité globale du réseau.
L'acceptation des départs a été priorisée en fonction de la sensibilité à la tension, de la gravité de la congestion, de la variabilité de la génération renouvelable et de la capacité disponible des départs. Les observations locales tenant compte de la sensibilité ont été agrégées entre les agents, et des actions coordonnées d'acceptation des départs ont été générées. La formulation mathématique du processus d'orchestration collaborative est fournie dans le Fichier supplémentaire 1 (section 6). L'environnement dynamique du réseau BT a été mis en œuvre avec des agents collaboratifs positionnés dans les zones de départ, les points d'intégration de l'énergie renouvelable et les jeux de barres sujets à la congestion, comme décrit dans le Fichier supplémentaire 1 (algorithme 1). À chaque intervalle de fonctionnement, chaque agent observait les paramètres locaux du départ, notamment l'amplitude de la tension, la variation de la génération renouvelable, la charge du départ, le niveau de congestion et la capacité d'acceptation du départ.
Les indices de sensibilité à la tension et de sensibilité à la congestion ont ensuite été calculés afin d'identifier les zones d'alimentation vulnérables à l'instabilité de tension ou à la propagation de la congestion. Ces indices ont été combinés en un score global de sensibilité des alimentations, déterminant la priorité d'acceptation et d'orchestration des alimentations. Des informations locales sur l'état du réseau, les niveaux de congestion, les indicateurs d'instabilité de tension et les priorités d'acceptation ont été échangées entre agents voisins. Sur la base des observations locales et des informations partagées, chaque agent a sélectionné et mis en œuvre une action d'orchestration adaptative. Après chaque action, un rétrosignalement par renforcement a été obtenu à partir de l'environnement dynamique du réseau BT, selon la stabilité des alimentations, la réduction de la congestion, la conformité en tension et l'efficacité d'acceptation des alimentations. Ce rétrosignalement a été utilisé pour mettre à jour la politique de chaque agent par une optimisation fondée sur le renforcement. La fonction objective globale d'orchestration a simultanément fourni un rétrosignalement coordonné pour l'optimisation adaptative au sein de l'ensemble des agents. Les mises à jour des politiques se sont poursuivies jusqu'à ce que les politiques des agents convergent vers une stratégie d'orchestration décentralisée optimale.
8. Validation à grande échelle
La stratégie d'orchestration dynamique a été validée à l'aide du jeu de données FeederBW et du jeu de données du réseau de distribution BT à 236 nœuds, dans des scénarios de fonctionnement caractérisés par une forte pénétration d'énergies renouvelables. La validation a évalué la capacité du cadre d'orchestration décentralisé à gérer l'acceptation dynamique des alimentateurs, l'intermittence des sources renouvelables, la propagation des congestions et l'instabilité de tension dans les systèmes de distribution BT interconnectés. Les scénarios de fonctionnement évalués comprenaient une forte pénétration des énergies renouvelables, des variations de la demande en charge, une propagation dynamique des congestions, des conditions sensibles à la tension et une capacité d'acceptation variable des alimentateurs.
Les performances du cadre ont été évaluées à l'aide du taux d'acceptation des alimentateurs, de l'indice de conformité de tension, du taux de réduction de la congestion, de la latence d'orchestration, de la vitesse de convergence, de l'efficacité de la coordination décentralisée et de la capacité d'intégration des énergies renouvelables. Ces mesures ont été utilisées pour évaluer l'évolutivité, la robustesse, l'adaptabilité et les performances de coordination. Le cadre proposé a été comparé aux approches traditionnelles centralisées d'orchestration des alimentateurs dans des configurations de réseau identiques. Des ensembles de données équivalents, des scénarios de fonctionnement, des conditions d'évaluation et des mesures de performance ont été appliqués aux méthodes comparées.
Tableau 2 résume les ensembles de données, les conditions de fonctionnement, les environnements d'orchestration et les variables de performance utilisés pour la validation expérimentale. L'ensemble de données FeederBW a été utilisé pour évaluer la dynamique de fonctionnement des alimentateurs, l'intermittence des énergies renouvelables, le développement de la congestion, la variation de la charge résidentielle et les fluctuations de tension dans des conditions de réseau basse tension. L'ensemble de données à 236 nœuds basse tension a été utilisé pour évaluer l'orchestration décentralisée dans un réseau interconnecté plus vaste. L'architecture a été validée dans des conditions variables de production d'énergie renouvelable, de demande de charge, de tension et de congestion. La coordination décentralisée et l'optimisation des politiques fondée sur l'apprentissage par renforcement ont été évaluées conjointement à travers les agents intelligents.
Le taux d'acceptation des alimentations, l'indice de conformité de tension, le taux de réduction de la congestion, la vitesse de convergence et la latence d'orchestration ont été utilisés pour quantifier les performances dans des conditions de fonctionnement dynamiques des systèmes d'énergie renouvelable.
| Paramètre expérimental | Jeu de données FeederBW | Jeu de données 236-bus BT | Objectif de validation |
| Type de réseau | Réseau d’alimentation basse tension | Réseau de distribution BT à grande échelle | Évaluation de l’orchestration dynamique |
| Nombre de nœuds/postes | Multiples nœuds d’alimentation | 236 postes | Analyse de la scalabilité |
| Intégration des énergies renouvelables | Sources photovoltaïques et renouvelables distribuées | Postes à forte pénétration renouvelable | Validation de l’incertitude liée aux renouvelables |
| Comportement de la demande en charge | Profils dynamiques de charge résidentielle | Variations de charge importantes sur l’alimentation | Orchestration adaptative de la charge |
| Scénarios de congestion | États de surcharge et de congestion de l’alimentation | Propagation de la congestion sur plusieurs postes | Analyse de la mitigation de la congestion |
| Conditions de tension | Profils de fluctuation de tension | Conditions sensibles à la tension sur les postes | Évaluation de la conformité en tension |
| Agents intelligents | Agents d’alimentation distribués | Agents collaboratifs à grande échelle | Analyse de coordination décentralisée |
| Environnement d’apprentissage | Orchestration pilotée par renforcement | Apprentissage adaptatif multi-agents | Validation de l’optimisation des politiques |
| Conditions de simulation | Variabilité dynamique des renouvelables | Fonctionnement dynamique à grande échelle | Test d’orchestration à faible latence |
| Indicateurs de performance | Taux d’acceptation, réduction de la congestion | Conformité en tension, vitesse de convergence | Performance globale de l’orchestration |
Tableau 2 : Validation expérimentale à grande échelle. Paramètres expérimentaux utilisés pour évaluer l'évolutivité, l'incertitude liée aux énergies renouvelables et la coordination décentralisée.