Un modèle hybride quantique-classique pour la prédiction du trafic réseau à long terme

Résumé

QTSMixer, un modèle hybride quantique-classique, améliore la prédiction du trafic réseau en s’attaquant aux limites de TSMixer en matière de signaux périodiques et de prévisions à long terme. Il introduit des composants de réseau neuronal quantique contrôlés par des paramètres entraînables, surpassant TSMixer de 6,72 % dans les prédictions à long terme sur des données du monde réel.

Résumé

La prédiction du trafic réseau, une application essentielle de l’analyse des séries chronologiques, est essentielle pour la gestion et l’optimisation du réseau. Des modèles statistiques traditionnels et des méthodes d’apprentissage automatique ont été utilisés pour la prédiction du trafic réseau, où les progrès récents des architectures de mélangeur de perception multicouches, en particulier TSMixer, ont atteint des performances de pointe. Cependant, TSMixer est confronté à des défis avec des signaux périodiques et des prédictions à long terme. Pour remédier à ces limitations, nous proposons un modèle TSMixer quantique (QTSMixer), une approche hybride quantique-classique qui exploite les réseaux de neurones quantiques pour améliorer l’extraction de caractéristiques liées aux signaux périodiques et aux dépendances à long terme. En introduisant des paramètres entraînables pour contrôler la force des composants quantiques, la structure hybride de la perception multicouche et du réseau neuronal quantique est générée. Le potentiel d’application inter-domaines et la capacité d’application pratique de QTSMixer sont démontrés par une analyse empirique sur des ensembles de données du monde réel, dans lesquels QTSMixer surpasse TSMixer de 6,72 % dans l’ensemble de données de prédiction du trafic réseau à long terme. À l’avenir, le développement de QTSMixer pourra être exploré davantage dans d’autres domaines, tels que l’analyse des marchés financiers et les prévisions météorologiques.

Introduction

La prédiction du trafic réseau (NTP)^1,2,3, en tant qu’application essentielle de l’analyse des séries chronologiques ^4,5, consiste à analyser les données historiques du trafic réseau pour identifier les modèles et les tendances, prévoyant ainsi les changements de trafic futurs. Il est crucial pour la gestion et l’optimisation du réseau, car il peut aider les opérateurs de réseau dans l’allocation des ressources, le diagnostic des pannes, la surveillance de la sécurité et l’assurance de la qualité de service. Le problème NTP a été bien étudié par des modèles statistiques et des méthodes d’apprentissage automatique³. Récemment, les architectures basées sur le mélangeur de perception multicouche (MLP-Mixer)^6,7 sont devenues populaires pour NTP en raison de leur puissante capacité à capturer des dépendances de séries chronologiques multivariées. Parmi eux, TSMixer⁸ se distingue par sa vitesse exceptionnelle et sa conception légère et a atteint des performances SOTA (State-Of-The-Art) sur des ensembles de données de référence⁹. TSMixer peut mieux capturer la dépendance temporelle et la corrélation entre les caractéristiques grâce au fonctionnement hybride des dimensions temporelles et fonctionnelles. Cependant, TSMixer présente les deux inconvénients suivants. Tout d’abord, il n’est pas adapté pour traiter des signaux périodiques. Les signaux périodiques sont stables, résistants aux interférences et faciles à analyser, ce qui les rend très précieux dans les systèmes de communication, les systèmes d’alimentation et les systèmes de contrôle. Étant donné que TSMixer est basé sur MLP dont le prototype mathématique est une fonction apériodique, TSMixer convient au traitement de signaux apériodiques mais ne convient pas bien au traitement de signaux périodiques. Deuxièmement, il ne fonctionne pas bien lorsqu’il s’agit de faire des prédictions à long terme, car il est entravé par les limites actuelles de la mémoire de l’ordinateur et l’accumulation d’erreurs dans la prédiction. À l’heure actuelle, la plupart des modèles ont de mauvaises performances pour traiter la prédiction de séries chronologiques à long terme. Il s’agit d’un problème urgent qui doit être résolu dans le domaine de la prédiction de séries chronologiques. Bien que TSMixer ait obtenu de bons résultats, il reste encore place à l’amélioration. Par conséquent, il est très important de rechercher de nouvelles stratégies pour éviter ces inconvénients.

L’informatique quantique¹⁰ est un nouveau paradigme informatique basé sur les lois de la mécanique quantique, qui peut traiter d’énormes quantités de données à la fois efficacement et en toute sécurité. Les réseaux neuronaux quantiques (QNN)11,12,13 sont un type de modèle informatique qui combine l’informatique quantique et les réseaux neuronaux classiques, qui ont un large éventail d’applications dans le traitement d’images, la reconnaissance vocale et la prédiction des maladies. Ils exploitent les propriétés de l’informatique quantique, telles que la superposition et l’intrication, pour traiter l’information et effectuer des tâches d’apprentissage automatique, ce qui permet de meilleures simulations, des calculs plus rapides ou un avantage quantique en termes de performances du réseau. Récemment, certaines approches ont été étudiées dans le domaine QNN pour les prévisions de séries chronologiques 14,15,16,17,18,19. Les modèles de séries chronologiques quantiques peuvent surpasser les modèles traditionnels en termes de précision de prédiction et d’efficacité de calcul, en particulier lorsqu’il s’agit de données multidimensionnelles complexes. D’une part, QNN peut être exprimé sous la forme d’une série de Fourier, qui est une fonction périodique et convient au traitement de signaux périodiques ; d’autre part, certaines applications de QNN dans des séries chronologiques ont été couronnées de succès. Par conséquent, il est très intéressant d’explorer le rôle de QNN dans le NTP, en particulier le NTP à long terme.

Protocole

Méthodologie QTSMixer

Soit une série temporelle multivariée de longueur sl et de nombre de canaux c. La tâche de prévision multivariée est définie comme la prédiction de valeurs futures compte tenu d’un certain historique par un modèle de prévision , qui peut être formulé comme suit :

Où est la longueur de la séquence de prévision et désigne la valeur de prédiction. Dans QTSMixer, soit X_L×C la série temporelle multivariée d’origine de longueur L et le nombre de canaux c. Nous saisissons la série chronologique multivariée par mini-lot , où sl ≤ L et b est la taille du lot. Comme le montre la figure 1, le modèle QTSMixer se compose de quatre composants : la normalisation, l’intégration de patchs, le mélange des couches et la prévision. Dans la phase d’entraînement, la perte du modèle est calculée par la fonction de perte d’erreur quadratique moyenne (MSE) pour obtenir le meilleur ajustement. Le QTSMixer peut être caractérisé comme

Où θ est le vecteur de paramètre pouvant être entraîné et est mis à jour par la descente de gradient stochastique.

Figure 1 : L’architecture de haut niveau de QTSMixer. Ici, nous divisons QTSMixer en quatre composants : la normalisation, l’intégration de patchs, le mélange des couches et la prévision. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Ensuite, nous détaillerons les composants du modèle de QTSMixer.

Normalisation

Le processus de propagation vers l’avant de QTSMixer commence par la réception des données de série chronologique d’entrée. Tout d’abord, les données d’entrée sont normalisées et normalisées par le PatchTSMixer StandardScaler⁸ ou d’autres scalers afin d’éliminer les différences dimensionnelles entre les fonctionnalités et de garantir la stabilité des performances des données pendant l’entraînement.

Intégration de correctifs

Tout d’abord, les données de séries chronologiques normalisées sont divisées en plusieurs segments de longueur fixe (patchs) via le module de patching. La conception de ce modèle est inspirée d’Ekambaram et ^al.8, et la capacité à capturer les caractéristiques locales est améliorée grâce à la division des patchs. Grâce à la division des correctifs, QTSMixer peut gérer efficacement des modèles de données de séries chronologiques complexes, réduire le nombre de jetons d’entrée de modèle et obtenir de meilleurs résultats dans un temps d’entraînement plus court. Le mini-lot est remodelé en , où n est le nombre de patchs et pl désigne la longueur du patch. Soit s la foulée de patching, alors .

Pour augmenter la puissance expressive du modèle, chaque patch est mappé à un espace de dimension supérieure par le biais d’une couche linéaire. Ensuite, les données sont remodelées par transformation linéaire , où hf est le nombre de caractéristiques cachées. La matrice de poids a une dimension de pl × hf .

Mélange des couches

Dans cette partie, les dimensions du patch, de la fonction et du canal sont mélangées à travers plusieurs couches de mixage. En fonction de la dimension mise au point dans chaque couche de mixage, l’entrée est d’abord permutée en conséquence pour apprendre la corrélation le long de la dimension ciblée. Ensuite, les informations sont extraites par la normalisation de couche, MLP, QNN et le mécanisme d’attention fermée (GA) pour extraire des informations plus complètes sur les caractéristiques.

Dans la couche de mixage de patch, l’entrée est d’abord remodelée en , dans laquelle nous nous concentrons sur la dimension du patch (c’est-à-dire la dernière dimension), puis la normalisation de la couche est effectuée. Ensuite, ce module utilise un MLP partagé (dimension de poids n × n) pour apprendre la corrélation entre les différents patchs. Pendant ce temps, le QNN est réalisé par la technologie de re-téléchargement quantique²⁰ pour améliorer la capacité d’expression de la couche quantique. Le circuit quantique dans QNN a un total de couches ql , et la ièmecouche contient un circuit de codage U_x et un ansatz , où θ_i est le vecteur de paramètre entraînable et i = 1, 2, ..., ql. Suite à une opération d’addition pondérée, le modèle produit une structure hybride de MLP et de QNN, formulée comme pour le ièmecomposant de la dimension patch, afin d’intégrer efficacement les capacités d’extraction de caractéristiques classiques et quantiques. Notez qu’ici α_i est un paramètre entraînable avec une valeur initiale de 0, ce qui indique la force avec laquelle le comportement quantique est introduit. Enfin, le GA⁸ augmente de manière probabiliste les caractéristiques dominantes et réduit les caractéristiques sans importance. La couche de mixage de fonctions et la couche de mixage de canaux fonctionnent de la même manière.

Après plusieurs couches de mélange, les données sont traitées comme .

Prévision

Dans la couche de prévision, les données sont d’abord remodelées en . Les valeurs futures sont prédites à l’aide d’une tête de prédiction classique⁸ : les caractéristiques codées sont aplaties et introduites dans une couche linéaire classique avec abandon pour générer une prédiction des valeurs futures.

Résultats expérimentaux

Nous avons effectué une analyse empirique détaillée de l’ensemble de données du monde réel, c’est-à-dire l’ensemble de données LTNTF (Long-Term Network Traffic Forecasting)²¹ et trois autres ensembles de données publics populaires. La première expérience est basée sur l’ensemble de données LTNTF²¹, qui fournit des données de trafic horaire et des informations sur les jours fériés pour trois villes A, B et C, dans le réseau réel du 1er janvier 2017 au 20 février 2019. La tâche consiste à utiliser des données historiques pour construire un modèle approprié afin de prédire les valeurs de trafic horaire pour chaque ville pour les 95 prochains jours. L’unicité de l’ensemble de données réside dans son authenticité et sa nature à long terme, offrant des données horaires détaillées sur le trafic du réseau couvrant plusieurs villes pendant plus de 800 jours. Les résultats expérimentaux sont résumés dans le tableau 1, la figure 2 et la figure 3. Pour reproduire l’expérience, reportez-vous à README.md en Experiment_1_LTNFT dans le fichier supplémentaire 1.

Tableau 1 : Comparaison des performances entre QTSMixer et TSMixer dans l’ensemble de données LTNTF. Ici, la MAPE et la RMSE sont utilisées comme principales mesures d’évaluation, et des valeurs inférieures indiquent de meilleures performances. Veuillez cliquer ici pour télécharger ce tableau.

Figure 2 : Comparaison des résultats de prédiction de TSMixer et de QTSMixer. Ici, nous sélectionnons au hasard trois échantillons dans trois villes et donnons la comparaison visuelle entre les valeurs réelles et les valeurs prédites de TSMixer et QTSMixer. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Figure 3 : Comparaison des résultats de prédiction d’un cas particulier de TSMixer et de QTSMixer. Ici, les échantillons avec les meilleures performances de QTSMixer sont sélectionnés. Veuillez cliquer ici pour voir une version agrandie de cette figure.

La deuxième expérience est basée sur le cadre BasicTS+ (Basic Time Series)^22, qui est une bibliothèque de référence et une boîte à outils pour la prévision de séries chronologiques. Il prend en charge une variété de tâches et d’ensembles de données, tels que les prévisions spatio-temporelles et les prévisions de longues séries, et couvre les modèles statistiques, les modèles d’apprentissage automatique, les modèles d’apprentissage profond et d’autres algorithmes. BasicTS+ fournit une plate-forme équitable et complète pour la réplication et la comparaison de modèles d’apprentissage profond populaires grâce à un processus unifié et standardisé. Le benchmark BasicTS comprend sept ensembles de données de séries chronologiques multivariées (MTS) soigneusement sélectionnés couvrant divers domaines du monde réel pour permettre une évaluation rigoureuse des modèles de prévision. La collection comprend des ensembles de données sur le trafic (PEMS04/08 pour la surveillance des flux), des enregistrements de consommation d’énergie (Electricity/Etth1/Ettm1), des indicateurs économiques (Exchange-Rate) et des mesures environnementales (Beijing Air Quality). Les résultats expérimentaux sont présentés dans le tableau 2. Pour reproduire l’expérience, reportez-vous à README.md en Experiment_2_Basicts dans le fichier supplémentaire 1.

Tableau 2 : Comparaisons de performances entre QTSMixer et d’autres modèles sur divers ensembles de données du framework BasicTS+. Ici, MAE, WAPE et RMSE sont utilisés comme métriques d’évaluation, et des valeurs inférieures indiquent de meilleures performances. Les modèles avec des nombres de paramètres similaires sont regroupés. Veuillez cliquer ici pour télécharger ce tableau.

La troisième expérience consiste en une analyse comparative entre le simulateur quantique et un ordinateur quantique réel. Cette expérience compare les performances de Qiskit et du framework DQ en évaluant leurs implémentations respectives de QTSMixer. La précision et l’efficacité d’exécution des deux cadres dans les tâches de prévision ont été évaluées. L’ordinateur quantique supraconducteur, ibm_brisbane, est utilisé dans cette expérience. Les résultats expérimentaux sont présentés à la figure 4 et au tableau 3. Pour reproduire l’expérience, reportez-vous à README.md en Experiment_3_Qiskit dans le fichier supplémentaire 1.

Figure 4 : Comparaison des résultats de prédiction de Qiskit (sur le matériel quantique) et de DQ (sur le simulateur). Comparaison entre les valeurs réelles et les prédictions, avec des prédictions dérivées des expériences Qiskit et DQ. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Tableau 3 : Comparaison des performances de QTSMixer entre le matériel quantique et les expériences de simulation. Ici, le MAPE et le RMSE sont utilisés comme principales métriques d’évaluation, et des valeurs inférieures indiquent de meilleures performances. Veuillez cliquer ici pour télécharger ce tableau.

Résultats

Nous avons effectué une analyse empirique détaillée sur certains ensembles de données. La première expérience est basée sur l’ensemble de données LTNTF. Les trois villes présentaient des modèles distincts de distribution des données : la ville A présentait un point bas significatif dans la circulation au début de l’année ; La ville B a maintenu des valeurs relativement élevées au cours de la même période, tandis que la ville C a affiché une répartition plus équilibrée tout au long de l’a...

Discussion

Dans cet article, nous avons proposé QTSMixer pour le NTP à long terme, qui est une nouvelle approche hybride quantique-classique avec des améliorations de la précision et de l’adaptabilité inter-domaines. Cette étude élargit non seulement le potentiel d’application de l’informatique quantique dans la prédiction de séries chronologiques, mais indique également la direction de son déploiement futur sur du matériel quantique réel. Cependant, l’architecture hybride quantique-classique actuelle présente une capacité limitée ...

Matériaux

Liste des matériaux utilisés dans cet article

Nom	Entreprise	Numéro de catalogue	Commentaires
DeepQuantum	TuringQ Co., Ltd.	https://deepquantum.turingq.com/	Un cadre de programmation efficace pour l’apprentissage automatique quantique et l’informatique quantique optique développé par TuringQ.
Qiskit	IBM	https://www.ibm.com/quantum/qiskit	Un SDK open source pour travailler avec des ordinateurs quantiques au niveau des circuits quantiques étendus, des opérateurs et des primitives.
ibm_brisbane	IBM	https://quantum.ibm.com/ L’ordinateur	quantique supraconducteur de la famille IBM Quantum Eagle.
Ensemble de données LTNTF	China Mobile	https://jiutian.10086.cn/open/#/dataset/710012?platform=OpenInnovation	L’ensemble de données provient de la plate-forme Jiutian AI de China Mobile.
python3.10	Python Software Foundation	https://www.python.org/downloads/release/python-3100/
technologie de re-téléchargement quantique	Pé ; rez-Salinas, A., Cervera-Lierta, A., Gil-Fuster, E., Latorre, J. I. Re-téléchargement de données pour un classificateur quantique universel. Quantum. 4 226 (2019).
cadre BasicTS+	Shao, Z. et al. Explorer les progrès de la prévision de séries chronologiques multivariées : analyse comparative complète et analyse d’hétérogénéité. Transactions IEEE sur l’ingénierie des connaissances et des données. 37 291-305 (2023).	arXiv :2310.06119v2
GPU A100	NVIDIA		80G GPU
Transformers	Hugging Face	https://huggingface.co/	La plate-forme où la communauté d’apprentissage automatique collabore sur des modèles, des ensembles de données et des applications.