$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
QTSMixer-Methodik
Sei
eine multivariate Zeitreihe der Länge sl und der Anzahl der Kanäle c. Die multivariate Prognoseaufgabe ist definiert als die Vorhersage zukünftiger Werte
, die durch ein Prognosemodell
in einer gewissen Historie
versehen sind, das wie folgt formuliert werden kann:

Dabei
ist die Länge der Prognosesequenz und
gibt den Vorhersagewert an. In QTSMixer soll XL×C die ursprüngliche multivariate Zeitreihe der Länge L und die Anzahl der Kanäle c bezeichnen. Wir geben die multivariate Zeitreihe per Minibatch
ein, wobei sl ≤ L und b die Chargengröße ist. Wie in Abbildung 1 gezeigt, besteht das QTSMixer-Modell aus vier Komponenten: Normalisierung, Patch-Embedding, Mischen von Schichten und Prognosen. In der Trainingsphase wird der Verlust des Modells mit der Verlustfunktion
des mittleren quadratischen Fehlers () berechnet, um die beste Anpassung zu erzielen. Der QTSMixer kann charakterisiert werden wie folgt:

Dabei ist θ der trainierbare Parametervektor und wird durch den stochastischen Gradientenabstieg aktualisiert.

Abbildung 1: Die High-Level-Architektur von QTSMixer. Hier unterteilen wir QTSMixer in vier Komponenten: Normalisierung, Patch-Einbettung, Mischen von Schichten und Prognosen. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.
Als nächstes werden wir die Modellkomponenten von QTSMixer detailliert beschreiben.
Normalisierung
Der Vorwärtspropagierungsprozess von QTSMixer beginnt mit dem Empfang der eingegebenen Zeitreihendaten
. Zunächst werden die Eingabedaten durch den PatchTSMixer StandardScaler8 oder andere Scaler normalisiert und standardisiert, um die dimensionalen Unterschiede zwischen den Merkmalen zu beseitigen und die Stabilität der Datenleistung während des Trainings sicherzustellen.
Einbettung von Patches
Zunächst werden die standardisierten Zeitreihendaten durch das Patching-Modul in mehrere Segmente mit fester Länge (Patches) unterteilt. Dieses Modelldesign ist von Ekambaram et al.8 inspiriert, und die Fähigkeit, lokale Merkmale zu erfassen, wird durch die Aufteilung von Patches verbessert. Durch die Patch-Division kann QTSMixer effektiv mit komplexen Zeitreihen-Datenmustern umgehen, die Anzahl der Modelleingabe-Token reduzieren und bessere Ergebnisse in kürzerer Trainingszeit erzielen. Der Minibatch
wird umgeformt in
, wobei n die Anzahl der Patches und pl die Patchlänge angibt. Bezeichnen wir dann den Schritt des Patchens, dann
.
Um die Ausdruckskraft des Modells zu erhöhen, wird jedes Patch durch eine lineare Schicht auf einen höherdimensionalen Raum abgebildet. Dann werden die Daten durch lineare Transformation
umgeformt
, wobei hf die Anzahl der ausgeblendeten Merkmale ist. Die Gewichtsmatrix hat eine Dimension von pl × hf .
Schichten mischen
In diesem Teil werden die Patch-, Feature- und Kanaldimensionen durch mehrere Mischebenen gemischt. Basierend auf der Dimension, die in jeder Mixer-Ebene fokussiert ist, wird die Eingabe zunächst entsprechend permutiert, um die Korrelation entlang der fokussierten Dimension zu lernen. Anschließend werden die Informationen durch Layer-Normalisierung, MLP, QNN und Gated Attention (GA)-Mechanismus extrahiert, um umfassendere Merkmalsinformationen zu extrahieren.
In der Patch-Mischschicht wird die Eingabe zunächst umgeformt in
, wobei wir uns auf die Patch-Dimension (d. h. die letzte Dimension) konzentrieren, dann wird die Layer-Normalisierung durchgeführt. Danach verwendet dieses Modul ein gemeinsames MLP (Gewichtsdimension n × n), um die Korrelation zwischen verschiedenen Patches zu lernen. In der Zwischenzeit wird das QNN durch die Quanten-Re-Uploading-Technologie20 realisiert, um die Expressionsfähigkeit der Quantenschicht zu verbessern. Die Quantenschaltung in QNN hat insgesamt ql-Schichten , und die i-teSchicht enthält eine Codierungsschaltung Ux und einen Ansatz
, wobei θi der trainierbare Parametervektor und i = 1, 2, ..., ql ist. Nach einer gewichteten Additionsoperation erzeugt das Modell eine Hybridstruktur aus MLP und QNN, die wie
für die i-teKomponente der Patch-Dimension formuliert ist, um die Fähigkeiten zur Extraktion klassischer und Quantenmerkmale effektiv zu integrieren. Beachten Sie, dass αi hier ein trainierbarer Parameter mit einem Anfangswert von 0 ist, der angibt, wie stark das Quantenverhalten eingeführt wird. Schließlich skaliert der GA8 die dominanten Merkmale probabilistisch hoch und die unwichtigen Merkmale herunter. Die Feature-Mischschicht und die Kanalmischschicht funktionieren auf ähnliche Weise.
Nach mehreren Mischschichten werden die Daten als
verarbeitet.
Prognose
Im Forecasting-Layer werden die Daten zunächst in
umgeformt. Die zukünftigen Werte werden durch einen klassischen Vorhersagekopf8 vorhergesagt: Die kodierten Merkmale werden abgeflacht und in eine klassische lineare Schicht mit Dropout eingespeist, um eine Vorhersage
zukünftiger Werte zu erzeugen.
Experimentelle Ergebnisse
Wir führten eine detaillierte empirische Analyse des realen Datensatzes durch, d. h. des Long-Term Network Traffic Forecasting (LTNTF)-Datensatzes21, und drei weiterer beliebter öffentlicher Datensätze. Das erste Experiment basiert auf dem LTNTF-Datensatz21, der stündliche Verkehrsdaten und Feiertagsinformationen für die drei Städte A, B und C im realen Netz vom 1. Januar 2017 bis zum 20. Februar 2019 liefert. Die Aufgabe besteht darin, anhand von Verlaufsdaten ein geeignetes Modell zu erstellen, mit dem die stündlichen Verkehrswerte für jede Stadt für die nächsten 95 Tage vorhergesagt werden können. Die Einzigartigkeit des Datensatzes liegt in seiner Authentizität und Langfristigkeit und bietet detaillierte stündliche Netzwerkverkehrsdaten, die mehrere Städte über einen Zeitraum von mehr als 800 Tagen abdecken. Die experimentellen Ergebnisse sind in Tabelle 1, Abbildung 2 und Abbildung 3 zusammengefasst. Um das Experiment zu reproduzieren, beziehen Sie sich auf README.md in Experiment_1_LTNFT in der Zusatzdatei 1.
Tabelle 1: Leistungsvergleich zwischen QTSMixer und TSMixer im LTNTF-Datensatz. Hier werden MAPE und RMSE als Hauptauswertungsmetriken verwendet, und niedrigere Werte deuten auf eine bessere Leistung hin. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.

Abbildung 2: Vergleich der Vorhersageergebnisse von TSMixer und QTSMixer. Hier wählen wir nach dem Zufallsprinzip drei Stichproben aus drei Städten aus und geben den visuellen Vergleich zwischen den realen Werten und den vorhergesagten Werten von TSMixer und QTSMixer. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.

Abbildung 3: Vergleich der Vorhersageergebnisse eines Spezialfalls von TSMixer und QTSMixer. Hier werden die Stichproben mit den besten Leistungen von QTSMixer ausgewählt. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.
Das zweite Experiment basiert auf dem BasicTS+(Basic Time Series)22 Framework, das eine Benchmark-Bibliothek und Toolbox für die Vorhersage von Zeitreihen ist. Es unterstützt eine Vielzahl von Aufgaben und Datasets, z. B. räumlich-zeitliche Prognosen und lange Reihenprognosen, und deckt statistische Modelle, Machine Learning-Modelle, Deep-Learning-Modelle und andere Algorithmen ab. BasicTS+ bietet eine faire und umfassende Plattform für die Replikation und den Vergleich gängiger Deep-Learning-Modelle durch einen einheitlichen und standardisierten Prozess. Der BasicTS-Benchmark umfasst sieben sorgfältig kuratierte multivariate Zeitreihen-Datensätze (MTS), die sich über verschiedene reale Bereiche erstrecken, um eine rigorose Bewertung von Prognosemodellen zu ermöglichen. Die Sammlung umfasst Verkehrsdatensätze (PEMS04/08 für die Durchflussüberwachung), Aufzeichnungen über den Energieverbrauch (Electricity/Etth1/Ettm1), Wirtschaftsindikatoren (Wechselkurs) und Umweltmessungen (Beijing Air Quality). Die Versuchsergebnisse sind in Tabelle 2 dargestellt. Um das Experiment zu reproduzieren, beziehen Sie sich auf README.md in Experiment_2_Basicts in der Zusatzdatei 1.
Tabelle 2: Leistungsvergleiche zwischen QTSMixer und anderen Modellen auf verschiedenen Datensätzen des BasicTS+ Frameworks. Hier werden MAE, WAPE und RMSE als Bewertungsmetriken verwendet, und niedrigere Werte deuten auf eine bessere Leistung hin. Die Modelle mit ähnlicher Parameteranzahl werden gruppiert. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.
Das dritte Experiment beinhaltet eine vergleichende Analyse zwischen dem Quantensimulator und einem realen Quantencomputer. In diesem Experiment wird die Leistung von Qiskit und dem DQ-Framework verglichen, indem die jeweiligen Implementierungen von QTSMixer ausgewertet werden. Die Genauigkeit und Ausführungseffizienz beider Frameworks bei Prognoseaufgaben wurde bewertet. In diesem Experiment kommt der supraleitende Quantencomputer ibm_brisbane zum Einsatz. Die experimentellen Ergebnisse sind in Abbildung 4 und Tabelle 3 dargestellt. Um das Experiment zu reproduzieren, beziehen Sie sich auf README.md in Experiment_3_Qiskit in der Zusatzdatei 1.

Abbildung 4: Vergleich der Vorhersageergebnisse von Qiskit (auf Quantenhardware) und DQ (auf dem Simulator). Vergleich zwischen tatsächlichen Werten und Vorhersagen mit Vorhersagen, die aus Qiskit- und DQ-Experimenten abgeleitet wurden. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.
Tabelle 3: Leistungsvergleich von QTSMixer zwischen Quantenhardware und Simulationsexperimenten. Hier werden MAPE und RMSE als Hauptauswertungsmetriken verwendet, und niedrigere Werte deuten auf eine bessere Leistung hin. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.