研究文章

用于长期网络流量预测的量子经典混合模型

DOI：

10.3791/68229

⸱

2025年6月27日

 ,  ,  ,  ,  ,  , 
1China Mobile Research Institute, 2TuringQ Co., Ltd.

本文内容

摘要

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

QTSMixer 是一种混合量子经典模型，通过解决 TSMixer 在周期信号和长期预测方面的局限性来增强网络流量预测。它引入了由可训练参数控制的量子神经网络组件，在对真实数据的长期预测中，其性能比 TSMixer 高出 6.72%。

摘要

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

网络流量预测是时间序列分析的关键应用，对于网络管理和优化至关重要。传统的统计模型和机器学习方法已被用于网络流量预测，其中多层感知混合器架构的最新进展，特别是 TSMixer，已经实现了最先进的性能。然而，TSMixer 面临着周期性信号和长期预测方面的挑战。为了解决这些限制，我们提出了一个 Quantum TSMixer （QTSMixer） 模型，这是一种混合量子经典方法，它利用量子神经网络来增强与周期信号和长期依赖性相关的特征提取。通过引入可训练参数来控制量子分量的强度，生成了多层感知和量子神经网络的混合结构。通过对真实数据集的实证分析，证明了 QTSMixer 的跨域应用潜力和实际应用能力，其中 QTSMixer 在长期网络流量预测数据集中优于 TSMixer 6.72%。未来，QTSMixer 的发展可以在其他领域进一步探索，例如金融市场分析和天气预报。

引言

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

网络流量预测 （NTP）1,2,3 作为时间序列分析 4,5 的重要应用，涉及分析历史网络流量数据以识别模式和趋势，从而预测未来的流量变化。它对于网络管理和优化至关重要，因为它可以帮助网络运营商进行资源分配、故障诊断、安全监控和服务质量保证。NTP 问题已经通过统计模型和机器学习方法进行了很好的研究3。最近，基于多层感知混合器 （MLP-Mixer）6,7 的架构因其捕获多变量时间序列依赖关系的强大能力而在 NTP 中越来越受欢迎。其中，TSMixer8 以其卓越的速度和轻量级设计脱颖而出，并在基准测试数据集上达到了最先进的 （SOTA） 性能9。TSMixer 可以通过时间和特征维度的混合运算更好地捕捉时间依赖性和特征之间的相关性。但是，TSMixer 有以下两个缺点。首先，它不适合处理周期性信号。周期信号稳定、抗干扰且易于分析，使其在通信、电力系统和控制系统中极具价值。由于 TSMixer 基于 MLP，其数学原型是非周期函数，因此 TSMixer 适合处理非周期信号，但不适合处理周期信号。其次，它在进行长期预测时表现不佳，因为它受到当前计算机内存限制和预测误差积累的阻碍。目前，大多数模型在处理长期时间序列预测方面表现不佳。这是时间序列预测领域亟待解决的问题。尽管 TSMixer 取得了不错的成绩，但仍有改进的空间。因此，寻求新的策略来避免这些弊端具有重要意义。

量子计算10 是一种基于量子力学定律的新计算范式，可以高效、安全地处理大量数据。量子神经网络 （QNNs）11,12,13 是一种结合了量子计算和经典神经网络的计算模型，在图像处理、语音识别和疾病预测方面有着广泛的应用。它们利用量子计算的特性（例如叠加和纠缠）来处理信息并执行机器学习任务，从而获得更好的模拟、更快的计算或在网络性能方面获得量子优势。最近，在 QNN 领域研究了一些方法，用于时间序列预测14、15、16、17、18、19。量子时间序列模型在预测精度和计算效率方面可以超越传统模型，尤其是在处理复杂的多维数据时。一方面，QNN 可以表示为傅里叶级数，它是一个周期函数，适合处理周期信号;另一方面，QNN 在时间序列中的一些应用也取得了成功。因此，探索 QNN 在 NTP 中的作用，尤其是长期 NTP 具有极大的兴趣。

访问受限。请登录或开始试用以查看此内容。

方案

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

QTSMixer 方法

设 figure-protocol-1 为长度为 sl 且通道数为 c 的多元时间序列。多变量预测任务定义为预测预测模型给定一些历史记录figure-protocol-2figure-protocol-3的未来值，该模型figure-protocol-4可以表述为

figure-protocol-5

其中 figure-protocol-6 是预测序列长度， figure-protocol-7 表示预测值。在 QTSMixer 中，设 XL×C 表示长度为 L 的原始多元时间序列和通道数 c。我们通过 minibatch figure-protocol-8 输入多变量时间序列，其中 sl ≤ L 和 b 是批量大小。如图 1 所示，QTSMixer 模型由四个部分组成：归一化、补丁嵌入、混合层和预测。在训练阶段，通过均方误差 （MSE） 损失函数 figure-protocol-9 计算模型的损失，以实现最佳拟合。QTSMixer 可以表征为

figure-protocol-10

其中 θ 是可训练的参数向量，由随机梯度下降更新。

figure-protocol-11
图 1：QTSMixer 的高级架构。 在这里，我们将 QTSMixer 分为四个部分：归一化、补丁嵌入、混合层和预测。 请单击此处查看此图的较大版本。

接下来，我们将详细介绍 QTSMixer 的模型组件。

正常化

QTSMixer 的正向传播过程从接收输入时间序列数据 figure-protocol-12 开始。首先，通过 PatchTSMixer StandardScaler8 或其他缩放器对输入数据进行归一化和标准化，以消除特征之间的维度差异，保证训练过程中数据性能的稳定性。

补丁嵌入

首先，通过修补模块将标准化的时间序列数据划分为多个固定长度的 Segment（补丁）。此模型设计的灵感来自 Ekambaram 等人 8，通过划分补丁提高了捕获局部特征的能力。通过补丁划分，QTSMixer 可以有效处理复杂的时间序列数据模式，减少模型输入标记的数量，并在更短的时间内获得更好的结果。小批量 figure-protocol-13 被重塑为 figure-protocol-14，其中 n 是补丁的数量， pl 表示补丁长度。设 s 表示修补的步幅，则 figure-protocol-15 。

为了提高模型的表现力，每个补丁都通过线性层映射到更高维的空间。然后，通过线性变换figure-protocol-16将数据重塑为 figure-protocol-17 ，其中 hf 是隐藏特征的数量。权重矩阵的维度为 pl × hf 。

混合层

在这部分，patch、feature 和 channel 维度通过多个混合层进行混合。根据每个 mixer 层中聚焦的维度，首先对 input 进行相应的排列，以学习沿聚焦维度的相关性。然后，通过层归一化、MLP、QNN 和门控注意力 （GA） 机制提取信息，以提取更全面的特征信息。

在补丁混合层中，首先将输入重塑为 figure-protocol-18 ，其中我们专注于补丁维度（即最后一个维度）;然后，执行层归一化。之后，该模块使用共享的 MLP （权重维度 n × n） 来学习不同补丁之间的相关性。同时，通过量子再上传技术20 实现 QNN，以增强量子层的表达能力。QNN 中的量子电路总共有 ql 层，第 i层包含一个编码电路 Ux 和一个 ansatz figure-protocol-19，其中 θi 是可训练的参数向量， i = 1， 2， ...， ql。在加权加法运算之后，该模型产生 MLP 和 QNN 的混合结构，公式化为 figure-protocol-20 补丁维度的第 i个分量，以有效地集成经典和量子特征提取能力。请注意，此处 αi 是一个初始值为 0 的可训练参数，它表示引入量子行为的强度。最后，GA8 概率性地放大了主要特征并缩小了不重要的特征。Feature Mixing 层和 Channel Mixing 层的工作方式类似。

在多个混合层之后，数据将作为 figure-protocol-21处理。

预测

在预测层中，数据首先被重塑为 figure-protocol-22。未来值是通过经典预测头8 预测的 - 编码特征被展平并馈送到具有 dropout 的经典线性层中，以生成对未来值的预测 figure-protocol-23 。

实验结果

我们对真实世界数据集，即长期网络流量预测 （LTNTF） 数据集21 和其他三个流行的公共数据集进行了详细的实证分析。第一个实验基于 LTNTF 数据集21，该数据集提供 2017 年 1 月 1 日至 2019 年 2 月 20 日三个城市 A、B 和 C 在实际网络中每小时的交通数据和假期信息。任务是使用历史数据构建适当的模型，以预测未来 95 天内每个城市的每小时流量值。该数据集的独特性在于其真实性和长期性，提供了 800 多天覆盖多个城市的详细每小时网络流量数据。实验结果总结于 表 1、 图 2 和 图 3 中。要重现实验，请参阅 补充文件 1 中 Experiment_1_LTNFT 中的 README.md。

表 1：LTNTF 数据集中 QTSMixer 和 TSMixer 的性能比较。 此处，MAPE 和 RMSE 用作主要评估指标，值越低表示性能越好。 请点击此处下载此表格。

figure-protocol-24
图 2：TSMixer 和 QTSMixer 的预测结果比较。 在这里，我们从三个城市随机选择三个样本，并给出 TSMixer 和 QTSMixer 的真实值和预测值之间的视觉比较。 请单击此处查看此图的较大版本。

figure-protocol-25
图 3：TSMixer 和 QTSMixer 特殊情况的预测结果比较。 这里选择了 QTSMixer 性能最好的样本。 请单击此处查看此图的较大版本。

第二个实验基于 BasicTS+（Basic Time Series）22 框架，该框架是用于时间序列预测的基准库和工具箱。它支持各种任务和数据集，例如时空预测和长序列预测，并涵盖统计模型、机器学习模型、深度学习模型和其他算法。BasicTS+ 通过统一和标准化的流程为流行的深度学习模型的复制和比较提供了一个公平而全面的平台。BasicTS 基准测试包括 7 个精心策划的多变量时间序列 （MTS） 数据集，跨越不同的现实世界领域，以便对预测模型进行严格评估。该集合包括交通数据集（用于流量监控的 PEMS04/08）、能源消耗记录（电力/Etth1/Ettm1）、经济指标（汇率）和环境测量（北京空气质量）。实验结果如 表 2 所示。要重现实验，请参阅 补充文件 1 中 Experiment_2_Basicts 中的 README.md。

表 2：QTSMixer 和其他模型在 BasicTS+ 框架的各种数据集上的性能比较。 这里使用 MAE、WAPE 和 RMSE 作为评估指标，值越低表示性能越好。对参数计数相似的模型进行分组。 请点击此处下载此表格。

第三个实验涉及量子模拟器和真实量子计算机之间的比较分析。本实验通过评估 Qiskit 和 DQ 框架各自的 QTSMixer 实现来比较它们的性能。评估了两个框架在预测任务中的准确性和执行效率。本实验中使用了超导量子计算机 ibm_brisbane。实验结果如图 4 和 表 3 所示。要重现实验，请参阅 补充文件 1 中 Experiment_3_Qiskit 中的 README.md。

figure-protocol-26
图 4：Qiskit（在量子硬件上）和 DQ（在模拟器上）的预测结果比较。 实际值与预测之间的比较，以及从 Qiskit 和 DQ 实验派生的预测。 请单击此处查看此图的较大版本。

表 3：QTSMixer 在量子硬件和模拟实验之间的性能比较。 在这里，MAPE 和 RMSE 用作主要评估指标，值越低表示性能越好。 请点击此处下载此表格。

访问受限。请登录或开始试用以查看此内容。

结果

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

我们对一些数据集进行了详细的实证分析。第一个实验基于 LTNTF 数据集。这三个城市表现出不同的数据分布模式：城市 A 在年初的交通流量出现了明显的低点;城市 B 在同一时期保持了相对较高的值，而城市 C 全年的分布更加均衡，详见 补充图 S1、 补充图 S2 和 补充图 S3 。实验结果总结在 表 1 中，其中量子电路模块由 DeepQuantum （DQ） 框架实现。模型预测被非规范化，平均绝对百分比误差 （MAPE） 和均方根误差 （RMSE） 被用作主要评估指标。与经典模型相比，QTSMixer 模型在测试集上表现出更强的泛化能力，比 TSMixer 高出 6.72%。在 图 2 和 图 3 中，预测值和实际值...

访问受限。请登录或开始试用以查看此内容。

讨论

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

在本文中，我们提出了用于长期 NTP 的 QTSMixer，这是一种新颖的量子-经典混合方法，在准确性和跨域适应性方面有所提高。这项研究不仅拓展了量子计算在时间序列预测中的应用潜力，也为其未来在真实量子硬件上的部署指明了方向。然而，目前的量子-经典混合架构在处理外生变量方面表现出有限的能力。未来的改进可以包含一个通道混合器模块，以增强跨变量信息提取，同时保持量子效率。

在这里，基于 QNN 和 MLP 的 QTSMixer 模型在处理 NTP 问题时比 TSMixer 具有更高的预测精度。据我们所知，QTSMixer 是第一个用于长期 NTP 的量子-经典混合模型。

量子经典混合架构：
QTSMixer 采用混合量子经典架构。在 QTSMixer 中，量子处理层嵌入在传统的时间序列模型中。这些量子层更擅长提取与数据中的周期信号和长期依赖关系相关的特征。

跨领域应用潜力：
QTSMixer 的设...

访问受限。请登录或开始试用以查看此内容。

披露

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

作者声明他们没有相互竞争的经济利益。

致谢

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

我们感谢 Yulin Chi、Gang 习 Wang、Xinying Li、Xin Yi 和 Fei Wang 的深刻讨论。

访问受限。请登录或开始试用以查看此内容。

材料

本文使用的材料清单
姓名公司目录编号评论
DeepQuantumTuringQ Co.， Ltd.https://deepquantum.turingq.com/由 TuringQ 开发的用于量子机器学习和光量子计算的高效编程框架。
QiskitIBMhttps://www.ibm.com/quantum/qiskit一个开源 SDK，用于在扩展量子电路、运算符和基元级别使用量子计算机。
ibm_brisbaneIBMhttps://quantum.ibm.com/IBM Quantum Eagle 系列中的超导量子计算机。
LTNTF 数据集中国移动https://jiutian.10086.cn/open/#/dataset/710012?platform=OpenInnovation该数据集来自中国移动的九天人工智能平台。
python3.10Python 软件基金会https://www.python.org/downloads/release/python-3100/
量子重上传技术Pérez-Salinas， A.， Cervera-Lierta， A.， Gil-Fuster， E.， Latorre， J. I. 通用量子分类器的数据重新上传。量子。4 226 （2019 年）。
BasicTS+ 框架Shao， Z. et al. 探索多变量时间序列预测的进展：综合基准测试和异质性分析。IEEE 知识与数据工程汇刊。37 291-305 （2023 年）。arXiv：2310.06119v2
GPU A100NVIDIA80G GPU
变形金刚Hugging Facehttps://huggingface.co/机器学习社区在模型、数据集和应用程序方面进行协作的平台。
公司https://doi.org/10.22331/q-2020-02-06-226

参考文献

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,
  1. Joshi, M., Theyazn, H. H. A review of network traffic analysis and prediction techniques. arXiv preprint. , (2015).
  2. Ferreira, G. O., Ravazzi, C., Dabbene, F., Calafiore, G. C., Fiore, M. Forecasting network traffic: A survey and tutorial with open-source comparative evaluation. IEEE Access. 11, 6018-6044 (2023).
  3. Weiwei, J. Cellular traffic prediction with machine learning: A survey. Expert Syst Appl. 201, 117163(2022).
  4. Wei, W. W. S. Multivariate time series analysis and applications. , John Wiley & Sons. (2019).
  5. Multivariate time series forecasting: A review. Mendis, K., Wickramasinghe, M., Marasinghe, P. CVIPPR 2024: 2024 2nd Asia Conference on Computer Vision, Image Processing and Pattern Recognition, , (2024).
  6. Zheng, Y., Dang, Z., Peng, C., Yang, C., Gao, X. Multi-view multi-label anomaly network traffic classification based on MLP-mixer neural network. arXiv preprint. , (2022).
  7. Tolstikhin, I. O., et al. MLP-mixer: An all-MLP architecture for vision. arXiv preprint. , (2021).
  8. Ekambaram, V., Jati, A., Nguyen, N., Sinthong, P., Kalagnanam, J. TSMixer: Lightweight MLP-Mixer Model for Multivariate Time Series Forecasting. arXiv. , (2023).
  9. Ekambaram, V., et al. Tiny time mixers (ttms): Fast pre-trained models for enhanced zero/few-shot forecasting of multivariate time series. arXiv preprint. ArXiv. , (2024).
  10. Nielsen, M. A., Chuang, I. L. Quantum computation and quantum information: 10th Anniversary Edition. , Cambridge: Cambridge University Press. (2010).
  11. Beer, K., et al. Training deep quantum neural networks. Nat Commun. 11 (1), 808(2020).
  12. Amira, A., et al. The power of quantum neural networks. Nat Comput Sci. 1, 403-409 (2020).
  13. Cong, I., Choi, S., Lukin, M. D. Quantum convolutional neural networks. Nat Phys. 15 (12), 1273-1278 (2019).
  14. Padha, A., Sahoo, A. Quantum deep neural networks for time series analysis. Quantum Inf Process. 23 (6), 205(2024).
  15. Evolving Hybrid Quantum-Classical GRU Architectures for Multivariate Time Series. De Falco, F., Lavagna, L., Ceschini, A., Rosato, A., Panella, M. 2024 IEEE 34th International Workshop on Machine Learning for Signal Processing (MLSP), , IEEE. 1-6 (2024).
  16. Hybrid quantum-classical recurrent neural networks for time series prediction. Ceschini, A., Rosato, A., Panella, M. in 2022 international joint conference on neural networks (IJCNN), , IEEE. 1-8 (2022).
  17. Huang, W., Zhang, J., Liang, S., Sun, H. Backbone network traffic prediction based on modified eemd and quantum neural network. Wirel Pers Commun. 99 (4), 1569-1588 (2018).
  18. Zhang, K., Liang, L., Huang, Y. A Network traffic prediction model based on quantum inspired PSO and neural network. 2013 Sixth International Symposium on Computational Intelligence and Design. 2, 219-222 (2013).
  19. Rivera-Ruiz, M. A., Mendez-Vazquez, A., López-Romero, J. M. Time series forecasting with quantum machine learning architectures. Advances in Computational Intelligence. , Springer Nature Switzerland. 66-82 (2022).
  20. Pérez-Salinas, A., Cervera-Lierta, A., Gil-Fuster, E., Latorre, J. I. Data re-uploading for a universal quantum classifier. Quantum. 4, 226(2020).
  21. Mobile, C. Long-term network traffic forecasting. , (2023).
  22. Shao, Z., et al. Exploring progress in multivariate time series forecasting: Comprehensive benchmarking and heterogeneity analysis. IEEE Transactions on Knowledge and Data Engineering. 37 (1), 291-305 (2023).
  23. Bharti, K., et al. Noisy intermediate-scale quantum algorithms. Rev Mod Phys. 94 (1), 015004(2022).

访问受限。请登录或开始试用以查看此内容。

重印与许可

申请许可以重复使用本 JoVE 文章的文本或图表

申请许可

标签

TSMixer
视频即将推出

相关文章