一种用于物联网环境中攻击检测的新型混合深度学习模型：基于卷积神经网络与Transformer方法

摘要

该研究提出了一种结合卷积神经网络（CNN）与Transformer的混合深度学习模型，用于检测物联网（IoT）环境中的攻击行为。通过使用CIC-IoT-2023数据集，该模型实现了较高的性能指标：准确率达到99.97%，损失值为0.0123，表明其在实时攻击检测中具有良好的有效性。

摘要

物联网（IoT）设备的快速发展增强了连接性和可访问性。然而，这些环境日益增长的互联互通也带来了新的威胁层级，需要强大的异常检测机制。本研究提出了一种基于深度学习的新型安全方法，以缓解与物联网网络相关的特定威胁。该方法采用深度神经网络，高效监控网络活动模式，并实时检测通信中的潜在漏洞。本研究提出了一种用于物联网网络中攻击检测与分类的混合CNN-Transformer模型。为构建和测试该方法，我们分析了CIC-IoT-2023数据集，该数据集包含分布在7个不同类别中的33种不同类型的物联网威胁。实验结果表明，所提出的模型表现优异，精确率达到99.96%，召回率达到99.96%，F1分数达到99.96%，准确率达到99.97%，损失值为0.0123。此外，本文还从计算时间和资源消耗角度对所提模型进行了分析，结果表明该模型在攻击检测与分类方面具有高效性，在保持高准确率的同时显著降低了计算复杂度。

引言

物联网技术近年来取得了显著进展，我们已经进入了一个高度互联的数字世界。目前许多不同行业正在使用物联网（IoT）设备，包括医疗保健、农业活动、交通运输、航空航天以及生产制造¹。知名专家预测，到2025年，物联网（IoT）及其相关应用将对全球经济产生重大影响，年影响规模介于3.9万亿美元至11.1万亿美元之间²。然而，这种无缝连接也带来了新的安全挑战。随着物联网设备的发展，它们越来越容易受到网络攻击，因此必须防止对这些设备的未授权访问和攻击行为。在设备种类繁多的环境中，某些设备比其他设备更容易受到攻击³。这些设备不仅会影响物联网系统的安全性，还可能影响系统中的传输通道，甚至导致传输网络部分或完全失效。机器学习（ML）和深度学习（DL）是人工智能（AI）的两个分支，已在多个领域显著提升了技术水平，例如医疗系统⁴、计算机视觉⁵、无线通信⁶以及网络安全⁷。这些进步得益于相关技术的持续发展。在物联网领域，通常采用基于深度学习和机器学习的入侵检测系统^4,5。

方案

本部分讨论物联网（IoT）环境中与攻击检测系统相关的研究材料与方法。为了在 CIC-IoT-2023 数据集上复现实验，本协议概述了具体的操作步骤。随后的材料表列出了所使用的所有硬件和软件。该流程使用 Python（pandas、scikit-learn 和 TensorFlow Keras）实现，在 Google Colab 上运行，并利用 PySpark 进行大文件的预处理。文中已提供对数据预处理步骤的详细说明。

数据集
本研究所使用的 CIC-IoT-2023 数据集由加拿大新不伦瑞克大学网络安全研究所（Canadian Institute for Cybersecurity）发布。“CIC IoT 数据集 2023”（UNB CIC 数据集页面）以及相关数据集论文³⁴ 是该数据集的官方页面和文献。该数据集可通过 CIC 官方网站下载，面向公众开放。本研究未使用原始的 PCAP 文件，而是采用了预提取特征后的 CSV 格式文件（即流/特征文件）。原始数据集的生成实验中使用了 Wireshark/mergecap 和 CICFlowMeter 工具；而本研究直接使用已提取特征的 CSV 文件。该数据集来源于真实的物联网设备，包含了针对 105 种不同物联网设备的 33 种已知攻击记录。与以往的物联网数据集不同，CIC-IoT-2023 涵盖了更为多样....

结果

本部分介绍了评估参数以及测试结果。

性能评估指标
可使用若干定义明确的评估标准来评价模型的有效性。准确率、召回率、精确率、F1 分数、ROC、混淆矩阵及其他统计指标如表4所示。这些指标可为模型的整体性能提供深入分析。

表4：性能评估指标。本研究中使用的准确率、召回率、精确率、F1分数、ROC、混淆矩阵及其他统计指标如表所示。请点击此处下载该表格。

利用最新创建的 CICIoT2023 数据集，本实验测试了 CNN-Transformer 模型检测攻击的能力。数据集的 80% 用于训练，20% 保留用于测试。为了评估模型在新数据上的性能并确定其超参数的最优值，我们再次按照 80:20 的比例.......

讨论

在CICIoT2023数据集上对CNN-Transformer模型进行了测试，其中80%用于训练，20%用于测试。该模型达到了99.97%的准确率、99.96%的F1分数、99.97%的召回率、99.96%的精确率以及0.0123的损失值，验证了其在物联网入侵检测中的有效性。基于CNN的方法与已有研究¹³的发现类似，在检测网络流量特征中的小尺度空间模式方面表现出色；然而，它们在建模长距离依赖关系时通常存在局限性。基于Transformer的模型³³在提取全局上下文关联方面更具优势，但单独使用时可能计算成本较高。通过结合两种结构的优势，我们的模型在提升检测性能的同时保持了较高的计算效率。ROC曲线展示了召回率与准确率之间的关系，并使用真阴性率（TNR）和假阳性率（FPR）等指标对模型在每一类上的性能进行了评估。模型的时间复杂度通过可训练参数数量进行评估，该数量直接关联模型的计算成本。深度学习模型对RAM和CPU的使用随输入规模、模型复杂度和训练步数的增加而上升。一旦训练开始，模型的内存需求保持稳定，使其适用于更大规模的部署。CPU使用情况受到监.......

材料

本文使用的材料清单

姓名	公司	目录编号	评论
Apple M2（8核CPU）	Apple	N/A	（操作系统）提供深度学习框架和工具运行的环境。
CICIoT2023 数据集	UNB	https://www.unb.ca/cic/datasets/iot2023.html	公开可用的物联网数据集
Keras 2.6.0	Keras	https://keras.io/	运行在 TensorFlow 之上的 API，提供用户友好的接口。
Matplotlib 3.4.3	Matplotlib	https://matplotlib.org/	Python 的可视化库。
NumPy 1.21.4	NumPy	https://numpy.org/	用于 Python 科学计算的基础包。
NVIDIA Tesla P100 GPU（16 GB VRAM）	Google Colab Pro	N/A	训练用硬件
Pandas 1.3.4	Pandas	https://pandas.pydata.org/	数据分析与操作工具。
Python 3.8.10	Python 软件基金会	https://www.python.org/downloads/release/python-3810/	由于其丰富的库和社区支持，成为深度学习中最流行的编程语言。
scikit-learn 1.0.2	Scikit Learn	https://scikit-learn.org/	Python 的机器学习库。
Seaborn 0.11.2	Seaborn	https://seaborn.pydata.org/	统计数据分析可视化库。
系统内存	N/A	N/A	32 GB RAM
TensorFlow 2.6.0	Google	https://www.tensorflow.org/	因其全面的工具和库而被广泛使用。