基于卷积神经网络-Transformer模型利用心电图信号预测与分类早期心律失常

摘要

该模型旨在将早期心律失常分类为 N、L、R、V 和 A 类。在此，所有数据集被合并以构建一个主数据集，模型将其作为输入，输出不同的心律失常类别。

摘要

心血管疾病，尤其是心律失常，是全球主要的死亡原因之一，亟需开发精确且自动化的技术以实现早期诊断与检测。为从心电图（ECG）信号中识别心律失常，本文提出一种基于深度学习的分类模型，专注于五种主要的心跳类型：正常（N）、左束支传导阻滞（L）、右束支传导阻滞（R）、房性早搏（A）和室性早搏（V）。我们利用来自多个数据库的I导联信号，包括INCART 12导联、心脏猝死Holter、室上性以及MIT-BIH心律失常数据库，共获得超过390万段训练数据和112,575段测试数据片段。

数据准备的示例包括180个样本的固定时间窗分割、最小-最大归一化，以及使用合成少数类过采样技术（SMOTE）进行类别平衡。该混合架构采用Transformer层建模时间依赖性，并利用一维卷积神经网络（CNN）提取空间特征。模型训练采用带有dropout和批归一化的Adam优化器进行正则化。

该系统在性能上优于TN4模型及其他前沿基准，在所有类别中均达到了99.99%的准确率、精确率和F1分数。通过采用深度混合架构和卷积神经网络，进一步提升了特征的鲁棒性，这些方法的提出受到早期研究的启发。所建议的范式推动了人工智能驱动的个性化数字医疗发展，在可扩展、实时的心律失常识别方面展现出巨大潜力。

引言

根据世界卫生组织（WHO）的数据，心血管疾病（CVD）仍然是全球主要的健康问题之一，每年导致全球近31%的死亡¹。其中一个重要亚类为心律失常，即心脏节律的异常，其严重程度可从良性到危及生命不等。心律失常通常表现为心跳节律不规则。此类心律紊乱显著增加了患者的发病率和死亡率，提高了中风、心力衰竭和心脏骤停等严重健康问题的风险。因此，早期识别和准确分类心律失常对于改善患者预后、控制医疗成本以及提升心脏诊疗质量至关重要²。

心电图（ECG）仍是检测心律失常的关键无创诊断工具。通过将心脏的电活动记录为可视化的波形，ECG 使临床医生能够识别可能提示特定心律失常模式的细微变化³。然而，人工解读 ECG 信号耗时较长，且由于不同操作者之间的个体差异，结果易出现变异性，从而引入人为误差。在处理大规模数据集或识别细微心律失常时，这些挑战尤为突出。随着全球向数字化医疗转型，对能够提供一致、实时 ECG 分析的可靠自动化诊断系统的需求日益迫切⁴。

传统的机器学习模型在心电图（ECG）分析中已取得中等程度的成功；然而，这些模型依赖于人工设计的特征和特定领域的专业知识，存在明显的局限性。为解决这一局限性，本研究采用合成少数类过采样技术（Synthetic Minority Over-sampling Technique, SMOTE），通过为样本较少的类别生成合成数据点，从而平衡数据集，提升模型对各类心跳模式的泛化能力。将SMOTE与我们的深度学习模型相结合，可增强分类性能，尤其改善对罕见心律失常的识别，有助于开发更加公平的诊断工具⁵。 本研究的主要目标有三。首先，旨在开发一种准确且可扩展的模型，能够实现实时心律失常检测，推动全球向数字化和个性化医疗的转型。其次，验证混合卷积神经网络-Transformer（CNN-Transformer）架构在心电图分析中的有效性，突出其在准确性和鲁棒性方面优于传统方法的潜力⁶。

最后，本研究旨在开发一种具有临床诊断意义的模型，以增强对心脏异常的早期检测。该研究致力于弥合深度学习技术进步与实际医学应用之间的差距，使我们的方法成为改善心脏护理和患者预后的一个有价值工具⁶。

方案

1. 获取数据集

1. 获取公开可用的心电图（ECG）数据集，以开发和验证用于心律失常分类的深度学习模型⁷。
2. 整合来自MIT-BIH心律失常数据库、MIT-BIH室上性心律失常数据库、圣彼得堡INCART 12导联心律失常数据库以及猝死心电Holter数据库的I导联数据集。
   注意：选择这些数据集是因为其在患者人口统计学特征和心律失常类型方面的多样性，确保模型能够泛化至不同病例。每个数据集均提供高质量标注的心电图记录，涵盖多种心跳类别。为统一输入并保持一致性，仅从所有数据集中提取并使用I导联数据，聚焦于最具诊断价值的信号。如图1所示，I导联测量右臂（负极）与左臂（正极）之间的电位差，II导联测量右臂（负极）与左腿（正极）之间的电位差。表1显示，主数据集通过合并四个数据集并剔除空值而构建，文件命名为Alldata.CSV。

2. 数据预处理

1. 将 Alldata.CSV 中的数据分为训练集和测试集两部分。在预处理步骤2中，从 Alldata.CSV 中筛选出 N、L、R、A、V 类，并将其划分为训练集和测试集两部分（图2）。
2. 将每位患者的 ECG 信号分割为固定的 180 毫秒时间窗，每个时间窗根据对应的心律失常类别（如 N、L、R、A 和 V 类）进行标注（图3）。
   注意：该分割方法确保了各样本输入长度的一致性，并捕捉了每个心跳片段中的时序特征。
3. 使用 Python 库读取格式为 (.dat、.hea 和 .atr) 的原始 ECG 文件。

3. 归一化

1. 为确保信号幅度的一致性，使用最小-最大缩放（Min-Max scaling）对所有分割后的 ECG 数据进行归一化处理，将每个样本转换至 0 到 1 之间的范围。
   注意：此处使用的归一化方法为 MinmaxScaler⁸。

4. 使用SMOTE进行类别平衡

注意：心律失常分类中的一个常见挑战是类别不平衡问题，即正常心跳的数量远超异常心跳。

1. 为应对上述挑战，将合成少数类过采样技术（Synthetic Minority Over-sampling Technique, SMOTE）应用于训练集，该方法通过在现有样本之间进行插值，为少数类生成合成样本⁹。
   注意：通过新增的合成样本，确保每一类样本均得到公平表示，从而提升模型对所有心律失常类型的整体泛化能力。

5. 训练集与测试集划分

1. 预处理后，使用70-30划分将数据分为训练集和测试集，并采用分层抽样以保持各类别在各数据集中的分布一致。
   注意：该划分方式确保每种心律失常类别在训练和测试阶段均得到充分代表，从而能够可靠地评估模型性能。

6. 数据集划分与类别分布

1. 将最终数据集划分为训练集和测试集，其中70%的数据用于训练，30%用于测试。
2. 应用SMOTE方法平衡类别分布，确保每种心律失常类型在训练集和测试集中均得到充分表示，如表2所示。
   注意：总共使用3,966,620个心电图片段进行模型训练，使用112,575个心电图片段进行模型测试。如此庞大的数据量，加上心律失常类型的多样性，有助于模型在真实世界的心电图信号中稳健地检测不同类型的心律失常。

7. 方法

1. 模型架构
   1. 为实现准确的心律失常分类，构建一个由一维卷积神经网络（CNN）和Transformer层组成的混合深度学习模型。
      注意：该混合模型架构专门设计用于充分利用ECG信号在空间和时间特征上的优势，结合了特征提取与序列建模能力。
2. 一维卷积神经网络（CNN）模块
   1. 设置CNN模块包含两个一维卷积层，每个卷积层后接一个ReLU激活函数和一个最大池化层。这些层用于从输入的ECG信号中提取空间依赖性。为增强特征提取能力，在CNN层的每一次变换步骤后添加额外的ReLU激活函数¹⁰。
      注意：该配置使模型能够有效学习每个信号片段内的空间依赖关系。
   2. 第一卷积层：使用该层对输入信号施加32个大小为3的滤波器。其运算表达式为：
       (1)
      其中 y_i 表示输出，w_j 为权重，x_(i+j) 为输入ECG片段，b为偏置项，σ为激活函数（此处为ReLU）¹¹。
   3. 池化层：每次卷积后，设置一个最大池化操作，将空间维度缩减为原来的1/2，定义如下：
       (2)
      注意：该操作在保留最显著特征的同时降低了计算复杂度。
   4. 第二卷积层：使用该层对前一层输出的特征图施加64个大小为3的滤波器，以提取更高层次的特征¹²。卷积后应用ReLU激活函数以引入非线性：
       (3)
      1. 附加激活层：在每次卷积后的中间阶段均应用ReLU激活，以增强网络的表达能力，确保模型聚焦于正向激活¹³。
   5. Dropout：在全连接层部分设定Dropout率为0.5¹⁴。
3. Transformer模块：
   1. 按照本协议，设置Transformer模块包含两个多头自注意力层，使模型能够捕捉ECG信号不同部分之间的时间依赖性¹⁵。
   2. 多头自注意力机制：该机制计算序列中每一对元素之间的关系。对于包含查询Q、键K和值V的序列，注意力计算如下：
      (4)
      其中Q、K和V分别为查询、键和值矩阵，d_k 表示键向量的维度。
      注意：通过允许模型根据相关性对不同信号片段进行加权，该机制增强了模型区分具有细微时间特征的心律失常的能力。
   3. 激活函数：在各层中显式使用ReLU。
4. 连续小波变换（CWT）：
   1. 在将数据输入CNN层之前，应用连续小波变换将ECG信号转换为时频表示形式¹⁶。
      ​注意：该变换通过捕捉随时间变化的频率信息，提供了更全面的特征集，这对于区分不同类型的心律失常至关重要。
5. 训练过程：
   1. 训练模型时使用Adam优化器，该优化器根据梯度的一阶和二阶矩动态调整学习率。Adam的更新规则定义如下：
      (5)
      其中 m_t 和 v_t 分别为一阶和二阶矩估计值，α为学习率，ε为防止除零的小常数¹⁷。
   2. 进行100个训练周期，批量大小为64，并采用早停法以减轻过拟合。
      ​注意：训练数据通过PyTorch的DataLoader工具输入模型，同时应用Dropout和批量归一化以正则化网络并提高收敛性。
6. 超参数调优
   1. 使用早停法、Adam优化器、Dropout、批量归一化以及批量大小为1024进行手动调优。
      ​注意：尽管本文未明确提及网格搜索或贝叶斯搜索，但这些选择反映了实际的调优策略。
7. 验证技术
   1. 在应用SMOTE后，采用70-30的分层训练-测试划分¹⁸。
      注意：虽然未使用k折交叉验证，但分层划分保持了类别分布，在数据集较大时通常已足够。

结果

所提出模型的性能指标
针对每种心律失常类别，计算所提出模型的准确率、灵敏度、特异度和 F1 分数。在 MIT-BIH 及其他相关 ECG 数据库上评估该模型的性能。主要结果总结如下：

准确率：该混合CNN-Transformer模型在MITDB数据集上的准确率达到99.32%，在合并数据库上的准确率为97.15%，表明该模型在不同来源的心电图数据上均具有良好的鲁棒性¹⁹。

灵敏度和特异性：该模型表现出97.75%的灵敏度和99.51%的特异性，表明其在正确识别心律失常和非心律失常病例方面具有高效性。高灵敏度对于确保临床诊断中假阴性结果最少化尤为重要。

与基线模型的比较分析
本节对所提出的模型与TN4模型及其他最先进的心电图心律失常分类方法进行了比较分析。比较的重点包括敏感性、特异性、准确率等关键指标，以及各类模型的整体性能

讨论

本研究结果表明，混合型CNN-Transformer模型在心电图心律失常分类任务中表现出较高的准确性、灵敏度、特异度和F1分数，显著优于传统的仅使用CNN或CNN-LSTM的模型。引入Transformer层增强了模型捕捉时间依赖性的能力，这是心电图分析中的关键要素。此外，连续小波变换（CWT）提供了丰富的时间-频率特征，使CNN层能够区分不同类型心律失常之间细微的波形变化。这些发现凸显了该混合架构在处理心电图数据复杂性方面的有效性，尤其在识别心律失常事件方面表现突出。

此外，该模型在不同数据集上表现出显著的泛化能力，解决了心律失常分类研究中的一个关键空白。通过整合SMOTE等先进的预处理方法，本研究确保了所有心律失常类型（尤其是较少见的类型）的均衡表征，而这些类型在传统模型中常常被误分类。混合架构能够同时学习复杂的时空特征，已被证明对实现稳健分类至关重要。

其可扩展性表明了在更广泛的应用中具有潜力，包括集成到可穿戴设备中以实现持续监测。这些进展凸显了该模型在早期诊断中的实用性，有助于降低因心律失常检测延迟而带来的并发症风险。...

材料

本文使用的材料清单

姓名	公司	目录编号	评论
计算机系统			（用于训练）处理器：AMD Ryzen 7 7840HS，CPU 内存：16 GB，GPU 内存：6 GB NVIDIA GeForce RTX 3050
imbalanced-learn			用于重采样的 Python 软件包
pytorch			PyTorch 是一个 Python 软件包，提供两个高级功能： - 支持 GPU 加速的张量计算（类似于 NumPy） - 基于磁带式自动微分系统的深度神经网络
seaborn			Seaborn 是一个基于 matplotlib 的 Python 可视化库。
wfdb			用于读取、写入、处理和绘制生理信号及注释数据