方法文章

基于注意力门控液体神经网络的水质异常检测方法

DOI：

10.3791/69492

⸱

2026年2月6日

 ,  ,  ,  ,  , 
1School of Architecture and Art, Guangzhou Nanyang Polytechnic College, 2School of Big Data and Artificial Intelligence, Guangdong Polytechnic of Water Resources and Electric Engineering

* These authors contributed equally

本文内容

摘要

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

本研究提出了一种用于水质异常检测的注意力门控液体神经网络，该方法通过连续时间建模和基于注意力的门控机制，实现了更高的准确性和可解释性，从而增强了环境监测的可靠性，并支持可持续的水资源管理。

摘要

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

随着水质监测网络的迅速扩展，时间序列异常检测在保护水生环境和确保其可持续管理方面变得日益关键。然而，传统模型在实际应用中常常难以应对不规则的采样间隔、多变量相关性以及模型可解释性等问题。为解决这些挑战，本研究提出了一种注意力门控液态神经网络（Attention Gated-Liquid Neural Network, AG-LNN），该模型将液态神经网络（Liquid Neural Network, LNN）的动态建模能力与基于注意力机制的门控结构相结合。该模型引入了输入注意力门，以突出溶解氧（DO）和高锰酸盐指数（CODMn）等与异常相关的变量；同时设计了时间常数门，可自适应地调节模型的时间记忆特性。基于中国国家环境监测中心（CNEMC）在2019年至2024年间覆盖13个省份的监测数据，AG-LNN在多种基线模型上表现出更优性能，包括长短期记忆网络（LSTM）、时间卷积网络（TCN）、Transformer以及图神经网络（GNN）架构。该模型实现了0.95的精确率-召回率曲线下面积（PR-AUC）和0.90的F1分数，并在跨区域和跨时间评估中保持稳定。其轻量化版本AG-LNN-light在精度损失极小的情况下将参数量减少了62%，支持高效的边缘端部署。结果表明，基于注意力门控的连续时间建模为大规模水质异常检测提供了一种鲁棒且可解释的解决方案。

引言

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

水质监测对于保护公众健康、维持水生生态系统以及确保符合环境法规至关重要。传统的水质模型，如土壤与水资源评估工具（SWAT）、机理型QUAL模型以及统计预测方法，往往难以捕捉受化学、生物、水文和气象因素共同影响的水体系统所具有的高度非线性、多变量以及时序不规则的特征1,2,3,4,5,6。因此，提升水质数据中异常检测的准确性仍是一项紧迫的挑战。

从实际应用角度来看，所提出的框架适用于多参数水质传感网络，用于测量氢离子浓度指数（pH）、溶解氧（DO）、总氮（TN）、总磷（TP）、高锰酸盐指数（CODMn）、浊度和电导率等变量，典型采样间隔为15至60分钟。该模型能够容忍不规则采样和缺失观测数据，因此适用于地表水和水库监测系统的实际部署。

机器学习在水质异常检测中的应用

近年来，机器学习（ML）和深度学习（DL）方法在水质相关应用中得到了广泛采用。例如，Wang 等人7提出了一种结合机制约束的带注意力机制的长短期记忆自编码器（LSTMA-AE），用于提高注水泵运行异常检测的准确性并减少误报，其性能显著优于插值法、随机森林或LSTM-AE方法。

同样，Zhao 等人8提出了一种融合物理信息神经网络的门控循环单元（GRU-PINN）模型，该模型将物理约束引入损失函数，在水质异常检测任务中显著提升了可解释性与F1分数。ElShafeiy 等人9开发了一种多变量卷积网络-长短期记忆网络（MCN-LSTM）架构，将多变量卷积网络与LSTM相结合，用于水质传感器数据的实时异常检测，在实地环境中表现出更强的检测能力。另一项进展是门控-液态神经网络（Gated-LNN）模型10，该模型将门控机制融入液态神经网络，可精确预测水质指数（WQI）并对水质进行分类，在印度数据集上实现了R2 ≈ 0.9995和99.74%的分类准确率。

时间序列异常检测

除了深度学习特定的应用外，时间序列异常检测在各个领域均取得了快速发展。时间序列异常检测已成为提升水质监测与早期预警能力的关键技术。传统的统计方法往往难以捕捉水质数据的非线性与动态特征，从而推动了深度学习模型的应用。例如，Zhang 等人11将经验模态分解（Empirical Mode Decomposition, EMD）与长短期记忆网络（LSTM）相结合，以更好地处理非平稳信号，显著提高了化学需氧量（COD）、五日生化需氧量（BOD₅）、总磷（TP）、总氮（TN）和氨氮（NH₃-N）的预测精度。在此基础上，Wang 等人12提出了一种基于LSTM并结合近似熵的波动分析方法，进一步提升了实时异常检测的性能。

近期进展强调了注意力机制和混合框架的应用。Arepalli 等人13提出了一种轻量级的空间共享注意力 LSTM 模型，用于水产养殖中的缺氧检测，准确率达到 99.8%；而 Zhang 等人14表明，空间和时间注意力机制显著提升了 CNN-LSTM 对溶解氧（DO）和氨氮（NH₃-N）的预测性能。类似地，Long 等人15将自适应噪声完全集合经验模态分解-变分模态分解（CEEMDAN-VMD）与注意力增强型 LSTM 相结合，在多个指标上实现了高达 0.99 的纳什-斯图克莱夫效率系数（NSE）。在应用层面，Xie 等人16展示了一种基于移动 LSTM 的序列到序列（Seq2Seq）系统，可用于流域范围内的业务化实时水质预测。

总体而言，这些研究凸显了基于LSTM的基线模型、结合注意力机制的混合模型以及系统级应用中的明确发展趋势。尽管准确性已大幅提升，但在可解释性、噪声条件下的鲁棒性，以及在不同监测网络间的泛化能力方面，仍然存在挑战。

图神经网络与时空模型在环境监测中的应用

图神经网络（GNN）和时空深度学习模型在环境监测中展现出巨大潜力，能够同时捕捉监测站点之间的空间相关性以及水质动态变化中的时间依赖性。例如，Wu 等人17提出了一种预训练增强的时空图神经网络（PT-STGNN），用于污水处理厂，通过结合基于 Transformer 的预训练和图结构学习，显著提升了对化学需氧量（COD）、氨氮（NH₃-N）、总磷（TP）、总氮（TN）、pH 值和流量的长期预测能力。类似地，Wan 等人18开发了一种时空特征图神经网络（STF-GNN），该模型融合了图卷积、门控循环单元（GRU）和注意力机制，在显著提高溶解氧（DO）和总氮（TN）预测精度的同时，表现出强大的跨流域泛化能力。

混合框架已超越纯数据驱动的设计，以增强泛化能力。Mu 等人19提出了时空图物理信息神经网络（ST-GPINN），该方法将水力学原理嵌入基于图神经网络（GNN）的模型中，用于供水系统。通过将图表示与物理信息约束相结合，ST-GPINN 在从小型到大型网络的扩展中实现了最先进的预测精度。这些研究共同凸显了时空图神经网络在环境监测中的日益重要作用，推动了预测准确性、可解释性和鲁棒性的提升，并为下一代智能水管理系统奠定了基础。

液态神经网络的优势与潜力

液体神经网络（LNNs），也称为液体时间常数网络，通过依赖输入且可学习的时间常数，独特地建模连续时间动态。Hasani 等人20 提出了 LNNs，并展示了其在时间序列任务中的表达能力、稳定性和高效性。这种受大脑启发的适应性使其成为建模水质等动态环境现象的有前景的候选模型，然而其与注意力机制的结合仍鲜有研究。

注意力机制，尤其是注意力门控，是聚焦相关特征并实现可解释性的强大工具。尽管在医学影像领域已得到广泛应用，注意力U-Net通过可学习的注意力门控为选择性特征优化奠定了基础。注意力机制还已被应用于基于传感器的异常检测框架中，例如LSTMA-AE7和GRU-PINN8，增强了对关键模式的敏感性，并提高了模型的透明度。

综上所述，这些观察结果表明需要一种混合架构，将连续时间适应性与可解释的注意力机制相结合。因此，我们提出了一种注意力门控液态神经网络（Attention-Gated Liquid Neural Network, AG-LNN），该网络将液态神经网络（Liquid Neural Networks, LNNs）的动态建模能力与注意力门机制相集成，以聚焦于显著的输入或时间片段。该架构旨在增强对传感器噪声和不规则采样的鲁棒性，提高对短时异常的敏感性，并通过注意力热图和自适应时间常数轨迹提供可解释性。AG-LNN 在真实世界的多变量水质数据集上进行了评估，并与 LSTM、Transformer、纯 LNN 以及传统机器学习基线模型进行了对比。定量分析（精确率、召回率、F1 分数、AUC）和定性分析（注意力可视化、时间常数动态）均证明了所提出模型的有效性与透明性。

访问受限。请登录或开始试用以查看此内容。

方案

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

注意：本研究的整体工作流程见图1。

1. 数据采集

  1. 数据来源识别
    1. 从中国国家环境监测中心（CNEMC）公共数据库（https://www.cnemc.cn/sssj/）获取水质时间序列数据。获取覆盖中国主要湖泊和水库的连续国家级监测记录。关键理化指标包括 pH、溶解氧（DO）、总磷（TP）、总氮（TN）、高锰酸盐指数（CODMn）、浊度（NTU）和电导率（EC）。
    2. 确保下载的数据集包含相应的元数据，如监测时间、监测站点运行状态和水质分类（Ⅰ–Ⅴ类）。
  2. 数据集获取与文件规范
    1. 通过整理并共享处理后的数据集，文件名为 cnemc_data_2019_2024.csv，以确保数据可重复性。该文件存放于百度云仓库（https://pan.baidu.com/s/1ZXYxkCZAnx7tiOHJhuJ2Qg?pwd=u97h），供公众访问并验证所有实验。
    2. 包含来自13个省份（广东、湖北、江苏、浙江、安徽、福建、江西、河南、四川、贵州、辽宁、黑龙江和吉林）的监测数据，以确保涵盖中国北方、南方、东部、西部及高原地区等不同水文与气候区域的代表性。
    3. 为每个省份分配相同数量的监测记录，共收集2019年1月至2024年12月期间的1,832条数据条目。使用基于省份的标识符标记每个站点（例如，GD001代表广东，HB001代表湖北）。对每条记录，包含流域、水体类型（湖泊或水库）和季节（春季、夏季、秋季或冬季，由采样时间推导）等描述性属性。
    4. 添加可选的地理位置字段（经度和纬度），以支持空间分析和结果复现。cnemc_2019_2024.csv 中完整的字段定义、数据类型和单位汇总于表1。

2. 变量选择与标记

  1. 变量选择
    1. 选择能够代表地表水最常监测的理化参数的变量，确保其具有生态相关性并对污染或环境扰动敏感。具体包括以下指标：
      pH，反映水体的酸碱平衡，影响生物活性和化学物质的溶解性
      溶解氧（DO），是水生生态系统健康状况和有机污染的直接指标
      总磷（TP）和总氮（TN），是与富营养化过程密切相关的两种主要营养盐
      高锰酸盐指数（CODMn），表征可氧化有机物含量，是有机污染的间接度量
      浊度（Tur），反映悬浮颗粒物和泥沙负荷
      电导率（EC），指示溶解离子浓度及整体盐度
    2. 选择这些变量不仅因其在生态环境部（CNEMC）监测站点中常规可得，还因其在先前关于水质评估与异常检测的研究10,11,14,17中已被证实具有显著相关性。
  2. 标注策略
    1. 定义异常标签以支持模型训练与评估。采用结合两种互补方法的双重标注策略。
    2. 基于法规或专家的标注：采用监测机构正式记录或标注的异常事件（如突发性污染物排放、藻华爆发或仪器故障）作为真实异常标签。
    3. 数据驱动的弱标注：对于缺乏明确专家标注的监测时段，直接从CNEMC多变量时间序列数据集中，应用一种统计引导、考虑季节性的弱标注框架推断异常。
    4. 将该过程结构化为三个主要组成部分：进行季节性归一化、应用基于分位数的偏差检测，并通过残差评估强化结果。
      1. 季节性归一化：利用CNEMC数据集中提供的明确季节字段（春季、夏季、秋季、冬季），对每个变量 xi,t（例如DO、CODMn、TP、TN、浊度）进行季节效应归一化。在对应季节子集中对每个变量进行标准化，如公式（1）所示。
        统计归一化公式，展示标准化变量变换的方程。(1)
        其中 μi(s) 和 σi(s) 分别为变量 i 在季节 s 中的均值和标准差。该归一化可补偿系统性季节变化，例如夏季DO降低或雨季CODMn升高，确保跨季节可比性。
      2. 基于分位数的弱标注：归一化后，通过在同一季节和省份组内为每个变量计算稳健的分位数阈值来识别异常，如公式（2）所示。
        用于数据分析的统计公式 Q；展示数学上下文中的下分位数和上分位数。   (2)
        其中 Q_p (⋅) 为第 p 个分位数算子，静态平衡方程：Q_i,lower^(s), Q_i,upper^(s)；符号表示。 为变量 i 在季节 s 中的下限和上限分位数阈值（第1和第99百分位）。若数据点超出这些界限，则标记为异常，如公式（3）所示。
        静态平衡公式中的数学不等式符号；图示说明约束条件。 (3)
        此步骤自适应地考虑了区域和季节差异，从而避免因自然水文波动导致的误报。
      3. 基于残差的强化：建立滚动15天中位数基线，以检测分位数阈值可能遗漏的突发短期偏差，如公式（4）所示。
        使用移动中位数去趋势的统计公式；方程：r_it = x_it - median(x_i,t-15:t+15)。 (4)
        其中 ri,t 为变量 i 在时间 t 的残差偏差，median(xi,t-15:t+15) 为围绕时间 t 的15天滚动中位数基线。若绝对残差超过季节标准差的三倍（|ri,t| > 3σi(s)），则将该数据点标记为残差异常。该残差强化方法有效捕捉了由污染物排放、降雨事件或临时传感器故障引起的瞬时峰值。
      4. 联合弱标签决策：融合基于分位数和基于残差的异常指标，分配二元弱标签 yt，如公式（5）所定义。
        静态平衡方程，\(Y_t=1\) 条件性描述变量中的异常情况，公式。   (5)
        其中 yt=1 表示至少有一个参数在时间 t 出现异常行为，yt=0 表示所有参数在该时刻均处于正常观测状态。
        在CNEMC数据集涵盖的全部13个省份和5个气候区中，使用联合标注程序生成一组数据驱动的弱标注。通过为弱标签分配0.7的置信权重（相对于专家验证标注的1.0权重），将这些标签整合到置信加权学习中。
    5. 标注类型比例
      1. 使用约42%来自官方环境报告的专家验证标注，以及58%由连续监测数据生成的弱标注。应用z分数阈值化与季节趋势分解（STL）的启发式融合方法，检测多变量水质时间序列中的潜在异常。所选标注比例通过结果部分第5.1节（标注比例的影响）中展示的实验进行了验证。结果证实，经验上最优的平衡出现在约40:60的专家与弱标注比例，这与实际数据集构成一致。
    6. 弱标注准确性的验证
      1. 通过将800个随机抽取的弱标注样本子集与环境专家进行交叉核对，确保弱标注样本的可靠性。记录弱标注与专家判断之间的一致率，应达到约87.5%。从训练数据中剔除异常置信度低（< 0.6）或与专家验证集存在分歧的样本。
      2. 保持保留的弱标注有效准确率高于90%。检验弱标注的可靠性及其对模型性能的影响，受控实验表明，维持弱标签准确率高于90%可有效防止训练偏差并确保稳定的预测行为。
    7. 偏差缓解
      1. 在训练过程中，采用置信加权学习策略，以缓解弱标注可能引入的偏差。定义损失函数如公式（6）所示。
        对数损失公式；数学符号；教育；数据分析；统计相关性。 (6)
        其中 yi∈{0,1} 表示第 i 个样本的真实标签，pi 表示模型预测的概率，wi 为每个样本分配的权重，N 为样本总数。
      2. 根据标签来源和置信水平确定样本权重 wi，如公式（7）所示。
        加权标注方程，图示，显示专家标注与弱标注的区别。 (7)
        其中 ci∈[0,1] 表示第 i 个标注的置信分数，α、β 分别为专家标注和弱标注的全局加权系数。实证分析表明，设置 α=1.0 和 β=0.7 可在性能与稳定性之间取得最佳权衡，因为该加权方式能有效抑制弱标签的残余噪声，同时保留其广泛覆盖带来的充分贡献。
      3. 选择七个理化参数（pH、DO、TP、TN、CODMn、Tur 和 EC）作为异常检测的核心变量。使用这些指标全面表征地表水的营养状态、有机污染、氧气可利用性及离子组成。对每个变量提供详细描述。

3. 数据质量控制与预处理

  1. 建立分层的数据质量控制与预处理流程，以确保多源水质监测数据的可靠性及建模适用性。依次进行时间对齐、缺失值填补、异常检测、量纲归一化和滑动窗口样本构建。根据数据的具体特征动态选择并组合适宜的方法。
  2. 时间对齐与重采样：将所有监测站序列对齐至统一的15分钟时间分辨率，以校正时间戳不同步的问题。对于非均匀采样点，根据公式（8）在相邻观测值之间应用线性插值。确保后续的窗口化样本构建在一致的时间网格上。
    Linear interpolation method; equation for estimating values between data points; mathematical concept. (8)
  3. 缺失值处理
    1. 根据连续缺失值的长度，将缺失值分为短期缺失（<6个连续的点，即， <1.5 小时）和长期缺失（≥6 个连续时间点），并据此采用不同的处理策略。
    2. 对长期缺失区间（≥6个连续数据点）应用卡尔曼滤波与平滑以进行动态估计。对每个水质变量x建模t （例如，DO、TN、COD）Mn）使用离散线性状态空间公式，如图所示
      公式（9）至（11）。
      State space equations, xₜ=Axₜ₋₁+wₜ, yₜ=Hxₜ+vₜ, mathematical formula, dynamic system analysis. (9)
      Kalman filter equation, Bayesian estimate, state prediction update, algorithm diagram. (10)
      Kalman filter equation, statistical estimation, formula, predictive error minimization. (11)
      其中 xt 是时间 t 时水质变量的潜在（真实）状态，yt 是相应的观测值；A 是状态转移系数（经验设定为 0.95），用于反映 15 分钟观测值之间较高的时间相关性，H 是观测矩阵（对于直接测量设为 1），wt ∼ N(0,Q) 和 vt ∼ N(0,R) 分别为零均值高斯过程噪声和测量噪声；Q = (0.05σx)2 以及 R = (0.10σx)2，其中 σx 是变量在7天滑动窗口内的标准差。
    3. 配置滤波器，使其在抑制随机测量噪声的同时，保持对短期变异的敏感性。初始化初始状态 Static equilibrium equation ΣFx=0 diagram; symbols indicate force balance in systems. 使用第一个可用的非缺失观测值，并设定初始协方差 P0|0 到 σ²x; variance symbol; represents dispersion in statistical data analysis.若缺失时间间隔超过24小时（96个记录），则应删除整个片段，以防止长期外推导致误差累积。
  4. 异常检测与校正
    1. 通过两个连续步骤识别并纠正异常值：硬约束（物理限值）和软约束（梯度限值与分位数缩尾处理）。
      1. 硬性约束（物理限制）：舍弃超出物理上合理范围的测量值（例如，pH∉[0,14]，DO>20 mg/L
      2. 软约束（梯度限制 + 分位数缩尾处理）：若两个连续观测值之间的绝对变化率超过经验定义的梯度阈值 |x，则将该数据点标记为可疑t - xt-1 | > θ = 3σ_xΔt-1，其中 σx 表示变量在 24 小时滑动窗口内的标准差，Δt = 15 min 表示采样间隔。使用 Winsorization 方法校正极值，如公式 (12) 所示。
        Equation illustrating statistical quantile function, showing calculations for threshold values. (12)
        其中 Qα 和 Q1-α 分别表示1%和99%。
        该流程首先通过硬性约束排除不可能的数值，然后根据梯度阈值标记异常观测值，最后采用基于分位数的温莎化方法对残余偏差进行平滑处理。这种分层方法确保了清洗后数据集的物理有效性和统计稳定性。
  5. 归一化
    1. 不同的水质指标具有不同的单位和数值。为消除量纲差异并防止某些变量在模型训练过程中占据主导地位，应采用z分数标准化。
  6. 窗式样品制备
    1. 将时间序列转换为固定长度的滑动窗口样本，以保留时间依赖性。给定窗口长度 W 和步长 S，根据公式（13）构建输入样本。
      Time series analysis equation in diagram format for forecasting using lag variables.  (13)
      设置 W=96（即24小时，时间间隔为15分钟），S=1，使用逐点滑动窗口顺序生成样本。

4. 注意力门控液体神经网络（AG-LNN）

注意：所提出的注意力门控液态神经网络（AG-LNN）的整体架构如图2所示。该模型集成了多源水质输入、基于注意力的门控机制、具有自适应时间常数的液态神经网络（LNN），以及具备可解释性输出的读出解码阶段。该设计使网络能够动态捕捉复杂的时序依赖关系，同时对噪声和非均匀采样保持鲁棒性。

  1. 多源输入层：参考图2最左侧部分，以可视化多源水质监测数据 {xτ}，其中每个向量 xτ∈RC 表示在时间 τ 测量的 C 个理化变量（例如，pH、DO、TN、TP、CODMn、浊度、EC）的数值。将输入序列划分为长度为 W 的固定长度滑动窗口，如公式（14）所示。
    时间序列方程，Xt={xt}t=-w+1t；矩阵代数概念；数据预测分析。   (14)
  2. 输入注意力门：如图2左下角模块所示，应用注意力门机制，以增强信息丰富的变量并抑制噪声波动。根据公式（15）计算注意力权重。
    注意力机制方程；αt = σ(Wa[ht-1;xt]+ba)，描述神经网络过程。 (15)
    其中 ατ 表示在时间 τ 的通道级重要性。该机制确保与异常变化高度相关的变量（例如 DO 和 CODMn）获得更高的权重。
  3. 时间常数门
    1. 如图2顶部模块所示，利用聚合的注意力信号调节液体时间常数，并按公式（16）进行建模。
      复杂数学公式；λ衰减率方程，包含指数和求和项。 (16)
      其中，λbase 是基础时间常数，用于控制每个液体神经元的固有记忆；DNA编辑过程；ΣFx=0公式；实验设置；基因修饰方法分析。 表示在时间步 τ 上 C 个通道的平均注意力权重；β 是一个敏感性系数，用于决定注意力对时间响应性的影响力强弱。
    2. 当 DNA编辑过程；ΣFx=0公式；实验设置；基因修饰方法分析。 较高时，λτ 减小，促使网络加快响应速度，从而更好地捕捉短暂的异常。对 λτ 施加边界约束以稳定训练过程。
    3. 通过对时间常数 λτ 施加边界约束，确保数值稳定性，并防止动态行为出现爆炸或消失。设置 λτ ∈ [λmin,λmax] = [0.5,2.0]。在训练过程中，将超出此范围的任何值裁剪至最近的边界，以在不同环境条件下维持可控的自适应行为。设置 λ = 1.0 可获得最优的精度和收敛稳定性。
  4. 液体神经层
    1. 采用液体神经网络（LNN）对时间序列进行连续时间建模，并将其动态公式表示为公式（17）所示。
      动态系统方程：h(t)=-λ(·)⊙h+Aσ(h)+Bẋ(t)+b。数学公式分析。 (17)
      其中 ḣ(t) 表示隐藏状态向量；λ(⋅) 表示可学习的时间常数，由注意力机制调节；σ(∙) 为非线性激活函数（ReLU）；A 和 B 为可学习的权重矩阵；x̃(t) 为归一化输入向量；b 为偏置项。该方程确保网络动态随输入和状态共同演化，同时时间常数 λ(⋅) 保持可学习且依赖于上下文。
    2. 对于数值计算，使用显式欧拉积分法进行离散化，如公式（18）所示。
      循环神经网络方程，隐藏状态更新公式，数学符号表示。 (18)
      此处，Δτ 表示连续观测之间的离散时间步长（积分间隔），由公式（19）计算：
      Δ_τ=(tτ - tτ-1)/Tnorm (19)
      其中 tτ 和 tτ-1 为连续测量的时间戳（单位为分钟），Tnorm = 15 min 对应中国环境监测总站（CNEMC）监测数据中的名义采样周期。因此，对于规则的15分钟间隔，Δτ = 1；而 Δτ > 1 或 Δτ < 1 则反映由于缺失或密集观测导致的不规则采样。该方法能够自然处理不规则采样，同时保持对底层物理动态的可解释性。
  5. 读出与异常评分
    1. 完成隐藏状态更新后，在AG-LNN中使用读出层生成一步超前预测，如公式（20）所示。
      循环神经网络方程，\(\hat{x}_{\tau+1}=W_oh_\tau+c\)，符号表示。 (20)
      其中 Wo 和 c 分别表示输出投影矩阵和偏置向量。
    2. 基于预测值与观测值之间的差异计算残差，并将其作为异常评分，如公式（21）所示。
      静态平衡方程，Sτ=||x̂τ+1−xτ+1||2，公式，用于数学分析。 (21)
    3. 采用基于分位数的自适应阈值策略，判断某一观测是否对应异常。
    4. 针对每个水质变量，使用训练集中残差的第99百分位数定义异常阈值 θx，如公式（22）所示。
      异常检测方程；统计阈值比较；数据分析方法公式。   (22)
      其中 σs 表示残差序列的标准差，γ = 0.2 为固定的安全系数，用于补偿自然的日变化。
    5. 该设计大致对应于1%的超标概率，符合标准环境异常定义。在推理阶段，网络仅输出残差序列 {sτ}，异常判定则根据公式（14）–（15）进行后处理。这种分离式设计与整体研究框架一致，确保模型专注于特征提取和异常度量，而非直接参与阈值设定。
  6. 训练目标与正则化
    1. 在训练过程中，最小化预测误差的同时，对注意力权重和时间常数施加额外的正则化，以防止过拟合并提高数值稳定性。损失函数由公式（23）表示。
      含正则化项的优化方程；稀疏性、熵或L2方法示意图。 (23)
    2. 通过熵正则化 -∑ατ log ατ 或 L1 范数施加 Regα，以避免注意力崩溃。通过惩罚 Δλτ  = λτ  - λτ-1 施加 Regλ，限制时间常数的剧烈波动，并在超出预设上下限时增加惩罚项。该方法用于在保持AG-LNN灵活性的同时，确保训练过程的稳定性。
  7. 前向计算与可解释性输出
    1. 将AG-LNN的前向计算过程简化为如下链式结构，如公式（24）所示。
      神经网络架构方程，显示输入门、时间常数、液体更新过程。 (24)
    2. 在训练和推理过程中，持续记录注意力权重 ατ 和液体时间常数 λτ，并利用它们生成可解释性结果，即注意力热图和液体时间常数曲线。通过这些可视化手段突出模型如何关注不同变量和时间尺度，从而增强方法的可解释性。

5. 训练程序

  1. 数据划分：按时间顺序将多源水质时间序列划分为训练集、验证集和测试集，划分比例为70%/15%/15%。为确保鲁棒性，测试集应包含已知的异常时段，同时严格保证其与训练数据无时间重叠，以防止时间信息泄露。
  2. 训练细节
    1. 采用稳定的显式欧拉法求解液态层中的连续动态方程。作为对比，测试基于参考公式20,21的闭式离散化方法。
    2. 注意力预热策略：在前10个训练周期内，将注意力权重固定为接近均匀的值（≈1.0），以稳定梯度流动。从第10个周期之后，在接下来的5个周期内通过线性释放权重更新，逐步退火至可学习状态（缩放因子 = 0.8）。采用此预热策略可避免训练初期出现不稳定振荡，并确保收敛过程平稳。
    3. 优化器与学习率调度器：使用Adam优化器更新模型参数，其中β1 = 0.9，β2 = 0.999，ε = 1 × 10⁻⁸。初始学习率设为1 × 10⁻³，并采用余弦退火调度策略进行控制（Tmax = 50个周期，最小学习率 = 1 × 10⁻⁵）。根据GPU内存容量选择32至128之间的批量大小。采用该渐进式调度策略，确保连续时间动态的稳定适应，避免学习率突变。
    4. 早停机制与可重复性设置：若验证指标（AU-PR或F1）在连续10个周期内未提升，则提前终止训练（耐心值 = 10）。每次实验重复3次，使用固定的随机种子（42、73和101）以确保结果可重复。最大训练周期数设为100，保留验证集AU-PR最优的检查点用于测试。
  3. 硬件与软件环境
    1. 所有实验均在配备NVIDIA Tesla V100 GPU（32 GB显存）和双Intel Xeon Gold 6230 CPU（256 GB内存）的Linux服务器上进行。模型使用Python 3.9实现，基于PyTorch 2.0深度学习框架，并采用NumPy 1.23、SciPy 1.9和scikit-learn 1.2等辅助库进行数据预处理与评估。所有实验通过Docker 23.0容器化，并在Ubuntu 20.04 LTS系统上管理，以确保结果的可重复性与可移植性。有关所有硬件设备和软件工具的详细规格，请参见材料表，以保证实验描述的清晰性与可复现性。

访问受限。请登录或开始试用以查看此内容。

结果

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

总体性能比较

表2展示了不同基线模型与所提出的AG-LNN在水质异常检测任务中的对比结果。在传统的无监督基线方法中，孤立森林22和一类支持向量机23仅取得了中等水平的精确率和召回率，反映出它们在捕捉多源水质数据中固有的时间依赖性方面能力有限。局部离群因子24通过利用局部密度结构表现稍好，但其性能与深度学习模型相比仍不理想。

对于基于神经网络的方法，LSTM25 和 Bi-GRU26 由于其循环结构，在召回率方面表现出提升，但在处理长序列和不规则采样时仍存在困难。TCN27 通过有效建模短期波动，在精确率方面取得了具有竞争力的性能。基于 Transformer 的架构在长距离依赖...

访问受限。请登录或开始试用以查看此内容。

讨论

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

本研究提出了一种注意力门控液体神经网络（Attention-Gated Liquid Neural Network, AG-LNN），这是一种用于水质异常检测的新型架构，结合了连续时间液体动力学与基于注意力的门控机制。AG-LNN中的液体神经组件灵感来源于液体时间常数网络（Liquid Time-constant Networks, LTCs），后者通过可学习的、依赖输入的时间常数对时间序列进行建模20。然而，AG-LNN在标准LTC的基础上进一步引入了两个额外的门控机制：输入注意力门，用于突出与异常相关的变量（如溶解氧DO和高锰酸盐指数CODMn）；时间常数调制门，可根据上下文动态加速或减缓液体动力学过程。这种双重门控机制确保AG-LNN在继承LTC表达能力强的连续时间特性的同时，提升了模型的可解释性与对异常的敏感性。

该框架在多个方面推动了科学领域的发展。首先，AG-LNN 解决了大规模环境监测网络中常见的不规则采样多变量传感器数据的处理难题。与需要固定时间间隔的离散时间RNN不同，AG-L...

访问受限。请登录或开始试用以查看此内容。

致谢

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

本研究由2024年广东省高校特色创新项目“基于无线传感器网络的水质监测与预警系统”（项目编号：2024KTSCX304）、广州南洋理工职业学院2024年校级科研项目“基于物联网的水箱管理系统”（项目编号：NY-2024KYZD-01）、2022年广东省重点领域专项（新一代电子信息）“基于HarmonyOS的水产养殖在线预测、预警与联动防控系统”（项目编号：2022ZDZX1081）以及2021年广东省高职院校高水平专业群建设项目“大数据技术专业群”（项目编号：GSPZYQ2020089）资助。

访问受限。请登录或开始试用以查看此内容。

材料

本文使用的材料清单
姓名公司目录编号评论
256 GB DDR4 内存SamsungM393A4K40DB3用于处理大规模多变量时间序列数据集的高容量内存
CUDA 11.6NVIDIAN/APyTorch 的 GPU 加速工具包
Intel Xeon Gold 6330 CPU (2.0GHz, 28 核)IntelBX80708-6330用作模型训练的主计算服务器
Matplotlib 3.4, Seaborn 0.11开源N/A实验结果的可视化
NumPy 1.21, Pandas 1.3开源N/A数据预处理与特征工程
NVIDIA A100 GPU (40GB)NVIDIA900-21001-0000-001支持 CUDA 的 AG-LNN 加速训练
Python 3.9Python 软件基金会N/A实现所使用的主要编程语言
PyTorch 1.12Meta AIN/A用于构建 AG-LNN 的深度学习框架
Scikit-learn 0.24开源N/A评估指标与基线模型
Ubuntu 20.04 LTS 操作系统CanonicalN/A计算环境的操作系统

参考文献

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,
  1. Wu, J., Wang, Z. A Hybrid Model for Water Quality Prediction Based on an Artificial Neural Network, Wavelet Transform, and Long Short-Term Memory. Water. 14 (4), 610(2022).
  2. Nazari, M., Kerachian, R. Optimal Operation of Reservoirs Considering Water Quantity and Quality Aspects: A Systematic State-of-the-Art Review. Water Resour Manage. 38 (15), 5911-5944 (2024).
  3. Das, S. K., et al. Calibration, Validation and Uncertainty Analysis of a SWAT Water Quality Model. Appl Water Sci. 14 (4), 86(2024).
  4. Mutlu, E., et al. Water Quality Assessment of Şehriban Stream (Kastamonu, Türkİye) from a Multi-Statistical Perspective. Int J Environ Anal Chem. 104 (19), 8229-8245 (2024).
  5. Hassan, A., Samy, G., Hegazy, M., Balah, A., Fathy, S. Statistical Analysis for Water Quality Data Using ANOVA (Case Study-Lake Burullus Influent Drains). Ain Shams Eng J. 15 (4), 102652(2024).
  6. Fang, S., Deitch, M. J., Gebremicael, T. G., Angelini, C., Ortals, C. J. Identifying Critical Source Areas of Non-Point Source Pollution to Enhance Water Quality: Integrated SWAT Modeling and Multi-Variable Statistical Analysis to Reveal Key Variables and Thresholds. Water Res. 253, 121286(2024).
  7. Wang, M., et al. Anomaly Detection in Multidimensional Time Series for Water Injection Pump Operations Based on LSTMA-AE and Mechanism Constraints. Sci Rep. 15 (1), 2020(2025).
  8. Zhao, X. Water Quality Anomaly Detection Research Based on GRU-PINN Model. E3S Web ConfEDP Sci. 628, 01003(2025).
  9. El-Shafeiy, E., Alsabaan, M., Ibrahem, M. I., Elwahsh, H. Real-Time Anomaly Detection for Water Quality Sensor Monitoring Based on Multivariate Deep Learning Technique. Sensors. 23 (20), 8613(2023).
  10. Chadalavada, S., et al. Gated LNN: Gated Liquid Neural Networks for Accurate Water Quality Index Prediction and Classification. IEEE Access. 13, 69500-69512 (2025).
  11. Zhang, Y., et al. Accurate Prediction of Water Quality in Urban Drainage Network with Integrated EMD-LSTM Model. J Cleaner Prod. 354, 131724(2022).
  12. Wang, L., Dong, H., Cao, Y., Hou, D., Zhang, G. Real-Time Water Quality Detection Based on Fluctuation Feature Analysis with the LSTM Model. J Hydroinfo. 25 (1), 140-149 (2023).
  13. Arepalli, P. G., Naik, K. J. A Deep Learning-Enabled IoT Framework for Early Hypoxia Detection in Aqua Water Using Light Weight Spatially Shared Attention-LSTM Network. J Supercomput. 80 (2), 2718-2747 (2024).
  14. Zhang, M., Zhang, Z., Wang, X., Liao, Z., Wang, L. The Use of Attention-Enhanced CNN-LSTM Models for Multi-Indicator and Time-Series Predictions of Surface Water Quality. Water Resour Manage. 38 (15), 6103-6119 (2024).
  15. Long, J., Lu, C., Lei, Y., Chen, Z. Y., Wang, Y. Application of an Improved LSTM Model Based on FECA and CEEMDAN VMD Decomposition in Water Quality Prediction. Sci Rep. 15 (1), 12847(2025).
  16. Xie, L., et al. A Novel Operational Water Quality Mobile Prediction System with LSTM-Seq2Seq Model. Environ Model Software. 185, 106290(2025).
  17. Wu, X., Chen, M., Zhu, T., Chen, D., Xiong, J. Pre-Training Enhanced Spatio-Temporal Graph Neural Network for Predicting Influent Water Quality and Flow Rate of Wastewater Treatment Plant: Improvement of Forecast Accuracy and Analysis of Related Factors. Sci Total Environ. 951, 175411(2024).
  18. Wan, H., Xiang, L., Cai, Y., Xie, Y., Xu, R. Temporal and Spatial Feature Extraction Using Graph Neural Networks for Multi-Point Water Quality Prediction in River Network Areas. Water Res. 281, 123561(2025).
  19. Mu, T., et al. ST-GPINN: A Spatio-Temporal Graph Physics-Informed Neural Network for Enhanced Water Quality Prediction in Water Distribution Systems. NPJ Clean Water. 8 (1), 74(2025).
  20. Liquid Time-Constant Networks. Hasani, R., Lechner, M., Amini, A., Rus, D., Grosu, R. Proc AAAI Conf Artif Intell, 35, 7657-7666 (2021).
  21. A Method for Stochastic Optimization. Adam, K. D. B. J. Int Conf Learning Representat ICLR, 5 (6), 1(2015).
  22. Mehrabian, A., Pahlevan, N. Identifying Anomalies in Surface Water Quality Using Isolation Forest. AGU Fall Meeting Abstracts. 2019, EP54C-09(2019).
  23. Ananias, P. H. M., Negri, R. G. Anomalous Behaviour Detection Using One-Class Support Vector Machine and Remote Sensing Images: A Case Study of Algal Bloom Occurrence in Inland Waters. Int J Digital Earth. 14 (7), 921-942 (2021).
  24. Kahn, C. The Value Proposition for Likelihood-of-Failure Modeling. J Am Water Works Assoc. 113 (1), 30-38 (2021).
  25. Gao, Z., et al. A Novel Multivariate Time Series Prediction of Crucial Water Quality Parameters with Long Short-Term Memory (LSTM) Networks. J Contaminant Hydrol. 259, 104262(2023).
  26. Mohan Raj, K., Vairavel, K. S. Quality Index Metrics with Bi-GRU-Based Water Quality Prediction. Energy Sourc Part A Recov Utilizat Environ Effects. 46 (1), 171-187 (2024).
  27. Yang, H., Yin, X., Hong, L., Jiang, K., Zhang, X. Research on Water Quality Parameter Prediction Model Based on TCN. Open Access Library J. 11 (4), 1-10 (2024).
  28. Lin, Y., et al. Transformer-Based Water Quality Forecasting with Dual Patch and Trend Decomposition. IEEE Internet Things J. 12 (8), 10987-10997 (2024).
  29. Buchhorn, K., Santos-Fernandez, E., Mengersen, K., Salomone, R. Graph Neural Network-Based Anomaly Detection for River Network Systems. F1000 Res. 12, 991(2024).
  30. Li, Z., Liu, H., Zhang, C., Fu, G. Real-Time Water Quality Prediction in Water Distribution Networks Using Graph Neural Networks with Sparse Monitoring Data. Water Res. 250, 121018(2024).
  31. Gcad: Anomaly Detection in Multivariate Time Series from the Perspective of Granger Causality. Liu, Z., Gao, M., Jiao, P. Proc AAAI Conf Artif Intell, 39, 19041-19049 (2025).
  32. Li, R., et al. Multi-Dimensional Spectrum Prediction Using Closed-Form Continuous-Time Neural Network With Graph Attention. IEEE Transact Vehicular Technol Early Access. , 1-5 (2025).
  33. Tandra, N., Kuppan, P., Arunachalam, K. P., Loganathan, G. A Hybrid Model of Prairie Dog Optimization and Closed-Form Continuous-Time Neural Networks for next Generation Lithium-Ion and Sodium-Ion Batteries. Int J Chem Reactor Eng. 23 (9), 1075-1087 (2025).
  34. Li, X., et al. A Closed-Form Continuous-Depth Neural-Based Hybrid Difference Features Re-Representation Network for RUL Prediction. Reliability Eng Sys Safety. 253, 110540(2025).
  35. Cantini, C., Rolland-Piegue, E., Schmitter, D. Exact Implementation of Closed-Form Liquid Neural Networks With Arbitrary Precision. IEEE Signal Proc Lett. 32 (2025), 921-925 (2025).
  36. Event-Driven Dynamic Attention for Multi-Object Tracking on Neuromorphic Hardware. Aitsam, M., Davies, S., Di Nuovo, A. Proc Comp Vis Pattern Recognit Conf, 2025, 5055-5062 (2025).
  37. Chen, Z., et al. Bridging Quantized Artificial Neural Networks and Neuromorphic Hardware. arXiv. , (2025).
  38. Kim, Y., Lee, C. W., Jang, H. W. Neuromorphic Hardware for Artificial Sensory Systems: A Review. J Electron Mater. 54 (5), 3609-3650 (2025).
  39. Abreu, S., Shrestha, S. B., Zhu, R. J., Eshraghian, J. Neuromorphic Principles for Efficient Large Language Models on Intel Loihi 2. arXiv. , (2025).
  40. Analyzing Energy Consumption of Loihi 2 Neuromorphic Chip in a Self-Driving Use-Case. Nagy, Á, Szabó, R., Toka, L. 2025 10th Int Conf Smart Sustainable Tech, , 1-6 (2025).

访问受限。请登录或开始试用以查看此内容。

重印与许可

申请许可以重复使用本 JoVE 文章的文本或图表

申请许可

标签

相关文章