Metodo di rilevamento delle anomalie della qualità dell'acqua basato su rete neurale liquida dipendente dall'attenzione

Sommario

Questo studio propone una Rete Neurale Liquida Attenzione-Limitata per la rilevazione di anomalie nella qualità dell'acqua che raggiunge una precisione e interpretabilità superiori tramite modellazione a tempo continuo e gate basate sull'attenzione, migliorando così l'affidabilità del monitoraggio ambientale e supportando una gestione sostenibile dell'acqua.

Abstract

Con la rapida espansione delle reti di monitoraggio idrico, il rilevamento delle anomalie a serie temporali è diventato sempre più cruciale per la tutela degli ambienti acquatici e garantirne una gestione sostenibile. Tuttavia, i modelli convenzionali spesso faticano con intervalli di campionamento irregolari, correlazioni multivariate e interpretabilità nelle applicazioni pratiche. Per affrontare queste sfide, questo studio propone una Rete Neurale Liquida a Porte dell'Attenzione (AG-LNN) che integra la capacità di modellazione dinamica della Rete Neurale Liquida (LNN) con meccanismi di gating basati sull'attenzione. Il modello introduce una porta di attenzione in input per enfatizzare variabili rilevanti per anomalie come l'Ossigeno Disciolto (DO) e l'Indice di Permanganato (COD_Mn), e una porta a costante di tempo che regola in modo adattativo la memoria temporale del modello. Utilizzando dati raccolti dal Centro Nazionale di Monitoraggio Ambientale della Cina (CNEMC) tra il 2019 e il 2024 in 13 province, AG-LNN ha dimostrato prestazioni superiori rispetto ai modelli di base, inclusi le architetture Long Short-Term Memory (LSTM), Temporal Convolutional Network (TCN), Transformer e Graph Neural Network (GNN). Raggiunge un'area di richiamo di precisione sotto la curva (PR-AUC) di 0,95 e un punteggio F1 di 0,90, mantenendo la stabilità in valutazioni trasversali e temporali. Una versione compatta, AG-LNN-light, riduce i parametri del 62% con una perdita di precisione minima, consentendo un impiego efficiente dei bordi. I risultati hanno confermato che la modellazione a tempo continuo attenzionata offre un approccio robusto e interpretabile per il rilevamento su larga scala di anomalie della qualità dell'acqua.

Introduzione

Il monitoraggio della qualità dell'acqua è essenziale per proteggere la salute pubblica, sostenere gli ecosistemi acquatici e garantire il rispetto delle normative ambientali. I modelli tradizionali di qualità dell'acqua, come il Soil and Water Assessment Tool (SWAT), il modello meccanicistico QUAL e gli approcci di previsione statistica, spesso faticano a catturare la natura altamente non lineare, multivariata e temporalmente irregolare dei sistemi idrici influenzati simultaneamente da fattori chimici, biologici, idrologici e^{meteorologici} 1,2,3,4,5,6 . Pertanto, migliorare la rilevazione delle anomalie nei dati sulla qualità dell'acqua rimane una sfida urgente.

In termini pratici, il quadro proposto è progettato per reti multiparametriche di rilevamento della qualità dell'acqua che misurano variabili come il potenziale di idrogeno (pH), ossigeno disciolto (DO), azoto totale (TN), fosforo totale (TP) e indice di permanganato (COD_Mn), torbidità e conducibilità, con intervalli tipici di campionamento che vanno da 15 a 60 minuti. Questo modello tollera campionamenti irregolari e osservazioni mancanti, rendendolo adatto all'impiego reale in sistemi di monitoraggio delle acque superficiali e dei bacini idrici.

Applicazione del machine learning nel rilevamento di anomalie di qualità dell'acqua

Negli ultimi anni, i metodi di machine learning (ML) e deep learning (DL) hanno guadagnato terreno nelle applicazioni sulla qualità dell'acqua. Ad esempio, Wang et ^al.7 hanno introdotto un Autoencoder a Memoria a Breve Termine con Attenzione (LSTMA-AE) combinato con vincoli meccanicistici per migliorare la precisione e ridurre i falsi allarmi nel rilevamento delle anomalie nelle operazioni di pompa di iniezione d'acqua, ottenendo prestazioni significativamente migliori rispetto ai metodi di interpolazione, foresta random o LSTM-AE.

Analogamente, Zhao et ^al.8 hanno proposto un modello GRU-PINN (Gated Recurrent Unit con Rete Neurale Informata dalla Fisica) che incorpora vincoli fisici nella funzione di perdita, aumentando significativamente l'interpretabilità e il punteggio F1 nei compiti di rilevamento delle anomalie della qualità dell'acqua. ElShafeiy et ^al.9 hanno sviluppato un'architettura Multivariate Convolutional Network-LSTM (MCN-LSTM), che combina Reti Convoluzionali Multivariate con LSTM per il rilevamento in tempo reale di anomalie nei dati dei sensori di qualità dell'acqua, dimostrando capacità di rilevamento migliorate in ambienti di campo. Un altro progresso è^{il modello} 10 della Gated-Liquid Neural Network (Gated-LNN), che fonde i meccanismi di gating nelle Reti Neurali Liquide per prevedere con precisione l'Indice di Qualità dell'Acqua (WQI) e classificare la qualità dell'acqua, raggiungendo R² ≈ 0,9995 e un'accuratezza di classificazione del 99,74% sui dataset indiani.

Rilevamento delle anomalie in serie temporali

Oltre alle applicazioni specifiche per DL, il rilevamento delle anomalie a serie temporali ha visto uno sviluppo rapido in vari domini. La rilevazione delle anomalie in serie temporali è diventata una tecnica chiave per migliorare il monitoraggio della qualità dell'acqua e l'allerta precoce. I metodi statistici tradizionali spesso non riescono a catturare le caratteristiche non lineari e dinamiche dei dati sulla qualità dell'acqua, inducendo così all'applicazione di modelli di deep learning. Ad esempio, Zhang et ^al.11 hanno combinato la Decomposizione Empirica delle Modalità (EMD) con LSTM per gestire meglio i segnali non stazionari, migliorando significativamente la precisione della previsione della Domanda Chimica di Ossigeno (COD), della Domanda Biochimica di Ossigeno (BOD₅), del Fosforo Totale (TP), dell'Azoto Totale (TN) e dell'Azoto Ammoniacico (NH₃-N). Sulla base di ciò, Wang et ^al.12 hanno proposto un metodo di analisi delle fluttuazioni basato su LSTM utilizzando l'Entropia Approssimativa, che migliora le prestazioni di rilevamento delle anomalie in tempo reale.

I progressi recenti hanno enfatizzato meccanismi di attenzione e quadri ibridi. Arepalli et ^al.13 hanno introdotto una LSTM di attenzione spaziale condivisa leggera per la rilevazione dell'ipossia in acquacoltura, raggiungendo una precisione del 99,8%, mentre Zhang et ^al.14 hanno dimostrato che l'attenzione spaziale e temporale migliorava significativamente la previsione CNN-LSTM dell'Ossigeno Disciolto (DO) e NH₃-N. Analogamente, Long et ^al.15 hanno integrato la Decomposizione Empirica Completa dei Modi con la Decomposizione Adattiva Noise-Variational Mode (CEEMDAN-VMD) con LSTM potenziato dall'attenzione, raggiungendo valori di Efficienza di Nash-Sutcliffe (NSE) fino a 0,99 su più indicatori. A livello applicativo, Xie et ^al.16 hanno dimostrato un sistema mobile LSTM-sequence-to-sequence (Seq2Seq) per la previsione operativa e in tempo reale della qualità dell'acqua attraverso i bacini fluviali.

Nel complesso, questi studi evidenziano una chiara tendenza nelle basi basate su LSTM, nei modelli ibridi con attenzione aumentata e nelle applicazioni a livello di sistema. Sebbene la precisione sia migliorata notevolmente, rimangono sfide nell'interpretabilità, nella robustezza in condizioni rumorose e nella generalizzazione su diverse reti di monitoraggio.

Applicazione delle reti neurali a grafo e dei modelli spaziotemporali nel monitoraggio ambientale

Le reti neurali a grafo (GNN) e i modelli di deep learning spaziotemporale hanno recentemente dimostrato un potenziale significativo nel monitoraggio ambientale catturando sia le correlazioni spaziali tra i siti di monitoraggio sia le dipendenze temporali nella dinamica della qualità dell'acqua. Ad esempio, Wu et ^al.17 hanno proposto una Rete Neurale a Grafo Spatio-Temporale (PT-STGNN) migliorata per impianti di trattamento delle acque reflue, integrando il pre-addestramento basato su trasformatori e l'apprendimento della struttura dei grafi per migliorare la previsione a lungo termine di COD, NH₃-N, TP, TN, pH e portata di portata. Analogamente, Wan et ^al.18 svilupparono un GNN DI CARATTERISTICA SPAZIO-TEMPORALE (STF-GNN) che combinava convoluzione di grafo, GRU e meccanismi di attenzione, migliorando significativamente le previsioni di Ossigeno Disciolto (DO) e TN, dimostrando al contempo una robusta generalizzazione cross-basin.

I framework ibridi sono emersi oltre i design puramente basati sui dati per migliorare la generalizzazione. Mu et ^al.19 hanno introdotto la rete neurale informata dalla fisica dei grafi spaziotemporali (ST-GPINN), che incorpora i principi idraulici in modelli basati su Reti Neurali di Grafi (GNN) per sistemi di distribuzione dell'acqua. Accoppiando rappresentazioni di grafi con vincoli informati dalla fisica, ST-GPINN raggiunge un'accuratezza all'avanguardia scalando efficacemente da reti piccole a grandi. Insieme, questi studi evidenziano il ruolo crescente dei GNN spazio-temporali nel monitoraggio ambientale, promuovendo la precisione predittiva, l'interpretabilità e la robustezza, e gettando le basi per sistemi intelligenti di gestione idrica di nuova generazione.

Vantaggi e potenziale delle reti neurali liquide

Le Reti Neurali Liquide (LNN), note anche come reti a tempo costante liquido, modellano in modo unico la dinamica a tempo continuo utilizzando costanti di tempo dipendenti dall'input e imparabili. Hasani et ^al.20 introdussero i LNN e dimostrarono la loro potenza espressiva, stabilità ed efficienza nei compiti di serie temporali. La loro adattabilità ispirata dal cervello li rende candidati promettenti per modellare fenomeni ambientali dinamici come la qualità dell'acqua, ma la loro integrazione con i meccanismi di attenzione rimane poco esplorata.

I meccanismi di attenzione, in particolare i porte di attenzione, sono strumenti potenti per concentrarsi su caratteristiche rilevanti e abilitare l'interpretabilità. Sebbene ampiamente utilizzato nell'imaging medico, Attention U-Net pone le basi per il raffinamento selettivo delle caratteristiche tramite porte di attenzione apprendibili. L'attenzione è stata applicata anche nei framework di rilevamento delle anomalie basati su sensori, come LSTMA-AE⁷ e GRU-PINN⁸, aumentando la sensibilità ai modelli critici e la trasparenza dei modelli.

Prese insieme, queste osservazioni indicano la necessità di un'architettura ibrida che sinergizzi l'adattabilità in tempo continuo con meccanismi di attenzione interpretabili. Pertanto, proponiamo una Rete Neurale Liquida Attenzionata (AG-LNN) che integra le capacità di modellazione dinamica delle Reti Neurali Liquide (LNN) con porte di attenzione focalizzate su input salienti o segmenti temporali. Questa architettura mira a migliorare la robustezza al rumore dei sensori e al campionamento irregolare, a migliorare la sensibilità alle anomalie di breve durata e a offrire interpretabilità tramite heatmap dell'attenzione e traiettorie adattiva a costante di tempo. L'AG-LNN è stato valutato su dataset multivariati reali sulla qualità dell'acqua e confrontato con LSTM, Transformer, LNN puro e basi ML tradizionale. Sia analisi quantitative (Precisione, Richiamo, F1, AUC) sia qualitative (visualizzazioni di attenzione, dinamiche a costante di tempo) hanno dimostrato l'efficacia e la trasparenza del modello proposto.

Protocollo

NOTA: Il flusso di lavoro complessivo di questo studio è mostrato nella Figura 1.

1. Acquisizione dati

1. Identificazione della fonte dei dati
   1. Ottenere dati di serie temporali sulla qualità dell'acqua dal database pubblico (https://www.cnemc.cn/sssj/) del Centro Nazionale Cinese di Monitoraggio Ambientale (CNEMC). Recuperare i registri di monitoraggio continuo a livello nazionale che coprono i principali laghi e bacini in Cina. Gli indicatori fisicochimici chiave includevano pH, ossigeno disciolto (DO), fosforo totale (TP), azoto totale (TN), indice di permanganato (COD_Mn), torbidità (NTU) e conducibilità elettrica (EC).
   2. Assicurarsi che i metadati corrispondenti, come l'orario di monitoraggio, lo stato operativo della stazione e la classificazione della qualità dell'acqua (Classe I-V), siano inclusi nel dataset scaricato.
2. Recupero del dataset e specifica dei file
   1. Garantire la riproducibilità dei dati consolidando e condividendo il dataset elaborato sotto il nome file cnemc_data_2019_2024. CSV. Il file nel repository Baidu Cloud (https://pan.baidu.com/s/1ZXYxkCZAnx7tiOHJhuJ2Qg?pwd=u97h) consente l'accesso pubblico e la verifica di tutti gli esperimenti.
   2. Includere dati di monitoraggio da 13 province (Guangdong, Hubei, Jiangsu, Zhejiang, Anhui, Fujian, Jiangxi, Henan, Sichuan, Guizhou, Liaoning, Heilongjiang e Jilin) per garantire una copertura rappresentativa nelle diverse zone idrologiche e climatiche delle regioni Nord, Sud, Est, Ovest e dell'Altopiano.
   3. Assegnare un numero uguale di registri di monitoraggio a ciascuna provincia, per un totale di 1.832 registrazioni raccolte tra gennaio 2019 e dicembre 2024. Etichetta ogni stazione usando identificatori basati sulla provincia (ad esempio, GD001 per Guangdong, HB001 per Hubei). Per ogni registrazione, includere attributi descrittivi come bacino, waterbody_type (lago o bacino) e stagione (primavera, estate, autunno o inverno, derivati dal tempo di campionamento).
   4. Aggiungere campi opzionali di geolocalizzazione (longitudine e latitudine) per facilitare l'analisi spaziale e la riproducibilità. Definizioni complete dei campi, tipi di dati e unità utilizzate in cnemc_2019_2024. I valori CSV sono riassunti nella Tabella 1.

2. Selezione e etichettatura delle variabili

1. Selezione delle variabili
   1. Seleziona le variabili che rappresentano i parametri fisicochimici più frequentemente monitorati delle acque superficiali, garantendo rilevanza ecologica e sensibilità all'inquinamento o ai disturbi ambientali. In particolare, includere i seguenti indicatori:
      pH, che riflette l'equilibrio acido-base dell'acqua e influenza l'attività biologica e la solubilità chimica
      Ossigeno disciolto (DO), un indicatore diretto della salute degli ecosistemi acquatici e dell'inquinamento organico
      Fosforo totale (TP) e azoto totale (TN), due nutrienti principali collegati ai processi di eutrofizzazione
      Indice di Permanganato (COD_Mn), che rappresenta il contenuto di materia organica ossidabile e una misura indiretta dell'inquinamento organico
      Turbidità (Tur), che riflette particelle sospese e carico di sedimenti
      Conducibilità elettrica (EC), che indica la concentrazione di ioni disciolti e la salinità complessiva
   2. Seleziona queste variabili non solo per la loro disponibilità abituale presso le stazioni di monitoraggio CNEMC, ma anche per la loro rilevanza dimostrata negli studi^precedenti 10,11,14,17 sulla valutazione della qualità dell'acqua e la rilevazione di anomalie.
2. Strategia di etichettatura
   1. Definire le etichette di anomalia per supportare l'addestramento e la valutazione del modello. Applicare una strategia di doppia etichettatura che combina i due approcci complementari.
   2. Etichettatura normativa o basata su esperti: Adottare eventi anomali anomali ufficialmente documentati o annotati (ad esempio, scarichi improvvisi di inquinanti, fioriture algali o guasti di strumenti) dall'autorità di monitoraggio come anomalie di verità sul terreno.
   3. Etichettatura debole basata sui dati: Inferire anomalie per intervalli di monitoraggio privi di annotazioni esplicite di esperti direttamente dal dataset di serie temporali multivariate CNEMC applicando un quadro di etichettatura debole guidato statisticamente e consapevole della stagione.
   4. Strutturare questo processo in tre componenti principali: eseguire la normalizzazione stagionale, applicare la rilevazione della deviazione basata su quantile e rafforzare i risultati tramite una valutazione basata sui residui.
      1. Normalizzazione stagionale: Normalizzare gli effetti stagionali per ogni variabile_{x i,t} (ad esempio, DO, COD_Mn, TP, TN, Turbidità) utilizzando il campo stagionale esplicito (Primavera, Estate, Autunno, Inverno) fornito nel dataset CNEMC. Standardizzare ogni variabile all'interno del suo corrispondente sottoinsieme stagionale, come mostrato nell'Equazione (1).
         (1)
         dove μ_i^(s) e σ_i^(s) sono la media e la deviazione standard della variabile i durante le stagioni s. Questa normalizzazione compensa i cambiamenti stagionali sistematici come la riduzione del DO in estate o l'aumento del_{COD Mn} durante la stagione delle piogge, garantendo la comparabilità tra le stagioni.
      2. Etichettatura debole basata su quantile: Dopo la normalizzazione, si identificano le anomalie applicando soglie quantile robuste calcolate per ogni variabile all'interno della stessa stagione e gruppo provinciale, come mostrato nell'Equazione (2).
         (2)
         dove Q_p (⋅) è l'operatore p-esimo quantile, è la soglia inferiore e superiore dei quantili (1° e 99° percentile) per la variabile i nelle stagioni s. Segnalare un dato come anomalo se supera questi limiti, come mostrato nell'Equazione (3).
         (3)
         Questo passaggio tiene conto adattivo delle differenze regionali e stagionali, evitando così false rilevazioni causate da fluttuazioni idrologiche naturali.
      3. Rinforzo basato sui residui: Stabilire una mediana mobile di 15 giorni per rilevare deviazioni improvvise a breve termine che le soglie quantile potrebbero trascurare, come espresso nell'Equazione (4).
         (4)
         dove_{re i,t} è la deviazione residua della variabile i al tempo t, la mediana (x_i,t-15:t+15) è la mediana mobile di 15 giorni intorno a t. Segnala un punto dati come anomalia residua se il residuo assoluto supera tre volte la deviazione standard stagionale (|_{r i,t}| > 3σ_i^(s)). Questo rinforzo residuo catturava efficacemente i picchi transitori causati da scarica di inquinanti, eventi di pioggia o guasti temporanei dei sensori.
      4. Decisione combinata di etichetta debole: Fondere sia indicatori di anomalia basati su quantile che su residui per assegnare un'etichetta debole binaria y_t, come definito nell'Equazione (5).
         (5)
         dove y_t=1 indica che almeno un parametro mostra comportamenti anomali al tempo t, y_t = 0 indica osservazioni normali su tutti i parametri.
         Generare un insieme di annotazioni deboli basate sui dati per tutte le 13 province e cinque regioni climatiche nel dataset CNEMC utilizzando la procedura di etichettatura combinata. Integrare queste etichette nell'apprendimento ponderato per la fiducia assegnando un peso di fiducia di 0,7 alle etichette deboli rispetto alle annotazioni verificate da esperti con un peso di 1,0.
   5. Proporzione di tipi di annotazione
      1. Utilizzare circa il 42% di annotazioni verificate da esperti derivate da rapporti ambientali ufficiali e il 58% di annotazioni deboli generate da dati di monitoraggio continuo. Applicare una fusione euristica tra la soglia del z-score e la decomposizione stagionale delle tendenze (STL) per rilevare potenziali anomalie nelle serie temporali multivariate della qualità dell'acqua. Le proporzioni di annotazione scelte sono validate tramite esperimenti presentati nella Sezione 5.1 (Effetto del rapporto di annotazione) della parte Risultati. Questi risultati confermano che si verifica un equilibrio empiricamente ottimale intorno a un rapporto esperto/debole di 40:60, coerente con la composizione effettiva del dataset.
   6. Validazione della debole accuratezza delle annotazioni
      1. Garantire l'affidabilità di campioni debolmente annotati incrociando un sottoinsieme casuale di 800 istanze debolmente etichettate con esperti ambientali. Registra il tasso di concordanza tra annotazioni deboli e sentenze di esperti, che dovrebbe raggiungere circa l'87,5%. Rimuovere campioni con bassa fiducia in anomalia (< 0,6) o disaccordo con il set di validazione esperto dai dati di addestramento.
      2. Mantieni le annotazioni deboli conservate con un'accuratezza effettiva superiore al 90%. Esaminare l'affidabilità delle annotazioni deboli e la loro influenza sulle prestazioni del modello, dove esperimenti controllati confermano che mantenere un'accuratezza di etichetta debole sopra il 90% previene efficacemente il bias di addestramento e garantisce un comportamento predittivo stabile.
   7. Mitigazione del bias
      1. Durante l'addestramento, applica una strategia di apprendimento ponderata sulla fiducia per mitigare i potenziali bias introdotti da annotazioni deboli. Definisci la funzione di perdita come mostrato nell'Equazione (6).
         (6)
         dove_{y i}∈{0,1} indica l'etichetta di verità fondamentale del campione i-esimo, p_i rappresenta la probabilità prevista del modello, w_i è il peso assegnato a ciascun campione e N è il numero totale di campioni.
      2. Determina il peso del campione w_i in base alla fonte e al livello di confidenza dell'etichetta, come mostrato nell'Equazione (7).
         (7)
         Qui, c_i∈[0,1] indica il punteggio di fiducia dell'annotazione i-esima, e α,β sono i coefficienti di ponderazione globali rispettivamente per le etichette esperto e deboli. L'analisi empirica ha dimostrato che impostare α=1,0 e β=0,7 ottiene il miglior compromesso tra prestazioni e stabilità, poiché questa pesatura sopprime efficacemente il rumore residuo delle etichette deboli mantenendo un contributo sufficiente dalla loro copertura più ampia.
      3. Seleziona sette parametri fisicochimici (pH, DO, TP, TN, COD_Mn, Tur ed EC) come variabili fondamentali per la rilevazione delle anomalie. Utilizzare questi indicatori per rappresentare in modo completo lo stato dei nutrienti, l'inquinamento organico, la disponibilità di ossigeno e la composizione ionica delle acque superficiali. Fornisci una descrizione dettagliata di ogni variabile.

3. Controllo della qualità dei dati e preelaborazione

1. Stabilire una pipeline gerarchica di controllo qualità dei dati e preprocessing per garantire l'affidabilità e l'applicabilità nella modellazione dei dati di monitoraggio della qualità dell'acqua a più sorgenti. Eseguire sequenzialmente allineamento temporale, imputazione di valori mancanti, rilevamento anomalie, normalizzazione di scale e costruzione del campione a finestre. Selezionare e combinare dinamicamente i metodi appropriati in base alle caratteristiche specifiche dei dati.
2. Allineamento temporale e ricampionamento: Allinea tutte le sequenze delle stazioni di monitoraggio a una risoluzione temporale unificata di 15 minuti per tenere conto dei timestamp non sincronizzati. Per punti campionati irregolari, applica un'interpolazione lineare tra osservazioni adiacenti secondo l'Equazione (8). Assicurarsi che i successivi campioni con finestre siano costruiti su una griglia temporale coerente.
   (8)
3. Elaborazione dei valori mancanti
   1. Categorizzare i valori mancanti in base alla durata degli intervalli consecutivi in mancanti a breve termine (<6 punti consecutivi, cioè <1,5 h) e mancanti a lungo termine (≥6 punti consecutivi), e sono state applicate strategie diverse di conseguenza.
   2. Applicare il filtraggio e il smoothing di Kalman per eseguire la stima dinamica degli intervalli mancanti a lungo termine (≥ 6 punti consecutivi). Modella ogni variabile di qualità dell'acqua x_t (ad esempio, DO, TN, COD_Mn) utilizzando una formulazione discreta nello spazio degli stati lineare, come mostrato in
      Equazioni (9) a (11).
      (9)
      (10)
      (11)
      dove x_t è lo stato latente (vero) della variabile di qualità dell'acqua al tempo t, y_t è il corrispondente valore osservato; A è il coefficiente di transizione di stato (empiricamente impostato a 0,95) per riflettere un'alta correlazione temporale in osservazioni di 15 minuti, H è la matrice di osservazione (impostata a 1 per le misurazioni dirette), w_t ∼ N(0,Q) e v_t ∼ N(0,R) sono rispettivamente il processo gaussiano a media zero e il rumore di misura; Q = (0,05σ_x)² e R = (0,10σ_x)², dove σ_x è la deviazione standard della variabile all'interno di una finestra scorrevole di 7 giorni.
   3. Configura il filtro per rimanere sensibile alla variabilità a breve termine sopprimendo però il rumore casuale di misurazione. Inizializzare lo stato iniziale usando la prima osservazione non mancante disponibile e impostare la covarianza iniziale P_0|0 a . Rimuovere l'intero segmento se l'intervallo mancante supera le 24 ore (96 record) per evitare l'accumulo di errori dovuto all'estrapolazione a lungo termine.
4. Rilevamento e correzione delle anomalie
   1. Identificare e correggere le anomalie in due passaggi sequenziali: vincoli rigidi (limiti fisici) e vincoli morbidi (limiti di gradiente e winsorizzazione quantile).
      1. Vincoli rigidi (limiti fisici): Scartare misurazioni che si ritrovano al di fuori delle range fisicamente plausibili (ad esempio, pH∉[0,14],DO>20 mg/L).
      2. Vincoli morbidi (limiti di gradiente + winsorizzazione quantistica): segnalare un dato come sospetto se il tasso di variazione assoluta tra due osservazioni consecutive supera una soglia di gradiente definita empiricamente |_{x t} -_{x t-1} | > θ. Set θ=3σ_x ^Δt-1, dove σ x indica la deviazione standard della variabile su una finestra scorrevole di 24 ore, e Δt = 15 min rappresenta l'intervallo di campionamento. Correggere i valori estremi utilizzando una procedura di winsorizzazione, come espresso nell'Equazione (12).
         (12)
         dove Q_α e Q_1-α indicano rispettivamente l'1% e il 99%.
         La procedura elimina innanzitutto i valori impossibili tramite vincoli rigidi, poi segnala osservazioni anomale basate sulle soglie di gradiente e infine leviga le deviazioni residue usando winsorizzazione basata su quantile. Questo approccio gerarchico garantiva sia la validità fisica sia la stabilità statistica del dataset pulito.
5. Normalizzazione
   1. Diversi indicatori di qualità dell'acqua hanno unità e valori differenti. Per eliminare le differenze di scala e prevenire che alcune variabili dominino il processo di addestramento del modello, applica la normalizzazione z-score.
6. Costruzione del campione di finestra
   1. Trasformare la serie temporale in campioni di finestra scorrevole a lunghezza fissa per preservare le dipendenze temporali. Data lunghezza della finestra W e dimensione del passo S, si costruiscono i campioni di input secondo l'Equazione (13).
        (13)
      Imposta W=96 (cioè 24 ore con un intervallo di 15 minuti) e S=1 per generare campioni in sequenza usando una finestra scorrevole punto per punto.

4. Rete neurale liquida dipendente dall'attenzione (AG-LNN)

NOTA: L'architettura complessiva della proposta Attention Gated Liquid Neural Network (AG-LNN) è illustrata nella Figura 2. Il modello integra input di qualità dell'acqua multi-sorgente, un meccanismo di gating basato sull'attenzione, una LNN con costanti di tempo adattive e una fase di decodifica di lettura con output interpretabili. Questo design consente alla rete di catturare dinamicamente dipendenze temporali complesse pur rimanendo robusta al rumore e al campionamento non uniforme.

1. Livello di input multi-sorgente: Consulta la parte più a sinistra della Figura 2 per visualizzare i dati di monitoraggio della qualità dell'acqua a più sorgenti {x_τ}, dove ogni vettore x_τ∈R^C rappresenta misurazioni delle variabili fisicochimiche C (ad esempio, pH, DO, TN, TP, COD_Mn, Turbidità, EC) al tempo τ. Segmentare le sequenze di input in finestre scorrevoli di lunghezza fissa di dimensione W, come formulato nell'Equazione (14).
   (14)
2. Porta dell'attenzione di input: Applicare una porta dell'attenzione, come illustrato nel blocco in basso a sinistra della Figura 2, per enfatizzare le variabili informative e sopprimere le fluttuazioni rumorose. Calcola i pesi di attenzione secondo l'Equazione (15).
   (15)
   dove α_τ indica importanza a livello di canale al tempo τ. Questo meccanismo garantisce che le variabili fortemente correlate con cambiamenti anomali (ad esempio, DO e COD_Mn) ricevano pesi maggiori.
3. Porta a costante temporale
   1. Modulare la costante di tempo del liquido usando il segnale di attenzione aggregato, come illustrato nel blocco superiore della Figura 2, e formularlo secondo l'Equazione (16).
      (16)
      dove λ_base è la costante temporale di base che controlla la memoria intrinseca di ciascun neurone liquido; indica il peso medio dell'attenzione attraverso i canali C nel passo temporale τ; β è un coefficiente di sensibilità che determina quanto fortemente l'attenzione influenzi la reattività temporale.
   2. Quando è elevato, λ_τ diminuisce, spingendo la rete ad accelerare la risposta e a catturare meglio anomalie di breve durata. Imporre vincoli vincoli su λ_τ per stabilizzare l'addestramento.
   3. Garantire la stabilità numerica e prevenire esplosioni o annullazioni imponendo vincoli legati sulla costante temporale λ_τ. Impostare λ_τ ∈ [λ_{min,λ max}] = [0,5,2,0]. Taglia i valori al di fuori di questo intervallo al limite più vicino durante l'addestramento per mantenere un comportamento adattivo controllato in condizioni ambientali variabili. Impostare λ = 1.0 garantisce precisione ottimale e stabilità di convergenza.
4. Strato neurale liquido
   1. Impiegare una Rete Neurale Liquida (LNN) per eseguire la modellazione in tempo continuo delle serie temporali ed esprimere la sua formulazione dinamica come mostrato nell'Equazione (17).
      (17)
      dove ḣ(t) indica il vettore di stato nascosto; λ(⋅) rappresenta la costante di tempo apprendibile, modulata dall'attenzione; σ(∙) è la funzione di attivazione non lineare (ReLU); A e B sono matrici di pesi imparabili; x̃(t) è il vettore di ingresso normalizzato; B è il termine di pregiudizio. Questa equazione garantisce che la dinamica della rete evolva sia con input che stati, mentre la costante di tempo λ(⋅) rimane apprendibile e dipendente dal contesto.
   2. Per il calcolo numerico, si utilizza il metodo esplicito di integrazione di Euler per la discretizzazione, come mostrato nell'Equazione (18).
      (18)
      Qui, Δ_τ rappresenta il passo temporale discreto (intervallo di integrazione) tra osservazioni successive, calcolato usando l'Equazione (19).
      Δ_τ=(t_τ -_{t τ-1})/_norma T (19)
      dove t_τ e t_τ-1 sono i timestamp (in minuti) delle misurazioni consecutive e la_norma T = 15 min corrisponde al periodo nominale di campionamento nei dati di monitoraggio CNEMC. Quindi, Δ_τ = 1 per intervalli regolari di 15 minuti, mentre Δ_τ > 1 o Δ_τ < 1 riflette un campionamento irregolare causato da osservazioni mancanti o dense. Questo approccio gestisce naturalmente il campionamento irregolare mantenendo l'interpretabilità rispetto alle dinamiche fisiche sottostanti.
5. Lettura e punteggio delle anomalie
   1. Dopo aver completato l'aggiornamento dello stato nascosto, si utilizza uno strato di lettura nell'AG-LNN per generare la previsione a un passo in anticipo, come espresso nell'Equazione (20).
      (20)
      dove W_o e c indicano rispettivamente la matrice di proiezione di uscita e il vettore di bias.
   2. Calcolare il residuo come punteggio di anomalia basandosi sulla discrepanza tra i valori previsti e osservati, come mostrato nell'Equazione (21).
      (21)
   3. Applicare una strategia di soglia adattiva basata su quantile per determinare se un'osservazione corrisponde a un'anomalia.
   4. Definire la soglia di anomalia θ_x per ogni variabile di qualità dell'acqua usando il 99° percentile dei residui nell'insieme di addestramento, come formulato nell'Equazione (22).
      (22)
      dove σ_s indica la deviazione standard della sequenza residua, e γ = 0,2 è un coefficiente di sicurezza fisso che compensa le variazioni naturali diurne.
   5. Questo disegno corrisponde approssimativamente a una probabilità di superamento dell'1%, coerente con le definizioni standard di anomalie ambientali. Durante l'inferenza, la rete produce solo la sequenza residua {s_τ}; per la determinazione dell'anomalia, si esegue il post-hoc secondo le Equazioni (14)–(15). Questo disegno di separazione è coerente con il quadro complessivo dello studio, garantendo che il modello si concentri sull'estrazione delle caratteristiche e sulla misurazione delle anomalie piuttosto che sulla partecipazione diretta alla definizione delle soglia.
6. Obiettivi di formazione e regolarizzazione
   1. Durante l'addestramento, minimizza l'errore di previsione applicando contemporaneamente una regolarizzazione aggiuntiva sia sui pesi di attenzione che sulle costanti di tempo per evitare sovrafitting e instabilità numerica. La funzione di perdita è espressa dall'Equazione (23).
      (23)
   2. Applicare Reg_α tramite regolarizzazione a entropia -∑α_τ log α_τ o la norma L1 per evitare il collasso dell'attenzione. Applicare Reg_λ penalizzando Δλ_τ = λ_τ - λ_τ-1, limitando le drastiche fluttuazioni della costante di tempo e aggiungendo penalità quando supera i limiti superiore e inferiore predefiniti. Questo approccio è stato utilizzato per mantenere la flessibilità dell'AG-LNN garantendo al contempo la stabilità durante l'addestramento.
7. Output di calcolo e interpretabilità anticipata
   1. Semplificare il processo di calcolo anticipato di AG-LNN nella seguente struttura di catena, come mostrato nell'Equazione (24).
      (24)
   2. Durante l'addestramento e l'inferenza, registra continuamente i pesi di attenzione_{α τ} e le costanti di tempo liquido λ_τ, e utilizzali per generare risultati di interpretabilità, ovvero heatmap di attenzione e curve di costanti di tempo liquido. Usa queste visualizzazioni per evidenziare come il modello si concentri su diverse variabili e scale temporali, migliorando così l'interpretabilità del metodo.

5. Procedura di addestramento

1. Partizionamento dei dati: Dividere cronologicamente le serie temporali multi-fonte di qualità dell'acqua in sottoinsiemi di addestramento, validazione e test usando una suddivisione 70%/15%/15%. Garantire la robustezza selezionando il set di test per includere i periodi anomali noti mantenendolo strettamente non sovrapposto ai dati di addestramento per prevenire perdite temporali.
2. Dettagli dell'addestramento
   1. Risolvere la dinamica continua nello strato liquido utilizzando uno schema di Euler esplicito stabilizzato. Per confronto, testare una discretizzazione in forma chiusa seguendo la formulazione di riferimento^20,21.
   2. Programma di riscaldamento dell'attenzione: Fissare i pesi di attenzione a un valore quasi uniforme (≈ 1.0) durante le prime 10 epoche per stabilizzare il flusso del gradiente. Dopo l'epoca 10, si ricottura gradualmente l'attenzione fino allo stato apprendibile rilasciando linearmente gli aggiornamenti di peso nelle successive 5 epoche (fattore di scala = 0,8). Utilizzare questa strategia di riscaldamento per prevenire oscillazioni instabili all'inizio dell'allenamento e garantire una convergenza fluida.
   3. Ottimizzatore e scheduler della velocità di apprendimento: Ottimizzare i parametri del modello usando l'ottimizzatore Adam con β₁ = 0,9, β₂ = 0,999, ε = 1 x 10⁻⁸. Imposta il tasso di apprendimento iniziale a 1 x 10⁻³ e controllalo utilizzando un programma di ricottura cosenonico (T_max = 50 epoche, Tasso minimo di apprendimento = 1 x 10⁻⁵). Scegli le dimensioni dei lotti tra 32 e 128, a seconda della capacità di memoria della GPU. Applicare questa programmazione graduale per garantire un'adattamento stabile delle dinamiche a tempo continuo senza spostamenti bruschi della velocità di apprendimento.
   4. Arresto precoce e impostazioni di riproducibilità: Interrompere l'addestramento anticipatamente se la metrica di validazione (AU-PR o F1) non migliora per 10 epoche consecutive (pazienza = 10). Ripeti ogni esperimento 3 volte usando semi casuali fissi (42, 73 e 101) per garantire la riproducibilità. Imposta il numero massimo di epoche a 100 e mantiene il checkpoint con la migliore validazione AU-PR per i test.
3. Ambiente hardware e software
   1. Esegui tutti gli esperimenti su un server Linux equipaggiato con GPU NVIDIA Tesla V100 (32 GB di memoria) e due CPU Intel Xeon Gold 6230 con 256 GB di RAM. Implementa il modello in Python 3.9 usando PyTorch 2.0 come framework per il deep learning e utilizza librerie ausiliarie tra cui NumPy 1.23, SciPy 1.9 e scikit-learn 1.2 per la preelaborazione e la valutazione. Containerizzare tutti gli esperimenti usando Docker 23.0 e gestirli su Ubuntu 20.04 LTS per garantire riproducibilità e portabilità dei risultati. Consulta la Tabella dei materiali per le specifiche dettagliate di tutti i dispositivi hardware e strumenti software per garantire chiarezza e replicabilità.

Risultati

Confronto delle prestazioni complessive

La Tabella 2 presenta i risultati comparativi dei diversi modelli di base e dell'AG-LNN proposto per il compito di rilevamento delle anomalie di qualità dell'acqua. Tra le tradizionali basi non supervisionate, Isolation Forest²² e One-Class^{SVM 23} hanno raggiunto solo una precisione e un richiamo moderati, riflettendo la loro limitata capacità di catturare le dipendenze temp...

Discussione

Questo studio introduce una Rete Neurale Liquida Attenzionata (AG-LNN), una nuova architettura per il rilevamento di anomalie di qualità dell'acqua che combina dinamica liquida a tempo continuo con meccanismi di gating basati sull'attenzione. La componente neurale liquida di un AG-LNN è ispirata alle Reti a Tempo Liquido (LTC), che modellano serie temporali con costanti di tempo apprendibili e dipendenti^{dall'input 20}. Tuttavia, AG-LNN va oltre le LTC standard inte...

Materiali

Elenco dei materiali utilizzati in questo articolo

Nome	Azienda	Numero di catalogo	Commenti
256 GB di RAM DDR4	Samsung	M393A4K40DB3	Memoria ad alta capacità per gestire grandi dataset multivariati di serie temporali
CUDA 11.6	NVIDIA	N/A	Toolkit per accelerazione GPU per PyTorch
Intel Xeon Gold 6330 CPU (2.0GHz, 28 core)	Intel	BX80708-6330	Utilizzato come server principale di calcolo per l'addestramento dei modelli
Matplotlib 3.4, Seaborn 0.11	Open Source	N/A	Visualizzazione dei risultati sperimentali
NumPy 1.21, Pandas 1.3	Open Source	N/A	Preprocessing dei dati e ingegneria delle funzionalità
GPU NVIDIA A100 (40GB)	NVIDIA	900-21001-0000-001	Addestramento accelerato dell'AG-LNN con supporto CUDA
Python 3.9	Python Software Foundation	N/A	Linguaggio di programmazione principale per l'implementazione
PyTorch 1.12	Meta AI	N/A	Framework di deep learning utilizzato per costruire AG-LNN
Scikit-learn 0.24	Open Source	N/A	Metriche di valutazione e modelli di base
Ubuntu 20.04 LTS OS	Canonico	N/A	Sistema operativo per l'ambiente computazionale