De voorgestelde methodologie maakt gebruik van een systeembestuurde Industry 5.0 Cyber-physical human system (CPHS)-benadering die uitlegbare deep learning combineert met een cyber-fysiek samenwerkingskader mogelijk gemaakt door edge computing om duurzame productieprocessen te ondersteunen. Ten eerste wordt het probleem aangepakt door bepaalde beperkingen van huidige CPHS-oplossingen te herkennen, zoals een gebrek aan AI-gestuurde intelligentie, uitlegbaarheid en mensgerichte samenwerking. Om deze uitdagingen aan te pakken, maakt de voorgestelde oplossing gebruik van de MIMII-dataset voor conditiemonitoren van industriële machines middels akoestische signaalverwerking.
Het voorgestelde raamwerk begint met het invoeren van de gegenereerde spectrogrammen in een CNN-model dat ruimtelijke kenmerken extraheert door significante frequentiepatronen te herkennen die geassocieerd zijn met verschillende machinetoestanden. De geëxtraheerde ruimtelijke kenmerken worden omgezet in sequenties en ingevoerd in een transformer-encoder-module om temporele afhankelijkheden via self-attention vast te leggen. De getransformeerde kenmerkrepresentatie wordt vervolgens doorgegeven aan een volledig verbonden classifiermodule om machinetoestanden te classificeren als normaal of abnormaal. Daarnaast wordt, om transparantie te waarborgen en mensgerichte besluitvorming te faciliteren, de SHAP-uitlegbaarheidsbenadering gebruikt om voorspellingen toe te lichten door significante tijd-frequentiegebieden in de modeloutput te selecteren. Het ontworpen model zal worden geïmplementeerd in een edge-enabled CPS-omgeving, waardoor real-time inferentie mogelijk is met een lage computationele latentie en een laag energieverbruik. Bovendien zal een human-in-the-loop-schema worden geïntegreerd om menselijke operators in staat te stellen validaties uit te voeren op basis van de uitlegbaarheidsresultaten. De prestaties worden gevalideerd met behulp van nauwkeurigheid, precisie, recall en de F1-score, evenals andere systeemmetrieken zoals latentie en energie-efficiëntie.
Het voorgestelde raamwerk is een door XAI aangestuurd CPHS-mechanisme voor duurzame productie in de context van Industrie 5.0, en de workflow ervan wordt gepresenteerd als een pijplijn van data-acquisitie tot intelligente besluitvorming en uitvoering, zoals weergegeven in Figuur 1. In de beginfase van de procedure voor data-acquisitie worden geluidssignalen verzameld van machines in industrieën zoals motoren, pompen en lagers met behulp van datasets waaronder MIMII. De zo verkregen datasignalen worden doorgezet naar de volgende fase, aangeduid als data-preprocessing, waar ze worden onderworpen aan filtering, normalisatie en segmentatie. De gesegmenteerde datasignalen worden tenslotte omgezet in een spectrogram met behulp van de short-time Fourier transform (STFT) op de laag voor kenmerkrepresentatie.
Vervolgens gebruikt de AI-modellocatie de spectrogrambeelden om via de CNN-module kenmerken te extraheren, waarbij ruimtelijke patronen en anomalieën worden geïdentificeerd. Daarna worden de geëxtraheerde kenmerken hervormd en ingevoerd in de transformer-encoder, die via self-attention-mechanismen temporele afhankelijkheden en langetermijnrelaties leert. De resulterende kenmerkvectoren worden met behulp van de classificatielaag geclassificeerd als normaal of abnormaal. Om transparantie in het voorspellingsproces te waarborgen, gebruikt de explainability-laag SHAP om significante tijd-frequentiegebieden in het spectrogram te markeren.
Daarnaast is er een "human-in-the-loop"-proces waarbij operators de resultaten van het model interpreteren en feedback geven. In de implementatielaag draait het model op een edge-gebaseerde CPHS-infrastructuur, wat zorgt voor een snelle inferentie en een laag energieverbruik, terwijl er optioneel een koppeling is met cloudsystemen voor opslagvereisten of geavanceerde analyses. Samen waarborgt het raamwerk een nauwkeurige foutdetectie, verklaarbaarheid en efficiënte real-time werking in overeenstemming met de eisen van Industrie 5.0.
Probleemdefinitie en vereistenanalyse
Cyber-fysieke menselijke systemen (CPHS) in Industry 5.0-omgevingen beloven intelligentie, duurzaamheid en mensgerichtheid. Toch worden hedendaagse frameworks voor het bouwen van CPHS belemmerd door een gebrek aan geavanceerde AI-gestuurde mogelijkheden, uitlegbaarheid en adequate ondersteuning voor mens-machinecollaboratie. Inderdaad zijn conventionele CPHS gebaseerd op regelgebaseerde of oninterpreteerbare modellen, wat de aanpassing aan veranderende industriële omstandigheden belemmert en het vertrouwen van operators in automatisering beperkt. Bovendien kunnen conventionele CPHS geen hoogwaardige data effectief analyseren, zoals industriële akoestische signalen die zowel ruimtelijke (d.w.z. frequentie) als tijdsafhankelijke componenten bevatten, welke essentieel zijn voor voorspellend onderhoud. Daarom is het noodzakelijk om een framework te creëren dat machineanomalieën met hoge precisie kan detecteren, uitleg kan geven en aan de edge kan opereren, waardoor CPS wordt gefaciliteerd.
Hier is x(t) het akoestische ingangssignaal, S(f,t) de spectrogramrepresentatie van het signaal,
het label en θ de parameterset van de CNN-Transformer-architectuur. Symbolen die in volgende vergelijkingen worden gebruikt, worden direct na hun eerste verschijning geïntroduceerd om de mathematische correctheid te waarborgen.
Vanuit een wiskundig oogpunt kan de taak worden geformaliseerd als een probleem van gesuperviseerd leren. Laat het industriële akoestische signaal worden aangeduid als x(t). De STFT van x(t) wordt berekend volgens de formule:
(1)
waarbij ω(.) de vensterfunctie is en f de frequentie. Het gegenereerde spectrogram
dient als input voor het deep learning-algoritme. Het doel is om de afbeeldingsfunctie te trainen
(2)
waarbij
het klasselabel is (ofwel normaal of abnormaal), en waarbij S de spectrogram-input is, y het voorspelde outputlabel is en θ de set leerbare parameters van de CNN-Transformer-architectuur is. Het optimalisatieprobleem is geformuleerd als de minimalisatie van het classificatieverlies:
(3)
onderworpen aan de beperkingen van minimale latentie
, energie-efficiëntie
, en interpreteerbaarheid, waarbij de verklaring ∅(SHAP) het belang van kenmerken in het voorspellingsproces vastlegt,
(4)
waarbij
de bijdrage van elke individuele feature is. In overeenstemming met het voorgaande omvatten de ontwerpeisen het volgende: (i) betrouwbare anomaliedetectie op basis van hybride deep learning, (ii) interpreteerbare outputs voor menselijke interventie en (iii) implementatie in een edge-enhanced CPS-framework.
Datasetverwerving en preprocessing
In dit verband is de MIMII Dataset13 geselecteerd om het voorgestelde CPHS-framework op basis van Explainable AI te beoordelen. Deze dataset is een veelgebruikte benchmark voor het detecteren van anomalieën in industriële machines met behulp van akoestische signalen. Deze database bevat geluidsopnamen van diverse machines, zoals glijrails, ventilatoren, pompen en kleppen, onder zowel normale als defecte bedrijfsomstandigheden. Voor elke machine variëren de opnamen per instelling en ruisomgeving. Dit maakt de dataset geschikt voor het trainen en evalueren van modellen onder industriële real-time omstandigheden.
Hoewel de MIMII-dataset veelvuldig wordt gebruikt in studies naar ongesuperviseerde anomaliedetectie die tijdens de training uitsluitend vertrouwen op normale monsters, bevat deze expliciete annotaties van zowel normale als abnormale machinestanden. Het probleem is geformuleerd als een gesuperviseerde binaire classificatietaak om het vermogen van de voorgestelde, op Explainable AI gebaseerde CNN-Transformer-architectuur te testen om gezonde van defecte machinestanden te scheiden. Specifiek worden de officiële MIMII-labels gebruikt, waarbij klasselabel 0 wordt toegekend aan normale monsters en klasselabel 1 aan abnormale monsters.
Tabel 1 toont de details van de beschrijving van de dataset. In het huidige onderzoek worden ongeveer 12.000 opnames van akoestische signalen beschouwd, waaronder zowel normale als defecte machinebedrjfgingen. Conform de vereisten zijn alle opnames in deze studie vastgelegd op 16 kHz en hebben ze een duur van 10 s. Hoewel de dataset ongeveer 12.000 opnames bevat, is een klasse-gebalanceerde subset van 2.000 testopnames uitsluitend geselecteerd om de confuse matrix te visualiseren. Alle gerapporteerde prestatiemetrieken zijn berekend met gebruik van de volledige testset (ongeveer 2.400 opnames). Verder zijn de trainings- en testmonsters gescheiden in een verhouding van 80:20 voor de modeltraining. Deze database is zeer geschikt voor Industry 5.0-toepassingen omdat deze realtime ruiscondities bevat. De verdeling van de opnames die in deze studie is gebruikt, staat in Tabel 2. Uit deze dataset zijn ongeveer 12.000 opnames geselecteerd die alle machinetypen en signaal-ruisverhouding (SNR)-condities dekken voor de experimenten met gesuperviseerde binaire classificatie met een 80:20 train/test-splitsing; hierin worden de industriële machinetypen, de bijbehorende machine-ID's, het totale aantal normale en abnormale akoestische opnames, de SNR-condities en de experimentele train/test-partitie getoond die is gebruikt voor de gesuperviseerde binaire classificatie.
Het experiment werd uitgevoerd met versie 1.0 van de MIMII (Malfunctioning Industrial Machine Investigation and Inspection) dataset, die vier typen industriële machines bevat: ventilatoren, pompen, kleppen en glijrails. De gegevens werden verzameld van verschillende machine-ID's (ID00–ID06, afhankelijk van het machinetype) en condities. De MIMII-database bevat gegevens die zijn verkregen bij signaal-ruisverhoudingen (SNR's) van −6 dB, 0 dB en +6 dB. Normale gegevens komen overeen met de gezonde conditie van de industriële machine, terwijl anomale gegevens overeenkomen met een abnormale conditie. De klassen werden gelabeld op basis van de annotatie van de database, waarbij normale gegevens werden gelabeld als klasse 0 en anomale gegevens als klasse 1.
Een eerlijke evaluatieprocedure vereiste dat de splitsing tussen de trainings- en testsets plaatsvond op het niveau van de oorspronkelijke audio-opname, voorafgaand aan alle stappen voor splitsing, augmentatie of het maken van spectrogrammen. Bijgevolg konden audiosegmenten van dezelfde opname niet in zowel de trainings- als de testset voorkomen. Voor het evaluatie-experiment werden opnames met verschillende signaal-ruisverhoudingen (−6 dB, 0 dB en +6 dB) gebruikt, wat de mogelijkheid bood om het voorgestelde raamwerk onder diverse industriële omstandigheden te evalueren.
Om datalekken te voorkomen, werd de train/test-splitsing uitgevoerd op basis van het originele audiobestand, voorafgaand aan enige segmentatie of spectrogramgeneratie. Segmenten van dezelfde audio-opname van 10 s werden exclusief toegewezen aan óf de trainingsset óf de testset, waarbij geen segmenten in beide sets voorkwamen. Daarna werden spectrogrammen gegenereerd en apart voor elke dataset uitgebreid door middel van augmentatie. Op deze manier wordt het probleem van datalekken vermeden, waardoor een te optimistische beoordeling van de prestaties wordt voorkomen.
Preprocessing van de dataset
De onbewerkte akoestische signalen uit de MIMII-dataset worden vervolgens verwerkt om de signaalkwaliteit te verbeteren en effectieve kenmerkextractie mogelijk te maken. Het ingangssignaal wordt aangeduid met x(t), waarbij t de tijd is. Het eerste proces is ruisfiltering, waarbij achtergrondgeluiden worden gefilterd met behulp van een filterfunctie zodanig dat:
(5)
waarbij ∗ het convolutieproces vertegenwoordigt en h(t) de impulsrespons van het filter is. Dit proces verbetert de helderheid van het akoestische signaal en minimaliseert de effecten van ruis die vaak voorkomen in industriële omgevingen. Signaalnormalisatie wordt gebruikt om ervoor te zorgen dat de amplitudes van alle audiosignalen vergelijkbaar zijn voordat ze in het deep learning-model worden gevoerd. Het genormaliseerde signaal, aangeduid als xn(t), wordt als volgt berekend:
(6)
waarbij μ en σ respectievelijk de gemiddelde waarde en de standaarddeviatie van het ingangssignaal zijn. Door deze procedure is gegarandeerd dat alle ingangssignalen een gemiddelde van nul en een eenheidsvariantie hebben. Ten slotte wordt het genormaliseerde ingangssignaal voor de verwerking opgedeeld in meerdere kleine segmenten. Gegeven dat de lengte van het volledige signaal T is, wordt dit met behulp van een sliding window-functie onderverdeeld in N overlappende frames, elk met een lengte L:
(7)
waarbij H de hopgrootte is. Het spectrogram kan worden gedefinieerd door de onderstaande formule:
(8)
De op deze manier verkregen spectrogrammen worden ingevoerd in het CNN-transformer-gebaseerde framework om ruimtelijke en temporele kenmerken te extraheren voor een succesvolle anomaliedetectie. Figuur 2 toont de preprocessing-pijplijn.
Figuur 2 illustreert een verticale voorverwerkingspijplijn die kan worden toegepast op akoestische gegevens verkregen in de industrie. Eerst worden de ruwe audiosignalen uit de MIMII-dataset geëxtraheerd en naar de fase voor ruisonderdrukking gestuurd om ruis te verminderen. Daarna volgt het normaliseren van het signaal om inconsistenties in amplitude te verwijderen, zodat het signaal consistent is. Het signaal wordt vervolgens opgesplitst in kleinere, overlappende secties. Na de segmentatie worden STFT-transformaties op de gegevens toegepast om tijdsdomeinsignalen om te zetten in tijd-frequentiesignalen. Vervolgens wordt het vermogensspectrum berekend als onderdeel van het genereren van het spectrogram van het signaal. Voorbewerkte spectrogrammen zullen dus de output zijn van dit proces en worden gebruikt in het voorgestelde CNN-transformer-model.
Genereren van spectrogrammen
Na datanormalisatie en segmentatie worden akoestische signalen via de Short-Time Fourier Transform (STFT) omgezet in een tijd-frequentievertegenwoordiging. Het resulterende spectrogram biedt een visuele weergave van veranderingen in de frequentiesamenstelling gedurende de analyseperiode. In industriële omgevingen uiten machinefouten zich meestal als frequentiepatronen, waardoor spectrogrammen nuttiger zijn voor het detecteren van machineanomalieën.
De resulterende verwerkte gegevens worden daarom omgezet in spectrogrambeelden om onderscheid te maken tussen normale en abnormale instanties binnen de machines. De audiodata worden omgezet in meerdere spectrogrammen om het leermodel in staat te stellen lokale frequentiecomponenten en temporele veranderingen binnen het machineproces te analyseren. Deze beelden worden gebruikt als inputgegevens voor het CNN-transformer-model, waarbij het CNN de ruimtelijke (frequentie)patronen verwerkt en de Transformers de temporele relaties behandelen.
Algoritme 1: Genereren van spectrogrammen uit akoestische signalen
Input: Ruw audiosignaal x(t)
Output: Spectrogram S(t, f)
Stap 1: Laad audiosignaal x(t)
Stap 2: Pas ruisonderdrukking toe
Stap 3: Normaliseer signaal xn(t)
Stap 4: Segmenteer het signaal in frames:
voor k = 1 tot N doe

einde lus
Stap 5: Pas een windowfunctie w(t) toe op elk segment
Stap 6: Bereken STFT:
(9)
Stap 7: Bereken de magnitude:
(10)
Stap 8: Sla spectrogram S(t, f) op
Stap 9: Spectrogramdataset teruggeven
Het proces van het genereren van spectrogrammen begint met het verkrijgen van het oorspronkelijke audiosignaal, gevolgd door voorbewerkingsstappen zoals ruisonderdrukking en signaalnormalisatie om de integriteit en kwaliteit van het signaal te waarborgen. Daarna wordt de genormaliseerde audio opgedeeld in meerdere overlappende vensters om de temporele kenmerken van zowel lange- als kortetermijnperioden vast te leggen. Om spectrale lekkage te voorkomen, wordt elk van de fragmenten vermenigvuldigd met de vensterfunctie voordat ze door de Short-Time Fourier Transform worden geleid. Vervolgens wordt het getransformeerde signaal weergegeven als een complexwaardige functie in het frequentiedomein, en worden de magnitudes hiervan gekwadrateerd. Zo wordt de energie van de frequenties over de gegeven tijd weergegeven door de spectrogrammen. Ten slotte worden ze opgeslagen als beeldachtige gegevens en ingevoerd in het neurale netwerk voor training.
Ruimtelijke kenmerkextractie met behulp van CNN
Na het proces van het maken van spectrogrammen worden de resulterende tijd-frequentiebeelden als input gebruikt en aan een Convolutional Neural Network (CNN) gevoed. Uitgaande van het inputspectrogram als
, waarbij H het frequentiedomein is en W het tijddomein. Het doel van het gebruik van het CNN is hier om discriminatieve ruimtelijke kenmerken uit het inputspectrogram te leren. Deze discriminatieve ruimtelijke kenmerken helpen bij het onderscheiden van normaal en abnormaal machinegedrag in een industriële omgeving.
Een basisbewerking die wordt uitgevoerd door het Convolutional Neural Network (CNN) is convolutie. Convolutie met een bepaald filter
wordt als volgt gegeven:
(11)
De hierboven beschreven operatie stelt het neurale netwerk in staat om lokale ruimtelijke kenmerken, zoals randen, frequenties en harmonische inhoud, in het spectrogram te identificeren. Dit gebeurt via meerdere filteroperaties die diverse kenmerkrepresentaties genereren, wat resulteert in verschillende feature maps. De convolutie wordt gevolgd door een niet-lineaire activatiefunctie, zoals hieronder wordt getoond:
(12)
Deze niet-lineariteit stelt het netwerk in staat om complexe relaties tussen variabelen vast te leggen en te representeren. De volgende fase in een convolutioneel neuraal netwerk omvat de toepassing van pooling-operaties. De gangbare techniek van max pooling wordt wiskundig als volgt uitgedrukt:
(13)
waarbij Ω verwijst naar het pooling-venster. Pooling helpt om translatie-invariantie te bereiken en alleen de relevante informatie te behouden terwijl redundantie wordt geëlimineerd. Van laag-niveau variabelen zoals frequenties tot complex machinegedrag kunnen hoger-niveau kenmerken hiërarchisch worden geëxtraheerd met behulp van een convolutioneel neuraal netwerk. Bijgevolg kunnen keniskaarten (feature maps) worden gebruikt om de uiteindelijke output van het netwerk weer te geven:
(14)
waar de leerbare parameters van het CNN worden weergegeven. De feature maps bevatten rijke ruimtelijke informatie en worden omgezet in sequenties om als input te dienen voor de transformer-encoder in de volgende fase. Het hierboven beschreven proces van ruimtelijke kenmerkextractie is essentieel om het model in staat te stellen minuscule anomalieën in industriële akoestische signalen te detecteren.
Figuur 3 demonstreert hoe ruimtelijke kenmerken horizontaal worden geëxtraheerd uit het spectrogram-inputsignaal met behulp van een CNN-model. Het begint met het input-spectrogram, dat de tijd-frequentie-eigenschappen van het audiosignaal in een picturale vorm codeert. Het input-spectrogram wordt vervolgens door een convolutionele laag geleid, waarin verschillende typen filters ruimtelijke kenmerken zoals frequentiebanden, randen en texturen extraheren, waardoor feature maps worden gegenereerd. Daarna ondergaan de geëxtraheerde feature maps een niet-lineaire activatiefunctie, de rectified linear unit (ReLU), waardoor het neurale netwerk afhankelijkheden in de inputgegevens kan detecteren. De feature maps worden vervolgens door een pooling-laag geleid, waarbij de grootte van de map wordt gereduceerd terwijl de belangrijkste kenmerken behouden blijven. Dit proces van convolutionele, activatie- en pooling-lagen herhaalt zich meerdere keren, waardoor een hiërarchie van kenmerkrepresentatie ontstaat die begint bij eenvoudige kenmerken en evolueert naar meer geavanceerde kenmerken die gerelateerd zijn aan machinebewerkingen.
Temporele modellering met behulp van een transformer-encoder
Zodra de ruimtelijke kenmerken met behulp van het CNN zijn geëxtraheerd, is de volgende stap het afleiden van high-level feature maps die de frequentiegebaseerde patronen vastleggen die uit het spectrogram zijn geleerd. De resulterende feature maps worden vervolgens afgeplat en omgevormd tot sequenties om temporele informatie in het akoestische signaal vast te leggen. Uitgaande daarvan dat de feature maps worden weergegeven door
, waarbij H', W', en C respectievelijk de hoogte, breedte en kanalen zijn, wordt de volgende sequentie afgeleid:
(15)
waarbij T de sequentielengte vertegenwoordigt en d de kenmerkdimensie is. De Transformer gebruikt vervolgens de bovenstaande sequentie om lange-termijn afhankelijkheden te modelleren met behulp van een self-attention mechanisme. In tegenstelling tot conventionele recurrente modellen verwerkt het transformer-model elk element van de sequentie parallel en gebruikt het attention-gewichten om de relatieve relevantie van elk onderdeel te bepalen. Het attention-mechanisme werkt door gebruik te maken van Query Q, Key K en Value V vectoren die voor elke input xt worden gegenereerd volgens:
(16)
waarbij WQ, WK, WV trainbare gewichten zijn. De overeenkomsten tussen de elementen worden bepaald via:
(17)
dk is de dimensie van de belangrijke vectoren. Deze procedure maakt het voor het model eenvoudiger om afhankelijkheden van verre tijdstappen in het signaal te leren en zich uitsluitend te concentreren op de relevante tijdssegmenten. Om de leercapaciteit van het netwerk te vergroten, wordt multihead attention gebruikt, wat verwijst naar het proces waarbij meerdere attention-heads parallel leren van de input:
(18)
Elke head richt zich op verschillende kenmerken van de temporele inputsequentie. Dit wordt gevolgd door feed-forward neurale netwerken en residuele verbindingen:
(19)
De resulterende gecodeerde sequentie legt zowel de ruimtelijke als de temporele kenmerken van de input vast. Deze sequentie wordt naar de classificatielaag gestuurd om anomalieën te detecteren.
Figuur 4 toont het algemene proces van temporele modellering met behulp van een transformer-encoder op kenmerken die uit het CNN zijn geëxtraheerd. Eerst worden de uit het CNN geëxtraheerde feature maps gebruikt; deze bevatten ruimtelijke informatie uit het spectrogram. De feature maps worden afgeplat tot een sequentie, waarbij elk item overeenkomt met een tijdstempel. Daarna gaat de sequentie door een lineaire transformatie die de data omzet in vectoren van een specifieke dimensie. Omdat transformer-modellen niet in staat zijn om temporele afhankelijkheden vast te leggen, wordt er ook positionele codering toegevoegd aan de embedding-vectoren om de temporele structuur van de sequentie te behouden. Ten slotte gaat de sequentie door een transformer-encoder, bestaande uit een stapel van meerdere lagen, waarin een multi-head self-attention-mechanisme wordt gebruikt om het model in staat te stellen verbanden tussen tijdstempels in de sequentie te leren. Het feed-forward neurale netwerk verbetert deze embeddings verder, terwijl residuele verbindingen ervoor zorgen dat gradiënten efficiënt propageren. Het proces wordt herhaald over de gestapelde transformer-encoderlagen, die progressief complexere temporele interacties vastleggen. Uiteindelijk worden de sequentie-embeddings via pooling (bijv. average pooling of het classificatietoken (CLS)) gecombineerd tot een representatie met een vaste lengte, wat resulteert in een globale temporele kenmerkrepresentatie.
Classificatielaag
Na temporele codering met de transformer-encoder zullen de outputs een reeks gecodeerde vectoren zijn, elk met kenmerken die gerelateerd zijn aan zowel de ruimtelijke als de temporele aspecten van het ingangssignaal. De eerste stap naar classificatie vanuit de gecodeerde outputs is om al deze kenmerken te aggregeren tot één enkele vector. Dit wordt bereikt door ofwel mean pooling toe te passen op de reeks kenmerkvectoren, of door gebruik te maken van de zogenaamde "classificatietoken". Stel dat de output van de Transformer
is, waarbij elke
. Het geaggregeerde kenmerk h wordt berekend als:
(20)
Vervolgens vertegenwoordigt de geaggregeerde kenmerkvector h de input in een compacte vorm en dient deze als input voor de classifier. Het classificatiegedeelte bestaat uit één of meer dense lagen, die de geleerde representatie transformeren naar de outputruimte. Een dense laag implementeert een transformatie die als volgt is gedefinieerd:
(21)
waarbij o de output (logits) is, b de bias-vector is en W de gewichtsmatrix is. Deze laatsten zijn de class-scores in een niet-genormaliseerde vorm. Om nonlineariteit in het model te integreren, worden vaak activatiefuncties zoals ReLU gebruikt. Ten slotte wordt een softmax-activatiefunctie op de logits toegepast om een waarschijnlijkheid voor elke klasse te verkrijgen:
(22)
waarbij C het aantal klassen vertegenwoordigt, (C = 2; normaal en abnormaal). De klaspredictie zal worden gebaseerd op de maximale probabiliteitswaarde. Tijdens de training worden de optimale waarden van de modelparameters verkregen door het minimaliseren van het cross-entropy verlies tussen de werkelijke en voorspelde labels, waardoor een nauwkeurige classificatie van machinetoestanden wordt bereikt. Samenvattend vervult de classificatielaag een essentiële functie bij het transformeren van de temporele kenmerken, geëxtraheerd met behulp van de Transformer-architectuur, naar praktische beslissingen. Door een correct onderscheid te maken tussen gezonde en defecte machinetoestanden, worden anomaliedetectie en intelligente besluitvorming mogelijk binnen het Industry 5.0-paradigma.
Figuur 5 laat zien hoe de classificatielaag werkt, die volgt op de transformer Encoder. Het proces begint met de output van de gecodeerde sequentie, waarbij elke vector temporele informatie bevat die uit de input is geleerd. Deze vectoren worden gecombineerd tot één enkele vector, bekend als de globale kenmerkvector. De volgende stap is om de globale kenmerkvector door verschillende dichte neurale netwerklaag te leiden. In elke dichte laag worden matrixvermenigvuldigingen uitgevoerd om lineaire combinaties van de inputs te creëren. Daarna kan een niet-lineaire activatiefunctie, zoals ReLU, worden toegepast om de flexibiliteit bij het leren van beslissingsgrenzen te vergroten. Aan het einde van de laatste dichte laag zijn er logit-scores voor elke klasse. Deze logit-scores kunnen via de Softmax-functie worden gebruikt om waarschijnlijkheidsscores voor elke klasse te berekenen. Deze waarschijnlijkheidsscores worden gebruikt om te bepalen of de input behoort tot Klasse 0 (Normaal) of Klasse 1 (Abnormaal).
Verklaarbaarheid met behulp van SHAP
Nadat het model de ingangssignalen heeft geclassificeerd, worden voorspellingen gegenereerd op basis van het feit of de machine normaal of abnormaal functioneert. Binnen de Industry 5.0-omgeving is het echter niet voldoende om enkel voorspellingen te produceren; het systeem moet ook transparantie en uitlegbaarheid bieden om de menselijke besluitvorming te ondersteunen. Het volgende raamwerk maakt gebruik van SHAP, een op speltheorie gebaseerd model dat het belang van elk kenmerk bij het bepalen van de voorspelling kwantificeert. Hierbij kent SHAP gewichten toe aan kenmerken, waardoor men het relatieve belang van verschillende secties van het spectrogram-ingangssignaal voor de totale voorspelling kan evalueren.
De wiskundige formulering van SHAP is gebaseerd op een decompositie van het model f(x):
(23)
waarbij ∅0 de basiswaarde (gemiddelde modeloutput) is, ∅i het effect is van de i-de feature, en M het aantal inputfeatures is. Voor de doeleinden van deze studie zijn de features de tijd-frequentiebins uit het spectrogram. SHAP-waarden zijn positief als ze bijdragen aan de waarschijnlijkheid van de abnormale toestand en anders negatief. Deze formulering garandeert een unieke, lokaal consistente verklaring voor elke voorspelling. De SHAP-methode kan worden toegepast op een getraind CNN-transformer-model om een verklaring te geven op basis van feature-belangrijkheid. De visuele weergave zal de belangrijkste tijd-frequentiebins in het spectrogram tonen die het besluitvormingsproces beïnvloeden. Bijvoorbeeld, abnormaal gedrag van de apparatuur kan leiden tot bepaalde hoogenergetische frequentiebanden die het SHAP-raamwerk identificeert als belangrijke bijdragers aan het besluitvormingsproces.
Bovendien kan SHAP de samenwerking tussen mensen en machines in een cyber-fysische omgeving bevorderen. Dit komt doordat voorspellingen kunnen worden uitgelegd met behulp van intuïtieve visualisaties, waardoor operators en beslissingssystemen voorspellingen kunnen verifiëren, het probleem kunnen analyseren en passende stappen kunnen ondernemen. Dit vergroot niet alleen het vertrouwen, maar maakt AI-gebaseerde productieprocessen ook betrouwbaar en verantwoordelijk. Door deep learning-algoritmen die voldoen aan de huidige prestatienormen te integreren met SHAP, dat voor uitlegbaarheid zorgt, voldoet de voorgestelde architectuur aan de vereisten van Industrie 5.0.
Algoritme 2: SHAP-gebaseerde uitlegbaarheid voor modelvoorspelling
Input: Getraind model f(x), input-spectrogram S
Output: SHAP-waarden
en verklarende kaart
Stap 1: Voer spectrogram S in een getraind model in
Stap 2: Bereken de voorspelling: y = f(S)
Stap 3: Initialiseer een SHAP-explainer gericht op deep learning
Stap 4: Bereken de SHAP-waarden:

Stap 5: Voor elk kenmerk i in S:
Bereken de bijdrage 
Stap 6: Genereer verklarende kaart:
Markeer regio's met een hoge 
Stap 7: Visualiseer het belang van kenmerken (heatmap)
Stap 8: Retourneer SHAP-waarden en verklarende kaart
Het op SHAP gebaseerde uitlegbaarheidsalgoritme begint met het verkrijgen van een voorbewerkte spectrogramafbeelding als input, die vervolgens in de getrainde CNN-transformer-architectuur wordt gevoerd om voorspellingen te doen (bijv. normale of abnormale machineconditie). Nadat de voorspellingen met behulp van de getrainde architectuur zijn gedaan, wordt de SHAP-methode gebruikt om het model te interpreteren. In het bijzonder worden de SHAP-waarden (ϕ) voor elke inputfeature berekend om vast te stellen welke tijd-frequentiecomponenten van de input het meest bijdragen aan de voorspelling. Om deze waarden te berekenen, moeten de modeluitgangen voor inputs met en zonder bepaalde features worden vergeleken.
Na het berekenen van de SHAP-waarden voor elk kenmerk kan de invloed ervan op de voorspelling worden geëvalueerd aan de hand van het teken en de grootte van de SHAP-waarde. Zo zijn kenmerken met hogere SHAP-waarden waarschijnlijker bepalend voor de uitkomst, waarbij een positief of negatief teken aangeeft dat het kenmerk de voorspelling respectievelijk richting de normale of abnormale klasse stuurt. Op basis van de resultaten kan een verklarende kaart in de vorm van een heatmap worden opgesteld.
Ten slotte geeft het algoritme zowel de SHAP-waarden als de visualisaties weer, wat inzicht biedt in hoe mensen de besluitvorming van het model kunnen analyseren. De techniek maakt het proces transparanter en stelt mensen in staat om betrokken te zijn bij de besluitvorming, waardoor wordt gewaarborgd dat zowel de voorspellingen van het algoritme als de betrouwbaarheid ervan worden gerealiseerd in de door AI aangestuurde industrie. Om de betrouwbaarheid van de uitlegbare analyse te verbeteren, werden representatieve testmonsters geselecteerd uit nauwkeurig gediagnosticeerde anomale instanties van diverse machinestypes. Terwijl een globale SHAP-analyse van de kenmerkbelangrijkheid werd uitgevoerd door SHAP-waarden over de gehele testdataset te aggregeren om consistent invloedrijke tijd-frequentielocaties te identificeren, werden lokale SHAP-uitleggingen gegenereerd voor deze representatieve gevallen. Zonder dat er expertannotatie vereist is, biedt deze geïntegreerde lokale en globale analyse een betrouwbare interpretatie van de modelvoorspellingen.
Edge-ondersteunde CPS-integratie
Deze voorgestelde oplossing wordt gebruikt binnen het edge-enabled CPS, dat gericht is op het bereiken van efficiëntie, duurzaamheid en industriële operaties in realtime. Zodra het model is getraind, zal de CNN-transformer worden geïmplementeerd via een edge computing-benadering. De betreffende edge computing-laag bevindt zich dicht bij de apparaten van het industriële Internet of Things (IIoT), waaronder de sensoren en machines. In plaats van alle verzamelde gegevens naar de cloud te verzenden, voert het edge-apparaat inferentie uit op het binnenkomende akoestische signaal zonder dit eerst over te dragen. Hierdoor kan het systeem machineafwijkingen vrijwel direct detecteren en de nodige stappen ondernemen voordat de situatie verder verslechtert. Een ander voordeel van deze edge-enabled benadering is de verbeterde latentie en efficiëntie, aangezien gegevens worden geanalyseerd dicht bij het punt van generatie. Met andere woorden, in tegenstelling tot de cloudbenadering, waarbij de inferentietijd Tinf
(24)
De latentie zal in het algemeen aanzienlijk worden verminderd door een afname van Tcommunication. Een ander voordeel is het verminderde bandbreedteverbruik en de energie die wordt verbruikt bij het continu verzenden van gegevens. Dit systeem is daarom schaalbaar en duurzaam voor grote industriële installaties met talrijke aangesloten apparaten. Bovendien maakt het CPS interactie mogelijk met de fysieke laag (machines), de AI (rekenlaag) en de menselijke laag.
Samenwerking met menselijke tussenkomst (human-in-the-loop)
Een cruciaal onderdeel van het voorgestelde Industrie 5.0 CPS, waarbij menselijke operatoren actief betrokken zijn bij het besluitvormingsproces naast AI-modellen, is human-in-the-loop samenwerking. Volgens het ontworpen raamwerk wordt het systeem namelijk geen autonome 'black box', maar stelt het operatoren in staat om ermee te interacteren en uitlegbare voorspellingsresultaten te observeren in de vorm van SHAP-verklaringen. De betreffende voorspellingen hebben betrekking op de uitkomsten (normaal/abnormaal), vergezeld van visualisaties van delen van de spectrogrammen die voor deze voorspellingen zijn gebruikt.
Een dergelijke interactie helpt operators om beter te begrijpen hoe de voorspelling precies tot stand komt en welke factoren daaraan bijdragen. Menselijke betrokkenheid houdt in dat de resultaten van het systeem worden geverifieerd en dat operators deze, indien nodig, kunnen overrulen op basis van hun professionele oordeel. Samenwerking met menselijke operators maakt het systeem vertrouwbaardiger, efficiënter, veiliger en betrouwbaarder, wat helpt bij het voorkomen van fouten.