LSTM-netwerken
Een Recurrente Neuraalnetwerk (RNN) was een type neuraal netwerk dat de waarde bij de volgende tijdstap kon voorspellen op basis van eerdere waarnemingen in een tijdreeks. RNN's verwerkten één waarneming uit een tijdreeks tegelijk en sloegen historische informatie uit die tijdreeks op door continu een "toestandsvector" in de verborgen laag aan te passen. Hoewel het doel van RNN's was om historische informatie in tijdreeksen te leren, waren RNN's niet geschikt voor het verwerken van langere tijdreeksen vanwege het gradient vanishing-probleem dat voorkomt bij het gebruik van het backpropagatie-algoritme. Het Long Short-Term Memory (LSTM)-netwerk is een variant van RNN die het gradiëntverdwijningsprobleem tijdens training aanpakt, waardoor het in staat is om langere tijdreeksen te verwerken. In vergelijking met standaard RNN's hebben LSTM's drie extra poortbesturingseenheden: de ingangspoort, de vergeten poort en de uitgangspoort. Figuur 1 schetst de fundamentele structuur van LSTM en het kernarchitectuurraamwerk, dat bestaat uit vijf essentiële componenten: drie sigmoidactivatiefuncties en twee hyperbolische tangent (tanh) activatiefuncties. Het was opmerkelijk dat de sigmoidfunctie aan de linkerkant een cruciale rol speelt bij het reguleren van de overdracht van informatie uit de voorgaande tijdstap, waarbij zij de functies van filteren en verfijnen van de informatie uitvoert ter ondersteuning van dit regulatieproces, zoals verduidelijkt in de volgende vergelijking:
(1)

Figuur 1. Fundamentele structuur van het LSTM-netwerk. Klik hier om een grotere versie van deze figuur te bekijken.
waarbij de forgetting gate als "ft" fungeerde, de invoersequenties als "xt", en "ht-1" de informatie is die vóór de uitgang van de eenheid verborgen is. De forget gate was verantwoordelijk voor het bepalen welke informatie moest worden weggegooid of behouden, de inputgate kon de status van de geheugenunit bijwerken, en de output gate kon de waarde van de volgende verborgen toestand bepalen. Deze drie poorten worden aangeduid als ft, it en ot.
(2)
(3)
(4)
(5)
(6)
Vergelijking (3) definieert de kandidaatceltoestand C't die wordt gecreëerd door de tanh-functie, die nieuwe waarden voorstelt om aan de celtoestand toe te voegen. Specifiek werd de invoer van het model geformuleerd door de uitvoer van twee sigmoïde functies te integreren met die van de initiële tanh-functie, zoals weergegeven in Vergelijking (5).
Vergelijking (4) karakteriseert de rechter sigmoïde functie als de initiële uitvoerwaarde van het model, die vervolgens werd afgebeeld naar het interval [−1, 1] via de hyperbolische raakfunctie (tanh). Hierna worden zowel de resulterende waarde van de tanh-functie als de output van de sigmoidfunctie omgezet naar hun respectievelijke werkelijke outputwaarden, zoals geïllustreerd in Vergelijking (6).
In LSTM reguleerde de sigmoidfunctie de huidige informatie, terwijl de hyperbolische tangentfunctie (tanh) verantwoordelijk kon zijn voor het verwerken van historische informatie. De integratie van deze twee functies geeft LSTM's hun voorspellende kracht. In vergelijking met conventionele RNN's ligt het voordeel van LSTM's in hun geavanceerde architectuur, die in staat is het volledige invoergeheugen tot aan tijdstap t+1 vast te leggen. De integriteit van dit geheugen wordt behouden door het gatingmechanisme dat wordt vergemakkelijkt door de sigmoidfunctie, waardoor ervoor wordt gezorgd dat kritieke informatie over langere periodes wordt bewaard.
HP-filter
Het Hodrick-Prescott filter (HP-filter), voorgesteld door Hodrick en Prescott in 1980, is veel gebruikt in economische analyse en tijdreeksgerelateerde analyses. De HP-filter gaat ervan uit dat de te analyseren dataset een combinatie was van langetermijnveranderingen en kortetermijnfluctuaties, waarbij de tijdreeks Y={y1, y2, ⋯, yT} wordt opgesplitst in twee subseries: de langetermijntrendreeks G={g1, g2, ⋯, gT} en de kortetermijnfluctuatiereeks S={s1, s2, ⋯, sT}. De langetermijn trendreeks gT, waarbij t=1,2,⋯,T, wordt afgeleid door de volgende uitdrukking te minimaliseren:
(7)
Waarbij T het aantal samples in de tijdreeks yt vertegenwoordigt, en λ groter is dan 0, bekend als de gladmakingsparameter, die de gewichten van termen
en
aangeeft. Wanneer λ=0, is de langetermijn trendreeks G die voldoet aan het minimalisatieprobleem gelijk aan de oorspronkelijke reeks Y. Naarmate de waarde van λ stijgt, neemt het totale aantal veranderingen in de langetermijntrendreeks af ten opzichte van die in de oorspronkelijke reeks, wat betekent dat een grotere λ resulteert in een gladdere langetermijntrendreeks. Wanneer λ oneindig nadert, zal de langetermijntrendreeks lijken op een lineaire functie. De kortetermijnfluctuatiereeks kan worden verkregen door de langetermijntrendreeks af te trekken van de oorspronkelijke tijdreeks, d.w.z. S=Y-G.
Voordat het HP-filter werd toegepast, was het essentieel om een geschikte gladmakingsparameter λ te selecteren, aangezien verschillende gladmakingsparameters verschillende langetermijntrends en kortetermijnfluctuaties bepalen. Volgens eerder gerelateerd onderzoek is de waarde van λ in deze studie op 100 gezet.
Voorbereiding van deelnemers en ethische goedkeuring
Ethische goedkeuring was verkregen van de Ethische Beoordelingscommissie van de Inner Mongolia Medical University (nr. YKD202001041) voorafgaand aan enige gegevensverzameling. Een fulltime onderzoeker van het College of Mongolian Medicine van de Inner Mongolia Medical University, bedreven in de Chinese Traditionele Mongoolse Osteopathie (CTMO) rolmethode, werd aangetrokken. Schriftelijke geïnformeerde toestemming werd verkregen van de deelnemer. Alle procedures volgden de principes van de Verklaring van Helsinki.
Apparatuuropstelling en kalibratie
Een multikanaals handgreeptestsysteem uitgerust met 24 mechanische sensoren werd gebruikt om mechanische parameters van de CTMO-rolmethode te verzamelen (zie Figuur 2 en Figuur 3 voor systeemindeling en sensorpositionering). Alle 24-krachtsensoren werden gekalibreerd volgens de instructies van de fabrikant. De dataverzamelingssoftware was geconfigureerd om gegevens op te nemen bij een bemonsteringsfrequentie van 100 Hz en om realtime krachtmetingen in Newtons (N) weer te geven. De opnameduur werd ingesteld op 60 seconden per proef.

Figuur 2. Multikanaals handgreeptestsysteem. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 3. Massagemanipulatie-acquisitieinterface gebaseerd op het multi-kanaals greepsterktetestsysteem. Klik hier om een grotere versie van deze figuur te bekijken.
Data-acquisitie
De deelnemer kreeg de instructie om de geïnstrumenteerde handschoen aan te trekken en de standaard starthouding aan te nemen. Het kunstmatige menselijke onderarmmodel werd geplaatst op een stabiel, horizontaal oppervlak voor de deelnemer. Bij het starten van de dataregistratiesoftware voerde de deelnemer de CTMO-rolmanipulatie continu uit op het aangewezen gebied van het onderarmmodel gedurende 1 minuut. Het ruwe databestand werd opgeslagen in een gestructureerd formaat (bijvoorbeeld .csv of .txt) met tijdstempels en krachtmetingen van alle 24 sensoren. Deze procedure werd herhaald totdat in totaal 150 onafhankelijke proeven waren afgerond. De deelnemer rustte minstens 30 seconden tussen de onderzoeken om de door vermoeidheid veroorzaakte variabiliteit te minimaliseren. R (versie 4.2) werd vervolgens gebruikt om bewegingsregels en bewegingshoeken van de gewrichten te berekenen, en om de operationele kenmerken van de techniek samen te vatten.
Sensorselectie via featurevisualisatie
De ruwe krachtgegevens van alle 24 sensoren over alle proeven werden in R geladen. De gemiddelde krachtgrootte en variantie voor elke sensor werden berekend over de gehele dataset. Er werd een bubbelvullende diagram geconstrueerd met behulp van het ggplot2-pakket in R om de relatieve bijdrage van elke vingerfalanx/metacarpaal aan de totale krachtinspanning weer te geven. Op basis van dit diagram (Figuur 4) vertoonden Sensoren 8 (proximale vinger falanx), 13 (middelvinger distale vingerfalanx) en 2 (distale vinger van wijsvinger) de hoogste krachtsterktes en variabiliteit en werden daarom geselecteerd als de primaire invoerkenmerken voor latere modellering.

Figuur 4. Bubbelvullend diagram van de knokkels in de rolmethode. (1) proximale falanx van de wijsvinger; (2) distale vingerkoots van de wijsvinger; (3) middenhandsbeentje van de wijsvinger; (4) middelste kootje van de wijsvinger; (5) ringvinger proximale vinger; (6) distale falanx van de ringvinger; (7) ringvinger metacarpale vingerfalanx; (8) proximale vingerkooun; (9) distale vingerfalanx van de pink; (10) middenhandsbeentje van de pink; (11) middelste vingerkoot; (12) middelvinger proximale vingerfalanx; (13) middelvinger distale vinger; (14) middenhandsbeentje van de middelvinger; (15) middelste vinger van de middelvinger. Klik hier om een grotere versie van deze figuur te bekijken.
Datapreprocessing voor tijdreeksmodellering
De tijdreekskrachtgegevens F8(t), F13(t) en F2(t) voor de geselecteerde sensoren werden uit de ruwe dataset gehaald. Een genormaliseerde tijdvariabele T werd gecreëerd door de opnametijdstempels te schalen naar het interval [0'1]. De volgende formule werd gebruikt:

Waar de oorspronkelijke tijdstempel in enkele seconden was. Voor elke proef werden de krachtgegevens en de genormaliseerde tijd samengevoegd tot een multivariate tijdreeksdataset van dimensies N × 4, waarbij N het aantal tijdstappen was (6.000 stappen voor een 60 seconden durende proef bij 100 Hz) en de kolommen overeenkwamen met [T'F8'F 13'F 2].
Hodrick–Prescott (HP) filtering
Het Hodrick–Prescott-filter werd onafhankelijk toegepast op elk van de drie krachtsignalen F8, F13 en F2. De gladmakingsparameter werd ingesteld op λ = 100. Deze waarde was gekozen op basis van de benaderende jaarlijkse/cyclische aard van de langetermijnkrachttrend die werd waargenomen in de eerste 2.000 datapunten (zoals getoond in Figuur 5) en werd als geschikt beschouwd om biomechanische krachtkenmerken te behouden.

Figuur 5. Vergelijking van HP-filtereffecten met λ = 100 en λ = 10.000 op de eerste 2.000 datapunten van sensor 8. Klik hier om een grotere versie van deze figuur te bekijken.
Implementatienotitie: De hpfilter-functie uit het mFilter-pakket in R werd gebruikt met het argument freq = 100.
Voor elk sensorsignaal werden twee componenten verkregen: de trendcomponent G(t) en de cyclische component C(t), waarbij
. De uiteindelijke inputfeature-matrix werd geconstrueerd door de genormaliseerde tijd te koppelen aan de HP-gefilterde trend en cyclische componenten van de drie geselecteerde sensoren. Dit resulteerde in een dataset van N × 7 dimensies:
. De dataset werd chronologisch opgesplitst in trainings- (70%), validatie- (15%) en test- (15%) subsets. Kritiek: Willekeurige herschikking van de tijdreeks werd vermeden om temporele lekkage te voorkomen. De testset bevatte de laatste 15% van de opgenomen tijdsreeks.
Constructie van het tweelaagse LSTM-model met HP-filtering
De computationele omgeving werd opgezet met TensorFlow (versie 2.10) met de Keras API in R. De neurale netwerkarchitectuur werd als volgt gedefinieerd:
Invoerlaag: Shape = (sequentielengte '7), waarbij sequence_length het aantal tijdsstappen per invoermonster was (er werden 100 stappen gebruikt).
Eerste LSTM-laag: Eenheden = 50, return_sequences = WAAR. De tanh-activatiefunctie werd gebruikt voor de recurrente stap, en sigmoid werd gebruikt voor de gate-activaties.
Tweede LSTM-laag: Eenheden = 50, return_sequences = ONJUIST.
Volledig verbonden (dichte) laag: Units = 1 (voor univariate krachtvoorspelling). De volledige workflow van het dubbellaagse LSTM-model met HP-filtering, van datavoorverwerking tot eindvoorspelling, wordt geïllustreerd in Figuur 6. Het uitvoerdoel was de krachtwaarde bij sensor 8 bij de volgende tijdstap (één-stap vooruit voorspelling).

Figuur 6. Dubbellaagse LSTM-applicatieworkflowgrafiek. Klik hier om een grotere versie van deze figuur te bekijken.
Het model werd gecompileerd met het Adam-optimalisatiealgoritme met de volgende hyperparameters: Leersnelheid: 0,001; Vervalpercentage: 0,001; Verliesfunctie: Gemiddelde kwadraatfout (MSE). Het model werd getraind voor 20 tijdperken met een batchgrootte van 32. Early Stopping werd geïmplementeerd met een geduld van 5 epochs om validatieverlies te monitoren om overfitting te voorkomen. Er werd een dropoutpercentage van 0,2 toegepast tussen de LSTM-lagen voor regularisatie. De trainingsgegevens werden alleen op batchniveau binnen elk tijdperk geschud—niet in de volgorde—om temporele coherentie te behouden terwijl stochasticiteit voor gradiëntafdaling werd geïntroduceerd.
Testdatasetconfiguratie
Om de voorspellende prestaties van de voorgestelde modellen te evalueren, werd de vooraf bewerkte dataset chronologisch opgedeeld in drie subsets: training (70%), validatie (15%) en test (15%). De chronologische splitsing zorgde ervoor dat er geen toekomstige informatie in het trainingsproces doorlekte. De testset bestond uit de laatste 2.000 tijdstappen × 3 sensoren = 6.000 datapunten van de opgenomen sequentie, wat overeenkomt met ongeveer 20 seconden continue krachtinspanningsgegevens bij de oorspronkelijke bemonsteringsfrequentie van 100 Hz. Voor de evaluatie van voorspellingsmogelijkheden met langere duur werd een uitgebreide testreeks van 1.200 seconden (120.000 tijdstappen) geconstrueerd door 20 opeenvolgende 60-seconden proeven chronologisch te concateneren, terwijl de temporele volgorde behouden bleef. De continuïteit van de kracht tussen samengevoegde proeven werd geverifieerd om te voorkomen dat er abrupte overgangen waren.
Prestatiemaatstaven
Drie standaard regressiemetrieken werden berekend om de voorspellingsnauwkeurigheid te kwantificeren:
Bepalingscoëfficiënt (R2): Gedefinieerd als
, waarbij yi en
respectievelijk de werkelijke en voorspelde krachtwaarden aanduiden, en
het gemiddelde is van de werkelijke waarden. R2 meet het aandeel variantie in de krachtgegevens die door het model worden uitgelegd.
Gemiddelde Absolute Fout (MAE): Gedefinieerd als
. MAE geeft de gemiddelde grootte van voorspellingsfouten in eenheden van Newtons (N).
Root Mean Square Error (RMSE): Gedefinieerd als
. RMSE is gevoelig voor grote foutafwijkingen en wordt uitgedrukt in Newtons (N).
Alle metrics werden berekend op de onzichtbare testset na het terugdraaien van alle normalisatie- of schaaltransformaties die tijdens de preprocessing werden toegepast.
Vergelijkende basismodellen
Om het voorgestelde tweelaagse LSTM te benchmarken met Hodrick–Prescott (HP) filtering, werden de volgende alternatieve modellen geïmplementeerd en geëvalueerd onder identieke trainings-, validatie- en testsplitsingen. Hyperparameters voor alle neurale netwerkmodellen werden afgestemd met behulp van de validatieset om een eerlijke vergelijking te garanderen.
Enkellaags LSTM zonder HP-filtering
Architectuur: Een enkele LSTM-laag met 50 verborgen eenheden, gevolgd door een volledig verbonden dichte laag met één outputneuron.
Invoerfuncties: Ruwe krachtgegevens van Sensoren 8, 13 en 2, plus genormaliseerde tijd (4-dimensionale input).
Training: Adam optimizer met leersnelheid = 0,001, decay = 0,001, batchgrootte = 32, getraind voor 20 epochs met vroegtijdig stoppen (geduld = 5) monitoring van validatieverlies.
Dubbellaags LSTM zonder HP-filtering
Architectuur: Twee gestapelde LSTM-lagen, elk met 50 verborgen eenheden. De eerste LSTM-laag gaf volledige sequenties terug, en de tweede LSTM-laag gaf alleen de uiteindelijke verborgen toestand terug. Een dichte outputlaag met één neuron volgde.
Invoerfuncties: Hetzelfde als hierboven (4-dimensionale ruwe krachtinputs).
Trainingsparameters: Identiek aan de enkellaagse LSTM-configuratie.
Enkellaags LSTM met HP-filtering
Architectuur: Een enkele LSTM-laag met 50 verborgen eenheden, gevolgd door een dichte outputlaag.
Invoerkenmerken: HP-gedecomponeerde trend- en cyclische componenten voor Sensoren 8, 13 en 2, plus genormaliseerde tijd T (7-dimensionale input, zoals beschreven in het Protocol).
Trainingsparameters: Hetzelfde als hierboven.
PCA-LSTM
Dimensionaliteitsreductie: Principal Component Analysis (PCA) werd toegepast op de 7-dimensionale HP-gefilterde featurematrix om drie hoofdcomponenten te extraheren, die samen >95% van de variantie in de featureset verklaarden.
Architectuur: Een enkele LSTM-laag met 50 verborgen eenheden, waarbij de drie hoofdcomponenten tijdreeksen als invoer worden gebruikt.
Trainingsparameters: Hetzelfde als hierboven.
Backpropagatie (BP) neuraal netwerk
Architectuur: Een feedforward neuraal netwerk met één verborgen laag die 64 neuronen bevat en ReLU-activatie. De uitvoerlaag bevatte één lineair neuron.
Invoerrepresentatie: De tijdreeksgegevens werden afgevlakt tot featurevectoren van vaste lengte (100 tijdstappen × 7 features = 700 inputdimensies).
Training: Adam-optimizer met leersnelheid = 0,001, gemiddeld kwadraat foutverlies, getraind voor 100 epochs met een batchgrootte van 64. Vroeg stoppen met geduld = 10 werd toegepast.
Willekeurige Bosregressor
Algoritme: Ensemble van 100 beslissingsbomen met een maximale diepte van 10 en minimale samples per split, ingesteld op 5.
Invoerrepresentatie: Dezelfde afgeplatte featurevectoren als gebruikt voor het BP-neurale netwerk (700-dimensionale input).
Implementatie: De RandomForestRegressor uit de scikit-learn-bibliotheek (versie 1.2) werd gebruikt met standaard hyperparameters, behalve waar hierboven vermeld.
Statistische overwegingen
Om de robuustheid van de voorspellende prestaties te beoordelen, werd elke modelconfiguratie vijf keer getraind en geëvalueerd met verschillende willekeurige initialisaties (waar van toepassing). De gerapporteerde metrics vertegenwoordigen de gemiddelde waarden over de vijf runs, vergezeld van de standaarddeviatie om variabiliteit te kwantificeren. Er werd geen kruisvalidatie toegepast op de tijdreeks om de temporele ordening te behouden; in plaats daarvan werd de vaste chronologische validatieset gebruikt voor hyperparameterafstemming.