$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Deze sectie beschrijft de machine learning-algoritmen die zijn onderzocht in de voorgestelde astmadiagnostische benadering. De criteria en redenen achter de keuze van de voorgestelde methode zijn gebaseerd op een uitgebreide literatuurstudie en een lange geschiedenis van preventieve diagnose van verschillende chronische ziekten 27,28,29,30,31. Deze algoritmes leverden veelbelovende resultaten op. Alle materialen en gereedschappen die in deze studie zijn gebruikt, staan vermeld in de Materiaallijst.
Ondersteuningsvectormachines (SVM)
Het SVM-algoritme behoort tot de meest succesvolle algoritmen op het gebied van patroonherkenning en classificatie32. Het gebruikt binaire classificatie, waarbij een trainingsset vectoren in twee klassen wordt geclassificeerd. Het behoort tot de familie van supervised learning-algoritmen, waarbij de gewenste output wordt gegenereerd onder supervisie32. In vergelijking met andere classificatie-algoritmen in machine learning levert SVM betere resultaten voor classificatieprestaties. Daarom is het uitgebreid gebruikt in tal van toepassingen, zoals spraak-, gezichts- en handschriftherkenning. Bovendien is SVM ook toegepast op verschillende gebieden, waaronder ziektevoorspelling en voorraadvoorspelling. Daarnaast kan SVM door zijn ongevoeligheid voor ruis of overfitting onevenwichtige data verwerken, wat een typisch geval is in medische diagnostiek, waar positieve gevallen minder zijn dan negatieve gevallen32.
In classificatie scheidt SVM twee klassen door een beslissingsgrens te trekken, waarin het de labels kan voorspellen door één of meer featurevectorente onderscheiden 32. De beslissingsgrens wordt het hypervlak genoemd, dat het verst verwijderd is van de dichtstbijzijnde datapunten van elke klasse. Die datapunten worden ondersteuningsvectoren genoemd. Figuur 1 toont enkele kandidaat-hypervlakken in lineair scheidbare data. Vergelijking 1 toont de hypervlakvergelijking, terwijl vergelijkingen 2 en 3 de elementen boven en onder vlak32 tonen:
Hypervlakvergelijking (1)
Hier is w een vector die gewicht voorstelt, x is een vector die de invoer voorstelt, en b. vertegenwoordigt een potentiële bias.
Voor alle j, zodanig dat
= +1 (2)
Voor alle i, zodanig dat
= -1 (3)

Figuur 1: Een typische SVM met twee scheidbare klassen. Deze figuur visualiseert een typische SVM met twee scheidbare klassen. Afkortingen; SVM = ondersteuningsvectormachine. Klik hier om een grotere versie van deze figuur te bekijken.
Kunstmatig neuraal netwerk (ANN)
ANN is een computationele intelligentietechniek in soft computing die de functionaliteit van het menselijk hersensysteem nabootst. Het heeft een groot aantal onderling verbonden neuronen33. Het behoort tot de begeleide machine learning-algoritmen die kunnen leren van voorbeelddatasets en hun prestaties verbeteren door te leren, waarbij nuttige output wordt gegenereerd33. De architectuur van ANN bestaat uit meerdere lagen: een invoerlaag, een verborgen laag en een uitvoerlaag. Elk van hen wordt gevormd door een set verbonden neuronen33.
De neuron die de data van buitenaf ontvangt, voert wat verwerking uit en stuurt de data vervolgens naar een andere laag, bekend als de inputlaag. Het doel van de invoerlaag is niet om een complex proces op de data uit te voeren; Het is simpelweg om de invoerwaarde te dupliceren en deze naar de volgende laag33 te sturen. De uitvoerlaag bevat neuronen die data produceren voor het gebruikersprogramma. Tussen deze twee lagen bevindt zich de verborgen laag als een optionele laag om computationele processen uit te voeren. De verborgen laag fungeert als een tussenlaag die input ontvangt van de invoerneuronen, wiskundige bewerkingen op hen uitvoert en vervolgens de resultaten doorgeeft aan een andere laag33. Figuur 2 toont de ANN-architectuur.

Figuur 2: Feed-forward en backpropagatie in een typische ANN-structuur. Deze figuur visualiseert een feed-forward netwerk met backpropagatie in een typische ANN-structuur. Afkortingen; ANN = kunstmatig neuraal netwerk. Klik hier om een grotere versie van deze figuur te bekijken.
Het feed-forward NN is een benadering waarbij invoergegevens in een voorwaartse richting worden opgeslagen. In de tegenovergestelde richting vindt het terugpropagatieproces plaats wanneer de gewichten van het neurale netwerk in een achterwaartse benadering worden bijgewerkt om de gradiënten te verkrijgen, met behulp van een neuraal netwerk met meerdere verborgen lagen. Het nadeel van dit proces is het verdwijnen of exploderen van gradiënten. De activatiefunctie behoudt de niet-lineaire kenmerken van hun ANN, waardoor het gedetailleerde relaties tussen invoer- en uitvoerdata kan leren, zoals een universele benadering is verklaard. Figuur 3 toont de hoofdarchitectuur van het kunstmatige neurale netwerk. Het illustreert ook de activatiefunctie die op de output van elke neuron wordt toegepast, die de som van alle inputgewichten vertegenwoordigt. De bias bevat de som van alle gewichten en is opgenomen in de neuroninput33.

Figuur 3: Een typische enkele perceptronneuron voor een ANN. Deze figuur toont een enkele perceptronneuron van een typische ANN. Afkortingen; ANN = kunstmatig neuraal netwerk. Klik hier om een grotere versie van deze figuur te bekijken.
Willekeurig bos (RF)
RF behoort tot de prominente classificatie-algoritmen in machine learning. Het bestaat uit verschillende individuele Decision Trees die samenwerken als een ensemble en de uiteindelijke output29 produceren. Het basisconcept achter de succesvolle prestaties van de RF is dat deze bestaat uit veel matig niet-gecorreleerde bomen (die een bos vormen), die als een commissie fungeren. Daardoor zullen ze efficiënter zijn dan alle modellen die onafhankelijk draaien34. Het RF-algoritme werd voornamelijk ontwikkeld door een groep onderzoekers35. Om beter te begrijpen hoe RF werkt, is het essentieel om beslissingsbomen35 te begrijpen. Het is even toepasbaar op zowel discrete als continue problemen, specifiek classificatie, detectie en regressie,respectievelijk 36. Hoe meer bomen in het bos, hoe dichter bij de nauwkeurigheid het resultaat zal zijn, maar met een extra rekencomplexiteitvan 36, zoals weergegeven in Figuur 4.

Figuur 4: Schema van het willekeurige bos. Deze figuur toont een schema van een typisch willekeurig bos. Klik hier om een grotere versie van deze figuur te bekijken.
Naïeve Bayes (NB)
Naïeve Bayes (NB) is een classificatie-algoritme dat de stelling van Bayes gebruikt om objecten te classificeren. Het is een zeer populaire methode die in de meeste medische vakgebieden wordt toegepast, vooral voor het diagnosticeren van symptomen. In deze methode nemen objecten de aannames van de hoofdonafhankelijkheid, waardoor de relatie tussen de attributen onafhankelijk van elkaar wordt. Vanwege zijn naïeve aard behoort het tot de eenvoudigste classificatie-algoritmen in machine learning37. Op basis van de gegeven dataset bepaalt NB de kans van een bepaalde output. Het NB-model is eenvoudig te ontwikkelen, kan aanzienlijke data beheren en is een geavanceerd en computationeel licht algoritme. Daarnaast levert het bescheiden functies, wat resulteert in numerieke en nominale kennis. Robuustheid en eenvoudige leerinterpretaties zijn ook de potentiële voordelen van de NB-classifier. Als het wordt toegepast op een beperkte hoeveelheid data, zal dit resulteren in een relatief onnauwkeurig resultaat. Het is afhankelijk van enorme gegevens, die als minder nauwkeurig worden beschouwd dan andere technieken37.
Statistische analyse
Statistische analyse van de dataset helpt het patroon van de dataset te visualiseren en te begrijpen voor betere data-voorverwerking en modellering. In dit verband werden de volgende stappen uitgevoerd. Ten eerste wordt er een statistische analyse uitgevoerd op SPSS-software om te onderzoeken of de demografische kenmerken onevenwichtig zijn tussen positieve en negatieve groepen, inclusief leeftijd en geslacht. Ten tweede, verzamel de kwantitatieve gegevens met een onafhankelijke steekproef t-test als aan de normale verdeling en homogeniteit van variantie voldaan zijn, of met de Man-Whitney U-test. Ten slotte zijn de categorische gegevens samengesteld met behulp van chi-kwadraattest of Fisher's exacte test38.
Implementatie
Datasetbeschrijving
De dataset voor de huidige studie is verkregen van het King Fahad University Hospital in Dammam, Saoedi-Arabië, na goedkeuring door de institutionele beoordelingscommissie (IRB). De genoemde gegevens werden verzameld volgens standaardtests onder de patiënten. Astma wordt vaak vastgesteld via standaardtests bij patiënten, waaronder bloedonderzoek, virustesten en biochemische tests. Voor de huidige studie werden patiënten en gezonde controles (HC) gerekruteerd en klinisch geëvalueerd op basis van de standaard triage en pathologische tests die in het ziekenhuis werden uitgevoerd op aanbeveling van artsen van de afdeling. De klinische inclusie- en exclusiecriteria werden door de artsen vastgesteld op basis van de laboratoriumresultaten. Vervolgens werden de gekwalificeerde en geverifieerde gegevens voor het onderzoek verstrekt. De dataset bevat zeventien attributen, aangezien deze beschikbaar zijn voor alle astmapatiënten. De dataset bevat in totaal 328 gevallen, waarvan 165 astma-positief en 163 astma-negatieve gevallen. De verdeling van geslacht en leeftijd in de positieve en negatieve groepen is weergegeven in Tabel 1.
| Voorbeelden | Positief | Negatief |
| Mannelijk | 145 | 107 | 38 |
| Vrouwelijk | 183 | 57 | 126 |
| Totaal | 328 | 164 | 164 |
Tabel 1: Genderverdeling in de dataset. Deze tabel toont de geslachtsverdeling in de dataset.
Tabel 2 toont de leeftijdsverdeling tussen de twee klassen.
| Leeftijdscategorie | Leeftijdsverdeling (Klasse = 1) | Leeftijdsverdeling (klasse = 0) |
| 1–10 | 0.059113 | 0 |
| 11–20 | 0.113301 | 0.060869 |
| 21–30 | 0.083743 | 0.177947 |
| 31–40 | 0.157632 | 0.164912 |
| 41–50 | 0.17734 | 0.164912 |
| 51–60 | 0.197044 | 0.099566 |
| 61–70 | 0.108374 | 0.047619 |
| 71–80 | 0.078817 | 0.025974 |
| 81–90 | 0.019704 | 0.012987 |
| 91–100 | 0.004926 | 0.012987 |
Tabel 2: Ouderdomsverdeling van de dataset. Deze tabel toont de leeftijdsverdeling in de dataset.
De leeftijd (p < 0,001 in de Man-Whitney U-test) en het geslacht (p < 0,001 in de Chi-kwadraattest) waren onevenwichtig tussen de positieve en negatieve groepen. Er is echter geen vooringenomenheid in het wervingsproces. Men denkt dat de onevenwichtige verdeling de unieke leeftijdsverdeling van deze cohort kan weerspiegelen. Inclusiecriteria omvatten klinische factoren voor de aanwezigheid en afwezigheid van de ziekte; Demografie, waaronder geslacht, leeftijd en lokale bevolking, worden meegenomen. Bovendien zijn de gegevens verzameld onder informed consent. Leeftijd en geslacht zijn opgenomen als mogelijke kenmerken in de featureset, zoals hieronder vermeld. Expliciete leeftijds- en gendergebaseerde analyses vallen echter niet binnen de scope van de studie en blijven als toekomstig werk.
De dataset wordt opgeslagen als numerieke waarden. De kolom "Klasse" bevat de waarden 0 en 1, waarbij 0 de "Normale patiënt" vertegenwoordigt en 1 de "Astmapatiënt".
In dit verband werden de volgende zeventien attributen gebruikt:
Klasse: (0 = "Normaal", 1 = "Astmapatiënt")
1. leeftijd in jaren (LEEFTIJD)
2. geslacht (1 = man, 0 = vrouw): GESLACHT
3. Basofielen (BASO)
4. Eosinofielen (EOS)
5. Hematocriet (HCT)
6. Hemoglobine (HGB)
7. Lymfocyten (LYM)
8. Gemiddelde corpusculaire hemoglobine (MCH)
9. Gemiddelde corpusculaire hemoglobineconcentratie (MCHC)
10. Gemiddeld corpusculair volume (MCV)
11. Monocyten (MONO)
12. Gemiddeld bloedplaatjesvolume (MPV)
13. Neutrofielfunctie (NEUT)
14. Aantal bloedplaatjes (PLATELET_COUNT)
15. Aantal rode bloedcellen (RBC)
16. Breedte van de verspreiding van rode cellen (RDW)
17. Witte bloedcellen (WBC)
Statistische kenmerken van de dataset
Voor een beter begrip wordt een statistische analyse van de dataset weergegeven in de volgende tabellen38. Tabel 3 toont de gemiddelde, mediaan-, standaarddeviatie-, maximum- en minimumwaarden voor de betreffende dataset.
| Gemiddeld | Mediaan | Standaarddeviatie | Max | Min |
| LEEFTIJD | 39.1 | 36 | 18.136 | 93 | 2 |
| GESLACHT | 0.442 | 0 | 0.4974 | 1 | 0 |
| BASO | 0.07 | 0.07 | 0.0701 | 0.72 | 0 |
| EOS | 0.231 | 0.229 | 0.2048 | 2 | 0 |
| HCT | 40.88 | 40.7 | 6.0313 | 56.5 | 3.4 |
| HGB | 13.67 | 13.45 | 4.3446 | 81.3 | 5.9 |
| LYMP | 2.595 | 2.33 | 2.1843 | 33.4 | 0.4 |
| MCH | 26.78 | 27 | 3.3177 | 34.5 | 2.6 |
| MCHC | 32.71 | 33 | 2.1017 | 43.1 | 15 |
| MCV | 81.15 | 82.8 | 9.4426 | 102 | 13 |
| MONO | 1.189 | 0.613 | 6.1198 | 95 | 0.2 |
| MPV | 9.217 | 9.217 | 1.7297 | 13.4 | 0 |
| NEUT | 4.23 | 4.23 | 2.3074 | 16 | 0.6 |
| PLATELET_COUNT | 279.7 | 272.5 | 85.473 | 685 | 0 |
| RBC | 5.677 | 5 | 11.615 | 215 | 2.1 |
| RDW | 14.72 | 13.4 | 15.769 | 296 | 0 |
| WBC | 6.777 | 6.505 | 3.5836 | 33.4 | 1.1 |
| Klasse | 0.5 | 0.5 | 0.5008 | 1 | 0 |
Tabel 3: Statistische kenmerken van de dataset. Deze tabel geeft de statistische kenmerken van de gegevens weer weer.
Daarnaast toont Tabel 4 de verkregen correlatiecoëfficiënt tussen elk attribuut en het klasse-attribuut. De waarden liggen tussen 0 (minst gecorreleerd) en 1 (meest gecorreleerd). Het wordt toegevoegd als een voorlopige statistische analyse om de attributen van de dataset uit te leggen. MPV, geslacht, HGB, MCHC en leeftijd behoren tot de belangrijkste kenmerken.
| Attributenparen | Correlatiecoëfficiënt |
| LEEFTIJD | 0.212473 |
| GESLACHT | 0.423584 |
| BASO | -0.33242 |
| EOS | 0.048184 |
| HCT | -0.376843 |
| HGB | 0.275277 |
| LYMP | 0.055856 |
| MCH | 0.128111 |
| MCHC | 0.272635 |
| MCV | 0.013022 |
| MONO | 0.055476 |
| MPV | 0.564992 |
| NEUT | 0.031185 |
| PLATELET_COUNT | 0.095253 |
| RBC | 0.030787 |
| RDW | 0.025979 |
| WBC | 0.148842 |
| Klasse | 1 |
Tabel 4: Correlatie met klasse-attribuut. Deze tabel toont de correlatie tussen de attributen (features) en het klasse-attribuut.
Experimentele opstelling
In de huidige studie wordt de programmeertaal Python gebruikt om de verzamelde dataset vooraf te verwerken. Door menselijke fouten ontbreken specifieke waarden tijdens gegevensinvoer en selectie. Imputatietechnieken zijn gebruikt om ontbrekende waarden in de dataset te behandelen. Dit gebeurt door ontbrekende waarden te vervangen door het gemiddelde van het attribuut. Vanwege de eenvoud, modelcompatibiliteit en het behoud van steekproefgemiddelde waarden, zoals besproken met zorgprofessionals. Bovendien wordt de selectie van kenmerken uitgevoerd met behulp van correlatiecoëfficiënten om de attributen te rangschikken. De kenmerken met hogere correlatiewaarden werden geselecteerd voor analyse samen met de volledige featureset. Python-bibliotheken zijn gebruikt voor de implementatie van de voorgestelde aanpak, hyperparameterafstemming en het verkrijgen van resultaten. De selectie en eliminatie van kenmerken werden uitgevoerd met een attribuutselectiemethode om de featuregroepen met de hoogste nauwkeurigheid te identificeren. Daarnaast werd Python gebruikt om nauwkeurigheid te evalueren met behulp van 10-voudige kruisvalidatie en Direct Partition Ratio-evaluatiemethoden, zoals gespecificeerd in de gegeven vergelijkingen39,40. Ten slotte werd het gemiddelde van alle evaluatiemethoden berekend om de gebruikte beoordelingsmethoden te vergelijken en de methode met de beste gemiddelde nauwkeurigheidvan 38 te bepalen. Daarnaast werden verwarringsmatrices gegenereerd met behulp van de optimale parameters SVM, ANN, RF en NB. Vervolgens werd een vergelijking uitgevoerd van vals-positieven (FP), vals-negatieven (FN), echte positieven (TP) en ware negatieven (TN) ratio's door de F1-score te berekenen, wat een efficiënte maat is om de beste methode41,42 te vergelijken.
Evaluatiemetrieken
Om de prestaties van de voorgestelde aanpak te evalueren, worden vier bekende prestatiemaatstaven beschouwd. Namelijk: nauwkeurigheid, precisie, terugroepen en F1-score. Classificatienauwkeurigheid is de primaire maatstaf omdat het percentage correct geclassificeerde gevallen per geval wordt berekend. Precisie is het aantal verwachte totale TP-punten. De recall is het aantal TP dat hoger is dan elk daadwerkelijk positief punt. F1-score prestaties van elke klasse. Volgens de capaciteit van de uitvoeren worden de volgende metrieken verkregen: 43,44,45:
True positive (TP): Resultaat van correct gediagnosticeerde astma.
Vals-positief (FP): Het gevolg van een onterecht diagnose van astma.
True negative (TN): Resultaat van correcte gevallen die als niet-astma zijn vastgesteld.
Vals-negatief (FN): Gevolg van een onterechte diagnose als niet-astma.
(4)
(5)
(6)
Optimalisatiestrategie
Om de optimale parameters voor elk van de voorgestelde benaderingen te bepalen, werd de Grid Search-techniek toegepast. Specifieke parameter-mogelijke waarden worden geplaatst in de Grid Search-methode. Daarom kan het de best mogelijke prestaties ontwikkelen voor precisieverbetering.
Figuren 5–7 tonen het resultaat van de Grid Search-techniek voor alle vier de voorgestelde benaderingen en de implementatieprocedure op de dataset met behulp van de top achttien attributen. Figuur 5 toont de SVM-nauwkeurigheden verkregen met verschillende parameterwaarden. De invoerwaarden voor de Kostprijs en Gamma die overeenkomen met meerdere typen kernels zijn als volgt:
Kerneltypes: Lineair, Radiaal, Sigmoïd en Polynomiaal.
Gamma: 0,001 en 0,0001.
Kosten: 1, 10, 100 en 1000.

Figuur 5: SVM met verschillende kosten en gamma-types. Deze figuur toont SVM-gedrag met verschillende kosten- en gamma-types. Afkortingen; SVM = ondersteuningsvectormachine. Klik hier om een grotere versie van deze figuur te bekijken.
Voor de RF zijn de systematisch invoerwaarden die in Figuur 6 worden aangegeven als volgt:
De parameternamen, samen met hun respectievelijke waarden, worden hieronder gegeven:
Aantal functies: 'auto', 'sqrt'.
Maximale diepte: 1, 3, 5, 7.
MIN-monsters verdeeld: 2, 3, 4, 5.
MIN-monsterblad: 2, 3, 4, 5.

Figuur 6: RF met verschillende dieptewaarden en minimale monsterbladeren. Deze figuur toont RF-gedrag met verschillende dieptes en minimale bladwaarden van het monsterblad. Afkortingen; RF = willekeurig bos. Klik hier om een grotere versie van deze figuur te bekijken.
Voor de ANN zijn de analytische invoerwaarden aangegeven in Figuur 7.
De parameternamen, samen met hun respectievelijke waarden, zijn als volgt:
Verborgen laaggroottes: (50, 50, 50), (50, 100, 50) en (100,).
Activatie: 'tanh' en 'relu'.
Solver: 'sgd' en 'adam'.
Alpha: 0,1, 0,01, 0,001, 0,0001, 0,5, 0,005, 0,0005 en 0,05.
Leertempo: 'constant' en 'adaptief'.

Figuur 7: ANN met verschillende alfawaarden en verborgen laaggroottes. Deze figuur toont het gedrag van de ANN met verschillende alfawaarden en verborgen laaggroottes. Afkortingen; ANN = kunstmatig neuraal netwerk. Klik hier om een grotere versie van deze figuur te bekijken.
| Classifier | Parameter | Waarde |
| SVM | Gamma | 0.0001 |
| Kerneltype | 'RBF' |
| Kosten 'C" | 10 |
| Willekeurige toestand | 42 |
| RF | Maximale diepte | 3 |
| Min monster blad | 2 |
| Min samples splitsen | 2 |
| Willekeurige toestand | 42 |
| ANN | Activering | 'relu' |
| alpha | 0.001 |
| Grootte van de verborgen laag | (50,50,50) |
| Leertempo | 'constant' |
| solver | 'Adam' |
| Willekeurige toestand | 42 |
Tabel 5: Samenvatting van optimale parameters voor de voorgestelde classificatoren. Deze tabel vat de optimale parameters samen die zijn verkregen voor de voorgestelde classifiers.