EfficientNetB7-gebaseerd deep learning-framework voor verbeterde classificatie van histopathologische beelden van long- en darmkanker

Summary

Hier introduceren we een deep learning-systeem met het EfficientNetB7-model voor de precieze classificatie van histopathologische beelden van long- en colonkanker. Het model behaalde 96% nauwkeurigheid door de toepassing van preprocessing, data-augmentatie en transfer learning. De methode heeft een groot potentieel om de klinische kankerdiagnose te ondersteunen.

Abstract

Vroege diagnose van longkanker speelt een cruciale rol bij het waarborgen van betere behandeling en overleving van patiënten. Dit blijft een belangrijk aandachtspunt in klinisch onderzoek. Kunstmatige intelligentie (AI) heeft de pathologie getransformeerd door de diagnostische nauwkeurigheid en efficiëntie aanzienlijk te verbeteren. Deze studie presenteert een robuust deep learning-model in de vorm van het vooraf getrainde EfficientNetB7-model om histopathologische beelden van colon en longweefsel te classificeren met een extreem hoge nauwkeurigheid van 96%. De prestaties van het model werden geoptimaliseerd met geavanceerde preprocessing-methoden, fine-tuning en domeinspecifieke data-augmentatietechnieken. Deze strategieën helpen problemen zoals klasse-onevenwichtigheden en subtiele histologische variaties te verminderen. Om het probleem van overfitting aan te pakken, werden meerdere data-augmentatietechnieken gecombineerd en werd een criterium voor vroege stoping opgenomen. Deze aanpak maakte efficiënte en kosteneffectieve training mogelijk. Robuuste validatie van het model toont een hoge bruikbaarheid voor klinische toepassingen en stelt pathologen in staat tijdige en nauwkeurige diagnoses te stellen. Het integreren van geavanceerde deep learning-modellen in medische beeldvormingsworkflows biedt veel potentie voor vroege en nauwkeurige kankerdiagnoses, wat uiteindelijk de patiëntuitkomsten verbetert.

Introduction

Long- en darmkanker behoren tot de meest voorkomende kankers ter wereld wat betreft sterfte. Longkanker is de belangrijkste dodelijke kanker met meer dan 1,8 miljoen sterfgevallen per jaar, gevolgd door darmkanker als de derde meest voorkomende maligniteit en de op één na meest voorkomende oorzaak van kankersterfte, volgens wereldwijde gezondheidsstatistieken. Nauwkeurige en vroege diagnose is cruciaal voor effectieve behandeling en verbeterde overleving van deze kankers. Histopathologisch onderzoek, of microscopische evaluatie van weefselmonsters door pathologen, blijft een van de meest voorkomende methoden^{om kanker op} te sporen. Figuur 1 toont de histopathologische beelden van verschillende typen longen en darmweefsel².

Figuur 1: Voorbeeldafbeeldingen uit de dataset. Deze figuur toont representatieve voorbeelden uit elke klasse in de LC25000 dataset en benadrukt de visuele diversiteit tussen goedaardige en kwaadaardige long- en darmweefselbeelden. Klik hier om een grotere versie van deze figuur te bekijken.

Digitale pathologie heeft de industrie getransformeerd door het mogelijk te maken histologiedia's te digitaliseren, die nu worden gediagnosticeerd met geavanceerde deep learning-algoritmen³. In combinatie met deep learning-modellen zijn algoritmen uitstekend in het herkennen van subtiele patronen binnen grote data, wat de nauwkeurigheid en efficiëntie van diagnoses aanzienlijk verhoogt. Tabel 1 toont de beschrijving van elke weefselklasse.

Klassenaam	Beschrijving
Longgoedaardig weefsel	Niet-kankerachtig weefsel in de longen, niet betrokken bij kankergroei.
Longadenocarcinoom	Een type longkanker dat ontstaat uit klierepitheelweefsel, bekend om zijn kwaadaardige groeipatronen.
Longplaveiselcelcarcinoom	Een soort longkanker die wordt gekenmerkt door een bepaalde cellulaire morfologie die ontstaat uit de plaveiselcellen die de luchtwegen bekleden.
Colon adenocarcinoom	De meeste gevallen van darmkanker worden veroorzaakt door een veelvoorkomend type darmkanker dat begint in de kliercellen van het darmslijmvlies.
Colon-goedaardig weefsel	Gezond weefsel in de dikke darm dat geen tekenen vertoont van kanker of voorstadia van kanker.

Tabel 1: Een overzicht van de vijf weefsel- en kankerklassen in de dataset, inclusief klassenamen, kenmerken en het aantal afbeeldingen in elke klasse.

EfficientNetB7, een geavanceerde convolutionele neurale netwerkarchitectuur, is geïdentificeerd als bijzonder effectief voor beeldclassificatietaken vanwege de gebalanceerde schaal in diepte, breedte en resolutie. In vergelijking met veelgebruikte architecturen zoals ResNet en DenseNet bereikt EfficientNetB7 een superieure balans tussen classificatienauwkeurigheid en rekenefficiëntie door middel van compound scaling, dat de netwerkdiepte, breedte en resolutie proportioneel schaalt. Hoewel ResNet en DenseNet robuuste prestaties hebben aangetoond bij medische beeldclassificatietaken, vereisen ze doorgaans een hoger aantal parameters en grotere rekenkrachten om een vergelijkbare nauwkeurigheid te bereiken, waardoor EfficientNetB7 geschikter is voor grootschalige histopathologische analyses in klinische omgevingen met beperkte middelen⁴. De toepassing van geavanceerde computationele modellen, waaronder AI-tools zoals EfficientNetB7, biedt nieuwe mogelijkheden om traditionele diagnostische uitdagingen te overwinnen, met hulpmiddelen die pathologen ondersteunen en mogelijk de diagnostische uitkomsten verbeteren. Het integreren van AI in de pathologiepraktijk zou de toegang tot kwalitatieve diagnostische diensten kunnen democratiseren, waardoor regio's met beperkte medische expertise geavanceerde diagnostiek kunnen uitvoeren.

Recente benchmarkstudies en uitgebreide reviews in medische beeldanalyse hebben consequent de groeiende impact van deep learning-architecturen in histopathologie^benadrukt. Grootschalige analyses hebben aangetoond dat convolutionele neurale netwerken en hun moderne varianten state-of-the-art prestaties leveren bij het identificeren van subtiele morfologische kenmerken over meerdere weefseltypen, vaak beter dan traditionele diagnostische methoden. Vergelijkende evaluaties tonen aan dat geavanceerde architecturen, waaronder EfficientNet en andere schaalbare modellen, niet alleen superieure classificatienauwkeurigheid bereiken, maar ook een verbeterde computationele efficiëntie^{aantonen 6}. Daarnaast benadrukken systematische reviews van digitale pathologie de transformerende rol ervan in routinematige diagnostiek door reproduceerbaarheid mogelijk te maken, variabiliteit tussen waarnemers te verminderen en integratie met geautomatiseerde pijplijnen mogelijk te maken. Deze collectieve bevindingen bevestigen het belang van het adopteren van geavanceerde deep learning-modellen voor histopathologische kankerclassificatie en leveren sterk bewijs dat de toepassing van schaalbare en efficiënte architecturen klinische uitdagingen kan aanpakken zoals klassenonbalans, histologische variabiliteit en beperkte beschikbaarheid van deskundige pathologen.

De doelstellingen van dit onderzoek zijn (i) het creëren en beoordelen van een deep learning-model voor de categorisering van histopathologische beelden van long- en darmkanker op basis van de EfficientNetB7-architectuur; (ii) Het aantonen van het vermogen van het model om een hoge classificatienauwkeurigheid te bereiken, mogelijk beter dan traditionele diagnostische methoden; (iii) Het verkennen van de impact van data-augmentatie, preprocessingtechnieken en transfer learning op modelprestaties in een domeinspecifieke context.

Deze studie toont niet alleen de hoge diagnostische nauwkeurigheid aan die met EfficientNetB7 op histopathologische beelden haalbaar is, maar behandelt ook kritische uitdagingen zoals klasse-onevenwicht en overfitting door gerichte data-augmentatie, robuuste validatiestrategieën en vroegtijdige stoptechnieken. De methodologie is specifiek ontworpen om klinische omgevingen in de praktijk te weerspiegelen door gebruik te maken van grootschalige, uitgebreide datasets en het benchmarken van de prestaties van het model op klinisch relevante meetpunten. De automatisering en efficiëntie van de workflow zorgen ervoor dat het systeem praktisch is voor integratie in digitale pathologielaboratoria, wat de potentie biedt om de productiviteit van pathologen te verhogen, de consistentie van diagnostische gegevens te verbeteren en bredere toegang tot analyses op expertniveau mogelijk te maken in zowel klinische omgevingen met veel middelen als met beperkte middelen.

Zelfs met opmerkelijke vooruitgang in deep learning voor medische beeldvorming blijven er verschillende uitdagingen bestaan bij het classificeren van histopathologische beelden van long- en darmkanker⁷. Huidige modellen falen vaak in het omgaan met klassenongelijkheid, waarbij sommige soorten kanker ondervertegenwoordigd kunnen zijn binnen datasets en bevooroordeelde voorspellingen kunnen creëren. Bovendien vormen subtiele histologische verschillen tussen subtypen kanker, zoals adenocarcinoom en plaveiselcelcarcinoom van de long, een formidabele uitdaging voor een juiste classificatie. Het meeste eerdere werk is uitgevoerd op het gebied van classificatie van enkelvoudige kankers of met beperkte kleine datasets, waardoor brede toepasbaarheid en bruikbaarheid in een klinische setting onmogelijk is. Traditionele benaderingen zijn ook minder computationeel efficiënt, en daardoor minder wenselijk voor grote data- of realtime klinische toepassingen⁸.

De huidige studie overbrugt deze hiaten door gebruik te maken van de EfficientNetB7-architectuur, een state-of-the-art deep learning-model met bewezen schaalbaarheid en effectiviteit. Willekeurige zooms, flips, rotaties en verschuivingen worden gebruikt als geavanceerde methoden voor data-augmentatie om de robuustheid en generalisatiecapaciteit van het model over verschillende histopathologische patronen te maximaliseren. Transfer learning wordt ook gebruikt om het vooraf getrainde EfficientNetB7-model te verfijnen, zodat het kan leren en aanpassen op een manier die specifiek is voor long- en darmkankerdatasets, en zo de trainingstijd en rekenkosten minimaliseert⁹. Het gebruik van global average pooling en vroegtijdig stoppen verbetert ook de prestaties van het model door goede training te hebben en overfitting te voorkomen.

De toepassing van deep learning in medische beeldvorming, vooral voor de diagnose van kanker, heeft de afgelopen jaren enorme vooruitgang geboekt. De conventionele diagnose van long- en darmkanker is voornamelijk afhankelijk van histopathologisch onderzoek, waarbij pathologen weefselmonsters onder een microscoop^inspecteren. Hoewel effectief, is het arbeidsintensief, vatbaar voor variabiliteit tussen waarnemers, en meestal beperkt door het beperkte aanbod van deskundige pathologen, vooral in omgevingen met beperkte middelen. Deze beperkingen hebben geleid tot de ontwikkeling van computergestuurde AI- en deep learning-gebaseerde diagnostische systemen.

Deep learning-modellen, met name convolutionele neurale netwerken (CNN's), zijn indrukwekkend succesvol geweest bij beeldanalyse van histopathologische monsters¹¹. Ze zijn vooral goed in het identificeren van ingewikkelde patronen en subtiele variaties in weefselmorfologie, taken die geschikt zijn voor kankerclassificatie. Ondanks de vooruitgang blijven er tekortkomingen zoals klassenonevenwicht, beperkte generalisatie ten opzichte van scenario's met meerdere datasets en hoge rekenkosten in de huidige benaderingen. Zo behandelt het merendeel van het werk de classificatie van enkelvoudige kanker, wat het gebruik beperkt tot multi-kankerdiagnosescenario's. Ook maken slechte voorbewerkings- en data-augmentatietechnieken het vatbaar voor overfitting, vooral in kleine of onevenwichtige datasetscenario's.

Recente ontwikkelingen in transfer learning hebben deze beperkingen deels overwonnen door gebruik te maken van vooraf getrainde modellen op grootschalige datasets zoals ImageNet. EfficientNet, ResNet en DenseNet zijn enkele modellen die aandacht hebben getrokken in medische beeldanalyse, omdat ze geavanceerde functies kunnen leren uit beperkte hoeveelheden^{trainingsdata.} EfficientNet heeft ook brede adoptie gezien vanwege zijn schaalbaarheid en efficiëntie, aangezien het state-of-the-art nauwkeurigheid behaalt op verschillende beeldclassificatiebenchmarks. De toepassing van EfficientNet bij het classificeren van gecombineerde long- en darmkanker is niet uitgebreid onderzocht, vooral met betrekking tot het behandelen van klasse-onevenwichtigheden en subtiele histologische variaties¹³.

Data-augmentatie is een cruciale strategie geweest voor modelrobuustheid en generalisatieverbetering¹⁴. Door variaties zoals rotatie, verschuiven, zoomen en flippen te integreren, simuleren data-augmentatietechnieken variabiliteit die bestaat in daadwerkelijke histopathologische beelden, waardoor modellen invariante kenmerken kunnen leren. Vroege stop- en regularisatietechnieken verbeteren de modelprestaties verder door overfitting te voorkomen en de trainingsefficiëntie te maximaliseren. Ondanks al deze ontwikkelingen is er nog steeds behoefte aan end-to-end frameworks die geavanceerde preprocessing, augmentatie en transfer learning omarmen om hoge nauwkeurigheid en rekenefficiëntie te bereiken voor multi-kankerclassificatie. Tabel 2 15,16,17,18,19,20,21,22,23,24 toont de literatuur van de studie ten opzichte van de bestaande literatuur.

Studie	Doelstelling
Talukder, M. A. et al.15 (2022)	Presenteer een hybride ensemble-feature-extractiemodel dat deep learning en machine learning combineert om darm- en longkanker te identificeren.
Attallah, O. et al.16 (2022)	Bied een low-weight deep learning-framework dat verschillende modellen en transformatietechnieken combineert om long- en darmkanker vroegtijdig op te sporen.
Hage Chehade, A. et al.17 (2022)	Creëer een computerondersteund diagnostisch systeem op basis van machine learning dat verschillende soorten long- en dikke darmweefsel kan identificeren.
Wahid, R. R. et al.18 (2023)	Gebruik een computerondersteund diagnosesysteem met CNN's om long- en darmkanker op te sporen.
Kumar, N. et al.19 (2022)	Vergelijk en contrasteer de feature-extractietechnieken die worden gebruikt om darm- en longkanker te categoriseren.
Mehmood, S. et al.20 (2022)	Maak een voorgetraind neuraal netwerk met aangepaste lagen diagnosemodel voor long- en darmkanker dat zowel nauwkeurig als efficiënt is.
Zhou, L. et al.21 (2024)	Voorspel nieuwe doelen voor Wogonin (WOG) bij de behandeling van long-, blaas- en darmkanker met behulp van bio-informatica-methoden.
Reddy, K. R. et al.22 (2022)	Bied een hybride methode voor het extractie van ensemblekenmerken op basis van machine learning voor de detectie van darmkanker (LCC).
Shandilya, S., Nayak, S. R.23 (2022)	CNN's en het ontwerp van visietransformatoren helpen bij het classificeren van histopathologische beelden van longkanker en darmkanker.
Hasan, M. et al.24 (2023)	Met behulp van veel CNN-modellen classificeren we beelden van long- en darmkanker om de diagnoseprocedures te verbeteren.

Tabel 2: Een vergelijking van relevante eerdere studies over histopathologische beeldclassificatie, met details over gebruikte datasets, modeltypes en gerapporteerde uitkomsten.

Dit artikel bouwt voort op deze bijdragen door een deep learning-model te integreren dat gebruikmaakt van de EfficientNetB7-architectuur, aangevuld met geavanceerde data-augmentatie en transfer learning. De huidige oplossing presteert beter dan de tekortkomingen van eerdere oplossingen door verbeterde classificatienauwkeurigheid, klassenevenwicht en lagere rekenkosten, en is daarom een optimale oplossing voor gebruik in de klinische omgeving.

Protocol

Deze studie omvatte geen directe experimenten op menselijke deelnemers of dieren. Al het werk werd uitgevoerd met behulp van de publiek beschikbaare, geanonimiseerde LC25000 dataset van histopathologische beelden, die geen identificeerbare patiëntinformatie of directe behandeling van menselijk weefsel bevatte. Goedkeuring van de Institutional Review Board (IRB) of de Institutional Animal Care and Use Committee (IACUC) was niet vereist. Alle procedures voldeden aan ethische normen en hielden zich aan de gebruiksvoorwaarden van de dataset voor academisch onderzoek. Figuur 2 toont de stappen van het workflowdiagram.

Figuur 2: Workflow van de voorgestelde methode. De workflow omvat data-preprocessing, augmentatie, modeltraining en evaluatie. Klik hier om een grotere versie van deze figuur te bekijken.

Datasetbeschrijving
De LC25000 dataset werd voor deze studie gebruikt. Het bestond uit 25.000 histopathologische afbeeldingen, allemaal uniform geformatteerd als JPEG-bestanden met een resolutie van 768 × 768 pixels. De dataset is afkomstig uit een eerste set van 1.250 originele beelden, waaronder 250 goedaardige longweefselbeelden, 250 longadenocarcinomen, 250 longplaveiselcarcinomen, 250 goedaardige beelden van colonweefsel en 250 colonadenocarcinoomen. De resterende beelden werden gegenereerd via data-augmentatie om de dataset uit te breiden, zodat er een diverse en uitgebreide collectie werd gegarandeerd voor robuuste modeltraining en validatie.

De beelden met hoge resolutie maakten een gedetailleerde analyse van cellulaire structuren mogelijk, wat essentieel was voor een nauwkeurige classificatie van kanker. Data-uitbreiding was noodzakelijk vanwege het beperkte aantal originele afbeeldingen; Technieken zoals rotaties, flips, zooms en verschuivingen werden toegepast om de grootte en diversiteit van de dataset synthetisch te vergroten. Dit proces genereerde nog eens 23.750 synthetische beelden op een klasse-gebalanceerde manier, wat resulteerde in een definitieve dataset van 25.000 afbeeldingen, waarbij elke klasse 5.000 beelden na de augmentatie bevatte.

Datavoorverwerking
De ruwe histopathologische beelden in de dataset hadden een resolutie van 768 × 768 pixels. Om compatibiliteit met de EfficientNetB7-architectuur te waarborgen en de rekenefficiëntie te maximaliseren, werd elke afbeelding verkleind van 768 × 768 naar 224 × 224 pixels. Dit proces van verkleinen betekende een afweging tussen het behouden van essentiële histologische kenmerken en het verminderen van rekenlast. De groottewijziging werd wiskundig weergegeven zoals getoond in

Vergelijking 1: (1)

waarbij X de originele afbeelding aanduidde, X_{de verkleinde} afbeelding was, en h en w respectievelijk de gewenste hoogte en breedte waren. Alle pixelwaarden werden genormaliseerd tot een bereik van 0 tot 1, wat de training stabiliseerde en versnelde door een consistente invoerverdeling over afbeeldingen te waarborgen. Deze normalisatie werd wiskundig berekend zoals getoond in Vergelijking 2. Deze stap was essentieel om de modelconvergentie tijdens de training te verbeteren.

(2)

Data-augmentatie werd gebruikt als een cruciale techniek om de robuustheid en toepasbaarheid van deep learning-modellen te verbeteren, vooral in de context van medische beeldvorming met beperkte en onevenwichtige datasets. In deze studie werden verschillende augmentatietechnieken toegepast met behulp van de ImageDataGenerator-module van TensorFlow om in vivo variatie in histopathologische beelden te simuleren. Deze technieken omvatten willekeurige rotaties tot 20 graden om variabiliteit in weefseloriëntatie te simuleren, horizontale en verticale verschuivingen tot 20% van de beeldafmetingen om positievariabiliteit tijdens de preparaat na te bootsen, en willekeurige zooms tot 20% om variabiliteit in vergroting weer te geven.

Daarnaast werd horizontale flipping uitgevoerd om spiegelbeeldvariaties te introduceren, waardoor de trainingsdataset verder werd verrijkt. Om nieuw gesynthetiseerde pixels die tijdens deze transformaties zijn gegenereerd te beheren, werd een dichtstbijzijnde-naburige vullingstrategie gehanteerd om soepele overgangen te garanderen en de integriteit van belangrijke histologische kenmerken te behouden. De 2D-rotatiematrix die voor augmentatie wordt gebruikt, wordt weergegeven in Vergelijking 3, en Vergelijking 4 definieert een functie met een incrementele verandering:

(3)

(4)

Deze augmentatietechnieken compenseerden uitdagingen zoals klasse-onevenwicht, kleine histologische variaties en beperkingen in datasets door het model in staat te stellen invariante kenmerken te leren en het risico op overfitting te verminderen. Door de dataset synthetisch uit te breiden en gecontroleerde variabiliteit te integreren, verbeterde data-augmentatie het vermogen van het model om te generaliseren naar nieuwe, onzichtbare data aanzienlijk, waardoor een sterker en robuuster systeem ontstond voor klinische inzet bij de diagnose van long- en darmkanker.

Modelarchitectuur
Het model is ontwikkeld op basis van de EfficientNetB7-architectuur, een state-of-the-art deep learning-netwerk dat bekendstaat om zijn prestaties, schaalbaarheid en effectiviteit bij beeldclassificatietaken. EfficientNetB7 werd gebouwd met behulp van een reeks Mobile Inverted Bottleneck Convolution (MBConv)-blokken, die diepte-scheidbare convoluties bevatten. Dit structurele ontwerp comprimeerde het model effectief, wat resulteerde in aanzienlijke verminderingen van het aantal parameters met minimale prestatieverlies. Deze innovatie stelde het model in staat hoge nauwkeurigheid te bereiken met lagere rekenkosten, waardoor het bijzonder geschikt was voor computationeel intensieve toepassingen zoals histopathologische beeldanalyse. Figuur 3 toont de modelarchitectuur van de vooraf getrainde EfficientNetB7.

Figuur 3: Modelarchitectuur van EfficientNetB7. Deze figuur toont de gedetailleerde structuur van het EfficientNetB7-model, waarin de belangrijkste lagen en functionele blokken worden gebruikt voor beeldclassificatie worden geïllustreerd. Klik hier om een grotere versie van deze figuur te bekijken.

Het model accepteerde voorbewerkte histopathologische beelden die waren aangepast van hun oorspronkelijke afmetingen van 768 × 768 pixels naar 224 × 224 pixels om te voldoen aan de invoervereisten van EfficientNetB7. Elke afbeelding onderging verschillende processen binnen het netwerk, waaronder batchnormalisatie, Swish-activatiefuncties en convolutieoperaties. Batchnormalisatie werd berekend zoals weergegeven in Vergelijking 5. De Swish-activatiefunctie introduceerde niet-lineariteit en maakte snellere, efficiëntere training mogelijk vergeleken met traditionele functies zoals ReLU. Deze lagen waren ontworpen om hiërarchische kenmerken te extraheren en te verbeteren, waardoor het model geleidelijk kon leren van laag- naar hoogniveaupatronen naarmate de beelden door het netwerk werden voortgeplant.

(5)

De convolutionele ruggengraat van EfficientNetB7, vooraf getraind op de ImageNet-dataset, bood een zeer generaliseerbare set feature-detectoren die effectief waren over een breed scala aan beelddomeinen. De voorgetrainde basis speelde een sleutelrol bij het vastleggen van subtiele maar informatieve patronen in histopathologische beelden, die vaak worden gekenmerkt door hoge variabiliteit binnen de klasse en fijnkorrelige kenmerken. De output van de convolutionele lagen werd doorgegeven aan een globale gemiddelde poolinglaag, die de ruimtelijke dimensies reduceerde tot één enkele featurevector per afbeelding. Deze vector, die de meest relevante kenmerken omvat die door de convolutionele lagen worden geleerd, werd vervolgens afgevlakt tot een eendimensionale array voor compatibiliteit met volledig verbonden lagen. Het algoritme voor verbeterde detectie van long- en darmkanker is opgenomen in Aanvullend Dossier 1.

De daaropvolgende netwerkarchitectuur omvatte twee dichte (volledig verbonden) lagen met respectievelijk 128 en 64 eenheden. Beide lagen maakten gebruik van de Rectified Linear Unit (ReLU) activatiefunctie om extra niet-lineariteit te introduceren en de geëxtraheerde kenmerken fijn af te stemmen, waardoor het model preciezere patronen en relaties binnen de data kon herkennen. De laatste laag van het model was een SoftMax-uitvoerlaag met vijf neuronen, elk vertegenwoordigend van een van de vijf klassen in de dataset. De SoftMax-functie produceerde een kansverdeling over de klassen, die de voorspelling van het model voor elk invoerbeeld weerspiegelde, zoals beschreven in Vergelijking 6:

(6)

De combinatie van geavanceerde convolutionele technieken, robuuste regularisatie en effectieve optimalisatiestrategieën resulteerde in een deep learning-model dat uitstekend geschikt is voor classificatie van medische beelden met hoge inzet. Het model bereikte precisie, schaalbaarheid en operationele efficiëntie, en toonde een sterk potentieel voor klinische toepassing bij de diagnose van long- en darmkanker. Binnen dit kader werd regularisatie voornamelijk bereikt door geavanceerde data-augmentatie en het gebruik van vroege stops; er werd geen expliciete dropout of gewichtsafname toegepast op de dichte lagen.

Training en validatie
De validatie- en pretrainingspijplijn van het convolutioneel neurale netwerk (CNN) voor LC25000 histopathologische beeldclassificatie is ontworpen om de modelprestaties te optimaliseren en een goede generalisatie te waarborgen. De pijplijn begon met uitgebreide voorbewerking, waaronder het terugbrengen van de oorspronkelijke 768 × 768-pixels afbeeldingen tot 224 × 224 pixels om te voldoen aan de invoervereisten van de EfficientNetB7-architectuur. Pixelintensiteiten werden genormaliseerd naar het bereik [0, 1] om de training te stabiliseren en te versnellen, en data-augmentatietechnieken, waaronder willekeurige rotaties, verschuivingen, zooms en horizontale flips – werden toegepast om variabiliteit te introduceren en overfitting te beperken. Deze preprocessing-operaties zorgden ervoor dat het model invariante kenmerken leerde en goed generaliseerde naar nieuwe data.

Het EfficientNetB7-model, vooraf getraind op de ImageNet-dataset, werd als basis gebruikt en bood een robuuste feature-detectorset die subtiele histologische patronen kon identificeren. Het model werd vervolgens fijn afgesteld met twee dichte lagen (128 en 64 eenheden) die werden geactiveerd door de Rectified Linear Unit (ReLU)-functie, gevolgd door een SoftMax-uitvoerlaag voor vijf-klassen classificatie. Deze architectuur was geoptimaliseerd voor zowel precisie als rekenkundige efficiëntie, waardoor het zeer geschikt was voor medische beeldanalyse. De Adam-optimizer-updateregel voor θ wordt weergegeven in Vergelijking 7.

(7)

Modeltraining werd uitgevoerd in batches van 128 afbeeldingen met behulp van de Adam optimizer, die de leersnelheid adaptief schaalde om effectieve convergentie te bevorderen. Er werd een vroegtijdig stopcriterium ingevoerd om validatieverlies te monitoren en de training te stoppen als er geen verbetering werd waargenomen, waardoor overfitting werd voorkomen en de rekenkracht werd geoptimaliseerd. Tijdens de training werden belangrijke prestatie-indicatoren – waaronder nauwkeurigheid, verlies, precisie en herinnering – bijgehouden met behulp van een hold-out validatieset die 20% van de data omvatte. De hold-out set leverde cruciale inzichten op in de generalisatiemogelijkheden van het model en verminderde het risico op overfitting naar onzichtbare data.

De integratie van geavanceerde preprocessing-, data-augmentatie- en optimalisatiestrategieën resulteerde in uitstekende modelnauwkeurigheid en robuustheid, wat een sterk potentieel voor klinische toepassing bij long- en darmkankerdetectie aantoont. Alle experimenten werden uitgevoerd op een NVIDIA Tesla P100 GPU met 16 GB geheugen en 64 GB systeemgeheugen. De volledige trainingspijplijn – inclusief preprocessing, augmentatie en modeloptimalisatie – vereiste ongeveer drie uur om tien epochs te voltooien met een batchgrootte van 128. Deze computationele infrastructuur werd geselecteerd om de grote, uitgebreide dataset efficiënt te beheren, terwijl redelijke trainingstijden werden gehandhaafd die geschikt zijn voor klinische onderzoeksomgevingen.

Voor reproduceerbaarheid werden alle kritieke hyperparameters expliciet gespecificeerd. Het model werd getraind met de Adam-optimizer met een constante leersnelheid van 0,001. De training werd maximaal 10 epochs uitgevoerd, met vroegtijdige stops op basis van validatieverlies en een geduld van drie epochs om overfitting te voorkomen. Een batchgrootte van 128 werd gebruikt voor zowel de trainings- als de validatiefase. Om consistente resultaten te garanderen, werd de willekeurige seed ingesteld op 42 in alle fasen van het dataladen en modeltraining. Tijdens de training werd geen leertempo van achteruitgang toegepast.

Het protocol combineerde systematische voorverwerking, goed gekalibreerde hyperparameters, rigoureuze validatieschema's en een open computationele omgeving om zowel nauwkeurigheid als reproduceerbaarheid te bevorderen. De workflow legde door het integreren van robuuste deep learning-architectuur, effectieve optimalisatie en reproduceerbaar experimenteel ontwerp een solide basis voor histopathologische beeldclassificatie. Naast het aantonen van sterke prestaties bij het opsporen van long- en darmkanker, definieerde het protocol een schaalbaar kader dat in toekomstig onderzoek kan worden uitgebreid naar vergelijkbare biomedische beeldvormingsuitdagingen.

Tijdens de modelontwikkeling werden verschillende praktische aanpassingen doorgevoerd om betrouwbare en reproduceerbare resultaten te bereiken. Vroege stop- en geavanceerde data-augmentatie werden gebruikt om klassenonevenwicht en overfitting aan te pakken. Hoog geheugengebruik tijdens de training werd beperkt door afbeeldingen te verkleinen naar 224 × 224 pixels en een batchgrootte van 128 pixels te gebruiken. Wanneer langzame convergentie werd aangetroffen, werd de leersnelheid empirisch ingesteld op 0,001. Handmatig werd de structuur van de afbeeldingsdirectory gecontroleerd om laadfouten in data te voorkomen, en willekeurige seeds werden gefixeerd om reproduceerbaarheid te waarborgen. Deze strategieën kunnen dienen als praktische richtlijnen voor onderzoekers die vergelijkbare uitdagingen ondervinden bij het trainen van deep learning-modellen met grote histopathologische beelddatasets.

Statistische analyse
Statistische modellering van de prestaties van het model werd uitgevoerd met behulp van een uitgebreide set meetwaarden om nauwkeurigheid, stabiliteit en generaliseerbaarheid te beoordelen. Belangrijke evaluatiematen waren precisie, recall, F1-score en nauwkeurigheid om classificatieprestaties te kwantificeren. De verwarringsmatrix werd gebruikt om klasse-specifieke foutenmetingen te rapporteren, berekend volgens Vergelijkingen 8-10:

(8)

(9)

(10)

Daarnaast werden foutmaten zoals Gemiddelde Kwadraatfout (MSE), Root Mean Squared Error (RMSE) en Gemiddelde Absolute Fout (MAE) geëvalueerd om de voorspellingsnauwkeurigheid te beoordelen, berekend met behulp van Vergelijkingen 11-13:

(11)

(12)

(13)

De Receiver Operating Characteristic (ROC) curve en Area Under the Curve (AUC) werden gebruikt om het vermogen van het model te evalueren om klassen op verschillende drempels te onderscheiden. De AUC werd berekend zoals getoond in Vergelijking 14:

(14)

Deze statistische analyses boden een grondige beoordeling van de classificatieprestaties, robuustheid en generalisatie van het model naar onbekende data.

Ablatiestudie
Om de bijdrage van elk onderdeel binnen het classificatiekader verder te beoordelen, werd een ablatiestudie uitgevoerd door selectief specifieke architecturale elementen van het uiteindelijke model weg te laten of aan te passen. Specifiek werden twee alternatieve experimentele configuraties geëvalueerd: één configuratie omvatte zowel de Global Average Pooling- als de Flatten-lagen, gevolgd door twee dichte lagen (respectievelijk 128 en 64 eenheden); de andere configuratie liet zowel de Flatten-laag als de 128-eenheid dichte laag weg, waardoor alleen de Global Average Pooling-laag en een enkele 64-eenheid dichte laag overbleven.

De complete architectuur, zoals gerapporteerd in de hoofdresultaten, behaalde een validatienauwkeurigheid van ongeveer 96%. Toen de Flatten-laag werd uitgesloten en alleen de dichte lagen van 128 en 64 eenheden werden gebruikt na Global Average Pooling, daalde de validatienauwkeurigheid tot 81,6%. Omgekeerd, wanneer de dichte laag van 128 units werd uitgesloten en de Flatten-laag behouden bleef, daalde de validatienauwkeurigheid tot 88%. Deze resultaten gaven aan dat zowel de extra dichte laag als de juiste architecturale componenten moesten worden opgenomen om optimale classificatieprestaties te bereiken. De bevindingen uit de ablatie-experimenten toonden consequent aan dat de combinatie van Global Average Pooling, Flattening en twee volledig verbonden lagen een expressievere kenmerkweergave mogelijk maakte, wat resulteerde in robuustere en nauwkeurigere histopathologische beeldclassificatie.

Results

Figuur 4 toont de training en validatie nauwkeurigheid. Figuur 5 toont het trainings- en validatieverlies.

Figuur 4: Nauwkeurigheid van training en validatie over tijdperken. Deze figuur toont de progressie van nauwkeurigheid voo...

Discussion

Bij de kritische review van verkeerd gelabelde instanties onder de EfficientNetB7 deep learning-architectuur wordt een kritisch onderzoek uitgevoerd op gevallen waarbij modelvoorspellingen niet overeenkomen met echte labels binnen de validatiedataset. Kritische analyse is van groot belang bij het analyseren van bepaalde classificatiefouten, vooral wanneer het model verschillende histopathologische kenmerken van long- en dikke darmweefsel verkeerd classificeert¹¹. ...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
A100 GPU (CUDA)	NVIDIA	CUDA-versie 11.0	GPU-versnelling voor modeltraining en evaluatie.
Kaggle Platform	Google	N/A	Cloud-gebaseerde notebook voor ontwikkeling van machine learning-modellen
Keras	TensorFlow (Google)	Versie 2.6.0	Deep learning API die draait op TensorFlow.
LC25000	Borkowski AA, Bui MM, Thomas LB, Wilson CP, DeLand LA, Mastorides SM. Long- en colonkanker histopathologisch beelddataset (LC25000)	N/A	Deze dataset bevat 25.000 histopathologische afbeeldingen met 5 klassen. Alle afbeeldingen zijn 768 x 768 pixels groot en in jpeg-bestandsformaat.
Matplotlib	Python Software Foundation	Versie 3.5.0	Visualisatiebibliotheek voor het plotten van resultaten.
NumPy	Python Software Foundation	Versie 1.19.5	Numerieke computingbibliotheek.
OpenCV	Open Source	Versie 4.5.4	Beeldverwerkings- en computervisiebibliotheek.
Pandas	Python Software Foundation	Versie 1.3.4	Gegevensanalyse- en manipulatietool.
Python (Anaconda-distributie)	Anaconda Inc	Versie 3.7.12	Bevat vooraf geïnstalleerde pakketten en omgevingsbeheertools.
Scikit-learn	Python Software Foundation	Versie 0.23.2	Machine learning-tools voor prestatie-evaluatie.
TensorFlow	Google	Versie 2.6.2	Deep learning-framework voor diffusiemodellen.