$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Hedendaagse klinische interventie, waaronder de diagnose van ziekten, het opstellen van behandelplannen en het volgen van behandelingsresultaten, is gebaseerd op de nauwkeurige segmentatie van medische beelden1. De complexe structurele relaties tussen buikorganen2maken het echter een uitdagende taak om een nauwkeurige segmentatie van meerdere buikorganen te bereiken3. In de afgelopen decennia hebben de bloeiende ontwikkelingen op het gebied van medische beeldvorming en computervisie zowel nieuwe kansen als uitdagingen opgeleverd op het gebied van abdominale multi-orgaansegmentatie. Geavanceerde magnetische resonantiebeeldvorming (MRI)4 en computertomografie (CT)-technologie5 stellen ons in staat om buikbeelden met een hoge resolutie te verkrijgen. De nauwkeurige segmentatie van meerdere organen op basis van CT-beelden heeft een aanzienlijke klinische waarde voor de beoordeling en behandeling van vitale organen zoals de lever, nieren, milt, alvleesklier, enz.6,7,8,9,10 Het handmatig anatomisch anatomiseren van deze anatomische structuren, vooral die welke interventie van radiologen of radiotherapeuten vereisen, is echter zowel tijdrovend als vatbaar voor subjectieve invloeden11. Daarom is er een dringende behoefte aan de ontwikkeling van geautomatiseerde en nauwkeurige methoden voor abdominale segmentatie van meerdere organen.
Eerder onderzoek naar beeldsegmentatie was voornamelijk gebaseerd op Convolutional Neural Networks (CNN's), die de segmentatie-efficiëntie verbeteren door lagen te stapelen en ResNet12 te introduceren. In 2020 introduceerde het onderzoeksteam van Google het Vision Transformer (VIT)-model13, een baanbrekend voorbeeld van het integreren van Transformer-architectuur in het traditionele visuele domein voor een reeks visuele taken14. Terwijl convolutionele bewerkingen alleen rekening kunnen houden met lokale functie-informatie, maakt het aandachtsmechanisme in Transformers het mogelijk om uitgebreide beschouwing van globale functie-informatie te maken.
Gezien de superioriteit van op Transformer gebaseerde architecturen ten opzichte van traditionele convolutionele netwerken15, hebben talrijke onderzoeksteams uitgebreid onderzoek gedaan naar het optimaliseren van de synergie tussen de sterke punten van Transformers en convolutionele netwerken 16,17,18,19. Chen et al. introduceerden de TransUNet voor medische beeldsegmentatietaken16, die gebruikmaakt van Transformers om wereldwijde kenmerken uit afbeeldingen te extraheren. Vanwege de hoge kosten van netwerktraining en het niet gebruiken van het concept van functie-extractiehiërarchie, zijn de voordelen van Transformer niet volledig gerealiseerd.
Om deze problemen aan te pakken, zijn veel onderzoekers begonnen te experimenteren met het opnemen van Transformers als de ruggengraat voor het trainen van segmentatienetwerken. Liu et al.17 introduceerden de Swin Transformer, die een hiërarchische constructiemethode gebruikte voor gelaagde functie-extractie. Het concept van Windows Multi-Head Self-Attention (W-MSA) werd voorgesteld, waardoor de rekenkosten aanzienlijk werden verlaagd, vooral in de aanwezigheid van grotere functiekaarten op ondiep niveau. Hoewel deze aanpak de rekenvereisten verminderde, isoleerde het ook de informatieoverdracht tussen verschillende vensters. Om dit probleem aan te pakken, introduceerden de auteurs verder het concept van Shifted Windows Multi-Head Self-Attention (SW-MSA), waardoor informatie zich tussen aangrenzende vensters kan verspreiden. Voortbouwend op deze methodologie formuleerden Cao et al. de Swin-UNet18, waarbij de 2D-convoluties in U-Net werden vervangen door Swin-modules en W-MSA en SW-MSA werden opgenomen in de coderings- en decoderingsprocessen, waardoor lovenswaardige segmentatieresultaten werden bereikt.
Omgekeerd benadrukten Zhou et al. dat het voordeel van conv-werking niet kon worden genegeerd bij het verwerken van afbeeldingen met een hoge resolutie19. Hun voorgestelde nnFormer maakt gebruik van een zelfaandachtsberekeningsmethode op basis van lokale driedimensionale beeldblokken, die een Transformer-model vormen dat wordt gekenmerkt door een kruisvormige structuur. Het gebruik van aandacht op basis van lokale driedimensionale blokken verminderde de trainingsbelasting op het netwerk aanzienlijk.
Gezien de problemen met de bovenstaande studie, wordt een efficiënte hybride hiërarchische structuur voor 3D-segmentatie van medische beelden, Swin-PSAxialNet genaamd, voorgesteld. Deze methode omvat een downsampling-blok, Space-to-depth (SPD)20-blok , dat in staat is om globale informatie te extraheren21. Bovendien voegt het een parameter shared axial attention (PSAA)-module toe, die het aantal leerparameters terugbrengt van kwadratisch naar lineair en een goed effect zal hebben op de nauwkeurigheid van netwerktraining en de complexiteit van trainingsmodellen22.
Swin-PSAxialNet netwerk
De algehele architectuur van het netwerk neemt de U-vormige structuur van nnU-Net23 aan, bestaande uit encoder- en decoderstructuren. Deze structuren houden zich bezig met lokale extractie van kenmerken en de aaneenschakeling van kenmerken uit grootschalige en kleinschalige afbeeldingen, zoals geïllustreerd in figuur 1.

Figuur 1: Swin-PSAxialNet schematisch diagram van de netwerkarchitectuur. Klik hier om een grotere versie van deze figuur te bekijken.
In de encoderstructuur wordt het traditionele Conv-blok gecombineerd met het SPD-blok20 om een downsampling-volume te vormen. De eerste laag van de encoder bevat Patch Embedding, een module die de 3D-gegevens in 3D-patches
partitioneert, (P1, P2, P3) vertegenwoordigt niet-overlappende patches in deze context,
wat de sequentielengte van 3D-patches aangeeft. Na de inbeddingslaag omvat de volgende stap een niet-overlappende convolutionele downsampling-eenheid die zowel een convolutioneel blok als een SPD-blok omvat. In deze opstelling heeft het convolutionele blok een stap ingesteld op 1 en wordt het SPD-blok gebruikt voor het schalen van afbeeldingen, wat leidt tot een viervoudige vermindering van de resolutie en een verdubbeling van het aantal kanalen.
In de decoderstructuur bestaat elk upsample-blok na de Bottleneck Feature-laag uit een combinatie van een upsample-blok en een PSAA-blok. De resolutie van de functiekaart wordt verdubbeld en het aantal kanalen wordt gehalveerd tussen elk paar decoderfasen. Om ruimtelijke informatie te herstellen en de weergave van kenmerken te verbeteren, wordt functiefusie tussen grootschalige en kleinschalige afbeeldingen uitgevoerd tussen de upsampling-blokken. Uiteindelijk worden de upsampling-resultaten in de Head-laag ingevoerd om de oorspronkelijke afbeeldingsgrootte te herstellen, met een uitvoergrootte van (H × W × D × C, C = 3).
SPD-blok architectuur
Bij traditionele methoden maakt de downsampling-sectie gebruik van een enkele stap met een stapgrootte van 2. Dit omvat convolutionele pooling op lokale posities in het beeld, het beperken van het receptieve veld en het beperken van het model tot het extraheren van kenmerken uit kleine afbeeldingspatches. Deze methode maakt gebruik van het SPD-blok, dat de originele afbeelding fijn verdeelt in drie dimensies. Het originele 3D-beeld is gelijkmatig gesegmenteerd langs de x-, y- en z-assen, wat resulteert in vier subvolumelichamen. (Figuur 2) Vervolgens worden de vier volumes aaneengeschakeld door middel van een "kat"-bewerking en ondergaat het resulterende beeld een 1 × 1 × 1 convolutie om het gedownsamplede beeld20 te verkrijgen.

Figuur 2: SPD-blokdiagram. Klik hier om een grotere versie van deze figuur te bekijken.
PSAA-blokarchitectuur
In tegenstelling tot traditionele CNN-netwerken is het voorgestelde PSAA-blok effectiever in het uitvoeren van wereldwijde informatiefocus en efficiënter in het leren en trainen van netwerken. Dit maakt het mogelijk om rijkere beelden en ruimtelijke kenmerken vast te leggen. Het PSAA-blok bevat axiaal aandachtsleren op basis van parameters die in drie dimensies worden gedeeld: Hoogte, Breedte en Diepte. In vergelijking met het conventionele aandachtsmechanisme dat aandachtsleren uitvoert voor elke pixel in het beeld, voert deze methode zelfstandig aandachtsleren uit voor elk van de drie dimensies, waardoor de complexiteit van zelfaandacht wordt teruggebracht van kwadratisch naar lineair. Bovendien wordt een leerbaar mechanisme voor het delen van parameters met sleutels-query's gebruikt, waardoor het netwerk aandachtsmechanismebewerkingen parallel kan uitvoeren in de drie dimensies, wat resulteert in een snellere, superieure en effectievere functieweergave.