Une approche novatrice utilisant un transformateur de vision IA pour l’analyse par scanner CT afin de détecter le cancer du poumon

Résumé

L’utilisation des transformateurs de vision dans cette étude permet de classer le cancer du poumon à partir d’images CT, avec une précision de 98,18 %, sur 1 190 scans. Le modèle a maintenu un niveau de robustesse satisfaisant, avec des niveaux de précision entre (80 et 88 %) avec des images bruitées et floues, par rapport aux modèles standards de réseaux de neurones convolutionnels (CNN), dans les applications de diagnostic de santé grand public.

Résumé

Le diagnostic du cancer du poumon reste difficile en raison des différences subtiles entre les maladies bénignes et malignes sur les examens d’imagerie. Bien que les réseaux neuronaux convolutionnels traditionnels (CNN) aient été la base de l’analyse d’imagerie médicale, ils restent limités en termes d’applicabilité et de robustesse avec la variété des méthodes d’imagerie. L’avancée de l’apprentissage automatique transforme les méthodes traditionnelles de diagnostic dans les technologies de santé destinées aux consommateurs, modifiant les processus d’accessibilité et de soins personnalisés aux patients. Cet article décrit l’utilisation des Transformateurs de Vision (ViTs) pour la classification du cancer du poumon avec les scanners CT, associés aux applications de santé grand public. Le modèle Vision Transformer a été entraîné sur un ensemble de données complet de 1 190 images CT, et a atteint un taux de classification de 98,18 % avec un coefficient de corrélation de Matthews de 0,9676. De plus, la performance du modèle a été validée sur des scénarios en temps réel simulés à l’aide de bruits en temps réel et de jeux de données flous. Bien qu’il ait conservé les méthodes de validation avec une forte précision diagnostique, sur l’ensemble de l’ensemble des données, le modèle ViT a également surpassé la méthode validée conventionnelle en affichant une précision comprise entre 80 et 88 % pour différencier les images bruyantes des images floues, même dans ces circonstances. Bien que les résultats initiaux fournissent des informations prometteuses sur la robustesse des ViTs dans la gestion de la variation d’image, une approche prudente doit néanmoins être adoptée pour contextualiser les résultats, puisque les études d’évaluation ont été réalisées dans un ensemble de données et des contextes de simulation relativement restreints. Il sera utile pour les futures études d’utiliser des ensembles de données plus vastes, plus représentatifs des conditions cliniques réelles, ainsi que des jeux de données cliniquement validés afin de déterminer si les ViT sont avantageuses pour l’identification clinique du diagnostic en oncologie et pour améliorer la détection précoce.

Introduction

Le cancer du poumon a un fardeau mondial considérable, affectant des millions de vies chaque année. En raison de la nature agressive du cancer et de la fréquente maladie à présentation tardive, la mortalité associée au cancer du poumon est élevée. La détection précoce est essentielle car l’intervention peut considérablement améliorer l’efficacité du traitement et les taux^{de survie 1}. L’approche conventionnelle pour le dépistage préliminaire et le diagnostic reste l’utilisation de la tomodensitométrie (CT) pour permettre une visualisation plus détaillée des structures pulmonaires. Cependant, l’évaluation des images CT est complexe et dépend entièrement des examinateurs en tant que radiologues. La variabilité tumorale dans des attributs tels que la taille, la forme et la densité atténue également la fiabilité de toute observation humaine. Les facteurs environnementaux peuvent remettre en cause la précision et la reproductibilité de la prise de décision basée sur l’analyse humaine.
En tenant compte de ces facteurs limitants, la littérature récente a fortement poussé à l’application de l’intelligence artificielle (IA) à l’imagerie médicale, avec un accent davantage mis sur les modèles d’apprentissage profond (DL). Les DL, notamment avec les réseaux neuronaux convolutionnels (CNN), ont perturbé le schéma d’observations en imagerie médicale en modifiant les analyses des^{images 2}. Les CNN ont considérablement amélioré les processus diagnostiques en oncologie, démontrant la capacité d’identifier des caractéristiques subtiles et complexes dans les données d’imagerie, souvent indiscernables à l’œil humain. Malgré ces avancées, les CNN font face à des limitations comme le surapprentissage sur de petits ensembles de données, une robustesse réduite dans des conditions d’acquisition variables, et une dépendance à des champs réceptifs locaux qui peuvent manquer les dépendances globales. Bien que les approches hybrides CNN-Transformer tentent de combiner des priors convolutionnels avec des mécanismes d’attention, elles héritent néanmoins des biais des architectures convolutionnelles. La figure 1 montre quelques exemples du jeu de données présentant différentes classes.

Figure 1 : Illustration visuelle de différentes classes montrant des tranches représentatives de scanner de poumons normaux, bénins et malins, mettant en lumière leurs similitudes et différences. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Des images CT représentatives sont présentées pour les cas normaux, bénins et malins. Bien que le marquage explicite des régions discriminatives faciliterait l’interprétation visuelle, l’annotation manuelle nécessite des radiologues experts et dépassait le cadre de cette étude.

Les Transformateurs de Vision (ViTs), initialement introduits pour la classification^{d’image naturelle 3}, représentent une alternative prometteuse. Contrairement aux CNN ou hybrides CNN-Transformer, les ViT utilisent un cadre entièrement axé sur l’attention qui capture des informations contextuelles globales sur toute une image. Cette étude est particulièrement pertinente pour l’imagerie CT, où le caractère diffus et irrégulier des attributs tumoraux peut s’étendre à travers les régions plutôt que d’être limité uniquement aux champs récepteurs locaux. Alors que les réseaux hybrides CNN-Transformer stabilisent le biais inductif convolutionnel, les Vision Transformers (ViTs) implémentent une architecture entièrement basée sur l’attention, permettant au modèle ViT de capturer des dépendances à longue portée sur des images CT entières – un avantage pour évaluer les attributs tumoraux pulmonaires diffuses ou irrégulières.

L’avènement des modèles basés sur des transformers dans le domaine de l’imagerie médicale est récent, avec quelques exemples en radiologie molle et en histopathologie,4,5,6 qui ont montré des avantages notables en matière de robustesse au bruit, au flou et à la variabilité inter-scanners par rapport aux systèmes CNN traditionnels, pour justifier la ViT dans un tel contexte clinique sans trop insister sur la nouveauté. Avec une approche plus stricte de l’imagerie du cancer du poumon par rapport aux applications grand public - santé, cette étude vise à justifier la praticité dans un domaine solide de la médecine fondée sur des preuves, tout en se situant parmi la littérature récemment disponible sur les transformateurs et leurs applications. La littérature antérieure a démontré que la précision des modalités diagnostiques CNN chute drastiquement en raison de la variabilité de^{l’acquisition 7}, où le ViT correspondant fonctionne mieux avec les mêmes perturbations,8 ce qui donne du crédit au concept d’utilisation d’un ViT dans les modalités d’évaluation et de la présentation d’une option pour une reproductibilité accrue dans les flux de travail diagnostiques. De plus, des questions pratiques, telles que la taille requise du jeu de données, la charge de calcul et la généralisabilité à différents contextes cliniques, sont clairement abordées dans l’étude grâce à l’utilisation de méthodes telles que l’augmentation des données, l’apprentissage par transfert et les variantes ViT^{efficaces 9,10} pour relever ces défis potentiels dans l’utilisation réelle.

Cette étude s’appuie sur cette avancée en mettant en œuvre des ViTs pour la stadification du cancer du poumon à partir de données d’images CT et en examinant la robustesse et la généralisabilité du modèle en présence de problèmes d’imagerie réels. Les données de tomodensitométrie peuvent inclure des artefacts, du bruit et un flou dans une mesure courante, ce qui peut masquer des éléments importants pour les cliniciens. En examinant la résilience face à ces changements en imagerie, cette étude vise à offrir un cadre de stade supplémentaire pouvant être utilisé en pratique lors de la prise de décisions liées aux soins et au traitement.

Les contributions de cette étude incluent : i) la détection spécifique du cancer du poumon à partir d’images CT dans le jeu de données IQ-OTH/NCCD en utilisant et en examinant les performances d’un modèle Vision Transformer ; ii) évaluer la performance du modèle dans des scénarios d’imagerie clinique réels courants aux données CT, tels que le bruit et le flou ; iii) comparaison de la précision, de la sensibilité et de la spécificité des ViTs en alternative aux modèles CNN traditionnels.

L’organisation du reste de cet article est la suivante : la section II passe en revue la revue de la littérature présentant des travaux antérieurs liés à la détection du cancer du poumon utilisant des techniques d’apprentissage profond et à la progression des CNN vers des architectures plus avancées telles que les ViTs. La section III présente l’approche adoptée pour ce travail, incluant le prétraitement des données, les informations sur l’architecture du modèle et les détails des procédures d’entraînement. La section IV présente les résultats abordant spécifiquement les caractéristiques prescriptives des ViTs en tant que méthode clinique et comment elles peuvent améliorer la précision et la fiabilité des dépistages du cancer du poumon. La Section V résume les résultats et contributions à la pratique et discute des orientations futures dans le contexte de l’apprentissage profond en environnement médical.

TRAVAUX CONNEXES :

L’apprentissage profond (DL) a révolutionné l’imagerie médicale au cours des dix dernières années, notamment dans le diagnostic du cancer du poumon. Au début, la discipline dépendait de techniques classiques d’apprentissage automatique telles que les machines à vecteurs de support (SVM) et les arbres de décision, contraints par le besoin de fonctionnalités bien construites et correctement obtenues. Ces traits traitaient mal les subtilités des images médicales et injectaient souvent de la subjectivité.

Un changement significatif a été apporté avec l’invention des réseaux neuronaux convolutionnels (CNN), qui ont permis d’extraire automatiquement des caractéristiques hiérarchiques à partir des données¹¹. Les CNN ont été largement utilisés pour la stadification du cancer par scanner, la détection des nodules et la classification comme bénignes ou malignes. Les CNN réussissent, mais elles ont des limites. Cela inclut les différences dans les paramètres de collecte d’images et le besoin de grands ensembles de données annotés, qui sont difficiles à obtenir en raison des questions de confidentialité et de la nature exigeante de l’annotation médicale. Le tableau 1^{12, 13, 14, 15, 16, 17, 18, 19, 20} présente un résumé des études récentes menées dans le domaine du diagnostic du cancer du poumon.

Crasta, Lavina Jean, Rupal Neema et Alwyn Roshan Pais (2024) [20]

Présenter un nouveau cadre d’apprentissage profond pour la détection et la classification du cancer du poumon à l’aide d’images CT [20].

L’article introduit un 3D-VNet pour la segmentation et un 3D-ResNet pour la classification, mettant en lumière des améliorations de précision et de robustesse par rapport aux méthodes précédentes.

Crasta, Lavina Jean, Rupal Neema et Alwyn Roshan Pais (2024) [20]

Présenter un nouveau cadre d’apprentissage profond pour la détection et la classification du cancer du poumon à l’aide d’images CT [20].

L’article introduit un 3D-VNet pour la segmentation et un 3D-ResNet pour la classification, mettant en lumière des améliorations de précision et de robustesse par rapport aux méthodes précédentes.

Tableau 1 : Résumé des études récentes décrivant les techniques utilisées et les performances rapportées pour le contexte.

En utilisant des processus d’auto-attention qui prennent en compte l’ensemble du contexte d’une image en même temps, les Transformation de Vision (ViTs) commencent à émerger comme une alternative compétitive aux CNN dans les tâches liées à l’image. Les ViT sont particulièrement prometteuses pour l’imagerie médicale, car l’importance de certaines régions peut dépendre de parties plus éloignées de l’image en raison de leur capacité de traitement global. Cependant, malgré leur capacité à gérer des tâches complexes comme la reconnaissance des corrélations entre de nombreux indicateurs de maladie lors des scans, les ViT ne sont pas encore bien étudiées dans le domaine de l’imagerie médicale.

Les ViT n’ont pas été largement explorés dans le domaine des dispositifs de santé centrés sur le consommateur. Cette étude vise à combler l’écart entre une grande précision et une latence moindre pour les dispositifs de santé centrés sur le consommateur, où ils peuvent bien fonctionner et fournir des prédictions précises en temps réel.

Protocole

L’ensemble de données comprend un total de 1 190 tranches de scanner CT provenant de 110 cas, classées en trois catégories : normales (55 cas), bénignes (15 cas) et malignes (40 cas). Chaque cas comprend plusieurs tranches CT (allant d’environ 80 à 200 tranches par cas), offrant des vues axiales variées de la région thoracique. Les images CT ont été obtenues en DICOM à l’aide du scanner SOMATOM avec des paramètres d’imagerie standards : tension du tube = 120 kV, épaisseur de tranche = 1 mm, largeur de fenêtre = 350–1 200 unités de Hounsfield (HU), et valeurs du centre de la fenêtre = 50–600 HU, lors d’une suspension complète de l’inspiration.

Toutes les images ont été entièrement désidentifiées avant analyse afin de supprimer toute information personnellement identifiable (PII). L’ensemble de données a été approuvé sur le plan éthique par les comités d’examen institutionnels des centres médicaux participants, avec un consentement écrit renoncé par le comité de surveillance. Les cas concernaient des personnes issues de milieux variés, tels que des fonctionnaires gouvernementaux, des agriculteurs et des résidents de plusieurs provinces irakiennes (dont Bagdad, Wasit, Diyala, Salahuddin et Babylone) avec une diversité de genre, d’âge, de niveau d’éducation et de statut de vie.

Comme l’ensemble de données est accessible et désidentifié, aucune approbation éthique supplémentaire n’a été nécessaire pour son utilisation dans cette étude. Le jeu de données respecte les termes et conditions spécifiés par ses contributeurs originaux et la plateforme hôte.

La méthodologie de cette recherche utilise un processus en plusieurs étapes conçu pour créer un modèle de prédiction à l’aide du jeu de données IQ-OTH/NCCD sur le cancer du^{poumon 21}. Cette méthodologie établit un terrain solide pour les dispositifs de santé centrés sur le consommateur, où une latence réduite est requise, ce qui peut offrir une meilleure précision. La figure 2 illustre le mécanisme de fonctionnement du modèle proposé.

Figure 2 : Diagramme de flux de travail du modèle proposé illustrant les étapes de prétraitement, d’augmentation, de classification par Transformateur de Vision et d’évaluation. Veuillez cliquer ici pour voir une version agrandie de cette figure.

1. Description du jeu de données

L’ensemble de données IQ-OTH/NCCD sur le cancer du poumon a été collecté à l’Irak-Oncology Teaching Hospital/National Center for Cancer Diseases à l’automne 2019. La partie entraînement du jeu de données utilisée contenait 1 097 images dont la description est donnée dans le tableau 2, qui illustre le nombre d’exemples d’instances de différentes classes.

Classe	Nombre d’images
Normal	416
Bénin	120
Malin	561

Tableau 2 : Exemples d’images CT normales, bénignes et malignes issues de l’ensemble de données.

L’ensemble de données IQ-OTH/NCCD sur le cancer du poumon a été choisi pour sa représentation complète des scanners CT normaux, bénins et malins. Bien que d’autres ensembles de données, tels que LIDC-IDRI et NSCLC-Radiomics, soient disponibles, ils se concentrent principalement sur la détection des nodules ou manquent d’échantillons suffisants de cas bénins. L’ensemble de données IQ-OTH/NCCD est particulièrement adapté à notre étude car il permet au Transformateur de Vision d’apprendre les caractéristiques discriminantes dans les trois classes, permettant une classification robuste des motifs subtils dans les images de scanner pulmonaire.

2. Prétraitement des données

Le prétraitement est une étape importante pour améliorer la performance du modèle grâce à la cohérence et aux ajustements appropriés des données qui seront traitées via le réseau de neurones. Afin d’assurer la cohérence de la taille d’entrée du réseau de neurones, nous avons mis toutes les images à la même dimension de 256 x 256 pixels, et normalisé les données à une valeur de pixel comprise entre 0 et 1 dans l’espoir d’améliorer l’entraînement et la convergence des modèles. Le tableau 3 contient les valeurs des techniques d’augmentation.

Technique	Valeur
Normalisation	-
Redimensionnement	image_size x image_size
RotationRandom	facteur = 0,02
RandomZoom	height_factor=0,2, width_factor=0,2

Tableau 3 : Techniques d’augmentation appliquées avec plages de paramètres.

Pour renforcer la robustesse du modèle face au surapprentissage et améliorer sa capacité de généralisation, des techniques d’augmentation de données telles que des rotations aléatoires et des zooms sont appliquées, simulant divers angles et tailles de manifestations du cancer du poumon telles qu’elles pourraient apparaître chez différents patients. Des rotations aléatoires avec des angles échantillonnés uniformément à partir de 0,02 radian et des transformations de zoom aléatoires avec des facteurs de hauteur et de largeur variables ont été appliquées dans cette étude. Les images suivant l’augmentation sont affichées à la Figure 3.

Figure 3 : Images CT après augmentation démontrant la rotation, le zoom et la normalisation pour améliorer la généralisation du modèle. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Ces techniques de prétraitement sont nécessaires, et l’augmentation a été utilisée dans toutes les classes pour garantir la robustesse du modèle.

3. Architecture du modèle

Adaptant le nouveau cadre Vision Transformer (ViT) pour traiter efficacement des données d’images complexes, l’architecture du modèle vise à catégoriser les scanners CT en trois catégories : normales, bénignes et malignes. Avec cette méthode, des images d’entrée de 256 x 256 pixels sont traitées. Pour garantir la cohérence et favoriser un apprentissage plus efficace des modèles, chaque image est soumise à plusieurs opérations de prétraitement, telles que le redimensionnement et la normalisation. Pour améliorer la résilience du modèle aux changements d’échelle et d’orientation de l’image, la conception commence par une couche d’augmentation de données utilisant des méthodes telles que la normalisation, le redimensionnement, les rotations aléatoires de 0,02 radian, et des zooms aléatoires allant jusqu’à 20 %. Après augmentation, le modèle prend 16 patchs de 16 pixels sur chaque image, donc chaque image en a 256.

L’algorithme 1 définit le flux de travail du modèle proposé et sa construction, ainsi que l’ajustement fin effectué par rapport au modèle.

Algorithme 1 : Classification du cancer du poumon à l’aide de transformateurs de vision
Entrée : Ensemble d’images CT I issues de l’ensemble de données IQ-OTH/NCCD
Résultat : Résultats de classification C en catégories : Normal, bénin, Malin
Prétraitement:
   for each image i in I do
i <- Resize(i, 256 x 256)         // Normalize and resize images
i <- Normalize(i)
i <- DataAugmentation(i)        // Apply random rotations and zooms
   end for
Configuration du modèle :
  Initialize Vision Transformer (ViT) Model
  Set number of patches P = 16 x 16
  Set number of heads H = 6 in multi-head attention
Formation:
  for epoch = 1 to MaxEpochs do
    for each batch b in I do
      Patches <- ExtractPatches(b, P)
      EncodedPatches <- PatchEncoder(Patches)
      AttentionWeights <- MultiHeadAttention(EncodedPatches, H)
      ClassLogits <- TransformerEncoder(AttentionWeights)
      Loss <- ComputeLoss(ClassLogits, TrueLabels)
      UpdateModelWeights(Loss)
    end for
    if EarlyStoppingCriteriaMet (Val_Loss No Improvement Patience = 5 Epochs) then
      break
    end if
  end for
Validation:
  Split data into TrainingSet (80%) and ValidationSet (20%)
  ComputeValidationMetrics(ValidationSet)
Évaluation:
  C <- Classify(I)
  ComputePerformanceMetrics(C)
  Return C

Pour préserver les relations spatiales entre les patchs, ces patches sont aplatis (équation 1) en vecteurs de 768 dimensions (car chaque patch a 16 x 16 x 3 = 768) puis envoyés à travers une couche d’encodage de patch, qui projette chaque vecteur dans un espace de 64 dimensions en intégrant des embeddings positionnels. Le cœur de l’architecture comprend huit couches transformers, chacune dotée d’un mécanisme d’attention multi-têtes avec six têtes, permettant au modèle de se concentrer simultanément sur différentes parties de l’image et de capturer une large gamme de caractéristiques. Elle est représentée par les équations 2, 3 et 4.

Où μ est la moyenne et σ² est la variance de l’entrée x, et ε est une petite constante pour éviter la division par zéro.

Où Q est la matrice de requête, K est la matrice clé, V est la matrice de valeurs, et d_k est la dimension des vecteurs clés.

Où W_i^Q, W_i^K et W_i^V sont respectivement les matrices de poids apprises pour les requêtes, les clés et les valeurs, et W^O est la matrice de poids de sortie.

Le schéma bloc du modèle proposé a été illustré à la Figure 4.

Figure 4 : Schéma bloc du modèle Vision Transformer avec tête MLP, détaillant les principales couches de traitement et l’architecture. Veuillez cliquer ici pour voir une version agrandie de cette figurine.

Chaque couche transformateur inclut une perception multi-couches (MLP) avec des unités cachées d’abord mises à l’échelle à 128 puis à 64, élargissant et comprimant efficacement le flux d’information pour capturer des dépendances complexes.

Le dropout est appliqué stratégiquement à un taux de 0,1 dans les mécanismes d’attention et les MLP pour éviter le sur-ajustement. La sortie de l’encodeur transformateur est traitée via une tête MLP composée de deux couches denses de 2 048 et 1 024 unités respectivement, utilisant des unités linéaires d’erreur gaussiennes (GELU) pour l’activation, ce qui a démontré de bonnes performances dans les applications d’apprentissage profond. Cela est réalisé à l’aide de l’équation 5.

Là où W₁ et W₂ sont des matrices de poids, b₁ et b₂ sont des biais, et GELU est la fonction d’activation utilisée.

Un coupure de 0,1 était utilisé dans les couches transformateurs pour éviter le surapprentissage sans perdre des informations importantes sur les caractéristiques. La fonction d’activation GELU a été utilisée pour ses caractéristiques non linéaires et lisses, qui favorisent l’écoulement du gradient et la convergence dans les modèles basés sur transformateurs. Le dropout est régularisé à l’aide de l’équation 6.

Où p est le taux d’abandon (par exemple, 0,1 ou 0,5), et la couche d’abandon règle aléatoirement une fraction p des unités d’entrée à zéro pendant l’entraînement.

Un taux de dégagement de 0,5 dans ces couches aide encore à atténuer le sur-ajustement. La couche finale du modèle est une couche logits (équation 7) qui produit trois logits de classes correspondant aux catégories normale, bénigne et maligne, en utilisant une fonction de perte croisée par entropie croisée catégorique clairsemée (équation 8) appropriée à ce contexte de classification multi-classes.

Où z_i est le vecteur logits pour la classe i, SoftMax(z_i)) représente les probabilités prédites, et y_i est la véritable étiquette de classe.

Le modèle est compilé avec l’optimiseur AdamW (équations 9, 10, 11, 12 et 13), une extension de l’optimiseur Adam qui gère plus efficacement la décroissance de poids, réglée à un taux d’apprentissage de 0,001 et une décroissance de poids de 0,0001, optimisant à la fois la vitesse d’apprentissage et la stabilité du modèle.

Où m_t et v_t sont les premiers et seconds moments des gradients, et sont les moments corrigés par biais, η est le taux d’apprentissage, et ε est une petite constante pour éviter la division par zéro.

Le modèle, une fois entraîné, utilise une taille de lot de 32 pour tirer parti de l’accélération GPU afin de calculer plus rapidement et est configuré pour s’entraîner pendant 100 époques.

Mais l’entraînement dispose d’un mécanisme d’arrêt précoce sur la perte de validation pour limiter l’entraînement lorsque le modèle cesse de s’améliorer, afin d’économiser des ressources de calcul et d’éviter le surentraînement de 5 époques consécutives. La performance du modèle est suivie avec des indicateurs tels que la précision catégorielle clairsemée et la précision du top 2, qui déterminent la capacité de classification du modèle dans les catégories prédites les plus probables. Les rappels pour l’entraînement du modèle comprennent des points de contrôle qui sauvegardent le modèle le plus performant selon la précision de la validation afin de garantir que la version la plus réussie du modèle soit conservée une fois le processus d’entraînement terminé. Cette architecture robuste et bien conçue exploite les capacités des transformateurs pour traiter les données d’imagerie médicale avec une approche très avancée pour utiliser des méthodes d’IA contemporaines dans des applications majeures en diagnostic de santé.

4. Formation et validation

Le modèle a été entraîné dans un environnement Kaggle utilisant un GPU NVIDIA P100, et une mini-descente de gradient batch avec une taille de 32 a été utilisée lors du processus d’entraînement. L’optimiseur utilisé pendant l’entraînement était AdamW avec un taux d’apprentissage de 0,001 et une décroissance de poids de 0,0001 ; C’était un bon équilibre entre une convergence rapide et une certaine régularisation. Le modèle a été entraîné pendant 100 époques, cependant, un arrêt précoce lors de la perte de validation avec une patience de 5 époques a été utilisé. Pour faire simple, si l’entraînement n’améliorait pas la perte de validation pendant 5 époques consécutives, l’entraînement s’arrêtait pour surajustement et efficacité computationnelle. Dans la plupart des cas, ce modèle restaurait les poids de l’époque avec la plus faible perte de validation, indiquant qu’il fonctionnait de manière optimale et n’avait pas besoin d’exécuter les 100 époques complètes. Environ 32 minutes pour entraîner le modèle.

Pendant la formation, les métriques comprenaient une précision catégorielle clairsemée et une précision top 2, surveillées à la fois sur les ensembles d’entraînement et de validation. Ces indicateurs fournissent un aperçu de la fréquence à laquelle un modèle prédit la bonne classe et si la bonne classe se situe parmi les deux premières prédictions, ce qui est important dans les applications médicales car les erreurs de classification à haute confiance peuvent avoir des conséquences importantes. Les courbes d’apprentissage pour la perte et la précision sont visualisées à la Figure 5.

.

Figure 5 : Précision de l’entraînement et de la validation ainsi que des courbes de perte sur 50 époques montrant un apprentissage stable et un surajustement minimal. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Aucune validation croisée n’a été réalisée dans la présente étude. Cette configuration permettait des expérimentations efficaces avec l’architecture du modèle, y compris des ajustements des couches de transformateurs et des tailles des têtes MLP, tout en garantissant que le modèle se généralisait bien sur des données de validation invisibles.

5. Analyse statistique

La performance du modèle Vision Transformer a été analysée statistiquement à partir du jeu de données IQ-OTH/NCCD sur le cancer du poumon. La précision, le rappel, le score F1 et la précision ont été calculés à l’aide des équations 14, 15, 16, 17 respectivement. Ces quatre mesures sont considérées comme les méthodes conventionnelles pour les tâches de classification, car elles peuvent révéler des informations sur la performance du modèle lors de la classification et de la classification par classe pour chaque classe.

La mémoire est une mesure de la capacité d’un modèle à identifier toutes les instances pertinentes dans une classe, tandis que la précision est la proportion d’identifications positives qui étaient effectivement correctes. Le score F1 équilibre rappel et précision lorsque les deux sont importants.
Les mesures de performance utilisées pour ce devoir étaient l’équation 18 du coefficient de corrélation de Matthews (MCC) et l’équation de Kappa 19 de Cohen.

Où P₀ est l’accord observé tandis que P_e est l’accord attendu.

Le MCC est une mesure globale de la performance dans la classification, prenant en compte à la fois les vrais positifs et négatifs, les faux positifs et les faux négatifs. Sa valeur peut être comprise entre -1 et 1, 1 étant la prédiction parfaite, 0 la prédiction aléatoire, et -1 le désaccord total entre les étiquettes prédite et vraie. Le MCC était utile pour des comparaisons entre différentes performances de modèles lorsqu’il était appliqué à des ensembles de données déséquilibrés et fournissait une mesure équilibrée indépendamment des tailles de classes différentes.

Dans le cadre d’une analyse statistique supplémentaire, le score F2, qui priorise le rappel, a été calculé comme le montre l’équation 20.

La performance du modèle a également été quantifiée à l’aide de l’erreur quadratique moyenne (MSE), de l’erreur quadratique moyenne (RMSE) et de l’erreur absolue moyenne (MAE) – qui sont généralement des mesures pour les tâches de régression mais modifiées ici pour la tâche de classification afin de quantifier la taille moyenne de l’erreur sans tenir compte de la direction.

Afin de déterminer s’il serait pratique d’intégrer les ViT dans des dispositifs de santé destinés aux consommateurs, nous avons réalisé des résultats d’évaluation de performance approfondis en nous concentrant uniquement sur l’efficacité temporelle du modèle. Nous avons créé des fonctions pour rapporter le temps nécessaire pour prédire une seule ou simplement plusieurs images, car cela devient particulièrement pertinent pour les applications en temps réel. Pour chaque image, avant de commencer à prédire, les données sont d’abord prétraitées pour avoir la forme de l’image d’entrée désirée par le modèle. Nous avons enregistré le moment où la prédiction a commencé et le moment où la prédiction a été complétée, afin d’obtenir les résultats du temps et de la latence. Le temps et la latence moyenne ont été calculés à l’aide respectivement de l’équation 21 et de l’équation 22.

Où:

• N est le nombre d’images (échantillons).
• tend est le temps enregistré après avoir prédit la i-ème image.
• Tstart est le temps enregistré avant de prédire la i-ème image.

D’autres expériences ont été réalisées pour évaluer la robustesse du modèle Vision Transformer que nous avons proposé en introduisant systématiquement du bruit et du flou supplémentaires dans les images. Le bruit gaussien était ajouté à chaque pixel avec un facteur de bruit de 0,4 tout en découpant des valeurs de pixels dans la plage de [0,1]. Le facteur de flou a été diminué via le flou gaussienne avec une taille de grain de 45× 45. Ces expériences visent à évaluer le modèle de manière exhaustive sous des dégradations simulées de la qualité de l’image perceptive.

Résultats

Le modèle Vision Transformer a démontré des résultats exceptionnels sur plusieurs métriques d’évaluation sur les ensembles de données IQ-OTH/NCCD sur le cancer du poumon, différenciant efficacement les images CT normales, bénignes et malignes. La performance globale du modèle a atteint une précision élevée de 98,18 % sur l’ensemble de données de test composé de 220 images. Cette précision extrêmement élevée indique que le modèle est capable de généraliser...

Discussion

Il a obtenu des résultats remarquables dans l’évaluation et la mise en œuvre du modèle Vision Transformer sur l’ensemble de données IQ-OTH/NCCD sur le cancer du poumon avec une grande précision. La précision générale de la classification d’un scanner comme normal, bénin et malin est de 98,18 % selon ce modèle.

Cette précision supérieure est également prouvée par la performance du modèle dans d’autres scores clés, tels que la précision de 100 % pour la détectio...

Matériaux

Liste des matériaux utilisés dans cet article

Nom	Entreprise	Numéro de catalogue	Commentaires
GPU A100 (CUDA)	NVIDIA	CUDA Version 11.6	Accélération GPU pour l’entraînement et l’évaluation du modèle.
AMD EPYC-7502P CPU	AMD	N/A	Processeur utilisé pour l’informatique haute performance.
Gigabit Ethernet	Intel	N/A	Réseautage pour une communication sécurisée entre pairs dans les services de protection de l’enfance.
Matplotlib	Fondation Python Software	Version 3.5	Bibliothèque de visualisation pour tracer les résultats.
Cryptosystème Paillier	Open Source (implémenté via TenSEAL)	N/A	Permet le chiffrement homomorphe additif sur les gradients.
PySyft	Extrait à l’abri	Version 0.6.0	Confidentialité différentielle et bibliothèque d’apprentissage fédéré.
Python (distribution anaconda)	Anaconda Inc	Version 3.9	Comprend des paquets préinstallés et des outils de gestion d’environnement, utilisés pour le développement de scripts et de frameworks.
PyTorch	Méta IA	Version 1.12	Cadre d’apprentissage profond pour entraîner des modèles.
RAM	Corsaire	256 Gigaoctets (GB)  ;	Soutien mémoire élevé pour un entraînement intensif.
Scikit-learn	Fondation Python Software	Version 1.1	Outils d’apprentissage automatique pour l’évaluation des performances.
Seaborn	Fondation Python Software	Version 0.11	Bibliothèque de visualisation statistique des données.
Stockage SSD	Seagate	1 téraoctet (TB)	Pour un stockage et une récupération rapides des données.
TenSEAL	Extrait à l’abri	Version 0.3	Bibliothèque de chiffrement homomorphe pour l’agrégation sécurisée.
TensorFlow	Google	Version 2.9	Cadre d’apprentissage profond pour les modèles de diffusion.
Ubuntu OS	Canonique	Version 20.04 LTS	Système d’exploitation utilisé pour toutes les expériences.