Approche d’apprentissage profond basée sur l’apprentissage par transfert pour la classification de l’arthrose du genou à l’aide de l’architecture XceptionNet modifiée

Summary

Afin d’améliorer l’identification de l’arthrose du genou à partir de radiographies, cette étude suggère OsteoXceptionNet, un modèle d’apprentissage profond qui utilise XceptionNet modifié avec l’apprentissage par transfert. Ce modèle améliore l’extraction des caractéristiques, réduit les erreurs d’interprétation manuelle et permet une classification plus précise et automatisée.

Abstract

L’arthrose du genou touche des millions de personnes dans le monde et n’a pas de traitement curatif connu, ce qui en fait un grave problème de santé mondiale. La gestion de son développement dépend de la découverte précoce, et l’imagerie par rayons X est une technique de diagnostic fondamentale. Cependant, en raison des variations dans les niveaux d’expérience des radiologues, l’interprétation manuelle des radiographies augmente la variabilité et les inexactitudes possibles. Les progrès récents des techniques d’apprentissage automatique et d’apprentissage profond ont déclenché la création de systèmes automatisés pour l’identification radiologique de l’arthrose du genou. Cependant, pour une détection précoce, il est toujours crucial d’obtenir une plus grande précision de prédiction. En utilisant les informations recueillies à partir d’un ensemble de données plus important, les modèles entraînés sur des ensembles de données plus petits et spécifiques à un domaine sont plus performants grâce à l’utilisation de l’apprentissage par transfert. En raison de sa profondeur et de son efficacité, XceptionNet est particulièrement bien adapté aux travaux impliquant l’interprétation d’images médicales. Contrairement aux recherches précédentes, cette méthode résout efficacement le déséquilibre des ensembles de données en utilisant des approches d’équilibrage de classe, en intégrant un pipeline de prétraitement personnalisé et en ajoutant des améliorations architecturales personnalisées à XceptionNet, ce qui améliore l’identification précoce des KOA. Grâce à l’utilisation de ces méthodes de pointe, l’approche suggérée présente un potentiel d’identification correcte de l’arthrose à partir d’images radiographiques du genou, atteignant une précision de prédiction de 97 %, une précision de 97,8 %, une mémorisation de 97,6 % et une mesure F1 de 97,6 %. De plus, le modèle généré a montré une valeur kappa de 95,94 % de Cohen, ce qui indique une bonne concordance. L’étude soutient les efforts visant à développer une technologie de détection des maladies automatisée et fiable, qui améliore les résultats pour les patients et facilite une prestation de soins de santé plus efficace.

Introduction

L’arthrose du genou (KOA) est un problème de santé publique mondial important qui touche un grand nombre de personnes et fait peser un fardeau important sur les patients et les organisations de soins de santé. Le cartilage articulaire de l’articulation du genou se détériore progressivement dans ce trouble. Il a une étiologie compliquée et multidimensionnelle qui comprend un mélange d’âge, d’obésité, de traumatismes articulaires, de variables biomécaniques et de susceptibilité génétique¹.

La perte d’intégrité structurelle entraîne l’amincissement du cartilage, la fissuration et finalement l’érosion, exposant l’os sous-jacent. Les symptômes de la KOA peuvent varier considérablement et s’aggraver fréquemment avec le temps, allant d’une légère gêne à une douleur insupportable et à une perte de fonction². Un signe primaire de douleur au genou est généralement aggravé par des exercices de mise en charge et des durées d’activité prolongées. Les observations courantes incluent la raideur, en particulier pendant les périodes de repos, l’œdème, le crépitement et la diminution de l’amplitude des mouvements³. Ces symptômes interfèrent gravement avec le fonctionnement quotidien, entraînant des restrictions fonctionnelles et une réduction de la qualité de vie des personnes qui en souffrent.

L’hypothèse testée ici est qu’un modèle automatisé basé sur l’apprentissage profond peut effectuer un diagnostic comparable à celui des radiologues professionnels et diagnostiquer correctement le niveau de gravité de l’AAKO à partir de données d’imagerie à l’aide du système de classification Kellgren-Lawrence.

Le but de cette étude provient des limites inhérentes associées aux méthodes traditionnelles de diagnostic et de classification de l’arthrose du genou. Traditionnellement, l’imagerie radiographique, en particulier l’analyse radiologique du genou, est utilisée pour évaluer le degré de lésion articulaire. Néanmoins, l’examen physique de ces images est vulnérable à la variabilité et peut prendre beaucoup de temps⁴. Les progrès réalisés dans les domaines de l’apprentissage profond et de l’apprentissage automatique (ML) offrent une voie prometteuse pour automatiser et améliorer la précision de la détection et de la notation des KOA, offrant ainsi une approche plus standardisée et plus efficace. Ceci est particulièrement critique dans les premiers stades de la maladie, où l’intervention peut influencer considérablement les changements dans le niveau de vie du patient à mesure que la maladie progresse.

Approches d’apprentissage automatique : Les premières tentatives d’automatisation de l’identification des KOA étaient basées sur des méthodes d’apprentissage automatique classiques. Des stratégies telles que K-Nearest Neighbors, Support Vector Machine et Decision Tree dépendaient de caractéristiques artisanales tirées d’images radiographiques du genou. Bien qu’ils aient fourni une certaine automatisation, la qualité et la pertinence des caractéristiques dérivées manuellement étaient un facteur majeur de leur efficacité. Cela entraînait souvent une médisabilité et des performances médiocres⁵.

Approches d’apprentissage profond (DL) : L’émergence des réseaux neuronaux convolutifs, ou apprentissage profond, a été une étape importante dans le domaine. Grâce à leur réputation d’extraction automatisée de caractéristiques, les réseaux neuronaux convolutifs (CNN) sont de plus en plus populaires dans l’analyse des images KOA. Par rapport aux techniques d’apprentissage automatique conventionnelles, ces algorithmes ont montré une amélioration notable en termes de précision ainsi que de capacité à reconnaître des motifs complexes directement à partir d’images ^6,7.

L’apprentissage par transfert (TL) : Cela permet d’adapter les modèles aux tâches nécessitant une imagerie médicale après qu’ils aient été pré-entraînés sur des ensembles de données génériques à grande échelle, a gagné en popularité dans des recherches récentes⁸. Cette approche fonctionne particulièrement bien dans le domaine médical, où de petits ensembles de données spécialisés sont courants.

L’amélioration des résultats dans la classification de la gravité de la KOA est mise en évidence par TL, qui utilise des caractéristiques générales apprises lors de tâches plus importantes et les adapte aux subtilités particulières de l’analyse d’images médicales ^9,10.

Pour l’identification et la classification des KOA à l’aide d’images radiographiques, un certain nombre de techniques automatisées, en particulier les modèles d’apprentissage profond, ont été examinées ces dernières années^11,12. Néanmoins, de nombreux modèles actuels ne gèrent pas correctement les problèmes de déséquilibre et d’intelligibilité des ensembles de données, ou ne détectent pas les problèmes à un stade précoce avec suffisamment de précision. La méthode suggérée ici élargit ce cadre en ajoutant trois améliorations significatives : des modifications de conception au modèle XceptionNet pour une meilleure extraction des caractéristiques, des techniques d’équilibrage de classe pour augmenter la fiabilité du modèle et un pipeline de prétraitement personnalisé conçu pour améliorer les caractéristiques de l’articulation du genou. Associées à la prise en charge d’une catégorisation KOA plus précise et plus fiable, ces améliorations apportent une amélioration substantielle par rapport aux techniques traditionnelles d’apprentissage par transfert.

Même si DL et ML ont démontré une progression significative dans l’analyse des KOA, il reste encore des défis à relever, principalement en termes d’obtention d’une catégorisation précise, d’amélioration de l’interprétabilité et de gestion du déséquilibre des données. L’étude proposée s’appuie sur des études antérieures 13,14,15,16,17,18,19,20,21,22 en offrant une évaluation plus approfondie, transparente et équitable, repoussant ainsi les limites de ce qui est actuellement possible dans le diagnostic et la classification automatisés des KOA. Le tableau 1 présente l’analyse des recherches actuelles menées sur le dépistage de l’arthrose.

Étudier	Objectif		Résumé
Hu et coll.13	Développer DeepKOA pour prédire la progression de l’arthrose du genou à l’aide d’images IRM.		DeepKOA présente des capacités prometteuses de prédiction de l’arthrose du genou, mettant en évidence le potentiel de l’apprentissage profond dans les milieux cliniques. Une validation supplémentaire est nécessaire.
Guida et coll.14	Améliorez la classification de la gravité de l’arthrose en intégrant les données radiologiques, IRM et cliniques.		Un modèle de fusion améliore considérablement la précision de la classification OA, mettant en évidence les avantages d’une approche multimodale. Les recherches futures devraient porter sur la généralisabilité.
Bensalma et coll.15	Identifier les associations entre divers facteurs chez les patients atteints d’arthrose du genou à l’aide de l’analyse multimodale.		L’étude révèle des interrelations entre de multiples facteurs de l’arthrose du genou, suggérant des pistes pour des interventions ciblées et des investigations plus approfondies.
Koppold et coll.16	Examinez l’impact du jeûne modifié prolongé sur les symptômes de l’arthrose.		Le jeûne modifié montre une amélioration notable des symptômes chez les patients souffrant d’arthrose, ce qui indique son potentiel en tant que stratégie de traitement. D’autres études, en particulier des essais contrôlés randomisés, sont nécessaires.
Jain et al.17	Present OsteoHRNet pour l’évaluation de la gravité de l’arthrose du genou à partir de radiographies.		OsteoHRNet atteint une précision accrue dans la classification de la gravité de l’arthrose du genou à partir des rayons X, ce qui indique son potentiel d’application clinique. Une validation plus poussée de l’ensemble de données est recommandée.
Afroze et al.18	Évaluation des méthodes basées sur l’apprentissage automatique pour la détection de l’arthrose (OA) dans diverses modalités d’imagerie.		L’examen identifie des lacunes critiques dans la détection de l’OA basée sur l’apprentissage automatique, en soulignant la nécessité d’approches standardisées et de modèles empiriques.
Teoh et coll.19	Développer un modèle multitâche pour un diagnostic détaillé de l’arthrose à partir de la radiographie.		Un modèle multitâche améliore la précision du diagnostic de l’arthrose en prédisant les caractéristiques individuelles de l’arthrose et l’intensité de la douleur, ce qui suggère un potentiel d’interventions précises. D’autres recherches sont encouragées pour élargir ces résultats.
Zhang et coll.20	Créez un modèle de classification à plusieurs niveaux des lésions du cartilage du genou en IRM.		Le modèle offre une grande précision dans la classification des lésions du cartilage du genou à l’aide de l’IRM, ce qui est prometteur en tant qu’outil de diagnostic non invasif. Il est conseillé d’effectuer une validation plus poussée entre les populations.
Li et coll.21	Examiner l’influence des images multivues et des informations préalables, ainsi que la capacité d’un modèle d’apprentissage profond à identifier et à classer l’arthrose du genou à l’aide de rayons X.		La classification KL de KOA a été correctement identifiée et catégorisée à l’aide du modèle DL. De plus, les connaissances préalables et les images radiographiques multivues ont amélioré l’efficacité de la classification.
Ratna et coll.22	Découvrez comment l’apprentissage automatique est utilisé dans la recherche sur l’arthrose du genou pour mieux comprendre la progression de la maladie et le diagnostic précoce.		L’étude met l’accent sur l’impact de l’apprentissage automatique sur la recherche sur l’arthrose, en particulier en termes de diagnostic précoce et de compréhension du développement, et recommande d’autres recherches pour améliorer son intégration clinique.

Tableau 1 : Vue d’ensemble des travaux récents sur la détection de l’arthrose du genou.

Les principales contributions du travail comprennent OsteoXceptionNet, une architecture XceptionNet modifiée destinée à la classification de l’arthrose du genou, et l’utilisation d’un pipeline de prétraitement spécialement créé pour augmenter la précision du diagnostic. L’ensemble de données de l’Initiative sur l’arthrose (OAI) est utilisé pour la formation, et de nombreux modèles de base sont utilisés pour l’évaluation. L’ensemble de données et les techniques de préparation sont décrits dans les parties suivantes de l’étude à la suite d’un examen de la littérature pertinente. Après un aperçu des résultats expérimentaux et une discussion sur l’importance clinique, il approfondit l’architecture du modèle proposé avant de résumer les principaux résultats et de proposer des orientations futures.

Jeu de données et configuration expérimentale
L’ensemble de données de l’OAI, qui se compose de milliers d’images radiographiques annotées du genou recueillies au fil du temps à partir de divers sites cliniques, est mis à la disposition du public pour être utilisé dans cette étude. Cinq classes d’arthrose du genou de Kellgren-Lawrence (KL) ont été représentées par les 9786 images radiographiques du genou utilisées pour cette étude : saine (3857 images), douteuse (1770), minimale (2578), modérée (1286) et sévère (295). Pendant le prétraitement, toutes les images ont été uniformément mises à l’échelle à 224 x 224 pixels à l’aide d’une interpolation bilinéaire. Le cadre OsteoXceptionNet suggéré a été utilisé dans le cadre expérimental pour segmenter automatiquement les structures articulaires du genou, puis les classer en classes de gravité KOA.

Afin d’assurer autant d’équilibre que possible entre les classes, l’ensemble de données a été divisé en sous-groupes pour l’entraînement (80 %), la validation (10 %) et les tests (10 %). L’ensemble de données présente plusieurs inconvénients malgré son utilité, tels que le déséquilibre de classe, avec moins d’échantillons tombant dans le groupe Sévère que d’autres. De plus, l’ensemble de données ne comprend que l’imagerie radiographique ; il manque d’entrées multimodales comme l’imagerie par résonance magnétique (IRM) ou les informations cliniques, ce qui pourrait limiter sa généralisabilité. L’asymétrie démographique, qui limite la pertinence des données à d’autres groupes ethniques parce qu’elles représentent principalement la population nord-américaine, est un autre inconvénient notable. Bien que des fonctions de perte pondérées en fonction de classe et l’augmentation des données aient été utilisées pour atténuer ces restrictions lorsque cela était possible, ces considérations restent cruciales lors de l’analyse des performances du modèle.

Sur la base des résultats radiographiques, les méthodes de classification, telles que le système de classification Kellgren-Lawrence (KL), classent la gravité de l’KOA en cinq catégories : grade 0 (sain), grade 1 (douteux), grade 2 (minimal), grade 3 (modéré) et grade 4 (sévère⁾²³. Différentes images des grades KL sont présentées à la figure 1.

Figure 1 : Classement KL des images du genou. D’après les résultats radiographiques, la gravité de l’AAKO a été classée en cinq catégories : grade 0 (sain), grade 1 (douteux), grade 2 (minimal), grade 3 (modéré) et grade 4 (sévère). Veuillez cliquer ici pour voir une version agrandie de cette figure.

Protocol

Cette section présente une approche complète conçue pour améliorer le diagnostic et la classification de l’arthrose du genou grâce à l’utilisation d’un modèle XceptionNet modifié. La méthodologie présentée est basée sur un prétraitement minutieux des données, une personnalisation minutieuse de l’architecture du modèle et des techniques d’évaluation solides, qui visent toutes à résoudre les problèmes complexes associés à l’imagerie de l’arthrose du genou. La figure 2 illustre le déroulement du modèle.

Figure 2 : Flux de travail du modèle. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Description de l’ensemble de données
L’ensemble de données utilisé dans cette recherche comprend 9 786 images radiographiques du genou de l’ensemble de données OAI qui ont reçu un grade d’arthrose basé sur la technique de classement KL. Ce jeu de données, qui offre un large éventail d’instances couvrant les différentes phases de KOA, est essentiel à la fois pour la formation et l’évaluation du modèle proposé²⁴. L’interpolation bilinéaire a été utilisée pour mettre à l’échelle toutes les images. Cette technique a été choisie parce qu’elle établit un compromis entre l’efficacité computationnelle et le maintien de la qualité de l’image, deux éléments essentiels au maintien des caractéristiques anatomiques importantes pour la catégorisation de l’arthrose du genou. Dans l’ensemble de données, les notes sont de 0 à 4, le grade 0 représentant un genou sain et le grade 4 indiquant une arthrose sévère. Ce grade offre une gamme complexe d’évolution de la maladie, ce qui est essentiel pour que le modèle puisse comprendre les variations infimes entre les étapes.

De plus, l’ensemble de données a été organisé en ensembles de test, de validation et d’entraînement. Pour évaluer les performances du modèle et s’assurer qu’il apprend à généraliser efficacement sans surajuster l’ensemble d’entraînement, cette séparation était essentielle. L’ensemble de test offre une évaluation objective de l’efficacité du modèle finalisé, car il a également été utilisé pour modifier les poids du modèle. De plus, un ensemble de validation permet d’affiner les hyperparamètres et d’évaluer les modèles tout au long de la phase d’entraînement. Le tableau 2 présente un bref résumé de la distribution des données, et la figure 3 en donne une représentation visuelle.

Classe	Test automatique	Test	Train	Val
0	604	639	2286	328
1	275	296	1046	153
2	403	447	1516	212
3	200	223	757	106
4	44	51	173	27

Tableau 2 : Brève description de l’ensemble de données.

Figure 3 : Distribution des ensembles de données. L’ensemble de données a été organisé en ensembles de test, de validation et d’entraînement. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Prétraitement des données
Cette étape est cruciale et vise à améliorer les performances du modèle en améliorant la qualité des données d’entrée. Les étapes du prétraitement sont les suivantes.

Redimensionnement de l’image : une dimension standard est appliquée à chaque image radiographique pour assurer la cohérence de l’ensemble des images. Cette étape est essentielle pour que le modèle puisse traiter les images de manière cohérente et efficace. L’équation 1 est utilisée dans ce processus.

Nouvelle taille d’image = Redimensionner (image d’origine, dimension standard) (1)

Normalisation : Les valeurs de pixels dans les images ont été normalisées pour obtenir une moyenne de zéro et un écart-type de un. Ce type de normalisation garantit que les valeurs d’entrée se situent dans une plage similaire, ce qui accélère la convergence du modèle pendant l’entraînement. L’équation 2 est utilisée pour effectuer cette étape de normalisation.

(2)

Augmentation des données : Des stratégies d’augmentation des données ont été employées pour résoudre les problèmes dus à l’insuffisance des données et améliorer la capacité de généralisation du modèle. Ces méthodes incluent les retournements, les zooms, les rotations et les translations. Ils introduisent de nouvelles images qui sont ajoutées intentionnellement au jeu de données d’entraînement. L’équation 3 est utilisée dans la mise en œuvre de cette procédure d’augmentation.

Image augmentée = Appliquer la transformation (Iamge d’origine) (3)

Diverses techniques d’augmentation ont été employées pour fournir de la variabilité à l’ensemble d’entraînement afin d’améliorer la robustesse du modèle et de minimiser le surapprentissage. Une plage de cisaillement de 0,2, une plage de zoom de 0,8 à 1,2 (correspondant à un facteur de zoom de 0,2) et une plage de rotation aléatoire de -30° à +30° ont toutes été incluses dans l’augmentation des données d’entraînement. Le retournement horizontal et vertical a été autorisé avec une probabilité de 0,5 afin d’améliorer la généralisation du modèle. Pour le cisaillement vertical et horizontal, un facteur de cisaillement de 0,1, soit ± distorsion de 10 %, a également été utilisé.

Équilibrage des classes : des algorithmes de pondération des classes ont été utilisés en raison du déséquilibre de classe possible de l’ensemble de données (avec plus d’images de certaines classes OA que d’autres). Afin d’éviter que le modèle ne montre un biais en faveur des classes plus courantes, cette méthode donne aux classes sous-représentées des poids plus importants. L’équation 4 est utilisée dans ce processus. Les valeurs suivantes ont été utilisées pour déterminer les poids : Santé : 3857, Douteux : 1770, Minimal : 2578, Modéré : 1286 et Sévère : 295 sont les distributions par classe des 9786 échantillons totaux et des 5 classes.

(4)

Répartition train-validation : l’ensemble de données a été organisé en ensembles de validation et d’entraînement à l’aide de ratios 80:20 traditionnels. La division des données permet au modèle d’apprendre à partir des données d’entraînement et d’évaluer régulièrement ses performances à l’aide de l’ensemble de validation. Cela permet d’identifier le surajustement et d’évaluer la capacité de généralisation du modèle.

Optimisation du pipeline de données : Un pipeline de données amélioré a été mis en place pour garantir un traitement efficace des données lors de l’entraînement du modèle. Pour réduire les goulets d’étranglement d’entrée/sortie et augmenter les performances de calcul, ce pipeline utilise des techniques de traitement par lot, de prélecture et d’extraction de données parallèles. Pour améliorer l’efficacité et le débit de la formation, le pipeline de données d’entrée a été développé. Pour garantir une utilisation équilibrée de la mémoire et de la charge de calcul, une taille de lot de 32 a été utilisée. Pour augmenter l’efficacité de la saisie des données, num_parallel_calls=4 a été utilisé dans la fonction de carte pour paralléliser le chargement et le prétraitement des données. De plus, afin de minimiser la latence d’E/S, la fonction prefetch(buffer_size=tf.data.AUTOTUNE) de TensorFlow a été utilisée pour permettre l’ajustement automatique de la taille de la mémoire tampon de prélecture. Cela a permis de chevaucher efficacement le prétraitement des données et l’exécution du modèle

La figure 4 montre quelques exemples de différentes classes d’images après le prétraitement de base.

Figure 4 : Instances du jeu de données. La figure montre quelques exemples de différentes classes d’images après le prétraitement de base. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Grâce à ces étapes de prétraitement méticuleuses, l’ensemble de données est transformé en une base solide pour l’entraînement du modèle XceptionNet modifié, préparant ainsi le terrain pour une détection et une notation précises et fiables des KOA.

Architecture du modèle
Modèle de base : Avec sa conception distincte qui utilise des circonvolutions séparables en profondeur pour atteindre le meilleur équilibre possible entre l’efficacité de calcul et la complexité du modèle, le modèle XceptionNet créé par François Chollet se distingue²⁵. L’équation 5 a été utilisée pour implémenter les circonvolutions séparables en profondeur.

Convolution séparable dans le sens de la profondeur(x) = Point(dans le sens de la profondeur(x)) (5)

Il est particulièrement pertinent pour cette étude pour plusieurs raisons. Tout d’abord, son architecture est connue pour extraire des caractéristiques détaillées et hiérarchiques des images, ce qui est crucial pour l’analyse d’images médicales, où des caractéristiques subtiles peuvent indiquer différents stades d’une maladie. Deuxièmement, le modèle proposé est basé sur l’architecture XceptionNet, qui a démontré une efficacité exceptionnelle dans plusieurs tâches de classification d’images, visant à détecter et à classer l’arthrose du genou²⁶.

L’OsteoXceptionNet présenté est une version sur mesure de l’architecture XceptionNet créée spécialement pour la classification automatique de l’arthrose du genou à partir d’images radiographiques. Parmi les modifications importantes, citons l’ajout de trois blocs convolutifs supplémentaires (filtres 512, 256 et 128) pour améliorer l’extraction des caractéristiques spécifiques aux structures de l’articulation du genou, ainsi que des couches convolutives avec des tailles de filtre de 3 x 3 et un nombre de filtres variables allant de 32 à 1024 sur les flux d’entrée, de milieu et de sortie. La normalisation par lots et l’activation de ReLU viennent après chaque couche convolutive, et des couches de décrochage sont ajoutées pour minimiser le surapprentissage. La norme de 224 x 224 pixels est utilisée pour les entrées de modèle.

Ajustements et modifications
Modifications : Le modèle XceptionNet a été stratégiquement modifié de plusieurs façons pour le rendre adapté à la classification et à la détection des KOA.

Réglage fin : Les couches supérieures du modèle XceptionNet pré-entraîné ont été dégelées, ce qui a permis au modèle d’apprendre des caractéristiques de haut niveau spécifiques aux images radiographiques du genou. La mise au point du modèle a été effectuée conformément à l’équation 6.

(6)

où θ_affinent sont les paramètres après réglage fin ; θ_{pré-entraînés} sont les paramètres pré-entraînés ; λ est le taux d’apprentissage ; ∇_{θpré-entraîné}La perte est le gradient de la fonction de perte lié aux paramètres qui ont été pré-entraînés.

Couches convolutives supplémentaires : Des couches convolutives supplémentaires ont été introduites dans la phase finale du modèle. Ces couches ont une taille de noyau plus petite pour se concentrer sur l’extraction de détails plus fins pertinents pour les différents grades d’OA. Il a été utilisé à l’aide de l’équation 7.

Sortie convolutive = convolution(entrée,noyau) (7)

Normalisation par lots : Après chaque couche convolutive ajoutée, la normalisation par lots est appliquée pour stabiliser l’apprentissage et améliorer la vitesse de convergence. Il est utilisé à l’aide de l’équation 8.

(8)

où est la sortie normalisée ; x est l’entrée de la couche de normalisation du lot ; μ est la moyenne du lot d’entrée ; σ2 est la variance du lot d’entrée ; ε est une constante minimale pour la stabilité numérique.

Fonctions d’activation : Les fonctions d’activation de ReLU sont utilisées dans les couches supplémentaires pour introduire la non-linéarité, permettant ainsi au modèle d’acquérir des structures plus complexes dans les données. ReLU est calculé à l’aide de l’équation 9.

ReLU(x) = max(0,x) (9)

où, x est l’entrée de la fonction d’activation ReLU.

Dropout : Pour éviter le surapprentissage, des couches de dropout sont incorporées, en particulier après les couches nouvellement ajoutées, afin d’assurer la généralisation du modèle même sur des données invisibles. Cela a été fait au moyen de l’équation 10.

Sortie = Entrée × masque (10)

Configuration de la couche de sortie
Couche de sortie : Le modèle XceptionNet d’origine est structuré pour la classification multiclasse avec la fonction d’activation Softmax dans une couche de sortie. Dans ce modèle adapté, la couche de sortie est personnalisée pour représenter les cinq grades de l’arthrose du genou, allant du grade 0 au grade 4, c’est-à-dire du niveau sain au niveau sévère. Précisément, cette couche comprend cinq neurones, chacun correspondant à l’un des grades d’OA. La fonction d’activation Softmax a été utilisée dans cette couche pour produire une distribution de probabilité sur cinq classes, permettant au modèle proposé de prévoir le grade d’OA approprié pour une image radiographique du genou donnée. Cette approche aligne directement les résultats du modèle sur l’échelle de classification clinique, facilitant ainsi une interprétation intuitive et pratique des prédictions du modèle pour les professionnels de la santé.

L’architecture XceptionNet est spécialement conçue pour l’objectif de l’étude présentée de classer la gravité de l’arthrose du genou. Le modèle a tiré parti des caractéristiques apprises d’un ensemble de données vaste et diversifié en utilisant les poids pré-entraînés d’ImageNet, ce qui lui a donné une base solide. Afin de personnaliser le modèle fondamental XceptionNet pour la recherche proposée, de nombreuses nouvelles couches ont été ajoutées.

Tout d’abord, les couches convolutives 2D ont été combinées avec différents nombres de filtres et de tailles de noyau, chacun d’entre eux étant activé par ReLU et la normalisation par lots pour ajouter de la non-linéarité. Ces couches supplémentaires étaient destinées à capturer et à amplifier les caractéristiques liées à la gravité de l’arthrose du genou. Le modèle était alors prêt pour la dernière étape de classification en ajoutant une couche GAP (Global Average Pooling 2D), qui réduit la carte des caractéristiques tout en conservant les données importantes. En particulier, le fonctionnement GAP permet de réduire la dimensionnalité avec une perte de données minimale en réduisant les dimensions spatiales de chaque carte de caractéristiques à une seule valeur tout en conservant la profondeur, qui peut varier de 7 x 7 x 1024 à 1 x 1 x 1024. La sortie de la couche GAP a été introduite dans la fonction d’activation Softmax, qui a permis une classification multiclasse en convertissant les logits en probabilités. Les équations 11, 12, 13, 14, 15, 16 et 17 sont utilisées pour l’écart entre les classes, l’activation de Softmax, le calcul de la carte des caractéristiques, la réduction du taux d’apprentissage, la compilation du modèle, l’ajustement du poids de la classe et la perte de classification multiclasse, respectivement.

(11)

où, x_i,j est l’activation de la i-ème ligne et de la j-ème colonne de la carte des caractéristiques ; H est la hauteur de la carte des entités ; W est la largeur de la carte des entités.

(12)

où, x_i est l’entrée de la fonction Softmax pour la classe i ; n est le nombre de classes.

Carte des caractéristiques = σ(Convolution(Entrée,Noyau) + Biais) (13)

où, la convolution est une opération de convolution ; i est la fonction d’activation ; L’entrée est le tenseur d’entrée de la couche ; Le noyau est le noyau convolutif ; Le biais est le terme de biais.

Nouveau taux d’apprentissage = Taux d’apprentissage × facteur (14)

Modèle = Compile(Architecture,Perte,Optimiseur,Métriques) (15)

(16)

où,_Catégorie de poids est le poids attribué à une classe ; Total Samples est le total_number_of_samples de l’ensemble de données ; Number_of_Classes est le nombre de classes distinctes à l’intérieur de l’ensemble de données ; L’échantillon dans la classe est le nombre d’échantillons dans une classe spécifique.

(17)

où, y_i est la distribution de probabilité réelle pour la classe i ; p_i est la prédiction de la distribution de probabilité de classe I ; N est le nombre de classes.

Enfin, le modèle, qui comprend maintenant l’architecture XceptionNet modifiée avec les couches personnalisées, a été compilé pour prédire les probabilités pour chaque classe. Grâce à ces modifications, l’objectif était d’augmenter la capacité du modèle à discerner les caractéristiques nuancées associées aux différents degrés de gravité de l’arthrose du genou, améliorant ainsi ses performances de classification pour la tâche spécifique.

Pour une convergence stable et efficace, l’optimiseur Adam a été utilisé pour entraîner le modèle avec un taux d’apprentissage de 0,0001, avec 0,5 utilisé comme taux d’abandon pour minimiser le surapprentissage. Pour limiter la complexité du modèle et améliorer la généralisation, des stratégies de régularisation L1 et L2 ont été utilisées. Pour les problèmes de classification multiclasses avec des étiquettes entières, la crossentropie catégorielle creuse était la fonction de perte appropriée. La formation a été menée pour 50 époques. Softmax, la fonction d’activation finale, a été utilisée pour générer des distributions de probabilité de classe. De plus, une taille de 64 pas a été utilisée pour la formation.

Formation : Le processus de formation a été une étape très importante. À ce stade, le modèle XceptionNet modifié apprend la détection et la classification précises des KOA dans les images radiographiques. La version 2.6.0 de Keras et la version 2.6.0 du backend TensorFlow ont été utilisées pour implémenter le modèle XceptionNet. Vous trouverez ci-dessous les détails des composants clés de la phase d’entraînement, notamment la fonction de perte, l’optimiseur, les rappels, la taille du lot et les époques.

Loss_Function : Pour les tâches de classification multiclasses, des cross_entropy catégorielles ont été utilisées. Cette fonction de perte est particulièrement adaptée aux problèmes où chaque instance doit être affectée à une seule étiquette sur un ensemble de catégories²⁷. Il évalue les performances du modèle en produisant un score de probabilité compris entre zéro et un. Cette perte a été utilisée comme indicateur pour entraîner efficacement ce modèle pour la prédiction précise de la gravité de la KOA, car elle augmente lorsque la probabilité prédite diffère de l’étiquette réelle.

Optimiseur : L’optimiseur Adam a été utilisé, qui est bien connu pour son efficacité et ses caractéristiques de taux d’apprentissage dynamique. Adam fusionne les caractéristiques avantageuses des algorithmes AdaGrad et RMSProp pour créer un algorithme d’optimisation capable de gérer des gradients clairsemés dans des contextes de problèmes bruyants²⁸.

Paramètres clés de l’optimiseur Adam
Taux d’apprentissage : Un taux d’apprentissage de 0,0001 a été utilisé, ce qui a permis à l’optimiseur d’apporter des ajustements substantiels aux poids au départ, optimisant ainsi le processus d’apprentissage.

Beta1 et Beta2 : ces paramètres régulent respectivement les taux de déclin du gradient au carré et des moyennes mobiles des gradients précédents. Les valeurs par défaut de 0,9 pour beta1 et 0,999 pour beta2 sont utilisées.

Epsilon : Ce paramètre empêche toute division par zéro dans l’implémentation, fixé à un petit nombre proche de zéro.

Rappels : les rappels sont utilisés pendant l’entraînement pour surveiller les performances du modèle et pour l’ajuster. Les rappels suivants ont été utilisés :

Early_Stopping : Ceci est utilisé pour surveiller la perte de validation du modèle ainsi que pour arrêter le processus d’entraînement si la perte cesse de diminuer pendant un nombre prédéfini d’époques (appelé patience). Lorsque les données de validation ne montrent plus d’amélioration des performances du modèle, il arrête le processus d’entraînement, ce qui permet d’éviter le surapprentissage.

Réduire le LROn plateau : ce rappel diminue le taux d’apprentissage lorsque la perte de validation cesse de s’améliorer, ce qui permet des ajustements plus fins des poids, ce qui peut entraîner une amélioration des performances globales du modèle²⁹.

Point de contrôle du modèle : ce rappel enregistre le modèle à un certain intervalle, afin que la meilleure version du modèle puisse être récupérée une fois le processus d’entraînement terminé. Habituellement, il surveille la précision ou la perte de validation et économise le poids du modèle chaque fois qu’une amélioration est détectée.

Taille du lot et époques :
Taille de lot : 32 est la taille de lot typique qui a été utilisée afin d’équilibrer les exigences de stabilité de convergence des modèles et d’efficacité de calcul. Une taille de lot de 32 permet d’établir un équilibre, étant suffisamment grande pour tirer parti des optimisations de calcul et suffisamment petite pour offrir une estimation stable du gradient.

Époques : le modèle est configuré pour s’entraîner jusqu’à 50 époques, bien que l’entraînement puisse s’arrêter prématurément si le rappel EarlyStopping est déclenché. Les 50 époques fournissent suffisamment d’itérations pour que les poids s’ajustent et que le modèle converge, tandis que EarlyStopping veille à ce que l’entraînement ne se poursuive pas inutilement.

En définissant méticuleusement ces paramètres et en utilisant des rappels, le processus d’entraînement a été optimisé pour s’assurer que le modèle apprend efficacement et se généralise bien aux données invisibles. Afin de garantir que toutes les classes sont représentées de manière juste et précise dans les prédictions du modèle, un certain nombre d’approches ont été utilisées pour résoudre le problème du déséquilibre des données. Tout d’abord, afin de pallier la sous-représentation de certaines classes, une pondération par classe a été utilisée tout au long de la phase de formation. Les classes avec moins d’échantillons ont reçu des poids plus importants. Pour réduire davantage les impacts du déséquilibre de classe pendant l’entraînement, l’ImageDataGenerator de Keras a également été utilisé pour s’assurer que le modèle était exposé à une variété de classes dans chaque lot³⁰.

Métriques d’évaluation
Pour évaluer l’efficacité du modèle développé, de nombreux paramètres ont été utilisés, qui sont décrits ci-dessous.

Précision (ACC) : Le rapport entre les observations prédites avec précision et l’ensemble des observations est quantifié par cette statistique. Lorsque les classes cibles se répartissent de manière égale, c’est bénéfique. Son calcul est basé sur l’équation 18.

(18)

Précision (RP) : La précision du modèle mesure sa capacité à faire la distinction entre tous les cas positifs et positifs attendus. Dans les circonstances où le taux de faux positifs est important, c’est très important. Son calcul est basé sur l’équation 19.

 (19)

Rappel (R) : Le rappel, également connu sous le nom de sensibilité, quantifie le pourcentage de vrais positifs correctement détectés. C’est particulièrement important dans les situations où le fait d’ignorer un bon exemple peut avoir de graves répercussions. Son calcul implique l’équation 20.

 (20)

F1_Score : Il s’agit d’une moyenne harmonique de précision (PR) et de rappel (R), elle fournit une évaluation juste, notamment en présence d’une distribution de classe inégale. Son calcul implique l’équation 21.

(21)

ROC AUC : Area Under the Curve for Receiver Operating Characteristics (ROC AUC) quantifie la capacité du modèle à différencier les classes. Des valeurs AUC élevées signifient des performances supérieures du modèle. Son calcul est basé sur l’équation 22.

(22)

Kappa de Cohen (CK) : Cette métrique évalue la concordance entre deux évaluateurs qui classent N éléments en C classes mutuellement exclusives. Il offre une plus grande robustesse par rapport à la précision, notamment lorsqu’il s’agit de classes déséquilibrées. Son calcul implique l’équation 23.

(23)

Erreur absolue moyenne (MAE), erreur quadratique moyenne (RMSE) et erreur quadratique moyenne (MSE) : bien qu’ils soient couramment utilisés pour les tâches de régression, ces paramètres peuvent fournir des révélations utiles dans les scénarios de classification, en particulier dans les classifications ordinales. Ils calculent la différence entre les valeurs réelles et prédites. Ces paramètres ont été calculés à l’aide des équations 24, 25 et 26, respectivement.

(24)

(25)

(26)

Score F2 : le score F2 privilégie le rappel plutôt que la précision, ce qui est précieux dans les scénarios où l’ignorance d’une prédiction positive entraîne des coûts plus importants que la génération d’un faux positif. Son calcul implique l’équation 27.

(27)

Courbe de précision et de rappel : Ce graphique montre comment le rappel et l’exactitude sont équilibrés à différents niveaux. Plus l’aire sous une courbe est grande, plus les niveaux de rappel et de précision sont élevés.

Les paramètres ci-dessus ont été choisis afin de fournir une évaluation approfondie de la performance du modèle sur toutes les dimensions, notamment dans le contexte du déséquilibre de l’ensemble de données et de l’importance d’identifier avec précision les différents grades d’arthrose du genou.

Results

Plusieurs mesures importantes ont été prises tout au long de la phase de validation du modèle afin de garantir qu’il se généralise à des données qui n’avaient pas encore été observées. Initialement, l’ensemble de données est divisé en ensembles d’entraînement et de validation. Il s’agit d’une procédure courante utilisée pour évaluer les performances du modèle sur un ensemble de données qui n’a pas été utilisé lors de l’entraînement. En proposant des ensembles de données distincts pour l’entraînement et la validation, cet...

Discussion

L’étude a présenté une technique automatisée basée sur l’apprentissage profond pour la classification KOA à l’aide d’images radiographiques. Le modèle, qui utilisait une architecture XceptionNet, a démontré une robustesse et une précision remarquables dans une gamme de mesures d’évaluation, ce qui suggère qu’il pourrait être utilisé en milieu clinique.

En plus de la méthodologie actuelle, la validation d’un ensemble de données externe pourrait être utilisée po...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Jupyter Notebook/Colab	Projet Jupyter / Google	N/A	Pour développer et expérimenter des modèles de manière interactive.
Matplotlib (Version : 3.4.3) & Seaborn (Version : 0.11.2)	Communauté	N/A	Pour la visualisation de données et les graphiques de résultats.
Données Mendeley/Kaggle	Elsevier; Communauté	N/A	Source de l’ensemble de données : Ensemble de données de classification de la gravité de l’arthrose du genou
OpenCV (Version : 4.5.5)	Intel	N/A	Pour le prétraitement d’images radiographiques (redimensionnement, CLAHE, filtrage gaussien).  ;
Python (version : 3.8)	Fondation du logiciel Python	N/A	Langage de programmation utilisé pour le développement de modèles.
scikit-learn (Version : 1.0.2)	Communauté	N/A	Utilisé pour le fractionnement des données, les mesures de performances et les utilitaires ML de base.  ;
TensorFlow/Keras	Google/Communauté	N/A	Utilisé pour la mise en œuvre et l’entraînement du modèle d’apprentissage profond basé sur XceptionNet. Version de Tensorflow : 2.6.0, RRID : SCR_018932. Version de Keras : 2.6.0, RRID : SCR_018961
Système d’exploitation Ubuntu	Canonique	N/A	Système d’exploitation utilisé pour la compatibilité avec tous les outils logiciels. Version 20.04 recommandée.