Enfoque de aprendizaje profundo basado en el aprendizaje por transferencia para la clasificación de la osteoartritis de rodilla mediante la arquitectura XceptionNet modificada

Summary

Con el fin de mejorar la identificación de la osteoartritis de rodilla a partir de rayos X, este estudio sugiere OsteoXceptionNet, un modelo de aprendizaje profundo que utiliza XceptionNet modificado con aprendizaje por transferencia. Este modelo mejora la extracción de características, reduce los errores de interpretación manual y permite una clasificación más precisa y automatizada.

Abstract

La osteoartritis de rodilla (KOA) afecta a millones de personas en todo el mundo y no tiene un tratamiento curativo conocido, lo que la convierte en un grave problema de salud mundial. El manejo de su desarrollo depende del descubrimiento temprano, y las imágenes de rayos X son una técnica de diagnóstico fundamental. Sin embargo, debido a las variaciones en los niveles de experiencia de los radiólogos, la interpretación manual de rayos X aumenta la variabilidad y las posibles inexactitudes. Los avances recientes en el aprendizaje automático y las técnicas de aprendizaje profundo han provocado la creación de sistemas automatizados para la identificación radiológica de la osteoartritis en la rodilla. Sin embargo, para la detección en etapa temprana, obtener una mayor precisión de predicción sigue siendo crucial. Al utilizar los conocimientos recopilados de un conjunto de datos más grande, los modelos entrenados en conjuntos de datos más pequeños y específicos del dominio funcionan mejor mediante el uso del aprendizaje por transferencia. Debido a su profundidad y eficacia, XceptionNet es especialmente adecuado para trabajos que implican la interpretación de imágenes médicas. A diferencia de investigaciones anteriores, este método aborda de manera eficiente el desequilibrio del conjunto de datos mediante el uso de enfoques de equilibrio de clases, la integración de una canalización de preprocesamiento personalizada y la adición de mejoras arquitectónicas personalizadas a XceptionNet, lo que mejora la identificación de KOA en etapa inicial. Con el uso de estos métodos de última generación, el enfoque sugerido muestra potencial para identificar correctamente la osteoartritis a partir de imágenes radiográficas de la rodilla, logrando una precisión de predicción del 97%, una precisión del 97,8%, un recuerdo del 97,6% y una medida F1 del 97,6%. Además, el modelo generado mostró un valor kappa de Cohen del 95,94%, lo que indica una buena concordancia. El estudio respalda los esfuerzos adicionales para desarrollar tecnología confiable y automatizada de detección de enfermedades, que mejore los resultados de los pacientes y facilite una prestación de atención médica más eficiente.

Introduction

La osteoartritis de rodilla (KOA) es un importante problema de salud pública mundial que afecta a un gran número de personas y supone una carga significativa tanto para los pacientes como para las organizaciones de atención médica. El cartílago articular de la articulación de la rodilla se deteriora gradualmente en este trastorno. Tiene una etiología complicada y multidimensional que incluye una mezcla de edad, obesidad, traumatismo articular, variables biomecánicas y susceptibilidad genética¹.

La pérdida de integridad estructural da como resultado el adelgazamiento del cartílago, la fisura y la eventual erosión, exponiendo el hueso subyacente. Los síntomas de la KOA pueden variar ampliamente y con frecuencia empeoran con el tiempo, desde pequeñas molestias hasta dolor insoportable y pérdida de función². Un signo principal de dolor de rodilla generalmente empeora con ejercicios con pesas y períodos prolongados de actividad. Las observaciones comunes incluyen rigidez, particularmente durante los períodos de descanso, edema, crepitación y disminución del rango de movimiento³. Estos síntomas interfieren gravemente con el funcionamiento diario, lo que resulta en restricciones funcionales y una reducción en la calidad de vida de quienes los experimentan.

La hipótesis probada aquí es que un modelo automatizado basado en el aprendizaje profundo puede funcionar diagnósticamente a la par con los radiólogos profesionales y diagnosticar correctamente el nivel de gravedad de KOA a partir de datos de imágenes utilizando el sistema de clasificación Kellgren-Lawrence.

El propósito de este estudio se origina en las limitaciones inherentes asociadas con los métodos tradicionales de diagnóstico y clasificación de la osteoartritis de rodilla. Tradicionalmente, las imágenes radiográficas, especialmente el análisis de rayos X de rodilla, se utilizan para evaluar el grado de daño articular. Sin embargo, el examen físico de estas imágenes es vulnerable a la variabilidad y puede llevar mucho tiempo⁴. Los avances en las áreas de aprendizaje profundo y aprendizaje automático (ML) proporcionan un camino prometedor para automatizar y mejorar la precisión de la detección y calificación de KOA, ofreciendo un enfoque más estandarizado y eficiente. Esto es especialmente crítico en las primeras etapas de la afección, donde la intervención puede influir sustancialmente en los cambios en el nivel de vida del paciente a medida que avanza la afección.

Enfoques de aprendizaje automático: Los primeros intentos de automatizar la identificación de KOA se basaron en métodos clásicos de aprendizaje automático. Estrategias como K-Nearest Neighbors, Support Vector Machine y Decision Tree dependían de características artesanales que se tomaron de imágenes de rayos X de rodilla. Aunque proporcionaron cierta automatización, la calidad y la relevancia de las características derivadas manualmente fue un factor importante en su efectividad. Esto con frecuencia resultó en una generalización y un rendimiento deficientes⁵.

Enfoques de aprendizaje profundo (DL): La aparición de redes neuronales convolucionales, o aprendizaje profundo, fue un hito importante en el área. Con su reputación de extracción automatizada de características, las redes neuronales convolucionales (CNN) se están volviendo cada vez más populares en el análisis de imágenes KOA. En comparación con las técnicas convencionales de ML, estos algoritmos han mostrado una mejora notable en términos de precisión, así como en la capacidad de reconocer patrones complejos directamente a partir de imágenes ^6,7.

Aprendizaje por transferencia (TL): Esto permite adaptar los modelos para tareas que requieren imágenes médicas después de haber sido entrenados previamente en conjuntos de datos genéricos a gran escala, ha ganado popularidad en investigaciones recientes⁸. Este enfoque funciona especialmente bien en el campo de la medicina, donde los conjuntos de datos pequeños y especializados son comunes.

Los mejores resultados en la clasificación de la gravedad de KOA se destacan por TL, que utiliza características generales aprendidas de tareas más grandes y las adapta a las sutilezas particulares del análisis de imágenes médicas ^9,10.

Para la identificación y clasificación de KOA utilizando imágenes de radiografía, se han examinado varias técnicas automatizadas, particularmente modelos de aprendizaje profundo, en los últimos años^11,12. Sin embargo, muchos modelos actuales no manejan adecuadamente los problemas con el desequilibrio y la interpretabilidad del conjunto de datos, o no detectan problemas en una etapa temprana con la suficiente precisión. El método sugerido aquí amplía este marco al agregar tres mejoras significativas: cambios de diseño en el modelo XceptionNet para mejorar la extracción de características, técnicas de equilibrio de clases para aumentar la confiabilidad del modelo y una canalización de preprocesamiento personalizada diseñada para mejorar las características de la articulación de la rodilla. Junto con el apoyo a una categorización KOA más precisa y confiable, estas mejoras proporcionan una mejora sustancial con respecto a las técnicas tradicionales de aprendizaje por transferencia.

Aunque DL y ML han demostrado una progresión significativa en el análisis de KOA, todavía hay desafíos que superar, principalmente en términos de lograr una categorización precisa, mejorar la interpretabilidad y gestionar el desequilibrio de datos. El estudio propuesto amplía los estudios anteriores 13,14,15,16,17,18,19,20,21,22 al ofrecer una evaluación más completa, transparente y equitativa, ampliando así los límites de lo que actualmente es posible en el diagnóstico y la calificación automatizados de KOA. En la Tabla 1 se describe el análisis de las investigaciones actuales realizadas en la detección de la artrosis.

Estudiar	Objetivo		Resumen
Hu et al.13	Desarrolle DeepKOA para predecir la progresión de la osteoartritis de rodilla utilizando imágenes de resonancia magnética.		DeepKOA muestra capacidades prometedoras de predicción de la osteoartritis de rodilla, destacando el potencial del aprendizaje profundo en entornos clínicos. Se necesita más validación.
Guida et al.14	Mejore la clasificación de la gravedad de la OA mediante la integración de radiografías, resonancias magnéticas y datos clínicos.		Un modelo de fusión mejora significativamente la precisión de la clasificación de OA, destacando los beneficios de un enfoque multimodal. La investigación futura debe abordar la generalización.
Bensalma et al.15	Identificar asociaciones entre varios factores en pacientes con osteoartritis de rodilla mediante análisis multimodal.		El estudio revela interrelaciones entre múltiples factores en la artrosis de rodilla, lo que sugiere vías para intervenciones específicas y una mayor investigación.
Koppold et al.16	Examine el impacto del ayuno modificado prolongado en los síntomas de la osteoartritis.		El ayuno modificado muestra una notable mejoría de los síntomas en pacientes con osteoartritis, lo que indica su potencial como estrategia de tratamiento. Se necesitan más estudios, especialmente ensayos controlados aleatorios.
Jain et al.17	Presente OsteoHRNet para la evaluación de la gravedad de la OA de rodilla a partir de radiografías.		OsteoHRNet logra una mayor precisión en la clasificación de la gravedad de la artrosis de rodilla a partir de rayos X, lo que indica su potencial para la aplicación clínica. Se recomienda una validación adicional del conjunto de datos.
Afroze et al.18	Evaluación de métodos basados en el aprendizaje automático para la detección de la osteoartritis (OA) en varias modalidades de imágenes.		La revisión identifica brechas críticas en la detección de OA basada en el aprendizaje automático, enfatizando la necesidad de enfoques estandarizados y modelos empíricos.
Teoh et al.19	Desarrollar un modelo multitarea para el diagnóstico detallado de la OA a partir de la radiografía.		Un modelo multitarea mejora la precisión del diagnóstico de OA al predecir las características individuales de OA y la intensidad del dolor, lo que sugiere el potencial de intervenciones precisas. Se alienta a la investigación adicional para ampliar estos hallazgos.
Zhang et al.20	Cree un modelo para la clasificación de lesiones del cartílago de rodilla de varios niveles en la resonancia magnética.		El modelo ofrece una alta precisión en la clasificación de lesiones del cartílago de la rodilla mediante resonancia magnética, lo que se muestra prometedor como una herramienta de diagnóstico no invasiva. Se recomienda una validación adicional entre poblaciones.
Li et al.21	Examinar la influencia de las imágenes multivista y la información previa, así como la capacidad de un modelo de aprendizaje profundo para identificar y clasificar la artrosis de rodilla mediante rayos X.		La clasificación KL de KOA se identificó y categorizó correctamente utilizando el modelo DL. Además, el conocimiento previo y las imágenes de rayos X multivista mejoraron la efectividad de la clasificación.
Ratna et al.22	Explore cómo se utiliza el aprendizaje automático en la investigación de la osteoartritis de rodilla para comprender mejor la progresión de la afección y el diagnóstico temprano.		El estudio enfatiza cómo el aprendizaje automático ha impactado la investigación de OA, especialmente en términos de diagnóstico temprano y desarrollo de la comprensión, y recomienda más investigación para mejorar su integración clínica.

Tabla 1: Descripción general de trabajos recientes en la detección de la osteoartritis de rodilla.

Las principales contribuciones del trabajo incluyen OsteoXceptionNet, una arquitectura XceptionNet modificada destinada a la clasificación de la osteoartritis de rodilla, y el uso de una línea de preprocesamiento creada específicamente para aumentar la precisión en el diagnóstico. El conjunto de datos de la Iniciativa de Osteoartritis (OAI) se utiliza para la capacitación y muchos diseños de referencia se utilizan para la evaluación. El conjunto de datos y las técnicas de preparación se describen en las partes posteriores del estudio después de una revisión de la literatura relevante. Después de una descripción general de los resultados experimentales y una discusión de importancia clínica, profundiza en la arquitectura del modelo propuesto antes de resumir los hallazgos clave y ofrecer direcciones futuras.

Conjunto de datos y configuración experimental
El conjunto de datos OAI, que consta de miles de imágenes de rayos X de rodilla anotadas recopiladas a lo largo del tiempo de varias ubicaciones clínicas, se pone a disposición del público para su uso en este estudio. Cinco clases de artrosis de rodilla de Kellgren-Lawrence (KL) estuvieron representadas por las 9786 imágenes de rayos X de rodilla utilizadas para este estudio: Saludable (3857 imágenes), Dudosa (1770), Mínima (2578), Moderada (1286) y Grave (295). Durante el preprocesamiento, todas las imágenes se escalaron uniformemente a 224 x 224 píxeles mediante interpolación bilineal. El marco OsteoXceptionNet sugerido se utilizó en el entorno experimental para segmentar automáticamente las estructuras de las articulaciones de la rodilla y luego clasificarlas en clases de gravedad KOA.

Para garantizar el mayor equilibrio de clases posible, el conjunto de datos se dividió en subgrupos para entrenamiento (80%), validación (10%) y pruebas (10%). El conjunto de datos tiene varios inconvenientes a pesar de su utilidad, como el desequilibrio de clases, con menos muestras que caen en el grupo Severo que otras. Además, el conjunto de datos solo incluye imágenes radiográficas; carece de entradas multimodales como imágenes por resonancia magnética (IRM) o información clínica, lo que podría restringir su generalización. El sesgo demográfico, que restringe la relevancia de los datos a otros grupos étnicos porque representa predominantemente a la población norteamericana, es otra desventaja notable. Aunque se utilizaron funciones de pérdida ponderada por clase y aumento de datos para mitigar estas restricciones cuando fue posible, estas siguen siendo consideraciones cruciales al analizar el rendimiento del modelo.

Con base en los resultados radiográficos, los métodos de calificación, como el sistema de clasificación de Kellgren-Lawrence (KL), clasifican la gravedad de la KOA en cinco categorías: Grado 0 (Sano), Grado 1 (Dudoso), Grado 2 (Mínimo), Grado 3 (Moderado) y Grado 4 (Grave)²³. En la Figura 1 se muestran diferentes imágenes de los grados KL.

Figura 1: Clasificación KL de imágenes de rodilla. Con base en los resultados radiográficos, la gravedad de la KOA se clasificó en cinco categorías: Grado 0 (Saludable), Grado 1 (Dudoso), Grado 2 (Mínimo), Grado 3 (Moderado) y Grado 4 (Grave). Haga clic aquí para ver una versión más grande de esta figura.

Protocol

Esta sección presenta un enfoque integral diseñado para mejorar el diagnóstico y la clasificación de la osteoartritis de rodilla mediante el uso de un modelo XceptionNet modificado. La metodología presentada se basa en un cuidadoso preprocesamiento de datos, una personalización exhaustiva de la arquitectura del modelo y sólidas técnicas de evaluación, todo lo cual está destinado a abordar los complejos problemas asociados con las imágenes de OA de rodilla. En la Figura 2, se ha ilustrado el flujo del modelo.

Figura 2: Flujo de trabajo del modelo. Haga clic aquí para ver una versión más grande de esta figura.

Descripción del conjunto de datos
El conjunto de datos utilizado en esta investigación comprende 9.786 imágenes de rayos X de la rodilla del conjunto de datos OAI a las que se les ha asignado una calificación de OA basada en la técnica de clasificación KL. Este conjunto de datos, que ofrece una amplia gama de instancias que cubren las diversas fases de KOA, es esencial tanto para entrenar como para evaluar el modelo propuesto²⁴. Se utilizó interpolación bilineal para escalar todas las imágenes. Se seleccionó esta técnica porque logra un compromiso entre la efectividad computacional y el mantenimiento de la calidad de la imagen, los cuales son esenciales para mantener las características anatómicas importantes para la categorización de la osteoartritis en la rodilla. En el conjunto de datos, los grados son de 0 a 4, con el grado 0 representando una rodilla sana y el grado 4 denotando osteoartritis grave. Este grado ofrece un rango complejo de evolución de la enfermedad, que es esencial para que el modelo comprenda las variaciones mínimas a lo largo de las etapas.

Además, el conjunto de datos se organizó en conjuntos de pruebas, validación y entrenamiento. Para evaluar el rendimiento del modelo y asegurarse de que aprende a generalizar de manera efectiva sin sobreajustar el conjunto de entrenamiento, esta división fue esencial. El conjunto de pruebas ofrece una evaluación objetiva de la eficacia del modelo finalizado, ya que también se utilizó para modificar los pesos del modelo. Además, un conjunto de validación ayuda a ajustar los hiperparámetros y evaluar los modelos a lo largo de la etapa de entrenamiento. En la Tabla 2 se proporciona un breve resumen de la distribución de datos, y la Figura 3 proporciona una representación visual de los mismos.

Clase	Prueba automática	Prueba	Tren	Val
0	604	639	2286	328
1	275	296	1046	153
2	403	447	1516	212
3	200	223	757	106
4	44	51	173	27

Tabla 2: Breve descripción del conjunto de datos.

Figura 3: Distribución del conjunto de datos. El conjunto de datos se organizó en conjuntos de pruebas, validación y entrenamiento. Haga clic aquí para ver una versión más grande de esta figura.

Preprocesamiento de datos
Este paso es crucial y tiene como objetivo mejorar el rendimiento del modelo mejorando la calidad de los datos de entrada. Las etapas involucradas en el preprocesamiento son las siguientes.

Cambio de tamaño de imagen: Se aplica una dimensión estándar a cada imagen de rayos X para proporcionar consistencia en todo el conjunto de imágenes. Esta etapa es esencial para que el modelo procese imágenes de manera consistente y efectiva. En este proceso se utiliza la ecuación 1.

Nuevo tamaño de imagen = Cambiar tamaño (imagen original, dimensión estándar) (1)

Normalización: Los valores de píxeles en las imágenes se han estandarizado para obtener una media de cero y una desviación estándar de uno. Este tipo de normalización garantiza que los valores de entrada caigan en un rango similar, lo que acelera la convergencia del modelo durante el entrenamiento. La ecuación 2 se utiliza para llevar a cabo este paso de normalización.

(2)

Aumento de datos: Se emplearon estrategias de aumento de datos para abordar los problemas debidos a datos insuficientes y mejorar la capacidad de generalización del modelo. Estos métodos incluyen giros, zooms, rotaciones y traslaciones. Introducen nuevas imágenes que se agregan intencionalmente al conjunto de datos de entrenamiento. La ecuación 3 se utiliza en la implementación de este procedimiento de aumento.

Imagen aumentada = Aplicar transformación (imagen original) (3)

Se emplearon una variedad de técnicas de aumento para proporcionar variabilidad al conjunto de entrenamiento con el fin de mejorar la robustez del modelo y minimizar el sobreajuste. Un rango de corte de 0.2, un rango de zoom de 0.8 a 1.2 (correspondiente a un factor de zoom de 0.2) y un rango de rotación aleatoria de -30 ° a + 30 ° se incluyeron en el aumento de datos de entrenamiento. Se permitió el volteo horizontal y vertical con una probabilidad de 0,5 para mejorar la generalización del modelo. Para el cizallamiento vertical y horizontal, también se empleó un factor de cizallamiento de 0,1, o ± 10% de distorsión.

Equilibrio de clases: Se utilizaron algoritmos de ponderación de clases debido al posible desequilibrio de clases del conjunto de datos (con más imágenes de algunas clases de OA que de otras). Para evitar que el modelo muestre un sesgo a favor de las clases más comunes, este método otorga mayores pesos a las clases subrepresentadas. En este proceso se utiliza la ecuación 4. Se utilizaron los siguientes valores para determinar los pesos: Saludable: 3857, Dudoso: 1770, Mínimo: 2578, Moderado: 1286 y Severo: 295 son las distribuciones por clase de las 9786 muestras totales y 5 clases.

(4)

División de entrenamiento y validación: el conjunto de datos se organizó en conjuntos de validación y entrenamiento utilizando proporciones tradicionales de 80:20. La división de los datos permite que el modelo aprenda de los datos de entrenamiento y evalúe su rendimiento de forma regular utilizando el conjunto de validación. Esto permite identificar el sobreajuste y evaluar la capacidad de generalización del modelo.

Optimización de la canalización de datos: se configuró una canalización de datos mejorada para garantizar un manejo eficaz de los datos durante el entrenamiento del modelo. Para reducir los cuellos de botella de entrada/salida y aumentar el rendimiento informático, esta canalización utiliza técnicas de procesamiento por lotes, captura previa y extracción de datos en paralelo. Para mejorar la eficiencia y el rendimiento del entrenamiento, se desarrolló la canalización de datos de entrada. Para garantizar una utilización equilibrada de la memoria y la carga computacional, se empleó un tamaño de lote de 32. Para aumentar la eficiencia de entrada de datos, se utilizó num_parallel_calls=4 en la función de mapa para paralelizar la carga y el preprocesamiento de datos. Además, para minimizar la latencia de E/S, se ha utilizado prefetch(buffer_size=tf.data.AUTOTUNE) de TensorFlow para permitir el ajuste automatizado del tamaño del búfer de precarga. Esto superpuso efectivamente el preprocesamiento de datos y la ejecución del modelo

En la Figura 4, se han mostrado algunas instancias de diferentes clases de imágenes después del preprocesamiento básico.

Figura 4: Instancias del conjunto de datos. La figura muestra algunos casos de diferentes clases de imágenes después del preprocesamiento básico. Haga clic aquí para ver una versión más grande de esta figura.

A través de estos meticulosos pasos de preprocesamiento, el conjunto de datos se transforma en una base sólida para entrenar el modelo XceptionNet modificado, preparando el escenario para la detección y clasificación de KOA precisa y confiable.

Arquitectura del modelo
Modelo base: Con su diseño distintivo que utiliza convoluciones separables en profundidad para lograr el mejor equilibrio posible entre la eficiencia computacional y la complejidad del modelo, el modelo XceptionNet creado por François Chollet se destaca²⁵. La ecuación 5 se utilizó para implementar las circunvoluciones separables en profundidad.

Convolución separable en profundidad(x) = Puntual(Profundidad(x)) (5)

Es particularmente relevante para este estudio por varias razones. En primer lugar, su arquitectura es conocida por extraer características detalladas y jerárquicas de las imágenes, lo cual es crucial para el análisis de imágenes médicas, donde las características sutiles pueden indicar diferentes etapas de una afección. En segundo lugar, el modelo propuesto se basa en la arquitectura XceptionNet, que ha demostrado una eficacia sobresaliente en varias tareas de clasificación de imágenes, destinadas a detectar y clasificar la artrosis de rodilla²⁶.

El OsteoXceptionNet presentado es una versión personalizada de la arquitectura XceptionNet creada especialmente para clasificar automáticamente la osteoartritis en la rodilla a partir de imágenes de rayos X. Los cambios importantes incluyen la adición de tres bloques convolucionales más (filtros: 512, 256 y 128) para mejorar la extracción de características específicas de las estructuras de la articulación de la rodilla, así como capas convolucionales con tamaños de filtro de 3 x 3 y recuentos de filtros variables que van de 32 a 1024 en los flujos de entrada, medio y salida. La normalización por lotes y la activación de ReLU vienen después de cada capa convolucional, y se agregan capas de abandono para minimizar el sobreajuste. El estándar de 224 x 224 píxeles se utiliza para las entradas del modelo.

Ajuste y modificaciones
Modificaciones: El modelo XceptionNet se ha modificado estratégicamente de varias maneras para que sea adecuado para la clasificación y detección de KOA.

Ajuste: Las capas superiores del modelo XceptionNet preentrenado se descongelaron, lo que permitió que el modelo aprendiera características de alto nivel específicas de las imágenes de rayos X de la rodilla. El ajuste fino del modelo se realizó según la Ecuación 6.

(6)

donde θ_{ajustado son} los parámetros después del ajuste fino; θ_{preentrenados} son los parámetros preentrenados; λ es la tasa de aprendizaje; ∇_{θpreentrenado}La pérdida es el gradiente de la función de pérdida relacionado con los parámetros que se entrenaron previamente.

Capas convolucionales adicionales: Se introdujeron capas convolucionales adicionales en la fase final del modelo. Estas capas tienen un tamaño de grano más pequeño para centrarse en extraer detalles más finos pertinentes a los diferentes grados de OA. Se empleó utilizando la ecuación 7.

Salida convolucional = Convolución (entrada, kernel) (7)

Normalización por lotes: Después de cada capa convolucional agregada, se aplica la normalización por lotes para estabilizar el aprendizaje y mejorar la velocidad de convergencia. Se emplea usando la ecuación 8.

(8)

donde es la salida normalizada; x es la entrada de la capa de normalización por lotes; μ es la media para el lote de entrada; σ2 es la varianza en el lote de entrada; ε es una constante mínima para la estabilidad numérica.

Funciones de activación: Las funciones de activación de ReLU se utilizan en las capas complementarias para introducir la no linealidad, lo que permite que el modelo adquiera estructuras más intrincadas en los datos. ReLU se calcula utilizando la ecuación 9.

ReLU(x) = max(0,x) (9)

donde, x es la entrada de la función de activación de ReLU.

Abandono: para evitar el sobreajuste, se incorporan capas de abandono, especialmente después de las capas recién agregadas, para garantizar la generalización del modelo incluso en datos no vistos. Se hizo por medio de la ecuación 10.

Salida = Máscara de × de entrada (10)

Configuración de la capa de salida
Capa de salida: El modelo XceptionNet original está estructurado para la clasificación de varias clases con la función de activación Softmax en una capa de salida. En este modelo adaptado, la capa de salida se personaliza para representar los cinco grados de osteoartritis de rodilla, que van desde el Grado 0 hasta el Grado 4, es decir, desde el nivel sano hasta el severo. Precisamente, esta capa comprende cinco neuronas, cada una correspondiente a uno de los grados de OA. La función de activación Softmax se utilizó en esta capa para producir una distribución de probabilidad en cinco clases, lo que permitió que el modelo propuesto pronosticara el grado de OA apropiado para una imagen de rayos X de rodilla determinada. Este enfoque alinea la salida del modelo directamente con la escala de calificación clínica, lo que facilita una interpretación intuitiva y práctica de las predicciones del modelo para los profesionales de la salud.

La arquitectura XceptionNet está diseñada específicamente, que se entrenó previamente por primera vez en el conjunto de datos de ImageNet, para el objetivo del estudio presentado de clasificar la gravedad de la osteoartritis en la rodilla. El modelo aprovechó las características aprendidas de un conjunto de datos grande y diverso mediante el uso de los pesos preentrenados de ImageNet, lo que le dio una base sólida. Para personalizar el modelo fundamental de XceptionNet para la investigación propuesta, se agregaron muchas capas nuevas.

Primero, las capas convolucionales 2D se combinaron con diferentes números de filtros y tamaños de kernel, cada uno de los cuales fue activado por ReLU y la normalización por lotes para agregar no linealidad. Estas capas adicionales estaban destinadas a capturar y amplificar las características relacionadas con la gravedad de la osteoartritis en la rodilla. Luego, el modelo estuvo listo para la última etapa de clasificación al agregar una capa 2D de agrupación promedio global (GAP), que reduce el mapa de características mientras mantiene los datos importantes. En particular, la operación GAP logra una reducción de dimensionalidad con una pérdida mínima de datos al reducir las dimensiones espaciales de cada mapa de características a un solo valor mientras se mantiene la profundidad, que podría variar de 7 x 7 x 1024 a 1 x 1 x 1024. La salida de la capa GAP se introdujo en la función de activación Softmax, que permitió la clasificación de varias clases al convertir logits en probabilidades. Las ecuaciones 11, 12, 13, 14, 15, 16 y 17 se utilizan para el GAP, la activación de Softmax, el cálculo del mapa de características, la reducción de la tasa de aprendizaje, la compilación de modelos, el ajuste de peso de clase y la pérdida de clasificación de varias clases, respectivamente.

(11)

donde, x_i,j es la activación de la i-ésima fila y la j-ésima columna del mapa de características; H es la altura del mapa de características; W es el ancho del mapa de características.

(12)

donde, x_i es la entrada a la función Softmax para la clase i; n es el número de clases.

Mapa de características = σ(Convolución(Entrada,Kernel) + Sesgo) (13)

donde, Convolución es una operación de convolución; i es la función de activación; Input es el tensor de entrada de la capa; Kernel es el kernel convolucional; Sesgo es el término de sesgo.

Nueva tasa de aprendizaje = Factor de la tasa de aprendizaje × (14)

Modelo = Compilar(Arquitectura,Pérdida,Optimizador,Métricas) (15)

(16)

donde,_Clase de peso es el peso asignado a una clase; Total Samples es el total_number_of_samples del conjunto de datos; Number_of_Classes es el número de clases distintivas dentro del conjunto de datos; Muestra en clase es el recuento de muestras en una clase específica.

(17)

donde, y_i es la distribución de probabilidad real para la clase i; p_i es la predicción de distribución de probabilidad de clase i ; N es el número de clases.

Finalmente, el modelo, que ahora comprende la arquitectura XceptionNet modificada con las capas personalizadas, se compiló para predecir las probabilidades de cada clase. A través de estas modificaciones, el objetivo era aumentar la capacidad del modelo para discernir las características matizadas asociadas con diferentes grados de gravedad de la osteoartritis de rodilla, mejorando su rendimiento de clasificación para la tarea específica.

Para una convergencia estable y efectiva, se utilizó el optimizador Adam para entrenar el modelo con una tasa de aprendizaje de 0,0001, con 0,5 utilizado como tasa de abandono para minimizar el sobreajuste. Para limitar la complejidad del modelo y mejorar la generalización, se utilizaron estrategias de regularización L1 y L2. Para problemas de clasificación de múltiples clases con etiquetas enteras, la crossentropía categórica dispersa era la función de pérdida adecuada. El entrenamiento se llevó a cabo durante 50 épocas. Softmax, la función de activación final, se utilizó para generar distribuciones de probabilidad de clase. Además, se utilizó un tamaño de 64 pasos para el entrenamiento.

Formación: El proceso de formación fue una etapa muy importante. En esta etapa, el modelo XceptionNet modificado aprende la detección y clasificación precisas de KOA en imágenes radiográficas. Se utilizaron la versión 2.6.0 de Keras y la versión 2.6.0 del backend de TensorFlow para implementar el modelo XceptionNet. A continuación se muestran los detalles de los componentes clave de la fase de entrenamiento, incluida la función de pérdida, el optimizador, las devoluciones de llamada, el tamaño del lote y las épocas.

Loss_Function: Para la tarea de clasificación multiclase, se utilizó cross_entropy categórica. Esta función de pérdida es especialmente adecuada para problemas en los que se espera que cada instancia se asigne a una y solo una etiqueta de un conjunto de categorías²⁷. Evalúa el rendimiento del modelo produciendo una puntuación de probabilidad entre cero y uno. Esta pérdida se utilizó como un indicador para entrenar eficazmente este modelo para la predicción precisa de la gravedad de KOA, ya que aumenta cuando la probabilidad predicha difiere de la etiqueta real.

Optimizador: Se empleó el optimizador Adam, que es bien conocido por su efectividad y características de tasa de aprendizaje dinámica. Adam amalgama las características ventajosas de los algoritmos AdaGrad y RMSProp, proporcionando un algoritmo de optimización experto en la gestión de gradientes dispersos en entornos de problemas ruidosos²⁸.

Parámetros clave para el optimizador de Adam
Tasa de aprendizaje: Se empleó una tasa de aprendizaje de 0.0001, lo que permitió al optimizador realizar ajustes sustanciales en los pesos inicialmente, optimizando así el proceso de aprendizaje.

Beta1 y Beta2: Estos parámetros regulan las velocidades a las que disminuyen el gradiente cuadrático y las medias móviles de gradientes anteriores, respectivamente. Se utilizan los valores predeterminados de 0,9 para beta1 y 0,999 para beta2.

Epsilon: Este parámetro evita cualquier división por cero en la implementación, establecido en un número pequeño cercano a cero.

Devoluciones de llamada: las devoluciones de llamada se utilizan durante el entrenamiento para supervisar el rendimiento del modelo y para ajustarlo. Se emplearon las siguientes devoluciones de llamada:

Early_Stopping: Esto se utiliza para monitorear la pérdida de validación del modelo, así como para detener el proceso de entrenamiento si la pérdida deja de disminuir para un número predefinido de épocas (lo que se conoce como paciencia). Cuando los datos de validación ya no muestran una mejora en el rendimiento del modelo, detienen el proceso de entrenamiento, lo que ayuda a evitar el sobreajuste.

Reducir la meseta de LROn: Esta devolución de llamada disminuye la tasa de aprendizaje cuando la pérdida de validación deja de mejorar, lo que permite ajustes más finos en los pesos, lo que puede resultar en un mejor rendimiento general del modelo²⁹.

Punto de control del modelo: esta devolución de llamada guarda el modelo en un intervalo determinado, de modo que se pueda recuperar la mejor versión del modelo una vez que se complete el proceso de entrenamiento. Por lo general, monitorea la precisión o pérdida de validación y guarda el peso del modelo cada vez que se detecta una mejora.

Tamaño del lote y épocas:
Tamaño de lote: 32 es el tamaño de lote típico que se utilizó para equilibrar los requisitos de estabilidad de convergencia del modelo y eficiencia informática. Un tamaño de lote de 32 logra un equilibrio, siendo lo suficientemente grande como para aprovechar las optimizaciones computacionales y, sin embargo, lo suficientemente pequeño como para ofrecer una estimación estable del gradiente.

Épocas: el modelo está configurado para entrenar hasta 50 épocas, aunque el entrenamiento puede detenerse antes de tiempo si se activa la devolución de llamada EarlyStoping. Las 50 épocas proporcionan suficientes iteraciones para que los pesos se ajusten y para que el modelo converja, mientras que EarlyStopping garantiza que el entrenamiento no continúe innecesariamente.

Al establecer meticulosamente estos parámetros y utilizar devoluciones de llamada, el proceso de entrenamiento se optimizó para garantizar que el modelo aprenda de manera efectiva y se generalice bien a datos invisibles. Para garantizar que todas las clases estén representadas de manera justa y precisa en las predicciones del modelo, se utilizaron varios enfoques para abordar el problema del desequilibrio de datos. Primero, para compensar la subrepresentación de algunas clases, se utilizó la ponderación de clases durante toda la fase de entrenamiento. A las clases con menos muestras se les dio un mayor peso. Para disminuir aún más los impactos del desequilibrio de clases durante el entrenamiento, también se utilizó ImageDataGenerator de Keras para asegurarse de que el modelo estuviera expuesto a una variedad de clases en cada lote³⁰.

Métricas de evaluación
Para evaluar la eficacia del modelo desarrollado, se utilizaron numerosos parámetros que se describen a continuación.

Precisión (ACC): Esta estadística cuantifica la relación entre las observaciones predichas con precisión y todas las observaciones. Cuando las clases objetivo se distribuyen por igual, es beneficioso. Su cálculo se basa en la ecuación 18.

(18)

Precisión (PR): La precisión del modelo mide qué tan bien puede distinguir entre todos los casos positivos esperados y positivos. En circunstancias en las que la tasa de falsos positivos es sustancial, es muy importante. Su cálculo se basa en la ecuación 19.

 (19)

Recuperación (R): La recuperación, también conocida como sensibilidad, cuantifica el porcentaje de verdaderos positivos detectados correctamente. Es especialmente importante en situaciones en las que ignorar un buen ejemplo puede tener graves repercusiones. Su cálculo involucra la ecuación 20.

 (20)

F1_Score: Es una media armónica de precisión (PR) y recuperación (R), proporciona una evaluación justa, particularmente en presencia de una distribución de clases desigual. Su cálculo involucra la ecuación 21.

(21)

ROC AUC: Area Under the Curve for Receiver Operating Characteristics (ROC AUC) cuantifica la capacidad del modelo para diferenciar entre clases. Los valores elevados de AUC significan un rendimiento superior del modelo. Su cálculo se basa en la ecuación 22.

(22)

Kappa de Cohen (CK): Esta métrica evalúa la concordancia entre dos evaluadores que clasifican N ítems en C clases mutuamente excluyentes. Ofrece una mayor robustez en comparación con la precisión, especialmente cuando se trata de clases desequilibradas. Su cálculo implica la ecuación 23.

(23)

Métricas Error absoluto medio (MAE), error cuadrático medio (RMSE) y error cuadrático medio (MSE): aunque se emplean comúnmente para tareas de regresión, estos parámetros pueden proporcionar revelaciones útiles en escenarios de clasificación, particularmente en clasificaciones ordinales. Calculan la diferencia entre los valores reales y predichos. Estas métricas se calcularon utilizando las ecuaciones 24, 25 y 26, respectivamente.

(24)

(25)

(26)

Puntuación F2: La puntuación F2 prioriza la recuperación sobre la precisión, lo cual es valioso en escenarios en los que pasar por alto una predicción positiva incurre en mayores costos que generar un falso positivo. Su cálculo involucra la ecuación 27.

(27)

Curva de precisión y recuperación: Este gráfico muestra cómo se equilibran la recuperación y la precisión en varios niveles. Cuanto mayor sea el área bajo una curva, mayores serán los niveles de recuperación y precisión.

Los parámetros anteriores se eligieron para proporcionar una evaluación exhaustiva del rendimiento del modelo en todas las dimensiones, especialmente en el contexto del desequilibrio del conjunto de datos y la importancia de identificar con precisión los diversos grados de osteoartritis de rodilla.

Results

Se tomaron varias medidas importantes a lo largo de la fase de validación del modelo para garantizar que se generalizara a datos que aún no se habían observado. Inicialmente, el conjunto de datos se divide en conjuntos de entrenamiento y validación. Este es un procedimiento común que se usa para evaluar el rendimiento del modelo en un conjunto de datos que no se usó en el entrenamiento. Al ofrecer conjuntos de datos separados para el entrenamiento y la validación, esta separación evitó el sobreajuste y permitió una evalu...

Discussion

El estudio presentó una técnica automatizada basada en el aprendizaje profundo para la clasificación de KOA utilizando imágenes de rayos X. El modelo, que utilizó una arquitectura XceptionNet, demostró una notable solidez y precisión en una variedad de medidas de evaluación, lo que sugiere que podría ser útil en entornos clínicos.

Además de la metodología actual, se podría utilizar la validación externa del conjunto de datos para confirmar aún más la hipótesis...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Jupyter Notebook/Colab	Proyecto Jupyter / Google	N/A	Para desarrollar y experimentar con modelos de forma interactiva.
Matplotlib (Versión: 3.4.3) y Seaborn (Versión: 0.11.2)	Comunidad	N/A	Para visualización de datos y gráficos de resultados.
Datos de Mendeley/Kaggle	Elsevier; Comunidad	N/A	Fuente del conjunto de datos: Conjunto de datos de clasificación de gravedad de la osteoartritis de rodilla
OpenCV (Versión: 4.5.5)	Intel	N/A	Para el preprocesamiento de imágenes de rayos X (cambio de tamaño, CLAHE, filtrado gaussiano).
Python (Versión: 3.8)	Fundación de software Python	N/A	Lenguaje de programación utilizado para el desarrollo de modelos.
scikit-learn (Versión: 1.0.2)	Comunidad	N/A	Se utiliza para la división de datos, métricas de rendimiento y utilidades básicas de ML.
TensorFlow/Keras	Google/Comunidad	N/A	Se utiliza para implementar y entrenar el modelo de aprendizaje profundo basado en XceptionNet. Versión de Tensorflow: 2.6.0, RRID:SCR_018932. Versión de Keras: 2.6.0, RRID:SCR_018961
Sistema operativo Ubuntu	Canónico	N/A	Sistema operativo utilizado para la compatibilidad con todas las herramientas de software. Se recomienda la versión 20.04.