Evaluación comparativa de enfoques de aprendizaje automático en conjunto para la predicción de enfermedades cardíacas

Summary

Este protocolo describe un proceso computacional para crear y evaluar modelos de aprendizaje automático en conjunto para la predicción de enfermedades cardíacas utilizando datos de referencia accesibles públicamente dentro de una estructura reproducible de preprocesamiento y evaluación.

Abstract

Este artículo presenta una evaluación computacional de referencia de los algoritmos de Aprendizaje en Conjunto en la predicción de enfermedades cardíacas, combinando diferentes algoritmos de Aprendizaje Automático, como votación dura, votación blanda y apilamiento, en un único marco. La evaluación se realizó utilizando un conjunto de datos cardiovasculares públicos obtenidos del repositorio Kaggle (https://www.kaggle.com/datasets/sid321axn/heart-statlog-cleveland-hungary-final), que comprende 1.190 instancias y 11 características clínicas. El proceso implica el preprocesamiento de datos, que incluye el manejo de valores faltantes, la eliminación de valores atípicos, el escalado de variables y el balanceo de clases para asegurar que se utilice una selección uniforme de características de entrada, basada en Random Forest (RF), para eliminar características innecesarias. Entre los modelos evaluados, el clasificador de ensamble de apilamientos alcanzó la mayor precisión global del 91,88% en el conjunto de datos de prueba. Aunque se calcularon métricas adicionales como precisión, recuerdo y puntuación F1 para análisis comparativos, el énfasis de este estudio sigue siendo la evaluación metodológica más que la validación clínica.

Se aplican y prueban de forma independiente varios clasificadores base, incluyendo Decision Tree, Random Forest, AdaBoost y XGBoost. Estos modelos se combinan usando técnicas de conjunto con votación dura, votación suave y apilamiento. En el apilamiento, se utiliza la Regresión Logística como metamodelo, que se entrena en predicciones validadas cruzadamente de las muestras fuera de pliegue para evitar el sobreajuste.

Las evaluaciones se realizan utilizando la precisión como criterio principal para la comparación, de modo que los sistemas de clasificación individuales y sus estrategias de combinación puedan compararse uniformemente en el mismo entorno de preprocesamiento y validación. Aunque se proporcionan métricas de rendimiento para indicaciones comparativas, el enfoque central reside en el desarrollo y la evaluación de estrategias y no en su evaluación clínica.

Este protocolo facilita la comparación de algoritmos de aprendizaje automático en conjuntos con conjuntos de datos cardiovasculares disponibles públicamente y ayuda a realizar una comparación sistemática de los enfoques de preprocesamiento de datos y configuración de conjuntos.

Introduction

Los conjuntos de datos de enfermedades cardiovasculares disponibles públicamente se utilizan ampliamente como problemas de referencia en la investigación de aprendizaje automático para evaluar algoritmos de clasificación y técnicas de modelado ^{predictivo 1,2,3}. Estos conjuntos de datos, que contienen atributos clínicos y demográficos, proporcionan una base estandarizada y reproducible para comparar estrategias de preprocesamiento, métodos de selección de características y arquitecturas de aprendizaje en conjunto bajo condiciones experimentales controladas. Por ello, se emplean comúnmente para evaluar el comportamiento algorítmico en lugar de apoyar la inferencia clínica o el despliegue en el mundo^{real 4,5}.

Investigaciones previas han estudiado diversos métodos de aprendizaje automático para predecir enfermedades cardiovasculares, como la Regresión Logística (LR), las Máquinas de Vectores de Soporte (SVM), los Bosques Aleatorios (RF) y los modelos de aumento de^gradiente 6,7,8,9. Más recientemente, los estudios se han centrado en técnicas de aprendizaje en conjunto, como la votación dura, la votación suave y el apilamiento, para hacer que los modelos sean más estables y mejorar su rendimiento 10,11,12,13,14. Sin embargo, las diferencias en cómo se preparan los datos, se gestionan las características, se realiza la validación y se miden los resultados en estos estudios dificultan comparar directamente los resultados reportados. Para ofrecer una visión contextual de alto nivel de las categorías de enfermedades cardiovasculares comúnmente reportadas en la literatura, se presenta una ilustración conceptual en la Figura 1.

Figura 1: Ilustración conceptual de categorías de enfermedades cardiovasculares comúnmente reportadas, incluida solo para contexto contextual. Por favor, haz clic aquí para ver una versión ampliada de esta figura.

La Figura 1 se incluye únicamente para referencia contextual de alto nivel y no representa datos derivados del conjunto de datos analizado en este estudio ni de ningún resultado del protocolo computacional propuesto.

En particular, muchos trabajos existentes enfatizan los resultados de interpretación sin aislar claramente la contribución de componentes metodológicos individuales, como el momento de selección de características, el balanceo de clases o la configuración del conjunto 15,16,17,18. Esta variabilidad pone de manifiesto la necesidad de un marco de benchmarking reproducible que evalúe sistemáticamente métodos de aprendizaje automático en conjunto utilizando una cadena de preprocesamiento y un protocolo de evaluación consistentes sobre un conjunto de datos público.

Se hipotetiza que los enfoques de aprendizaje en conjunto, especialmente los métodos de apilamiento, demostrarán una mejor precisión en la clasificación y un rendimiento equilibrado por clase en comparación con los clasificadores base individuales cuando se evalúen bajo condiciones estandarizadas de preprocesamiento y validación.

Por lo tanto, el objetivo de este estudio es realizar un análisis de benchmarking computacional de enfoques de aprendizaje automático en conjunto para la predicción de enfermedades cardiovasculares utilizando un conjunto de datos de Kaggle disponible públicamente. El proceso implica un preprocesamiento estandarizado de datos, el uso del algoritmo Random Forest para clasificar la importancia de las características, así como el empleo de diferentes técnicas de conjunto, que incluyen votación dura, votación suave y apilamiento. La regresión logística se utiliza como algoritmo meta-clasificador en el apilamiento. Esto garantiza que no haya sobreajuste, ya que utiliza predicciones validadas cruzadamente.

Este estudio está destinado estrictamente como una investigación pública de evaluación de conjuntos de datos. Sus hallazgos están limitados por la dependencia de un único conjunto de datos y posibles sesgos específicos de cada conjunto, por lo que no implican validación clínica ni despliegue. Se requeriría validación externa utilizando conjuntos de datos independientes y evaluación prospectiva antes de considerar cualquier aplicación clínica.

Las siguientes preguntas de investigación guían este estudio:

Este estudio examina cómo diferentes enfoques de aprendizaje automático en conjunto, incluyendo la votación dura, el voto suave y el apilamiento, se comparan en términos de precisión de clasificación cuando se aplican a un conjunto de datos de enfermedades cardiovasculares disponible públicamente.

Protocol

Este protocolo describía un flujo de trabajo computacional reproducible para comparar modelos de aprendizaje automático en conjunto utilizando un conjunto de datos de enfermedades cardiovasculares disponible públicamente.

Selección del conjunto de datos
El estudio utilizó un conjunto de datos de enfermedades cardiovasculares disponible públicamente obtenido del repositorio Kaggle. El conjunto de datos comprendía 1190 instancias e incluía 11 características. Para el entrenamiento del modelo, se utilizó el 80% de los datos, mientras que el 20% restante se destinó a la evaluación del rendimiento. La Tabla 1 presentó una descripción detallada de las características del conjunto de datos. El conjunto de datos se cargaba en Python (versión 3.9) usando la biblioteca pandas (versión 1.5.3). La integridad del conjunto de datos se verificó examinando valores ausentes, registros duplicados y tipos de datos inconsistentes.

La Tabla 1 resume los atributos demográficos, clínicos y experimentales incluidos en el conjunto de datos de enfermedades cardiovasculares, junto con sus tipos de datos y formatos codificados. Estas características constituyeron las variables de entrada para todos los procedimientos posteriores de entrenamiento y evaluación del modelo.

Sl. No	Nombre de la sección	Tipo de datos	Descripción
1	Edad	Numérico	Edad del paciente en años.
2	Sexo	Nominal	El masculino representado como 1 y la mujer como 0.
3	Tipo de dolor en el pecho	Categórico	1: Típico 2: Angina típica 3: Dolor no anginal 4: Asintomático
4	Tensión en reposo	Numérico	La presión arterial en reposo se mide en milímetros de mercurio (mmHg).
5	Nivel de colesterol	Numérico	Colesterol sérico en miligramos por decilitro (mg/dL).
6	Azúcar en ayunas	Nominal	Los niveles de azúcar en sangre superiores a 120 mg/dl durante el ayuno se representan como 1 para verdadero y 0 para falso.
7	ECG en reposo	categórico	Se asignan tres valores distintos de la siguiente manera: 0 para Normal, 1 para Anomalía en la onda ST-T y 2 para Hipertrofia ventricular izquierda.
8	Frecuencia cardíaca máxima	Numérico	Frecuencia cardíaca máxima alcanzada
9	Angina de ejercicio	Nominal	Angina inducida por el ejercicio, donde 0 representa NO y 1 representa Sí.
10	Oldpeak	Numérico	ST-depresión durante el ejercicio en comparación con el estado de reposo.
11	Pendiente ST	categórico	La pendiente del segmento ST durante el ejercicio máximo se categoriza de la siguiente manera: 0: Normal 1: Pendiente ascendente 2: Llana 3: Pendiente descendente

Tabla 1: Descripción de las características del conjunto de datos utilizadas para la predicción de enfermedades cardíacas.

Preprocesamiento de los datos
El preprocesamiento de datos se realizaba utilizando librerías Python. Las filas con valores faltantes se eliminaron usando pandas. función DataFrame.dropna(). Se identificaron y eliminaron valores atípicos en las características numéricas utilizando el método del rango intercuartílico (IQR) y la visualización basada en diagramas de caja, que ilustra la distribución y los valores atípicos detectados entre características (Figura 2). Todas las variables numéricas se escalaban usando la función StandardScaler de la biblioteca scikit-learn (versión 1.2.2). El desequilibrio de clases se abordó mediante un muestreo aleatorio insuficiente para obtener una distribución equilibrada de clases antes del entrenamiento del modelo.

Figura 2: Diagrama de caja de todos los atributos en el conjunto de datos de enfermedades cardiovasculares. Por favor, haz clic aquí para ver una versión ampliada de esta figura.

El coeficiente de correlación (PCC) de Pearson se empleó para evaluar las relaciones entre características. La matriz de correlación resultante, visualizada como un mapa de calor, ilustra la intensidad y dirección de las correlaciones de características por pares y destaca atributos redundantes para la eliminación (Figura 3).

Figura 3: Matriz de correlación para el conjunto de datos de enfermedades cardíacas. Por favor, haz clic aquí para ver una versión ampliada de esta figura.

El modelo da como resultado un mapa de calor de la matriz de correlación que es estéticamente atractivo y permite una comprensión más rápida de las correlaciones entre diferentes características en los datos. Este mapa de calor utiliza colores para mostrar cuánto y en qué dirección están correlacionados, lo que lo convierte en una herramienta importante en el Análisis Exploratorio de Datos. Los colores más claros muestran mayores correlaciones positivas, los colores oscuros muestran mayores correlaciones negativas y más verdes muestran correlaciones cercanas a cero.

Extracción de características
La selección de características se realizó utilizando la importancia de características en Random Forest implementada mediante el RandomForestClassifier en bibliotecas de aprendizaje automático de código abierto. Las puntuaciones de importancia de las características se calcularon en función de la disminución media de la impureza, y las características se clasificaron en consecuencia. Las características clasificadas con el primer número de N se mantuvieron para análisis posteriores. La selección de características se aplicó tras completar todos los pasos de preprocesamiento y antes de la división tren–prueba, asegurando que se usara un conjunto de características fijo y consistente en todos los modelos de clasificación y configuraciones de conjunto (Figura 4).

Figura 4: Puntuaciones de importancia de las características calculadas usando la importancia de las características en el Bosque Aleatorio. Las características se clasifican según el valor de importancia normalizado. Por favor, haz clic aquí para ver una versión ampliada de esta figura.

Las características se clasificaron según la disminución media de impurezas usando la importancia de las características en el Bosque Aleatorio con random_state = 42; sin embargo, todas las características disponibles (N = 11) se conservaron para el entrenamiento posterior del modelo. La selección de características se aplicaba después del preprocesamiento y antes de la división tren–prueba, asegurando un conjunto de características fijo en todos los modelos.

Formación de modelos y construcción de conjuntos
El conjunto de datos se particionó en subconjuntos de entrenamiento y prueba usando una proporción de división 80:20 con la función train_test_split(). Los datos de entrenamiento se usaron exclusivamente para el desarrollo de modelos y la construcción de conjuntos, mientras que los datos de pruebas se reservaron para la evaluación del rendimiento. Los clasificadores base, incluyendo Decision Tree, Random Forest, AdaBoost y XGBoost, se entrenaban en el conjunto de datos de entrenamiento usando la configuración predeterminada de hiperparámetros, salvo que se especifique lo contrario.

Los modelos de votación dura y conjunto de votación blanda se construyeron usando el VotingClassifier, asignando pesos iguales a todos los clasificadores base para asegurar una comparación objetiva. Se implementó un modelo de ensamble apilado utilizando la Regresión Logística como metaclasificador. El meta-clasificador se entrenó con predicciones fuera de pliegue generadas mediante la validación cruzada de 5 veces de los clasificadores base, lo que redujo el sobreajuste y permitió una estimación imparcial del rendimiento del conjunto.

Modelo propuesto
El marco propuesto para ensambles se implementó para construir un clasificador compuesto utilizando múltiples estrategias de aprendizaje en conjunto. Todos los datos de entrenamiento fueron estandarizados y se aplicaron pasos de preprocesamiento idénticos a los datos de prueba para asegurar la consistencia entre las fases de entrenamiento y evaluación. Los clasificadores base se integraron usando votación dura, votación suave y mecanismos de apilamiento, y el meta-clasificador de apilamiento se entrenó usando Regresión Logística en predicciones validadas cruzadamente. La arquitectura general y el flujo de datos del marco de conjunto (Figura 5).

Figura 5: Arquitectura del modelo propuesto. Por favor, haz clic aquí para ver una versión ampliada de esta figura.

Nivel I:
En el Nivel I del marco de conjunto, se entrenaron cuatro clasificadores base —Random Forest, Decision Tree, XGBoost y AdaBoost— utilizando el conjunto de datos de entrenamiento escalado. Estos clasificadores base se combinaron para construir tanto modelos de votación dura como de conjunto de votación blanda. Se asignaron pesos iguales a todos los clasificadores base para mantener la objetividad y evitar sesgos derivados de la afinación diferencial de pesos durante la construcción del conjunto.

Nivel II:
En el Nivel II, se implementó un clasificador de conjunto de apilamientos combinando predicciones generadas por los clasificadores base. Los clasificadores base se entrenaron usando la validación cruzada de 5 veces y se generaron predicciones fuera de pliegue para cada pliegue. Estas predicciones fuera de pliegue se utilizaron luego como características de entrada para entrenar un meta-clasificador de Regresión Logística, reduciendo así el sobreajuste y permitiendo una estimación imparcial del rendimiento del conjunto.

Results

Esta sección presenta los efectos del preprocesamiento de datos y la selección de características, compara el rendimiento de clasificadores individuales y de conjunto y resume los resultados de benchmarking a través de métricas estándar de evaluación. El preprocesamiento de datos, incluyendo la eliminación de valores faltantes, el balanceo de clases y el escalado de características, produjo distribuciones de entrada consistentes en todos los clasificadores. Los modelos entrenados con datos preprocesados mostraron una men...

Discussion

Este estudio demuestra que el aprendizaje en conjunto basado en apilamiento logró consistentemente un rendimiento superior y más estable en la clasificación en comparación con clasificadores individuales y conjuntos basados en votación bajo condiciones estandarizadas de preprocesamiento y benchmarking.

La consistencia en el rendimiento del conjunto observada en este estudio refuerza la importancia del rigor metodológico en la investigación comparativa de apren...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
AdaBoostClasificador	scikit-learn Desarrolladores	N/A	Clasificador de ampliación de conjuntos utilizado para benchmarking
Cuaderno Jupyter	Proyecto Jupyter	N/A	Entorno de cuadernos computacionales
Registro de estadísticas de Kaggle Heart (Cleveland– Hungría) Conjunto de datos	Kaggle	N/A	Conjunto de datos cardiovasculares públicos (1190 casos, 11 características). URL: https://www.kaggle.com/datasets/sid321axn/heart-statlog-cleveland-hungary-final
Regresión logística	scikit-learn Desarrolladores	N/A	Meta-clasificador usado en ensamble de apilamientos
Matplotlib	Equipo de Desarrollo de Matplotlib	N/A	Biblioteca de visualización de datos
NumPy	Desarrolladores NumPy	N/A	Biblioteca de cálculo numérico
pandas (Versión 1.5.3)	Equipo de Desarrollo de Pandas	N/A	Preprocesamiento y manejo de datos
Python (Versión 3.9)	Fundación de Software Python	N/A	Entorno de programación utilizado para la implementación
ClasificadorRandomForestT	scikit-learn Desarrolladores	N/A	Clasificador base y cálculo de importancia de características
Seaborn	Equipo de Desarrollo de Seaborn	N/A	Visualización de mapas de calor de la matriz de correlación
StandardScaler	scikit-learn Desarrolladores	N/A	Función de escalado de características
Clasificador de votación	scikit-learn Desarrolladores	N/A	Implementación de conjuntos de votación dura y blanda
XGBoostClasificifier	DMLC	N/A	Clasificador de aumento de gradiente usado como aprendiz base