Avaliação Comparativa de Abordagens de Aprendizado de Máquina em Conjunto para a Previsão de Doenças Cardíacas

Summary

Este protocolo descreve um processo computacional para criar e avaliar modelos de aprendizado de máquina em conjunto para a predição de doenças cardíacas, utilizando dados de referência acessíveis publicamente dentro de uma estrutura reprodutível de pré-processamento e avaliação.

Abstract

Este artigo apresenta uma avaliação computacional de bench-marking de algoritmos de Ensemble Learning na previsão de doenças cardíacas, combinando diferentes algoritmos de Aprendizado de Máquina, como votação difícil, votação suave e empilhamento, em um único framework. A avaliação foi realizada utilizando um conjunto de dados cardiovasculares publicamente disponível obtido do repositório Kaggle (https://www.kaggle.com/datasets/sid321axn/heart-statlog-cleveland-hungary-final), que compreende 1.190 instâncias e 11 características clínicas. O processo envolve pré-processamento de dados, que inclui o tratamento de valores ausentes, remoção de outliers, escalonamento de variáveis e balanceamento de classes para garantir que a seleção uniforme de características de entrada, baseada na Random Forest (RF), seja usada para eliminar recursos desnecessários. Entre os modelos avaliados, o classificador de conjunto de empilhamento alcançou a maior precisão geral de 91,88% no conjunto de dados de teste. Embora métricas adicionais como precisão, recordação e escore F1 tenham sido calculadas para análise comparativa, a ênfase deste estudo permanece na benchmarking metodológica em vez da validação clínica.

Vários classificadores base, incluindo Decision Tree, Random Forest, AdaBoost e XGBoost, são aplicados e testados de forma independente. Esses modelos são então combinados usando técnicas de conjunto com votação rígida, votação suave e empilhamento. No empilhamento, a Regressão Logística é usada como meta-modelo, que é treinado com previsões validadas cruzadamente das amostras fora do dobramento para evitar o sobreajuste.

As avaliações são realizadas usando a precisão como critério principal para comparação, para que sistemas individuais de classificação e suas estratégias de combinação possam ser comparados uniformemente no mesmo ambiente de pré-processamento e validação. Embora métricas de desempenho sejam fornecidas para indicações comparativas, a ênfase da abordagem está no desenvolvimento e avaliação de estratégias, e não em sua avaliação clínica.

Esse protocolo facilita a comparação de algoritmos de aprendizado de máquina em conjunto em conjuntos de dados cardiovasculares disponíveis publicamente e ajuda a fazer uma comparação sistemática entre as abordagens de pré-processamento de dados e configuração de conjunto.

Introduction

Conjuntos de dados públicos de doenças cardiovasculares são amplamente usados como problemas de referência em pesquisa de aprendizado de máquina para avaliação de algoritmos de classificação e técnicas de modelagem ^{preditiva 1,2,3}. Tais conjuntos de dados, que contêm atributos clínicos e demográficos, fornecem uma base padronizada e reprodutível para comparar estratégias de pré-processamento, métodos de seleção de características e arquiteturas de aprendizado em conjunto sob condições experimentais controladas. Consequentemente, eles são comumente empregados para avaliar o comportamento algorítmico, em vez de apoiar inferência clínica ou implantação no mundo^{real 4,5}.

Pesquisas anteriores analisaram vários métodos de aprendizado de máquina para prever doenças cardiovasculares, como Regressão Logística (LR), Máquinas de Vetores de Suporte (SVM), Florestas Aleatórias (RF) e modelos de aumento de^gradiente 6,7,8,9. Mais recentemente, estudos têm se concentrado em técnicas de aprendizado em conjunto, como votação rígida, votação suave e empilhamento, para tornar os modelos mais estáveis e melhorar seu^desempenho 10,11,12,13,14. No entanto, as diferenças na forma como os dados são preparados, as funcionalidades são tratadas, a validação é feita e os resultados são medidos nesses estudos dificultam a comparação direta dos resultados relatados. Para fornecer uma visão contextual de alto nível das categorias de doenças cardiovasculares comumente relatadas na literatura, uma ilustração conceitual é apresentada na Figura 1.

Figura 1: Ilustração conceitual das categorias de doenças cardiovasculares frequentemente relatadas, incluída apenas para contexto contextual. Por favor, clique aqui para ver uma versão ampliada desta figura.

A Figura 1 está incluída apenas para referência contextual de alto nível e não representa dados derivados do conjunto de dados analisado neste estudo nem de quaisquer resultados do protocolo computacional proposto.

Em particular, muitos trabalhos existentes enfatizam resultados de performance sem isolar claramente a contribuição de componentes metodológicos individuais, como o tempo de seleção de características, balanceamento de classes ou configuração^{de conjuntos 15,16,17,18}. Essa variabilidade destaca a necessidade de uma estrutura de benchmarking reprodutível que avalie sistematicamente métodos de aprendizado de máquina em conjunto usando um pipeline de pré-processamento consistente e um protocolo de avaliação em um conjunto de dados público.

É hipotetizado que abordagens de aprendizagem em conjunto, especialmente métodos de empilhamento, demonstrarão maior precisão na classificação e desempenho equilibrado por classe em comparação com classificadores base individuais quando avaliados sob condições padronizadas de pré-processamento e validação.

Assim, o objetivo deste estudo é conduzir uma análise computacional de benchmarking de abordagens de aprendizado de máquina em conjunto para previsão de doenças cardiovasculares, utilizando um conjunto de dados Kaggle disponível publicamente. O processo envolve pré-processamento padronizado de dados, uso do algoritmo Random Forest para classificar a importância das características, bem como o uso de diferentes técnicas de conjunto, que envolvem votação rígida, votação suave e empilhamento. Regressão Logística é usada como algoritmo meta-classificador no empilhamento. Isso garante que não haja sobreajustamento, pois utiliza previsões validadas cruzadamente.

Este estudo tem a intenção estritamente de ser uma investigação pública de benchmarking de conjuntos de dados. Seus achados são limitados pela dependência de um único conjunto de dados e possíveis vieses específicos do conjunto de dados, e, portanto, não implicam validação clínica ou implantação. Validação externa usando conjuntos de dados independentes e avaliação prospectiva seria necessária antes que qualquer aplicação clínica pudesse ser considerada.

As seguintes perguntas de pesquisa orientam este estudo:

Este estudo examina como diferentes abordagens de aprendizado de máquina em conjunto, incluindo votação dura, votação suave e empilhamento, se comparam em termos de precisão de classificação quando aplicadas a um conjunto de dados público sobre doenças cardiovasculares.

Protocol

Esse protocolo descreveu um fluxo de trabalho computacional reprodutível para benchmarking de modelos de aprendizado de máquina em conjunto usando um conjunto de dados de doenças cardiovasculares disponível publicamente.

Seleção do conjunto de dados
O estudo utilizou um conjunto de dados de doenças cardiovasculares disponível publicamente obtido do repositório Kaggle. O conjunto de dados compreendia 1190 instâncias e incluía 11 funcionalidades. Para o treinamento do modelo, 80% dos dados foram utilizados, enquanto os 20% restantes foram destinados à avaliação de desempenho. A Tabela 1 apresentou uma descrição detalhada das características do conjunto de dados. O conjunto de dados foi carregado em Python (versão 3.9) usando a biblioteca pandas (versão 1.5.3). A integridade do conjunto de dados foi verificada examinando valores ausentes, registros duplicados e tipos de dados inconsistentes.

A Tabela 1 resume os atributos demográficos, clínicos e experimentais incluídos no conjunto de dados de doenças cardiovasculares, juntamente com seus tipos de dados e formatos codificados. Essas características constituíram as variáveis de entrada para todos os procedimentos subsequentes de treinamento e avaliação do modelo.

Sl. Não	Nome do Destaque	Tipo de Dado	Descrição
1	Idade	Numeric	Idade do paciente em anos.
2	Sexo	Nominal	Masculino representado como 1, e Feminino representado como 0.
3	Tipo de dor no peito	Categórico	1: Típico 2: Angina típica 3: Dor não anginal 4: Assintomática
4	Pressão arterial em repouso	Numérico	Pressão arterial em repouso medida em milímetros de mercúrio (mmHg).
5	Nível de colesterol	Numeric	Colesterol sérico em miligramas por decilitro (mg/dL).
6	Açúcar no sangue em jejum	Nominal	Níveis de açúcar no sangue acima de 120 mg/dl durante o jejum são representados como 1 para verdadeiro e 0 para falso.
7	ECG em repouso	categórico	Três valores distintos são atribuídos da seguinte forma: 0 para Normal, 1 para Anormalidade na onda ST-T e 2 para Hipertrofia ventricular esquerda.
8	Frequência cardíaca máxima	Numeric	Pico de frequência cardíaca atingido
9	Angina de exercício	Nominal	Angina induzida pelo exercício, onde 0 representa NÃO e 1 representa Sim.
10	Oldpeak	Numeric	ST-depressão durante o exercício comparada ao estado de repouso.
11	Pista ST	categórico	A inclinação do segmento ST durante o exercício de pico é categorizada da seguinte forma: 0: Normal 1: Inclinação ascendente 2: Plana 3: Inclinação descendente

Tabela 1: Descrição das características do conjunto de dados usadas para a previsão de doenças cardíacas.

Pré-processamento dos dados
O pré-processamento de dados era realizado usando bibliotecas em Python. Linhas contendo valores ausentes foram removidas usando pandas. Função DataFrame.dropna(). Valores atípicos em características numéricas foram identificados e removidos usando o método de intervalo interquartil (IQR) e visualização baseada em boxplot, que ilustra a distribuição e os valores atípicos detectados entre características (Figura 2). Todas as variáveis numéricas foram escaladas usando a função StandardScaler da biblioteca scikit-learn (versão 1.2.2). O desequilíbrio de classes foi corrigido por meio de subamostragem aleatória para obter uma distribuição de classes balanceada antes do treinamento do modelo.

Figura 2: Diagrama de caixa de todos os atributos no Conjunto de Dados de Doenças Cardiovasculares. Por favor, clique aqui para ver uma versão ampliada desta figura.

O coeficiente de correlação (PCC) de Pearson foi empregado para avaliar as relações entre características. A matriz de correlação resultante, visualizada como um mapa de calor, ilustra a força e a direção das correlações de características par a par e destaca atributos redundantes para eliminação (Figura 3).

Figura 3: Matriz de Correlação para o Conjunto de Dados de Doenças Cardíacas. Por favor, clique aqui para ver uma versão ampliada desta figura.

O modelo resulta em um mapa de calor da matriz de correlação que é esteticamente agradável e permite uma compreensão mais rápida das correlações entre diferentes características nos dados. Este mapa de calor usa cores para mostrar quanto e em que direção os valores estão correlacionados, tornando-o uma ferramenta importante na Análise Exploratória de Dados. Cores mais claras apresentam correlações positivas mais altas, cores mais escuras apresentam correlações negativas mais altas, e mais verdes apresentam correlações próximas de zero.

Extração de características
A seleção de características foi realizada usando a importância das características Random Forest, implementada via o RandomForestClassifier em bibliotecas de aprendizado de máquina de código aberto. As pontuações de importância das características foram calculadas com base na diminuição média da impureza, e as características foram classificadas de acordo. As características classificadas entre as N mais altas foram mantidas para análises posteriores. A seleção de características foi aplicada após a conclusão de todas as etapas de pré-processamento e antes da divisão train–test, garantindo que um conjunto de características fixo e consistente fosse usado em todos os modelos de classificação e configurações de conjunto (Figura 4).

Figura 4: Pontuações de importância das características calculadas usando a importância das características da Floresta Aleatória. As características são classificadas pelo valor de importância normalizado. Por favor, clique aqui para ver uma versão ampliada desta figura.

As características foram classificadas com base na diminuição média da impureza usando a importância das características da Floresta Aleatória com random_state = 42; no entanto, todas as funcionalidades disponíveis (N = 11) foram mantidas para o treinamento subsequente do modelo. A seleção de características foi aplicada após o pré-processamento e antes da divisão train–test, garantindo um conjunto de recursos fixo em todos os modelos.

Treinamento em modelos e construção de conjuntos
O conjunto de dados foi dividido em subconjuntos de treinamento e teste usando uma proporção de divisão 80:20 com a função train_test_split(). Os dados de treinamento foram usados exclusivamente para desenvolvimento de modelos e construção de conjuntos, enquanto os dados de teste foram reservados para avaliação de desempenho. Classificadores base, incluindo Decision Tree, Random Forest, AdaBoost e XGBoost, foram treinados no conjunto de dados de treinamento usando as configurações padrão de hiperparâmetro, salvo especificação em contrário.

Modelos de votação rígida e conjunto de votação suave foram construídos usando o VotingClassifier, com pesos iguais atribuídos a todos os classificadores base para garantir uma comparação objetiva. Um modelo de conjunto empilhante foi implementado usando a Regressão Logística como meta-classificador. O meta-classificador foi treinado com previsões fora de dobra geradas por meio da validação cruzada 5 vezes dos classificadores base, o que reduziu o sobreajuste e permitiu uma estimativa imparcial do desempenho do conjunto.

Modelo proposto
O framework de conjunto proposto foi implementado para construir um classificador composto usando múltiplas estratégias de aprendizado em conjunto. Todos os dados de treinamento foram padronizados, e etapas idênticas de pré-processamento foram aplicadas aos dados de teste para garantir consistência entre as fases de treinamento e avaliação. Classificadores base foram integrados usando votação rígida, votação suave e mecanismos de empilhamento, e o meta-classificador de empilhamento foi treinado usando Regressão Logística em previsões validadas cruzadamente. A arquitetura geral e o fluxo de dados do conjunto de estruturas (Figura 5).

Figura 5: Arquitetura do Modelo Proposto. Por favor, clique aqui para ver uma versão ampliada desta figura.

Nível I:
No Nível I do framework de ensemble, quatro classificadores base — Random Forest, Decision Tree, XGBoost e AdaBoost — foram treinados usando o conjunto de dados de treinamento escalonado. Esses classificadores base foram combinados para construir modelos de conjunto de votação rígida e de votação suave. Pesos iguais foram atribuídos a todos os classificadores base para manter a objetividade e evitar viés decorrente da afinação diferencial de peso durante a construção do conjunto.

Nível II:
No Nível II, um classificador de conjunto de empilhamento foi implementado combinando previsões geradas pelos classificadores base. Os classificadores base foram treinados usando validação cruzada 5-vezes e previsões fora de dobra foram geradas para cada dobra. Essas previsões fora do dobra foram então usadas como características de entrada para treinar um meta-classificador de Regressão Logística, reduzindo assim o sobreajuste e permitindo uma estimativa imparcial do desempenho do conjunto.

Results

Esta seção apresenta os efeitos do pré-processamento de dados e da seleção de características, compara o desempenho de classificadores individuais e de conjunto e resume os resultados de benchmarking entre métricas padrão de avaliação. Pré-processamento de dados, incluindo remoção de valores ausentes, balanceamento de classes e escalonamento de características, produziu distribuições de entrada consistentes entre todos os classificadores. Modelos treinados com dados pré-processados apresentaram menor variabilidade no des...

Discussion

Este estudo demonstra que a aprendizagem em conjunto baseada em empilhamento alcançou consistentemente desempenho superior e mais estável na classificação em comparação com classificadores individuais e conjuntos baseados em votação sob condições padronizadas de pré-processamento e benchmarking.

A consistência do desempenho em conjunto observada neste estudo reforça a importância do rigor metodológico na pesquisa comparativa de aprendizado^{de ...}

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
AdaBoostClassifier	scikit-learn Desenvolvedores	N/A	Classificador de reforço de conjunto usado para benchmarking
Caderno Jupyter	Projeto Júpiter	N/A	Ambiente de notebook computacional
Registro de Estatísticas do Coração de Kaggle (Cleveland– Hungria) Conjunto de Dados	Kaggle	N/A	Conjunto de dados cardiovasculares públicos (1190 casos, 11 recursos). URL: https://www.kaggle.com/datasets/sid321axn/heart-statlog-cleveland-hungary-final
Regressão Logística	scikit-learn Desenvolvedores	N/A	Meta-classificador usado em conjunto de empilhamento
Matplotlib	Equipe de Desenvolvimento Matplotlib	N/A	Biblioteca de visualização de dados
NumPy	Desenvolvedores NumPy	N/A	Biblioteca de computação numérica
pandas (Versão 1.5.3)	Equipe de Desenvolvimento do Pandas	N/A	Pré-processamento e manuseio de dados
Python (Versão 3.9)	Fundação de Software Python	N/A	Ambiente de programação usado para implementação
RandomForestClassifier	scikit-learn Desenvolvedores	N/A	Computação de classificador base e importância de características
Seaborn	Equipe de Desenvolvimento Seaborn	N/A	Visualização de mapa de calor da matriz de correlação
StandardScaler	scikit-learn Desenvolvedores	N/A	Função de escalonamento de características
Classificador de Votação	scikit-learn Desenvolvedores	N/A	Implementação de conjunto de votação dura e soft
XGBoostClassifier	DMLC	N/A	Classificador de gradiente de aumento usado como aprendiz base