$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Recogida de datos
Este estudio utilizó el conjunto de datos de predicción de aprobación de préstamos disponible en Kaggle. El conjunto de datos se extrajo en febrero de 2025 y consta de 4269 registros destinados a evaluar los datos de préstamos y pronosticar los resultados de la aprobación de préstamos. Incluye 12 columnas que comprenden información detallada sobre los perfiles demográficos de los solicitantes, como la situación laboral, los dependientes, los trabajadores por cuenta propia, el monto del préstamo, el plazo del préstamo, los puntajes CIBIL, los antecedentes financieros y los atributos específicos del préstamo. El conjunto de datos se importó utilizando la biblioteca Pandas y se inspeccionó visualmente usando df.head () para comprender su estructura y calidad.
Preprocesamiento de datos
Durante la fase de preprocesamiento de datos, el primer paso consistió en eliminar la columna de identificación (loan_id) debido a su falta de valor predictivo y potencial para introducir ruido en el modelo. El segundo paso involucró la codificación de etiquetas, donde las variables categóricas como educación, trabajadores por cuenta propia y loan_status se convirtieron en representaciones numéricas. Esta transformación se realizó utilizando Label Encoder del módulo sklearn.preprocessing. Específicamente, la educación se codificó como 0 para Graduado y 1 para No Graduado; self_employed como 0 para No y 1 para Sí, y loan_status, la variable objetivo, como 0 para No aprobado y 1 para Aprobado. Estas conversiones fueron necesarias para garantizar la compatibilidad con los modelos de aprendizaje automático, que requieren entradas numéricas, particularmente para aplicaciones de préstamos digitales. Las características se separaron de la variable de destino usando X=df.drop (["loan_status"], axis=1) e y=df ["loan_status]. Esta configuración proporcionó una base integral para examinar los factores que influyen en las decisiones de aprobación de préstamos utilizando registros históricos de préstamos para entrenar múltiples modelos de aprendizaje automático de conjuntos. Estos modelos estaban destinados a mejorar la precisión y la solidez generales mediante la combinación de las fortalezas predictivas de múltiples clasificadores.
Luego, el conjunto de datos procesado se dividió en subconjuntos de entrenamiento y prueba utilizando la función train_test_split de sklearn.model_selection, con el 80% de los datos utilizados para el entrenamiento y el 20% reservados para pruebas. Esto aseguró que el modelo se entrenara con una parte suficientemente grande de los datos mientras se conservaba una muestra representativa para la evaluación del desempeño. Con el conjunto de datos limpio, estructurado y explorado estadísticamente, se sentaron las bases para la implementación de un marco sólido de aprendizaje automático destinado a mejorar la precisión predictiva en la clasificación de aprobación de préstamos. El desarrollo del modelo se llevó a cabo utilizando cuatro algoritmos de aprendizaje automático basados en conjuntos: Gradient Boosting Model, AdaBoost, Efficient Gradient Boosting Model y Extra Trees Classifier. Estos fueron seleccionados por su desempeño comprobado en tareas de clasificación que involucran datos tabulares estructurados. Se creó una instancia del clasificador de modelos de aumento de gradiente, implementado desde la biblioteca de modelos de aumento de gradiente, con la configuración predeterminada (iteraciones = 1000, tasa de aprendizaje = 0.1, profundidad = 6, verbosa = Falso). Fue entrenado usando. ajuste (x_train, y_train) y evaluado con .predict (X_test). Aunque el modelo de aumento de gradiente controla automáticamente la codificación de datos categóricos, esta característica no se utilizó porque los datos ya se habían codificado en etiquetas. El clasificador AdaBoost (Adaptive Boosting, que mejora a los estudiantes débiles) se implementó utilizando sklearn-ensemble. El clasificador AdaBoost se configuró con n_estimators=100 y learning_rate=1.0, utilizando muñones de decisión como estimador base predeterminado. Se entrenó y evaluó de manera similar, contribuyendo a la solidez a través de la ponderación iterativa de instancias mal clasificadas. El Efficient Gradient Boosting, implementado a través de la biblioteca Efficient Gradient Boosting Model (LGBMClassifier), se configuró con n_estimators=100, learning_rate=0.1 y max_depth=-1 (profundidad de árbol sin restricciones). Este modelo, conocido por su velocidad y eficiencia, sobresale particularmente en grandes conjuntos de datos con características de alta dimensión que utilizan árboles de decisión optimizados que aumentan el gradiente.
Finalmente, se utilizó el clasificador ExtraTrees de sklearn.ensemble con n_estimators=100 y criterion="gini" como estrategia de división. A diferencia de Random Forest, Extra Trees introduce una mayor aleatoriedad al seleccionar puntos de corte al azar, lo que ayuda a reducir la varianza del modelo y mejorar la generalización. El conjunto se llevó a cabo utilizando el clasificador de apilamiento de scikit-learn, que mejora la generalización al agregar predicciones de los estudiantes base. Cada modelo se evaluó utilizando métricas de clasificación estándar, incluida la exactitud, la precisión, la puntuación F1, el análisis de errores y la matriz de confusión. Estas métricas se calcularon utilizando funciones del módulo sklearn.metrics para garantizar una comparación de rendimiento estandarizada en todos los modelos.
El modelo con mejor rendimiento (basado en la precisión y la puntuación F1) se guardó para su implementación mediante la biblioteca de Python. dump(model, "best_model.pkl"), lo que garantiza que el modelo entrenado se pueda reutilizar sin necesidad de volver a entrenarlo. Para simular una aplicación del mundo real, se creó una matriz de entrada de muestra que contiene 11 características usando NumPy y se pasó a la función .predict () del modelo. Por ejemplo, el vector de entrada [[0, 1, 1,4100000, 12200000, 8, 417, 2700000, 2200000, 8800000, 3300000]] devolvió una predicción de 1, lo que indica la aprobación del préstamo. Toda la experimentación se llevó a cabo en un entorno Python 3.10 utilizando Google Notebook en Kaggle. El desarrollo y la evaluación del modelo se llevaron a cabo utilizando las bibliotecas scikit-learn (v1.3), Gradient Boosting Model y Efficient Gradient Boosting Model. Todos los hiperparámetros se documentaron explícitamente y los valores predeterminados se indicaron claramente cuando correspondía. Los procedimientos de codificación siguieron el enfoque descrito por Pedregosa y se implementaron en scikit-learn46. Esta metodología integral y transparente garantiza que el protocolo experimental sea totalmente reproducible y se adhiera a rigurosos estándares académicos en la investigación de aprendizaje automático.
La estructura de la metodología sugerida, que abarca la fase de la sección de características de preparación de datos, el entrenamiento del modelo y la evaluación, se muestra en la Figura 1.
Esta investigación presenta un marco de aprendizaje de conjunto de apilamiento que reúne las capacidades de cuatro poderosos clasificadores: Gradient Boosting Model, AdaBoost, Efficient Gradient Boosting Model y Extra Trees para predecir decisiones de aprobación de préstamos basadas en registros financieros históricos. Combinando estrategias de impulso y embolsado dentro de la arquitectura del modelo apilado46. El enfoque supera eficazmente las deficiencias individuales de estos modelos, como el sesgo y la varianza, lo que mejora la precisión de la predicción y la generalización del modelo. Cada alumno base aporta fortalezas únicas El modelo de aumento de gradiente es eficiente con variables categóricas, está diseñado para manejar características categóricas de alta cordialidad y realiza internamente la codificación de objetivos utilizando un aumento ordenado47. Esto evita el ajuste excesivo al garantizar que solo se utilicen datos anteriores en el cálculo de estadísticas. En la fórmula
,
Cada ht (x) representa un árbol de decisión entrenado en residuos del modelo anterior, y nt denota la contribución de aprendizaje específica del paso. AdaBoost o Adaptive Boosting, ajusta el peso de cada instancia durante el entrenamiento y se centra en puntos de datos previamente mal clasificados48. En la fórmula

αt refleja el desempeño del t-ésimo aprendiz débil ht(x), poniendo más énfasis en muestras previamente mal clasificadas. Modelo eficiente de aumento de gradiente Incorpora muestreo unilateral basado en gradiente (GOSS) y agrupación de funciones exclusivas para un rendimiento más rápido. El aumento de gradiente eficiente ofrece alta velocidad y rendimiento en datos a gran escala49.

ft(xi) representa el nuevo árbol de decisión agregado para minimizar la pérdida l(•) mientras que Ω(ft) es un término de regularización . En contraste con los algoritmos de potenciación, Extra Trees reduce la varianza al agregar aleatoriedad en las divisiones del árbol de decisión50. Se basa en los principios de embolsado, pero inyecta aleatoriedad adicional durante la división de nodos en su regla de predicción

Promedia los resultados de M árboles aleatorios entrenados de forma independiente. Para cada división, Árboles adicionales selecciona umbrales aleatorios para las entidades y elige la mejor entre ellas, lo que reduce la varianza y ofrece una gran diversidad entre árboles, lo que mejora la generalización. Estos modelos se integran colectivamente a través de un clasificador de apilamiento, que aprende a combinar de manera óptima sus resultados para decidir si se debe aprobar un préstamo. El marco se evaluó con métricas de clasificación comunes y se probó con muestras de entrada en vivo, lo que demuestra su relevancia práctica en entornos de préstamos digitales51. Estos modelos se combinan colectivamente utilizando un clasificador de apilamiento, que aprende a combinar sus resultados de manera ideal para determinar los resultados de aceptación de préstamos. El rendimiento del modelo se evaluó utilizando medidas de clasificación importantes como exactitud, precisión, recuerdo, puntuación F1 y AUC-ROC, así como una matriz de confusión, para determinar su capacidad para reducir los errores de Tipo I y Tipo II. Para mantener el equilibrio de clases, se utilizó una división estratificada de 80:20 entre el tren y la prueba, con una validación cruzada de 5 veces que garantiza la robustez y reduce la variabilidad de la muestra. Además, el modelo se evaluó en perfiles realistas de solicitantes de préstamos que incluían información como historial crediticio, ingresos, situación laboral y monto del préstamo, lo que arrojó juicios binarios y calificaciones de probabilidad. Esta prueba de dos fases demuestra la eficacia, equidad y practicidad del modelo en contextos de préstamos digitales en tiempo real. La novedad de este trabajo radica en el diseño híbrido del conjunto adaptado a la calificación crediticia, lo que lo convierte en un modelo robusto, interpretable y reproducible para las plataformas financieras modernas52 .