Research Article

Marco de Aprendizaje Inteligente Federado para conjuntos de datos no colocados y heterogéneos

DOI:

10.3791/70175

April 10th, 2026

In This Article

Summary

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Este protocolo describe la implementación de un Marco de Aprendizaje Federado Inteligente para entrenar modelos de aprendizaje automático distribuido a través de conjuntos de datos heterogéneos y no colocados, preservando la privacidad de los datos y permitiendo la interpretabilidad del modelo.

Abstract

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

El aprendizaje federado tiene un potencial significativo para el entrenamiento distribuido de modelos preservando la privacidad, pero se enfrenta a desafíos relacionados con la convergencia, la equidad y la interpretabilidad debido a la heterogeneidad de conjuntos de datos no colocados. Este estudio propone un Marco de Aprendizaje Federado Inteligente (IFLF) para abordar estos desafíos mediante un enfoque adaptativo utilizando una arquitectura multicapa compuesta por capas de Datos, Cliente, Agregación, Adaptación, Optimización e Interpretabilidad.

El marco demuestra convergencia estable bajo distribuciones de datos no IID, con estrategias de agregación que apoyan la optimización equilibrada. El enfoque de modulación por tasa de aprendizaje contribuye a un entrenamiento estable al integrar actualizaciones heterogéneas de los clientes y reducir la divergencia durante la optimización. Se incorporan técnicas de IA explicables, incluyendo SHAP y LIME, para mejorar la transparencia tanto a nivel de cliente como global.

El IFLF se evalúa en cuatro conjuntos de datos de referencia (FEMNIST (visión), FLamby (imagen sanitaria), FedGraphNN (aprendizaje de grafos) y CICIDS2017 (ciberseguridad)). El marco alcanzó una precisión media del 92,8%, con una convergencia más rápida y una menor variabilidad del rendimiento entre clientes.

Introduction

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

El rápido aumento de datos distribuidos que provienen de dispositivos móviles, sistemas sanitarios, sensores industriales e infraestructuras ciberfísicas ha incrementado la necesidad de técnicas colaborativas de aprendizaje automático que también preserven la privacidad de los datos. Los métodos convencionales de aprendizaje automático se basan en la consolidación centralizada de datos, en la que conjuntos de datos de diferentes fuentes se recopilan y almacenan en un único repositorio. Aunque este enfoque facilita el entrenamiento de modelos, plantea preocupaciones relacionadas con la privacidad de datos, el cumplimiento normativo y la carga general de comunicación. El aprendizaje federado (FL) ha sido reconocido como un enfoque prometedor que permite a múltiples clientes entrenar conjuntamente un modelo global sin revelar sus datoslocales 1. En este esquema de aprendizaje descentralizado, los clientes entrenan modelos locales y solo las actualizaciones de modelos se comparten con un servidor central. Este enfoque reduce los riesgos de privacidad y permite el desarrollo colaborativo de modelos en entornosdistribuidos 2,3.

No obstante, el aprendizaje federado se enfrenta a limitaciones en su despliegue práctico. Uno de los principales retos es la heterogeneidad estadística, donde los conjuntos de datos de clientes siguen diferentes distribuciones. Las distribuciones de datos no IID afectan significativamente la estabilidad de convergencia y la generalización del modelo en optimizaciónfederada 4. Para abordar este problema, se han propuesto varios métodos. FedProx introduce un término de regularización proximal para estabilizar la formación entre clientesheterogéneos 5. FedNova ajusta las inconsistencias objetivas derivadas de una participación desequilibradade los clientes 6. Además, se han propuesto estrategias de optimización adaptativa en el lado del servidor para mejorar la convergencia7, mientras que SCAFFOLD utiliza técnicas de reducción de varianza para mitigar la deriva del cliente durante la optimizacióndistribuida 8.

Estudios recientes han explorado técnicas de agrupamiento y personalización para abordar la heterogeneidad en entornos federados. Los frameworks de aprendizaje federado agrupan a los clientes con distribuciones de datos similares para mejorar la consistencia del entrenamiento y el rendimiento delmodelo 9,10. Métodos personalizados de aprendizaje federado como Ditto y FedAMP buscan equilibrar el rendimiento global del modelo con la adaptación específica delcliente 11,12. De manera similar, métodos como pFedMe y Per-FedAvg utilizan un ajuste fino basado en regularización para la adaptación a nivelde cliente 13,14. Otros enfoques, incluyendo FedRep y FedRoD, separan representaciones globales y específicas de clientes para la formación federadaindependiente 15,16.

Otro desafío en el aprendizaje federado es la heterogeneidad de los recursos y la escalabilidad del sistema. En sistemas distribuidos a gran escala, los clientes suelen tener capacidades computacionales y anchos de banda de comunicación variables. FedBN aborda la heterogeneidad de la distribución de características mediante la normalización local porlotes 17. Los marcos de aprendizaje federado basados en niveles organizan a los clientes en niveles jerárquicos de formación para gestionar diferencias de recursos18. Estrategias de selección de clientes como HACCS y Oort mejoran la eficiencia del sistema al priorizar a los participantes fiables durante laformación 19,20. Plataformas de benchmarking como FedScale permiten la evaluación a gran escala de algoritmos de aprendizajefederado 21.

La eficiencia de la comunicación es otra preocupación clave en el aprendizaje federado, dado el frecuente intercambio de actualizaciones de modelos entre clientes distribuidos. Los enfoques existentes incluyen estrategias de entrenamiento eficientes en la comunicación, como el promediado periódico y la cuantizaciónde modelos 22, así como técnicas de compresión de modelos. La destilación del conocimiento reduce el coste de comunicación al transferir representaciones compactas mientras preserva el rendimiento23. Otros enfoques incluyen reducir la participación del cliente y aplicar técnicas de compresión dentro de la formacióndistribuida 24. Métodos de optimización como Quped y FetchSGD abordan aún más los retos de comunicación y eficiencia dememoria 25,26.

Más allá de la optimización y la comunicación, la interpretabilidad se ha convertido en un aspecto importante de los sistemas de aprendizaje federado. Métodos de inteligencia artificial explicable (XAI) como SHAP y LIME proporcionan explicaciones a nivel de características para las predicciones de modelos. Estas técnicas ayudan a comprender el comportamiento del modelo en dominios críticos como la sanidad y la ciberseguridad2, 7,2, 8. Estudios recientes destacan que integrar la explicabilidad en los sistemas de aprendizaje federado mejora la transparencia y la fiabilidad2 9,30.

Este estudio propone un Marco de Aprendizaje Inteligente Federado (IFLF) para mejorar la estabilidad de la convergencia, la equidad, la eficiencia de la comunicación y la interpretabilidad en entornos federados heterogéneos. El marco integra agregación basada en la fiabilidad, mecanismos de optimización adaptativa y técnicas de IA explicables dentro de una arquitectura unificada.

El marco está estructurado como un sistema multicapa compuesto por capas de Datos, Cliente, Agregación, Adaptación, Optimización e Interpretabilidad. La agregación inteligente incorpora métricas de fiabilidad y similitud del cliente para determinar ponderaciones adaptativas. Un mecanismo adaptativo de modulación de la tasa de aprendizaje permite una optimización estable entre distribuciones heterogéneas de clientes. Los componentes de interpretabilidad proporcionan explicaciones de las predicciones de modelos en entornos distribuidos.

Este estudio investiga el impacto de la agregación inteligente, la modulación adaptativa de la tasa de aprendizaje y los mecanismos de interpretabilidad en entornos de aprendizaje heterogéneos y federados. Evalúa cómo las estrategias de agregación influyen en la estabilidad de la convergencia y el rendimiento del modelo, cómo la modulación adaptativa de la tasa de aprendizaje apoya el entrenamiento bajo heterogeneidad de datos y cómo las técnicas de interpretabilidad mejoran la transparencia del modelo. El propuesto Marco de Aprendizaje Federado Inteligente está estructurado en cinco capas: Capa de Datos, Capa de Cliente, Capa de Agregación, Capa de Adaptación y Optimización, y Capa de Interpretabilidad, permitiendo una formación federada eficiente y estable en entornos distribuidos. La evaluación considera aspectos clave del rendimiento, incluyendo el comportamiento de convergencia, la equidad, la eficiencia de la comunicación y la interpretabilidad, utilizando múltiples conjuntos de datos de referencia.

Los clientes distribuidos realizan entrenamiento local sobre conjuntos de datos privados y transmiten actualizaciones cifradas de modelos a un servidor central. El servidor evalúa la fiabilidad y similitud del cliente, calcula los pesos de agregación y actualiza el modelo global. El ajuste adaptativo de la tasa de aprendizaje apoya una convergencia estable, y los métodos de IA explicables proporcionan resultados interpretables. El resto de este artículo está organizado de la siguiente manera. La sección de Trabajo Relacionado revisa los avances recientes en el aprendizaje heterogéneo y federado. La sección de Protocolo describe la implementación del marco propuesto. La sección de Resultados presenta hallazgos experimentales y la Discusión expone las implicaciones y las direcciones futuras.

TRABAJO RELACIONADO
Estudios recientes han abordado el aprendizaje federado heterogéneo a través de diversas modalidades de datos y dominios de aplicación. Los enfoques de aprendizaje federado guiados por prototipos permiten la colaboración entre instituciones distribuidas compartiendo prototipos representativos en lugar de datosen bruto 31. FedGraphNN proporciona una plataforma de benchmarking para evaluar algoritmos de aprendizaje federado en la configuración32 de redes neuronales de grafos. OpenFGL soporta benchmarking a gran escala en los escenarios de aprendizajefederado 33. FLamby ofrece conjuntos de datos sanitarios multi-silos para aprendizaje federado bajo estrictas restricciones de privacidad34.

También se han desarrollado marcos a nivel de sistema para soportar despliegues escalables de aprendizaje federado. Flower proporciona una infraestructura flexible para implementar y evaluar algoritmos de aprendizaje federado en entornosdistribuidos 35. Se han propuesto métodos de destilación dinámica para mejorar el rendimiento del modelo bajo distribuciones de datosheterogéneas 36. Además, los estudios de encuestas ponen de relieve los principales desafíos relacionados con la heterogeneidad, la escalabilidad y la interpretabilidad en sistemas de aprendizajefederados 37. Estos trabajos enfatizan colectivamente la necesidad de marcos unificados que integren agregación adaptativa, estrategias de optimización y mecanismos de interpretabilidad para un aprendizaje federado robusto en aplicaciones del mundo real.

Access restricted. Please log in or start a trial to view this content.

Protocol

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Resumen
Se desarrolló un Marco de Aprendizaje Inteligente Federado (IFLF) para gestionar de manera eficiente la heterogeneidad de datos y sistemas en entornos no colocados. La arquitectura del sistema constaba de cinco capas: la Capa de Datos, la Capa Cliente, la Capa de Agregación, la Capa de Adaptación y Optimización, y la Capa de Interpretabilidad. Los módulos se desplegaron sobre una configuración de computación distribuida con un servidor central de agregación y múltiples nodos cliente. Se usaban conexiones seguras por socket (SSL/TLS) para la comunicación entre nodos y así garantizar la privacidad e integridad de los datos. El siguiente procedimiento se utilizó para preparar conjuntos de datos, establecer la arquitectura, realizar formación federada y evaluar la interpretabilidad.

Configuración del entorno computacional
El entorno computacional se configuró instalando los marcos de software necesarios para implementar el marco de aprendizaje federado. Python se utilizó como el lenguaje de programación principal para el desarrollo y experimentación de modelos. Se instalaron bibliotecas de aprendizaje automático, incluyendo TensorFlow o PyTorch, para el entrenamiento de redes neuronales, junto con bibliotecas adicionales como NumPy, Scikit-learn y Pandas para el preprocesamiento y análisis de datos. Se instalaron bibliotecas de aprendizaje federadas como Flower o PySyft para simular entornos de cliente distribuidos. El entorno informático se configuraba en una estación de trabajo equipada con aceleración GPU, cuando estaba disponible. Todos los clientes y el servidor de agregación estaban configurados para comunicarse mediante conexiones de socket seguras (SSL/TLS). Se verificó que todos los conjuntos de datos requeridos eran accesibles dentro del almacenamiento local de cada nodo cliente antes de iniciar el entrenamiento federado. Los marcos de software, conjuntos de datos y entorno computacional necesarios para reproducir el protocolo se resumen en la Tabla de Materiales.

Inicialización de nodos federados
El servidor central de agregación se configuró usando el marco de aprendizaje federado Flower. El servidor de agregación se inició usando el siguiente comando:

Python server.py --redondeas 100 --clientes 10 --secure_connection Verdadero

Los nodos cliente individuales se lanzaban en terminales o entornos informáticos separados usando el siguiente comando:
Python client.py --client_id 01

La comunicación segura por socket se configuraba generando certificados SSL/TLS usando el toolkit OpenSSL.
openssl req -x509 -newkey rsa:4096 -keyout key.pem -out cert.pem -days 365

La comunicación segura entre el servidor y los clientes se habilitaba especificando las rutas de los certificados en el archivo de configuración. La conectividad se verificó ejecutando una ronda de comunicación de prueba antes de iniciar el proceso de entrenamiento federado.

Preparación y descripción del conjunto de datos
Se seleccionaron conjuntos de datos públicos representativos para evaluar el rendimiento en diferentes dominios y modalidades de datos. FEMNIST es una base de datos avanzada de MNIST para el reconocimiento de caracteres manuscritos, que contiene 62 clases (A–Z, a–z, dígitos 0–9), donde cada cliente representa los datos de un escritor, induciendo distribuciones naturales no IID. FLamby es un referente de imagen médica compuesto por diferentes conjuntos de datos médicos trans-silos (por ejemplo, resonancia magnética cardíaca, imágenes histopatológicas), donde cada hospital o institución actúa como un cliente federado. FedGraphNN es un benchmark para redes neuronales de grafos que cubre tareas como redes de citas, clasificación de moléculas y grafos sociales, donde los clientes contienen diferentes subgrafos o características de nodos. CICIDS2017 es un conjunto de datos de ciberseguridad para la detección de intrusiones con más de 80 características de flujo de tráfico de red a través de tipos de ataques como DDoS, PortScan y Botnet, donde cada cliente representa un dominio o sensor de red separado.

Estadísticas del conjunto de datos
Se resumieron las características clave de los conjuntos de datos utilizados en los experimentos para asegurar la reproducibilidad del sistema de aprendizaje federado. FEMNIST contiene aproximadamente 805.263 muestras de caracteres manuscritos distribuidas entre 3.550 escritores, con 62 clases que representan mayúsculas, minúsculas y dígitos, y cada cliente corresponde a un solo escritor con aproximadamente 200–300 muestras de media. FLamby proporciona conjuntos de datos sanitarios transversales y, en este estudio, el conjunto de datos de imagen médica contiene aproximadamente 20.000 muestras recogidas de varios hospitales, donde cada hospital actúa como un cliente federado independiente. FedGraphNN incluye múltiples conjuntos de datos de aprendizaje de grafos, como redes de citas y grafos moleculares, que normalmente contienen miles de nodos y aristas con vectores de características nodosales que varían entre 50 y 500 dimensiones según la tarea. CICIDS2017 contiene aproximadamente 2,8 millones de flujos de tráfico de red con 80 características estadísticas extraídas de paquetes de red e incluye múltiples categorías de ataque como tráfico DDoS, PortScan y Botnet, donde cada cliente federado representa un entorno de red o sensor de monitorización diferente. Los conjuntos de datos utilizados en este estudio se publicaron entre 2017 y 2023 y están disponibles públicamente para la investigación en aprendizaje federado. Las características estadísticas de los conjuntos de datos utilizados en los experimentos se resumen en la Tabla 1.

Conjunto de datosDominioMuestrasCaracterísticasClasesClientesAño de lanzamiento
FEMNISTVisión (caracteres manuscritos)8,05,263Píxeles de imagen (28×28)623,5502017
FLambyImagen sanitaria~20.000Características de la imagenBinario / multiclase52023
FedGraphNNAprendizaje de grafos~10k–100k nodosCaracterísticas de nodos 50–500Dependiente de la tarea72021
CICIDS2017Ciberseguridad~2,8 millones de caudales80Clases de ataque múltiples102017

Tabla 1: Resumen de los conjuntos de datos utilizados en los experimentos del Marco de Aprendizaje Inteligente Federado. La tabla resume las características de los conjuntos de datos utilizados en este estudio, incluyendo el dominio de aplicación, el número total de muestras, el número de características, el número de clases, el número de clientes federados y el año de publicación del conjunto de datos. Estas estadísticas ofrecen una visión general de las modalidades de datos heterogéneas utilizadas para evaluar el marco.

Heterogeneidad a nivel de cliente
La heterogeneidad a nivel de cliente se introdujo mediante la partición de conjuntos de datos. Aunque se utilizaron cuatro conjuntos de datos de diferentes dominios para la evaluación, se introdujo heterogeneidad dentro de cada conjunto federado mediante la partición a nivel cliente. Cada conjunto de datos se dividió entre varios clientes, resultando en distribuciones locales de datos no idénticas (no IID). Se asignaron diferentes subconjuntos de muestras o clases a clientes individuales para simular condiciones de aprendizaje federadas realistas, representando la heterogeneidad estadística dentro de cada conjunto de datos. Aproximadamente entre el 5 y el 10% del conjunto total de datos se asignó a cada cliente, manteniendo el desequilibrio de clases para emular entornos federados no IID reales. El término conjuntos de datos heterogéneos en este estudio se refiere a la heterogeneidad estadística a nivel de cliente, más que a diferencias entre conjuntos de datos experimentales independientes. Los conjuntos de datos de referencia mostraron diferentes formas de heterogeneidad estadística, incluyendo variaciones en estilos de escritura individuales en FEMNIST, diferencias en protocolos de imagen y demografía de pacientes en los conjuntos de datos FLamby, variaciones estructurales en los conjuntos de datos de FedGraphNN y diversos patrones de tráfico de red en CICIDS2017, creando colectivamente distribuciones realistas de datos no IID que desafían algoritmos de optimización federada.

Preprocesamiento específico de conjunto de datos
Se realizaron operaciones de preprocesamiento específicas de conjunto de datos para estandarizar los formatos de entrada antes del entrenamiento federado. Para FEMNIST, las imágenes de caracteres manuscritas se convertían a escala de grises, se redimensionaban a 28×28 píxeles y se normalizaban al intervalo [0, 1], eliminando muestras corruptas o incompletas y codificando etiquetas de clase one-hot, y las muestras organizadas por IDs de escritor para que cada escritor correspondiera a un cliente federado. Para FLamby, las imágenes médicas se redimensionaron a 224×224 píxeles, se normalizaron usando media y desviación estándar específicas de cada conjunto, se aumentaron mediante técnicas como el cambio horizontal, la rotación y el ajuste de contraste, y se particionaron según identificadores hospitalarios. Para FedGraphNN, las estructuras de grafos se construyeron definiendo características de nodos, matrices de adyacencia y relaciones de borde, los vectores de características de nodos se normalizaron, los datos de grafos se convirtieron en representaciones de adyacencia dispersas y los grafos se particionaron entre clientes como subgrafos. Para CICIDS2017, se eliminaron los registros duplicados, se imputaron valores faltantes con la media, se codificaron características categóricas, se aplicó la normalización de características y se equilibró el tráfico benigno y de ataque usando muestreo estratificado. Cada conjunto de datos del cliente se dividió en subconjuntos de 80% de entrenamiento, 10% de validación y 10% de pruebas, asegurando que se preservaran las distribuciones de clase. Los conjuntos de datos cliente se almacenaban en carpetas separadas (Client_01, Client_02, ...), y el acceso a nodos locales se restringió por motivos de privacidad.

Arquitectura del Marco de Aprendizaje Inteligente Federado (IFLF)
El Marco de Aprendizaje Federado Inteligente se organizó en una arquitectura de cinco capas que consiste en la Capa de Datos, la Capa de Cliente, la Capa de Agregación, la Capa de Adaptación y Optimización, y la Capa de Interpretabilidad, como se ilustra en la Figura 1. Las capas arquitectónicas estaban diseñadas para transmitir la información de forma secuencial. Tras preparar y particionar conjuntos de datos heterogéneos según la propiedad del cliente, la Capa de Datos transmitía información a la Capa de Cliente, donde se entrenaban modelos locales y se generaban actualizaciones de modelos. Estas actualizaciones se enviaban a la Capa de Agregación, donde las métricas de fiabilidad y similitud guiaban la agregación de las contribuciones ponderadas de los clientes. La Capa de Adaptación y Optimización aseguraba un proceso global de entrenamiento fluido variando los parámetros de la tasa de aprendizaje de acuerdo con la varianza del gradiente. Finalmente, la Capa de Interpretabilidad utilizó métodos explicables de inteligencia artificial como SHAP y LIME para interpretar el modelo global y producir explicaciones de predicciones.

Figura 1
Figura 1. Arquitectura del Marco de Aprendizaje Inteligente Federado. El marco se divide en cinco capas: Datos, Cliente, Agregación, Adaptación y Optimización, y Interpretabilidad. Los datos de clientes heterogéneos no colocados se procesan, agregan localmente en función de la fiabilidad y similitud, se optimizan adaptativamente e interpretan usando SHAP o LIME. Las flechas indican la comunicación iterativa entre los clientes y el servidor central que forman el bucle de aprendizaje federado. Por favor, haz clic aquí para ver una versión ampliada de esta figura.

Capa de datos
Los conjuntos de datos se dividían según los requisitos de propiedad del cliente y privacidad, manteniendo ubicaciones de almacenamiento dedicadas para cada cliente. Se aplicaron diferentes pipelines de preprocesamiento y se normalizaron las características para asegurar formatos de entrada estandarizados entre dominios.

Capa cliente
Se configuraron clientes distribuidos que representaban dispositivos, organizaciones o instituciones, cada uno recibiendo una copia idéntica del modelo global inicializada con los mismos parámetros. El entrenamiento local se realizó utilizando conjuntos de datos específicos del cliente con métodos de optimización como el descenso de gradiente estocástico o Adam, mientras que solo se comunicaron parámetros o gradientes del modelo para preservar la privacidad de los datos.

Capa de agregación
Una unidad central de agregación recibía actualizaciones cifradas de modelos de todos los clientes y evaluaba su fiabilidad y similitud antes de la agregación. Se utilizaron puntuaciones de fiabilidad basadas en el rendimiento de validación para determinar la importancia de las actualizaciones del cliente, y la similitud entre actualizaciones se evaluó mediante métodos como el agrupamiento o la similitud coseno. Se realizó agregación ponderada y el modelo global actualizado se redistribuyó a los clientes.

Capa de adaptación y optimización
Los parámetros de optimización se ajustaron dinámicamente en función del progreso de la formación entre los clientes. Se programaron tasas de aprendizaje para reducir la varianza de actualización, y se aplicaron técnicas adicionales como la regularización proximal y el ponderado adaptativo para mitigar la deriva del cliente y mejorar la estabilidad de convergencia.

Capa de interpretabilidad
Se utilizaron métodos explicables de inteligencia artificial como SHAP y LIME para generar puntuaciones de atribución de características y explicaciones de modelos. Los resultados incluyeron clasificaciones de importancia de características, mapas de atribución y explicaciones visuales, que se interpretaron en el contexto del conocimiento específico del dominio para garantizar la transparencia.

Entrenamiento federado
El Marco de Aprendizaje Federado Inteligente se implementó mediante la inicialización del modelo global en el servidor central de agregación, seguido de la definición de los hiperparámetros de entrenamiento, incluyendo la tasa de aprendizaje, rondas de comunicación y épocas locales. Los parámetros globales del modelo se distribuyeron a todos los clientes, quienes luego realizaron entrenamiento local utilizando sus conjuntos de datos privados. Se calculaban la pérdida local de entrenamiento y la precisión de validación, y se generaban y cifraban actualizaciones de modelos antes de la transmisión al servidor de agregación. La fiabilidad de las actualizaciones del cliente se evaluó en función del rendimiento de validación utilizando la Ecuación 1.

Ecuación 1 (1)

Donde Acci representa la precisión de validación del cliente i.

La similitud entre las actualizaciones del cliente se calculó usando similitud coseno de vectores de gradiente, tal como se define en la Ecuación 2.

Ecuación 2(2)

Donde gi y g j representan los vectores de gradiente de diferentes clientes.

Los pesos de agregación adaptativa se calcularon combinando puntuaciones de fiabilidad y similitud, tal como se define en la Ecuación 3.

Ecuación 3(3)

El peso de agregación adaptativa para cada cliente se determinó combinando puntuaciones de fiabilidad y similitud. La métrica de fiabilidad reflejaba la precisión de validación del modelo cliente local, mientras que la métrica de similitud medía la similitud coseno entre las actualizaciones de gradiente del cliente.

Por tanto, el peso de agregación wi priorizó a clientes que demostraran un rendimiento fiable en la validación y que mostraran direcciones de actualización consistentes con el objetivo global de optimización.

Los pesos normalizados aseguraban que la contribución total de todos los clientes participantes sumara uno, manteniendo así la estabilidad en la actualización global del modelo.

Los pesos se normalizaron de tal forma que Ecuación 4.

Actualización global del modelo
Los modelos de cliente se agregaron mediante un promedio ponderado, como se muestra en la Ecuación 4.

Ecuación 5(4)

Donde Mi representa los parámetros locales del cliente i.

Los parámetros actualizados del modelo global se transmitieron a todos los clientes.

Modulación adaptativa de la velocidad de aprendizaje
Se monitorizó la variación de los gradientes de clientes entre rondas de comunicación. La tasa de aprendizaje se ajustó dinámicamente según la Ecuación 5.

Ecuación 6(5)

Donde Var(g) representa la varianza del gradiente entre clientes.

La tasa de aprendizaje actualizada se aplicó durante el siguiente ciclo local de formación. La tasa de aprendizaje adaptativo fue controlada por el servidor central de agregación y aplicada globalmente en todos los clientes durante las rondas de entrenamiento posteriores. Este ajuste global aseguró un comportamiento de optimización consistente teniendo en cuenta la variación en las actualizaciones del cliente. Como la modulación de la tasa de aprendizaje se realizaba a nivel de servidor, todos los clientes participantes recibían la tasa de aprendizaje actualizada junto con los parámetros del modelo global de difusión.

Evaluación del rendimiento del aprendizaje por parte de federación
La precisión global del modelo se evaluó utilizando el conjunto de datos agregado de pruebas, como se muestra en la Ecuación 6.

Ecuación 7(6)

Donde TP representa el número de predicciones verdaderosamente positivas, TN representa predicciones verdadeiramente negativas, FP representa predicciones falsas positivas y FN representa predicciones falsas negativas

La equidad entre clientes se midió calculando la varianza de precisión del cliente.

El coste de comunicación se calculaba como el número total de parámetros del modelo transmitidos entre los clientes y el servidor de agregación a lo largo de todas las rondas de comunicación. Por tanto, se estimó la sobrecarga total de comunicación como se muestra en la Ecuación 7.

Ecuación 8(7)

Donde R es el número de rondas de comunicación, C es el número de clientes y S representa el tamaño del modelo.

El análisis de interpretabilidad del modelo se realizó utilizando SHAP para calcular puntuaciones globales de importancia de características y LIME para generar explicaciones locales para predicciones individuales. Los resultados de atribución de características se visualizaron para interpretar el comportamiento del modelo.

Resolución de problemas
La convergencia inestable se produjo cuando los conjuntos de datos de clientes eran altamente heterogéneos o contenían distribuciones de clases extremadamente desequilibradas. En tales casos, las épocas de entrenamiento local se redujeron o la tasa inicial de aprendizaje disminuyó para estabilizar las actualizaciones del gradiente. Las distribuciones de clientes altamente sesgadas llevaron a la dominancia de un pequeño número de clientes durante la agregación, lo cual se mitigó ajustando el umbral de ponderación de fiabilidad o aumentando la diversidad de participación de los clientes. La participación poco fiable del cliente causada por interrupciones en la red interrumpía las rondas de comunicación; por lo tanto, se habilitó la participación parcial, lo que permitió al servidor de agregación continuar con las actualizaciones disponibles del cliente. El fallo en la interpretabilidad o la atribución inconsistente de características surgió cuando los modelos se sobreregularizaron o entrenaron con datos insuficientes, y se verificaron los pasos de preprocesamiento de datos asegurándose que se generaran explicaciones SHAP o LIME tras la convergencia del modelo.

La secuencia iterativa de inicialización del modelo, entrenamiento local, agregación inteligente, optimización adaptativa y análisis de interpretabilidad se representa en la Figura 2, que representa el flujo de trabajo general del Marco de Aprendizaje Inteligente Federado (IFLF).

Figura 2
Figura 2. Flujo de trabajo del Marco de Aprendizaje Inteligente Federado. La figura muestra el ciclo iterativo de fases, incluyendo inicialización, entrenamiento local, agregación, optimización adaptativa e interpretabilidad, ilustrando la operación de extremo a extremo del marco. Por favor, haz clic aquí para ver una versión ampliada de esta figura.

Evaluación del desempeño
Se calcularon métricas globales y locales, incluyendo precisión, exactitud, recuerdo y puntuación F1. La equidad se midió mediante la variación de la precisión del cliente local. La eficiencia de la comunicación se examinó como el tamaño de los datos transferidos por ronda. El rendimiento del modelo se evaluó frente a las líneas base federadas típicas como FedAvg, FedProx y FedOpt. Los resultados se presentaron utilizando curvas de convergencia, matrices de confusión y gráficos de interpretabilidad. Se almacenaron todos los entornos experimentales, registros y puntos de control para garantizar la reproducibilidad.

Resumen del flujo de trabajo
El ciclo IFLF se llevó a cabo mediante entrenamiento local repetido continuamente, agregación inteligente, optimización adaptativa y análisis de interpretabilidad. La privacidad de los datos se mantenía manteniendo los datos en nodos locales mientras se permitía la mejora colaborativa del modelo. Estos pasos incorporaron mecanismos para abordar la equidad, la transparencia y el rendimiento entre clientes no colocados.

Access restricted. Please log in or start a trial to view this content.

Results

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Resumen
Todos los resultados experimentales reportados en este estudio se promediaron en cinco ejecuciones independientes con diferentes inicializaciones aleatorias y configuraciones de muestreo de clientes para asegurar la robustez. Las métricas de rendimiento, incluyendo precisión, exactitud, recuerdo y puntuación F1, se presentan como media ± desviación estándar. La desviación estándar observada entre etapas se mantuvo dentro de un rango pequeño (típicamente ±0,5% a ±1,2%), lo que indica un desempe...

Access restricted. Please log in or start a trial to view this content.

Discussion

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

El propuesto Marco de Aprendizaje Inteligente Federado (IFLF) aborda los desafíos en el aprendizaje federado que surgen de entornos heterogéneos y distribuidos. La evaluación sistemática en cuatro conjuntos de datos indica que combinar agregación y optimización adaptativa mejora la estabilidad de convergencia y el rendimiento global del modelo. Al incorporar la fiabilidad y similitud del cliente en el proceso de agregación, el marco reduce la influencia de actualizaciones inconsistentes ...

Access restricted. Please log in or start a trial to view this content.

Disclosures

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Los autores no tienen conflictos de interés que declarar.

Acknowledgements

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Los autores reconocen a los desarrolladores y mantenedores de los conjuntos de datos públicos utilizados en este estudio, incluyendo los conjuntos de datos FEMNIST, FLamby, FedGraphNN y CICIDS2017. Los autores también agradecen a la comunidad de código abierto por proporcionar marcos y herramientas de software que permitieron la implementación y evaluación del marco de aprendizaje federado descrito en este protocolo.

Access restricted. Please log in or start a trial to view this content.

Materials

List of materials used in this article
NameCompanyCatalog NumberComments
CICIDS2017 Conjunto de datosInstituto Canadiense de CiberseguridadConjunto de datos públicoDetección de intrusiones
Conjunto de datos FedGraphNNFedGraphNNConjunto de datos públicoAprendizaje de grafos
Conjunto de datos FEMNISTÍndice de referencia LEAFConjunto de datos públicoConjunto de datos de visión
Conjunto de datos FLambyProyecto FLambyConjunto de datos públicoConjunto de datos en salud
FlorMarco de flores1.6Simulación de aprendizaje federado
Estación de trabajo GPUNVIDIARTX GPUFormación en modelos
NumPyDesarrolladores NumPy1.26Computación numérica
PythonFundación de Software Python3.1Lenguaje de programación
Scikit-learnScikit-learn1.3Utilidades ML
TensorFlow / PyTorchGoogle / MetaÚltimas novedadesMarco de aprendizaje profundo

Reprints and Permissions

Request permission to reuse the text or figures of this JoVE article

Request Permission

Tags

Federated LearningHeterogeneous DatasetsModel AggregationAdaptive OptimizationExplainable AISHAP AnalysisLIME InterpretationNon IID DataLearning Rate ModulationDistributed Model Training

Related Articles