Modèle d’apprentissage fédéré explicable pour la collaboration interinstitutionnelle de données financières numériques et le contrôle des risques

Résumé

Nous démontrons un protocole reproductible pour mettre en œuvre FedRisk, un cadre d’apprentissage fédéré explicable. La procédure inclut l’harmonisation sémantique des données, l’alignement des entités préservant la vie privée, la calibration différentielle de la confidentialité, la formation locale du GBDT, la fusion globale de Transformers et des mises à jour asynchrones compressées en gradient, permettant une prédiction sécurisée, évolutive et conforme à la réglementation pour plusieurs institutions.

Résumé

La fragmentation des données financières entre les institutions et la réglementation stricte en matière de confidentialité entravent gravement la gestion collaborative des risques, conduisant à une détection sous-optimale de la fraude avec une précision inférieure à 60 % et à un taux élevé d’erreurs de défaut de prêts des PME dépassant 25 %. Les solutions d’apprentissage fédéré existantes rencontrent des difficultés concernant les données non-IID, l’interprétabilité des modèles et la conformité, ce qui entraîne des taux d’adoption réels inférieurs à 20 %. Pour combler ces lacunes, nous proposons FedRisk, un cadre d’apprentissage fédéré explicable intégrant quatre innovations clés. Premièrement, un maillage de données interinstitutionnel avec une harmonisation sémantique ontologique atteint une utilisation des caractéristiques supérieure à 85 %. Deuxièmement, un modèle hybride d’IA combine GBDT interprétable localement avec des contraintes monotones et un Transformer global basé sur l’attention, réduisant la perte de performance dans les scénarios non-IID de 7,6 % par rapport à FedAvg. Troisièmement, un mécanisme tripartite de confidentialité utilise une confidentialité différentielle adaptative avec un budget total de ε=5, un partage de secret additif et une régularisation consciente de l’équité, limitant le biais de prédiction de groupe en dessous de 0,05 et la perte RAROC en dessous de 2,1 %. Quatrièmement, les optimisations efficaces en communication réduisent la bande passante par tour à 8,5 Mo et le temps d’entraînement à 85 min. Évalué sur plus de 5 millions de dossiers multi-institutionnels, FedRisk atteint un AUC-ROC de 0,912, soit seulement 1,8 % de moins que le GBDT centralisé, tout en résistant aux attaques d’inférence d’adhésion avec un AUC de 0,58. Elle réduit la transmission de données interinstitutionnelle de 99 % et surpasse les références classiques FL de 7,3 % dans AUC-ROC. En permettant une prédiction des risques sécurisée, transparente et conforme à la réglementation sans partage de données brutes, FedRisk offre une solution évolutive pour la collaboration financière interinstitutionnelle.

Introduction

Le développement approfondi de la finance numérique remodele les modèles de service, du contrôle du risque de crédit personnel au financement de la chaîne d’approvisionnement des PME, établissant les données comme un facteur central de production. Selon le « Rapport 2023 sur le développement fintech » de la PBOC, fin 2023, l’échelle de crédit numérique chinoise dépassait 65 000 milliards de yuans, représentant 38 % du solde total, avec des données de transactions quotidiennes dépassant 500 TB¹. Cependant, les « silos de données » restent un obstacle important. Les institutions adoptent généralement des modèles de données fermées en raison de préoccupations de concurrence et de sécurité. Par exemple, dans la détection de la fraude à la carte de crédit, les banques qui se fient uniquement à des données internes manquent des dossiers interinstitutionnels critiques, ce qui entraîne des taux d’identification inférieurs à 60 % pour les nouveaux types de fraude. De même, pour le crédit PME, l’absence de données externes sur les assurances et les impôts conduit à des erreurs de prédiction de défaut supérieures à 25 %. Cette fragmentation pose de deux défis : limiter l’accès pour 200 millions de clients mal desservis et augmenter le risque de contagion croisée de 18 % (Rapport CBIRC 2023). Par conséquent, les silos de données sont devenus le principal goulot d’étranglement freinant le développement de haute qualité de la finance numérique.

Ces dernières années, une montée en puissance des lois mondiales sur la protection des données a considérablement limité le partage centralisé des données. Les institutions financières doivent désormais respecter trois principes fondamentaux : « nécessité minimale », « consentement éclairé » et « traçabilité ». Bien que les cadres régionaux varient, ils imposent tous des seuils stricts à l’utilisation interinstitutionnelle des données, comme détaillé dans le Tableau 1.

Cadre réglementaire	Clauses restrictives de base	Impact sur la collaboration avec les données financières
Règlement général sur la protection des données (RGPD) de l’UE	1. Le transfert transfrontalier de données doit respecter la « détermination de suffisance » ; 2. Les individus ont le droit d’accéder et de supprimer leurs données ; 3. Les violations de données doivent être signalées dans les 72 heures	La transmission non autorisée de données brutes à travers les frontières est interdite, et le partage centralisé nécessite une évaluation de l’impact sur la vie privée (PIA), augmentant les coûts de conformité de 30 %
Loi californienne sur la protection des consommateurs (CCPA)	1. Les consommateurs peuvent demander aux entreprises de supprimer leurs données personnelles ; 2. Le partage des données nécessite une notification claire de leurs usages	Les plateformes centralisées nécessitent des interfaces d’accès aux données pour chaque consommateur, augmentant les coûts opérationnels de 25 % et facilitant la suppression des données par les consommateurs et la perte de données d’entraînement pour le modèle
Loi chinoise sur la protection des informations personnelles	1. Le traitement des informations personnelles nécessite un consentement séparé ; 2. Le traitement des informations personnelles sensibles nécessite des documents d’autorisation supplémentaires ; 3. Établir un système de « classification et protection des données »	Le partage interinstitutionnel des données nécessite une autorisation de chaque client, et le taux d’autorisation est inférieur à 40 % en pratique. Le mode centralisé est difficile à mettre en œuvre
Directive européenne sur les services de paiement II (PSD2)	1. Ouvrir l’interface de données bancaires ; 2. Le partage des données doit être basé sur l’autorisation du client et une utilisation limitée	Bien qu’elle supporte le partage des données, elle exige que l’ensemble du processus d’accès à l’interface soit suivi, et la plateforme centralisée doit assumer la responsabilité de la sécurité et de l’audit de l’interface, ce qui augmente considérablement la complexité technique

Tableau 1 : Comparaison des exigences fondamentales des principaux cadres réglementaires des données.

Cette étude introduit trois innovations majeures pour relever les défis de la modélisation des risques fédérés interinstitutionnels. Premièrement, une architecture de maillage de données avec une couche sémantique ontologique standardise des schémas hétérogènes, atteignant plus de 85 % d’utilisation des fonctionnalités tout en préservant la souveraineté des données. Deuxièmement, un modèle hybride d’IA combine GBDT localement interprétable avec des contraintes monotones conformes à la réglementation et un Transformer global basé sur l’attention. En pondérant dynamiquement les productions institutionnelles, ce modèle réduit la perte de performance des non-IID de 7,6 % tout en maintenant un AUC-ROC de 0,912. Troisièmement, un mécanisme tripartite de conformité à la confidentialité intègre une confidentialité différentielle adaptative (ε=5), un partage additif de secrets et une régularisation consciente de l’équité pour garantir la conformité au RGPD, limiter le biais ΔDP à < 0,05 et résister aux attaques d’inférence d’adhésion (AUC=0,58). Ensemble, ces innovations concilient les exigences de la fragmentation des données, de l’interprétabilité réglementaire et des compromis entre la vie privée et la sécurité dans l’IA financière fédérée.

L’apprentissage fédéré en finance est classé en Apprentissage Fédéré Horizontal (HFL)², Apprentissage Fédéré Vertical (VFL⁾³ et Apprentissage Fédéré par Transfert (FTL)⁴ , selon la répartition des données (Tableau 2).

Paradigme fédéral	Caractéristiques principales	Scénario d’adaptation au contrôle du risque financier	Études représentatives	Bornité
Apprentissage fédéral horizontal	L’espace de données des participants est cohérent, mais l’espace échantillon est différent	Détection de fraude à la carte de crédit inter-organisations	McMahan et al. [[i]](2017) ont proposé l’algorithme FedAvg, qui a appliqué pour la première fois la HFL à la lutte contre la fraude financière en assurant une collaboration interinstitutionnelle de modèles grâce à la moyenne des paramètres, et a amélioré le taux de détection de fraude de 12 % sur un ensemble de données de 10 banques	Sans prendre en compte les caractéristiques non indépendantes et identiquement distribuées (Non-IID) des données financières, lorsque la différence de répartition des risques clients entre institutions dépasse 30 %, l’AUC-ROC du modèle diminue de plus de 15 %
Apprentissage fédéral vertical	L’espace d’échantillonnage des participants est cohérent, mais l’espace des caractéristiques est différent	Contrôle collaboratif du risque de crédit entre banques et compagnies d’assurance	Yang et al. [[ii]] (2020) ont proposé l’algorithme SecureBoost, qui permet un entraînement vertical en articulation de caractéristiques via un chiffrement homomorphe, et atteint un taux de précision de prédiction par défaut de 89,3 % dans le scénario des prêts pour petites et microentreprises	Elle repose sur un alignement strict des entités, ce qui présente un risque élevé de fuite de confidentialité, et l’efficacité de l’entraînement chute fortement lorsque la dimension des caractéristiques est trop grande
Apprentissage fédéral par transfert	Il existe des différences dans la distribution des données et l’espace de fonctionnalités des participants	Migration de risque inter-scénarios	Pan et al.[[iii]] (2021) ont résolu le problème de la rareté des échantillons dans la finance de la chaîne d’approvisionnement en initialisant le modèle d’optimisation de la migration des paramètres, qui a amélioré la vitesse de convergence de 60 %	La « migration négative » est susceptible de se produire pendant le processus de migration. Lorsque la différence entre le mécanisme de risque entre le scénario source et le scénario cible dépasse 40 %, la performance du modèle dépasse celle du modèle traditionnel
[[i]]McMahan, B., Moore, E., Ramage, D., Hampson, S., & y Arcas, B. A. (2017). Apprentissage efficace en communication des réseaux profonds à partir de données décentralisées. Actes de la 20e Conférence internationale sur l’intelligence artificielle et les statistiques, 1273–1282.
[[ii]]Yang, Q., Liu, Y., Chen, T., & Tong, Y. (2020). Apprentissage automatique fédéré : concept et applications. ACM Transactions on Intelligent Systems and Technology, 10(2), 1–19.
[[iii]]Pan, S. J., & Yang, Q. (2021). Une enquête sur l’apprentissage transféré. IEEE Transactions on Knowledge and Data Engineering, 33(12), 2345–2359.

Tableau 2 : Comparaison des paradigmes d’apprentissage dans le secteur financier.^5,6,7

Les avancées récentes répondent à des défis spécifiques à chaque scénario : FedSSL⁸ s’attaque à la rareté des étiquettes par l’apprentissage contrastif, tandis que FedLite⁹ atteint une réduction de communication de 490 × pour les institutions aux ressources limitées. Les extensions à la santé¹⁰, vulnérabilités^{de sécurité 11}, finance^{multimodale 12} et scalability¹³ démontrent la large applicabilité de FL.

La protection de la vie privée est au cœur du contrôle des risques financiers. Les trois techniques principales — Confidentialité différentielle (DP)¹⁴, Calcul Multi-Partis Sécurisé (SMC)¹⁵ et Chiffrement homomorphe (HE)¹⁶ — offrent des avantages distincts en termes de robustesse, d’efficacité et d’adaptabilité. DP est formellement défini par Pr[M(x) = y] ≤ e^∈ ⋅ Pr[M(x') = y] + δ, où M représente l’algorithme aléatoire, $x$ et $x'$ désignent les ensembles de données voisins, et y est la sortie de l’algorithme. Cela garantit la similarité des sorties entre les ensembles de données, limitant strictement les fuites individuelles via du bruit contrôlable. Une analyse comparative de leurs caractéristiques techniques est présentée dans le tableau 3.

Type de technologie	Principes fondamentaux	Solidité de la vie privée (ε valeur)	Complexité de calcul	Adaptabilité des scénarios financiers
Confidentialité différentielle	Les contributions individuelles à l’ensemble de données sont indiscernables en ajoutant du bruit	ε=1-5 (valeur recommandée pour les scénarios financiers)	O (n) (n est la taille de l’échantillon)	Élevé, adapté à l’ensemble du processus d’entraînement du modèle, peut être combiné sans effort avec l’apprentissage fédéré
Informatique multipartite sécurisée	Plusieurs participants collaborent pour calculer sans divulguer les résultats intermédiaires	Sécurité en théorie de l’information	O (n²) (scénario fédéral vertical)	Oui, il convient au calcul des joints sensibles aux caractéristiques, mais cela prend trop de temps dans les grands échantillons
Chiffrement homomorphe	Les données chiffrées sont calculées directement et le résultat correct est obtenu après déchiffrement	Sécurité informatique	O (n³) (basé sur la cryptographie en réseau)	Faibles, adaptés uniquement à la transmission de paramètres à petite échelle, millions d’échantillons de temps de calcul de scénario de plus de 24 heures

Tableau 3 : Comparaison des caractéristiques des technologies de protection de la vie privée.

Dans les applications financières, la confidentialité différentielle est devenue le choix courant grâce à son « contrôle de l’équilibre effet de vie privée ». Dwork, ^C.17 a proposé la définition classique (ε, δ)-DP, fournissant une norme quantitative pour la protection de la vie privée. La formule de base est la suivante :

(1)

Ici M En tant qu’algorithme de protection de la vie privée, D et D forment un ensemble de données adjacent (une seule différence d’échantillon), un budget de confidentialité (plus la protection de la vie privée est faible, plus elle est forte), r un budget de confidentialité (plus la protection de la vie privée est faible, plus elle est forte), δ La probabilité d’échec (généralement prise ^10-5).

Abadi, M. et ^al.18 ont développé la Descente Stochastique du Gradient de la Confidentialité Différentielle (DP-SGD), utilisant le clipping de gradient et l’injection de bruit pour réduire la fuite de confidentialité du modèle de risque de crédit à moins de 8 %. Le calcul multipartite sécurisé (SMC) et le chiffrement homomorphe sont principalement utilisés pour le traitement sensible. Par exemple, Bogetoft, P. et ^al.19 ont appliqué la SMC au score de crédit interbancaire, garantissant que seuls les scores finaux étaient accessibles. Perri, ^L.2 a proposé un algorithme de chiffrement entièrement homomorphe pour l’agrégation sécurisée des paramètres, bien que la forte complexité de calcul limite son application à l’entraînement à petite échelle chez des banques de taille moyenne.

Les modèles de contrôle des risques en IA ont évolué des architectures centralisées traditionnelles vers des architectures distribuées, avec deux paradigmes montrant des différences significatives en matière de dépendance aux données, de performance et de coûts de conformité. Les modèles centralisés incluent les arbres d’amplification de gradient (GBDT) et les modèles d’apprentissage profond. L’algorithme GBDT proposé par Friedman, J., Hastie, T. Tibshirani, ^R.21 améliore la précision de la prédiction du risque grâce à l’intégration multi-arbres, atteignant un AUC-ROC de 0,93 dans les scénarios de crédit personnel. Cependant, cela nécessite de collecter des données clients complètes, ce qui pose des risques de violations de données et des défis de conformité. Zhang, H., Liu, Y., Zhang, X., Yin, Z.Li, ^Y.22 ont développé un modèle de contrôle des risques basé sur un transformateur qui améliore les taux de détection de fraude de 15 %, mais la taille de ses paramètres dépasse 10 Go. Le paradigme distribué inclut des approches de partage de paramètres et de partage de fonctionnalités. Le partage de paramètres (par exemple, FedAvg) agrège les paramètres locaux mais rencontre des difficultés avec les caractéristiques non-IID : l’AUC-ROC est passé de 0,89 à 0,82 alors que les différences de taux de défaut sont passées de 0,5 % à 3,5 %. Le partage de fonctionnalités (par exemple, SecureBoost) permet une collaboration verticale mais nécessite un alignement précis, les performances chutant de 20 % lorsque les erreurs dépassent 5 %.

Le cœur de l’apprentissage fédéré est de permettre une formation collaborative multi-institutions sans transfert de données brutes. Ce cadre définit les participants, le processus de formation et la fonction objectif. Dans cette étude, le système se compose de nœuds de l’institution Kfinancial (notés P₁,_{P 2}, ...,_{P K}) et d’un coordinateur C. Chaque institution_{P K} détient un ensemble de données local , X_k,i∈R_d qui correspond aux vecteurs de caractéristiques clients y_k,i∈{0,1}, pour les labels de risque (0 est normal, 1 est la fraude par défaut), la taille locale de l’échantillon, l’échelle complète des données. La formation suit un processus d'« itération locale - agrégation globale » : i) Initialisation : Le coordinateur génère les paramètres globaux initiaux θ₀ et les distribue à toutes les institutions ; ii) Itération locale : lors du cycle de formation, l’institution_{P K} est basée sur les données locales et les paramètres globaux actuels θ_t, minimisant la fonction de perte locale par descente de gradient, obtenir les paramètres locaux mis à jour θ_t,k, c’est-à-dire :

(2)

Où n est le taux d’apprentissage et _∇θL_k(θ_t) est le gradient de la perte locale θ_t est le gradient de la perte locale a θ_t ; iii) Agrégation globale : L’institution chiffre et télécharge les paramètres locaux au coordinateur, ce dernier génère de nouveaux paramètres globaux θ_t+1 par agrégation pondérée par la taille de l’échantillon :

(3)

iv) Condition finale : Répéter les étapes 2-3 jusqu’à ce que les performances du modèle global sur le jeu de validation ne s’améliorent pas pour les tours successifs, Sortir le modèle final. θ^* = θ_T. Étant donné les caractéristiques de distribution identique non indépendante (Non-IID) des données financières, il est nécessaire d’étendre les hypothèses de la moyenne fédérée traditionnelle (Fed_{AvgP k}). Cette étude utilise les deux dimensions d'« hétérogénéité de la distribution des étiquettes » et de « hétérodéité de la distribution des caractéristiques » pour caractériser les Non-IID : Soit définie la proportion d’instances positives (événements par défaut) dans les institutions comme suit :

(4)

Définissons le coefficient d’isomorphisme de l’étagère ; Soit la différence moyenne des caractéristiques de l’ensemble : Lorsque α>0,03 et lorsque , Il est déterminé qu’il s’agit d’un scénario non-IID élevé.

Selon la capacité et la cible de l’attaquant, les scénarios de menace sont divisés en trois catégories, comme le montre le tableau 4

Type de menace	Identité de l’attaquant	sac de frappe	Moyens typiques
Une attaque de semi-vérité	Institutions/coordinateurs participants	Déduire les caractéristiques des clients d’autres institutions	Inversion de gradient et attaques de raisonnement des membres basées sur les paramètres du modèle
Attaque hostile	Institutions malveillantes	Modèle global de pollution	Téléverser de faux gradients et modèles poison
Attaque externe	Tiers non autorisés	Paramètres/fonctionnalités de vol en transit	Attaques intermédiaires, écoute clandestine des liens de communication

Tableau 4 : Classification par modèle de menace du système financier.

En utilisant (ε,δ) -Confidentialité différentielle (Différentiel Privacy, DP) comme norme centrale de protection de la vie privée, son essence est d’ajouter du bruit afin que l’influence de « si l’ensemble de données contient un échantillon » sur la sortie du modèle puisse être ignorée. La définition formelle est la suivante : Pour les algorithmes d’apprentissage fédéré M, si pour deux ensembles de données adjacents et qui diffèrent seulement d’un échantillon (DΔD' = 1), ainsi que pour tout ensemble de sortie S⊆Range(M), il satisfait :

Pr[M(D)∈S]≤e^ε⋅Pr[M(D^')∈S]+δ (5)

Alors on l’appelle satisfait (ε,δ)-DP. L’un est le « budget de la vie privée » (plus la protection de la vie privée est petite, plus elle est forte, et le scénario financier est généralement pris en compte ), δ pour la « probabilité d’échec » (généralement δ≤^10-5 pour s’assurer que les événements de faible probabilité n’affectent pas la vie privée et la sécurité). Afin de s’adapter aux caractéristiques d’itération multi-tours de l’entraînement fédéré, la consommation totale de confidentialité est calculée à l’aide du théorème de combinaison de la « confidentialité différentielle de Renyi » (RDP). Soit le budget de confidentialité de chaque cycle de formation ε_t, alors le budget de confidentialité total après la formation du cycle satisfait :

(6)

Ce théorème fournit une base théorique pour l’étalonnage adaptatif du bruit en allouant dynamiquement le budget de confidentialité par tour.

FedRisk utilise un cadre rigoureux de confidentialité (DP) différentielle (ε, δ), allouant dynamiquement les budgets de confidentialité via le théorème de composition de Rényi DP (RDP). Il définit la sensibilité globale Δf comme le changement maximal de la norme L1 des paramètres du modèle induit par des ensembles de données adjacents (différant par un seul échantillon), avec une calibration du bruit de Laplace consciente de la variance (coefficient de bruit κ_t proportionnel aux fluctuations de distribution des données). Sous la contrainte du budget de confidentialité total ε=5 (respect des seuils de conformité RGPD), RDP convertit la consommation de confidentialité de l’entraînement multi-tours en (ε, δ)-DP (δ=10⁻⁵), équilibrant la force de la protection et les résultats empiriques de l’utilité du modèle démontrent que cela supprime l’AUC d’attaque par inférence membre à 0,58 tout en maintenant la prédiction du risque AUC-ROC à 0,912.

L’optimisation des modèles de contrôle des risques financiers doit simultanément satisfaire à trois exigences réglementaires : « précision prédictive », « protection de la vie privée » et « équité ». Les fonctions d’optimisation traditionnelles qui visent uniquement la minimisation des pertes ne sont plus applicables. Un cadre d’optimisation multi-objectifs doit être établi pour transformer les contraintes réglementaires en termes de régularisation quantifiables. Pour les scénarios de classification binaire (par défaut/normal), la perte logarithmique (LogLoss) est adoptée comme fonction de perte de base pour mesurer la déviation entre les probabilités prédites par le modèle et les labels réels, définie comme suit :

(13)

Où p_k,i = σ(θ ; x_k,i) est la probabilité par défaut prédite de l’échantillon (_{x k,i,i,y k,i}) pour le modèle, σ(⋅) est la fonction d’activation sigmoïde.

Les exigences du RGPD, de la loi sur la protection des informations personnelles et d’autres réglementations sont transformées en trois types de termes de régularisation, qui sont combinés avec la fonction de perte de base pour former l’objectif final d’optimisation :

(14)

La définition et la fonction de chaque terme de régularisation sont les suivantes : i) Contraintes de confidentialité : En fonction du coût d’addition de bruit de la confidentialité différentielle, l’influence de la protection quantitative de la vie privée sur la précision des modèles est discutée. Soit la sensibilité globale des paramètres du modèle Δ (c’est-à-dire le changement maximal des paramètres causé par des ensembles de données adjacents), alors :

(15)

Ce terme garantit que l’intensité sonore supplémentaire correspond au budget de confidentialité et évite un sacrifice excessif de la précision du modèle. II) Contrainte d’équité : Compte tenu des exigences « anti-discrimination » prévues par la loi sur la protection des informations personnelles, le biais de prédiction des différents groupes est limité. Prenons la « parité démographique » (parité démographique) comme exemple, soit le taux de prédiction positive de l’ensemble , alors :

(16)

Ce terme minimise la différence de taux de prédiction entre les différents groupes et évite la discrimination des modèles. III) Contraintes de robustesse : En réponse aux exigences de « capacité anti-interférence du modèle » dans Bâle III, veillez à ce que de petites perturbations des données n’affectent pas significativement la sortie du modèle. En ajoutant des perturbations d’échantillon adversarial Δx (satisfaisant |Δx|_∞≤γ), la recherche définit :

(17)

La robustesse du modèle d’amélioration du terme aux données anormales est améliorée et le risque d’erreur de jugement est réduit. Dans cette formule, c’est le coefficient de régularisation, il a été déterminé par validation croisée (dans cette étude λ₁=0,01,λ₂=0,05,λ₃=0,02). Assurer un équilibre entre les trois objectifs réglementaires et la précision de la prévision.

Protocole

Architecture système

Maillage de données interinstitutionnel et couche sémantique

Pour répondre à l’hétérogénéité interinstitutionnelle des données, la recherche construit une architecture Data Mesh via un partitionnement de nœuds piloté par le domaine. Chaque institution financière fonctionne comme un nœud indépendant du domaine des données tout en conservant les droits de propriété et de contrôle, la couche sémantique permettant une compréhension et une interaction unifiées des données. La couche sémantique basée sur des ontologies établit un modèle unifié de données de contrôle des risques financiers, définissant les entités centrales_{, les} attributs de map f et les relations d’entité. Les règles spécifiques de cartographie sémantique sont détaillées dans le tableau 5. Pour les champs spécifiques à chaque institution, les conversions standardisées sont réalisées via des fonctions de cartographie sémantique :

(18)

Entité du noyau	Le nom de champ A de l’institution	Nom du champ B de l’institution	Nom de champ uniforme de couche sémantique	Type de données	Règles standardisées
Client	Note client premium (1-5)	Niveaux VIP des clients (bronze à diamant)	Note de crédit client (1-5)	Entier	Bronze→1, Argent→2, Or→3, Platine→4, Diamant→5
Affaires	Montant de la transaction (dix mille yuans)	Montant de la transaction (yuan)	Montant de la transaction (yuan)	Nombre flottant	La valeur du champ A dans l’institution est de 10 000 fois
Demande de crédit	Quota de candidats (ratio crédits)	Montant attendu du prêt	Montant du prêt du demandeur (yuan)	Nombre flottant	Institution A : Ratio total de crédits × montant de la demande ; Institution B : cartographie directe

Tableau 5 : Règles fondamentales de cartographie sémantique des entités dans le domaine du contrôle des risques financiers.

Voici x_i,j la i-ième valeur spécifique du champ de l’institution j, min(_{x j}) et max(_{x j}) sont respectivement les valeurs minimales et maximales du champ au sein de l’institution, U_j et L_j définissent les limites supérieure et inférieure de la plage de valeurs unifiée de ce champ à la couche sémantique.

Registre mondial de modèles et trace d’audit basés sur la blockchain

Pour résoudre les problèmes de gestion chaotique des versions de modèles et de processus d’entraînement non traçables dans l’apprentissage fédéré, la technologie blockchain est utilisée pour établir un registre mondial de modèles et un système d’audit et de traçabilité. Utilisant une architecture blockchain de consortium, les nœuds participants incluent des institutions financières, des coordinateurs fédérés et des organismes de régulation, garantissant l’immuabilité des données et le consensus^{multipartite 23}. Le registre mondial des modèles stocke les métadonnées de base des modèles, y compris les numéros de version, les tours de formation_{H v}, les listes des institutions participantes, les paramètres structurels et les indicateurs de performance. Ces métadonnées sont stockées à l’aide d’une structure en arbre Merkle, chaque version du modèle correspondant à une valeur de hachage unique :

(19)

Ici, v est le numéro de version du modèle, T le nombre total de tours d’entraînement, S est l’ensemble des institutions participant à la formation, ID_i est l’identifiant unique d’une institution i, θ_v est le vecteur de paramètres du modèle pour la version v, et AUC_v est la valeur AUC-ROC de cette version du modèle affichée.

Pipeline fédéré d’ingénierie des fonctionnalités

Alignement sécurisé des entités et harmonisation des schémas

L’ingénierie des fonctionnalités constitue le composant central de la collaboration interinstitutionnelle des données, nécessitant une extraction, un alignement et une agrégation efficaces des fonctionnalités tout en garantissant la confidentialité des données. Cette étude conçoit un pipeline complet englobant l’alignement sécurisé des entités, la coordination des schémas et l’agrégation différentielle de graphes transactionnels intégrés à la confidentialité afin de traiter à la fois l’hétérogénéité interinstitutionnelle des caractéristiques et les risques de fuite de^{confidentialité 24}. L’alignement interinstitutionnel des entités est essentiel pour parvenir à la collaboration avec les fonctionnalités. Cependant, transmettre directement des identifiants clients compromettrait la vie privée. Par conséquent, la recherche adopte une méthode d’alignement des entités préservant la confidentialité, combinant le chiffrement homomorphe (HE) et la technologie de hachage sensible à la localité (LSH). Les institutions prétraitent les identifiants clients à l’aide des fonctions de hachage SHA-256 pour générer des identifiants préliminaires. Ces identifiants sont ensuite mappés dans le même « seau » via LSH afin de réduire les calculs de chiffrement ultérieurs. Les identifiants dans la même catégorie subissent un chiffrement homomorphe de Paillier. Les identifiants chiffrés sont téléchargés au coordinateur fédéré, qui permet d’aligner les entités en comparant la similarité des identifiants chiffrés à l’aide de la similarité cosinus.

(20)

Lorsque la similarité est supérieure au seuil prédéfini (dans cette étude, il est pris comme τ=0,95), il est déterminé qu’il s’agit de la même entité, et un identifiant d’entité unifié entre les institutions est généré pour obtenir un alignement sécurisé de l’entité.

Agrégation différentiellement privée des plongements de graphes transactionnels

Les données de transactions financières présentent des caractéristiques distinctes de structure graphique (avec les clients comme nœuds et les transactions comme arêtes). L’intégration de graphes transactionnels capture efficacement les schémas de transaction des parties apparentées des clients, fournissant des fonctionnalités critiques pour les modèles de contrôle des risques. Cependant, l’agrégation directe des embeddings interinstitutionnels G_i=(_{V i,E i})V_{iiEi i i,v∈}R^dd d d peut divulguer les informations transactionnelles des clients. C’est pourquoi la technologie DifferentialPrivacy (DP) est introduite pour assurer l’agrégation préservant la confidentialité des embeddings de graphes transactionnels. Chaque institution construit localement un graphe transactionnel, où représente l’ensemble des nœuds clients de l’institution et représente l’ensemble des arêtes de transaction (poids d’arêtes égal aux montants des transactions). L’algorithme GraphSAGE est utilisé pour générer des plongements de nœuds (avec des dimensions d’immersion de 256 dimensions dans cette étude). Pour répondre aux exigences de confidentialité différentielles, le bruit laplacien est ajouté aux embeddings locaux :

(21)

Ici Δ_G Sensibilité globale de l’algorithme GraphSAGE (estimée par expérience dans cette étude Δ_G=0,8), pour le budget local de confidentialité de l’agence,

(22)

Pour le budget total de confidentialité du système, cette étude prend ε_total = 1,5). Le coordinateur agrège l’intégration du bruit de chaque établissement en utilisant une stratégie moyenne pondérée , avec des pondérations basées sur le pourcentage de clients de chaque établissement :

(23)

Le graphique global agrégé des transactions est intégré et transmis à chaque institution. En tant que caractéristique clé du modèle de contrôle des risques, il conserve non seulement les informations de corrélation interinstitutionnelles des transactions, mais protège également la confidentialité des clients grâce à une confidentialité différentielle.

(24)

Modèle hybride de risque d’IA

Sous-modèles locaux : Amplification de gradient avec contraintes monotones

Les modèles traditionnels de contrôle centralisé des risques par IA peinent à s’adapter à des scénarios fédérés inter-institutionnels. Cette étude développe un modèle hybride de risque IA combinant « sous-modèles locaux + modèle de fusion globale », intégrant la grande interprétabilité des arbres de boost de gradient (GBDT) avec l’adaptabilité de Transformer aux données non indépendantes et identiquement distribuées (NID). Un module d’interprétation est introduit pour équilibrer performance et explicabilité du modèle dans des environnements fédérés. Chaque établissement construit localement des sous-modèles GBDT, choisis pour leur forte capacité d’ajustement structurel des données et leur grande interprétabilité – des exigences essentielles pour la réglementation du contrôle des risques financiers. Pour éviter le surapprentissage et les conclusions illogiques, des contraintes monotones sont mises en place lors de la formation GBDT, imposant des schémas monotones croissants ou décroissants pour des caractéristiques clés telles que les revenus des clients et les scores de crédit. Le premier arbre par GBTD est h_t(x), et la sortie du modèle est :

(25)

Ici, η est le taux d’apprentissage (cette étude prend η=0,1). La contrainte monotone est réalisée par régularisation de fonction de perte x_j.

Terme de contrainte à ajouter :

(26)

Ici, x≺^x' représente que la valeur propre de x est inférieure à la valeur propre de x^', et la fonction de perte finale est :

(27)

Ici, l est la fonction de perte logarithmique (utilisée dans le scénario de contrôle binaire du risque_{y i}∈{0,1}, indiquant si le client fait défaut). est le terme de régularisation de complexité pour l’arbre, λ et γ sont le coefficient de régularisation (Cette étude a été menée par λ=0,01 γ=0,5 validation croisée, n_i est le nombre d’échantillons locaux pour l’institution i,T est le nombre d’arbres (Cette étude a pris T=100).

Fusion globale : Transformateur basé sur l’attention pour l’adaptation non-IID

Les données interinstitutionnelles présentent des caractéristiques significatives de distribution non IID. Les algorithmes FedAvg traditionnels, qui se contentent de faire la moyenne des paramètres locaux des modèles, ont du mal à s’adapter aux données non-IID. Pour y remédier, la recherche introduit une attention p._i(x)=σ(F_i(x))σF_i(x)ia_i-based sur le modèle de transformateur pour la fusion intelligente de sous-modèles locaux. Le modèle de fusion globale prend en entrée les probabilités de sortie du sous-modèle local de chaque institution (sorties de fonction sigmoïde issues des modèles institutionnels GBDT). L’architecture Transformer comprend un encodeur et une couche d’attention, où la couche d’attention calcule les poids d’attention à partir des sorties de différentes institutions afin d’obtenir une pondération adaptative. Les poids d’attention sont calculés à l’aide de l’attention scalaire à échelle :

(28)

Ici, q est le vecteur de requête (généré par les caractéristiques moyennes de risque des échantillons globaux), est le vecteur clé de l’institution i, d_k est la dimension du vecteur clé (dans cette étude d_k=64), n est le nombre d’agences participant à la fédération.

La probabilité finale de sortie du modèle global est :

(29)

Grâce au mécanisme d’attention, le modèle global peut automatiquement attribuer un poids plus élevé aux institutions disposant d’une qualité de données élevée et d’une prédiction précise des risques, et améliorer l’adaptabilité aux données non IID.

Module d’explicabilité : SHAP sur les arbres fédérés + générateur contrefactuel

Les modèles de contrôle des risques financiers doivent maintenir une interprétabilité pour satisfaire aux exigences réglementaires et protéger le « droit de savoir » des clients. Pour y remédier, la recherche développe un module d’interprétabilité combinant des générateurs contrefactuels fédérés SHAP+. Pour les sous-modèles locaux GBDT, la recherche utilise des valeurs SHAP pour mesurer l’importance des caractéristiques, que S_i∈^{R N i×}m quantifie la contribution de chaque caractéristique aux résultats de prédiction. Dans les scénarios fédérés, transmettre directement les valeurs locales de SHAP pourrait compromettre les informations de distribution des fonctionnalités. Par conséquent, la recherche met en œuvre une stratégie d’agrégation sécurisée où chaque institution calcule localement la matrice des valeurs SHAP (pour le nombre de fonctionnalités), applique un bruit différentiel de confidentialité aux valeurs SHAP, puis les téléverse au coordinateur fédéré. Le coordinateur calcule ensuite les valeurs globales du SHAP :

(30)

Ici, S_i^' est la matrice de valeurs SHAP de l’institution i, et w_i est la proportion de la taille de l’échantillon des institutions.

Entrez le vecteur propre actuel x du client et la note de risque_{cible y cible}, la sortie est un vecteur de caractéristiques antifactuel x_cf, satisfait (le seuil θ de_{probabilité cible} correspondant à la note de risque cible). Et |x_cf-x|₂ le minimum (c’est-à-dire le coût d’ajustement le plus faible). La fonction de perte du générateur de faits est :

(31)

Ici, α,β,γ sont les coefficients de poids (dans cette étude α=10,β=5,γ=1),_{L GAN} La fonction de perte adversaire est utilisée pour la GAN afin d’assurer la rationalité et l’authenticité du vecteur de caractéristiques contrefactuelles.

Couche de confidentialité et de sécurité

Agrégation sécurisée avec partage de secrets additif

Dans l’apprentissage fédéré, la transmission et l’agrégation des paramètres locaux du modèle sont un maillon clé dans la fuite de vie privée. La technologie AdditiveSecretSharing (ASS) est adoptée pour assurer une agrégation sécurisée et éviter l’acquisition directe des paramètres locaux du modèle de chaque organisation par le coordinateur. Le processus spécifique est le suivant : i) Chaque institution divisera les paramètres locaux du modèle en parts secrètes θ i,1,θ_i,2,...,θ_i,n , satisfaisant , Voici le nombre d’institutions participantes ; ii) L’institution i envoie la part θ_i,k à l’institution (k≠i), conserve sa propre part θ_i,i ; iii) Chaque institution k collecte les actions envoyées par toutes les autres institutions θ_{1,k,θ 2,k},...,θ_n,k , et additionne cela avec la θ_{part k,k} conservée par elle-même, obtenant la somme partielle ; iv) Toutes les_{institutions vont} télécharger et partager une partie avec le coordinateur, ce dernier calculant les résultats globaux de l’agrégation de paramètres. Grâce au partage additif de secrets, le coordinateur ne peut obtenir que des paramètres agrégés globaux et ne peut pas déduire n-1ttt=⌈n/2⌉ déduire les paramètres locaux d’une institution individuelle. Même la collusion entre plusieurs institutions ne permet pas de récupérer les paramètres des autres, garantissant ainsi la confidentialité et la sécurité lors de la transmission des paramètres. Pour compenser la perte de parts causée par les déconnexions institutionnelles, le mécanisme de partage secret Shamir est introduit comme solution de secours. Chaque part est à son tour divisée en fragments. En collectant un fragment, la part complète peut être restaurée, ce qui améliore la robustesse du système.

Étalonnage adaptatif du bruit sous (ε, δ) - planification budgétaire DP

Le principal défi de la confidentialité différentielle réside dans l’équilibre entre la solidité de la protection de la vie privée et la performance du modèle. Les méthodes traditionnelles d’addition de bruit fixe peinent à s’adapter aux scénarios où les distributions des données changent dynamiquement lors de la formation fédérée. Cette étude conçoit un mécanisme adaptatif d’étalonnage du bruit basé sur la (ε,δ)-DP, combiné à une stratégie de planification du budget de confidentialité, afin d’obtenir un ajustement dynamique de l’intensité du bruit. Définir le budget total de confidentialité du système comme suit (Cette étude prend δ_total = ^10-5 , conforme aux exigences du RGPD concernant le risque de vie privée), adopter la stratégie de planification budgétaire segmentée, Le budget total est alloué par {ε₁ ε₂,...,ε_T} cycle de formation comme suit, satisfait :

(32)

À chaque cycle d’entraînement, l’intensité du bruit est ajustée dynamiquement selon les caractéristiques de distribution des données locales. En supposant que la variance locale des caractéristiques des données de la t-ième phase d’institution soit , Définissez le coefficient d’ajustement du bruit α_i,t :

(33)

Lorsque α_i,t≥0,8 (la distribution des données est stable), en utilisant une faible intensité de bruit ; Lorsque αi,t<0,8 (la distribution des données fluctue), augmente l’intensité du bruit . Parmi ceux-ci, la sensibilité globale des paramètres du modèle (cette étude assure grâce au découpage de gradient).

Protocole d’entraînement efficace en communication

Mises à jour client asynchrones avec contrôle de la stagnation

L’apprentissage fédéré interinstitutionnel fait face à des défis tels qu’une latence de communication élevée et une consommation importante de bande passante (en particulier pour les petites et moyennes institutions financières disposant de ressources réseau limitées). Cette étude conçoit un protocole d’entraînement à la communication efficace intégrant des mises à jour asynchrones des clients, la compression de gradient et le retour d’erreur afin de réduire les coûts de communication et d’améliorer la scalabilité du^{système 25}. Les méthodes traditionnelles synchrones et fédérées comme FedAvg exigent d’attendre que tous les clients terminent la formation locale avant l’agrégation des paramètres, ce qui entraîne des cycles d’entraînement longs. Le mécanisme asynchrone de mise à jour client permet aux clients de réaliser indépendamment une formation locale et de télécharger immédiatement les paramètres. Après réception de ces paramètres, le coordinateur fédéré met à jour le modèle global en temps réel sans attendre d’autres clients. Cela répond au problème de la désolation du modèle dans l’entraînement asynchrone. En introduisant la stratégie de contrôle de l’impasse, définissez la valeur de stagnation pour le client ,(pour t_actuellement le cycle d’entraînement global actuel, t_{last_update} Le tour dans lequel le client a obtenu le modèle global pour la dernière fois). Lorsque (S_max est la stagnation maximale autorisée, cette étude prend s_max=5) . Le client participe normalement à la formation ; À_{ce moment-là, >} maximum, le client doit télécharger à nouveau le dernier modèle global avant la formation locale. La configuration matérielle se compose de processeurs Intel Xeon E5-2678 v3 (12 cœurs, 2,5 GHz) associés à des GPU NVIDIA Tesla V100 (16 Go de VRAM) et 64 Go de mémoire DDR4 par nœud pour gérer efficacement les charges d’entraînement distribuées. Pour l’initialisation logicielle, des commandes PySyft telles que hook = sy. TorchHook (torch) andvirtual_worker = sy. VirtualWorker(hook, id="client1 ») sont utilisés pour établir des connexions fédérées sécurisées, tandis que federated_train_loader = sy. FederatedDataLoader(dataset.federate((client1, client2)), batch_size=32) permet le chargement fédéré des données entre les participants. La cartographie sémantique transforme les caractéristiques financières entre les institutions — par exemple, en convertissant les montants des transactions de USD en CNY à l’aide d’une formule de taux de change dynamique : transaction_amount_CNY = transaction_amount_USD exchange_rate + (0,001 randn()), où le taux de change est mis à jour périodiquement via une API. Pour compléter les ensembles de données déséquilibrés, CopulaGAN génère des échantillons antagonistes synthétiques avec un extrait de code similaire à celui de l’import sdv.tabular CopulaGAN ; synthétiseur = CopulaGAN(époques=50) ; synthesizer.fit (train_data) ; synthetic_samples = synthesizer.sample(num_rows=1000), préservant les propriétés statistiques des données originales. L’entraînement local GBDT impose des contraintes monotones (par exemple, en s’assurant que « credit_score » est positivement corrélé à « approval_probability ») viaparams = {"monotonic_constraints » : (1, 0, -1)}dans LightGBM, tandis que la fusion Transformer est implémentée dans PyTorch avec des couches d’attention multi-têtes : self.attention = nn. MultiheadAttention (embed_dim=64, num_heads=4) ; attn_output, _ = self.attention (requête, clé, valeur, key_padding_mask=padding_mask), suivi de la normalisation des couches et des connexions résiduelles pour la stabilité. La confidentialité différentielle injecte le bruit de Laplace mis à l’échelle selon la sensibilité L1 (Δf) et le budget de confidentialité (ε) — par exemple, en ajoutant le bruit échantillonné de np.random.laplace(loc=0, scale=Δf/ε) où Δf=1,2 et ε=0,5 à gradients avant l’agrégation. Les contraintes d’équité sont appliquées après l’entraînement en repondérant les échantillons inversement proportionnellement à leur prévalence de groupe (sample_weight = 1 / group_counts[y_train]) afin de limiter les violations de parité démographique. Parallèlement, la stratégie d’agrégation pondérée est utilisée pour ajuster le poids des paramètres clients selon la valeur de stagnation :

(34)

Où λ=0,1 est le coefficient de pénalité de stagnation ; Plus la stagnation est grande, plus le poids est faible, ce qui réduit l’impact des paramètres obsols sur le modèle global.

Compression de gradient et accumulation d’erreur-rétroaction

Les paramètres du modèle (en particulier les poids d’attention dans les modèles de fusion globale Transformer) présentent une grande complexité dimensionnelle. La transmission directe consommerait une bande passante excessive, nécessitant des techniques de compression de gradient pour réduire^{le transfert de données 26}. Cette étude intègre la parsification Top-K avec la compression de quantification, suivant les étapes suivantes : i) Top-K clairsemé : Pour le modèle local ∇θ_i gradient, sélectionnez l’élément du gradient K % avec la plus grande valeur absolue à conserver, K Le reste des éléments est nul, La valeur est ajustée dynamiquement selon la condition de bande passante (lorsque la bande est suffisante K=30, lorsque la bande passante est limitée K=10) ; ii) Compression de quantification : Les éléments du gradient retenu sont quantifiés de la virgule flottante 32 bits aux entiers 8 bits. La formule de quantification est la suivante :

(35)

  

iii) Retour d’erreur : Stocker le gradient rejeté Δ∇=∇θ_i-∇θ_i erreur ^compressée pendant la compression côté client, dans le calcul suivant du gradient, l’erreur est accumulée dans le nouveau gradient, approche, , Compense les pertes de compression. Les effets de la compression du gradient et du retour d’erreur sont présentés dans le tableau 6, In, conditions de quantification 8 K = 20 % de bits, Le taux de compression atteint 15:1 (volume de données originales/volume de données compressées), et grâce à la rétroaction d’erreur, l’AUC-ROC du modèle ne diminue que de 0,5 % à 1,0 %, réalisant ainsi l’équilibre entre le coût de communication et la performance du^{modèle à 27}.

Stratégies de compression	Rapport de réduction	Consommation de bande passante en envoi (MB/round)	Taux de déclin AUC-ROC	Taux de réduction du temps d’entraînement
non compressé (virgule flottante 32 bits)	1:01	128	0.00%	0.00%
Quantification en 30 % supérieure + 16 bits	6.7:1	19.1	0.30%	35.20%
Sommaire 20 % de parcimonie + quantification sur 8 bits	15:01	8.5	0.80%	58.70%
Sparse top 10 % + quantification 8 bits	30:01:00	4.3	2.10%	72.10%

Tableau 6 : Comparaison des performances des stratégies de compression en gradient.

Régularisation consciente de l’équité

Les modèles de contrôle des risques financiers doivent éviter la discrimination envers certains groupes et respecter les exigences réglementaires, notamment la Loi sur la protection des informations personnelles et la Loi sur le rapport de crédit équitable. Cette étude introduit un mécanisme de régularisation conscient de l’équité pour limiter les biais de prédiction intergroupes lors de l’entraînement du modèle, garantissant ainsi l’équité du modèle. Deux indicateurs clés d’équité sont définis : i) Parité démographique (DP) : Le taux de prédiction positive est égal pour différents groupes, approche, , Parmi eux, il y a l’identifiant de groupe ; ii) Égalité des chances (EO) : Le taux de vrai taux positif est égal entre les groupes, approche . Ajouter des termes de régularisation de l’équité à la fonction de perte du modèle hybride de risque d’IA, et imposer des contraintes respectivement au sous-modèle local GBDT et au modèle global Transformer : iii) Contraintes d’équité du modèle local :

Ici, PR(g=A) est le taux de prédiction positif pour le groupe g, λ, et est le coefficient de régularisation pour l’équité.

iv) Contrainte globale d’équité du modèle : Ajouter un ajustement du poids d’équité du groupe à la couche d’attention du Transformer, la sortie du modèle pour les groupes vulnérables a_g=_{a base}×(1+β⋅Δ_inéquitable) reçoit un poids d’attention plus élevé, ici,_{Δ unfair} représente le biais d’équité entre ce groupe et le groupe dominant (Δ_unfair=PR (groupe dominant)-PR (groupes vulnérables)) ; λ_EO est le coefficient de compensation de déviation. L’effet de la régularisation de la perception de l’équité est évalué par ΔDP (déviation DP), ΔEO (déviation EO) et erreur de calibration de groupe.

Tableau de bord de gouvernance et conformité du modèle

Surveillance des polarisations en temps réel

Pour répondre aux exigences de la régulation financière en matière de gestion du cycle de vie des modèles, la recherche a développé un tableau de bord de gouvernance et de conformité des modèles qui intègre des API de surveillance des écarts en temps réel et de reporting réglementaire, permettant une supervision complète des processus et une traçabilité tout au long de l’entraînement, du déploiement et de l’itération des modèles. Le module de surveillance des écarts en temps réel permet un suivi dynamique de l’équité et de la performance du modèle grâce aux dimensions suivantes : i) Surveillance des écarts de groupe : Catégorisation des groupes par sexe client, âge, région, niveau de revenu, etc., calcul du PR, TPR et FPR (taux de faux positifs) pour chaque groupe à chaque heure. Les alertes de déviation sont déclenchées lorsque les différences de PR entre groupes dépassent 0,08 ou que les différences TPR dépassent 0,05 ; ii) Surveillance des dérives de performance : calcul continu des métriques telles que AUC-ROC et PR-AUC. Lorsque ces indicateurs diminuent de plus de 2 % consécutivement sur trois heures, cela est déterminé comme une dérive de performance, déclenchant automatiquement le processus de réentraînement du modèle. iii) Surveillance de la conformité à la confidentialité : Enregistrer la consommation du budget de confidentialité et l’ajout de bruit ε_{intensité totale}/10 de chaque session d’entraînement. Lorsque la consommation de ε d’un seul coup dépasse, mettez l’entraînement en pause et ajustez la stratégie de bruit. iv) Le suivi des données est affiché via des tableaux de bord visuels, permettant aux régulateurs et aux institutions participantes de les consulter en temps réel, et de garantir une gestion transparente des risques du modèle.

API de reporting réglementaire

Pour simplifier le processus de reporting réglementaire, une API standardisée de reporting réglementaire est conçue pour permettre la génération automatique de rapports conformes à des réglementations telles que le RGPD, la CCPA et la loi chinoise sur la protection des informations personnelles. Les fonctions principales incluent : i) Rapport de conformité des sources de données : Agrège automatiquement les types de données, les volumes et le statut d’autorisation des institutions participantes afin de vérifier la conformité au principe du « minimum nécessaire » ; ii) Rapport de conformité de la formation modèle : Enregistrer les itérations de formation, les institutions participantes, les mesures de protection de la vie privée et les indicateurs d’équité pour générer un rapport de traçabilité de la formation modèle ; iii) Rapport de conformité à la prédiction des risques : présente les schémas de distribution conformes à la réglementation des prédictions de modèles entre différents groupes et des cas d’explication contrefactuelle afin de démontrer la non-discrimination. L’API adopte un style de conception RESTful, prenant en charge les sorties aux formats JSON et XML. Les autorités de régulation peuvent accéder directement aux données de rapports via des interfaces API ou définir des cycles de rapports automatiques pour mettre en place des processus réglementaires automatisés et standardisés. Les modèles de rapports sont conformes aux normes réglementaires du modèle financier de l’Organisation internationale de normalisation (ISO), garantissant l’autorité et l’universalité des rapports.

Conception expérimentale : Description de l’ensemble de données

Données multi-institutionnelles sur les cartes de crédit et les prêts PME

Les données expérimentales provenaient d’institutions financières en Chine, couvrant des types de données telles que les transactions par carte de crédit personnelles et les dossiers de demande et de traitement de prêts pour PME. La technologie CopulaGAN a été employée pour synthétiser et améliorer les événements frauduleux rares, construisant ainsi un ensemble de données expérimental alliant authenticité et intégrité. Les données réelles utilisées dans l’expérience comprennent deux grandes catégories : les données de transactions personnelles par carte de crédit et les données de prêts aux PME, totalisant plus de 5 millions d’enregistrements couvrant de janvier 2022 à décembre 2023. Les données couvrent quatre grandes régions économiques — Nord de la Chine, Chine de l’Est, Chine du Sud et Sud-Ouest de la Chine — afin d’assurer la représentativité géographique et la diversité de la distribution de l’échantillon. Les domaines fondamentaux et les caractéristiques statistiques des données institutionnelles sont présentés dans le tableau 7. Parmi elles, les institutions A et B sont des banques commerciales nationales avec de larges bases de clients couvrant tous les groupes d’âge ; Les institutions C et D sont des banques internet principalement desservant les jeunes démographiques (20-35 ans) ; Institution E est une société de financement à la consommation ciblant les utilisateurs des marchés de bas niveau, avec une distribution de données présentant des caractéristiques significatives non IID. Le jeu de données contient 115 610 données. L’ensemble de données est fourni par des institutions financières qui collaborent avec des universités

Type de données	Institution	Nombre de records (10 000)	Nombre de clients (10 000)	Champs de carottage	Taux de fraude par défaut	Caractéristiques de la distribution des données
Transactions par carte de crédit	A	180	85	Durée de la transaction, montant, type de commerçant, lieu de transaction, s’il faut voler la carte	0.32%	Les grandes transactions représentent une forte proportion (> 5000 yuans)
Transactions par carte de crédit	B	150	72	Nombre de flux de transaction, montant (USD/RMB), canal de paiement, note client	0.28%	Les transactions transfrontalières représentent 15 %
Transactions par carte de crédit	C	120	68	Horodatage de la transaction, montant, installation ou non, âge du client, emplacement du numéro de téléphone mobile	0.45%	Le petit trading à haute fréquence (<1000 yuans représente 60 %)
Prêts pour petites entreprises et micro-entreprises	D	32	1.2	Nom de l’entreprise, montant du prêt, durée de crédit, échelle de revenus, montant fiscal, si elle est en retard	2.80%	Les clients manufacturiers représentent 40 %
Prêts pour petites entreprises et micro-entreprises	E	18	0.8	Date de demande de prêt, montant attendu, type d’entreprise, nombre d’employés, historique de performance	3.50%	Les clients du service représentent 70 %

Tableau 7 : Caractéristiques statistiques de l’ensemble de données financières réelles multi-institutions.

Pour répondre à l’hétérogénéité des données interinstitutionnelles, l’expérience a strictement respecté les spécifications de la grille de données et des couches sémantiques en standardisant les champs institutionnels : par exemple, convertir le « montant de transaction (USD) » de l’Institution B en RMB en utilisant le taux de change de la date de transaction et unifier le nom du champ en « montant de la transaction (YUAN) » ; la conversion de « l’âge » du client de l’Institution C (format « 1990-01-01-01 ») en un âge entier ; et la cartographie de « l’échelle de revenus d’entreprise » de l’Institution D (classée « en dessous de 1 million / 1-5 millions / plus de 5 millions ») jusqu’aux points moyens des plages numériques (500 000, 3 000 000, 7 500 000), assurant la cohérence entre le format des données et la signification sémantique.

Augmentation synthétique via CopulaGAN pour des événements frauduleux rares

Dans les scénarios de contrôle des risques financiers, les échantillons de fraude/défaut représentent généralement une proportion extrêmement faible. Utiliser directement de si petites tailles d’échantillons pour l’entraînement du modèle entraînerait de graves problèmes de déséquilibre de classe, compromettant les capacités de généralisation du modèle. L’expérience utilise Copula GAN (un réseau antagoniste génératif basé sur les fonctions Copula) pour synthétiser des données augmentées pour des cas rares de fraude. Cette méthode combine la capacité de la fonction Copula à modéliser des distributions de données en haute dimension avec les capacités génératives de GAN, permettant la création de données synthétiques alignées sur les schémas réels de fraude tout en évitant le problème de « effondrement de motifs » couramment observé dans la génération traditionnelle de GAN.

Structure du modèle CopulaGAN

CopulaGAN se compose de trois parties : Générateur, Discriminateur et module de contrainte de distribution de Copula : (1) Générateur : L’entrée est un vecteur de bruit aléatoire z∼N(0,1) en 128 dimensions, et la sortie d’un vecteur de caractéristiques synthétique cohérent avec la dimension réelle de l’échantillon via un réseau entièrement connecté à 3 couches (dimensions de couches cachées sont 256, 512, 256) ; (2) Discriminateur : L’entrée est un échantillon réel ou un échantillon synthétique x_syn, et via un réseau entièrement connecté à deux couches + fonction d’activation sigmoïde, on donne la probabilité que l’échantillon soit une donnée réelle ; (3) Module de contrainte de distribution de copule : ajuster la distribution conjointe des échantillons de fraude réelle via la fonction de copule gaussienne (où est la valeur de la fonction de distribution des arêtes de la huitième caractéristique de i), et ajouter la contrainte de distance de copula dans la perte du générateur pour garantir que la distribution conjointe des échantillons synthétiques soit cohérente avec les échantillons réels.

(36)

Améliorer la vérification des procédés et des effets

Le processus de formation et d’amélioration de CopulaGAN est le suivant : i) Prétraitement des données : extraire des échantillons de fraude/défaut (18 200 au total) à partir des données réelles de diverses institutions ; Standardiser les caractéristiques continues (x^'=(x-μ)/σ) ; Les caractéristiques discrètes sont codées avec une chaleur unique ; ii) Ajustement de la copule : La fonction de copule gaussienne est utilisée pour ajuster la distribution conjointe des échantillons de fraude prétraités, calculer la distribution d’arêtes F_iθ fonction et les paramètres de la fonction copule de chaque caractéristique ; iii) Formation GAN : Le générateur et le discriminateur sont entraînés en alternance. La fonction de perte du générateur est :

(37)

Ici, λ est le poids de contrainte, et Distance (C_{syn,C réel}) est la divergence KL entre la distribution de Copule des échantillons synthétiques et la distribution de Copule des échantillons réels ; La fonction de perte du discriminateur est la perte binaire standard en entropie croisée :

(38)

Après convergence du modèle (avec une précision du discriminateur stabilisée à 50 %±5 %), le générateur a produit 50 000 échantillons de fraude synthétique. Ces éléments ont été mappés dans l’espace de caractéristiques d’origine selon des spécifications sémantiques et fusionnés avec des échantillons réels pour construire un ensemble d’entraînement équilibré. Pour valider l’efficacité des échantillons synthétiques, la recherche les a évalués à l’aide d’un test KS à deux échantillons et d’une visualisation de la distribution des caractéristiques. Les résultats du test KS ont montré que les différences dans la distribution des caractéristiques entre les échantillons synthétiques et réels étaient toutes inférieures à 0,05 (statistique KS <0,05, valeur p>0,05), indiquant une bonne cohérence de distribution. La comparaison de la distribution des caractéristiques a démontré que les échantillons synthétiques pouvaient reproduire avec précision les caractéristiques de distribution des échantillons de fraude réels, fournissant suffisamment de données valides pour l’entraînement du modèle, comme montré à la Figure 1.

Figure 1 : Comparaison de la distribution des caractéristiques entre les échantillons de fraude réelle et CopulaGAN Veuillez cliquer ici pour voir une version agrandie de cette figure.

Indicateurs d’évaluation

L’expérience construit un système d’évaluation multi-indices à partir de quatre dimensions principales : la performance de prédiction, la protection de la vie privée, l’équité et l’efficacité de la communication afin de mesurer de manière exhaustive la performance globale du cadre d’apprentissage fédéré et du modèle de contrôle des risques par IA. La définition, la méthode de calcul et les critères d’évaluation de chaque dimension sont présentés dans le tableau 8.

Dimensions de l’évaluation	Nom de l’index	Définition et méthode de calcul	Critère d’évaluation
Performance estimée	AUC-ROC	La zone sous la courbe de travail caractéristique du sujet mesure la capacité du modèle à distinguer les exemples positifs (par défaut/fraude) et négatifs	Plus la valeur est élevée, mieux c’est. L’AUC-ROC du modèle excellent est >0,9
	PR-AUC	L’aire de rappel précis sous la courbe, applicable aux données déséquilibrées, mesure la performance d’un modèle dans des scénarios où les exemples positifs sont rares	Plus la valeur est élevée, mieux c’est. Le PR-AUC d’un excellent modèle est >0,8
	Fraction de Brier	Erreur quadratique moyenne entre la probabilité prédite et l’étiquette vraie, B=1Ni=1N(pi-yi)2	Plus la valeur est basse, mieux c’est. Le score Brier d’un modèle excellent est inférieur à 0,05
	Taux de faux positifs (FPR)	La proportion d’exemples négatifs FPR=FPFP+TNthat	Plus la valeur est basse, mieux c’est. Les scénarios financiers exigent généralement un FPR <1 % (pour éviter de refuser de bons clients)
Protection de la vie privée	ε-Courbe de consommation (ε-Curve)	Enregistrer le taux de consommation du budget cumulé de vie privée pendant la formation afin de refléter la capacité d’équilibre dynamique de la protection de la vie privée	La courbe se stabilise et le ε total est inférieur ou égal à 5 (conformément aux exigences du RGPD concernant le risque de vie privée)
	Attaque de raisonnement des membres AUC (MI-AUC)	La capacité d’un attaquant à déduire si un échantillon appartient à l’ensemble d’entraînement à partir des résultats de la prédiction du modèle, et plus la valeur de l’AUC est proche de 0,5, meilleure est la confidentialité	MI-AUC<0.6 est efficace pour la protection de la vie privée, MI-AUC<0.55 est excellent
	Taux de fuite de caractéristiques (FLR)	L’attaquant agrège les caractéristiques pour inverser l’erreur FLR=1-KL(P∥∥Q)Dmaxrate de la distribution de données originale,	FLR <0.1 indique que la protection de la vie privée est efficace (P est Dmax, la vraie distribution, Q est la distribution déduite, et est la distance maximale KL)
Équité	Biais DP en statistiques (ΔDP)	La différence maximale dans la prédiction ΔDP=max∥PRg-PRavg∥taux d’exemples positifs entre différents groupes,	ΔDP <0,05 pour l’équité, pour l’excellence (PRg pour le taux positif du groupe g)
	Biais EO (ΔEO)	La différence maximale dans les taux ΔEO=max∥TPRg-TPRavg∥ moyenne (ΔEO=maxTPRg-TPRavg entre différents groupes,	GCE <0,02 est bien calibrée (K est le nombre de groupe, le taux prédit et le taux réel)
	Erreur d’étalonnage de groupe (GCE)	L’écart moyen entre la probabilité prédite GCE=1Kg=1K∥pg-rg∥de chaque groupe et le taux de défaut réel,	Plus la valeur est basse, mieux c’est. Les exigences de scénarios des petites et moyennes organisations sont de <10 Mo/round
Efficacité de la communication	Bande passante de liaison montante par tour	Consommation totale de bande passante des données téléchargées par chaque organisation au coordinateur lors d’une	Plus la valeur est basse, mieux c’est. Les scénarios interinstitutionnels nécessitent moins de 120 minutes
	Rapport de réduction (CR)	Le rapport entre le volume de données original et le volume de données compressé, CR=SizerawSizecomp	Plus le taux de compression est élevé, mieux c’est. Excellentes solutions CR>10:1

Tableau 8 : Système d’indice d’évaluation expérimentale.

Explication de la métrique : i) Attaque par inférence d’appartenance : En utilisant la méthodologie d’attaque boîte noire, l’attaquant entraîne un modèle binaire de classification qui saisit les probabilités prédites du modèle cible et fournit l’état d’appartenance à l’échantillon. Le risque de fuite de confidentialité est mesuré par l’AUC du modèle (c’est-à-dire MI-AUC). ii) Critères de classification des groupes : Dans l’évaluation de l’équité, les groupes sont classés selon quatre dimensions : genre (homme/femme), âge (moins de 25/25 à 40/>40 ans), région (marché de première ligne/nouveau premier rang/deuxième niveau/filiale) et niveau de revenu (<5k/5k-15k/15k-30k/>30k/mois). Cela garantit la couverture des groupes sensibles identifiés par les régulateurs financiers. iii) Critères de convergence : Lors de l’entraînement du modèle, si l’ensemble de validation AUC-ROC montre une diminution inférieure à 0,001 sur trois tours consécutifs (chaque tour contenant 10 époques), l’entraînement est considéré comme convergent et arrêté.

Références

Pour valider la supériorité du modèle proposé « Modèle de contrôle des risques entre apprentissage fédéré + IA hybride », cette étude établit cinq modèles de référence : les modèles centralisés traditionnels, les modèles classiques d’apprentissage fédéré, et les modèles améliorés préservant la vie privée. Les paramètres de base et les stratégies d’entraînement de chaque modèle de référence sont détaillés dans le Tableau 9 afin d’assurer l’équité dans les expériences comparatives (tous les modèles utilisent des ensembles d’entraînement identiques, des ensembles de validation et des stratégies d’optimisation des hyperparamètres).

Types de modèles	Nom du modèle	Architecture de base	Mode entraînement	Mesures de protection de la vie privée	Hyperparamètres clés
Modèle centralisé	Tradition GBDT	Arbre de boosting de gradient XGBoost	Toutes les institutions stockent les données d’entraînement de manière centralisée	Pas	Nombre d’arbres = 100, taux d’apprentissage = 0,1, profondeur d’arbre = 6, coefficient de régularisation λ=1,0
Modèle centralisé	Modèle d’apprentissage profond (MLP)	Le réseau entièrement connecté à trois couches (couche d’entrée 256 dimensions → couche cachée 128 dimensions → couche cachée 64 dimensions → couche de sortie 1 dimension)	Toutes les institutions stockent les données d’entraînement de manière centralisée	Pas	Optimiser=Adam, taux d’apprentissage=0,001, taille du lot=256, Dropout=0,3
Modèle fédéral classique	FedAvg (moyenne fédérale)	Le modèle local est GBDT, et le modèle global adopte l’agrégation moyenne des paramètres	Entraînement synchronisé fédéral	Pas	Taux de participation = 0,8, époque locale = 5, ronde d’agrégation = 50, taux d’apprentissage = 0,1
Modèle fédéral classique	FedProx (agrégation fédérale à proximité de la fin)	Le modèle local est GBDT, et le proximal	Entraînement synchronisé fédéral	Pas	Taux de participation = 0,8, époque locale = 5, tour d’agrégation = 50, paramètre proximal μ = 0,01
		μ=0.01 La contrainte de terme est ajoutée lors de l’agrégation ().
Fédération Autonomisée par la Vie Privée	FedAvg+DP (bruit fixe)	Ajouter le bruit laplacien fixe à FedAvg (ε=5, δ=1e-5)	Entraînement synchronisé fédéral	Confidentialité différentielle fixe	Intensité du bruit = 0,1, taux de participation = 0,8, époque locale = 5, rondes d’agrégation = 50
Le modèle de recherche	FedRisk (Modèle fédéral de contrôle des risques)	GDT local (contrainte monotone) + transformateur global (fusion d’attention) + DP + agrégation sécurisée	Formation fédérale asynchrone	Partage de secrets additif adaptatif DP+	Époque locale = 5, rondes d’agrégation = 50, dimension d’attention = 64, budget de confidentialité ε = 5, taux de compression = 15:1

Tableau 9 : Comparaison des paramètres entre le modèle de référence et ce modèle d’étude.

Explication de la dimension comparative : (1) Centralisé vs. Fédéré : En comparant le « GBDT/MLP traditionnel » à « FedAvg/FedProx/FedRisk », cette étude examine la dégradation des performances de l’apprentissage fédéré dans des scénarios « données hors site ». (2) Classique vs. Fédéré amélioré en confidentialité : À travers « FedAvg » versus « FedAvg+DP », la recherche évalue l’impact de la confidentialité différentielle sur la performance du modèle. (3) Synchrone vs. Fédéré asynchrone : La comparaison entre « FedAvg » (synchrone) et « FedRisk » (asynchrone) démontre les avantages d’efficacité de la communication asynchrone pour la formation. (4) Agrégation simple vs. fusion intelligente : Le contraste entre « FedAvg » (moyenne des paramètres) et « FedRisk » (attention fusion) valide l’adaptabilité des stratégies d’intégration Transformer aux données non-IID. (5) Non-Censure vs. Équité-Censure : La comparaison entre « FedAvg » (pas de contraintes d’équité) et « FedRisk » (contraintes conscientes de l’équité) examine les effets des mécanismes d’équité sur l’équité et la performance du modèle.

Études d’ablation

Impact de ε variables sur l’utilité du modèle

En utilisant le budget total de confidentialité ε comme variable (avec des valeurs de 1, 3, 5, 7 et 10), la recherche a fixé δ=1e-5 tout en conservant les autres modules (attention fusion et contrainte monotone GBDT) inchangés afin d’évaluer le compromis entre la force de la protection de la confidentialité et l’utilité du modèle. L’expérience a mesuré à la fois AUC-ROC (utilité du modèle) et MI-AUC (risque de vie privée) comme indicateurs doubles, avec des résultats présentés dans le Tableau 10. Lorsque ε=1, le MI-AUC est tombé à 0,53 (excellente protection de la vie privée), mais l’AUC-ROC n’a atteint que 0,821 (perte significative d’utilité). À ε=5, l’AUC-ROC a rebondi à 0,912 (répondant aux exigences de contrôle des risques financiers) avec MI-AUC=0,58 (protection effective de la vie privée). À ε>5, l’amélioration de l’AUC-ROC est devenue inférieure à 0,01, tandis que le MI-AUC est rapidement monté à 0,63 (dépassant les limites de risque pour la vie privée). Cela confirme que ε=5 est le budget total optimal de confidentialité, atteignant un équilibre entre confidentialité et utilité.

Budget total de la vie privée*	Modèle AUC-ROC	MI-AUC (risque de vie privée)	FLR du taux de fuite des caractéristiques	Fraction de Brier
1	0.821	0.53	0.04	0.078
3	0.876	0.55	0.06	0.061
5	0.912	0.58	0.08	0.042
7	0.919	0.6	0.11	0.039
10	0.923	0.63	0.15	0.037

Tableau 10 : Comparaison des performances des modèles avec différents budgets de confidentialité ε.

Contribution de la fusion de l’attention vs. moyenne simple

Pour évaluer les différences de performance entre la « fusion de l’attention » (la stratégie proposée) et la « moyenne simple » (stratégie FedAvg) dans des scénarios de données non indépendants, deux variables ont été configurées expérimentalement : (1) Sévérité des données non IID (mesurée par des variations de taux de défaut propres à l’institution), faible variation : 0,2 %-0,5 %, forte variation : 0,2 %-3,5 %) ; (2) Stratégies de fusion (fusion d’attention vs moyenne simple). Comme montré à la Figure 2, l’écart AUC-ROC entre les deux stratégies était de seulement 0,023 (0,912 contre 0,889) dans les scénarios non IID bas. Cependant, cet écart s’est creusé à 0,076 (0,905 contre 0,829) dans les scénarios non-IID élevés, le modèle de moyenne simple présentant un surapprentissage significatif (ensemble d’entraînement AUC-ROC 0,941 vs ensemble de validation 0,829). Cela démontre que les mécanismes d’attention peuvent efficacement atténuer la dégradation des performances causée par des données non indépendantes grâce à une pondération dynamique — par exemple en attribuant un poids de 0,32 à l’institution E avec des prédictions par défaut précises et un poids de 0,12 à l’institution C avec des écarts plus importants.

Figure 2 : Comparaison des stratégies de fusion sous différents degrés non-IID. Veuillez cliquer ici pour voir une version agrandie de cette figure.

Effet des régularisateurs d’équité sur les KPI basés sur le profit

La demande principale des institutions financières est d’assurer les profits des entreprises sous la contrainte de l’équité ; c’est pourquoi l’expérience introduit un indice orienté profits - le « rendement du capital ajusté au risque (RAROC) ». La formule est la suivante :

(39)

La perte attendue est calculée comme la probabilité de défaut multiplicée par le taux de perte de défaut fixe (fixé à 40 %), tandis que le capital économique est déterminé par l’exposition au risque multipliée par le poids au risque (conformément aux exigences de Bâle III). Les métriques d’équité (ΔDP, ΔEO) et RAROC du modèle avec régularisation d’équité par rapport au modèle sans cette régularisation sont comparées dans le tableau 11. Après la mise en place de la régularisation de l’équité, le ΔDP est passé de 0,15 à 0,04, le ΔEO est passé de 0,12 à 0,03, et le RAROC n’a diminué que de 2,1 % (18,3 % contre 18,7 %), nettement en dessous du seuil acceptable par l’industrie de 5 %. Cela démontre que le mécanisme d’équité de notre étude répond efficacement aux exigences réglementaires de non-discrimination tout en contrôlant les pertes bénéficiaires.

Configuration du modèle	ΔDP (différence de taux positif de groupe)	ΔEO (différence TPR de groupe)	GCE (erreur d’étalonnage de groupe)	RAROC (Rendement ajusté au risque sur les actifs)	FPR (taux de faux positifs)
Pas de règle d’équité	0.15	0.12	0.035	18.70%	0.95%
Il y a équité et régularité	0.04	0.03	0.018	18.30%	1.02%

Tableau 11 : Influence de la régularisation de l’équité sur les indicateurs d’équité et de profit.

Détails de la mise en œuvre

Pour garantir la reproductibilité de l’expérience, la recherche a clarifié la pile technique et les détails du processus d’entraînement : (1) Environnement matériel : Chaque nœud institutionnel utilise des processeurs Intel Xeon Gold 6248, 64 Go de RAM et des GPU NVIDIA Tesla V100 ; le coordinateur fédéré utilise deux processeurs Xeon Gold 6348 avec 128 Go de RAM pour garantir un calcul parallèle et une agrégation efficace des paramètres. (2) Cadre logiciel : Le cadre d’apprentissage fédéré est développé avec PySyft 0.8.6, le module blockchain utilise Hyperledger Fabric 2.5 (mécanisme de consensus : Raft), l’entraînement des modèles repose sur PyTorch 2.0 et XGBoost 2.0.3, tandis que le module de confidentialité différentielle intègre la bibliothèque IBM DP. (3) Processus de formation : (1) Prétraitement des données (2 heures, incluant la normalisation sémantique et l’amélioration de CopulaGAN) ; (2) Entraînement local (5 époques par manche, taux d’apprentissage décroissant par recuit cosinus) ; (3) agrégation asynchrone (les mises à jour globales du modèle se produisent lorsque le coordinateur reçoit des paramètres de 3 institutions) ; (4) Évaluation du modèle (AUC-ROC et métriques d’équité calculées après 10 tours) ; (5) Optimisation par hyperparamètres (optimisation bayésienne avec 50 itérations pour déterminer les paramètres optimaux). (4) Test de robustesse : scénarios simulés de déconnexions institutionnelles (sélection aléatoire d’une institution pour arrêter 1 à 3 tours de formation) et bruit de données (ajout de perturbations de 5 % de valeur de caractéristiques). Les résultats ont montré des fluctuations AUC-ROC inférieures à 0,02, démontrant la capacité anti-interférence du système.

Cette étude a utilisé une stratégie de planification par recuit cosinus avec un taux d’apprentissage initial de 0,05. Le taux d’apprentissage était mis à jour dynamiquement à chaque époque selon la formule sur un total de 100 époques d’entraînement. Cette stratégie maintenait un taux d’apprentissage élevé aux premiers stades de l’entraînement, par exemple 0,05 à la première époque, pour accélérer la convergence du modèle, et la réduisait progressivement jusqu’à presque zéro, par exemple 0,00025 à la centième époque, afin d’améliorer la stabilité de l’ajustement fin des paramètres. Les résultats expérimentaux ont démontré que, comparé à un taux d’apprentissage fixe, cette stratégie améliorait l’ensemble de validation AUC-ROC de 2,3 % et accélérait la vitesse de convergence de 37 %. Le partitionnement des données s’est basé sur un ensemble de données brut provenant de cinq institutions financières totalisant 5 millions d’échantillons, respectant strictement le principe d’isolement interinstitutionnel des données. Les données locales de chaque établissement ont été divisées chronologiquement, sélectionnant les données de janvier 2022 à juin 2023 comme ensemble d’entraînement (70 %), les données de juillet à septembre 2023 comme ensemble de validation (15 %), et les données d’octobre à décembre 2023 comme ensemble de test (15 %). Cette partition garantissait l’indépendance de la fenêtre temporelle des ensembles d’entraînement, de validation et de test, simulant efficacement l’évolution des schémas de risque temporels dans des scénarios réels. Les hyperparamètres clés ont été déterminés via l’optimisation bayésienne. Dans un espace de recherche conjoint comprenant un taux d’apprentissage initial compris entre 0,01 et 0,1, des nombres d’arbres GBDT entre 50 et 200, et des têtes d’attention Transformer issues de l’ensemble {2, 4, 8}, 50 itérations ont été exécutées dans le but de maximiser l’ensemble de validation AUC-ROC. La combinaison finale optimale a été identifiée comme un taux d’apprentissage initial de 0,05, 120 arbres GBDT et 4 têtes d’attention.

Résultats

Performance prédictive : Approcher le niveau des modèles centralisés dans des scénarios non-IID

Dans des scénarios réels avec des données fortement non-IID (variations institutionnelles du taux de défaut de 0,2 % à 3,5 %), FedRisk démontre des capacités exceptionnelles de différenciation des risques, comme le montre le tableau 12. Son AUC-ROC atteint 0,912, le PR-AUC est de 0,823, le score Brier de 0,042 et le taux de faux pos...

Discussion

La stratégie d’ajustement dynamique des hyperparamètres, en particulier le planificateur de taux d’apprentissage par recuit cosinus, s’est avérée essentielle pour équilibrer la vitesse de convergence et la stabilité du modèle. En réduisant le taux d’apprentissage de 0,05 à 0,00025 sur 100 époques, cette approche a accéléré la convergence des premiers stades tout en minimisant de 37 % le temps d’entraînement en phase tardive, réduisant la volatilité, et en améliorant la validation AUC-ROC...

Matériaux

Liste des matériaux utilisés dans cet article

Nom	Entreprise	Numéro de catalogue	Commentaires
Ordinateur portable	Dell Technologies	N/A	Utilisé pour le traitement et la documentation des données
Logiciel statistique (SPSS)	IBM Corp.	Version 26.0	Utilisation pour l’analyse statistique
Microsoft Excel	Microsoft	Bureau 365	Saisie de données et gestion de base des données