機関間デジタル金融データ協働およびリスク管理のための説明可能な連邦学習モデル

サマリー

説明可能な連邦学習フレームワークであるFedRiskを実装するための再現可能なプロトコルを示します。この手順には、セマンティックデータの調和、プライバシー保護のエンティティアライメント、差分プライバシーキャリブレーション、ローカルGBDTトレーニング、グローバルトランスフォーマー融合、勾配圧縮非同期更新が含まれ、複数の機関間で安全でスケーラブルかつ規制に準拠した金融リスク予測を可能にします。

要約

金融データの分散や厳しいプライバシー規制が協働リスク管理を大きく妨げ、精度が60%未満の不正検出や25%を超える中小企業ローンのデフォルトエラーが高まります。既存の連邦学習ソリューションは、非IIDデータ、モデル解釈可能性、コンプライアンスの問題に直面しており、実際の採用率は20%未満となっています。これらのギャップを埋めるために、私たちは4つの主要な革新を統合した説明可能な連邦学習フレームワーク「FedRisk」を提案します。第一に、オントロジー的意味的調和を伴う機関間データメッシュは、機能利用率を85%以上達成します。次に、ハイブリッドAIモデルは局所的に解釈可能なGBDTと単調制約、そしてグローバルな注意ベースのトランスフォーマーを組み合わせ、FedAvgと比べて非IIDシナリオでのパフォーマンス損失を7.6%削減します。第三に、三者プライバシーメカニズムは、総予算ε=5の適応的差別プライバシー、加算的な秘密共有、公平性意識に基づく正則化を採用し、グループ予測バイアスを0.05未満に抑え、RAROC損失を2.1%未満に抑えます。第四に、通信効率の最適化により、1ラウンドあたりの帯域幅を8.5MBに、訓練時間を85分に短縮します。500万件以上の多機関記録をもとに評価されたFedRiskは、中央集権型GBDTよりわずか1.8%低いAUC-ROC0.912を達成し、会員推論攻撃にも抵抗するAUCは0.58です。AUC-ROCでは、機関間データ伝送を99%削減し、従来のFLベースラインを7.3%上回るパフォーマンスを発揮しています。生データ共有なしに安全で透明かつ規制に準拠したリスク予測を可能にすることで、FedRiskは機関間金融協力のためのスケーラブルなソリューションを提供します。

概要

デジタルファイナンスの深い発展は、個人の信用リスク管理から中小企業のサプライチェーンファイナンスに至るサービスモデルを再構築し、データを生産の中核として確立しています。中国人民銀行の「2023年中国フィンテック発展報告書」によると、2023年末までに中国のデジタルクレジットスケールは65兆元を超え、総残高の38%を占め、日々の取引データは500TB¹を超えました。しかし、「データサイロ」は依然として大きな障壁となっています。機関は競争やセキュリティ上の懸念から一般的にクローズドデータモデルを採用しています。例えば、クレジットカード詐欺検出において、銀行は内部データのみに頼ると重要な機関間記録を見落とし、新たな詐欺タイプで識別率が60%未満に落ちます。同様に、中小企業の信用においても、外部の保険や税務データが不足しているため、デフォルト予測誤差が25%を超えています。この断片化は二重の課題を引き起こしています。すなわち、2億人のサービスが行き届いていないクライアントへのアクセスを制限し、リスクのクロスコネクションを18%増加させています(CBIRC 2023年報告書)。その結果、データサイロはデジタル金融の高品質な発展を妨げる中核的なボトルネックとなっています。

近年、世界的なデータプライバシー法の急増により、中央集権型のデータ共有は大幅に制限されています。金融機関は現在、「最低限の必要性」「インフォームド・コンセント」「トレーサビリティ」という3つの基本原則を守らなければなりません。地域ごとに異なるものの、いずれも 表1に詳述されているように、機関間のデータ利用に厳しい閾値を課しています。

規制枠組み	核心制限条項	財務データ連携への影響
EUの一般データ保護規則(GDPR)	1. 国境を越えたデータ転送は「十分性の判断」を満たさなければなりません。2. 個人は自分のデータにアクセスし削除する権利を有する。3. データ漏洩は72時間以内に報告しなければなりません	未許可の越境データ送信は禁止されており、中央集権共有にはプライバシー影響評価(PIA)が必要で、コンプライアンスコストが30%増加します
カリフォルニア消費者プライバシー法(CCPA)	1. 消費者は企業に個人データの削除を依頼できます。2. データ共有には、用途について明確な通知が必要です	中央集権型プラットフォームは各消費者にデータアクセスインターフェースを必要とし、運用コストが25%増加し、消費者がデータを削除しやすくなり、モデルのトレーニングデータが欠落するのを防ぎます
中国の個人情報保護法	1. 個人情報の処理には別途同意が必要です。2. 機密性の高い個人情報処理には追加の承認書類が必要です。3. 「データ分類・保護」システムの確立	機関間データ共有は各顧客からの承認を必要とし、実際には承認率は40%未満です。中央集権モードの実装は難しい
EU決済サービス指令II(PSD2)	1. 銀行データインターフェースを開く;2. データ共有は顧客の承認と限定利用に基づくべきです	データ共有はサポートしていますが、インターフェースアクセスの全プロセスを追跡し、中央集権プラットフォームがインターフェースのセキュリティと監査の責任を負うため、技術的複雑さが大幅に増します

表1:主要データ規制枠組みのコア要件の比較。

本研究は、機関横断的なフェデレーテッドリスクモデリングにおける課題に対応するための3つの重要なイノベーションを紹介します。まず、オントロジカルセマンティックレイヤーを持つデータメッシュアーキテクチャは、異種スキーマを標準化し、85%以上の機能利用率を実現しながらデータの主権を維持します。次に、ハイブリッドAIモデルは、局所的に解釈可能なGBDTと規制に準拠した単調制約、そしてグローバルな注意ベースのトランスフォーマーを組み合わせています。機関の産出を動的に加重することで、このモデルは非IIDのパフォーマンス損失を7.6%削減しつつ、AUC-ROCを0.912に維持します。第三に、三者プライバシー準拠メカニズムは、適応的差別プライバシー(ε=5)、加算的な秘密共有、公平性認識型正規化を統合し、GDPR準拠を確保し、ΔDPバイアスを<0.05に制限し、メンバーシップ推論攻撃に抵抗します(AUC=0.58)。これらのイノベーションは、フェデレーテッド金融AIにおけるデータの断片化、規制上の解釈可能性、プライバシーとセキュリティのトレードオフの要求を調和させています。

金融における連邦学習は、データ分布に基づき、水平的連邦学習(HFL)²、垂直連邦学習(VFL)³、連邦転移学習(FTL)⁴ に分類されます(表2参照)。

連邦パラダイム	コア機能	金融リスク管理適応シナリオ	代表的な研究	有界性
水平連邦学習	参加者のデータ特徴空間は一貫していますが、サンプル空間は異なります	組織横断型クレジットカード詐欺検出	McMahanら[[i]](2017)は、パラメータ平均による機関間モデル協働を実現し、HFLを金融詐欺防止に初めて適用し、10銀行データセットで不正検出率を12%向上させたFedAvgアルゴリズムを提案しました	財務データの非独立かつ同一分布(非IID)特性を考慮しない場合、機関間の顧客リスク分布の差が30%を超えると、モデルのAUC-ROCは15%以上減少します
垂直連邦学習	参加者のサンプル空間は一貫していますが、特徴空間は異なります	銀行と保険会社間の共同信用リスク管理	Yangら[[ii]](2020)は、準同型暗号化を通じて垂直特徴ジョイントトレーニングを実現し、小規模・マイクロビジネスローンシナリオで89.3%のデフォルト予測精度を達成するSecureBoostアルゴリズムを提案しました	これは厳格なエンティティアライメントに依存しており、プライバシーの漏洩リスクが高く、特徴量が大きすぎるとトレーニング効率が急激に低下します
連邦編入学習	参加者のデータ分布や特徴空間には違いがあります	クロスシナリオリスク移行	Panら[[iii]](2021)は、パラメータ移行最適化モデルを初期化することでサプライチェーンファイナンスのサンプル希少性問題を解決し、収束速度を60%向上させました	「負の移動」は移住の過程で起こる可能性が高いです。発生シナリオとターゲットシナリオのリスクメカニズム差が40%を超える場合、モデルのパフォーマンスは従来モデルを上回ります
[[i]]マクマハン、B.、ムーア、E.、ラメイジ、D.、ハンプソン、S.、そしてY.アーカス、B. A.(2017年)。分散型データからディープネットワークを通信効率よく学習する方法。第20回人工知能・統計国際会議論文集、1273–1282年。
[[ii]]ヤン、Q.、リウ、Y.、チェン、T.、トン、Y.(2020年)。フェデレーテッド機械学習:概念と応用。ACM知能システム・技術取引、10巻2号、1–19頁。
[[iii]]Pan, S. J., & Yang, Q.(2021年)。転移学習に関する調査。IEEE 知識とデータ工学取引、33巻12号、2345–2359頁。

表2:金融セクターにおける学習パラダイムの比較。^5,6,7

最近の進展はシナリオ特有の課題に対応しています。FedSSL⁸ は対照的な学習を通じてラベルの希少性に取り組み、FedLite⁹ は資源制約のある機関で490×のコミュニケーション削減を実現しています。ヘルスケア¹⁰、セキュリティ脆弱性¹¹、マルチモーダルファイナンス¹²、スケーラビリティ¹³ への拡張は、FLの広範な適用性を示しています。

プライバシー保護は金融リスク管理の中心です。3つの主流技術—差分プライバシー(DP)¹⁴、セキュア・マルチパーティ・コンピュテーション(SMC)¹⁵、準同型暗号(HE)¹⁶—は、強度、効率性、適応性において明確な利点を提供します。DPは形式的にPr[M(x) = y]≤e^∈ ⋅ Pr[M(x') = y] + δで定義されます。ここでMはランダム化アルゴリズムを表し、$x$と$x'$は隣接するデータセット、yはアルゴリズムの出力を表します。これにより、データセット間の出力の類似性が保証され、制御可能なノイズを通じて個々の漏れを厳密に制限します。これらの技術的特徴の比較分析は表3に示されています。

技術の種類	基本原則	プライバシーの強さ(ε価値)	計算複雑度	金融状況への適応性
差別的プライバシー	個々のデータへの寄与はノイズを加えることで区別できません	ε=1-5(金融シナリオにおける推奨値)	O(n)(nはサンプルサイズ)	高はモデルトレーニングの全過程に適したもので、フェデレーテッドラーニングとシームレスに組み合わせることができます
安全な多方間コンピューティング	複数の参加者が協力して中間結果を開示せずに計算を行います	情報理論的セキュリティ	O(n²)(垂直連邦シナリオ)	確かに敏感な特徴の結合計算には適していますが、大規模なサンプルシナリオでは時間がかかりすぎます
準同型暗号	暗号化されたデータは直接計算され、復号後に正しい結果が得られます	計算安全	O(n³)(格子暗号に基づく)	低く、小規模なパラメータ伝送にしか適さず、数百万サンプルのシナリオ計算時間が24時間以上かかります

表3:プライバシー保護技術の特徴の比較。

金融用途においては、「プライバシー効果によるバランスコントロール」により、差分プライバシーが主流となっています。Dwork, ^C.17 は、プライバシー保護のための定量的基準を提供する古典的な(ε, δ)-DPの定義を提案しました。基本的な式は以下の通りです。

(1)

ここでMはプライバシー保護アルゴリズムとして、DとDは隣接するデータセット(サンプル差が1つのみ)です。プライバシーバジェット(プライバシー保護が小さいほど強くなります)、 r プライバシーバジェット(プライバシー保護が小さいほど強くなります)、 δ 失敗確率(通常^10-5で取られます)。

Abadi, M.らは、グラデーションクリッピングとノイズ注入を用いて、クレジットリスクモデルのプライバシー漏れを8%未満に抑える差分プライバシー確率勾配下降法(DP-SGD^{)を開発しました} 。主に機密処理にはセキュアな多方間計算(SMC)と準同型暗号が用いられます。例えば、BogetoftらはSMC^をクロス バンクの信用スコアリングに適用し、最終スコアのみが利用可能にしました。Perri, ^L.2 は、安全なパラメータ集約のための完全準同型暗号アルゴリズムを提案しましたが、高い計算複雑さのため、中規模銀行間の小規模学習に限られています。

AIリスク管理モデルは従来の中央集権型アーキテクチャから分散型アーキテクチャへと進化し、データ依存度、パフォーマンス、コンプライアンスコストにおいて大きな違いを示す2つのパラダイムがあります。中央集権モデルには勾配ブースティングツリー(GBDT)や深層学習モデルが含まれます。Friedman, J., Hastie, T.Tibshirani, ^R.21 によって提案されたGBDTアルゴリズムは、マルチツリー統合を通じてリスク予測の精度を高め、個人信用シナリオでAUC-ROCを0.93に達成します。しかし、完全な顧客データの収集が必要であり、データ漏洩やコンプライアンス上の課題のリスクを伴います。Zhang, H., Liu, Y., Zhang, X., Yin, Z.Li, ^Y.22 はトランスを基盤としたリスクコントロールモデルを開発し、不正検出率を15%向上させつつ、パラメータサイズは10GBを超えています。分散型パラダイムにはパラメータ共有および特徴共有のアプローチが含まれます。パラメータ共有(例:FedAvg)は局所パラメータを集約しますが、非IID特性には苦労しています。AUC-ROCはデフォルト率差が0.5%から3.5%に上昇したため、0.89から0.82に減少しました。機能共有(例:SecureBoost)は垂直方向のコラボレーションを可能にしますが、正確な整合性が必要であり、エラーが5%を超えるとパフォーマンスが20%低下します。

フェデレーテッドラーニングの核心は、生のデータ転送を伴わずに複数機関間の協働トレーニングを可能にすることです。この枠組みは参加者、トレーニングプロセス、目的機能を定義します。本研究では、K金融機関ノード(P₁,_{P 2}, ..., P_Kと表記)とコーディネーターCで構成されています。各機関P_Kは、リスクラベル(0が正規、1がデフォルト詐欺)、ローカルサンプルサイズ、フルデータスケール、顧客特徴ベクトル y_k,i∈{0,1} , X_k,i∈R_dを保持します。トレーニングは「局所反復-グローバル集約」プロセスに従います:i) 初期化:コーディネーターが初期のグローバルパラメータθ₀を生成し、すべての機関に配布します。ii) 局所反復:訓練ラウンドでは、機関P_Kが局所データと現在のグローバルパラメータθ_tに基づいており、勾配降下を通じて局所損失関数を最小化し、更新された局所パラメータθ_t,kを得ます。すなわち:

(2)

ここでnは学習率、∇_θL_k(θ_t)は局所損失aθの勾配、_tは局所損失aθ_tの勾配です。iii) グローバル集計:機関はローカルパラメータを暗号化し、コーディネーターにアップロードします。コーディネーターはサンプルサイズ加重集約により新しいグローバルパラメータθ_t+1 を生成します。

(3)

iv) 終了条件:検証セットでのグローバルモデルのパフォーマンスが次のラウンドで改善しなくなるまでステップ2-3を繰り返し、最終モデルを出力します。θ^* = θ_T。金融データの非独立同一分布(Non-IID)特性を踏まえ、従来の連邦平均法(Fed AvgP_k)の仮定を拡張する必要があります。本研究では、「ラベル分布異質性」と「特徴分布異質性」という二重次元を用いて非IIDを特徴づけます。機関における肯定的な事例(デフォルトイベント)の割合を次のように定義します。

(4)

タグ同型係数を定義します;集合特徴の平均差を α>0.03 のとき、 とします。これは高い非IIDシナリオであると判断されます。

攻撃者の能力と対象に応じて、脅威シナリオは表4に示される3つのカテゴリーに分けられます

脅威の種類	攻撃者の身元は	パンチングバッグ	典型的な方法
半ば真実を偽る攻撃	参加機関/コーディネーター	他の機関の顧客特性を推測する	モデルパラメータに基づく勾配反変およびメンバー推論攻撃
敵の攻撃	悪意ある機関	汚染グローバルモデル	偽勾配や毒モデルをアップロードしてください
外部からの攻撃	無許可の第三者	輸送中のパラメータや特徴を盗む	中間攻撃、通信リンクの盗聴

表4:金融システムの脅威モデル分類。

(ε,δ) -差別プライバシー(Differential Privacy, DP)を中核的なプライバシー保護標準として用い、その本質はノイズを加えることで、「データセットにサンプルが含まれているかどうか」がモデル出力に与える影響を無視することです。形式的な定義は次の通りです:連邦学習Mアルゴリズムに対して、任意の隣接する2つのデータセット と がサンプル(DΔD' = 1)のみ差がある場合、および任意の出力S⊆Range(M)集合に対して、次の条件を満たす。

Pr[M(D)∈S]≤e^ε⋅Pr[M(D^')∈S]+δ (5)

この場合は満足(ε,δ)-DPと呼ばれます。一つは「プライバシー予算」(プライバシー保護が小さいほど強力で、通常は財務シナリオを考慮されます)δ「失敗確率」(一般的にδ≤^10-5で、低確率の事象がプライバシーやセキュリティに影響を与えないようにします)。連邦訓練の多ラウンド反復特性に適応するため、総プライバシー消費量は「Renyi差分プライバシー」(RDP)の結合定理を用いて計算されます。各トレーニングラウンドのプライバシー予算を_t εとし、サイクルのトレーニング後の総プライバシー予算は次の条件を満たすとします。

(6)

この定理は、ラウンドごとのプライバシーバジェットを動的に割り当てることで適応ノイズキャリブレーションの理論的基盤を提供します。

FedRiskは厳密な(ε、δ)差分プライバシー(DP)フレームワークを採用し、Rényi DP(RDP)合成定理 を通じて プライバシー予算を動的に割り当てています。この研究では、グローバル感度Δfを、隣接するデータセットによって誘導されるモデルパラメータの最大L1ノルム変化(単一のサンプル差)と定義し、分散認識型ラプラスノイズキャリブレーション(ノイズ係数κ_tデータ分布変動に比例)を用いています。総プライバシー予算制約ε=5(GDPR準拠閾値を満たす)の下で、RDPは複数ラウンドのトレーニングプライバシー消費を(ε、δ)-DP(δ=10⁻⁵)に変換し、保護強度とモデルの効用実証的結果のバランスを取ることで、メンバー推論攻撃AUCを0.58に抑制しつつ、リスク予測AUC-ROCを0.912に維持します。

金融リスク管理モデルの最適化は、「予測精度」「プライバシー保護」「公平性」という3つの規制要件を同時に満たさなければなりません。損失最小化だけを目的とした従来の最適化関数はもはや適用できません。規制制約を定量的な正則化項に変換するための多目的最適化フレームワークの確立が必要です。二値分類シナリオ(デフォルト/正規)では、モデル予測確率と実際のラベルの偏差を測定する基準損失関数としてログ損失(LogLoss)が採用されます。定義されるのは次の通りです。

(13)

ここで p_k,i = σ(θ;x_k,i)はモデルのサンプル(x_{k,i,y k,i)}の予測デフォルト確率であり、σ(⋅)はシグモイド活性化関数です。

GDPR、個人情報保護法、その他の規則の要件は、3種類の正規化用語に変換され、基本的な損失関数と組み合わせて最終的な最適化目標を形成します。

(14)

各正則化項の定義と機能は以下の通りです:i) プライバシー制約:差分プライバシーのノイズ付加コストに基づき、定量的なプライバシー保護がモデルの精度に与える影響について論じます。モデルΔパラメータのグローバル感度を(すなわち隣接するデータセットによるパラメータの最大変化)とします。次のようになります。

(15)

この用語により、追加のノイズ強度がプライバシー予算に見合い、モデルの精度の過度な犠牲を避けられます。ii) 公平性の制約:個人情報保護法の「差別禁止」要件を考慮し、異なる集団の予測バイアスは制約されます。例として「人口学的均衡」(DemographicParity)を用い、集合の正の予測率を とします。

(16)

この項は異なるグループ間の予測率の差を最小化し、モデルの識別を回避します。iii) 堅牢性制約:Basel IIIにおける「モデル妨害防止能力」の要件に応じて、データの小さな摂動がモデル出力に大きな影響を与えないようにすること。敵対的サンプルΔx摂動を加えることで(|Δx|_∞≤γ)、研究は次のように定義しています:

(17)

異常データに対する用語強化モデルの堅牢性が向上し、誤判断のリスクが減少します。この式では、は正則化係数であり、交差検証によって決定されました(本研究ではλ₁=0.01,λ₂=0.05,λ₃=0.02)。3つの規制目標と予測の精度のバランスを確保しましょう。

プロトコル

システムアーキテクチャ

機関間データメッシュとセマンティックレイヤー

機関間のデータ異質性に対処するため、本研究はドメイン駆動型ノードパーティショニングによるデータメッシュアーキテクチャを構築しています。各金融機関は独立したデータドメインノードとして動作しつつ、所有権と管理権を維持し、セマンティックレイヤーによって統一されたデータ理解とインタラクションが可能となります。オントロジーベースのセマンティック層は、コアエンティティ、f_マップ 属性、エンティティ関係を定義する統一された財務リスク管理データモデルを確立します。具体的な意味的マッピングルールは 表5に詳述されています。機関固有の分野では、標準化された変換はセマンティックマッピング関数によって実現されます。

(18)

カーネルエンティティ	機関のA分野名	機関内のフィールドBの名称	セマンティック層の一様フィールド名	データ型	標準化されたルール
クライアント	プレミアム顧客評価(1-5)	VIP顧客レベル(ブロンズからダイヤモンド)	顧客信用評価(1-5)	整数	ブロンズ→1、シルバー→2、ゴールド→3、プラチナ→4、ダイヤモンド→5
ビジネス	取引金額(1万元)	取引金額(元)	取引金額(元)	浮動数	機関におけるAフィールドの価値は1万倍に上ります
クレジットの申請	申請者枠(クレジット比率)	期待ローン額	申請者ローン額(元)	浮動数	機関A:総単位×出願者数比率;機関B:直接マッピング

表5:金融リスク管理分野におけるコアエンティティセマンティックマッピングルール。

ここで x_i,j は機関 j の第i番目の特定のフィールド値であり、min(x_j) と max(x_j) はそれぞれ機関内のフィールドの最小値と最大値です。U_j と L_j は、このフィールドの統一値範囲のセマンティックレイヤーにおける上限と下限を定義します。

ブロックチェーンベースのグローバルモデルレジストリおよび監査トレイル

連邦学習における混沌としたモデルバージョン管理や追跡不可能な訓練プロセスの問題を解決するために、ブロックチェーン技術を用いてグローバルなモデルレジストリおよび監査・トレーシングシステムを確立しています。コンソーシアムブロックチェーンアーキテクチャを活用し、参加ノードには金融機関、連邦調整者、規制機関が含まれ、データの不変性と多党間の合意を確保しています^。グローバルモデルレジストリは、バージョン番号、トレーニングH_対ラウンド、参加機関のリスト、構造パラメータ、パフォーマンス指標などのモデルのコアメタデータを保存します。このメタデータはマークル木構造で保存され、各モデルバージョンは一意のハッシュ値に対応しています。

(19)

ここでvはモデルのバージョン番号、Tはトレーニングラウンド数の総数、Sはトレーニングに参加する機関の集合、ID_iは機関iの一意識別子、θ_vはバージョンvのモデルパラメータベクトル、AUC_vはこのモデルのバージョンのAUC-ROC値を示しています。

フェデレーテッド・フィーチャーエンジニアリング・パイプライン

安全なエンティティアライメントとスキーマの調和

フィーチャーエンジニアリングは、機関間データ協働の中核的な要素であり、機能の効果的な抽出、整合、集約を行いながらデータプライバシーを確保します。本研究は、セキュアエンティティアラインメント、スキーマ調整、差分プライバシー埋め込みトランザクショングラフ集約を含む包括的なパイプラインを設計し、機関間の特徴異質性とプライバシー漏^{洩リスクの両方}に対応することを目的としています。機関間での連携は、機能コラボレーションを達成するために不可欠です。しかし、顧客の識別情報を直接送信するとプライバシーが損なわれます。したがって、本研究は準同型暗号(HE)と局所感応ハッシュ(LSH)技術を組み合わせたプライバシー保護型エンティティアライメント手法を採用しています。機関はSHA-256ハッシュ関数を用いて顧客識別子を事前処理し、予備識別子を生成します。これらの識別子はLSHを通じて同じ「バケット」にマッピングされ、その後の暗号化計算を削減します。同じバケット内の識別子はパイリエ準同型暗号を受けます。暗号化された識別子はフェデレーテッドコーディネーターにアップロードされ、コサイン類似度を用いて暗号化された識別子の類似性を比較することでエンティティアライメントを実現します。

(20)

類似度があらかじめ設定された閾値を超える場合(本研究ではτ=0.95とみなされます)、同一エンティティであると判断され、機関間で統一されたエンティティIDが生成され、安全なエンティティアライメントを実現します。

トランザクショングラフ埋め込みの差分プライベート集約

金融取引データは、クライアントをノード、取引をエッジとする、明確なグラフ構造の特徴を示します。トランザクショングラフ埋め込みは、クライアントの「関連当事者取引パターン」を効果的に捉え、リスク管理モデルにとって重要な機能を提供します。しかし、機関間で直接集約されるG_i=(V_{i,E i})V_iiE_ie_i,v∈R ^{d d}d トランザクショングラフの埋め込みは、クライアントの取引関連情報を漏らす可能性があります。そのため、トランザクショングラフ埋め込みのプライバシー保護アグリゲートを実現するために、差分プライバシー(DP)技術が導入されました。各機関はローカルでトランザクショングラフを構築し、ここで は機関のクライアントノードの集合、はトランザクションエッジの集合(取引額に等しいエッジの重み)を表します。GraphSAGEアルゴリズムを用いてノード埋め込み(本研究では256次元埋め込み次元)を生成しています。プライバシーの差を及ぼす要件を満たすために、ラプラシアンノイズはローカル埋め込みに追加されます:

(21)

ここで、Δ_G GraphSAGEアルゴリズムのグローバル感度(本研究の実験で推定される Δ_G=0.8)、機関のローカルプライバシー予算について、

(22)

システムの総プライバシー予算については、本研究はε_total = 1.5)としています。コーディネーターは、各機関の顧客割合に基づく重み付け 平均戦略を用いて各機関のノイズ埋め込みを集約します。

(23)

集約されたグローバル取引 グラフは埋め込まれ、各機関にフィードバックされます。リスク管理モデルの重要な入力機能として、機関間の取引相関情報を保持するだけでなく、差別的なプライバシーを通じて顧客のプライバシーも保護します。

(24)

ハイブリッドAIリスクモデル

局所サブモデル:単調制約付き勾配ブースト

従来の中央集権型AIリスク管理モデルは、機関間の連邦シナリオへの適応に苦労しています。本研究は、「局所サブモデル+グローバル融合モデル」を組み合わせたハイブリッドAIリスクモデルを開発し、勾配ブースティングツリー(GBDT)の高い解釈可能性とTransformerの非独立かつ同一分布(NID)データへの適応性を統合しています。連邦環境におけるモデルのパフォーマンスと説明可能性のバランスを取るために解釈モジュールが導入されます。各機関は、強力な構造データ適合能力と高い解釈性を持つGBDTサブモデルを現地で構築しており、これらは金融リスク管理規制に不可欠な要件です。過学習や非論理的な結論を防ぐために、GBDTトレーニング中に単調制約が実装され、顧客収入や信用スコアなどの主要特徴に対して単調な増加または減少パターンを強制します。GBTDによって設定された最初の木は h_t(x)、モデルの出力は次の通りです:

(25)

ここで、ηは学習率です(この研究はη=0.1です)。単調制約は損失関数正則化 x_j によって実現されます。

制約項の追加:

(26)

ここで、x≺x^'はxの固有値がx^'の固有値より小さいことを表し、最終的な損失関数は次のようになります。

(27)

ここで、l は対数損失関数(バイナリリスクコントロール y_i∈{0,1} シナリオで使われ、顧客がデフォルトするかどうかを示します)。 は木の複雑度正則化項、λ、γ は正則化係数です(この研究はλ=0.01 γ=0.5の相互検証を経て行われ、n_i は機関の局所サンプル数、T は木の数です(この研究では T=100 とみなし)。

グローバルフュージョン:非IID適応のための注意ベーストランス

機関間データは有意な非IID分布特性を示します。従来のFedAvgアルゴリズムは、局所的なモデルパラメータを単純に平均化するだけで、非IIDデータへの適応に苦労しています。これに対処するため、研究では注目p_i(x)=σ(F_i(x))σF i(x_{)ia i}(x)ia iベースのトランスフォーマーモデルを導入し、局所サブモデルのインテリジェントな融合を図ります。グローバル融合モデルは、各機関の局所サブモデルからの出力確率(機関のGBDTモデルからのシグモイド関数出力)を入力として取ります。トランスフォーマーアーキテクチャはエンコーダと注意層で構成されており、注意層は異なる機関の出力から注意の重み重みを計算し、適応的な重み付けを実現します。注意の重みはスケールドット積注意を用いて計算されます:

(28)

ここで、qはクエリベクトル(グローバルサンプルの平均リスク特徴から生成)、 は機関iのキーベクトル、d_kはキーベクトルの次元(本研究ではd_k=64)、nは連邦に参加する機関数です。

グローバルモデルの最終出力確率は次の通りです:

(29)

注意メカニズムを通じて、グローバルモデルは高いデータ品質と正確なリスク予測を持つ機関により高い重みを自動的に割り当て、非IIDデータへの適応性を向上させることができます。

説明可能性モジュール:連邦木上のSHAP+反事実生成器

金融リスク管理モデルは、規制要件を満たし、顧客の「知る権利」を保護するために解釈可能性を維持しなければなりません。これに対処するため、研究は連邦SHAP+反事実生成器を組み合わせた解釈可能性モジュールを開発しました。局所GBDTサブモデルでは、SHAP値を用いて特徴重要度を測定し、S_i∈R^Ni^×mmを量化して各特徴の予測結果への寄与を定量化します。連邦シナリオでは、ローカルSHAP値を直接送信すると特徴分布情報が損なわれる可能性があります。したがって、各機関がSHAP値行列(特徴数用)をローカルで計算し、差分プライバシーノイズを適用してSHAP値にアップロードする安全な集約戦略を実装しています。コーディネーターはその後、グローバルなSHAP値を計算します:

(30)

ここで、S_i^'は機関iのSHAP値行列であり、w_i は機関のサンプルサイズの割合です。

顧客の現在の固有ベクトルxとターゲットリスク_評価yを入力します。出力は反事実xf_特徴ベクトルであり、満たされる(ターゲットリスク評価に対応するθ_{ターゲット}確率閾値)となります。そして |x_cf-x|₂ 最小値(すなわち調整コストの最小値)を。事実生成元の損失関数は次の通りです:

(31)

ここでα,β,γは重み係数です(本研究ではα=10,β=5,γ=1),L_GAN 対抗的損失関数は、反事実特徴ベクトルの合理性と真正性を保証するためにGANに用いられます。

プライバシーとセキュリティ層

加法秘密共有による安全な集約

連邦学習において、局所モデルパラメータの伝達と集約はプライバシーリークの重要な一環です。AdditiveSecretSharing(ASS)技術は、安全な集約を実現し、コーディネーターが各組織のローカルモデルパラメータを直接取得する必要を回避するために採用されています。具体的な手順は次の通りです:i) 各機関はローカルモデルパラメータを秘密のシェア θ i,1,θ_i,2,...,θ_i,n に分割し、を満たす。ここに参加機関の数を示します;ii) 機関 i は t _i,k を機関 (k≠i) に送り、自身のシェア θ_i,i を保持します。iii) 各機関kは他のすべての機関から送られた株式 θ_{1,k,θ 2,k,...,}θ_n,k 、 を自ら保持した θ_k,k のシェアと合計し、部分和を得る;iv) すべての機関がアップロードし、一部をコーディネーターに共有し、コーディネーターがグローバルパラメータ集計結果を計算。加法秘密共有を通じて、コーディネーターはグローバルに集約されたパラメータしか取得できず、n-1ttt=⌈n/2⌉個々の機関のローカルパラメータを推定することはできません。複数の機関間の共謀であっても、他者からパラメータを回収することはできず、パラメータ伝達時のプライバシーとセキュリティが確保されます。機関間の切断によるシェア損失に対処するため、バックアップとしてシャミール秘密共有メカニズムが導入されました。各シェアはさらに断片に分割されます。任意の断片を収集することで、全体のシェアを復元でき、システムの堅牢性が向上します。

(ε, δ)-DP予算スケジューリングにおける適応ノイズキャリブレーション

差別的なプライバシーの核心的な課題は、プライバシー保護の強さとモデル性能のバランスを取ることにあります。従来の固定ノイズ加算法は、フェデレーテッドトレーニング中にデータ分布が動的に変化するシナリオに適応するのに苦労しています。本研究は、(ε,δ)-DPとプライバシー予算スケジューリング戦略を組み合わせた適応型ノイズキャリブレーション機構を設計し、ノイズ強度の動的調整を実現します。システムの総プライバシー予算を次のように定義します(本研究は_総額=10-5をδ、プライバシーリスクに関するGDPR要件に準拠しています)、分割予算スケジューリング戦略を採用し、総予算は{ε_{1,ε 2},...,ε_T}のトレーニングサイクルで以下のように割り当てられ、満たされています:

(32)

各訓練ラウンドでは、局所データの分布特性に応じてノイズ強度が動的に調整されます。第tラウンドの局所データ特徴分散が と仮定すると、ノイズ調整係数α_i,tを定義します。

(33)

α_i,t≥0.8(データ分布が安定)の場合、小さなノイズ強度 を用いると;αi,t<0.8(データ分布が変動)時、ノイズ強度を増加させます。その中にはモデルパラメータのグローバル感度(この研究は勾配クリッピングによって保証されています)があります。

通信効率の高い訓練プロトコル

ステイルネス制御付き非同期クライアント更新

機関間連携型の連邦学習は、高い通信遅延や大きな帯域幅消費(特にネットワーク資源が限られた中小企業向け)といった課題に直面しています。本研究は、非同期クライアント更新、グラデーション圧縮、誤りフィードバックを取り入れた効率的な通信トレーニングプロトコルを設計し、通信コストを削減しシステムのスケー^{ラビリティ}を高めることを目的としています。従来の同期型フェデレーテッドトレーニング手法(FedAvg)は、すべてのクライアントがローカルトレーニングを完了するのを待ってからパラメータ集約を行う必要があり、そのためトレーニングサイクルが長くなります。非同期クライアント更新機構により、クライアントは独立してローカルトレーニングを完了し、パラメータを即座にアップロードできます。これらのパラメータを受け取ると、フェデレーテッドコーディネーターは他のクライアントを待たずにリアルタイムでグローバルモデルを更新します。これは非同期訓練におけるモデルの古い問題に対処します。スタレネス制御戦略を導入し、クライアントのスタレネス値を定義します。(t_に対して現在のグローバルトレーニングラウンド、t_{last_update}クライアントが最後にグローバルモデルを取得したラウンド)。(S_max は許容される最大腐敗度の場合、この研究は s_max=5)とします。クライアントは通常通りトレーニングに参加します。その時_の最大>、クライアントはローカルトレーニング前に最新のグローバルモデルを再度ダウンロードする必要があります。ハードウェア構成は、Intel Xeon E5-2678 v3 CPU(12コア、2.5GHz)とNVIDIA Tesla V100 GPU(16GB VRAM)、およびノードあたり64GB DDR4メモリを組み合わせて構成されており、分散型トレーニングワークロードを効率的に処理しています。ソフトウェア初期化には、hook = syのようなPySyftコマンドがあります。TorchHook(torch)andvirtual_worker = sy。VirtualWorker(hook, id="client1")は安全なフェデレーテッド接続を確立するために使われ、federated_train_loader = sy。FederatedDataLoader(dataset.federate((client1, client2)), batch_size=32)は参加者間でフェデレートされたデータロードを可能にします。セマンティックマッピングは金融機能を機関間で変換します。例えば、動的為替レートの式を用いて取引額をUSDからCNYに変換します:transaction_amount_CNY = transaction_amount_USD exchange_rate + (0.001 randn())、ここで為替レートはAPIを通じて定期的に更新されます。不均衡なデータセットを補強するために、CopulaGANはsdv.tabular import CopulaGANのようなコードスニペットを用いて合成敵対サンプルを生成します。シンセサイザー = CopulaGAN(epochs=50);synthesizer.fit(train_data);synthetic_samples = synthesizer.sample(num_rows=1000)、元のデータの統計的特性を保持します。局所的なGBDTトレーニングは単調制約(例:「credit_score」が「approval_probability」と正の相関を持つこと)を強制します。LightGBMではviaparams = {"monotonic_constraints": (1, 0, -1)}が実現され、トランスフォーマー融合はPyTorchでマルチヘッド注意レイヤーで実装されています:self.attention = nn。マルチヘッドアテンション(embed_dim=64、num_heads=4);attn_output、_ = self.attention(query, key, value, key_padding_mask=padding_mask)、その後に安定性のためのレイヤー正規化と残留接続が続きます。差別プライバシーは、L1感度(Δf)とプライバシーバリュー(ε)にスケールしたラプラスノイズを注入します。例えば、np.random.laplace(loc=0, scale=Δf/ε ε)からサンプリングしたノイズを集約前に勾配に加算します。公平性制約は、集団有病率に反比例する(sample_weight = 1 / group_counts[y_train])でサンプルを再重み付けすることで、集団分布のパリティ違反を軽減するために適用されます。同時に、加重集約戦略を用いて、顧客パラメータの重みをステールネス値に応じて調整します。

(34)

ここでλ=0.1はスタレネスペナルティ係数です。スタイルネスが大きいほど重みは小さくなり、これによりステイルパラメータがグローバルモデルに与える影響が軽減されます。

勾配圧縮と誤差フィードバックの蓄積

モデルパラメータ(特にトランスフォーマーのグローバル融合モデルにおける注意重み)は高次元の複雑さを持ちます。直接伝送は過剰な帯域幅を消費するため、^{データ転送を減らす}ために勾配圧縮技術が必要となります。本研究では、Top-Kのスパーシフィケーションと量子化圧縮を統合し、以下の具体的な手順に従います:i) Top-Kスパース:局所モデル∇θ_i勾配の場合、保持する絶対値Kが最も大きい勾配要素K%を選択します。残りの要素はゼロです。帯域幅条件に応じて動的に調整されます(帯域幅が十分の場合、K=30、 帯域幅が制限される場合 K=10)。ii) 量子化圧縮:保持された勾配要素は32ビット浮動小数点から8ビット整数に量子化されます。量子化の公式は次の通りです:

(35)

  

iii) 誤差フィードバック:クライアント側の圧縮中に廃棄された勾配 Δ∇=∇θ_i-∇θ_i^圧縮誤差を保存します。次の勾配計算では誤差を新しい勾配に蓄積し、 、圧縮損失を補償します。勾配圧縮および誤差フィードバックの影響は表 6、8 K=20%の量子化条件に示されています。圧縮比は15:1(元のデータ量/圧縮データ量)に達し、誤差フィードバックによりモデルのAUC-ROCは0.5%〜1.0%しか減少せず、通信コストと^{モデル性能の}バランスを実現しています。

圧縮戦略	還元比	アップロード帯域幅消費量(MB/ラウンド)	AUC-ROCの衰退率	トレーニング時間短縮率
非圧縮(32ビット浮動小数点)	1:01	128	0.00%	0.00%
上位30%のスパース+16ビット量子化	6.7:1	19.1	0.30%	35.20%
上位20%のスパース+8ビット量子化	15:01	8.5	0.80%	58.70%
上位10%のスパース+8ビット量子化	30:01:00	4.3	2.10%	72.10%

表6:勾配圧縮戦略の性能比較。

公平性意識型正則化

金融リスク管理モデルは、特定のグループに対する差別を避け、個人情報保護法や公正信用報告法などの規制要件を遵守しなければなりません。本研究は、モデル訓練中のグループ間予測バイアスを制約し、モデルの公平性を確保するために公平性を意識した正則化メカニズムを導入します。2つの主要な公平性指標が定義されています:i) 人口動態的均衡(DP):異なるグループで正の予測率が等しいアプローチ、アプローチ、 、その中にはグループ識別子が含まれる;ii) 機会均等(EO):真の陽性率はグループ間で等しいアプローチ 。ハイブリッドAIリスクモデルの損失関数に公平正則化項を加え、それぞれ局所GBDTサブモデルとグローバルTransformerモデルに制約を課します:iii) 局所モデル公平性制約:

ここでPR(g=A)は群g, λの正の予測率であり、公平性のための正則化係数です。

iv) グローバルモデルの公平性制約:Transformer注意層にグループ公平性の重み調整を加え、脆弱グループのモデル出力_{a g}=a_ベース×(1+β⋅Δ_不公平)により高い注意重みが与えられます。ここで、Δ_不公平 はこのグループと支配的なグループ間の公平性バイアスを表します(Δ_unfair=PR(支配的なグループ)-PR(脆弱なグループ));λ_EOは偏差補償係数です。公平知覚正則化の効果は、ΔDP(DP偏差)、ΔEO(EO偏差)、および群のキャリブレーション誤差によって評価されます。

モデルガバナンスとコンプライアンスダッシュボード

リアルタイムバイアスモニタリング

モデルライフサイクル管理に関する金融規制の要件を満たすため、本研究はリアルタイムの偏差監視と規制報告APIを統合したモデルガバナンスおよびコンプライアンスダッシュボードを開発し、モデルの訓練、展開、反復全過程における全プロセス監督とトレーサビリティを可能にします。リアルタイム偏差モニタリングモジュールは、以下の次元を通じてモデルの公平性とパフォーマンスを動的に追跡します:i) グループ偏差モニタリング:顧客の性別、年齢、地域、所得レベルなどでグループを分類し、各グループごとに時間単位でPR、TPR、FPR(偽陽性率)を計算します。グループ間のPR差が0.08を超える場合、またはTPR差が0.05を超えると逸脱警報が発動します。ii) パフォーマンスドリフト監視:AUC-ROCやPR-AUCなどの指標を継続的に計算します。これらの指標が3時間で連続して2%以上低下した場合、それはパフォーマンスドリフトと判断され、自動的にモデルの再学習プロセスが開始されます。iii) プライバシー遵守監視:各トレーニングラウンドの_{プライバシー}予算消費量および騒音増加ε合計/10強度を記録します。1発の弾薬の消費εが超えたら、トレーニングを一時停止しノイズ戦略を調整してください。iv) 監視データは視覚的なダッシュボードを通じて表示され、規制当局や参加機関がリアルタイムで閲覧でき、モデルリスクの透明性管理を実現しています。

規制報告API

規制報告プロセスを簡素化するために、GDPR、CCPA、中国の個人情報保護法などの規制に準拠した報告を自動的に生成する標準化された規制報告APIが設計されています。主な機能は以下の通りです:i) データソースコンプライアンスレポート:参加機関のデータタイプ、ボリューム、認可状況を自動的に集約し、「最低限必要」原則の遵守を検証します。ii) モデルトレーニングコンプライアンスレポート:トレーニングの反復、参加機関、プライバシー保護措置、公平性指標を記録し、モデルトレーニングのトレーサビリティレポートを生成します。iii) リスク予測遵守報告書:異なるグループや反事実的説明事例間でのモデル予測の規制遵守分布パターンを示し、非差別性を示す。APIはRESTful設計スタイルを採用し、JSONおよびXML形式の出力をサポートしています。規制当局はAPIインターフェースを通じてレポートデータに直接アクセスしたり、自動報告サイクルを設定して自動化かつ標準化された規制プロセスを実現できます。報告書のテンプレートは国際標準化機構(ISO)の財務モデル規制基準に準拠しており、報告書の権威性と普遍性を確保しています。

実験デザイン:データセットの記述

複数機関のクレジットカードおよび中小企業ローンデータ

実験データは中国の金融機関から提供され、個人のクレジットカード取引や中小企業ローンの申請・履行記録などのデータタイプをカバーしています。CopulaGAN技術を用いて希少な詐欺イベントを合成・強化し、真正性と完全性を兼ね備えた実験データセットを構築しました。実験で使用された実際のデータは主に2つのカテゴリーに分かれます。個人クレジットカード取引データと中小企業ローンデータで、2022年1月から2023年12月までの合計500万件以上の記録に及びます。データは、地理的な代表性とサンプル分布の多様性を確保するため、北中国、東部、南中国、西南中国の4つの主要な経済地域をカバーしています。機関データの中核分野および統計的特徴は 表7に示されています。その中でも、機関AとBは全年齢層にわたり大きな顧客基盤を持つ全国規模の商業銀行です。機関CとDは主に若年層(20〜35歳)を対象としたインターネットバンクです。Institution Eは、低位市場のユーザーをターゲットにした消費者金融会社であり、データ配信には有意な非IID特性が見られます。このデータセットには115,610件のデータが含まれています。このデータセットは、大学と協力する金融機関によって提供されています

データ型	所属機関	記録数(10,000枚)	顧客数(10,000人)	コアフィールド	デフォルト詐欺率	データ分布の特徴
クレジットカード取引	A	180	85	取引時間、金額、加盟店の種類、取引場所、カードを盗むかどうか	0.32%	大きな取引は高い割合を占めます(> 5000元)
クレジットカード取引	B	150	72	取引フロー番号、金額(USD/RMB)、支払いチャネル、顧客評価	0.28%	越境取引は15%を占めています
クレジットカード取引	C	120	68	取引のタイムスタンプ、金額、設置の有無、顧客の年齢、携帯電話番号の所在地	0.45%	小規模な高頻度取引(<1000元)は60%を占めています
中小企業ローン	D	32	1.2	会社名、ローン金額、クレジット期間、収益規模、税額、未払いの有無	2.80%	製造業の顧客は40%を占めています
中小企業ローン	E	18	0.8	ローン申請日、見込み金額、事業種別、従業員数、過去の業績記録	3.50%	サービス顧客は70%を占めています

表7:複数機関実質金融データセットの統計的特徴。

機関間データの異質性に対処するため、実験は機関フィールドを標準化することでデータグリッドおよびセマンティック層の仕様に厳格に従いました。例えば、機関Bの「取引金額(USD)」を取引日の為替レートで人民元に換算し、フィールド名を「取引金額(YUAN)」に統一します。Institution Cの「顧客年齢」(フォーマット「1990-01-01」)を整数年齢に変換すること;そして、Institution Dの「企業収益スケール」(「100万未満/1-500万/500万以上」と分類)を数値範囲の中間値(5億、3,000、000、750万)にマッピングし、データ形式と意味意味の一貫性を確保しています。

CopulaGAN による 希少な不正イベントに対する合成増強

金融リスク管理のシナリオでは、詐欺やデフォルトサンプルは通常非常に低い割合を占めます。このように小さなサンプルサイズを直接モデルトレーニングに使うことは、深刻なクラス不均衡問題を引き起こし、モデルの一般化能力を損なう恐れがあります。この実験では、Copula GAN(Copula関数に基づく生成的敵対ネットワーク)を用いて、まれな不正事件の拡張データを合成します。この手法は、Copula関数の高次元データ分布のモデリング能力とGANの生成機能を組み合わせ、実際の不正行為パターンに沿った合成データを作成しつつ、従来のGAN生成でよく見られる「パターン崩壊」問題を回避できます。

CopulaGANモデル構造

CopulaGANは3つの部分で構成されています:ジェネレーター、判別器、そしてCopulaの分布制約モジュールです:(1) ジェネレーター:入力は128次元のランダムノイズベクトルz∼N(0,1)、出力は真のサンプル次元と整合した合成特徴ベクトルで、3層の完全連結ネットワーク(隠れ層次元は256、512、256)を通じます。(2) 判別器:入力は実サンプルまたは合成サンプル x_シンであり、2層の完全連結ネットワーク+シグモイド活性化関数を通じて、サンプルが実データである確率を出力します。(3) コピューラ分布制約モジュール:ガウスコピュラ関数(ここで はiの第8特徴の辺分布関数値)で実の不正サンプルの結合分布を適合し、生成損失にコピューラ距離制約を加えて合成サンプルの結合分布が実サンプルと整合するようにする。

(36)

プロセスと効果の検証を強化する

CopulaGANの研修および強化プロセスは以下の通りです:i) データ前処理:各種機関の実データから不正/デフォルトサンプル(合計18,200件)を抽出すること;連続特徴を標準化する(x^'=(x-μ)/σ);離散的な特徴は固有の熱で符号化されます。ii) コピューラフィッティング:ガウスコピュラ関数は、前処理された不正サンプルの結合分布をフィッティングするために用いられます。各特徴の辺分布_Fiθ関数およびコピュラ関数パラメータを計算します。iii) GANトレーニング:ジェネレーターと識別器を交互に訓練します。発生器の損失関数は次の通りです:

(37)

ここで、λは制約重み、Distance(C_syn, C_real)は合成サンプルのCopula分布と実サンプルのCopula分布とのKL発散です。判別子損失関数は標準的な二値クロスエントロピー損失です:

(38)

モデル収束(判別器精度が50%±5%に安定)後、生成器は5万件の合成不正サンプルを生成しました。これらは意味論的仕様に従って元の特徴空間にマッピングされ、実際のサンプルとブレンドされてバランスの取れた訓練セットを構築しました。合成サンプルの有効性を検証するため、研究では2サンプルKS検定と特徴分布の可視化を用いて評価しました。KS検定の結果、合成サンプルと実サンプル間の特徴分布の差はすべて0.05未満(KS統計量<0.05、p値>0.05)であり、良好な分布一貫性を示しました。特徴分布比較により、合成サンプルが実際の不正サンプルの分布特性を正確に再現できることが示され、 図1に示されるようにモデル学習に十分な有効なデータを提供できます。

図1:実際の不正サンプルとCopulaGANの特徴分布の比較この 図の拡大版はこちらをクリックしてください。

評価指標

本実験は、予測性能、プライバシー保護、公平性、コミュニケーション効率の4つのコア次元からマルチインデックス評価システムを構築し、フェデレーテッドラーニングフレームワークとAIリスク管理モデルの包括的なパフォーマンスを包括的に測定します。各次元の定義、計算方法、評価基準は 表8に示されています。

評価の次元	索引の名称	定義と計算方法	評価基準
推定性能	AUC-ROC	被験者の特徴的な作業曲線下の面積は、モデルが肯定的(デフォルト/不正)例と否定例を区別する能力を測定します	価値が高いほど良いです。優れたモデルのAUC-ROCは>0.9です
	PR-AUC	曲線下の精度リコール面積は、不均衡データに適用され、肯定的な例が少ない状況でのモデルのパフォーマンスを測定します	価値が高いほど良いです。優れたモデルのPR-AUCは>0.8です。
	ブライヤー分率	予測確率と真ラベルの平均二乗誤差、B=1Ni=1N(π-yi)2	値が低いほど良いです。優れたモデルのBrierスコアは0.05未満です
	偽陽性率(FPR)	負の例の割合 FPR=FPFP+TNthat。	値が低いほど良いです。財務状況では通常、FPR<1%(良質な顧客を拒否しないため)が必要です
プライバシー保護	ε消費曲線(ε曲線)	トレーニング中に蓄積されたプライバシー予算εの消費率を記録し、プライバシー保護の動的バランス能力を反映します	カーブは安定しつつあり、総εは5以下(GDPRのプライバシーリスク要件に沿って)になっています。
	メンバーの推論がAUC(MI-AUC)を攻撃	攻撃者がモデルの予測結果からサンプルが訓練セットに属しているかどうかを推測できる能力、そしてAUC値が0.5に近いほどプライバシーが向上します	MI-AUC<0.6はプライバシー保護に効果的で、MI-AUC<0.55は優れています
	特徴漏れ率(FLR)	攻撃者は特徴を集約して、元のデータ分布の誤差FLR=1-KL(P∥∥Q)Dmaxrateを逆転させます。	FLR <0.1はプライバシー保護が有効であることを示します(Pは真の分布であるDmax、Qは推定分布、は最大KL距離です)
公平性	統計におけるDPバイアス(ΔDP)	異なるグループ間の肯定例の最大予測差 ΔDP=max∥PRg-PRavg∥率、	公平性、卓越性に対するΔDP<0.05(グループgの陽性率を示すPRg)
	EOバイアス(ΔEO)	各グループ間の真陽性ΔEO=∥最大TPRg-TPRavg∥率の最大差、	GCE <0.02はよく較正されています(Kは群数、は予測率、は実際の率です)
	グループキャリブレーション誤差(GCE)	各グループの予測確率GCE=1Kg=1K∥pg-rg∥と実際のデフォルト率との平均偏差は、	値が低いほど良いです。中小規模組織のシナリオ要件は<10MB/ラウンドです
通信効率	ラウンドあたりのアップリンク帯域幅	各組織がコーディネーターに単一の送信時にアップロードしたデータの総帯域幅消費量	値が低いほど良いです。機関横断のシナリオは120分未満で済みます
	還元比(CR)	元のデータボリュームと圧縮されたデータボリュームの比率、CR=SizerawSizecomp	圧縮比が高いほど良いです。素晴らしいソリューション CR>10:1

表8:実験評価指数システム。

計量的説明:i) メンバーシップ推論攻撃:ブラックボックス攻撃手法を用いて、攻撃者はターゲットモデルから予測確率を入力し、サンプルメンバーシップの状態を出力する二値分類モデルを訓練します。プライバシーリークリスクはモデルのAUC(すなわちMI-AUC)で測定されます。ii) グループ分類基準:公平性評価では、グループは性別(男性/女性)、年齢(25歳未満/25歳以下/4>0歳未満/40歳未満)、地域(第一層/新規第一層/第二層/子会社市場)、所得レベル(<5k/5k-15k/15k/>30k/月30,000元)の4つの次元で分類されます。これにより、金融規制当局が特定した敏感なグループへのカバーが保証されます。iii) 収束基準:モデルトレーニング中、検証セットAUC-ROCが3回連続ラウンド(各ラウンド10エポックを含む)で0.001未満の減少を示した場合、訓練は収束完了とみなされ停止されます。

基準

提案された「Federated Learning + Hybrid AIリスク管理モデル」の優位性を検証するため、本研究では5つのベースラインモデルを確立します:従来の中央集権モデル、古典的フェデレーティングラーニングモデル、そしてプライバシー保護型強化モデルです。各ベースラインモデルのコアパラメータと訓練戦略は、比較実験の公平性を確保するために表 9 に詳述されています(すべてのモデルは同一の訓練セット、検証セット、ハイパーパラメータ最適化戦略を使用しています)。

モデルの種類	モデル名	コアアーキテクチャ	トレーニングモード	プライバシー保護措置	主要なハイパーパラメータ
中央集権モデル	伝統 GBDT	XGBoostグラデーションブースティングツリー	すべての機関は研修データを中央管理しています	持っていません	木の数 =100、学習率 = 0.1、木の深さ = 6、正則化係数 λ=1.0
中央集権モデル	ディープラーニングモデル(MLP)	3層完全連結ネットワーク(入力層256次元→隠層128次元→隠れ層64次元→出力層1次元)	すべての機関は研修データを中央管理しています	持っていません	Optimizer=Adam、学習率=0.001、バッチサイズ=256、Dropout=0.3
古典的な連邦モデル	FedAvg(連邦平均)	局所モデルはGBDT(地域モデル)であり、グローバルモデルはパラメータ平均集約を採用しています	連邦同期訓練	持っていません	参加率 = 0.8、局所エポック = 5、集計ラウンド = 50、学習率 = 0.1
古典的な連邦モデル	FedProx(連邦ニアエンド集約)	局所モデルはGBDT、近位モデルは	連邦同期訓練	持っていません	参加率 = 0.8、局所エポック = 5、集計ラウンド = 50、近接パラメータ μ =0.01
		μ=0.01 項制約は集計()の際に追加されます。
プライバシーエンパワード連盟	FedAvg+DP(固定ノイズ)	FedAvgに固定ラプラシアンノイズを加える(ε=5, δ=1e-5)	連邦同期訓練	固定差分プライバシー	ノイズ強度=0.1、参加率=0.8、局所エポック=5、集約ラウンド=50
研究モデル	FedRisk(連邦リスク管理モデル)	ローカルGDT(単調制約)+グローバルトランスフォーマー(注意融合)+DP+セキュアアグリゲーション	連邦非同期訓練	適応型DP+加法秘密共有	ローカルエポック=5、集約ラウンド=50、注意次元=64、プライバシー予算ε=5、圧縮比=15:1

表9:ベースラインモデルと本研究モデルのパラメータ比較。

比較次元の説明:(1) 中央集権型と連邦型:本研究は「従来のGBDT/MLP」と「FedAvg/FedProx/FedRisk」を比較することで、「データオフサイト」シナリオにおけるフェデレーテッド学習の性能低下を検証します。(2) クラシックとプライバシー強化型の比較:「FedAvg」と「FedAvg+DP」を比較し、差分プライバシーがモデル性能に与える影響を評価しています。(3) 同期型と非同期型のフェデレーテッド:「FedAvg」(同期型)と「FedRisk」(非同期型)の比較により、非同期トレーニングの通信効率性優位性が示されています。(4) シンプルアグリゲーションとインテリジェントフュージョン:「FedAvg」(パラメータ平均化)と「FedRisk」(注意融合)の対比は、Transformer統合戦略が非IIDデータに適応できるかを検証します。(5) ノー検閲 vs. 公平性検閲:「FedAvg」(公平性制約なし)と「FedRisk」(公平性認識制約)の比較では、公平性メカニズムがモデルの公平性とパフォーマンスに与える影響を検討します。

アブレーション研究

変動εがモデル効用に与える影響

総プライバシー予算εを変数(値1、3、5、7、10)として用い、研究ではδ=1e-5を固定し、他のモジュール(注意融合および単調制約GBDT)は変更せず、プライバシー保護の強さとモデルの効用性のトレードオフを評価しました。この実験では、AUC-ROC(モデル効用)とMI-AUC(プライバシーリスク)の両方を二重指標として測定し、結果は 表10に示されています。ε=1の時、MI-AUCは0.53(優れたプライバシー保護)に低下しましたが、AUC-ROCは0.821にとどまりました(有用性の大幅な損失)。ε=5ではAUC-ROCは0.912(金融リスク管理要件を満たし)、MI-AUC=0.58(実質的なプライバシー保護)に反発しました。ε>5年にはAUC-ROCの改善は0.01未満となり、MI-AUCは急速に0.63(プライバシーリスク上限を超えて)に上昇しました。これにより、ε=5が最適な総プライバシー予算であり、プライバシーと実用性のバランスが取れていることが確認されます。

トータル・プライバシー・バジェットε	モデルAUC-ROC	MI-AUC(プライバシーリスク)	フィーチャーリーケージ率FLR	ブライヤー分率
1	0.821	0.53	0.04	0.078
3	0.876	0.55	0.06	0.061
5	0.912	0.58	0.08	0.042
7	0.919	0.6	0.11	0.039
10	0.923	0.63	0.15	0.037

表10:異なるプライバシー予算とのモデル性能比較 ε。

注意融合と単純平均化の寄与

非独立データシナリオにおける「注意融合」(提案戦略)と「単純平均化」(FedAvg戦略)のパフォーマンス差を評価するために、2つの変数を実験的に構成しました:(1) データ非IIDの重症度(機関ごとのデフォルト率変動で測定、変動は低:0.2%-0.5%、高変動:0.2%-3.5%);(2) 融合戦略(注意融合と単純平均化)。 図2に示すように、低IIDシナリオでは両戦略間のAUC-ROCギャップはわずか0.023(0.912対0.889)でした。しかし、この差は高非IIDシナリオでは0.076(0.905対0.829)に広がり、単純平均モデルでは著しい過学習(トレーニングセットAUC-ROC 0.941対検証セット0.829)が見られました。これは、注意メカニズムが動的重み付けを通じて非独立データによるパフォーマンス低下を効果的に軽減できることを示しています。例えば、正確なデフォルト予測で機関Eに0.32の重みを、偏離が大きい機関Cに0.12の重みを割り当てるなどです。

図2:異なる非IID度下での融合戦略の比較。この図の拡大版はこちらをクリックしてご覧ください。

公平性規則化者が利益ベースのKPIに与える影響

金融機関の核心的な要求は、公平性の制約のもとで事業利益を確保することであり、そのため実験では利益志向の指数「リスク調整資本収益率(RAROC)」を導入します。その式は以下の通りです。

(39)

予想損失はデフォルト確率に固定デフォルト損失率(40%)を掛けたもので計算され、経済資本はリスクエクスポージャーにリスク重みを掛けたもの(バーゼルIIIの要件に従い)で決まります。公平性正則化付きモデルと、公正性正則化なしモデルの公平性指標(ΔDP、ΔEO)およびRAROCを表 11に比較しています。公平正則化を実施した後、ΔDPは0.15から0.04に、ΔEOは0.12から0.03に下がり、RAROCは2.1%(18.3%対18.7%)の減少にとどまり、業界で許容される5%を大きく下回りました。これは、本研究における公平性メカニズムが規制上の差別禁止要件を効果的に満たしつつ、利益損失を抑制していることを示しています。

モデルのセットアップ	ΔDP(グループ正の率差)	ΔEO(グループTPR差分)	GCE(グループキャリブレーション誤差)	RAROC(リスク調整資産利益率)	FPR(偽陽性率)
公平性のルールはない	0.15	0.12	0.035	18.70%	0.95%
公平さと規則性があります	0.04	0.03	0.018	18.30%	1.02%

表11:公平性正則化が公平性および利益指標に与える影響。

実装の詳細

実験の再現性を確保するため、研究では技術スタックとトレーニングプロセスの詳細が明確にされました。(1) ハードウェア環境:各機関ノードはIntel Xeon Gold 6248プロセッサ、64GB RAM、NVIDIA Tesla V100 GPUを使用しています。フェデレーテッドコーディネーターは、並列計算と効率的なパラメータ集約を確保するために、128GB RAMを搭載したデュアルXeon Gold 6348プロセッサを使用しています。(2) ソフトウェアフレームワーク:フェデレーテッドラーニングフレームワークはPySyft 0.8.6を用いて開発され、ブロックチェーンモジュールはHyperledger Fabric 2.5(コンセンサスメカニズム:Raft)を用い、モデルトレーニングはPyTorch 2.0とXGBoost 2.0.3に依存し、差別的プライバシーモジュールはIBM DP Libraryを統合しています。(3) トレーニングプロセス:(1) データ前処理(2時間、意味正規化およびCopulaGAN強化を含む);(2) 局所訓練(1ラウンド5エポック、学習速度はコサインアニーリングによる減衰);(3) 非同期集約(コーディネーターが3つの機関からパラメータを受け取った際にグローバルモデルの更新が行われる);(4) モデル評価(AUC-ROCおよび公平性指標は10ラウンド後に算出);(5) ハイパーパラメータ最適化(最適パラメータを決定するために50回の反復を行うベイズ最適化)。(4) ロバストネステスト:1〜3ラウンドの訓練を停止するために1つの機関をランダムに選ぶシミュレーション機関の断絶やデータノイズ(5%の特徴値の摂動を加える)シナリオ。結果はAUC-ROCの変動が0.02未満であることを示し、システムの干渉防止能力を示しました。

本研究では、初期学習率0.05のコサインアニーリングスケジューリング戦略が用いられました。学習率は、合計100のトレーニングエポックにわたり、公式に従って各エポックごとに動的に更新されました。この戦略は、学習初期段階で高い学習率を維持し、例えば最初のエポックで0.05を保持してモデル収束を加速させ、徐々にゼロに近いまで減衰させ、例えば第100エポックで0.00025に減衰させてパラメータ微調整の安定性を高めました。実験結果により、固定学習率と比較して、この戦略は検証セットAUC-ROCを2.3%改善し、収束速度を37%加速することが示されました。データ分割は、5つの金融機関からの生データセット(合計500万サンプル)に基づいており、機関間データ分離の原則を厳格に遵守していました。各機関の地域データは時系列順に分けられており、2022年1月から2023年6月までのデータをトレーニングセット(70%)、検証セットとして2023年7月から9月のデータ(15%)、テストセットとして2023年10月から12月のデータ(15%)を選びました。この分割により、訓練、検証、テストセットの時間的ウィンドウ独立性が保証され、現実世界シナリオにおける時間的リスクパターンの進化を効果的にシミュレートしました。主要なハイパーパラメータはベイズ最適化によって決定されました。初期学習率が0.01から0.1、GBDT木数が50から200、集合{2, 4, 8}, 50回のトランスフォーマー注意ヘッドを含む共同探索空間内で、検証セットAUC-ROCの最大化を目的として実行されました。最終的な最適組み合わせは、初期学習率0.05、120 GBDT木、4つの注意ヘッドとして特定されました。

結果

予測性能:非IIDシナリオにおける中央集権モデルのレベルへのアプローチ

非IIDデータ(機関のデフォルト率変動0.2%〜3.5%)が多い現実世界では、 FedRiskは表12に示されるように卓越したリスク差別化能力を示します。AUC-ROCは0.912、PR-AUCは0.823、Brierスコアは0.042、偽陽性率(FPR)は1.02%です。これらの指標は、金融リスク管理の基本要件である低い偽リジェクシング率と高精度(FPR<1.5%、AUC-ROC>0.9)を満たしているだけでなく、従来の連邦モデルFedAvg(AUC-ROC 0.839)から7.3%の改善、プライバシー強化モデルのFedAvg+DP(AUC-ROC 0.812)から10%の改善を示しています。この性能優位性は二つの重要な設計に由来します。第一に、GBDT局所サブモデルにおける単調制約。これは「顧客所得」や「信用スコア」といった重要な特徴に単調制約を適用し、異常な意思決定ロジッ...

ディスカッション

動的ハイパーパラメータ調整戦略、特にコサインアニーリング学習率スケジューラは、収束速度とモデル安定性のバランスを取るために不可欠であることが証明されました。学習率を100エポックで0.05から0.00025に減衰させることで、このアプローチは初期段階の収束を加速しつつ、後期段階のボラティリティ低下訓練時間を37%最小化し、固定レートスケジュールと比較してAUC-ROCの検証を2.3%改善しました。同様に重要だったのは、微分プライバシーにおける適応型ノイズキャリブレーションで、分散認識ラプラスノイズ(スケール=Δf/ε、Δf=1.2、ε=0.5)が機関データの変動に動的に調整されます。特徴分散が0.15を超えるとノイズ強度が100%増加し、分布シフト中のプライバシーリークを防ぎつつ、AUC-ROCの劣化を<0.8%に抑えました。これらの措置により、会員推論攻撃AUCが0.58であることが示すように、ユーティリティを損なうことなくGDPR準拠のプライバシー(ε=5)を確保しました。

FedRiskの現在の実装は垂直フェ...

材料

この記事で使用された材料の一覧

名前	会社	カタログ番号	コメント
ノートパソコン	デル・テクノロジーズ	該当なし	データ処理および文書化に使用されます
統計ソフトウェア(SPSS)	IBM社	バージョン26.0	統計解析に使用
Microsoft Excel	マイクロソフト	Office 365	データ入力と基本的なデータ処理