نموذج التعلم الموحد القابل للتفسير للتعاون بين المؤسسات في البيانات المالية الرقمية والتحكم في المخاطر

ملخص

نعرض بروتوكولا قابلا للتكرار لتنفيذ FedRisk، وهو إطار عمل تعليمي اتحادي قابل للتفسير. تشمل هذه العملية توحيد البيانات الدلالية، ومحاذاة الكيانات للحفاظ على الخصوصية، ومعايرة الخصوصية التفاضلية، وتدريب GBDT المحلي، ودمج المحول العالمي، والتحديثات غير المتزامنة المضغوطة بالتدرج، مما يتيح التنبؤ بالمخاطر المالية الآمنة، القابلة للتوسعة، والمتوافقة مع اللوائح عبر مؤسسات متعددة.

الملخص

تعيق التجزئة في البيانات المالية عبر المؤسسات ولوائح الخصوصية الصارمة إدارة المخاطر التعاونية بشكل كبير، مما يؤدي إلى اكتشاف الاحتيال بدقة أقل من 60٪ وأخطاء عالية في التخلف عن سداد قروض الشركات الصغيرة والمتوسطة تتجاوز 25٪. تواجه حلول التعلم الفيدرالي الحالية تحديات في البيانات غير المتعلقة بنظام IID، وقابلية تفسير النماذج، والامتثال، مما يؤدي إلى معدلات تبني في العالم الحقيقي أقل من 20٪. لمعالجة هذه الفجوات، نقترح FedRisk، وهو إطار تعليمي اتحادي قابل للتفسير يدمج أربعة ابتكارات رئيسية. أولا، تحقق شبكة بيانات عبر المؤسسات مع توحيد دلالي أنطولوجي استغلالا للميزات تتجاوز 85٪. ثانيا، يجمع نموذج الذكاء الاصطناعي الهجين بين GBDT القابل للتفسير محليا مع قيود رتيبة ومحول عالمي قائم على الانتباه، مما يقلل فقدان الأداء في السيناريوهات غير IID بنسبة 7.6٪ مقارنة ب FedAvg. ثالثا، تستخدم آلية الخصوصية الثلاثية الخصوصية التكيفية التفاضلية بميزانية إجمالية ε=5، ومشاركة الأسرار الإضافية، وتنظيم وعي بالعدالة، مما يحد من تحيز توقع المجموعة إلى أقل من 0.05 وخسارة RAROC تحت 2.1٪. رابعا، تقلل التحسينات الفعالة في الاتصالات عرض النطاق الترددي لكل جولة إلى 8.5 ميجابايت ووقت التدريب إلى 85 دقيقة. عند تقييمها على أكثر من 5 ملايين سجل متعدد المؤسسات، تحقق FedRisk معدل AUC-ROC يبلغ 0.912، أي أقل بنسبة 1.8٪ فقط من GBDT المركزية، مع مقاومة هجمات استنتاج العضوية بمعدل AUC يبلغ 0.58. يقلل من نقل البيانات عبر المؤسسات بنسبة 99٪ ويتفوق على الخطوط الأساسية الكلاسيكية في فلوريدا بنسبة 7.3٪ في AUC-ROC. من خلال تمكين التنبؤ بالمخاطر الآمن والشفاف والمتوافق مع اللوائح دون مشاركة البيانات الخام، توفر FedRisk حلا قابلا للتوسع للتعاون المالي بين المؤسسات.

المقدمة

التطوير العميق للتمويل الرقمي يعيد تشكيل نماذج الخدمات، من التحكم في مخاطر الائتمان الشخصية إلى تمويل سلسلة توريد الشركات الصغيرة والمتوسطة، مما يؤسس البيانات كعامل إنتاج أساسي. وفقا لتقرير "تقرير تطوير التكنولوجيا المالية الصينية لعام 2023" الصادر عن بنك الاحتياطي الصيني، تجاوز مقياس الائتمان الرقمي في الصين أواخر 2023 65 تريليون يوان، أي 38٪ من إجمالي الرصيد، مع تجاوزت بيانات المعاملات اليومية 500 تيرابايت^واحد. ومع ذلك، لا تزال "عزلات البيانات" تشكل حاجزا كبيرا. تعتمد المؤسسات عادة نماذج بيانات مغلقة بسبب المنافسة ومخاوف الأمان. على سبيل المثال، في كشف الاحتيال في بطاقات الائتمان، تغفل البنوك التي تعتمد فقط على البيانات الداخلية سجلات حيوية عبر المؤسسات، مما يؤدي إلى معدلات تعريف أقل من 60٪ لأنواع الاحتيال الجديدة. وبالمثل، بالنسبة لائتمان الشركات الصغيرة والمتوسطة، يؤدي نقص بيانات التأمين والضرائب الخارجية إلى أخطاء التنبؤ بالتعثر تتجاوز 25٪. يسبب هذا التجزئة تحديين مزدوجين: تقييد الوصول ل 200 مليون عميل محروم وزيادة مخاطر العدوى المتبادلة بنسبة 18٪ (تقرير CBIRC 2023). وبالتالي، أصبحت صوامع البيانات هي عنق الزجاجة الأساسي الذي يعيق تطوير التمويل الرقمي عالي الجودة.

في السنوات الأخيرة، أدى ارتفاع قوانين خصوصية البيانات العالمية إلى حد كبير من مشاركة البيانات المركزية. يجب على المؤسسات المالية الآن الالتزام بثلاثة مبادئ أساسية: "الحد الأدنى من الضرورة"، "الموافقة المستنيرة"، و"قابلية التتبع". بينما تختلف الأطر الإقليمية، إلا أنها جميعا تفرض عتبات صارمة على استخدام البيانات عبر المؤسسات، كما هو موضح في الجدول 1.

الإطار التنظيمي	الجمل التقييدية الأساسية	تأثير التعاون في البيانات المالية
التنظيم العام لحماية البيانات في الاتحاد الأوروبي (GDPR)	1. يجب أن يستوفي نقل البيانات عبر الحدود "تحديد الكفاية"؛ 2. للأفراد الحق في الوصول إلى بياناتهم وحذفها؛ 3. يجب الإبلاغ عن خروقات البيانات خلال 72 ساعة	يحظر النقل غير المصرح به للبيانات الخام عبر الحدود، ويتطلب المشاركة المركزية تقييم تأثير الخصوصية (PIA)، مما يزيد من تكاليف الامتثال بنسبة 30٪
قانون خصوصية المستهلك في كاليفورنيا (CCPA)	1. يمكن للمستهلكين طلب حذف بياناتهم الشخصية من الشركات؛ 2. يتطلب مشاركة البيانات إشعارا واضحا بما سيستخدم من أجله	تتطلب المنصات المركزية واجهات وصول للبيانات لكل مستهلك، مما يزيد من تكاليف التشغيل بنسبة 25٪ ويجعل من السهل على المستهلكين حذف البيانات وتسبب فقدان بيانات التدريب للنموذج
قانون حماية المعلومات الشخصية في الصين	1. تتطلب معالجة المعلومات الشخصية موافقة منفصلة؛ 2. تتطلب معالجة المعلومات الشخصية الحساسة وثائق تفويض إضافية؛ 3. إنشاء نظام "تصنيف وحماية البيانات"	يتطلب مشاركة البيانات بين المؤسسات تفويضا من كل عميل، ومعدل التفويض أقل من 40٪ في الواقع. الوضع المركزي صعب التنفيذ
توجيه خدمات الدفع للاتحاد الأوروبي الثاني (PSD2)	1. فتح واجهة بيانات البنك؛ 2. يجب أن يكون تبادل البيانات قائما على تفويض العميل والاستخدام المحدود	على الرغم من دعمها لمشاركة البيانات، إلا أنها تتطلب تتبع عملية الوصول إلى الواجهة بالكامل، ويجب أن تتحمل المنصة المركزية مسؤولية أمان الواجهة والتدقيق، مما يزيد بشكل كبير من التعقيد التقني

الجدول 1: مقارنة المتطلبات الأساسية للأطر التنظيمية الرئيسية للبيانات.

تقدم هذه الدراسة ثلاث ابتكارات محورية لمعالجة التحديات في نمذجة المخاطر الفيدرالية عبر المؤسسات. أولا، تقوم بنية شبكة البيانات ذات طبقة دلالية وجودية بتوحيد المخططات غير المتجانسة، محققة أكثر من 85٪ من استخدام الميزات مع الحفاظ على سيادة البيانات. ثانيا، يجمع نموذج الذكاء الاصطناعي الهجين بين GBDT القابل للتفسير محليا مع قيود أحادية متوافقة مع التنظيم، ومحول عالمي قائم على الانتباه. من خلال وزن مخرجات المؤسسات بشكل ديناميكي، يقلل هذا النموذج من فقدان الأداء غير التابع للنظام بنسبة 7.6٪ مع الحفاظ على معدل AUC-ROC عند 0.912. ثالثا، آلية الخصوصية والامتثال الثلاثي تدمج الخصوصية التفاضلية التكيفية (ε=5)، ومشاركة الأسرار الإضافية، وتنظيم الوعي بالعدالة لضمان الامتثال لقانون GDPR، والحد من تحيز ΔDP إلى < 0.05، ومقاومة هجمات الاستدلالات العضوية (AUC=0.58). معا، توفق هذه الابتكارات بين متطلبات تجزئة البيانات، وقابلية التفسير التنظيمي، ومقايضة الخصوصية والأمان في الذكاء الاصطناعي المالي الفيدرالي.

يتم تصنيف التعلم الموحد في المالية إلى التعلم الفيدرالي الأفقي (HFL)²، التعلم الموحد الرأسي (VFL)³، والتعلم التحويلي الموحد (FTL)⁴ بناء على توزيع البيانات (الجدول 2).

النموذج الفيدرالي	الميزات الأساسية	سيناريو التكيف مع التحكم في المخاطر المالية	دراسات تمثيلية	الحدود
التعلم الفيدرالي الأفقي	مساحة ميزات البيانات للمشاركين متسقة، لكن مساحة العينة مختلفة	اكتشاف الاحتيال على بطاقات الائتمان عبر المؤسسات	اقترح مكماهان وآخرون [[i]](2017) خوارزمية FedAvg، التي طبقت لأول مرة HFL على مكافحة الاحتيال المالي من خلال تحقيق تعاون بين النماذج عبر المؤسسات من خلال متوسط المعاملات، وحسنت معدل اكتشاف الاحتيال بنسبة 12٪ على مجموعة بيانات تضم 10 بنوك	دون النظر في خصائص البيانات المالية غير المستقلة والموزعة بنفس الشكل (غير IID)، عندما يتجاوز فرق توزيع مخاطر العملاء بين المؤسسات 30٪، ينخفض الفرق بين AUC-ROC للنموذج بأكثر من 15٪
التعلم الفيدرالي العمودي	مساحة العينات للمشاركين متسقة، لكن مساحة الميزات مختلفة	التحكم التعاوني في مخاطر الائتمان بين البنوك وشركات التأمين	اقترح يانغ وآخرون [[ii]] (2020) خوارزمية SecureBoost، التي تحقق تدريبا مشتركا على الميزات الرأسية من خلال التشفير المتجانس، وتحقق معدل دقة التنبؤ الافتراضي بنسبة 89.3٪ في سيناريو القروض الصغيرة والصغيرة	يعتمد على محاذاة الكيانات الصارمة، مما يحمل خطرا عاليا لتسريب الخصوصية، وتنخفض كفاءة التدريب بشكل حاد عندما يكون بعد الميزات كبيرا جدا
التعلم الفيدرالي للتحويل	هناك اختلافات في توزيع البيانات ومساحة الميزات لدى المشاركين	هجرة المخاطر عبر السيناريوهات	قام بان وآخرون.[[iii]] (2021) بحل مشكلة ندرة العينات في تمويل سلسلة التوريد من خلال تهيئة نموذج تحسين ترحيل المعلمات، الذي حسن سرعة التقارب بنسبة 60٪	من المرجح أن تحدث "الهجرة السلبية" أثناء عملية الهجرة. عندما يتجاوز فرق آلية المخاطر بين السيناريو المصدر والسيناريو المستهدف 40٪، يتجاوز أداء النموذج التقليدي
[[i]]ماكماهان، ب.، مور، إ.، راماج، د.، هامبسون، س.، & ي أركاس، ب. أ. (2017). تعلم فعال للتواصل للشبكات العميقة من البيانات اللامركزية. وقائع المؤتمر الدولي العشرين للذكاء الاصطناعي والإحصاء، 1273–1282.
[[ii]]يانغ، كيو.، ليو، ي.، تشين، ت.، & تونغ، ي. (2020). التعلم الآلي الموحد: المفهوم والتطبيقات. معاملات ACM حول الأنظمة الذكية والتكنولوجيا، 10(2)، 1–19.
[[iii]]بان، س. ج.، & يانغ، كيو. (2021). استبيان حول التعلم المنقول. معاملات IEEE حول هندسة المعرفة والبيانات، 33(12)، 2345–2359.

الجدول 2: مقارنة نماذج التعلم في القطاع المالي.^{5، 6، 7}

التطورات الحديثة تعالج التحديات الخاصة بالسيناريوهات: يتعامل FedSSL⁸ مع ندرة الملصقات من خلال التعلم التبايضي، بينما يحقق FedLite⁹ تقليل الاتصالات بنسبة 490× للمؤسسات ذات الموارد المحدودة. تظهر التوسعات إلى الرعاية الصحية¹⁰، الثغرات الأمنية¹¹، التمويل متعدد الوسائط¹²، وقابلية التوسع¹³ مدى تطبيق فلوريدا الواسع.

حماية الخصوصية هي جوهر التحكم في المخاطر المالية. تقدم التقنيات الثلاث الرئيسية - الخصوصية التفاضلية (DP)¹⁴، الحوسبة متعددة الأطراف الآمنة (SMC)¹⁵، والتشفير المتماثل (HE)¹⁶ - مزايا واضحة في القوة والكفاءة والقدرة على التكيف. يعرف DP رسميا بواسطة Pr[M(x) = y] ≤ e^∈ ⋅ Pr[M(x') = y] + δ، حيث تمثل M الخوارزمية العشوائية، ويشير $x$ و$x'$ إلى مجموعات البيانات المجاورة، وy هو مخرجات الخوارزمية. هذا يضمن تشابه الناتج عبر مجموعات البيانات، مع الحد الصارم من التسرب الفردي عبر الضوضاء القابلة للتحكم. يتم عرض تحليل مقارن لخصائصها التقنية في الجدول 3.

نوع التقنية	المبادئ الأساسية	قوة الخصوصية (قيمة ε)	تعقيد الحوسبة	القدرة على التكيف مع السيناريوهات المالية
الخصوصية التفاضلية	المساهمات الفردية في مجموعة البيانات لا يمكن تمييزها بإضافة ضوضاء	ε=1-5 (القيمة الموصى بها للسيناريوهات المالية)	O (n) (n هو حجم العينة)	المستوى العالي، المناسب لعملية التدريب النموذجي بأكملها، يمكن دمجه بسلاسة مع التعلم الاتحادي
الحوسبة متعددة الأطراف الآمنة	يتعاون عدة مشاركين للحساب دون الكشف عن النتائج الوسيطة	الأمن النظري للمعلومات	O (n²) (سيناريو فيدرالي عمودي)	نعم، هو مناسب لحساب مفاصل الميزات الحساسة، لكنه يستغرق وقتا طويلا في سيناريوهات العينات الكبيرة
التشفير المتماثل	يتم حساب البيانات المشفرة مباشرة ويتم الحصول على النتيجة الصحيحة بعد فك التشفير	أمان حسابيا	O (n³) (مبني على تشفير الشبكة)	منخفض، مناسب فقط لنقل المعلمات على نطاق صغير، ملايين العينات تسجل حساب السيناريوهات لأكثر من 24 ساعة

الجدول 3: مقارنة خصائص تقنية حماية الخصوصية.

في التطبيقات المالية، أصبحت الخصوصية التفاضلية الخيار الرئيسي بسبب "التحكم في التوازن بتأثير الخصوصية". اقترح دورك، ^C.17 التعريف الكلاسيكي (ε، δ)-DP، الذي يوفر معيارا كميا لحماية الخصوصية. الصيغة الأساسية هي كما يلي:

(1)

هنا M كخوارزمية لحماية الخصوصية، D و D هما مجموعة بيانات متجاورة (فرق عينة واحد فقط)، ميزانية الخصوصية (كلما كانت حماية الخصوصية أصغر، أقوى)، r ميزانية الخصوصية (كلما كانت حماية الخصوصية أصغر، كانت أقوى)، δ احتمال الفشل (عادة ما يؤخذ ^10-5).

^طور عبادي، م. وآخرون، نظام النزول التدرج العشوائي للخصوصية التفاضلية (DP-SGD)، باستخدام قص التدرج وحقن الضوضاء لتقليل تسرب الخصوصية في نموذج الائتمان إلى أقل من 8٪. تستخدم الحوسبة الآمنة متعددة الأطراف (SMC) والتشفير المتماثل بشكل أساسي للمعالجة الحساسة. على سبيل المثال^{، طبق} بوغيتوفت، ب. وآخرون SMC على تقييم الائتمان عبر البنوك، مما ضمن أن الدرجات النهائية فقط متاحة. اقترح بيري، ^إل.2 خوارزمية تشفير متجانسة بالكامل لتجميع المعلمات الآمن، رغم أن التعقيد الحسابي العالي يحد من تطبيقها على التدريب على نطاق صغير بين البنوك متوسطة الحجم.

تطورت نماذج التحكم في المخاطر بالذكاء الاصطناعي من البنى المركزية التقليدية إلى البنى الموزعة، مع نموذجين يظهران فروقا كبيرة في الاعتماد على البيانات والأداء وتكاليف الامتثال. تشمل النماذج المركزية أشجار تعزيز التدرج (GBDT) ونماذج التعلم العميق. تعزز خوارزمية GBDT المقترحة من قبل فريدمان، ج.، هاستي، تي. تيبشيراني، ^R.21 دقة التنبؤ بالمخاطر من خلال التكامل متعدد الأشجار، محققة AUC-ROC تبلغ 0.93 في سيناريوهات الائتمان الشخصي. ومع ذلك، يتطلب جمع بيانات العملاء الكاملة، مما يشكل مخاطر اختراق البيانات وتحديات الامتثال. طور تشانغ، ه.، ليو، ي.، تشانغ، إكس.، ين، Z.Li، ^ي.22 نموذج تحكم في المخاطر قائم على المحولات يحسن معدلات كشف الاحتيال بنسبة 15٪، ومع ذلك يتجاوز حجم معاملاته 10 جيجابايت. يشمل النموذج الموزع نهجي مشاركة المعلمات ومشاركة الميزات. مشاركة المعلمات (مثل FedAvg) تجمع المعلمات المحلية لكنها تواجه صعوبات مع خصائص غير IID: انخفض معدل AUC-ROC من 0.89 إلى 0.82 مع ارتفاع فروق معدلات التخلف عن السداد من 0.5٪ إلى 3.5٪. يتيح مشاركة الميزات (مثل SecureBoost) التعاون العمودي لكنه يتطلب محاذاة دقيقة، حيث ينخفض الأداء بنسبة 20٪ عندما تتجاوز الأخطاء 5٪.

جوهر التعلم الفيدرالي هو تمكين التدريب التعاوني متعدد المؤسسات دون نقل البيانات الخام. يحدد هذا الإطار المشاركين، وعملية التدريب، والوظيفة الهدفية. في هذه الدراسة، يتكون النظام من عقد مؤسسات مالية كية (يرمز لها ب P₁،_{P 2}، ...، P_K) ومنسق C. كل مؤسسة P_K تحمل مجموعة بيانات محلية ،  X_k,i∈R_d وهي متجهات ميزات العميل y_k,i∈{0,1}، لتسميات المخاطر (0 طبيعي، 1 احتيال افتراضي)، حجم العينة المحلي، مقياس البيانات الكامل. يتبع التدريب عملية "التكرار المحلي-التجميع العالمي": i) التهيئة المعمارية: يقوم المنسق بتوليد المعلمات العالمية الأولية θ₀ ويوزعها على جميع المؤسسات؛ 2) التكرار المحلي: في جولة التدريب، تعتمد مؤسسة P_K على البيانات المحلية والمعلمات العالمية الحالية θ_t، مما يقلل دالة الخسارة المحلية عبر النزول التدرجي، وتحصل على المعاملات المحلية المحدثة θ_t,k، أي:

(2)

حيث n هو معدل التعلم و ∇_θL_k(θ_t) هو تدرج الخسارة المحلية، a θ_t هو تدرج الخسارة المحلية a θ_t؛ 3) التجميع العالمي: تقوم المؤسسة بتشفير ورفع المعلمات المحلية إلى المنسق، حيث يولد المنسق معلمات عالمية جديدة θ_t+1 حسب حجم العينة:

(3)

4) شرط النهاية: تكرار الخطوة 2-3 حتى لا يتحسن أداء النموذج العالمي على مجموعة التحقق للجولات التالية، أخرج النموذج النهائي. θ^* = θ_T. نظرا لخصائص التوزيع غير المستقل (غير IID) للبيانات المالية، من الضروري توسيع افتراضات المتوسط الفيدرالي التقليدي (Fed AvgP_k). تستخدم هذه الدراسة بعدين مزدوجين هما "تباين توزيع التسمية" و"تباين توزيع الميزات" لتوصيف غير التحليل الداخلي: ليكن تعريف نسبة الحالات الإيجابية (الأحداث الافتراضية) في المؤسسات كما يلي:

(4)

نعرف معامل تماثل الوسم ؛ ليكن متوسط فرق ميزات المجموعة هو ، عندما يكون α>0.03 وعندما يحدد أنه سيناريو غير IID عالي.

وفقا لقدرة المهاجم وهدفه، تنقسم سيناريوهات التهديد إلى ثلاث فئات، كما هو موضح في الجدول 4

نوع التهديد	هوية المهاجمين	كيس الملاكمة	الوسائل النموذجية
هجوم شبه حقيقة	المؤسسات والمنسقون المشاركة	استنتاج خصائص العملاء في مؤسسات أخرى	هجمات انقلاب التدرج والتفكير العضوي بناء على معلمات النموذج
هجوم عدائي	المؤسسات الخبيثة	نموذج التلوث العالمي	رفع التدرجات الزائفة ونماذج السم
الهجوم الخارجي	أطراف ثالثة غير مصرح بها	سرقة المعلمات/الميزات أثناء النقل	هجمات وسيطة، التنصت على روابط الاتصالات

الجدول 4: تصنيف نموذج التهديدات للنظام المالي.

باستخدام (ε,δ) - الخصوصية التفاضلية (الخصوصية التفاضلية، DP) كمعيار أساسي لحماية الخصوصية، جوهره هو إضافة ضوضاء بحيث يمكن تجاهل تأثير "ما إذا كانت مجموعة البيانات تحتوي على عينة" على مخرجات النموذج. التعريف الرسمي هو كما يلي: بالنسبة لخوارزميات التعلم الفيدرالي M، إذا كان لكل مجموعتين بيانات متجاورتين وتختلفان بعينة واحدة فقط (DΔD' = 1)، وكذلك لأي مجموعة S⊆Range(M) مخرجة، فإنه يحقق:

Pr[M(D)∈S]≤e^ε⋅Pr[M(D^')∈S]+δ (5)

ثم يسمى الرضا (ε,δ)-DP. الأول هو "ميزانية الخصوصية" (كلما كانت حماية الخصوصية أصغر، كانت أقوى، وعادة ما يتم أخذ السيناريو المالي)، δ ل "احتمال الفشل" (عادة δ≤^10-5 لضمان ألا تؤثر الأحداث ذات الاحتمالية المنخفضة على الخصوصية والأمان). للتكيف مع خصائص التكرار متعدد الجولات في التدريب الفيدرالي، يتم حساب إجمالي استهلاك الخصوصية باستخدام مبرهنة التركيبة "خصوصية رينيي التفاضلية" (RDP). لتكن ميزانية الخصوصية لكل جولة تدريب ε_ت، حينها تحقق الميزانية الإجمالية للخصوصية بعد تدريب الدورة ما يلي:

(6)

توفر هذه النظرية أساسا نظريا لمعايرة الضوضاء التكيفية من خلال تخصيص ميزانية الخصوصية ديناميكيا لكل جولة.

تستخدم FedRisk إطار عمل صارم (ε، δ) للخصوصية التفاضلية (DP)، حيث يخصص ميزانيات الخصوصية بشكل ديناميكي عبر مبرهنة تركيب Rényi DP (RDP). يعرف الحساسية العالمية Δf بأنها أقصى تغير في معايير L1 في معايير النموذج الناتج عن مجموعات البيانات المجاورة (تختلف بعينة واحدة)، مع معايرة ضوضاء لابلاس الواعية للتباين (معامل الضوضاء κ_t المتناسب مع تقلبات توزيع البيانات). تحت قيد ميزانية الخصوصية الكلية ε=5 (الذي يفي بحدود الامتثال للائحة البيانات العامة لحماية البيانات)، يحول RDP استهلاك الخصوصية متعدد الجولات في التدريب إلى (ε، δ)-DP (δ=10⁻⁵)، وتظهر النتائج التجريبية بين موازنة قوة الحماية وفائدة النموذج أن هذا يثبط هجوم استنتاج الأعضاء AUC إلى 0.58 مع الحفاظ على توقع المخاطر AUC-ROC عند 0.912.

يجب أن يفي تحسين نماذج التحكم في المخاطر المالية في الوقت نفسه ثلاثة متطلبات تنظيمية: "الدقة التنبؤية"، "حماية الخصوصية"، و"العدالة". وظائف التحسين التقليدية التي تهدف فقط إلى تقليل الخسائر لم تعد قابلة للتطبيق. يجب إنشاء إطار عمل تحسين متعدد الأهداف لتحويل القيود التنظيمية إلى مصطلحات تنظيمية قابلة للقياس. بالنسبة لسيناريوهات التصنيف الثنائية (الافتراضي/الطبيعي)، يتم اعتماد فقدان اللوغاريتمية (LogLoss) كدالة خسارة أساسية لقياس الانحراف بين الاحتمالات المتوقعة من قبل النموذج والتسميات الفعلية، وتعرف كما يلي:

(13)

حيث p_k,i = σ(θ; x_k,i) هو الاحتمال الافتراضي المتوقع للعينة (x_{k,i,y k,i}) للنموذج، σ(⋅) هو دالة تفعيل السيجمويد.

تتحول متطلبات اللائحة العامة لحماية البيانات (GDPR)، وقانون حماية المعلومات الشخصية، وغيرها من اللوائح إلى ثلاثة أنواع من مصطلحات التنظيم، والتي تدمج مع دالة الخسارة الأساسية لتشكيل الهدف النهائي للتحسين:

(14)

تعريف ووظيفة كل مصطلح تنظيم هي كما يلي: 1) قيود الخصوصية: استنادا إلى تكلفة إضافة الضوضاء للخصوصية التفاضلية، يناقش تأثير الحماية الكمية للخصوصية على دقة النموذج. لتكن الحساسية العالمية لمعلمات النموذج Δ هي (أي أقصى تغير في المعاملات الناتج عن مجموعات بيانات متجاورة)، إذا:

(15)

يضمن هذا المصطلح أن شدة الضوضاء الإضافية تتناسب مع ميزانية الخصوصية وتتجنب التضحية المفرطة بدقة النموذج. 2) قيد العدالة: في ضوء متطلبات "مكافحة التمييز" في قانون حماية المعلومات الشخصية، فإن تحيز التنبؤ بين المجموعات المختلفة مقيد بالانحياز التنبؤي. خذ "التكافؤ الديموغرافي" (DemographicParity) كمثال، وليكن معدل التنبؤ الإيجابي للمجموعة هو ، ثم:

(16)

يقلل هذا المصطلح من الفرق في معدل التنبؤ بين المجموعات المختلفة ويتجنب التمييز في النماذج. 3) قيود المتانة: استجابة لمتطلبات "قدرة النموذج لمكافحة التداخل" في بازل III، تأكد من أن الاضطرابات الصغيرة في البيانات لا تؤثر بشكل كبير على مخرجات النموذج. بإضافة عينة خصمية لاضطرابات Δx (تحقق |Δx|_∞≤γ)، تعرف الأبحاث ما يلي:

(17)

تتحسن متانة نموذج تعزيز مصطلح البيانات غير الطبيعية ويقلل خطر سوء التقدير. في هذه المعادلة، هو معامل التنظيم، تم تحديده عن طريق التحقق المتقاطع (في هذه الدراسة λ₁=0.01، λ₂=0.05، λ₃=0.02)، لضمان توازن بين الأهداف التنظيمية الثلاثة ودقة التوقعات.

البروتوكول

بنية النظام

شبكة بيانات عبر المؤسسات وطبقة دلالية

لمعالجة تباين البيانات عبر المؤسسات، يقوم البحث ببناء بنية شبكة بيانات من خلال تقسيم العقد المدفوع بالنطاق. تعمل كل مؤسسة مالية كعقدة مستقلة لمجال البيانات مع الحفاظ على حقوق الملكية والسيطرة، مع تمكين الطبقة الدلالية من فهم البيانات الموحد والتفاعل. تؤسس الطبقة الدلالية القائمة على الأنطولوجيا نموذج بيانات موحد للتحكم في المخاطر المالية، حيث تحدد الكيانات الأساسية، وسمات_خريطة f، وعلاقات الكيانات. تم تفصيل قواعد التعيين الدلالي المحددة في الجدول 5. بالنسبة للمجالات الخاصة بالمؤسسة، يتم تحقيق تحويلات موحدة من خلال وظائف التعيين الدلالي:

(18)

كيان نواة	اسم الحقل A للمؤسسة	اسم المجال ب في المؤسسة	اسم الحقل الموحد للطبقة الدلالية	نوع البيانات	القواعد الموحدة
العميل	تقييم العملاء المميزين (1-5)	مستويات العملاء المهمة (من البرونز إلى الماس)	تصنيف العملاء الائتماني (1-5)	الأعداد الصحيحة	برونز→1، فضي→2، ذهبي→3، بلاتينيوم→4، ماس→5
الأعمال التجارية	مبلغ المعاملة (عشرة آلاف يوان)	مبلغ المعاملة (يوان)	مبلغ المعاملة (يوان)	الرقم العائم	قيمة حقل A في المؤسسة هي 10,000 مرة
طلب الائتمان	حصة المتقدمين (نسبة الائتمان)	مبلغ القرض المتوقع	مبلغ قرض المتقدم (يوان)	الرقم العائم	المؤسسة أ: إجمالي الاعتمادات × نسبة مبلغ الطلب؛ المؤسسة ب: رسم الرسم المباشر

الجدول 5: قواعد رسم الخرائط الدلالية للكيان الأساسي في مجال التحكم في المخاطر المالية.

هنا x_{، i,j} ، القيمة المحددة: i-th في الحقل الخاص للمؤسسة j، وmin(x_j) وmax(x_j) هما القيم الدنيا والعظمى للحقل داخل المؤسسة على التوالي، U_j و L_j يحددان الحدود العليا والسفلى لنطاق القيم الموحدة لهذا الحقل عند الطبقة الدلالية.

سجل النماذج العالمية ومسار التدقيق القائم على البلوكشين

لحل مشاكل إدارة إصدارات النماذج الفوضوية وعمليات التدريب غير القابلة للتتبع في التعلم الفيدرالي، يتم استخدام تقنية البلوكشين لإنشاء نظام سجل وتدقيق وتدقيق نماذج عالمي. باستخدام بنية البلوكشين الاتحادية، تشمل العقد المشاركة المؤسسات المالية، والمنسقين الفيدراليين، والهيئات التنظيمية، مما يضمن عدم تغير البيانات والتوافق بين الأطراف^{الجماعية 23}. يخزن سجل النماذج العالمي البيانات الوصفية الأساسية للنماذج، بما في ذلك أرقام الإصدارات، جولات التدريب_Hv، قوائم المؤسسات المشاركة، المعايير الهيكلية، ومقاييس الأداء. يتم تخزين هذه البيانات الوصفية باستخدام هيكل شجرة ميركل، حيث تتوافق كل نسخة نموذجية مع قيمة تجزئة فريدة:

(19)

هنا v هو رقم إصدار النموذج، T هو إجمالي عدد جولات التدريب، S هو مجموعة المؤسسات المشاركة في التدريب، ID_i هو المعرف الفريد للمؤسسة i، θ_v هو متجه معلم النموذج للنسخة v، وAUC_v هو قيمة AUC-ROC لهذا الإصدار من النموذج معروضة.

خط أنابيب هندسة الميزات الموحدة

محاذاة الكيانات الآمنة وتوحيد المخططات

تعد هندسة الميزات المكون الأساسي للتعاون بين المؤسسات في البيانات، حيث تتطلب استخراجا، ومحاذاة، وتجميع الميزات بشكل فعال مع ضمان خصوصية البيانات. تصمم هذه الدراسة خط أنابيب شامل يشمل محاذاة الكيانات الآمنة، وتنسيق المخططات، وتجميع الرسوم البيطرية للمعاملات المدمجة في الخصوصية التفاضلية لمعالجة كل من التباين بين المؤسسات ومخاطر تسرب الخصوصية²⁴. مواءمة الكيانات بين المؤسسات أمر أساسي لتحقيق التعاون في الميزات. ومع ذلك، فإن إرسال معرفات العملاء مباشرة سيعرض الخصوصية للخطر. لذلك، يعتمد البحث طريقة محاذاة الكيانات للحفاظ على الخصوصية تجمع بين التشفير المتماثل (HE) وتقنية التجزئة الحساسة للمكان (LSH). تقوم المؤسسات بمعالجة معرفات العملاء مسبقا باستخدام دوال التجزئة SHA-256 لإنشاء معرفات أولية. يتم تعيين هذه المعرفات بعد ذلك إلى نفس "الدلو" عبر LSH لتقليل حسابات التشفير اللاحقة. تخضع المعرفات داخل نفس الدلو لتشفير بايلييه المتماثل. يتم رفع المعرفات المشفرة إلى المنسق الفيدرالي، الذي يحقق توافق الكيانات من خلال مقارنة تشابه المعرفات المشفرة باستخدام تشابه جيب تمام.

(20)

عندما يكون التشابه أكبر من الحد المحدد مسبقا (في هذه الدراسة، يؤخذ ك τ=0.95)، يتم تحديد أنه نفس الكيان، ويتم إنشاء معرف كيان موحد عبر المؤسسات لتحقيق توافق الكيانات الآمن.

التجميع الخاص بشكل تفاضلي لتضمين رسوم بيانية المعاملات

تظهر بيانات المعاملات المالية خصائص مميزة مبنية على شكل رسم بياني (مع العملاء كعقد والمعاملات كحواف). يلتقط تضمين رسم المعاملات بشكل فعال أنماط معاملات الأطراف ذات الصلة بالعملاء، مما يوفر ميزات حاسمة لنماذج التحكم في المخاطر. ومع ذلك، قد يؤدي التجميع المباشر لتضمين رسوم بيانية المعاملات عبر_{المؤسسات G =} (V_{i,E i})V_iiE_{i e i,v}∈R^dd إلى تسريب معلومات العملاء المتعلقة بالمعاملات. لذلك، تم تقديم تقنية الخصوصية التفاضلية (DP) لتحقيق تجميع مرسوم بياني للمعاملات للحفاظ على الخصوصية. تقوم كل مؤسسة بإنشاء رسم بياني للمعاملات، حيث يمثل مجموعة عقد العملاء للمؤسسة ويمثل مجموعة حواف المعاملات (أوزان الحواف تساوي مبالغ المعاملات). تستخدم خوارزمية GraphSAGE لإنشاء تضمينات العقد (بأبعاد تضمين 256 بعدا في هذه الدراسة). لتلبية متطلبات الخصوصية التفاضلية، تضاف ضوضاء لابلاسيان إلى التضمينات المحلية:

(21)

هنا Δ_G حساسية عالمية لخوارزمية GraphSAGE (مقدرة من خلال التجربة في هذه الدراسة Δ_G=0.8)، لصالح ميزانية الخصوصية المحلية للوكالة،

(22)

بالنسبة لإجمالي ميزانية الخصوصية للنظام، تأخذ هذه الدراسة_{ε المجموع}=1.5). يقوم المنسق بتجميع الضوضاء لكل مؤسسة باستخدام استراتيجية متوسط مرجحون ، مع أوزان تعتمد على نسبة العملاء في كل مؤسسة:

(23)

يتم تضمين الرسم البياني العالمي للمعاملات وإرساله إلى كل مؤسسة، وباعتباره ميزة إدخال رئيسية في نموذج التحكم في المخاطر، فإنه لا يحتفظ فقط بمعلومات الارتباط بين المعاملات عبر المؤسسات، بل يحمي أيضا خصوصية العملاء من خلال الخصوصية التفاضلية.

(24)

نموذج المخاطر الهجين للذكاء الاصطناعي

النماذج الفرعية المحلية: تعزيز التدرج مع قيود أحادية النغمة

نماذج التحكم المركزية التقليدية في الذكاء الاصطناعي تواجه صعوبة في التكيف مع السيناريوهات الفيدرالية المشتركة بين المؤسسات. تطور هذه الدراسة نموذج مخاطر هجين للذكاء الاصطناعي يجمع بين "النماذج الفرعية المحلية + نموذج الاندماج العالمي"، ويدمج قابلية التفسير العالية لأشجار تعزيز التدرج (GBDT) مع قدرة ترانسفورمر على التكيف مع البيانات غير المستقلة والموزعة بشكل متطابق (NID). يتم تقديم وحدة تفسير لموازنة أداء النموذج وقابلية الشرح في البيئات الموحدة. تقوم كل مؤسسة محليا ببناء نماذج فرعية ل GBDT، ويتم اختيارها لقدرتها القوية على ملاءمة البيانات الهيكلية وقابليتها العالية للتفسير - وهي متطلبات أساسية للوائح التحكم في المخاطر المالية. لمنع الإفراط في التكييف والاستنتاجات غير المنطقية، يتم تطبيق قيود رتيبة أثناء تدريب GBDT، مما يفرض أنماط زيادة أو تناقص رتيبة لميزات رئيسية مثل دخل العملاء ودرجات الائتمان. أول شجرة يتم تعيينها بواسطة GBTD هي h_t(x)، ومخرجات النموذج هي:

(25)

هنا، η هو معدل التعلم (هذه الدراسة تستغرق η=0.1). يتحقق القيد الأحادي بواسطة تنظيم دالة الخسارة x_j.

إضافة مصطلح القيد:

(26)

هنا، تمثل x≺x^' أن القيمة الذاتية ل x أصغر من القيمة الذاتية ل x^'، ودالة الخسارة النهائية هي:

(27)

هنا، l هي دالة الخسارة اللوغاريتمية (تستخدم في سيناريو التحكم الثنائي في المخاطر_{y i}∈{0,1}، مما يشير إلى ما إذا كان العميل يتخلف عن السداد). هو مصطلح تنظيمية التعقيد للشجرة، λ و γ هما معامل التنظيم (أجريت هذه الدراسة عبر λ=0.01 γ=0.5 التحقق المتبادل، n_i هو عدد العينات المحلية للمؤسسة i، T هو عدد الأشجار (أخذت هذه الدراسة T=100).

الاندماج العالمي: محول قائم على الانتباه للتكيف غير التفاعلي مع IID

تظهر البيانات عبر المؤسسات خصائص توزيع غير IID مهمة للتوزيعة. خوارزميات FedAvg التقليدية، التي تقوم ببساطة بمتوسط معلمات النموذج المحلي، تكافح للتكيف مع البيانات غير المعتمدة على IID. لمعالجة ذلك، تقدم الدراسة نموذج محول الانتباه p_i(x)=σ(F_i(x))σF_i(x)ia قائم على_i للاندماج الذكي للنماذج الفرعية المحلية. يأخذ نموذج الاندماج العالمي كمدخل احتمالات الإخراج من النموذج الفرعي المحلي لكل مؤسسة (مخرجات دالة السيجمويد من نماذج GBDT المؤسسية). تتكون بنية المحول من مشفر وطبقة انتباه، حيث تحسب طبقة الانتباه أوزان الانتباه من مخرجات المؤسسات المختلفة لتحقيق الوزن التكيفي. يتم حساب أوزان الانتباه باستخدام تركيز نقطة ضرب مقياس:

(28)

هنا، q هو متجه الاستعلام (الناتج عن متوسط ميزات المخاطر للعينات العالمية)، وهو المتجه الرئيسي للمؤسسة i، d_k هو بعد المتجه الرئيسي (في هذه الدراسة d_k=64)، n هو عدد الوكالات المشاركة في الاتحاد.

الاحتمالية النهائية للخرج للنموذج العالمي هي:

(29)

من خلال آلية الانتباه، يمكن للنموذج العالمي تلقائيا منح المؤسسات ذات جودة البيانات العالية والتنبؤ الدقيق بالمخاطر، وتحسين القدرة على التكيف مع البيانات غير المتعلقة ب IID.

وحدة التفسير: شاب على الأشجار الموحدة + مولد الواقعية المضادة

يجب أن تحافظ نماذج التحكم في المخاطر المالية على قابلية التفسير لتلبية المتطلبات التنظيمية وحماية "حق العملاء في المعرفة". لمعالجة ذلك، تطور الأبحاث وحدة تفسيرية تجمع بين مولدات SHAP+ الموحدة المضادة. بالنسبة للنماذج الفرعية المحلية ل GBDT، يستخدم البحث قيم SHAP لقياس أهمية الميزة، والتي تقوم S i∈R N ^i×mبقياس مساهمة كل ميزة في نتائج التنبؤ بمقدار S_iR ^وNim. في السيناريوهات الاتحادية، قد يؤدي إرسال قيم SHAP المحلية مباشرة إلى تعريض معلومات توزيع الميزات. لذلك، ينفذ البحث استراتيجية تجميع آمنة حيث تقوم كل مؤسسة محليا بحساب مصفوفة قيم SHAP (لعدد الميزات)، وتطبق ضوضاء الخصوصية التفاضلية على قيم SHAP، وترفعها إلى المنسق الفيدرالي. ثم يحسب المنسق قيم SHAP العالمية:

(30)

هنا، S_i^' هي مصفوفة قيمة SHAP للمؤسسة i، وw_i هي نسبة حجم عينة المؤسسات.

أدخل الهدف المتجه الذاتي الحالي للعميل x وتقييم المخاطر المستهدف_y، والمخرج هو متجه ميزة مضاد للواقع x_cf، محقق (عتبة_{احتمال هدف} θ المقابلة لتصنيف المخاطر المستهدف). و |x_cf-x|₂ الحد الأدنى (أي أقل تكلفة تعديل). دالة الخسارة لمولد الحقائق هي:

(31)

هنا α,β,γ هي معاملات الوزن (في هذه الدراسة α=10,β=5,γ=1),_{L GAN} تستخدم دالة الخسارة العدائية ل GAN لضمان عقلانية وأصالة متجه الخصائص المضادة للواقع.

طبقة الخصوصية والأمان

التجميع الآمن مع مشاركة الأسرار الإضافية

في التعلم الفيدرالي، يعد نقل وتجميع معلمات النموذج المحلي حلقة رئيسية في تسرب الخصوصية. يتم اعتماد تقنية AdditiveSecretSharing (ASS) لتحقيق التجميع الآمن وتجنب الاستحواذ المباشر على معلمات النموذج المحلي لكل منظمة من قبل المنسق. العملية المحددة هي كما يلي: 1) كل مؤسسة ستقسم معلمات النموذج المحلية إلى حصص سرية θ i,1,θ_i,2,...,θ_i,n ، تحقق ، وهذا هو عدد المؤسسات المشاركة؛ 2) ترسل المؤسسة i الحصة θ_i,k إلى المؤسسة (k≠i)، وتحتفظ بحصتها الخاصة θ_i,i; iii) كل مؤسسة k تجمع الأسهم المرسلة من جميع المؤسسات الأخرى θ_{1,k,θ 2,k},...,θ_n,k ، وتجمعها مع θ_k,k السهم المحتفظ بها لنفسها، تحصل على المجموع الجزئي ؛ iv) تقوم جميع_{المؤسسات بتحميل} ومشاركة بعض المعاملات مع المنسق، حيث يحسب المنسق نتائج تجميع المعلمات العالمية. من خلال مشاركة الأسرار الإضافية، يمكن للمنسق فقط الحصول على معلمات مجمعة عالمية ولا يمكنه n-1ttt=⌈n/2⌉ استنتاج معلمات محلية لأي مؤسسة فردية. حتى التواطؤ بين مؤسسات متعددة لا يمكنه استعادة المعايير من غيرها، مما يضمن الخصوصية والأمان أثناء نقل المعلمات. لمعالجة فقدان الأسهم الناتج عن انقطاعات المؤسسات، تم تقديم آلية مشاركة الأسرار في شامير كنسخة احتياطية. يتم تقسيم كل حصة إلى أجزاء إضافية. من خلال جمع أي جزء، يمكن استعادة الحصة الكاملة، مما يعزز متانة النظام.

معايرة الضوضاء التكيفية تحت جدولة الميزانية (ε، δ) إلى DP

يكمن التحدي الأساسي للخصوصية التفاضلية في تحقيق التوازن بين قوة حماية الخصوصية وأداء النماذج. طرق الإضافة التقليدية ذات الضوضاء الثابتة تكافح للتكيف مع السيناريوهات التي تتغير فيها توزيعات البيانات ديناميكيا أثناء التدريب الفيدرالي. تصمم هذه الدراسة آلية معايرة ضوضاء تكيفية تعتمد على (ε,δ)-DP، مع استراتيجية جدولة ميزانية الخصوصية، لتحقيق ضبط ديناميكي لشدة الضوضاء. تعريف ميزانية الخصوصية الإجمالية للنظام كما يلي (تأخذ هذه الدراسة_{δ المجموع}=^10-5، وتتوافق مع متطلبات GDPR لمخاطر الخصوصية)، واعتماد استراتيجية جدولة الميزانية المجزأة، ويتم تخصيص الميزانية الإجمالية بواسطة دورة تدريب {ε_{1,ε 2},...,ε_T} كما يلي، ويتم استيفاؤها:

(32)

في كل جولة تدريب، يتم ضبط شدة الضوضاء ديناميكيا وفقا لخصائص توزيع البيانات المحلية. بافتراض تباين ميزة البيانات المحلية للجولة t-th من المؤسسة هو ، نعرف معامل ضبط الضوضاء α_i,t:

(33)

عند α_i,t≥0.8 (توزيع البيانات مستقر)، باستخدام شدة ضوضاء صغيرة ؛ عندما يتغير αi,t<0.8 (توزيع البيانات) ، تزيد شدة الضوضاء . من بينها، الحساسية العالمية لمعلمات النموذج (تضمن هذه الدراسة من خلال قص التدرج).

بروتوكول التدريب الفعال للاتصال

تحديثات العميل غير المتزامنة مع التحكم في التعثر

يواجه التعلم الفيدرالي عبر المؤسسات تحديات مثل ارتفاع زمن الاستجابة في الاتصالات واستهلاك كبير لعرض النطاق الترددي (خصوصا للمؤسسات المالية الصغيرة والمتوسطة التي تمتلك موارد شبكة محدودة). تصمم هذه الدراسة بروتوكول تدريب اتصال فعال يتضمن تحديثات العملاء غير المتزامنة، وضغط التدرج، وردود فعل الأخطاء لتقليل تكاليف الاتصال وتعزيز قابلية التوسع للنظام²⁵. تتطلب طرق التدريب الفيدرالي المتزامنة التقليدية مثل FedAvg الانتظار حتى يكمل جميع العملاء التدريب المحلي قبل تجميع المعلمات، مما يؤدي إلى دورات تدريب طويلة. آلية تحديث العميل غير المتزامنة تتيح للعملاء إكمال التدريب المحلي بشكل مستقل ورفع المعلمات فورا. عند استلام هذه المعايير، يقوم المنسق الفيدرالي بتحديث النموذج العالمي في الوقت الحقيقي دون انتظار عملاء آخرين. يعالج هذا مشكلة النموذج الراكد في التدريب غير المتزامن. بتقديم استراتيجية التحكم في الركود، نحدد قيمة الجمود للعميل، (بالنسبة لجولة التدريب العالمية_{الحالية}،_{t last_update} الجولة التي حصل فيها العميل على النموذج العالمي آخر مرة). عندما (S_max هو الحد الأقصى المسموح به للركود، تأخذ هذه الدراسة s_max=5). يشارك العميل في التدريب بشكل طبيعي؛ في_{أقصى > ذلك} الوقت، يحتاج العميل إلى تحميل أحدث نموذج عالمي مرة أخرى قبل التدريب المحلي. يتكون تكوين الأجهزة من معالجات Intel Xeon E5-2678 v3 (12 نواة، 2.5GHz) مقترنة بمعالجات رسومات NVIDIA Tesla V100 (ذاكرة VRAM بسعة 16GB) وذاكرة DDR4 بسعة 64GB لكل عقدة للتعامل مع أعباء التدريب الموزعة بكفاءة. لتهيئة البرمجيات، تستخدم أوامر PySyft مثل hook = sy. TorchHook(torch)andvirtual_worker = sy. يستخدم VirtualWorker(hook, id="client1") لإنشاء اتصالات اتحادية آمنة، بينما federated_train_loader = sy. FederatedDataLoader(dataset.federate((client1, client2)), batch_size=32) يتيح تحميل البيانات الموحد بين المشاركين. يقوم الرسم الدلالي بتحويل الميزات المالية عبر المؤسسات - على سبيل المثال، تحويل مبالغ المعاملات من الدولار الأمريكي إلى اليوان الصيني باستخدام صيغة سعر صرف ديناميكية: transaction_amount_CNY = transaction_amount_USD exchange_rate + (0.001 راندن())، حيث يتم تحديث سعر الصرف بشكل دوري عبر واجهة برمجة التطبيقات (API). لتعزيز مجموعات البيانات غير المتوازنة، يقوم CopulaGAN بتوليد عينات خصومية تركيبية باستخدام مقتطف كود مثل استيراد sdv.tabular CopulaGAN; السينثيسايزر = CopulaGAN(فترات = 50); synthesizer.fit (train_data)؛ synthetic_samples = synthesizer.sample(num_rows=1000)، مع الحفاظ على الخصائص الإحصائية للبيانات الأصلية. يفرض التدريب المحلي على GBDT قيودا أحادية (مثل ضمان ارتباط إيجابي ب "credit_score" مع "approval_probability") viaparams = {"monotonic_constraints": (1, 0, -1)}في LightGBM، بينما يتم تنفيذ دمج المحول في PyTorch مع طبقات انتباه متعددة الرؤوس: self.attention = nn. MultiheadAttention (embed_dim=64، num_heads=4)؛ attn_output، _ = الانتباه الذاتي(استعلام، مفتاح، قيمة، key_padding_mask=padding_mask)، يليه تطبيع الطبقة والاتصالات المتبقية لتحقيق الاستقرار. تضيف الخصوصية التفاضلية ضوضاء لابلاس المدرجة إلى حساسية اللغة الأولى (Δf) وميزانية الخصوصية (ε) - على سبيل المثال، تضيف ضوضاء مأخوذة من np.random.laplace(loc=0، scale=Δf/ε) حيث Δf=1.2 و ε=0.5 إلى التدرجات قبل التجميع. تطبق قيود العدالة بعد التدريب من خلال إعادة وزن العينات عكسيا مع انتشار مجموعتها (sample_weight = 1 / group_counts[y_train]) لتقليل انتهاكات التماثل الديموغرافي. وفي الوقت نفسه، تستخدم استراتيجية التجميع المرجحة لضبط وزن معلمات العميل وفقا لقيمة الجمود:

(34)

حيث λ=0.1 هو معامل عقوبة الجمود؛ كلما زاد الجمود، كان الوزن أصغر، مما يقلل من تأثير المعاملات القديمة على النموذج العالمي.

ضغط التدرج وتراكم التغذية الراجعة للأخطاء

معلمات النموذج (وخاصة أوزان الانتباه في نماذج الاندماج العالمية للمحول الكهربائية) تتمتع بتعقيد أبعاد عالي. الإرسال المباشر سيستهلك عرض نطاق ترددي زائد، مما يستلزم تقنيات ضغط التدرج لتقليل نقل البيانات²⁶. تدمج هذه الدراسة التشتت في الجزء العلوي من K مع ضغط الكم، باتباع هذه الخطوات المحددة: i) التباعد العلوي: بالنسبة للنموذج المحلي ∇θ_i تدرج، اختر عنصر التدرج K٪ الذي لديه أكبر قيمة مطلقة للاحتفاظ به، K بقية العناصر صفر، ويتم تعديل القيمة ديناميكيا وفقا لشرط عرض النطاق الترددي (عندما يكون عرض النطاق الترددي كافيا K=30, عندما يكون عرض النطاق الترددي محدودا K=10)؛ 2) ضغط الكم: يتم تكميم العناصر التدرجية المحتجزة من 32 بت عائمة إلى أعداد صحيحة 8-بت. صيغة التكميم هي:

(35)

  

iii) تغذية راجعة الخطأ: تخزين التدرج المهمل Δ∇=∇θ_i-∇θ_i خطأ ^مضغوط أثناء الضغط على جانب العميل، في حساب التدرج التالي، يتراكم الخطأ في التدرج الجديد، النهج ، تعويض خسائر الضغط. تظهر تأثيرات ضغط التدرج وردود الفعل الخطأ في الجدول 6، In، 8 K=20٪ من حالات التكميم -بت، تصل نسبة الضغط إلى 15:1 (حجم البيانات الأصلي/حجم البيانات المضغوط)، ومن خلال التغذية الراجعة للخطأ، ينخفض AUC-ROC للنموذج بنسبة 0.5٪-1.0٪ فقط، مما يحقق التوازن بين تكلفة الاتصال وأداء النموذج²⁷.

استراتيجيات الضغط	نسبة الاختزال	استهلاك عرض النطاق الترددي للرفع (ميجابايت/جولة)	معدل الانخفاض في AUC-ROC	معدل تقليل وقت التدريب
غير مضغوط (32-بت عوائم)	1:01	128	0.00%	0.00%
الكمية المتفرقة في أعلى 30٪ + 16 بت	6.7:1	19.1	0.30%	35.20%
أعلى 20٪ متناثرة + كمومة 8-بت	15:01	8.5	0.80%	58.70%
أعلى 10٪ متناثرة + تكميم 8-بت	30:01:00	4.3	2.10%	72.10%

الجدول 6: مقارنة الأداء لاستراتيجيات الضغط التدرجي.

تنظيم التنظيم الواعي للعدالة

يجب على نماذج التحكم في المخاطر المالية تجنب التمييز ضد مجموعات محددة والامتثال للمتطلبات التنظيمية بما في ذلك قانون حماية المعلومات الشخصية وقانون التقارير الائتمانية العادلة. تقدم هذه الدراسة آلية تنظيم وعي بالعدالة للحد من تحيزات التنبؤ بين المجموعات أثناء تدريب النماذج، لضمان عدالة النموذج. يتم تعريف مؤشرين أساسيين للعدالة: 1) التكافؤ الديموغرافي (DP): معدل التنبؤ الإيجابي متساو لمجموعات مختلفة، النهج ، من بينهم g هو معرف المجموعة ؛ 2) تكافؤ الفرص (EO): المعدل الإيجابي الحقيقي متساو عبر المجموعات، النهج . أضف مصطلحات تنظيم العدالة إلى دالة الخسارة في نموذج المخاطر الهجين للذكاء الاصطناعي، وفرض قيود على النموذج الفرعي المحلي ل GBDT ونموذج المحول العالمي على التوالي: iii) قيود عدالة النموذج المحلي:

هنا PR(g=A) هو معدل التنبؤ الإيجابي للمجموعة g و λ و هو معامل التنظيم للعدالة.

iv) قيد عدالة النموذج العالمي: أضف تعديل وزن عدالة المجموعة إلى طبقة الانتباه للمحولين، يعطى الناتج النموذجي للمجموعات الضعيفة a_g =_{a أساس}×(1+β⋅Δ_{غير عادل}) وزن انتباه أعلى، هنا، Δ_{غير عادل} يمثل تحيز العدالة بين هذه المجموعة والمجموعة المهيمنة (Δ_{غير عادل} = PR (المجموعة المسيطرة)-PR (المجموعات الضعيفة)); λ_EO هو معامل تعويض الانحراف. يتم تقييم تأثير تنظيم إدراك العدالة بواسطة ΔDP (انحراف DP)، وانحراف ΔEO (انحراف EO)، وخطأ معايرة المجموعة.

لوحة تحكم الحوكمة والامتثال للنماذج

مراقبة التحيز في الوقت الحقيقي

لتلبية متطلبات التنظيم المالي لإدارة دورة حياة النماذج، طورت الأبحاث لوحات تحكم حوكمة والامتثال للنماذج تدمج واجهات برمجة التطبيقات لمراقبة الانحراف في الوقت الحقيقي والتقارير التنظيمية، مما يتيح الإشراف الكامل للعمليات والتتبع طوال فترة تدريب النماذج ونشرها وتكرارها. تحقق وحدة مراقبة الانحراف في الوقت الحقيقي التتبع الديناميكي لعدالة النموذج والأداء من خلال الأبعاد التالية: 1) مراقبة الانحراف الجماعي: تصنيف المجموعات حسب جنس العميل، العمر، المنطقة، مستوى الدخل، إلخ، وحساب PR، وTPR، ومعدل الإيجابيات الكاذبة (FPR) لكل مجموعة بالساعة. يتم تفعيل تنبيهات الانحراف عندما تتجاوز فروق PR بين المجموعات 0.08 أو تتجاوز فروق TPR 0.05؛ ii) مراقبة انحراف الأداء: الحوسبة المستمرة لمقاييس مثل AUC-ROC وPR-AUC. عندما تنخفض هذه المقاييس بأكثر من 2٪ على التوالي خلال ثلاث ساعات، يتم تحديدها على أنها انحراف في الأداء، مما يؤدي تلقائيا إلى بدء عملية إعادة تدريب النموذج. 3) مراقبة الامتثال للخصوصية: تسجيل استهلاك ميزانية الخصوصية وإضافة الضوضاء ε_{شدة إجمالية}/10 لكل جولة تدريب. عندما يتجاوز استهلاك ε لطلقة واحدة، أوقف التدريب وقم بتعديل استراتيجية الضوضاء. 4) يتم عرض بيانات المراقبة عبر لوحات معلومات بصرية، مما يمكن الجهات التنظيمية والمؤسسات المشاركة من عرضها في الوقت الحقيقي، وتحقيق إدارة شفافة لمخاطر النماذج.

واجهة برمجة التطبيقات للتقارير التنظيمية

لتبسيط عملية التقارير التنظيمية، تم تصميم واجهة برمجة تطبيقات تقارير تنظيمية موحدة لدعم التوليد التلقائي للتقارير المتوافقة مع لوائح مثل اللائحة العامة لحماية البيانات (GDPR)، وCCPA، وقانون حماية المعلومات الشخصية في الصين. تشمل الوظائف الأساسية: 1) تقرير الامتثال لمصادر البيانات: يجمع تلقائيا أنواع البيانات والحجم وحالة تفويض المؤسسات المشاركة للتحقق من الامتثال لمبدأ "الحد الأدنى الضروري"؛ 2) تقرير الامتثال النموذجي للتدريب: تكرارات تدريب السجلات، المؤسسات المشاركة، تدابير حماية الخصوصية، ومقاييس العدالة لإعداد تقرير نموذجي لتتبع التدريب؛ 3) تقرير الامتثال لتوقعات المخاطر: يعرض أنماط توزيع متوافقة مع اللوائح لتنبؤات النماذج عبر مجموعات مختلفة وحالات تفسير مضادة لواقعية لإثبات عدم التمييز. تعتمد واجهة برمجة التطبيقات أسلوب تصميم RESTful، وتدعم مخرجات صيغ JSON وXML. يمكن للسلطات التنظيمية الوصول مباشرة إلى بيانات التقارير عبر واجهات API أو تحديد دورات تقارير تلقائية لتحقيق عمليات تنظيمية آلية وموحدة. تتوافق قوالب التقرير مع معايير النموذج التنظيمي المالي للمنظمة الدولية للتوحيد القياسي (ISO)، مما يضمن سلطة وعالمية التقارير.

تصميم التجربة: وصف مجموعة البيانات

بيانات بطاقات الائتمان متعددة المؤسسات وقروض الشركات الصغيرة والمتوسطة

جاءت البيانات التجريبية من المؤسسات المالية في الصين، وتشمل أنواع البيانات مثل معاملات بطاقات الائتمان الشخصية وسجلات طلبات وتنفيذ قروض الشركات الصغيرة والمتوسطة. تم استخدام تقنية CopulaGAN لتخليق وتعزيز الأحداث الاحتيالية النادرة، مما أدى إلى بناء مجموعة بيانات تجريبية تجمع بين الأصالة والنزاهة. تشمل البيانات الحقيقية المستخدمة في التجربة فئتين رئيسيتين: بيانات معاملات بطاقات الائتمان الشخصية وبيانات قروض الشركات الصغيرة والمتوسطة، حيث بلغ المجموع أكثر من 5 ملايين سجل يمتد من يناير 2022 إلى ديسمبر 2023. تغطي البيانات أربع مناطق اقتصادية رئيسية - شمال الصين، شرق الصين، جنوب الصين، وجنوب غرب الصين - لضمان التمثيل الجغرافي والتنوع في توزيع العينات. تظهر المجالات الأساسية والخصائص الإحصائية للبيانات المؤسسية في الجدول 7. من بينها، المؤسستان أ وب هما بنوك تجارية على مستوى البلاد ذات قاعدة عملاء كبيرة تغطي جميع الفئات العمرية؛ المؤسسات C وD هما بنوك إنترنت تخدم بشكل أساسي الفئات العمرية الأصغر سنا (20-35 سنة)؛ المؤسسة E هي شركة تمويل استهلاكي تستهدف المستخدمين في الأسواق ذات المستويات الأدنى، مع توزيع البيانات الذي يظهر خصائص غير IID بارزة. تحتوي مجموعة البيانات على 115610 قطعة بيانات. توفر مجموعة البيانات من قبل المؤسسات المالية التي تتعاون مع الجامعات

نوع البيانات	المؤسسة	عدد التسجيلات (10,000)	عدد العملاء (10,000)	الحقول الأساسية	معدل الاحتيال المتخلف عن السداد	خصائص توزيع البيانات
معاملات بطاقات الائتمان	A	180	85	وقت المعاملة، المبلغ، نوع التاجر، موقع المعاملة، ما إذا كان يجب سرقة البطاقة أم لا.	0.32%	المعاملات الكبيرة تمثل نسبة عالية (> 5000 يوان)
معاملات بطاقات الائتمان	B	150	72	رقم تدفق المعاملات، المبلغ (دولار أمريكي/يواني)، قناة الدفع، تقييم العميل	0.28%	تشكل المعاملات العابرة للحدود 15٪
معاملات بطاقات الائتمان	C	120	68	طابع المعاملة، المبلغ، ما إذا كان سيتم تركيبه، عمر العميل، رقم الهاتف المحمول وموقع	0.45%	التداول الصغير عالي التردد (<1000 يوان يمثل 60٪)
قروض الأعمال الصغيرة والصغيرة جدا	D	32	1.2	اسم الشركة، مبلغ القرض، مدة الائتمان، حجم الإيرادات، مبلغ الضريبة، وما إذا كان متأخرا في التعويض أم لا.	2.80%	يشكل عملاء التصنيع 40٪
قروض الأعمال الصغيرة والصغيرة جدا	E	18	0.8	تاريخ تقديم القرض، المبلغ المتوقع، نوع العمل، عدد الموظفين، سجل الأداء التاريخي	3.50%	يشكل عملاء الخدمة 70٪

الجدول 7: الخصائص الإحصائية لمجموعة البيانات المالية الحقيقية متعددة المؤسسات.

لمعالجة تباين البيانات عبر المؤسسات، التزمت التجربة بدقة بمواصفات شبكة البيانات والطبقة الدلالية من خلال توحيد الحقول المؤسسية: على سبيل المثال، تحويل "مبلغ المعاملة (USD)" الخاص بالمؤسسة B إلى RMB باستخدام سعر صرف تاريخ المعاملة وتوحيد اسم الحقل إلى "مبلغ المعاملة (YUAN)"؛ تحويل "عمر العملاء" للمؤسسة C (صيغة "1990-01-01") إلى عمر صحيح؛ وربط "مقياس إيرادات المؤسسة" (المصنف ك "أقل من مليون / 1-5 ملايين / أكثر من 5 ملايين") إلى نقاط منتصف النطاقات العددية (500,000,3,000,000,7,500,000)، مع ضمان الاتساق بين صيغة البيانات والمعنى الدلالي.

تعزيز صناعي عبر CopulaGAN لحالات الاحتيال النادرة

في سيناريوهات التحكم في المخاطر المالية، عادة ما تشكل عينات الاحتيال/التخلف عن السداد نسبة منخفضة جدا. الاستخدام المباشر لمثل هذه العينات الصغيرة في تدريب النماذج سيؤدي إلى مشاكل شديدة في عدم توازن الطبقات، مما يؤثر على قدرات النموذج على التعميم. تستخدم التجربة شبكة Copula GAN (شبكة عدائية توليدية تعتمد على وظائف Copula) لتوليد بيانات معززة لحالات الاحتيال النادرة. تجمع هذه الطريقة بين قدرة دالة كوبولا على نمذجة توزيعات البيانات عالية الأبعاد مع قدرات GAN التوليدية، مما يمكن إنشاء بيانات تركيبية تتماشى مع أنماط الاحتيال الحقيقية مع تجنب مشكلة "انهيار النمط" التي تلاحظ عادة في توليد GAN التقليدي.

هيكل نموذج CopulaGAN

يتكون CopulaGAN من ثلاثة أجزاء: مولد، مميز، ووحدة قيد توزيع Copula: (1) مولد: الإدخال هو متجه ضوضاء عشوائي ب 128 بعد z∼N(0,1)، ويخرج متجه ميزات تركيبي يتوافق مع بعد العينة الحقيقي عبر شبكة متصلة بالكامل من ثلاث طبقات (أبعاد الطبقات المخفية هي 256، 512، 256)؛ (2) المميز: المدخلات هي عينة حقيقية أو عينة تركيبية x_{متوافقة}، ومن خلال دالة تفعيل شبكة متصلة بالكامل ذات طبقتين+سيجمويد، يخرج احتمال أن تكون العينة بيانات حقيقية؛ (3) وحدة قيد توزيع الكوبولا: ملاءمة التوزيع المشترك لعينات الاحتيال الحقيقية عبر دالة كوبولا غاوسية (حيث هي قيمة دالة توزيع الحواف للميزة الثامنة ل i)، وإضافة قيد مسافة كوبولا في خسارة المولد لضمان أن التوزيع المشترك للعينات التركيبية متسق مع العينات الحقيقية.

(36)

تعزيز التحقق من العملية والتأثير

عملية التدريب والتحسين في CopulaGAN هي كما يلي: 1) معالجة البيانات المسبقة: استخراج عينات الاحتيال/التخلف (18,200 في المجموع) من البيانات الحقيقية لمؤسسات مختلفة؛ توحيد الميزات المستمرة (x^'=(x-μ)/σ); يتم ترميز الميزات المنفصلة بحرارة فريدة؛ ii) تركيب التوافق: تستخدم دالة كوبولا غاوسية لملاءمة التوزيع المشترك لعينات الاحتيال المعالجة مسبقا، وحساب توزيع الحافة F_iθ ومعاملات دالة الكوبولا لكل ميزة؛ 3) تدريب GAN: يتم تدريب المولد والمميز بالتناوب. دالة الخسارة للمولد هي:

(37)

هنا، λ هو وزن القيد، والمسافة (C_{syn,C حقيقي}) هي التباعد بين توزيع كوبولا للعينات التركيبية وتوزيع كوبولا للعينات الحقيقية؛ دالة فقدان المميز هي خسارة الإنتروبيا المتقاطعة الثنائية القياسية:

(38)

بعد تقارب النموذج (مع استقرار دقة المميز عند 50٪±5٪)، أنتج المولد 50,000 عينة احتيال صناعي. تم إعادة هذه الخصائص إلى مساحة الميزات الأصلية وفقا للمواصفات الدلالية ودمجها مع عينات حقيقية لبناء مجموعة تدريب متوازنة. للتحقق من فعالية العينات الاصطناعية، قامت الأبحاث بتقييمها باستخدام اختبار KS من عينتين وتصور توزيع الميزات. أظهرت نتائج اختبار KS أن الفروق في توزيعات الميزات بين العينات التركيبية والحقيقية كانت جميعها أقل من 0.05 (إحصائية KS <0.05، قيمة p-value>0.05)، مما يشير إلى اتساق توزيع جيد. أظهرت مقارنة توزيع الميزات أن العينات الاصطناعية يمكنها إعادة إنتاج خصائص توزيع عينات الاحتيال الحقيقية بدقة، مما يوفر بيانات كافية صالحة لتدريب النماذج كما هو موضح في الشكل 1.

الشكل 1: مقارنة توزيع الميزات بين عينات الاحتيال الحقيقية وCopulaGAN يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.

مقاييس التقييم

تبني التجربة نظام تقييم متعدد المؤشرات من أربعة أبعاد أساسية: أداء التنبؤ، حماية الخصوصية، العدالة وكفاءة التواصل لقياس الأداء الشامل لإطار التعلم الفيدرالي ونموذج التحكم في المخاطر بالذكاء الاصطناعي. يتم عرض تعريف وطريقة الحساب ومعايير التقييم لكل بعد في الجدول 8.

أبعاد التقييم	اسم الفهرس	التعريف وطريقة الحساب	معيار التقييم
الأداء المقدر	AUC-ROC	تقيس المساحة تحت منحنى العمل المميز للموضوع قدرة النموذج على التمييز بين الأمثلة الإيجابية (التخلف/الاحتيال) والسلبية	كلما زادت القيمة، كان ذلك أفضل. معدل AUC-ROC للنموذج الممتاز هو>0.9
	PR-AUC	مساحة الاسترجاع الدقيق تحت المنحنى، التي تنطبق على البيانات غير المتوازنة، تقيس أداء النموذج في السيناريوهات التي تكون فيها الأمثلة الإيجابية نادرة	كلما زادت القيمة، كان ذلك أفضل. نسبة PR-AUC لنموذج ممتاز هي>0.8
	كسر بريير	متوسط الخطأ التربيعي بين الاحتمال المتوقع والتسمية الحقيقية، B=1Ni=1N(pi-yi)2	كلما كانت القيمة أقل، كان ذلك أفضل. درجة بريير للنموذج الممتاز أقل من 0.05
	معدل الإيجابية الكاذبة (FPR)	نسبة الأمثلة السلبية FPR = FPFP+TN.	كلما كانت القيمة أقل، كان ذلك أفضل. السيناريوهات المالية عادة ما تتطلب معدل الفائدة المالي <1٪ (لتجنب رفض العملاء الجيدين)
حماية الخصوصية	منحنى الاستهلاك ε (منحنى ε)	سجل معدل استهلاك ميزانية الخصوصية المتراكمة أثناء التدريب ليعكس التوازن الديناميكي لقدرة حماية الخصوصية	المنحنى يستقر وإجمالي ε أقل أو يساوي 5 (تماشيا مع متطلبات مخاطر الخصوصية في GDPR)
	هجوم الاستدلال العضوي AUC (MI-AUC)	قدرة المهاجم على استنتاج ما إذا كانت العينة تنتمي إلى مجموعة التدريب من نتائج توقع النموذج، وكلما اقتربت قيمة AUC من 0.5، زادت الخصوصية	MI-AUC<0.6 فعال لحماية الخصوصية، وMI-AUC<0.55 ممتاز
	معدل تسرب الميزات (FLR)	يقوم المهاجم بتجميع الميزات لعكس خطأ FLR=1-KL(P∥∥Q)Dmaxrate لتوزيع البيانات الأصلي،	تشير FLR <0.1 إلى أن حماية الخصوصية فعالة (P هو Dmax التوزيع الحقيقي، Q هو التوزيع المستنتج، وأقصى مسافة لمسافة KL)
العدالة	انحياز DP في الإحصاء (ΔDP)	أقصى فرق في التنبؤ ΔDP=max∥PRg-PRavg∥معدل الأمثلة الإيجابية بين المجموعات المختلفة،	ΔDP<0.05 للعدالة، للتميز (PRg للمعدل الإيجابي للمجموعة g)
	انحياز EO (ΔEO)	أقصى فرق في المعدلات الإيجابية الحقيقية ΔEO=max∥TPRg-TPRavg∥rates بين المجموعات المختلفة،	GCE <0.02 معايرة جيدا (K هو رقم المجموعة، هو المعدل المتوقع، و هو المعدل الفعلي)
	خطأ المعايرة الجماعي (GCE)	متوسط الانحراف بين الاحتمال المتوقع GCE=1Kg=1K∥pg-rg∥ لكل مجموعة ومعدل التخلف الفعلي عن السداد،	كلما كانت القيمة أقل، كان ذلك أفضل. متطلبات السيناريو للمنظمات الصغيرة والمتوسطة هي <10 ميجابايت/جولة
كفاءة الاتصال	عرض النطاق الترددي للرفع لكل جولة	إجمالي استهلاك النطاق الترددي للبيانات التي رفعتها كل منظمة إلى المنسق خلال فترة واحدة	كلما كانت القيمة أقل، كان ذلك أفضل. السيناريوهات العابرة للمؤسسات تتطلب أقل من 120 دقيقة
	نسبة الاختزال (CR)	نسبة حجم البيانات الأصلي إلى حجم البيانات المضغوط، CR=SizerawSizecomp	كلما زادت نسبة الانضغاط، كان ذلك أفضل. حلول ممتازة CR>10:1

الجدول 8: نظام مؤشر التقييم التجريبي.

شرح مقياسي: 1) هجوم استنتاج العضوية: باستخدام منهجية هجوم الصندوق الأسود، يدرب المهاجم نموذج تصنيف ثنائي يدخل احتمالات متوقعة من النموذج المستهدف ويخرج حالة عضوية العينة. يتم قياس خطر تسرب الخصوصية بواسطة AUC الخاص بالنموذج (أي MI-AUC). 2) معايير تصنيف المجموعات: في تقييم العدالة، تصنف المجموعات عبر أربعة أبعاد: الجنس (ذكر/أنثى)، العمر (تحت 25/25-40/>40)، المنطقة (الفئة الأولى/الطبقة الأولى الجديدة/الطبقة الثانية/الأسواق الفرعية)، ومستوى الدخل (<5 آلاف/5 آلاف-15 ألف/15 ألف/>30 ألف يوان/شهر). وهذا يضمن تغطية الفئات الحساسة التي تحددها الجهات التنظيمية المالية. iii) معايير التقارب: أثناء تدريب النماذج، إذا أظهرت مجموعة التحقق AUC-ROC انخفاضا أقل من 0.001 على مدى ثلاث جولات متتالية (كل جولة تحتوي على 10 فترات فوخ)، يعتبر التدريب متقاربا ومتوقفا.

الخطوط الأساسية

للتحقق من تفوق نموذج "التعلم الموحد + الذكاء الاصطناعي الهجين للتحكم في المخاطر" المقترح، تؤسس هذه الدراسة خمسة نماذج أساسية: النماذج المركزية التقليدية، نماذج التعلم الفيدرالي الكلاسيكية، والنماذج المحسنة التي تحافظ على الخصوصية. تم تفصيل المعلمات الأساسية واستراتيجيات التدريب لكل نموذج أساسي في الجدول 9 لضمان العدالة في التجارب المقارنة (جميع النماذج تستخدم مجموعات تدريب متطابقة، ومجموعات تحقق، واستراتيجيات تحسين المعاملات الفائقة).

أنواع النماذج	اسم الطراز	البنية الأساسية	وضع التدريب	تدابير حماية الخصوصية	المعاملات الفائقة الرئيسية
النموذج المركزي	التقليد GBDT	شجرة تعزيز التدرج XGBoost	جميع المؤسسات تخزن بيانات التدريب بشكل مركزي	ليس كذلك	عدد الأشجار =100، معدل التعلم =0.1، عمق الشجرة =6، معامل التنظيم λ=1.0
النموذج المركزي	نموذج التعلم العميق (MLP)	الشبكة المتصلة بالكامل ذات الثلاث طبقات (طبقة الإدخال 256 بعد → الطبقة المخفية 128 بعد → الطبقة المخفية 64 بعد → طبقة الإخراج 1)	جميع المؤسسات تخزن بيانات التدريب بشكل مركزي	ليس كذلك	المحسن = آدم، معدل التعلم = 0.001، حجم الدفعة = 256، التراجع = 0.3
النموذج الفيدرالي الكلاسيكي	FedAvg (المتوسط الفيدرالي)	النموذج المحلي هو GBDT، والنموذج العالمي يعتمد تجميع متوسط المعلمات	التدريب المتزامن الفيدرالي	ليس كذلك	معدل المشاركة = 0.8، الحقبة المحلية = 5، جولة التجميع = 50، معدل التعلم = 0.1
النموذج الفيدرالي الكلاسيكي	FedProx (التجميع الفيدرالي القريب من النهاية)	النموذج المحلي هو GBDT، والنموذج القريب	التدريب المتزامن الفيدرالي	ليس كذلك	معدل المشاركة = 0.8، الحقبة المحلية = 5، جولة التجميع = 50، معامل الاقتراب μ= 0.01
		μ=0.01 يضاف قيد المصطلح أثناء التجميع ().
الاتحاد التمكين للخصوصية	FedAvg+DP (ضوضاء ثابتة)	أضف ضوضاء لابلاسيان ثابتة إلى FedAvg (ε=5، δ=1e-5)	التدريب المتزامن الفيدرالي	الخصوصية التفاضلية الثابتة	شدة الضوضاء = 0.1، معدل المشاركة = 0.8، حقبة محلية = 5، جولات التجميع = 50
نموذج البحث	FedRisk (نموذج التحكم في المخاطر الفيدرالي)	GDT المحلي (القيد الأحادي) + المحول العالمي (دمج الانتباه) + DP + التجميع الآمن	التدريب الفيدرالي غير المتزامن	مشاركة الأسرار الإضافية التكيفية DP+	العصر المحلي=5، جولات التجميع=50، بعد الانتباه=64، ميزانية الخصوصيةε=5، نسبة الضغط=15:1

الجدول 9: مقارنة المعلمات بين النموذج الأساسي وهذا النموذج الدراسي.

تفسير البعد المقارن: (1) مركزي مقابل فدرالي: من خلال مقارنة "GBDT/MLP التقليدي" مع "FedAvg/FedProx/FedRisk"، تفحص هذه الدراسة تدهور أداء التعلم الفيدرالي في سيناريوهات "البيانات خارج الموقع". (2) الكلاسيكي مقابل الاتحادي المعززز: من خلال "FedAvg" مقابل "FedAvg+DP"، يقيم البحث تأثير الخصوصية التفاضلية على أداء النماذج. (3) المعدل المتزامن مقابل غير المتزامن: المقارنة بين "FedAvg" (متزامن) و"FedRisk" (غير متزامن) تظهر مزايا كفاءة التواصل في التدريب غير المتزامن. (4) التجميع البسيط مقابل الاندماج الذكي: التباين بين "FedAvg" (متوسط المعاملات) و"FedRisk" (دمج الانتباه) يؤكد قابلية استراتيجيات تكامل المحولات مع البيانات غير المعتمدة على IID. (5) عدم الرقابة مقابل الإنصاف والرقابة: المقارنة بين "FedAvg" (بدون قيود على العدالة) و"FedRisk" (قيود الوعي بالعدالة) تفحص تأثيرات آليات العدالة على عدالة النماذج وأدائها.

دراسات الاستئصال

تأثير ε المتباين على منفعة النموذج

باستخدام ميزانية الخصوصية الكلية ε كمتغير (بقيم 1، 3، 5، 7، و10)، ثبت البحث δ=1e-5 مع الحفاظ على وحدات أخرى (دمج الانتباه والقيد الأحادي GBDT) دون تغيير، لتقييم المقايضة بين قوة حماية الخصوصية وفائدة النموذج. قامت التجربة بقياس كل من AUC-ROC (منفعة النموذج) وMI-AUC (مخاطر الخصوصية) كمؤشرات مزدوجة، مع عرض النتائج في الجدول 10. عندما ε=1، انخفض MI-AUC إلى 0.53 (حماية خصوصية ممتازة)، لكن AUC-ROC وصل فقط إلى 0.821 (خسارة كبيرة في المنفعة). عند ε=5، تعافت AUC-ROC إلى 0.912 (مستوفية متطلبات التحكم في المخاطر المالية) مع MI-AUC=0.58 (حماية فعالة للخصوصية). عند ε>5، أصبح التحسن في AUC-ROC أقل من 0.01، بينما ارتفع MI-AUC بسرعة إلى 0.63 (متجاوزا حدود مخاطر الخصوصية). وهذا يؤكد أن ε=5 هو ميزانية الخصوصية الكلية المثلى، محققا توازنا بين الخصوصية والمنفعة.

الميزانية الكلية للخصوصيةε	نموذج AUC-ROC	مخاطر الخصوصية (MI-AUC)	معدل تسرب الميزات FLR	كسر بريير
1	0.821	0.53	0.04	0.078
3	0.876	0.55	0.06	0.061
5	0.912	0.58	0.08	0.042
7	0.919	0.6	0.11	0.039
10	0.923	0.63	0.15	0.037

الجدول 10: مقارنة أداء النماذج مع ميزانيات الخصوصية المختلفة ε.

مساهمة دمج الانتباه مقابل المتوسط البسيط

لتقييم فروق الأداء بين "دمج الانتباه" (الاستراتيجية المقترحة) و"المتوسط البسيط" (استراتيجية FedAvg) في سيناريوهات البيانات غير المستقلة، تم تكوين متغيرين تجريبيا: (1) شدة البيانات غير التفاعلية (المقاسة بتغيرات معدل التخلف عن السداد حسب المؤسسة، والتفاوت المنخفض: 0.2٪-0.5٪، والتفاوت العالي: 0.2٪-3.5٪)؛ (2) استراتيجيات الاندماج (دمج الانتباه مقابل المتوسط البسيط). كما هو موضح في الشكل 2، كانت الفجوة بين AUC-ROC بين الاستراتيجيتين فقط 0.023 (0.912 مقابل 0.889) في السيناريوهات غير المنخفضة غير IID. ومع ذلك، اتسعت هذه الفجوة إلى 0.076 (0.905 مقابل 0.829) في السيناريوهات غير المتوسطة العالية، مع نموذج المتوسط البسيط الذي أظهر فائض كبير (مجموعة التدريب AUC-ROC 0.941 مقابل مجموعة التحقق 0.829). هذا يوضح أن آليات الانتباه يمكنها التخفيف بفعالية من تدهور الأداء الناتج عن البيانات غير المستقلة من خلال الوزن الديناميكي - مثل تخصيص وزن 0.32 للمؤسسة E ذات التنبؤات الافتراضية الدقيقة و0.12 وزن للمؤسسة C التي تحتوي على انحرافات أكبر.

الشكل 2: مقارنة استراتيجيات الاندماج تحت درجات مختلفة غير IID. يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.

تأثير منظمي العدالة على مؤشرات الأداء الرئيسية القائمة على الربح

الطلب الأساسي للمؤسسات المالية هو ضمان أرباح الأعمال تحت قيود العدالة، لذلك تقدم التجربة مؤشرا موجها نحو الربح - "العائد المعدل حسب المخاطر على رأس المال (RAROC)"، والصيغة هي كما يلي:

(39)

يتم حساب الخسارة المتوقعة كاحتمال التخلف عن السداد مضروبا في معدل الخسارة الثابت للتخلف عن السداد (محدد عند 40٪)، بينما يتم تحديد رأس المال الاقتصادي بمعدل التعرض للمخاطر مضروبا في وزن المخاطر (وفقا لمتطلبات بازل III). تمت مقارنة مقاييس العدالة (ΔDP، ΔEO) وRAROC للنموذج مع تنظيم العدالة مقابل النموذج الذي لا يتبعها في الجدول 11. بعد تنفيذ تنظيم العدالة، انخفض ΔDP من 0.15 إلى 0.04، وانخفض ΔEO من 0.12 إلى 0.03، وانخفض RAROC فقط بنسبة 2.1٪ (18.3٪ مقابل 18.7٪)، وهو أقل بكثير من العتبة المقبولة في الصناعة وهي 5٪. وهذا يوضح أن آلية العدالة في دراستنا تلبي بفعالية متطلبات عدم التمييز التنظيمية مع التحكم في خسائر الأرباح.

إعداد النموذج	ΔDP (فرق معدل المجموعات الإيجابي)	ΔEO (فرق TPR الجماعي)	GCE (خطأ معايرة المجموعة)	RAROC (العائد المعدل حسب المخاطر على الأصول)	معدل الإيجابية الكاذبة (FPR)
لا توجد قاعدة للعدالة	0.15	0.12	0.035	18.70%	0.95%
هناك عدالة وانتظام	0.04	0.03	0.018	18.30%	1.02%

الجدول 11: تأثير تنظيم العدالة على مؤشرات العدالة والأرباح.

تفاصيل التنفيذ

لضمان قابلية تكرار التجربة، أوضحت الأبحاث تفاصيل المدخنة التقنية وعملية التدريب: (1) بيئة الأجهزة: كل عقدة مؤسسية تستخدم معالجات Intel Xeon Gold 6248، وذاكرة RAM بسعة 64GB، ووحدات معالجة رسومات NVIDIA Tesla V100؛ يستخدم المنسق الفيدرالي معالجين مزدوجين من نوع Xeon Gold 6348 مع ذاكرة RAM بسعة 128GB لضمان الحوسبة المتوازية وتجميع المعاملات بكفاءة. (2) إطار البرمجيات: تم تطوير إطار التعلم الفيدرالي باستخدام PySyft 0.8.6، وتستخدم وحدة البلوكشين Hyperledger Fabric 2.5 (آلية الإجماع: Raft)، ويعتمد تدريب النماذج على PyTorch 2.0 وXGBoost 2.0.3، بينما تدمج وحدة الخصوصية التفاضلية مكتبة IBM DP. (3) عملية التدريب: (1) معالجة البيانات المسبق (ساعتان، بما في ذلك التطبيع الدلالي وتعزيز CopulaGAN); (2) التدريب المحلي (5 فترات في كل جولة، معدل التعلم يتناقص عبر التلدين الجيب التمام)؛ (3) التجميع غير المتزامن (تحدث تحديثات النموذج العالمية عندما يتلقى المنسق معلمات من ثلاث مؤسسات); (4) تقييم النموذج (AUC-ROC ومقاييس العدالة المحسوبة بعد 10 جولات); (5) تحسين المعاملات الفائقة (تحسين بايزي مع 50 تكرارا لتحديد المعلمات المثلى). (4) اختبار المتانة: سيناريوهات محاكاة للانقطاعات المؤسسية (اختيار مؤسسة عشوائية لإيقاف 1-3 جولات تدريب) وضوضاء البيانات (إضافة 5٪ اضطرابات في قيمة الميزات). أظهرت النتائج تقلبات AUC-ROC أقل من 0.02، مما يدل على قدرة النظام على مقاومة التداخل.

استخدمت هذه الدراسة استراتيجية جدولة التلدين الجيب التمام، مع معدل تعلم أولي بلغ 0.05. تم تحديث معدل التعلم ديناميكيا في كل عصر وفقا للصيغة على مدى 100 فترة تدريب. حافظت هذه الاستراتيجية على معدل تعلم مرتفع في المراحل الأولى من التدريب، مثل 0.05 في العصر الأول، لتسريع تقارب النماذج، ثم تراجعت تدريجيا إلى ما يقرب من الصفر، على سبيل المثال 0.00025 في الحقبة المئة، لتعزيز استقرار ضبط المعلمات بدقة. أظهرت النتائج التجريبية أنه مقارنة بمعدل تعلم ثابت، حسنت هذه الاستراتيجية مجموعة التحقق AUC-ROC بنسبة 2.3٪ وتسارعت سرعة التقارب بنسبة 37٪. تم تقسيم البيانات بناء على مجموعة بيانات خام من خمس مؤسسات مالية بإجمالي 5 ملايين عينة، مع الالتزام الصارم بمبدأ عزل البيانات عبر المؤسسات. تم تقسيم البيانات المحلية من كل مؤسسة ترتيبا زمنيا، حيث تم اختيار البيانات من يناير 2022 إلى يونيو 2023 كمجموعة تدريب (70٪)، وبيانات من يوليو إلى سبتمبر 2023 كمجموعة تحقق (15٪)، وبيانات من أكتوبر إلى ديسمبر 2023 كمجموعة اختبار (15٪). هذا التقسيم ضمن استقلالية النوافذ الزمنية لمجموعات التدريب والتحقق والاختبار، مما حاكي بشكل فعال تطور أنماط المخاطر الزمنية في سيناريوهات العالم الحقيقي. تم تحديد المعاملات الفائقة الرئيسية عبر التحسين البايزي. في فضاء بحث مشترك يشمل معدل تعلم ابتدائي بين 0.01 و0.1، وأرقام شجرة GBDT بين 50 و200، ورؤوس انتباه المحول من مجموعة {2، 4، 8}، تم تنفيذ 50 تكرارا بهدف تعظيم مجموعة التحقق من AUC-ROC. تم تحديد التركيبة المثلى النهائية كمعدل تعلم أولي 0.05، و120 شجرة GBDT، و4 رؤوس انتباه.

النتائج

الأداء التنبؤي: الاقتراب من مستوى النماذج المركزية في السيناريوهات غير IID

في السيناريوهات الواقعية التي تحتوي على بيانات غير متعلقة بمعلومات غير مشمولة بالمخاطر (تغيرات معدلات التخلف عن السداد المؤسسية بين 0.2٪-3.5٪)، يظهر FedRisk قدرات استثنائية في تمييز المخاطر، كما هو موضح في الجدول 12. يصل مؤشر AUC-ROC إلى 0.912، وPR-AUC عند 0.823، ودرجة Brier 0.042، ومعدل الإيجابية الكاذبة (FPR) 1.02٪. هذه المقاييس لا تلبي فقط المتطلبات ...

المناقشة

أثبتت استراتيجية ضبط المعلمات الفائقة الديناميكية، وخاصة جدولة معدل التعلم بنظام جيب تمام، أنها ضرورية لموازنة سرعة التقارب واستقرار النموذج. من خلال خفض معدل التعلم من 0.05 إلى 0.00025 على مدى 100 حقبة، سرع هذا النهج التقارب في المراحل المبكرة مع تقليل وقت التدريب في المرحلة المتأخرة التي تقلل التقلبات بنسبة 37٪ وتحسين التحقق من AUC-ROC بنسبة 2.3٪ مقارنة بالجداول ذات المعدلات الثابتة. وكان معايرة الضوضاء التكيفية في الخصوصية التفاضلية أمرا حاسما بنفس القدر، حيث تم تعديل ضوضاء لابلاس الو...

المواد

قائمة المواد المستخدمة في هذه المقالة

الاسم	الشركة	رقم فهرسي	التعليقات
حاسوب محمول	تقنيات ديل	لا يوجد	يستخدم لمعالجة البيانات والتوثيق
البرمجيات الإحصائية (SPSS)	شركة آي بي إم.	الإصدار 26.0	يستخدم في التحليل الإحصائي
مايكروسوفت إكسل	مايكروسوفت	مكتب 365	إدخال البيانات والتعامل الأساسي مع البيانات