$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
المنهجية المقترحة
يهدف نموذج التعلم الفيدرالي القوي للخصم (AR-FL) المقترح إلى التنبؤ بمخاطر وفيات المرضى بشكل آمن وتعاوني عبر مؤسسات الرعاية الصحية المختلفة، مع حماية خصوصية البيانات وجعل النظام مقاوما للاضطرابات العدائية. يشمل النشر أربعة عناصر رئيسية: (1) هيكل التعلم الفيدرالي، (2) التدريب العدائي القائم على الحد الأدنى من التحسين الأقصى، (3) آلية الانتباه الواعي بالمجال، و(4) تجميع المعلمات للحفاظ على الخصوصية. يتم تنفيذ المنهجية في تدفق منهجي مخصص للتعلم الفيدرالي القوي المعادي لتقدير مخاطر الوفاة. تبدأ العملية، الموضحة في الشكل 2، بجمع البيانات من العديد من المؤسسات الصحية، تليها معالجة مسبقة للبيانات لتوحيد الميزات والتعامل مع القيم المفقودة. يتم إنشاء نموذج عالمي في البداية بواسطة خادم مركزي ثم يرسل إلى كل مؤسسة صحية. يتم التدريب المحلي ضد المنافسة داخل مؤسسات الرعاية الصحية، مما يزيد من متانة النموذج في مواجهة الاضطرابات مع السماح بتكييفه مع البيانات الخاصة بالمجال. بعد التدريب، يتم تسليم معلمات النماذج المحلية بشكل آمن إلى الخادم باستخدام تجميع المعلمات الآمن. يدمج الخادم هذه المساهمات المحلية في النموذج لتحديث النموذج العالمي. تتكرر هذه العملية عدة مرات في تحسين تكراري لتسهيل تحسين النموذج بشكل تعاوني. ونتيجة لذلك، يتم تقييم النموذج بدقة باستخدام معايير سريرية تقيم أدائه التنبؤي، وقوته العدائية، وتعميمه عبر المؤسسات.

الشكل 2: نموذج AR-FL المقترح. يقدم هذا الشكل البنية العامة لنموذج التعلم الفيدرالي القوي العدائي المقترح، بما في ذلك التدريب المتنافس، والانتباه الواعي بالمجال، والتجميع الآمن الذي يحافظ على الخصوصية. يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.
جمع البيانات
في هذه الدراسة، تم استخدام مجموعتي بيانات للسجلات الصحية الإلكترونية (EHR) متاحتين للجمهور: MIMIC-III4 وقاعدة بيانات البحث التعاوني للوحدة العناية المركزة6. يوفر MIMIC-III أكثر من 40,000 دخول في وحدة العناية المركزة من مستشفى رئيسي واحد، بينما تشمل بيانات العناية المركزة الإلكترونية أكثر من 200,000 إقامة في العناية المركزة من مستشفيات مختلفة في الولايات المتحدة. تجعل التركيبة السكانية للمرضى، والقياسات السريرية، ونتائج الفحوصات المخبرية، والأحداث المسجلة، والنتائج المسجلة في هذه البيانات جذابة جدا لمهمة التنبؤ بمخاطر الوفيات. يتم تقسيم مجموعات بيانات السجلات الصحية الإلكترونية إلى أجزاء مختلفة لتشكيل بيئة تعليمية واقعية متعددة المؤسسات؛ كل جزء يمثل مستشفى أو مؤسسة مختلفة. تلتقط الطريقة الفروقات بين المؤسسات في خصائص المرضى، والبروتوكولات السريرية، وأنماط التوثيق، وتوفر البيانات. كل مؤسسة محاكاة يمكنها الوصول إلى مجموعة بياناتها الخاصة فقط ولا تشارك أي سجلات خام مع الخادم المركزي أو أي عملاء مشاركين آخرين. يضمن هذا النهج الامتثال الكامل لمبادئ الحفاظ على الخصوصية مع محاكاة القيود الواقعية للتعاون بين المستشفيات. يتم استخراج ملصقات الوفيات من حقول النتائج المشار إليها في مجموعات البيانات، مثل مؤشرات الوفيات داخل المستشفيات. تعمل هذه التسميات كأهداف تنبؤ لنموذج التعلم الفيدرالي. وبالتالي، تحتفظ كل مؤسسة بمجموعتها المحلية الخاصة من سجلات ميزات المرضى المرتبطة بنتائج الوفيات، مما يتيح تدريبا نموذجيا لامركزيا دون الكشف عن معلومات حساسة للمرضى.
معالجة البيانات المسبقة
تعالج كل مؤسسة بيانات السجلات الصحية الإلكترونية المحلية بشكل مستقل قبل بدء تدريب النماذج. نظرا لأن التعلم الفيدرالي يمنع مشاركة أي بيانات على مستوى المريض أو حتى إحصاءات ملخصة بين المؤسسات المشاركة، فإن جميع خطوات المعالجة المسبقة تجرى محليا في كل مؤسسة وتعتمد فقط على المعلومات الموجودة في مجموعة بيانات تلك المؤسسة. يتكون تدفق المعالجة المسبقة من بعض الخطوات الحاسمة. في البداية، يتم تطبيع المتغيرات السريرية العددية مثل العلامات الحيوية، ونتائج الفحوصات المخبرية، والقياسات الفسيولوجية لإزالة الفروق في نطاقات القيم وتثبيت تقارب النموذج. البيانات المحلية لكل مؤسسة هي المصدر الوحيد لحساب الإحصائيات المستخدمة في التطبيع. بعد ذلك، يتم تحويل السمات الفئوية مثل الجنس، نوع القبول، أو الفئات التشخيصية إلى تمثيلات رقمية باستخدام طرق مثل الترميز السريع الواحد أو التعيينات الخاصة بالمؤسسة. لذا، يمكن للنموذج الفيدرالي التعامل مع البيانات التصنيفية دون الحاجة إلى قواميس ترميز مشتركة أو جداول مرجعية عبر المؤسسات. ثالثا، البيانات المفقودة، التي هي شائعة في مجموعات البيانات السريرية، يتم التعامل معها باستخدام تقنيات الحساب المحلي. اعتمادا على نوع الميزة والسياق السريري، قد تلجأ المؤسسات إلى التعيين، أو التعبئة المستقبلية بناء على الملاحظات السابقة، أو حتى الاستبدالات السريرية القائمة على القواعد. ونظرا لأن كل مؤسسة تقوم بالحساب بشكل مستقل، فلا حاجة لبيانات وصفية خارجية أو معلمات مشاركة للحساب. وباتباع هذه الإجراءات، يمكن لكل مؤسسة إنشاء مجموعة بيانات كاملة من الميزات المعالجة مع نتائج الوفيات المرتبطة بها. ثم تستخدم مجموعات البيانات المحلية كمدخلات لتدريب النموذج الفيدرالي. طوال خط معالجة ما قبل المعالجة، لا يتم إرسال بيانات خام أو إحصائيات مشتقة أو مخرجات وسيطة خارج المؤسسة، مما يضمن الالتزام الصارم بممارسات إدارة البيانات التي تحافظ على الخصوصية.
تهيئة النموذج
لتكن K {1, 2,..., K} مجموعة المؤسسات (العملاء) المعنيين، حيث تمتلك كل مؤسسة مجموعة بيانات محلية.
{
حيث
تمثل ميزات السجلات الصحية الإلكترونية المدخلة و
هي علامة الوفيات المرتبطة (ثنائية أو تصنيفية). يتم تدريب النموذج
العالمي بشكل تعاوني عبر جميع العملاء، حيث θ هي معلمات النموذج المشتركة.
تتبع العملية بروتوكول المتوسط الفيدرالي القياسي (FedAvg):
يقوم الخادم المركزي بتهيئة المعلمات العالمية
ويبثها. يقوم كل عميل k∈k بإجراء تدريب محلي باستخدام بياناته ويقوم بتحديث النموذج إلى
. يقوم الخادم بدمج التحديثات بأخذ المتوسط المرجح:

، حيث n =
تستمر إجراءات تهيئة الخادم المركزي وخطوات التدريب المحلية في جولات الاتصالات العالمية T (T global communication).
التدريب الخصمي المحلي (تحسين الحد الأدنى–الأقصى)
ولتحسين المتانة، يجري كل عميل تدريبا خصوما في موقعه المحلي. بدلا من تقليل المخاطر التجريبية على البيانات النظيفة، يواجه العملاء مشكلة الحد الأدنى للحد الأقصى:
(x+δ),y)
L: دالة الفقدان
δ: اضطراب عدائي مقيد ب 
س: فضاء التهديد العدائي
(x+δ): التنبؤ تحت الإدخال المضطرب
في وقت كل حقبة محلية، يتم إنشاء عينات خصمية باستخدام طريقة الانحدار التدرج المتوقع (PGD) أو طريقة إشارة التدرج السريع (FGSM). بعد ذلك، يستمر تدريب النموذج مع هذه العينات لزيادة متانته.
آلية الانتباه الواعي للمجال
تختلف بيانات السجلات الصحية الإلكترونية (EHR) من مؤسسات مختلفة بشكل كبير من حيث توزيع البيانات، ودلالات الميزات، والممارسات السريرية. لمعالجة هذه المشكلة، يدمج نموذج AR-FL وحدة انتباه متخصصة في المجالات في نموذجه.
لتكن
متجه الإدخال من المؤسسة k. يتم حساب أوزان
الانتباه لكل ميزة j∈ {1..., d} كالتالي:
=
حيث هي أوزان الانتباه القابلة للتدريب. يتم إعادة وزن المدخلات كما يلي:

من خلال هذه الآلية، يستطيع النموذج التأكيد على الخصائص المهمة للممارسة السريرية وفقا لطبيعة البيانات التي تستخدمها المؤسسة، مما يزيد من قابليته للتكيف وقابلية التفسير.
تجميع معلمات الحفاظ على الخصوصية
يستخدم AR-FL تجميعا آمنا جدا إلى جانب تقنيات الخصوصية التفاضلية إذا لزم الأمر للحفاظ على أعلى مستوى من الخصوصية أثناء التواصل. التجميع الآمن: يقوم المستخدمون بتشفير تحديثات النماذج بطريقة تجعل الخادم يمكنه حساب الإجمالي فقط دون حساب المساهمات المنفصلة.
خصوصية التفاضل: تضيف ضوضاء لتحديثات الطراز:

حيث يتحكم σ في مقايضة الخصوصية والدقة.
خلال التحديثات الموزعة، تضمن هذه الأساليب عدم تعرض بيانات المرضى الخاصة أو المعلومات المؤسسية لخطر التسريب.
تحديث النموذج العالمي
بمجرد الانتهاء من مرحلة التدريب المحلية في كل مؤسسة، يجمع الخادم المركزي تحديثات النماذج المقدمة من العملاء. تتكون هذه التحديثات فقط من تغييرات على معلمات النموذج ولا تتضمن أي بيانات خام للمرضى أو تمثيلات ميزات وسيطة. لدمج المعرفة المكتسبة من المؤسسات المختلفة، يطبق الخادم طريقة المتوسط الفيدرالي (FedAvg). في هذه العملية، يحسب الخادم متوسطا مرجحا للنماذج المحلية بناء على كمية البيانات المتاحة في كل مؤسسة. المؤسسات التي تساهم بمجموعات بيانات أكبر لها تأثير أكبر نسبيا على النموذج العالمي المحدث. نظرا لأن التحديثات كانت ترسل باستخدام تقنيات التجميع الآمن، لا يمكن للخادم عرض أو عزل معلمات أي مؤسسة فردية. بدلا من ذلك، يحصل الخادم على تمثيل مشترك مشفر أو محمي للخصوصية فقط. يضمن ذلك سرية عملية التدريب وتدمير أي أنماط أو خصائص خاصة بالمؤسسة قد تكون تم اكتشافها. بعد حساب التحديث المجمع، يعد الخادم نموذجا عالميا جديدا يمثل المعرفة الكلية المكتسبة من جميع المؤسسات المتعاونة في جولة التواصل تلك. ثم يعاد النموذج العالمي الجديد إلى كل مؤسسة لبدء جولة جديدة من التدريب المحلي التنافسي.
التحسين التكراري
التعلم الموحد هو عملية متعددة المراحل تتضمن عدة جولات تواصل. تتكون كل جولة من تدريب النموذج المحلي، وإرسال التحديثات الآمن، والتجميع العالمي، والتوزيع اللاحق للنموذج المحسن على المشاركين. تساعد الطلقات المتكررة النموذج على التحرك تدريجيا نحو حل قوي ومستقر. خلال هذه الجولات، تجلب كل منظمة معرفتها بمرضاها، مما يخلق نموذجا يمكنه تحديد الأنماط السريرية عبر بيئات مختلفة. يجدر بالذكر أن التدريب العدائي وآلية الانتباه الواعي للمجال يتم تنفيذهما أحيانا من خلال التدريب المحلي في كل جولة. لذا، يتم تحسين النموذج باستمرار، وتزداد قدرته على مواجهة الهجمات العدائية، بينما تتحسن قدرته على التكيف مع توزيعات الميزات المختلفة بين المؤسسات. من خلال التحسين التكراري، لا يحسن النموذج فقط أداء التعميم، بل يصبح أيضا أكثر تسامحا مع اختلال التوازن في البيانات، والتنوع المؤسسي، والإعدادات العدائية. يتم تنفيذ العملية حتى يتم الوصول إلى عدد محدد مسبقا من جولات الاتصال أو حتى يشير النموذج العالمي إلى تقارب مستقر.
التقييم
في نهاية جميع جولات التواصل، يتم تقييم النموذج العالمي النهائي بشكل شامل باستخدام مجموعات اختبار مستمدة من مجموعات بيانات المشاركين. ونظرا لأن مجموعات الاختبار هذه لا تستخدم في تدريب النماذج، فإنها توفر مقياسا عادلا ومحايدا لأداء النموذج. يتم تقييم فعالية النموذج من خلال حساب مقاييس مختلفة من عدة زوايا. الدقة النظيفة تقيم الحالة التي تكون فيها الظروف الطبيعية موجودة. يقيس صحة النموذج في التنبؤ بنتائج الوفيات. في المقابل، تقدر الدقة العدائية مدى قدرة النموذج على الحفاظ على أدائه حتى عند تعديل بيانات الإدخال بطريقة عدائية. توفر المنطقة تحت منحنى خاصية تشغيل المستقبل (ROC) (AUC-ROC) نظرة على كفاءة النموذج في التمييز بين المرضى الأحياء والمتوفين. تعد درجة F1 مؤشرا على علاقة الدقة والاسترجاع، وهي مهمة بشكل خاص لمجموعات البيانات السريرية غير المتوازنة. تكشف فجوة التعميم عن التفاوت في الأداء بين المؤسسات المختلفة، مما يبرهن على مرونة النموذج في التكيف مع مصادر البيانات المتنوعة. يتم أخيرا قياس مخاطر الخصوصية من خلال استخدام هجمات عدائية محاكاة، والتي تحدد ما إذا كان التجميع الآمن والخصوصية التفاضلية الاختيارية فعالان فعلا في حماية سرية المرضى. كل هذه المقاييس التقييمية مجتمعة تقدم صورة شاملة لقوة النموذج التنبؤية، ومقاومته للهجمات العدائية، واستقراره عبر المؤسسات المختلفة، والالتزام بمتطلبات الحفاظ على الخصوصية. الخوارزمية 1 (الملف التكميلي 1) أدناه تظهر التعلم الفيدرالي القوي الخصمي (AR-FL) للتنبؤ بمخاطر الوفيات.