يصف هذا البروتوكول تنفيذ إطار عمل التعلم الموحد الذكي لتدريب نماذج التعلم الآلي الموزعة عبر مجموعات بيانات غير متجانسة وغير متزامنة، مع الحفاظ على خصوصية البيانات وتمكين قابلية تفسير النماذج.
يتطلب اشتراك JoVE لعرض هذا المحتوى. تسجيل الدخول أو ابدأ نسخة تجريبية مجانية
مقالة بحثية
يصف هذا البروتوكول تنفيذ إطار عمل التعلم الموحد الذكي لتدريب نماذج التعلم الآلي الموزعة عبر مجموعات بيانات غير متجانسة وغير متزامنة، مع الحفاظ على خصوصية البيانات وتمكين قابلية تفسير النماذج.
التعلم الموحد لديه إمكانات كبيرة لتدريب النماذج الموزعة مع الحفاظ على الخصوصية، لكنه يواجه تحديات تتعلق بالتقارب والعدالة وقابلية التفسير بسبب تباين مجموعات البيانات غير المتوافقة. تقترح هذه الدراسة إطار عمل للتعلم الذكي الموحد (IFLF) لمعالجة هذه التحديات من خلال نهج تكيفي باستخدام بنية متعددة الطبقات تتكون من طبقات البيانات، والعميل، والتجميع، والتكيف، والتحسين، وطبقات التفسير.
يظهر الإطار تقارب مستقر تحت توزيعات البيانات غير المستقلة (IID)، مع استراتيجيات التجميع التي تدعم التحسين المتوازن. يساهم نهج تعديل معدل التعلم في تدريب مستقر من خلال دمج تحديثات العملاء غير المتجانسة وتقليل التباعد أثناء التحسين. تم دمج تقنيات الذكاء الاصطناعي القابلة للتفسير، بما في ذلك SHAP وLIME، لتحسين الشفافية على المستويين العالمي والعملاء.
يتم تقييم IFLF على أربع مجموعات بيانات مرجعية (FEMNIST (رؤية)، FLamby (تصوير الرعاية الصحية)، FedGraphNN (تعلم الرسوم البيانية)، و CICIDS2017 (الأمن السيبراني)). حقق الإطار دقة متوسطة بلغت 92.8٪، مع تقارب أسرع وانخفاض تباين الأداء بين العملاء.
الزيادة السريعة في البيانات الموزعة القادمة من الأجهزة المحمولة، وأنظمة الرعاية الصحية، وأجهزة الاستشعار الصناعية، والبنى التحتية السيبرانية الفيزيائية زادت الحاجة إلى تقنيات التعلم الآلي التعاونية التي تحافظ أيضا على خصوصية البيانات. تعتمد طرق التعلم الآلي التقليدية على توحيد البيانات المركزي، حيث يتم جمع مجموعات البيانات من مصادر مختلفة وتخزينها في مستودع واحد. على الرغم من أن هذا النهج يسهل تدريب النماذج، إلا أنه يثير مخاوف تتعلق بخصوصية البيانات، والامتثال التنظيمي، وعبء الاتصالات. تم الاعتراف بالتعلم الموحد (FL) كنهج واعد يمكن عدة عملاء من تدريب نموذج عالمي بشكل مشترك دون الكشف عن بياناتهم المحلية1. في هذا....
الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.
نظرة عامة
تم تطوير إطار عمل التعلم الموحد الذكي (IFLF) لإدارة تنوع البيانات والأنظمة بكفاءة في البيئات غير المتجمعة. تكونت بنية النظام من خمس طبقات: طبقة البيانات، طبقة العميل، طبقة التجميع، طبقة التكيف والتحسين، وطبقة قابلية التفسير. تم نشر الوحدات عبر إعداد حوسبة موزعة مع خادم تجميع مركزي وعقد عملاء متعددة. تم استخدام اتصالات المقبس الآمنة (SSL/TLS) للتواصل بين العقد لضمان الخصوصية وسلامة البيانات. تم استخدام الإجراء التالي لإعداد مجموعات البيانات، وإعداد البنية المعمارية، وإجراء التدريب الفيدرالي، وتقييم قابلية التفسير.
تكوين البيئة الحاسوبية
تم تكوين البيئة الحاسوبية من خلال تثبيت أطر الب....
الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.
نظرة عامة
جميع النتائج التجريبية التي تم الإبلاغ عنها في هذه الدراسة تم قياسها على مدى خمس جولات مستقلة مع تهيئة عشوائية مختلفة وتكوينات عينات العملاء لضمان المتانة. تعرض مقاييس الأداء، بما في ذلك الدقة، والدقة، والاستدعاء، ودرجة F1، كمتوسط ± انحراف معياري. ظل الانحراف المعياري الملحوظ عبر الجولات ضمن نطاق صغير (عادة ±0.5٪ إلى ±1.2٪)، مما يشير إلى أداء مستقر ومتسق للإطار المقترح تحت بيئات اتحادية متجانسة.
تم اختبار إطار العمل الفيدرالي الذكي للتعلم (IFLF) على أربع مجموعات ب.......
الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.
يتناول إطار التعلم الموحد الذكي المقترح (IFLF) التحديات في التعلم الموحد الناتجة عن بيئات متجانسة وموزعة. يشير التقييم المنهجي عبر أربع مجموعات بيانات إلى أن الجمع بين التجميع والتحسين التكيفي يحسن استقرار التقارب وأداء النموذج العالمي. من خلال دمج موثوقية العميل وتشابه في عملية التجميع، يقلل الإطار من تأثير التحديثات غير المتسقة مع إعطاء وزنا أكبر للمساهمات الأكثر موثوقية من العملاء أثناء التحسين العالمي. يحقق هذا النهج دقة أعلى وتقارب أسرع من خوارزميات التعلم الفيدرالي الأساسية مثل Fed.......
الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.
المؤلفون لا يفرضون أي تضارب مصالح.
يعترف المؤلفون بمطوري ومديري مجموعات البيانات المتاحة للجمهور المستخدمة في هذه الدراسة، بما في ذلك مجموعات بيانات FEMNIST وFLamby وFedGraphNN و CICIDS2017. كما يشكر المؤلفون مجتمع المصادر المفتوحة على توفير أطر وأدوات برمجية مكنت تنفيذ وتقييم إطار التعلم الموحد الموصوف في هذا البروتوكول.
....الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.
| الاسم | الشركة | رقم فهرسي | التعليقات |
|---|---|---|---|
| مجموعة بيانات CICIDS2017 | المعهد الكندي للأمن السيبراني | مجموعة البيانات العامة | كشف التسلل |
| مجموعة بيانات FedGraphNN | FedGraphNN | مجموعة البيانات العامة | تعلم الرسوم البيانية |
| مجموعة بيانات FEMNIST | اختبار LEAF | مجموعة البيانات العامة | مجموعة بيانات الرؤية |
| مجموعة بيانات FLamby | مشروع فلامبي | مجموعة البيانات العامة | مجموعة بيانات الرعاية الصحية |
| الزهرة | إطار الزهور | 1.6 | محاكاة التعلم الموحدة |
| محطة عمل وحدة معالجة الرسومات (GPU) | NVIDIA | وحدة معالجة رسومات RTX | تدريب النماذج |
| نومباي | مطورو نومبي | 1.26 | الحوسبة العددية |
| بايثون | مؤسسة بايثون للبرمجيات | 3.1 | لغة البرمجة |
| سكيت-لرن | سكيت-لرن | 1.3 | أدوات التعلم الآلي |
| تينسورفلو / بايتورش | جوجل / ميتا | أحدث الإصدارات | إطار التعلم العميق |