הרשמה ל-JoVE נדרשת לצפייה בתוכן זה. התחברו או התחילו בגרסת ניסיון בחינם.

מאמר שיטה

FedMediFormer-XAI: טרנספורמרים רב-מודאליים פדרטיביים עם הגברה באמצעות דיפוזיה והמלצה על תרופות מבוססת גרפים לסוכרת

160 צפיות

⸱

DOI:

10.3791/73113

⸱

8 בספטמבר 2026

 ,  , 
1Department of Computer Engineering, Bharati Vidyapeeth (Deemed to be University) College of Engineering, 2School of Computer Science and Engineering, Vellore Institute of Technology, 3Department of Computer Science and Engineering, Kathmandu University

במאמר זה

סיכום

פרוטוקול זה מציע את FedMediFormer-XAI, מסגרת בינה רב-מודאלית לסוכרת השומרת על הפרטיות באמצעות למידה מבוזרת (federated learning), טרנספורמרים רב-מודאליים, הרחבת נתונים מבוססת דיפוזיה, המלצה מותאמת אישית לתרופות מבוססת גרפים ובינה מלאכותית ניתנת להסבר, לצורך חיזוי מדויק, קבלת החלטות שקופה וניהול מותאם אישית של מחלת הסוכרת.

תקציר

ניהול מחלת הסוכרת ניצב בפני מספר מכשולים, כגון נתוני בריאות מקוטעים, חששות הנוגעים לפרטיות, יכולת הסבר נמוכה ומחסור בהנחיה טיפולית מותאמת אישית. עבודת מחקר זו מציגה את FedMediFormer-XAI, מסגרת מאוחדת ומתאימה המשלבת למידה פדרטיבית (federated learning), טרנספורמרים מולטי-מודאליים, הרחבת נתונים מבוססת דיפוזיה (diffusion-based data augmentation), רשתות נוירונים גרפיות (GNNs) להמלצה על תרופות, ובינה מלאכותית ניתנת להסבר (XAI) לצורך בינה בתחום הסוכרת. המערכת משתמשת בסוגים מגוונים של נתוני בריאות, כגון רשומות קליניות, מדדי בריאות אוכלוסייה, נתוני ניטור רציף של גלוקוז, תמונות קרקית העין, מדידות מחיישנים לבישים ומידע פרמקולוגי. כדי לייצר דגימות סינתטיות ולטפל בחוסר איזון בין מחלקות, נעשה שימוש במודלי דיפוזיה, וארכיטקטורות של טרנספורמרים מולטי-מודאליים מיושמות כדי ללמוד קשרים בין מקורות נתונים שונים מאוד. למידה פדרטיבית מאפשרת אימון שיתופי של מודלים באופן השומר על פרטיות ללא שיתוף נתוני מטופלים גולמיים. רכיב ה-GNN לוכד אינטראקציות בין מטופל לתרופה ובין תרופה לתרופה לצורך המלצות תרופתיות מותאמות אישית. שיטות הסבר כגון SHapley Additive exPlanations (SHAP), ויזואליזציה של תשומת לב (attention visualization), גרדיאנטים אינטגרליים (Integrated Gradients) והסקה נגדית (counterfactual reasoning) מספקות פרשנויות שקופות של תוצאות החיזוי וההמלצה. במימוש המייצג, המסגרת המוצעת השיגה דיוק (accuracy) של 94.2%, ערך ניבוי חיובי (precision) של 93.1%, רגישות (recall) של 92.8%, מדד F1 של 92.9%, מקדם מתאם של מטיוס (MCC) של 0.88, ושטח תחת העקומה של מאפייני תפעול מקבל (AUC-ROC) של 0.96. מודול ההמלצות מבוסס הגרף השיג precision = 0.89, recall = 0.84, ו-Normalized Discounted Cumulative Gain (NDCG) = 0.91. הפרוטוקול מספק גישה מובנית לשילוב נתוני בריאות הטרוגניים באמצעות טרנספורמרים מולטי-מודאליים, למידה פדרטיבית, הרחבה מבוססת דיפוזיה, המלצות מבוססות גרף ובינה מלאכותית ניתנת להסבר. התוצאות החישוביות המדווחות מדגימות את הפוטנציאל של המסגרת לחיזוי סוכרת ולהמלצה על תרופות מותאמות אישית, בעוד שהתכנון הפדרטי תומך בטיפול מבוזר בנתונים. נדרשת הערכה קלינית פרוספקטיבית רב-מרכזית כדי לבסס את התועלת הקלינית, את יכולת ההכללה ואת הישימות בעולם האמיתי.

מבוא

סוכרת (Diabetes mellitus) היא אחת מהמחלות המטבוליות הכרוניות השכיחות ביותר הפוגעות בבני אדם ומהווה בעיה מרכזית של בריאות הציבור בשל התפשטותה, השפעותיה ארוכות הטווח והעלויות העצומות של טיפול בחולים1,2. על פי דוח, כיום חיים ברחבי העולם למעלה מ-537 מיליון מבוגרים עם סוכרת, ומספר זה צפוי לעלות באופן משמעותי במהלך העשורים הבאים3. אם רמות הסוכר הגבוהות בדם אינן נשלטות, האדם יסבול מהסיבוכים החמורים ביותר, כגון מחלה כלילית של הלב4, נזקי כליות5, נזקי עצבים6, אובדן ראייה7 ושבץ מוחי8. לכן, זיהוי המחלה בשלב מוקדם, ניטור קבוע של מצב המטופל והקניית הכשרה באמצעות גישות רפואיות מתקדמות הם צעדים הכרחיים כדי לסייע לחולים לחיות חיים בריאים יותר, ובכך לצמצם את הוצאות מערכת הבריאות של המדינה9,10.

כיום, השימוש ברשומות רפואיות אלקטרוניות (EHRs), מכשירים לבישים, מערכות לניטור רציף של גלוקוז (CGM), טכנולוגיות לדימות רשתית ואפליקציות לבריאות ניידת מתפשט במהירות, ומייצר נפחים גדולים של נתוני בריאות הטרוגניים שניתן לנתח11. כלי איסוף נתונים מגוונים אלו יכולים לספק מידע רב על גוף האדם, על יכולת התפקוד שלו בשלבים שונים של מחלה, על האופן שבו המטופל מגיב לסוגים שונים של טיפול ועל התנהגותו בחיי היומיום12. בינה מלאכותית (AI) הוכחה כפתרון הטוב ביותר לעיבוד נתונים מורכבים ביותר, לחיזוי סוכרת, לניטור המחלה ולסיוע לרופאים בקבלת החלטות קליניות13. יתרה מכך, אלגוריתמים של למידת מכונה, כולל יערות אקראיים (random forests), מכונות וקטור תמיכה (support vector machines) ושיטות gradient boosting, הניבו תוצאות מצוינות בהערכת סיכון לסוכרת14. לאחרונה, ארכיטקטורות של למידה עמוקה אפשרו חילוץ אוטומטי של מאפיינים ושיפרו את ביצועי הניבוי במגוון יישומים של שירותי בריאות15.

באמצעות שיטות למידה מולטי-מודאליות, הבינה של מערכות לניבוי סוכרת שופרה משמעותית על ידי מיזוג רשומות קליניות מובנות, מדידות פיזיולוגיות, תמונות רשתית ומדדים התנהגותיים למסגרת חיזוי אחת16. באמצעות מקורות מידע מרובים, מודלים מולטי-מודאליים יכולים לזהות דפוסים שאינם נראים כאשר כל מודאליות נבחנת בנפרד17. מודלים מבוססי Transformer למדו לאחרונה תלויות ארוכות-טווח ומערכות יחסים הקשריות מסוגים שונים של נתוני בריאות בצורה יעילה מאוד18. עם זאת, בעיות כגון מחלקות לא מאוזנות (unbalanced classes), נתונים חסרים, הטרוגניות של נתונים ויכולת הכללה מוגבלת עדיין מונעות את השימוש הנרחב במערכות AI מולטי-מודאליות בסביבות קליניות19.

על אף התפתחויות אלו, מערכות בינה רבות קיימות לסוכרת עדיין מסתמכות על מסגרות למידה מרכזיות, הדורשות מטבען איחוד של נתוני מטופלים ממוסדות שונים למאגר יחיד20. שיטות מעין אלו מובילות כבר כעת למחלוקות בנושאי פרטיות מטופלים, משמורת נתונים, אבטחת סייבר ועמידה ברגולציה21. למעשה, בשל שיקולים משפטיים ואתיים, ספקי שירותי בריאות מוגבלים לעיתים קרובות ביכולתם לשתף נתונים רגישים של מטופלים22. בהקשר זה, למידה פדרטיבית (federated learning) הופכת לפתרון בר-ביצוע, שכן היא מאפשרת אימון של מודל שיתופי ללא שיתוף נתוני המטופלים בפועל23. באמצעות אופטימיזציה מבוזרת ואגרגציה מאובטחת של פרמטרים, למידה פדרטיבית מאפשרת ניתוח בריאותי תוך הגנה על הפרטיות, על ידי ניצול ידע ממאגרי נתונים המפוזרים גיאוגרפית24. עם זאת, עומס תקשורתי, הטרוגניות של לקוחות ויציבות התכנסות עדיין מהווים בעיות מרכזיות בתרחישי בריאות פדרטיביים25.

חיסרון נוסף של מערכות הבינה המלאכותית לסוכרת שבשימוש כיום הוא חסרונם של שקיפות ותמיכה בטיפול מותאם אישית. מודלים רבים של למידה עמוקה מתנהגים כ"קופסאות שחורות", דבר המהווה בעיה עבור קלינאים המעוניינים להבין את הנימוקים העומדים בבסיס התחזיות וההמלצות26. שיטות של בינה מלאכותית ניתנת להסבר (XAI), כגון SHAP, Integrated Gradients, ויזואליזציה של קשב (attention visualization) והסקה נגדית (counterfactual reasoning), מוכיחות פוטנציאל רב לשיפור שקיפות המודל ואמון הקלינאים27. בנוסף לכך, רשתות עצביות גרפיות (GNNs) הפכו לכלים המתקדמים ביותר ללכידת אינטראקציות בין מטופל לתרופה ובין תרופה לתרופה, מה שמוביל להמלצות תרופתיות מותאמות אישית ולהערכת בטיחות של תרופות28. מודלי דיפוזיה חדשים הציגו גם פתרונות ליצירת נתוני בריאות סינתטיים אותנטיים ולטיפול בחוסר איזון בין מחלקות (class imbalance)29.

טרנספורמרים, למידה פדרטיבית (federated learning), יצירת נתונים סינתטיים מבוססת דיפוזיה, רשתות נוירונים גרפיות ובינה מלאכותית ניתנת להסבר הראו כולם תוצאות מבטיחות ביישומים בתחום הבריאות; עם זאת, שילובם במסגרת אחת ניתנת לשחזור של בינה לסוכרת נותר מוגבל. גישות קיימות מטפלות בדרך כלל ברכיבים אלה באופן עצמאי, תוך התמקדות בלמידה השומרת על פרטיות ללא המלצות לטיפול מותאם אישית, בחיזוי רב-מודלי ללא אימון מבוזר, או ביכולת הסבר ללא תמיכה בקבלת החלטות קליניות מבוססת גרפים. למרות שמודלי דיפוזיה יכולים לתמוך באיזון מחלקות וארכיטקטורות טרנספורמרים יכולות ללמוד קשרים בין מודליות בריאות הטרוגניות, פרוטוקולים סטנדרטיים לשילוב טכנולוגיות משלימות אלו נותרים מוגבלים. לפיכך, עבודה זו מציגה פרוטוקול מתודולוגי מאוחד המשלב חיזוי רב-מודלי, הרחבת נתונים מבוססת דיפוזיה, אופטימיזציה פדרטיבית, המלצה מותאמת אישית לתרופות מבוססת גרפים ובינה מלאכותית ניתנת להסבר בתוך זרימת עבודה ניתנת לשחזור, תוך מתן בסיס לתיקוף קליני ותרגום ליישום עתידי.

בניגוד למחקרים המניחים זמינות של מערכי נתונים מולטי-מודאליים ברמת המטופל, פרוטוקול זה משלב מערכי נתונים ציבוריים הטרוגניים ללא ביצוע התאמה ישירה בין מטופלים. מודלים עצמאיים ספציפיים למודאליות מאומנים עבור כל מקור נתונים, והטמעות של מאפיינים חבויים (latent feature embeddings) משולבות באמצעות מנגנון קשב חוצה-מודאליות (cross-modal attention mechanism). תכנון זה שומר על קפדנות מתודולוגית תוך שכלול אינטגרציה של ידע מולטי-מודאלי על פני מאגרי בריאות מגוונים.

הפרוטוקול המוצע מיועד בעיקר לפיתוח מתודולוגי ולסביבות בינה מלאכותית (AI) בשירותי בריאות מבוזרים, שבהן מקורות נתונים הטרוגניים זמינים במאגרים או במוסדות נפרדים והריכוז הישיר של הנתונים מוגבל. ביישום הנוכחי, מערכי הנתונים הספציפיים למודליות הם עצמאיים ואינם תואמים לרמת המטופל; לכן, אינטגרציה מולטי-מודלית מבוצעת ברמת הייצוג הנלמד ולא באמצעות התאמה ישירה ברמת המטופל. יישום מעשי ידרוש נתוני מטופלים מולטי-מודליים מקושרים כראוי, עיבוד מקדים והגדרות תוצאה עקביות בין האתרים המשתתפים, תשתית חישובית מתאימה, ועמידה בדרישות האתיקה, הפרטיות והרגולציה הרלוונטיות.

מאמר זה מציג את FedMediFormer-XAI, מסגרת טרנספורמר רב-מודאלית פדרטיבית המאפשרת בינה של סוכרת תוך שמירה על פרטיות, באמצעות תכונות של חיזוי, המלצה והסבר תחת קורת גג אחת. מסגרת זו משלבת הרחבת נתונים מבוססת דיפוזיה (diffusion-based data augmentation) כדי לטפל בחוסר איזון בין מחלקות, למידת טרנספורמר רב-מודאלית לחיזוי סוכרת, למידה פדרטיבית לפיתוח מודלים שיתופי, המלצה אישית על תרופות המבוססת על רשתות עצביות גרפיות (graph neural networks), ושיטות בינה מלאכותית הניתנת להסבר (explainable artificial intelligence) לתמיכה בהחלטות קליניות באופן שקוף. הארכיטקטורה הכללית וזרימת העבודה של מסגרת ה-FedMediFormer-XAI המוצעת מוצגות ב-איור 1.

התרומות המרכזיות של מסגרת ה-FedMediFormer-XAI המוצעת מסוכמות כדלקמן: (1) מוצג פרוטוקול מאוחד המשלב למידה פדרטיבית (federated learning), טרנספורמרים מולטי-מודאליים, הגברת נתונים מבוססת דיפוזיה (diffusion-based data augmentation), המלצה מותאמת אישית על תרופות המבוססת על רשתות עצביות גרפיות, ובינה מלאכותית הניתנת להסבר (explainable artificial intelligence) בתוך זרימת עבודה אחת הניתנת לשחזור עבור בינה של סוכרת. (2) פותחה אסטרטגיית למידה פדרטיבית השומרת על פרטיות כדי לאפשר אימון שיתופי של מודלים בין לקוחות בריאות מבוזרים מדומים ללא שיתוף נתוני מטופלים גולמיים. (3) מוצגת ארכיטקטורת טרנספורמר מולטי-מודאלית ללמידה משותפת של ייצוגים משלימים מרשומות קליניות מובנות, נתוני ניטור רצף גלוקוז, תמונות של קרקית הרשתית ומדדי בריאות אוכלוסייה. (4) שולבה יצירת נתונים סינתטיים מבוססת דיפוזיה כדי להפחית חוסר איזון בין מחלקות ולשפר את חוסנו של המודל תוך שימור המאפיינים הסטטיסטיים של נתוני האימון המקוריים. (5) מודול למידה גרפית הטרוגנית מבוסס GraphSAGE מיושם כדי למדל קשרי מטופל-תרופה ותרופה-תרופה עבור המלצת תרופות מותאמת אישית ודירוג טיפולים המודע לאינטראקציות. (6) טכניקות מרובות של בינה מלאכותית הניתנת להסבר, הכוללות SHapley Additive exPlanations (SHAP), גרדיאנטים משולבים (Integrated Gradients), ויזואליזציה של קשב (attention visualization) והסברים קונטר-פקטואליים (counterfactual explanations), שולבו כדי לשפר את שקיפות המודל ולספק פלט של תחזיות והמלצות הניתן לפירוש. (7) סופק פרוטוקול תיקוף מקיף, הכולל הערכה חיזויית, הערכת למידה פדרטיבית, הערכת המלצות, ניתוח יכולת הסבר, הערכה ממוקדת-קלינאי, תיקוף חיצוני והערכת יכולת שחזור.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

פרוטוקול

כל מערכי הנתונים ששימשו במחקר זה הושגו ממאגרי מידע זמינים לציבור והכילו מידע מזוהה על מטופלים. אלו כללו את Pima Indians Diabetes Dataset, CDC Diabetes Health Indicators Dataset, OhioT1DM Dataset, APTOS 2019 Blindness Detection Dataset, Drug Review Dataset ו-Drug-Drug Interaction Dataset. לא נערך גיוס ישיר של מטופלים, לא בוצעו התערבויות, לא נאספו דגימות ולא הייתה גישה למידע בריאותי אישי מזוהה. המחקר הוגבל לניתוח משני של מערכי נתונים אנונימיים הזמינים לציבור לצורך פיתוח ותיקוף מתודולוגיים, ונערך בהתאם לדרישות המוסדיות לשימוש בנתונים אלו. ההערכה הממוקדת בבני אדם המתוארת בפרוטוקול זה מיועדת ליישום עתידי ולא בוצעה במחקר הנוכחי. חוקרים שיבצעו הערכה זו צריכים לקבל את האישור המתאים מוועדת האתיקה המוסדית, להשיג הסכמה מדעת בכתב מכל המשתתפים, ולציית לדרישות המוסדיות הרלוונטיות, להסכמי השימוש בנתונים ולתקנות הלאומיות.

1. הגדרת סביבת החישוב

  1. התקינו את Python 3.11 כסביבת התכנות הראשית. התקינו את PyTorch 2.3 ו-TensorFlow 2.15 לפיתוח ואימון של מודלים ללמידה עמוקה. התקינו את ספריית Transformers (גרסה 4.45) להטמעת ארכיטקטורות מבוססות transformer.
  2. התקינו את PyTorch Geometric (גרסה 2.5) לתמיכה בבנייה ובאימון של רשתות עצביות גרפיות (graph neural networks). התקינו את SHAP (גרסה 0.47) ו-Captum (גרסה 0.8) לביצוע ניתוחי הסבירות (explainability) ושיוך תכונות (feature attribution).
  3. התקינו את NumPy, Pandas ו-Scikit-learn לחישובים נומריים, עיבוד מקדים של נתונים וכלי עזר ללמידת מכונה. התקינו את OpenCV ו-Matplotlib למשימות עיבוד תמונה וויזואליזציה. התקינו את NetworkX לבנייה וניתוח של גרפי אינטראקציות בין תרופות.
  4. התקינו את CUDA Toolkit ומנהלי התקנים (drivers) תואמים של NVIDIA GPU כדי לאפשר חישוב מואץ בחומרה. הגדירו מעבד גרפי NVIDIA RTX 4090 עם לפחות 32 GB של זיכרון מערכת. הגדירו את ה-random seed ל-42 עבור האימון, התיקוף והבדיקה כדי להבטיח תוצאות הניתנות לשחזור. בדקו את ההתקנות ואת התאימות של ספריות התוכנה שבשימוש. רשמו את גרסאות התוכנה, מפרטי החומרה ופרמטרי קונפיגורציית המודל ששימשו לניתוח.

2. הכנה ועיבוד מקדים של מערכי נתונים

  1. הורד וארגן את מערכי הנתונים הקליניים, הפיזיולוגיים, הדימות והפרמקולוגיים הנדרשים למאגרים ספציפיים לפי מודאליות, ואמת את תקינותם. אשר את מאפייני מערכי הנתונים, יעדי הניבוי ורמות האינטגרציה כפי שפורט ב- טבלאות 1 ו-2תהליך העבודה מוצג ב- איור 2.
  2. הסר רשומות כפולות, לא תקפות או לא עקביות, וכן רשומות שחסרים בהן משתנים חיוניים. חלק כל מערך נתונים רלוונטי לתתי-קבוצות של אימון (70%), תיקוף (15%) ובדיקה (15%) שאינן תלויות בחולה. בצע התאמה (Fit) של השלמת ערכים חסרים באמצעות חציון (median imputation), נרמול Min-Max וקידוד קטגורי על בסיס תת-קבוצת האימון בלבד, והחל את התמורות המותאמות ללא שינוי על תתי-קבוצות התיקוף והבדיקה. בצע יצירת נתונים סינתטיים על תת-קבוצת האימון בלבד. ודא את החלוקה ואת מניעת זליגת נתונים (leakage) בהתאם ל- טבלה נלווית 1.
  3. ייבאו נתוני גלוקוז, צריכת מזון, מינוני אינסולין, פעילות גופנית ושינה. בצעו סטנדרטיזציה של חותמות הזמן, יישרו אירועים למרווחי זמן קבועים, בצעו אינטרפולציה לינארית לערכי גלוקוז שלא תועדו, חלקו רשומות רציפות לחלונות באורך קבוע, והחילו נורמליזציית z-score כדי ליצור קלטים עבור transformer זמני.
  4. טענו את תמונות קרקית הרשתית והסירו קבצים פגומים או שאינם קריאים, כפילויות, תמונות ללא תוויות, ותמונות עם ארטיפקטים חמורים או נראות לא מספקת של שדה הרשתית.
  5. שנו את גודל התמונות שנשמרו ל-224 × 224 פיקסלים, נרמול עצימות הפיקסלים לטווח [0, 1], ויישום השוואת היסטוגרמה אדפטיבית עם הגבלת ניגודיות (CLAHE).
  6. הגדל את מספר תמונות האימון באמצעות סיבוב אקראי בטווח של ±15°, היפוך אופקי בהסתברות של 0.5, זום אקראי בטווח של 0.9–1.1×, וכיוונון בהירות בתוך ±20%. אין להחיל הגברה סטוכסטית (stochastic augmentation) על תמונות האימות או הבדיקה. יש לאחסן את התמונות המעובדות לצורך אימון ה-Vision Transformer.
  7. שלב את הייצוגים הספציפיים למודאליות בהתאם לאסטרטגיית שילוב מערכי הנתונים המסוכמת ב- טבלה 2אין לבצע התאמה ישירה ברמת המטופל בין מאגרי מידע עצמאיים כאשר מזהי מטופלים משותפים אינם זמינים.
  8. יש לאחסן כל מערך נתונים ציבורי כמאגר נתונים נפרד הספציפי למודליות, כיוון שמזהי מטופלים אינם משותפים בין המאגרים.
  9. אמן מחלצי מאפיינים ספציפיים למודליות באופן עצמאי באמצעות מערכי הנתונים המתאימים: (א) רשומות קליניות → מקודד TabTransformer; (ב) מדדי בריאות האוכלוסייה → מקודד TabTransformer; (ג) ניטור רציף של גלוקוז → טרנספורמר זמני; (d) תמונות קרקית הרשתית → Vision Transformer; (ה) נתונים פרמקולוגיים → מודול GraphSAGE
  10. חלץ שיבוצי תכונות חבויות (latent feature embeddings) באופן עצמאי מכל מודליות. בצע מיזוג של השיבוצים החבויות שנלמדו בלבד באמצעות מודול מיזוג קשב חוצה-מודליות (cross-modal attention fusion module) המוצע, במקום למזג רשומות מטופלים גולמיות.
  11. יש לוודא כי לא מבוצע התאמה מלאכותית של חולים בין מאגרי נתונים ציבוריים עצמאיים. יש לשמור על חלוקות נפרדות של קבוצות אימון, תיקוף ובדיקה עבור כל מאגר נתונים לאורך תהליכי העיבוד המקדים, ההעשרה (augmentation) ופיתוח המודל.
  12. שמור את ייצוגי המאפיינים הרב-מודאליים המאוחדים לצורך חיזוי במורד הזרם, למידה פדרטיבית, יכולת הסבר והמלצה מותאמת אישית על תרופות (איור 2).

3. ביצוע הרחבת נתונים מבוססת דיפוזיה (diffusion-based data augmentation)

  1. יש להחיל הרחבת נתונים (augmentation) מבוססת דיפוזיה על מערכי הנתונים הטבלאיים המובנים של נתונים קליניים ובריאות האוכלוסייה באמצעות TabDDPM. יש להפיק דגימות סינתטיות אך ורק ממחיצת האימון שעברה עיבוד מקדים, וזאת כדי למנוע זליגת מידע. הגדירו את המודל בהתאם ל- טבלה נלווית 2.
  2. אמנו את TabDDPM למשך מקסימום 500 תקופות (epochs) באמצעות אופטימייזר Adam (קצב למידה = 1 × 10⁻4; גודל אצווה = 256). החילו עצירה מוקדמת (early stopping) אם הפסד האימות (validation loss) אינו משתפר בלפחות 0.001 במשך 20 תקופות (epochs) רצופות. צרו דגימות סינתטיות עבור מחלקות עם ייצוג חסר.
  3. הערך את איכות הנתונים הסינתטיים באמצעות סטטיסטיקת Kolmogorov–Smirnov (KS), דיברגנציית Jensen–Shannon, מרחק Wasserstein, ניתוח קורלציה לפי מאפיינים וביצועי סיווג במורד הזרם (downstream). השווה בין התפלגויות המאפיינים המקוריות לסינתטיות באמצעות חפיפת היסטוגרמות, אמידת צפיפות גרעין (kernel density estimation) ומקדמי קורלציה זוגיים.
  4. קבל דגימות סינתטיות רק כאשר התפלגויות המאפיינים לפי מחלקה נותרות עקביות עם נתוני האימון המקוריים (מבחן KS, p > 0.05; סטיית ג'נסן-שנון < (0.10)) ואינם מכילים ערכים קליניים לא מציאותיים. שלב את הדגימות המאושרות עם מערך נתוני האימון המקורי כדי ליצור מערך נתונים מאוזן מבחינת מחלקות. תזרים העבודה של ההעשרה מוצג ב- איור 3.
  5. יש לתקף את הנתונים הסינתטיים על ידי אימון מחדש של מודל לחיזוי סוכרת תוך שימוש במערכי הנתונים המקוריים ובמערכי הנתונים המועשרים. השוו את ה-Accuracy, ה-F1-score, ה-MCC וה-AUC-ROC כדי להעריך שינויים בהכללה של המודל ובהטיה התפלגותית.

4. פיתוח מודל הטרנספורמר הרב-מודאלי

הגדירו את הטרנספורמר הרב-מודאלי באמצעות מקודדים ספציפיים למודליות עבור נתונים קליניים מובנים, רצפי CGM ותמונות קרקית רשתית, כפי שמוצג ב-איור 4. שלבו את הייצוגים המתוצאים באמצעות תשומת לב חוצת-מודליות (cross-modal attention) לטובת חיזוי סוכרת והמלצה מותאמת אישית על תרופות המבוססת על גרפים.

  1. פיתוח המקודד הקליני (Clinical Encoder)
    1. אתחול ארכיטקטורת מקודד TabTransformer. הזנת משתנים קליניים מנורמלים ומדדי בריאות אוכלוסייה. יצירת ייצוגי מאפיינים הקשריים באמצעות מנגנוני קשב (attention) של transformer.
    2. הגדרת מקודד ה-TabTransformer עם 32 משתני קלט קליניים מובנים, ממד שיכון (embedding dimension) של 128, ארבע שכבות transformer, שמונה ראשי קשב, ממד feed-forward של 512, קצב dropout של 0.20, והפעלת Gaussian Error Linear Unit (GELU).
    3. למידת שיכונים קליניים חבויים (latent embeddings) הלוכדים קשרים בין מאפייני מטופלים. אחסון השיכונים הקליניים המתקבלים לצורך אינטגרציה רב-מודאלית.
  2. פיתוח מקודד ניטור גלוקוז רציף (CGM Encoder)
    1. אתחול מקודד transformer זמני (temporal transformer encoder). הזנת רצפי ניטור גלוקוז רציף ומדידות פיזיולוגיות למקודד. שימוש במנגנוני קשב עצמי (self-attention) לקידוד תלויות זמניות.
    2. הגדרת ה-temporal transformer עם אורך רצף של 96 צעדי זמן, מרווח דגימה של 15 min, ממד שיכון של 128, ארבע שכבות transformer, שמונה ראשי קשב, קידוד מיקומי סינוסואידלי, וקצב dropout של 0.20.
    3. יצירת שיכונים רצפיים המשקפים את דינמיקת הגלוקוז של המטופל. השארת השיכונים הזמניים מוכנים לתהליך מיזוג (fusion) הבא.
  3. פיתוח מקודד Vision Transformer
    1. אתחול ארכיטקטורת Vision Transformer. הזנת תמונות קרקית רשת יעברו עיבוד מקדים. חלוקת התמונות לטלאים (patches) בגודל קבוע.
    2. הגדרת ה-Vision Transformer עם רזולוציית תמונת קלט של 224 × 224 pixels, גודל טלאים של 16 × 16 pixels, ממד שיכון של 768, 12 בלוקי transformer, 12 ראשי קשב, וקצב dropout של 0.10.
    3. יצירת ייצוגי מאפיינים ברמת הטלאים. הפקת מאפיינים חזותיים המעידים על פתולוגיות ברשתית וסממנים ביולוגיים הקשורים למחלה. שמירת שיכוני התמונות למיזוג רב-מודאלי.
  4. ביצוע מיזוג בין-מודאלי (Cross-Modal Fusion)
    1. חילוץ הייצוגים החבויים ממקודדי ה-Clinical, ה-CGM וה-Vision Transformer והקרנתם של כולם למרחב חבוי משותף בן 256 ממדים באמצעות הקרנות ליניאריות עצמאיות ולאחריהן נורמליזציה של שכבות (Layer Normalization).
    2. שרשור (Concatenate) של אסימוני המודאליות המוקרנים, הוספת שיכוני סוג-מודאליות למידים, והחלת קשב בין-מודאלי רב-ראשי (multi-head cross-modal attention) כדי לאפשר חילופי מידע בין הייצוגים הקליניים, ה-CGM והרשתית. הגדרת בלוק הקשב עם שמונה ראשים, מרחב מודל בן 256 ממדים, שכבת feed-forward בת 1,024 ממדים, הפעלת GELU, dropout של 0.10, חיבורים שאריתיים (residual connections) ונורמליזציה של שכבות.
    3. ביצוע מיצוע (Mean-pooling) לכל קבוצת אסימונים ספציפית למודאליות ושרשור הייצוגים המתקבלים. הקרנת הווקטור המשורשר בן 768 הממדים לייצוג רב-מודאלי מאוחד בן 512 ממדים, ושמירת משקלי הקשב והייצוגים הממוזגים לצורך ניתוחי הסביריות (explainability) ואבלאציה (ablation) עוקבים.
    4. העברת הייצוג המאוחד למודולים לחיזוי סוכרת ולהמלצת תרופות מבוססות GraphSAGE. שמירה על חלוקות האימון, התיקוף והבדיקה המקוריות של כל מודאליות לאורך תהליך המיזוג, ללא התאמה מלאכותית ברמת המטופל בין מאגרי הנתונים העצמאיים.
    5. הגדרת ה-multimodal transformer בהתאם לפרמטרי המודל המסוכמים ב-Supplementary Table 3.

5. הגדרת למידה פדרטיבית (federated learning)

  1. הגדירו את מסגרת הלמידה הפדרטיבית (federated learning) כדי לאפשר אימון שיתופי של מודלים בין מוסדות בריאות מבוזרים גיאוגרפית ללא החלפת נתונים ברמת המטופל. בצעו אופטימיזציה של המודל המקומי בכל מוסד משתתף באמצעות הנתונים הזמינים מקומית. שתפו רק פרמטרי מודל מוגנים עם שרת האגרגציה המרכזי. שמרו על פרטיות המטופלים תוך כדי אפשור פיתוח שיתופי של מודלים מולטי-מודאליים.
  2. הפרידו את מערכי הנתונים המולטי-מודאליים והפיצו אותם בין מספר לקוחות פדרטיביים כדי לדמות תרחיש שבו מוסדות בריאות שונים משתפים פעולה ללא שיתוף הנתונים שלהם.
  3. הגדירו את רשת הלמידה הפדרטיבית עם 10 לקוחות בתי חולים משתתפים, שרת אגרגציה מרכזי אחד, חמישה תקופות אימון (epochs) מקומיות לכל סבב תקשורת, 100 סבבי תקשורת, שברי השתתפות לקוחות של 80%, בחירת לקוחות אקראית בכל סבב תקשורת, ומעטפת מינימלית של שמונה לקוחות משתתפים לסבב.
  4. הקצו לכל לקוח מערך נתונים השייך למוסד מסוים כדי שהנתונים יישארו מקומיים וסודיים. חלקו את נתוני האימון המולטי-מודאליים בין 10 לקוחות בתי חולים סימולטיביים באמצעות אסטרטגיית Dirichlet-based non-independent and identically distributed (non-IID) כדי לייצר התפלגויות מחלקות, הרכבים דמוגרפיים וגדלי מערכי נתונים של לקוחות הטרוגניים.
  5. השתמשו בזרע אקראי (random seed) קבוע כדי להבטיח הדירות (reproducibility). אמתו את ההתפלגויות שהתקבלו ברמת הלקוח ושמרו על חלוקות אלו לאורך כל האימון הפדרטיבי. שמרו על מערכי נתוני האימות והבדיקה באופן בלתי תלוי מחלוקות הלקוחות.
  6. אתחלו כל לקוח מקומי עם פרמטרי המודל הגלובלי שהתקבלו משרת האגרגציה המרכזי.אמנו את הטרנספורמר המולטי-מודאלי המקומי למשך חמישה epochs באמצעות נתוני האימון המקומיים של הלקוח. בצעו אופטימיזציה למודל המקומי באמצעות אופטימייזר AdamW עם קצב למידה (learning rate) של 1 × 10⁻4.
  7. חשבו את עדכוני פרמטרי המודל המקומי לאחר השלמת האימון המקומי. הגנו על פרמטרי המודל המקומיים לפני העברתם לשרת האגרגציה המרכזי. העבירו את פרמטרי המודל המקומיים המוגנים לשרת האגרגציה המרכזי לצורך אגרגציה גלובלית.
  8. קבלו את פרמטרי המודל המוגנים מכל לקוחות בתי החולים המשתתפים. אמתו את תקינות עדכוני המודל שהתקבלו לפני האגרגציה. בצעו אגרגציה למשקולות המודל המקומיות באמצעות אלגוריתם Federated Averaging (FedAvg). עדכנו את הטרנספורמר המולטי-מודאלי הגלובלי באמצעות פרמטרי המודל המאוגרגים.
  9. הפיצו מחדש את פרמטרי המודל הגלובלי המעודכנים ללקוחות בתי החולים המשתתפים. חזרו על נהלי האימון המקומי והאגרגציה הגלובלית עד להשלמת 100 סבבי תקשורת או עד להשגת קריטריון ההתכנסות שהוגדר מראש.
  10. הגנו על פרמטרי המודל המועברים באמצעות מנגנון האגרגציה המאובטח המצוין והצפנת AES-256. בצעו אימות של הלקוחות המשתתפים באמצעות תעודות דיגיטליות.
  11. הקימו ערוצי תקשורת מוצפנים באמצעות Transport Layer Security (TLS) 1.3. שמרו רק את פרמטרי המודל הגלובלי המאוגרגים לאחר השלמת כל סבב תקשורת.
  12. העריכו את הפרטיות והאבטחה באמצעות הערכות של חשיפת נתונים גולמיים, שיתוף בלתי מורשה, הסקת השתתפות (membership inference) והיפוך מודל (model inversion). עבור הסקת השתתפות, השוו את ה-AUC-ROC של התקיפה לקו הבסיס האקראי (0.50); העריכו היפוך באמצעות מדד דמיון מבני (SSIM) ויחס אות לרעש שיא (PSNR) עבור תמונות רשתית, ושגיאת שחזור מנורמלת עבור מאפיינים מספריים.
  13. אמתו אגרגציה מאובטחת על ידי אישור שהשרת אינו יכול לגשת לעדכוני לקוחות בודדים שאינם מאוגרגים. אמתו הגנה של AES-256/TLS 1.3 ואשרו כי לא התבצעו העברות של עדכוני מודל שאינן מוצפנות.
  14. השוו מדדי פרטיות בין תצורות פדרטיביות למרכזיות במידת הרלוונטיות ודווחו על המדדים המפורטים ב-Supplementary Table 4.
  15. העריכו את הסיבוכיות החישובית של אימון טרנספורמר מקומי כ-O(N × L × d2), כאשר N מייצג את מספר הדגימות, L מייצג את מספר שכבות הטרנספורמר, ו-d מייצג את ממד השכיבה (embedding dimension).
  16. העריכו את הסיבוכיות החישובית של אגרגציה פדרטיבית כ-O(K × P) לכל סבב תקשורת, כאשר K מייצג את מספר הלקוחות המשתתפים ו-P מייצג את מספר פרמטרי המודל הניתנים לאימון.
  17. החליפו רק פרמטרי מודל מוגנים בין הלקוחות המשתתפים לבין שרת האגרגציה המרכזי במהלך כל סבב תקשורת. חשבו את נטל התקשורת (communication overhead) בהתבסס על גודל המודל, מספר הלקוחות המשתתפים ומספר סבבי התקשורת.
  18. השוו את נטל חילופי הפרמטרים לעלות המוערכת של העברת מערכי הנתונים המולטי-מודאליים המקבילים של שירותי הבריאות. הגדירו את מסגרת הלמידה הפדרטיבית בהתאם לפרמטרים המסוכמים ב-Supplementary Table 4. תהליך העבודה של הלמידה הפדרטיבית ותהליך אגרגציית הפרמטרים מוצגים ב-Figure 5.

6. בניית מודול ההמלצה המותאמת אישית לתרופות

  1. ייבאו את הנתונים הפארמקולוגיים, נתוני התרופות, הטיפול במטופלים ונתוני אינטראקציות בין תרופות לסביבת המחשוב. בנו גרף בריאות הטרוגני הכולל צמתים של מטופלים, תרופות, מחלות, בדיקות מעבדה וגורמי סיכון קליניים.
  2. הגדירו את הקשרים בין מטופל למחלה, מטופל לתרופה, מחלה לתרופה, אינטראקציה בין תרופות ומטופל לבדיקת מעבדה כקשתות בגרף. אמתו את מבנה הגרף והסירו קשרים כפולים, לא תקינים או מנותקים לפני אימון המודל.
  3. ייצגו את צמתי המטופלים באמצעות גיל, מין, מדד מסת גוף (BMI), HbA1c, גלוקוז בדם, לחץ דם ומשך מחלת הסוכרת. ייצגו את צמתי התרופות באמצעות סוג התרופה, מנגנון הפעולה, מינון, תדירות מתן ותופעות לוואי ידועות.
  4. ייצגו את צמתי המחלות באמצעות חומרת המחלה, שלב המחלה וסיבוכים נלווים. קודדו תכונות קטגוריאליות ונרמלו תכונות צמתים רציפות לפני אימון ה-GraphSAGE.
  5. אתחלו את שיבודי הצמתים (node embeddings) באמצעות תכונות הצמתים שעברו עיבוד מקדים. דגמו עד 25 צמתים שכנים עבור כל צומת מטרה במהלך אגרגציית השכנות. אגרגו את ייצוגי הצמתים השכנים באמצעות אגרגציית ממוצע (mean aggregation). עדכנו את שיבודי צומת המטרה באמצעות ייצוגי השכנות המאוגרגים.
  6. החילו את פונקציית ההפעלה rectified linear unit (ReLU) לאחר כל שכבת GraphSAGE. נרמלו את שיבודי הצמתים שהתקבלו. חזרו על הליך אגרגציית השכנות לאורך שלוש שכבות GraphSAGE.
  7. הגדירו את מודל ה-GraphSAGE עם ממד נסתר של 256, ממד שיבוד של 128, שלוש שכבות GraphSAGE, גודל דגימת שכנים של 25, קצב dropout של 0.30, קצב למידה של 1 × 10⁻4, גודל אצווה (batch size) של 512 ומקסימום של 100 תקופות אימון (epochs). בצעו אופטימיזציה למודל באמצעות אופטימייזר Adam.
  8. חשבו את השיבוד הספציפי למטופל ממודל ה-GraphSAGE המאומן. חשבו שיבודים עבור תרופות מועמדות. חשבו ציוני התאמה בין ייצוג המטופל לייצוגי התרופות המועמדות. דרגו את התרופות המועמדות בהתאם לציוני ההתאמה החזויים שלהן.
  9. זהו והסירו תרופות החולות ב przeci-indications (התוויות נגד) או תרופות שאינן בטוחות פוטנציאלית באמצעות מידע זמין על אינטראקציות בין תרופות. החזירו את חמש התרופות הזכאיות בעלות הדירוג הגבוה ביותר כהמלצות ה-Top-5 המותאמות אישית.
  10. אמנו את מודל ההמלצות באמצעות הפסד Bayesian Personalized Ranking (BPR). בצעו אופטימיזציה למטרת הדירוג כדי להקצות ציונים גבוהים יותר לתרופות המתאימות קלינית מאשר לתרופות מועמדות פחות מתאימות.
  11. זהו צמתים שכנים משפיעים וקשרים בגרף הרלוונטיים קלינית התורמים לכל המלצה לתרופה. חשבו ציוני שיוך תכונות (feature-attribution scores) עבור מאפייני מטופל, מחלה, מעבדה ומאפיינים הקשורים לתרופה התורמים להמלצה.
  12. הפיקו הסברים ויזואליים מבוססי גרף המראים את הקשרים התורמים לכל המלצה אישית לתרופה. הגדירו את מודל ההמלצות GraphSAGE בהתאם לפרמטרים המסוכמים ב-Supplementary Table 5. תהליך העבודה להמלצה מותאמת אישית על תרופות מבוססת גרף מוצג ב-Figure 6.

7. ביצוע הערכת יכולת הסבר (explainability assessment)

  1. ביצוע ניתוח SHAP
    1. טען את הטרנספורמר הרב-מודאלי (multimodal transformer) המאומן ואת מערך נתוני הבדיקה המופרש (held-out test dataset) לסביבת החישוב.
    2. אתחל את מסביר ה-SHAP באמצעות מודל הניבוי המאומן ומדגם רקע של 100 דגימות אימון, שנבחרו אך ורק ממערך נתוני האימון באמצעות דגימה אקראית מרובדת (stratified random sampling) בהתאם למחלקה של תוצאת הסוכרת. שמור על התפלגות מחלקות מקורבת של מחיצת האימון המלאה במדגם הרקע, והשתמש בזרע אקראי (random seed) קבוע של 42 כדי להבטיח בחירת מדגם הדירה. חשב ערכי SHAP עבור דגימות הבדיקה שנבחרו.
    3. חשב את חשיבות התכונות הגלובלית מתוך ערכי ה-SHAP המוחלטים, צור ויזואליזציות SHAP גלובליות ומקומיות, ושמור את הערכים שחושבו לצורך ניתוחים כמותיים וסטטיסטיים בהמשך.
  2. ביצוע ניתוח גרדיאנטים משולבים (Integrated Gradients)
    1. בחר דגימות מייצגות שסווגו נכונה ודגימות שסווגו שגויים מתוך מערך נתוני הבדיקה המופרש. הגדר קלטים בסיסיים (baseline) ספציפיים למודאליות לפני חישוב הגרדיאנטים המשולבים. השתמש בבסיס אפס עבור תכונות מספריות קליניות ונתוני CGM מנורמלים, המייצג תרומה אפסית של תכונה מנורמלת, והשתמש בתמונת בסיס בעלת ערכי אפס עבור קלט תמונת הרשתית המנורמלת.
    2. חשב ציוני שיוך (attribution scores) של גרדיאנטים משולבים באמצעות 100 שלבי אינטרפולציה בין הבסיס לקלט המקורי. נרמל את ציוני השיוך שהתקבלו כדי לאפשר השוואה בין תכונות ומודאליות שונות. צור ויזואליזציות שיוך כדי לזהות תכונות קליניות, זמניות ותכונות דימות משפיעות התורמות לניבויים אינדיבידואליים של המודל.
  3. ביצוע ויזואליזציית קשב (Attention Visualization)
    1. חלץ מטריצות קשב משכבות הטרנספורמר המאומנות עבור דגימות בדיקה מייצגות. חשב את משקלי הקשב הממוצעים על פני ראשי הקשב (attention heads) המתאימים. צור מפות חום של קשב כדי להמחיש אינטראקציות חוצות-מודאליות בין ייצוגים קליניים, זמניים וייצוגי דימות רשתית. זהה את התכונות הקליניות, הזמניות ותכונות הרשתית הדומיננטיות המקבלות משקלי קשב גבוהים במהלך הניבוי.
    2. חלץ את משקלי הקשב מהטרנספורמר הרב-מודאלי המאומן עבור דגימת בדיקה מופרשת שנבחרה באופן אקראי, והמחש את התפלגויות הקשב התואמות עבור תכונות קליניות, נתוני CGM זמניים, מיקום מרחבי ברשתית וקשב חוצה-מודאליות.
  4. יצירת הסברים קונטרפקטואליים (Counterfactual Explanations)
    1. בחר רשומות מטופלים מייצגות מתוך מערך נתוני הבדיקה המופרש. הגדר טווחים ומגבלות קליניות מותרות עבור תכונות מטופל שניתן לשנותן לפני יצירת דגימות קונטרפקטואליות. הגבל תכונות רציפות לטווח שנצפה בנתוני האימון, והגבל תכונות קטגוריאליות לקטגוריות תקפות שנצפו בנתוני האימון. אין לשנות מאפיינים דמוגרפיים בלתי משתנים, כולל גיל ומין.
    2. צור דגימות קונטרפקטואליות על ידי שינוי מינימלי אך ורק של התכונות הניתנות לשינוי המותרות, תוך שמירה על המגבלות הקליניות ומגבלות תחום התכונות שהוגדרו מראש. פסול דגימות קונטרפקטואליות המכילות ערכים מחוץ לטווח שנצפה בנתוני האימון, מצבים קטגוריאליים לא תקפים, או שינויים בתכונות בלתי משתנות. זהה את שינויי התכונות הקטנים ביותר שסבירים מבחינה קלינית הנדרשים כדי לשנות את התוצאה הנחזית.
    3. דווח על התכונות ששונו, הערכים המקוריים, הערכים הקונטרפקטואליים והשינויים התואמים בניבויי המודל. תהליך הערכת יכולת ההסבר (explainability assessment) מומחש ב-איור 7, בעוד שתוצרי ויזואליזציית קשב והסברים קונטרפקטואליים מייצגים מוצגים ב-איור משלים 1.
  5. הערכת איכות ההסבר
    1. חשב נאמנות (fidelity) כדי לכמת את ההסכמה בין ההסברים שנוצרו לבין התנהגות מודל הניבוי. חשב יציבות (stability) על ידי יצירה חוזרת של הסברים תחת הפרעות קטנות לקלט והשוואת דפוסי השיוך שהתקבלו. העरक עקביות (consistency) על ידי השוואת הסברים שנוצרו עבור דגימות בדיקה דומות מבחינה קלינית.
    2. חשב דלילות (sparsity) על ידי קביעת מספר התכונות או פרופורציית התכונות התורמות באופן משמעותי לכל הסבר. העरक שלמות (completeness) כדי לקבוע האם התכונות המשויכות מסבירות באופן מספק את פלט המודל התואם. העरक רגישות (sensitivity) על ידי מדידת שינויים בציוני השיוך בעקבות הפרעות מבוקרות של תכונות הקלט.
    3. חשב חוסר נאמנות (infidelity) כדי לכמת את חוסר ההסכמה בין שיוכי התכונות לבין השינויים שנצפו בניבויי המודל. רשום את כל מדדי יכולת ההסבר הכמותיים לצורך ניתוח סטטיסטי בהמשך.
  6. ביצוע תיקוף קלינאי פרוספקטיבי
    1. עבור תיקוף קליני פרוספקטיבי עתידי, השג אישור מוועדת האתיקה המוסדית המתאימה לפני גיוס מומחים קליניים. לאחר קבלת האישור האתי, גייס 12 קלינאים הכוללים שישה אנדוקרינולוגים, שלושה מומחים לסוכרת ושלושה פרמקולוגים קליניים, והשג הסכמה מדעת מכל המשתתפים לפני תחילת ההערכה.
    2. בחר באופן אקראי ניבויי מודל מייצגים והסברים תואמים להם לצורך הערכה על ידי הקלינאים. הצג את ההסברים שנבחרו באופן עצמאי לכל קלינאי משתתף באמצעות פורמט הערכה סטנדרטי.
    3. בקש מכל קלינאי להעריך את תועלת ההסבר, הרלוונטיות הקלינית, יכולת הפרשנות (interpretability) והמהימנות שלו באמצעות סולם ליקרט בן חמש נקודות. רשום דירוגי קלינאים אנונימיים וחשב הסכמה בין מעריכים (inter-rater agreement) ומדדים סטטיסטיים תואמים כפי שפורט בשלב 7.7.
  7. ביצוע ניתוח סטטיסטי
    1. הערך את התפלגות ציוני ההערכה הכמותיים לפני בחירת מבחן ההשוואה הסטטיסטי. החל מבחן t מזווג (paired t-test) על מדידות מזווגות בעלות התפלגות נורמלית, או את מבחן הסימנים של וילקוקסון (Wilcoxon signed-rank test) על מדידות מזווגות שאינן בעלות התפלגות נורמלית, לפי העניין.
    2. חשב את מקדם הקאפה של פלייס (Fleiss' kappa) כדי לכמת את ההסכמה בין המעריכים בקרב הקלינאים המשתתפים. חשב רווחי סמך של 95% עבור מדדי יכולת ההסבר ומדדי הערכת הקלינאים העיקריים. קבע את סף המובהקות הסטטיסטית ב- p < 0.05.
  8. דווח על הסטטיסטיקות של המבחנים שחושבו, רווחי הסמך וערכי ה-p עם תוצאות ההערכה התואמות. הערק ודווח על מדדי יכולת ההסבר בהתאם לקריטריונים המסוכמים ב-טבלה משלימה 6.

8. הערכת ביצועי המודל

  1. השווה בין FedMediFormer-XAI לבין Logistic Regression, Random Forest, XGBoost, TabTransformer, Vision Transformer, Temporal Transformer, והטרנספורמר הרב-מודאלי המרוכז באמצעות מדדי דיוק (accuracy), דיוק (precision), רגישות (recall), F1-score, MCC ו-AUC-ROC.
  2. בצע כל הערכת בסיס (baseline) באמצעות אותה אסטרטגיית אימון, תיקוף ובדיקה שהוגדרה מראש כדי להבטיח השוואה עקבית עם המסגרת המוצעת.
  3. חזור על הערכת המודל לאורך הרצות ניסוייות עצמאיות ורשום את מדדי הביצועים שהתקבלו בכל הרצה. חשב את הממוצע, סטיית התקן (SD), ורווח ברת-סמך (CI) של 95% עבור Accuracy, Precision, Recall, F1-score, MCC ו-AUC-ROC. דווח על תוצאות הביצועים כממוצע ± SD יחד עם ה-95% CI המתאים.
  4. הערך את הנורמליות של הפרשי הביצועים הזוגיים בין FedMediFormer-XAI לבין כל מודל בסיס. החל t-test זוגי על מדידות זוגיות בעלות התפלגות נורמלית, ואת מבחן הדירוג המסומן של וילקוקסון (Wilcoxon signed-rank test) על מדידות זוגיות שאינן בעלות התפלגות נורמלית. קבע את סף המובהקות הסטטיסטית ל- p < 0.05.
  5. דווח על סטטיסטיקות המבחן המתאימות, ערכי p ורווחי ברת-סמך של 95% כדי לכמת את המובהקות הסטטיסטית ואת אי-הוודאות של הפרשי הביצועים שנצפו.
  6. ספור את כל סבבי התקשורת עד שהמודלים מתכנסים סופית. עקוב אחר ביצועי המודל הגלובלי במהלך האימון הפדרטי. בחן כיצד ההתכנסות משתנה לאורך זמן בסבבי התקשורת.
  7. בדוק את יעילות אגרגציית הפרמטרים. בחן כיצד למידה מבוזרת משפיעה על ביצועי הניבוי. בצע השוואה בין התוצאות של למידה פדרטית לבין למידה מרוכזת.
  8. הערך התכנסות פדרטית לאורך סבבי תקשורת והשווה בין ביצועי ניבוי פדרטיים למרוכזים. הערך המלצות לתרופות באמצעות Precision@5, Recall@5 ו-NDCG@5.
  9. צור דגימות שליליות – דגימות תרופות ממאגר תרופות המועמדות כשמישות – על ידי בחירת תרופות שאינן נצפות כאינטראקציות חיוביות בין מטופל לתרופה עבור המטופל הרלוונטי. הסר את כל האינטראקציות החיוביות הידועות ואת כל התרופות המהוות התווית-contraindicated ממאגר הדגימה השלילי. שמור על יחס דגימה קבוע של 1:1 בין דגימות שליליות לחיוביות עבור אימון ההמלצות, והשתמש בגרעין אקראי (random seed) קבוע של 42 לבחירה הדירה של דגימות שליליות.
  10. הגדר את קבוצת הפריטים הרלוונטית עבור כל מטופל אך ורק מתוך נתוני ההערכה המופרשים (held-out). הגדר את קבוצת הפריטים הרלוונטיים Ru​ עבור מטופל u כקבוצת התרופות העומדות בקריטריונים חיוביים של אינטראקציה בין מטופל לתרופה ברשומות האמת (ground-truth) המופרשות. אין להשתמש בניבויי מודל כדי לבנות את Ru. הסר תרופות עם התווית-contraindicated מקבוצת ההמלצות המועמדות לפני הדירוג.
  11. צור את חמש התרופות השמישות בעלות הדירוג הגבוה ביותר עבור כל מטופל הערכה. חשב את Precision@5 כשיעורן של חמש התרופות המומלצות השייכות לקבוצת הפריטים הרלוונטית Ru של המטופל. חשב את Recall@5 כשיעור התרופות הרלוונטיות של המטופל שנשלפו מבין חמש ההמלצות. חשב NDCG@5 באמצעות הרלוונטיות המדורגת של התרופות המומלצות, תוך הקצאת רלוונטיות גבוהה יותר לתרופות המתאימות קלינית ורלוונטיות אפס לתרופות שאינן רלוונטיות. אגד את המדדים על פני כל מטופלי ההערכה ודווח על הממוצעים של Precision@5, Recall@5 ו-NDCG@5.
  12. בנה את האמת של ההמלצות (recommendation ground truth) לפני הערכת המודל ושמור על אינטראקציות מטופל-תרופה מופרשות בנפרד מנתוני אימון ההמלצות. אין להשתמש באינטראקציות תרופות מסט הבדיקה, בתוויות מסט הבדיקה או במידע על טיפולים עתידיים במהלך אימון GraphSAGE, דגימה שלילית או דירוג מועמדים.
  13. מדוד נאמנות (Fidelity) כדי לבדוק באיזו מידה ההסברים תואמים את התנהגות המודל. הערך את יציבות ההסבר באמצעות בדיקות מרובות. שפוט את יכולת ההבנה (Comprehensibility) על בסיס קריטריונים המכוונים לרופאים.
  14. בחן עד כמה ההסברים עקביים בין סוגי נתונים שונים. אשר את הערך הקליני של ההסברים שהופקו. מדדי ההערכה ששימשו לאורך המחקר מסוכמים ב-Supplementary Table 7.

9. ביצוע תיקוף קליני פרוספקטיבי

  1. בצעו תיקוף קליני פרוספקטיבי לאחר קבלת אישור אתי מתאים והסכמה מדעת, בהתאם להליכי הגיוס, ההערכה, איסוף הנתונים והניתוח הסטטיסטי המתוארים בשלבים 7.6–7.8. תכנון התיקוף הקליני הפרוספקטיבי, הכולל את הרכב המשתתפים, קריטריוני ההערכה, תנאי ההשוואה והניתוחים הסטטיסטיים המתוכננים, מסוכם ב- טבלה נלווית 8.

10. ביצוע תיקוף והערכת שחזור

  1. בצעו מחקרי אבלציה (ablation studies) באמצעות הסרה שיטתית של רכיבים בודדים ממסגרת ה-FedMediFormer-XAI המלאה, תוך שמירה על אותם חלוקי נתונים, הליכי עיבוד מקדים, הגדרות אימון ומדדי הערכה. העריכו את המודל המלא ואת התצורות ללא הגברה באמצעות דיפוזיה (diffusion augmentation), למידה פדרטיבית (federated learning), המלצת תרופות מבוססת GraphSAGE ומיזוג רב-מודאלי (multimodal fusion).
  2. השוו את התצורות המנוכרות (ablated configurations) למסגרת ה-FedMediFormer-XAI המלאה באמצעות Accuracy, Precision, Recall, F1-score, MCC ו-AUC-ROC. כמתו את השינוי בכל מדד ביצועים כדי לקבוע את תרומתו של כל רכיב במסגרת. השוו את תוצאות התיקוף (validation) לתוצאות הבדיקה הפנימית כדי להעריך את יכולת ההכללה (generalizability). בצעו בדיקות מובהקות סטטיסטית כדי לקבוע את מהימנותם של הבדלי הביצועים שנצפו.
  3. העריכו את יכולת ההכללה של המסגרת באמצעות מערך נתונים חיצוני בלתי תלוי, במידה ומערך נתונים כזה עם משתני קלט והגדרות תוצאה תואמות זמין. החילו את אותם הליכי עיבוד מקדים והערכה שנעשה בהם שימוש עבור מערך נתוני הבדיקה הפנימי, והשוו את מדדי הביצועים שהתקבלו לתוצאות הבדיקה הפנימיות.
  4. בצעו ניתוח מובהקות סטטיסטית לאורך הרצות ניסיוניות חוזרות. העריכו את נורמליות ההפרשים הזוגיים בביצועים לפני הבדיקה הסטטיסטית. השתמשו במבחן t למדגמים מזווגים עבור מדידות זוגיות בעלות התפלגות נורמלית, ובמבחן הדרגות המסומנות של וילקוקסון (Wilcoxon signed-rank test) עבור מדידות זוגיות שאינן בעלות התפלגות נורמלית. קבעו את סף המובהקות הסטטיסטית ב-p < 0.05.
  5. חשבו את הממוצע ואת רווח הסמך של 95% עבור Accuracy, Precision, Recall, F1-score, MCC ו-AUC-ROC. דווחו על הסטטיסטיקות של המבחן, ערכי ה-p ורווחי הסמך המתאימים עבור השוואות המודלים העיקריות. תיעדו את כל פרמטרי המודל, הליכי עיבוד המקדמים, תצורות האימון ופרוטוקולי ההערכה הנדרשים לשחזור הניסויים המדווחים.
  6. שמרו את קוד המקור, קבצי התצורה, סקריפטי ההערכה ומפרטי המודלים המאומנים ששימשו בניסויים המדווחים. תחזקו רשומות מפורטות של אימון המודלים, הגדרות ניסיוניות, זרעי אקראיות (random seeds) ותוצאות הערכה.
  7. יש לאמת את השלמות והעקביות של חומרי השחזור הזמינים. ודא כי השיטות והחומרים המתועדים מספקים מידע מספיק לשחזור עצמאי של זרימת העבודה הניסויית.
  8. סכם את משאבי השחזור ונהלי התיקוף ששימשו במחקר ב טבלה נלווית 9תעד את הליך מחקר האבליציה (ablation study) ואת קריטריוני ההערכה לבחינת תרומתם של מרכיבי המסגרת העיקריים.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

תוצאות

ניתוח ביצועים חיזואיים
FedMediFormer-XAI הפגין ביצועי חיזוי משופרים בהשוואה למודלים החד-מודאליים (unimodal) ולמודלי הבסיס הקונבנציונליים שנבחנו. הרחבה מבוססת דיפוזיה (Diffusion-based augmentation) שיפרה את הייצוג של מחלקת המיעוט, וביצועי החיזוי שהתקבלו מסוכמים ב- טבלה 3הערכת ההרצות החוזרות הדגימה ביצועי ניבוי יציבים בכל המודלים שנבחנו. FedMediFormer-XAI השיג את הביצועים הכוללים הגבוהים ביותר, עם דיוק (accuracy) של 94.20 ± 0.34% (רווח בר-סמך של 95%: 93.78–94.62), דיוק חיובי (precision...

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

דיון

פירוש הממצאים המרכזיים
התוצאות המייצגות מראות כי ניתן לשלב למידת טרנספורמר רב-מודאלית (multimodal transformer learning), למידה מבוזרת (federated learning), הרחבת נתונים מבוססת דיפוזיה (diffusion-based augmentation), המלצת תרופות מבוססת רשת עצבית גרפית (graph neural network-based drug recommendation) ובינה מלאכותית ניתנת להסבר (explainable artificial intelligence) לכדי מסגרת אחודה של בינה לסוכרת. על ידי שילוב של רשומות קליניות, מדדי בריאות אוכלוסייה, נתוני ניטור גלוקוז רציף, תמונות קרקית של הרשתית ו...

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

גילויים

המחברים מצהירים כי אין להם אינטרסים פיננסיים מתחרים, ניגודי עניינים או מערכות יחסים אישיות שעלולים היו להשפיע על העבודה המדווחת במחקר זה. כלי בינה מלאכותית שימשו אך ורק לסיוע בליטוש השפה, ארגון כתב היד, עיצוב ועריכה במהלך הכנת מאמר זה. כל התוכן המדעי, מערך המחקר, המתודולוגיה, ניתוח הנתונים, פרשנות התוצאות והמסקנות פותחו, אומתו ואושרו על ידי המחברים. המחברים נושאים באחריות מלאה לדיוק, ליושרה ולמקוריות של העבודה המוצגת בכתב יד זה.

תודות

המחברים מודים למפתחים ולמנהלים של מאגרי הנתונים הזמינים לציבור ושל משאבי התוכנה בקוד פתוח ששימשו במחקר זה.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

חומרים

רשימת החומרים שנעשה בהם שימוש במאמר זה
שםחברהמספר קטלוגהערות
הצפנת AESNISTAES-256נתונים במצב מנוחה / הצפנת פרמטרי מודל מוגנת בלמידה פדרטיבית
APTOS 2019 Blindness Detection DatasetKaggle/APTOSמהדורת 2019מאגר נתוני תמונות רשתית; זמין לציבור ומזוהה באופן אנונימי; https://www.kaggle.com/competitions/aptos2019-blindness-detection/data
CaptumMeta AIגרסה 0.8ניתוח ייחוס ופרשנות של מודלים
CUDA ToolkitNVIDIAגרסה 12.2חישוב מואץ באמצעות GPU
Diabetes Health Indicators Dataset (CDC BRFSS 2015)CDC/BRFSS; Kaggleמהדורת 2015מדדי בריאות אוכלוסייה; זמין לציבור ומזוהה באופן אנונימי; https://www.kaggle.com/datasets/alexteboul/diabetes-health-indicators-dataset
Diabetic Retinopathy Detection DatasetKaggleמהדורה ציבוריתמאגר נתוני תמונות רשתית; זמין לציבור ומזוהה באופן אנונימי; https://www.kaggle.com/c/diabetic-retinopathy-detection/data
תעודות דיגיטליות--אימות לקוחות בלמידה פדרטיבית
Drug Interaction DatasetKaggleמהדורה ציבוריתנתוני גרף של אינטראקציות בין תרופות; זמין לציבור ומזוהה באופן אנונימי; https://www.kaggle.com/datasets/rohanharode07/drug-drug-interaction
Drug Review DatasetUCI Machine Learning RepositoryDataset 462מאגר נתוני ביקורות ויעילות של תרופות; זמין לציבור ומזוהה באופן אנונימי; https://archive.ics.uci.edu/dataset/462/drug+review+dataset+drugs+com
MatplotlibMatplotlib Developersגרסה 3.9ויזואליזציה
MTS Diabetes DatasetKaggleמהדורה ציבוריתמאגר נתוני חיישנים לבישים / חיזוי סוכרת; זמין לציבור ומזוהה באופן אנונימי; https://www.kaggle.com/datasets/marshalpatel3558/diabetespredictiondataset
NetworkXNetworkX Developersגרסה 3.3בנייה וניתוח של גרף אינטראקציות תרופתיות
NumPyNumPy Developersגרסה 1.26חישוב מספרי
NVIDIA RTX 4090 GPUNVIDIARTX 4090אימון והסקה של מודלים; לפחות 32 GB זיכרון מערכת
OhioT1DM DatasetOhio Universityמהדורה ציבוריתמאגר נתוני ניטור גלוקוז רציף; זמין לציבור ומזוהה באופן אנונימי; https://webpages.charlotte.edu/rbunescu/data/ohiot1dm/OhioT1DM-dataset.html
OpenCVOpenCV Foundationגרסה 4.10עיבוד תמונה
PandasPyDataגרסה 2.2עיבוד נתונים ועיבוד מקדמי
Pima Indians Diabetes DatasetUCI Machine Learning RepositoryDataset 34מאגר נתוני חיזוי סוכרת קליני; זמין לציבור ומזוהה באופן אנונימי; https://archive.ics.uci.edu/dataset/34/diabetes
PythonPython Software Foundationגרסה 3.11סביבת התכנות העיקרית
PyTorchMeta AIגרסה 2.3פיתוח ואימון מודלי למידה עמוקה
PyTorch GeometricPyG Teamגרסה 2.5בנייה ואימון של רשתות עצביות גרפיות
Scikit-learnScikit-learn Developersגרסה 1.5כלי עזר והערכה ללמידה חישובית
מנגנון אגרגציה מאובטח--אגרגציה מוגנת של פרמטרי מודל מקומיים בלמידה פדרטיבית
SHAPSHAP Developersגרסה 0.47בינה מלאכותית ניתנת להסבר וניתוח ייחוס מאפיינים
TensorFlowGoogleגרסה 2.15פיתוח ואימון מודלי למידה עמוקה
TransformersHugging Faceגרסה 4.45מימוש ארכיטקטורה מבוססת Transformer
אבטחת שכבת התעבורהIETFTLS 1.3ערוץ תקשורת מוצפן להחלפת פרמטרים פדרטיביים
תחנת עבודהGeneric-סביבת חישוב; לפחות 32 GB זיכרון מערכת

מקורות

  1. Al-Hejri AM, et al. A hybrid explainable federated-based vision transformer framework for breast cancer prediction via risk factors. Sci Rep. 2025;15:18453.
  2. Dosovitskiy A, et al. An image is worth 16×16 words: transformers for image recognition at scale [conference presentation]. Presented at: International Conference on Learning Representations (ICLR); 2021. [https://arxiv.org/abs/2010.11929]
  3. Touvron H, et al. Training data-efficient image transformers & distillation through attention [conference presentation]. Presented at: 38th International Conference on Machine Learning; 2021. [https://arxiv.org/abs/2012.12877]
  4. Kotelnikov A, Baranchuk D, Rubachev I, Babenko A. TabDDPM: modelling tabular data with diffusion models [conference presentation]. Presented at: 40th International Conference on Machine Learning (ICML); 2023. [https://arxiv.org/abs/2209.15421]
  5. Pinaya WHL, et al. Brain imaging generation with latent diffusion models [conference presentation]. Presented at: International Conference on Medical Image Computing and Computer-Assisted Intervention (MICCAI); 2022. [https://arxiv.org/abs/2209.07162]
  6. Ho J, Jain A, Abbeel P. Denoising diffusion probabilistic models [conference presentation]. Presented at: Advances in Neural Information Processing Systems (NeurIPS); 2020. [https://arxiv.org/abs/2006.11239]
  7. Song Y, et al. Score-based generative modeling through stochastic differential equations [conference presentation]. Presented at: International Conference on Learning Representations (ICLR); 2021. [https://arxiv.org/abs/2011.13456]
  8. Li T, Sahu AK, Talwalkar A, Smith V. Federated learning: challenges, methods, and future directions. IEEE Signal Process Mag. 2020;37(3):50-60.
  9. Kairouz P, et al. Advances and open problems in federated learning. Found Trends Mach Learn. 2021;14(1-2):1-210.
  10. Rieke N, et al. The future of digital health with federated learning. NPJ Digit Med. 2020;3:119.
  11. Kaissis GA, Makowski MR, Rückert D, Braren RF. Secure, privacy-preserving and federated machine learning in medical imaging. Nat Mach Intell. 2020;2(6):305-11.
  12. Sheller MJ, et al. Federated learning in medicine: facilitating multi-institutional collaborations without sharing patient data. Sci Rep. 2020;10:12598.
  13. McMahan HB, et al. Communication-efficient learning of deep networks from decentralized data [conference presentation]. Presented at: International Conference on Artificial Intelligence and Statistics (AISTATS); 2017. [https://arxiv.org/abs/1602.05629]
  14. Lundberg SM, et al. From local explanations to global understanding with explainable AI for trees. Nat Mach Intell. 2020;2(1):56-67.
  15. Ribeiro MT, Singh S, Guestrin C. Why should I trust you? Explaining the predictions of any classifier [conference presentation]. Presented at: ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD); 2016. [https://arxiv.org/abs/1602.04938]
  16. Wachter S, Mittelstadt B, Russell C. Counterfactual explanations and algorithmic recourse in healthcare AI. AI Ethics. 2021;1(2):123-37.
  17. Chen J, Liao W, Yu W. Explainable AI for precision medicine: a systematic review. Brief Bioinform. 2024;25(2):bbae045.
  18. Zitnik M, Agrawal M, Leskovec J. Modeling polypharmacy side effects with graph neural networks. Bioinformatics. 2020;36(2):i457-i466.
  19. Wu Z, et al. A comprehensive survey on graph neural networks. IEEE Trans Neural Netw Learn Syst. 2021;32(1):4-24.
  20. Hamilton WL. Graph representation learning. Morgan & Claypool Publishers; San Rafael (CA); 2020.
  21. Shang J, Ma T, Xiao C, Sun J. Pre-training of graph augmented transformers for medication recommendation [conference presentation]. Presented at: International Joint Conference on Artificial Intelligence (IJCAI); 2021. [https://arxiv.org/abs/1906.00346]
  22. Wang X, et al. Neural graph collaborative filtering. IEEE Trans Knowl Data Eng. 2021;33(5):2136-49.
  23. Yu KH, Beam AL, Kohane IS. Artificial intelligence in healthcare. Nat Biomed Eng. 2021;5(8):719-31.
  24. Muhammad G, Hossain MS, Kumar N. EEG-based pathology detection for home health monitoring. IEEE J Sel Areas Commun. 2021;39(2):603-10.
  25. Alshehri F, Muhammad G. Internet of Things and edge computing in healthcare: a survey. IEEE Access. 2021;9:3660-78.
  26. Vaid A, et al. Federated learning of electronic health records to improve mortality prediction. JMIR Med Inform. 2021;9(1):e24207.
  27. Lim WYB, et al. Dynamic contract design for federated learning in smart healthcare applications. IEEE Internet Things J. 2021;8(23):16853-62.
  28. Chikumo OT, et al. Transformer-based models for disease prediction using electronic health records: a systematic review. J Appl Artif Intell Comput. 2026;10(1):1-18.
  29. Lai T. Interpretable medical imagery diagnosis with self-attentive transformers: a review of explainable AI for healthcare. Diagnostics (Basel). 2023;13(18):3021.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

הדפסות חוזרות והרשאות

גלה מאמרים נוספים

למידה פדרטיביתרשתות נוירונים גרפיותחיזוי סוכרתבינה מלאכותית ניתנת להסבריצירת נתונים סינתטייםפרטיות מטופליםרפואה מותאמת אישית
צרו קשר
המליצו לספרייה

פרטיות

תנאי שימוש

מדיניות

זכויות יוצרים © 2026 MyJoVE Corporation. כל הזכויות שמורות.