מאמר מחקר

למידה פדרלית עוינת חזקה לחיזוי בטוח לסיכוני תמותה באמצעות רשומות בריאות אלקטרוניות רב-מוסדיות (EHRs)

DOI:

10.3791/69104

⸱

12 במאי 2026

 , 
1Parul University, 2SoA Deemed to be University

במאמר זה

סיכום

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

מחקר זה מציע מודל למידה פדרטיבית עוינת-חזקה (AR-FL) לחיזוי סיכוני תמותה באמצעות רשומות בריאות אלקטרוניות רב-מוסדיות. המודל משלב הכשרה עוינת מינימקסית, תשומת לב מודעת לדומיין ואגרגציה לשמירה על פרטיות לשיפור החוסק, ההתאמה וסודיות הנתונים, ומאפשר מערכת תמיכה קלינית בטוחה, אמינה והכללית המתאימה לסביבות בריאות הטרוגניות.

תקציר

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

רשומות בריאות אלקטרוניות (EHRs) הן המקור העיקרי לנתונים המאפשרים קבלת החלטות קליניות מבוססות נתונים. עם זאת, האופי הרגיש של רשומות רפואיות אלקטרוניות ומדיניות הפרטיות המחמירה במגזר הבריאות מקשים או בלתי אפשריים על הכשרה מרכזית במודלים. מודל למידה פדרטיבית חזקה (AR-FL) מוצע לחיזוי סיכון לתמותת מטופלים בין מוסדות שונים מבלי לשתף את נתוני ה-EHR המקוריים. המטרה העיקרית של מחקר זה היא להציג הליך מאובטח, ניתן לשחזור וניתן להרחבה לאימון מודלים חיזויים עמידים לשמירה על פרטיות בסביבות קליניות מגוונות. מחקר זה משתמש בגישה של מינימום-מקסימום אימותי בכל מוסד לשיפור החוסן מול הפרעות במקרה הגרוע ביותר. מנגנון קשב מודע לתחום משמש גם להסתגלות דינמית להבדלים בהתפלגויות התכונות הקליניות בתוך המוסד. למען סודיות, עדכוני המודל מאוחדים באמצעות שיטות להגנה על פרטיות החוסמות חשיפת נתוני מטופלים רגישים במהלך תקשורת פדרטיבית. מחקר זה מפרט את כל התהליך, מעיבוד נתונים מוקדם ויצירת דוגמאות יריבות, דרך הכשרה מקומית, אגרגציה מאובטחת והערכת מודלים גלובלית, ומאפשר יישום עקבי בסביבות בריאות שונות. אימות ניסיוני מראה שמודל AR-FL משיג ביצועים חיזויים מעולים, עמידות יריבה והכללה בין-מוסדית. על ידי הקמת מסלול הכשרה והערכה סטנדרטי, מחקר זה תומך בפיתוח מערכות תמיכה קליניות אמינות ואתיות לתמיכה בהחלטות.

מבוא

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Federated Learning (FL) הפכה לפרדיגמה מהפכנית לניתוחי בריאות השומרים על פרטיות, על ידי אפשרות הכשרה שיתופית במודלים על פני נתוני רשומות רפואיות אלקטרוניות מבוזרים (EHR) ללא שיתוף מידע גולמי על מטופלים. גישה זו מפחיתה סילואים של נתונים ומגבלות רגולטוריות תוך שיפור הביצועים החיזויים במשימות כמו חיזוי תמותה. עם זאת, למרות היתרונות הללו, מערכות FL נשארות פגיעות להתקפות עוינות והרעלה. איור 1 ממחיש את הארכיטקטורה השיתופית וזרימת העבודה של למידה פדרטיבית בין מוסדות קליניים מבוזרים.

figure-introduction-1
איור 1: ארכיטקטורת למידה פדרטיבית גנרית ויישומי דימות רפואי. תרשים זה ממחיש את זרימת העבודה הסטנדרטית של הלמידה הפדרטיבית, ומציג אחסון נתונים מבוזר, אימון מודלים מקומי ואגרגציה מאובטחת בצד השרת, יחד עם יישומיו בניתוח דימות רפואי. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

התקדמות אחרונה באנליטיקה בתחום הבריאות מדגישה את היעילות של מודלים של למידה עמוקה בעיבוד נתוני EHR בקנה מידה גדול. מחקר קודם1 הראה שלמידה עמוקה יכולה להשיג תחזיות מדויקות וניתנות להרחבה באמצעות נתונים קליניים גולמיים. יתרה מזאת, Miotto ואחרים סקרו את ההזדמנויות והאתגרים הרחבים יותר הקשורים ליישום למידה עמוקה במערכות בריאות. בנוסף, חידושים ספציפיים לתחום כמו ClinicalBERT3 שיפרו את ההבנה הקלינית של טקסטים ויכולות חיזוי, בעוד שמאגרי נתונים בנצ'מרק כמו MIMIC-III4, MIMIC-IV5 ו-eICU6 אפשרו הערכות רחבות וחוזרות במחקר טיפול נמרץ.

למידה פדרטיבית זכתה לתשומת לב רבה כפתרון לאפשר ניתוח בריאות שיתופי מבלי לפגוע בפרטיות הנתונים. מחקרים קיימים 7,8 דנו בתפקידה בפיתוח בריאות דיגיטלית, לצד אתגרים נלווים ונושאים פתוחים במחקר. יתרה מזאת, למידה פדרטיבית הראתה יישום מעשי בתרחישי בריאות בעולם האמיתי, כולל שיתוף פעולה רב-מוסדי9 וחיזוי תוצאות קליניות לחולי COVID-19. עם זאת, אתגרים כמו הטרוגניות בנתונים נותרו משמעותיים. כדי להתמודד עם זה, הוצעו אסטרטגיות אופטימיזציה לסביבות הטרוגניות11 וגישות כמו FedBN12, המשתמשות בנרמול אצווה מקומי, לשיפור ההתכנסות וההכללה של המודלים.

ביטחון ועמידות בלמידה הפדרטיבית הפכו לדאגות קריטיות בשל החשיפה הגוברת לאיומים עוינים. מושג דוגמאות יריבה13 חשף כי הפרעות קטנות יכולות להטעות מודלים של למידה עמוקה בביטחון גבוה. בהגדרות פדרטיביות, פגיעויות אלו מחמירות על ידי איומים כמו התקפות אחוריות14 והרעלת דגם. כדי להתמודד עם סיכונים אלו, הוצעו גישות למידה מאוחדת מקבוצות עמידות מול יריבים וטכניקות אופטימיזציה חזקות המבוססות על אימון יריב. בנוסף, פותחו מסגרות תקשורת מאובטחות המשלבות הגברת גרדיאנט ודגמי LSTM17 כדי לצמצם התקפות אדם באמצע. במקביל, ארכיטקטורות מתקדמות כמו DBAFL18,19 שואפות להגן מפני התקפות הרעלה בסביבות מבוזרות.

שמירה על פרטיות נותרה דרישה בסיסית במערכות בריאות מאוחדות. מודלים מאומנים בשיתוף פעולה יכולים להדליף מידע רגיש באמצעות התקפות מבוססות GAN, ולהדגיש סיכוני פרטיות טבועים20. כדי לצמצם בעיות אלו, הוכנסו פרוטוקולי אגרגציהמאובטחים 21 וטכניקות פרטיות דיפרנציאליות22 כדי להבטיח סודיות בלמידה מבוזרת. יתרה מזאת, הוצעו פתרונות מבוססי בלוקצ'יין23,24 לניהול EHR מאובטח ושיתוף נתונים, כאשר מחקרים נוספים 25,26,27,28 מרחיבים גישות אלו לשיפור התאימות, האבטחה והיעילות במערכות בריאות.

ההתקדמות המהירה של הבינה המלאכותית בתחום הבריאות הובילה גם לפיתוח מודלים היברידיים חכמים ומערכות משולבות שמשפרות ביצועים חיזויים וקבלת החלטות. מחקרים קודמים דנו גם בתפקיד הטרנספורמטיבי של הבינה המלאכותית ברפואהובהתקפות עוינות ומנגנוני הגנה במערכות למידת מכונה29,30.

למרות ההתקדמויות הללו, המחקר הקיים נותר מקוטע. רבים ממודלי הלמידה המאוחדים אינם כוללים עמידות עוינת, מה שהופך אותם לפגיעים להתקפות. בנוסף, הטרוגניות בתחום לעיתים קרובות אינה מטופלת מספיק, מה שמגביל הכללות בין מוסדות. מנגנוני שמירת הפרטיות מיושמים לעיתים קרובות בנפרד, ללא שילוב עם חוסן ואסטרטגיות התאמת תחום, מה שמוביל למערכות בינה מלאכותית בריאותית לא שלמות ופחות אמינות. כדי להתמודד עם מגבלות אלו, מאמר זה מציע מסגרת משולבת של למידה פדרטיבית חזקה יריבת, המשלבת אימון יריב, מנגנוני קשב מודעים לתחום ואגרגציה מאובטחת. הגישה המוצעת משפרת את החוסן מפני התקפות, משפרת את ההסתגלות בסביבות קליניות הטרוגניות, ומבטיחה פרטיות נתוני מטופלים, ובכך מספקת פתרון מקיף ליישומי בריאות רב-מוסדיים בעולם האמיתי.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

פרוטוקול

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

המתודולוגיה המוצעת
מודל הלמידה הפדרטיבית החזקה (AR-FL) המוצע נועד לחזות סיכון לתמותת מטופלים בצורה מאובטחת ושיתופית בין מוסדות בריאות שונים, תוך שמירה על פרטיות הנתונים והפיכת המערכת לעמידה בפני הפרעות עוינות. הפריסה כוללת ארבעה אלמנטים עיקריים: (1) מבנה הלמידה המאוחדת, (2) אימון יריבים מבוסס אופטימיזציה מינימום-מקסימום, (3) מנגנון הקשב המודע לתחום, ו-(4) איגוד פרמטרים לשמירה על פרטיות. המתודולוגיה מבוצעת בזרימה שיטתית המיועדת ללמידה פדרלית עוינת וחזקה להערכת סיכון התמותה. התהליך, המתואר באיור 2, מתחיל באיסוף נתונים ממוסדות בריאות רבים, ואחריו עיבוד מוקדם של נתונים לתקנון תכונות ולטיפול בערכים חסרים. מודל גלובלי נוצר תחילה על ידי שרת מרכזי ואז נשלח לכל מוסד רפואי. הכשרה יריבה מקומית מתקיימת בתוך מוסדות הבריאות, מה שמגביר את עמידות המודל בפני הפרעות ומאפשר התאמתו לנתונים ספציפיים לתחום. לאחר האימון, הפרמטרים של המודלים המקומיים מועברים לשרת בצורה מאובטחת באמצעות אגרגציה מאובטחת של פרמטרים. השרת משלב את תרומות המודל המקומי הללו כדי לעדכן את המודל הגלובלי. תהליך זה חוזר מספר פעמים באופטימיזציה איטרטיבית כדי לאפשר שיפור שיתופי של המודל. כתוצאה מכך, המודל מוערך בקפדנות באמצעות מדדים קליניים שמעריכים את ביצועיו החיזויים, החוסן האברסרי וההכללה בין מוסדות.

figure-protocol-1
איור 2: מודל AR-FL המוצע. איור זה מציג את הארכיטקטורה הכוללת של מודל הלמידה המאוחדת העוינת-חזקה המוצע, הכולל הכשרה יריבית, תשומת לב מודעת לתחום, ואגרגציה מאובטחת לשמירה על פרטיות. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

איסוף נתונים
למחקר זה נעשה שימוש בשני מערכי נתונים נגישים לציבור של רשומות בריאות אלקטרוניות (EHR): MIMIC-III4 ומאגר המחקר השיתופי של eICU6. MIMIC-III מספק מעל 40,000 אשפוזים בטיפול נמרץ מבית חולים מרכזי אחד, בעוד שנתוני ה-eICU כוללים מעל 200,000 אשפוזים בטיפול נמרץ מבתי חולים שונים בארה"ב. הדמוגרפיה של המטופלים, המדידות הקליניות, תוצאות בדיקות המעבדה, האירועים המתועדים והתוצאות שנרשמו בזרמי הנתונים הללו הופכים אותם לאטרקטיביים מאוד למשימת חיזוי סיכון התמותה. מערכי הנתונים של ה-EHR מחולקים לחלקים שונים ליצירת סביבת למידה ריאליסטית ורב-מוסדית; כל חלק מייצג בית חולים או מוסד שונה. השיטה מתעדת הבדלים בין מוסדות במאפייני המטופלים, בפרוטוקולים קליניים, בסגנונות התיעוד ובזמינות הנתונים. כל מוסד מדומה יכול לגשת רק לתת-מערך הנתונים שלו ואינו משתף רשומות גולמיות עם השרת המרכזי או עם לקוחות משתתפים אחרים. גישה זו מבטיחה עמידה מלאה בעקרונות שמירת הפרטיות, תוך סימום מגבלות החיים האמיתיים של שיתוף פעולה בין בתי חולים. תוויות תמותה מופקות משדות התוצאה המצוינים במערכי הנתונים, לדוגמה, מדדי תמותה בבית חולים. תוויות אלו משמשות כמטרות חיזוי למודל הלמידה המאוחדת. לכן, כל מוסד שומר על סט מקומי משלו של רשומות תכונות מטופלים הקשורות לתוצאות התמותה, ומאפשר אימון מודלים מבוזר מבלי לחשוף מידע רגיש של מטופלים.

קדם-עיבוד נתונים
כל מוסד מעבד את נתוני ה-EHR המקומיים שלו באופן עצמאי לפני תחילת ההכשרה במודל. מכיוון שלמידה פדרטיבית אינה מאפשרת שיתוף נתונים ברמת המטופל או אפילו סטטיסטיקות סיכום בין המוסדות המשתתפים, כל שלבי העיבוד המוקדם מתבצעים מקומית בכל מוסד ומבוססים אך ורק על המידע במאגר הנתונים של אותו מוסד. זרימת הקדם-עיבוד מורכבת ממספר שלבים קריטיים. בתחילה, משתנים קליניים נומריים כגון סימנים חיוניים, תוצאות בדיקות מעבדה ומדידות פיזיולוגיות מנורמלים כדי לבטל הבדלים בטווחי ערכים ולייצב את התכנסות המודלים. הנתונים המקומיים של כל מוסד הם המקור היחיד לחישוב הסטטיסטיקות המשמשות לנרמל. לאחר מכן, מאפיינים קטגוריים כמו מגדר, סוג קבלה או קטגוריות אבחנתיות מומרת לייצוגים מספריים באמצעות שיטות כמו קידוד חד-חם או מיפויים ייעודיים למוסדות. לכן, המודל המאוחד יכול לטפל בנתונים קטגוריים ללא צורך במילוני קידוד משותפים או טבלאות ייחוס חוצות מוסדות. שלישית, נתונים חסרים, הנפוצים במאגרי נתונים קליניים, מטופלים באמצעות טכניקות איפוטציה מקומיות. בהתאם לסוג התכונה ולהקשר הקליני, מוסדות עשויים לפנות למינוי מיין, מילוי קדימה בהתבסס על תצפיות קודמות, או אפילו החלפות קליניות מבוססות כללים. מכיוון שכל מוסד מבצע אימפוטציה באופן עצמאי, אין צורך במטא-דאטה חיצוניים או פרמטרים משותפים של אימפוטציה. בהתאם להליכים אלו, כל מוסד יכול ליצור מאגר נתונים מעובד מלא יחד עם תוצאות התמותה הנלוות. מערכי הנתונים המקומיים משמשים אז כקלט לאימון המודל המאוחד. לאורך כל צינור העיבוד המוקדם, לא מועברים נתונים גולמיים, סטטיסטיקות נגזרות או פלטים ביניים מחוץ למוסד, מה שמבטיח שמירה קפדנית על נהלי ניהול נתונים השומרי פרטיות.

אתחול מודל
יהי K {1, 2,..., K} אוסף המוסדות (הלקוחות) המעורבים, כאשר לכל מוסד יש מאגר נתונים מקומי. figure-protocol-2{ figure-protocol-3 כאשר figure-protocol-4 מייצג תכונות EHR קלט וfigure-protocol-5 - היא תווית התמותה המשויכת (בינארית או קטגורית). מודל figure-protocol-6 גלובלי מאומן בשיתוף פעולה בין כל הלקוחות, כאשר θ הם פרמטרי המודל המשותפים.

התהליך פועל לפי פרוטוקול הממוצע הסטנדרטי FedReated Averating (FedAvg):
השרת המרכזי מאתחל פרמטרים גלובליים figure-protocol-7 ומשדר אותם. כל לקוח k∈K מבצע אימון מקומי באמצעות הנתונים שלו ומעדכן את המודל ל- figure-protocol-8 . השרת משלב את העדכונים על ידי לקיחת הממוצע המשוקלל:

figure-protocol-9figure-protocol-10, כאשר n =figure-protocol-11

הליך אתחול השרת המרכזי ושלבי ההדרכה המקומיים מתקיימים בסבבי תקשורת גלובלית T (T global communication).

אימון יריבים מקומי (אופטימיזציה של מינימום–מקס)
כדי לשפר את החוסן, כל לקוח מקיים הכשרה יריבה באתר המקומי שלו. במקום למזער סיכון אמפירי על נתונים נקיים, הלקוחות מתמודדים עם בעיית מינימום-מקסימום:

figure-protocol-12(x+δ),y)

L: פונקציית אובדן
δ: הפרעה עוינת המוגבלת על ידי figure-protocol-13
S: מרחב איום עוין
figure-protocol-14(x+δ): חיזוי תחת קלט מופרע

בזמן כל תקופה מקומית, נוצרים דגימות יריבה באמצעות ירידת גרדיאנט מוקרנת (PGD) או שיטת סימן גרדיאנט מהיר (FGSM). לאחר מכן, ההכשרה של המודל נמשכת עם דגימות אלו במטרה להגדיל את עמידותה.

מנגנון קשב מודע לתחום
נתוני רשומות בריאות אלקטרוניות (EHR) ממוסדות שונים יכולים להשתנות מאוד מבחינת הפצת הנתונים, סמנטיקת התכונות והפרקטיקות הקליניות. כדי להתמודד עם בעיה זו, מודל AR-FL משלב מודול קשב ייעודי לתחום במודל שלו.

יהי figure-protocol-15 figure-protocol-16 וקטור הקלט מהמוסד k. משקלי figure-protocol-17 הקשב לכל תכונה j∈ {1..., d} מחושבים כך:

figure-protocol-18=figure-protocol-19

כאשר הם משקלי קשב שניתן לאמן. הקלט משוקלל מחדש כך:

figure-protocol-20

באמצעות מנגנון זה, המודל מסוגל להדגיש מאפיינים החשובים לפרקטיקה הקלינית בהתאם לאופי הנתונים בהם משתמש המוסד, ובכך להגדיל את ההתאמה והפרשנות שלו.

אגרגציה של פרמטרים לשמירה על פרטיות
AR-FL משתמש באגרגציה מאובטחת מאוד יחד עם טכניקות פרטיות דיפרנציאליות במידת הצורך, כדי לשמור על רמת הפרטיות הגבוהה ביותר במהלך התקשורת. אגרגציה מאובטחת: המשתמשים מצפינים את עדכוני המודל שלהם כך שהשרת יכול לחשב רק את הסך הכולל ולא את התרומות הנפרדות.

פרטיות דיפרנציאלית: מוסיפה רעש לעדכוני הדגם:

figure-protocol-21

כאשר σ שולט בפשרה בין פרטיות לדיוק.

במהלך עדכונים מבוזרים, גישות אלו מבטיחות שמידע פרטי של מטופלים או מוסדות אינם בסיכון לדליפה.

עדכון מודל גלובלי
לאחר סיום שלב ההכשרה המקומי בכל מוסד, השרת המרכזי אוסף את עדכוני המודל שהלקוח הוגש. עדכונים אלו כוללים רק שינויים בפרמטרי המודל ואינם כוללים נתוני מטופלים גולמיים או ייצוגים של תכונות ביניים. כדי למזג את הידע שנרכש מהמוסדות השונים, השרת מיישם את שיטת הממוצע הפדרלי (FedAvg). בתהליך זה, השרת מחשב ממוצע משוקלל של המודלים המקומיים בהתבסס על כמות הנתונים הזמינה בכל מוסד. מוסדות התורמים מאגרי נתונים גדולים יותר משפיעים באופן יחסי גבוה יותר על המודל הגלובלי המעודכן. מכיוון שהעדכונים שודרו באמצעות טכניקות אגרגציה מאובטחות, השרת אינו יכול לראות או לבודד פרמטרים של מוסד מסוים. במקום זאת, השרת מקבל ייצוג משולב מוצפן או מוגן על ידי פרטיות בלבד. דבר זה מבטיח את סודיות תהליך ההכשרה ואת השמדת כל דפוס או מאפיין רפואי ספציפי למוסד שייתכן שזוהו. לאחר חישוב העדכון המצטבר, השרת מכין מודל גלובלי חדש שמייצג את הידע הכולל שנרכש מכל המוסדות המשתפים פעולה באותו סבב תקשורת. המודל הגלובלי החדש נשלח חזרה לכל מוסד כדי להתחיל בסבב הבא של הכשרה יריבה מקומית.

אופטימיזציה איטרטיבית
למידה מאוחדת היא תהליך רב-שלבי הכולל מספר סבבי תקשורת. כל סבב כולל הכשרה של המודל המקומי, שליחת עדכונים מאובטחת, אגרגציה גלובלית והפצה של המודל המשופר למשתתפים. הסבבים החוזרים עוזרים למודל להתקדם בהדרגה לעבר פתרון יציב וחזק. במהלך סבבים אלו, כל ארגון מביא את הידע שלו על אוכלוסיית המטופלים שלו, ובכך יוצר מודל שיכול לזהות דפוסים קליניים בסביבות שונות. יש לציין כי אימון יריבים ומנגנון תשומת הלב המודעת לתחום מיושמים לעיתים דרך אימון מקומי בכל סבב. לכן, המודל משתפר כל הזמן, וכוחו להתמודד עם התקפות עוינות גדל, בעוד יכולתו להסתגל להתפלגויות תכונות שונות בין מוסדות משתפרת. באמצעות אופטימיזציה איטרטיבית, המודל לא רק משפר את ביצועי ההכללה שלו, אלא גם הופך לסובלני יותר ויותר כלפי חוסר איזון נתונים, שונות מוסדית וסביבות יריבות. ההליך מתבצע עד שמושג מספר קבוע מראש של סבבי תקשורת או עד שהמודל הגלובלי מצביע על התכנסות יציבה.

הערכה
בסיום כל סבבי התקשורת, המודל הגלובלי הסופי נבדק לעומק באמצעות מערכי בדיקה שמוחזקים שמקורם במאגרי הנתונים של המשתתפים. מכיוון שמערכות בדיקה אלו אינן משמשות לאימון מודלים, הן מספקות מדד הוגן ובלתי משוחד לביצועי המודל. יעילות המודל מוערכת באמצעות חישוב מדדים שונים מזוויות שונות. דיוק נקי מעריך את המצב שבו קיימים תנאים רגילים. הוא מודד את נכונות המודל בחיזוי תוצאות התמותה. לעומת זאת, דיוק אדרסרי מעריך את מידת יכולתו של המודל לשמור על ביצועיו גם כאשר נתוני הקלט משתנים באופן יריב. השטח מתחת לעקומת מאפיין הפעולה של המקלט (ROC) (AUC-ROC) מספק תובנות לגבי מיומנות המודל בהבחנה בין מטופלים חיים למתים. ציון F1 משמש כאינדיקטור לקשר דיוק-זיכרון, שהוא משמעותי במיוחד עבור מאגרי נתונים קליניים לא מאוזנים. פער ההכללה חושף את הפער בביצועים בין מוסדות שונים, ובכך מדגים את הרב-גוניות של המודל בהתאמה למקורות נתונים מגוונים. סיכון הפרטיות נמדד לבסוף באמצעות שימוש במתקפות עוינות מדומות, שקובעות האם אגרגציה מאובטחת ופרטיות דיפרנציאלית אופציונלית אכן יעילים בהגנה על סודיות המטופל. כל מדדי ההערכה הללו יחד מספקים תמונה מקיפה של כוח החיזוי של המודל, ההתנגדות להתקפות עוינות, יציבות בין מוסדות שונים והציות לדרישות שמירת הפרטיות. האלגוריתם 1 (קובץ משלים 1) למטה מציג את הלמידה הפדרטיבית החזקה (AR-FL) לחיזוי סיכון לתמותה.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

תוצאות

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

מודל AR-FL נבדק על שני מערכי נתונים של רשומות בריאות אלקטרוניות (EHR) רב-מוסדיות, שהיו זמינים לציבור: MIMIC-III ומאגר המחקר השיתופי של ה-ICU, הכוללים מגוון רשומות מטופלים בטיפול נמרץ עם תוצאות תמותה בבית החולים. מערך הנתונים התפזר בין תרחישי בית חולים מדומים שייצגו את ההבדלים האמיתיים בין המוסדות בנוגע למאפייני הנתונים שלהם. מודל נפרד אומן לכל לקוח (מוסד) באמצעות נתוני EHR פרטיים משלו, והמודל הגלובלי המצטבר התקבל באמצעות ממוצע מאובטח עם פרטיות דיפרנציאלית.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

דיון

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

מאמר זה מציג מודל למידה מאוחדת עוינת-חזקה (AR-FL) שמטרתו לשפר את חיזוי סיכוני התמותה באמצעות רשומות בריאות אלקטרוניות רב-מוסדיות (EHRs) על ידי שיפור הדיוק, החוסן וההכללה. המחקר מגלה ששילוב הכשרה עוינת בסביבה הפדרטיבית יועיל משמעותית למודל בכך שיהפוך אותו לעמיד יותר בפני הפרעות קלט ושונות בתחום בין מוסדות שונים. התוצאות החדשות הללו תואמות לאלו הקודמות, שהראו כי אופטימיזציה עוינת משפרת את יציבות המודל במהלך משימות החיזוי הקליניות31 , וכי למידה פדרטיבית מאפשרת שיתופי...

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

גילויים

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

המחברים מצהירים שאין להם אינטרסים מתחרים.

חומרים

רשימת החומרים שנעשה בהם שימוש במאמר זה
שםחברהמספר קטלוגהערות
אדם אופטימייסרפייטורץ'https://pytorch.org/docs/stable/generated/torch.optim.Adam.htmlאופטימיזציה
ערכת כלים של CUDANVIDIAhttps://developer.nvidia.com/cuda-toolkitגרסה 11.8; האצת GPU
ספריית פרטיות דיפרנציאליתאופקוסhttps://opacus.aiגרסה 1.3.0; הכשרה מבוססת DP לשמירת פרטיות
מאגר מחקר שיתופי של eICUPhysioNethttps://physionet.org/content/eicu-crd/2.0/נתוני EHR של מטופלים בטיפול נמרץ
MIMIC-IIIPhysioNethttps://physionet.org/content/mimiciii/1.4/נתוני EHR של מטופלים בטיפול נמרץ
סקריפט התקפת PGDGitHubhttps://github.com/Saswati-C/AR-FL-HERגרסה: commit-hash; יצירת דוגמאות עוינות
פייטורץ'PyTorch.orghttps://pytorch.orgגרסה 2.0; יישום והכשרת מודלים
כרטיס מסך Tesla V100NVIDIAhttps://www.nvidia.com/en-us/data-center/v100/אימון מודלים

מקורות

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,
  1. Rajkomar, A., et al. Scalable and accurate deep learning with electronic health records. npj Digit Med. 1 (1), 18(2018).
  2. Miotto, R., Wang, F., Wang, S., Jiang, X., Dudley, J. T. Deep learning for healthcare: review, opportunities and challenges. Brief Bioinform. 19 (6), 1236-1246 (2018).
  3. Huang, K., Altosaar, J., Ranganath, R. ClinicalBERT: modeling clinical notes and predicting hospital readmission. J Biomed Inform. 126, 103983(2022).
  4. Johnson, A. E. W., et al. MIMIC-III, a freely accessible critical care database. Sci Data. 3, 160035(2016).
  5. Johnson, A. E. W., et al. MIMIC-IV: a freely accessible electronic health record dataset. Sci Data. 10, 1(2021).
  6. Pollard, T., et al. eICU collaborative research database (version 2.0). PhysioNet. , (2019).
  7. Rieke, N., et al. The future of digital health with federated learning. npj Digit Med. 3 (1), 119(2020).
  8. Kairouz, P., et al. Advances and open problems in federated learning. Found Trends Mach Learn. 14 (1-2), 1-210 (2021).
  9. Sheller, M. J., et al. Federated learning in medicine: facilitating multi-institutional collaborations without sharing patient data. Sci Rep. 10 (1), 12598(2020).
  10. Dayan, I., et al. Federated learning for predicting clinical outcomes in patients with COVID-19. Nat Med. 27 (10), 1735-1743 (2021).
  11. Li, T., Sahu, A. K., Talwalkar, A., Smith, V. Federated optimization in heterogeneous networks. MLSys. 2, 429-450 (2020).
  12. Li, X., et al. FedBN: federated learning on non-IID features via local batch normalization. arXiv. , 2102.07623(2021).
  13. Goodfellow, I., Shlens, J., Szegedy, C. Explaining and harnessing adversarial examples. arXiv. , 1412.6572(2015).
  14. Bagdasaryan, E., et al. How to backdoor federated learning. Proceedings of the Twenty Third International Conference on Artificial Intelligence and Statistics, PMLR, 108, 2938-2948 (2020).
  15. Melhem, A., et al. Adversary-resilient clustered federated learning for secure AI-driven healthcare data analytics. Int Wireless Commun Mob Comput (IWCMC), , (2025).
  16. Madry, A., et al. Towards deep learning models resistant to adversarial attacks. arXiv. , 1706.06083(2018).
  17. Satpathy, S., et al. Enhancing security: federated learning against man-in-the-middle threats with gradient boosting machines and LSTM. 2024 IEEE International Conference on Advanced Video and Signal Based Surveillance (AVSS), Niagara Falls, ON, Canada, , (2024).
  18. Finlayson, S. G., et al. Adversarial attacks on medical machine learning. Science. 363 (6433), 1287-1289 (2019).
  19. Xie, C., et al. DBAFL: towards robust federated learning in the presence of model poisoning attacks. NeurIPS. 33, 14034-14045 (2020).
  20. Hitaj, B., Ateniese, G., Perez-Cruz, F. Deep models under the GAN: information leakage from collaborative deep learning. CCS '17: Proceedings of the 2017 ACM SIGSAC Conference on Computer and Communications Security, , (2017).
  21. Bonawitz, K., et al. Practical secure aggregation for privacy-preserving machine learning. CCS '17: Proceedings of the 2017 ACM SIGSAC Conference on Computer and Communications Security, , (2017).
  22. Dwork, C., Roth, A. The algorithmic foundations of differential privacy. Found Trends Theor Comput Sci. 9 (3-4), 211-407 (2014).
  23. Sonkamble, R. G., et al. Survey of interoperability in electronic health records management and proposed blockchain-based framework: MyBlockEHR. IEEE Access. 9, 158367-158401 (2021).
  24. Nguyen, D. C., Pathirana, P. N., Ding, M., Seneviratne, A. Blockchain for secure EHRs sharing of mobile cloud-based e-health systems. IEEE Access. 7 (1), 66792-66806 (2019).
  25. Mamun, A. A., Azam, S., Gritti, C. Blockchain-based electronic health records management: a comprehensive review and future research direction. IEEE Access. 10, 5768-5789 (2022).
  26. Tang, F., Ma, S., Xiang, Y., Lin, C. An efficient authentication scheme for blockchain-based electronic health records. IEEE Access. 7 (1), 41678-41689 (2019).
  27. Ghayvat, H., et al. CP-BDHCA: blockchain-based confidentiality-privacy preserving big data scheme for healthcare clouds and applications. IEEE J Biomed Health Inform. 26 (5), 1937-1948 (2022).
  28. Li, F., Liu, K., Zhang, L., Huang, S., Wu, Q. EHRChain: a blockchain-based EHR system using attribute-based and homomorphic cryptosystem. IEEE Trans Serv Comput. 15 (5), 2755-2766 (2022).
  29. Rajpurkar, P., Chen, E., Banerjee, O., Topol, E. J. AI in health and medicine. Nat Med. 28, 31-38 (2022).
  30. Goldblum, M., et al. Adversarial attacks and defenses in machine learning: an overview. IEEE Signal Process Mag. 37 (3), 31-43 (2020).
  31. Shanmugam, K., Saha, A., Venkatasubramanian, S. Federated adversarial training: a framework for robust distributed machine learning. NeurIPS Workshop Federated Learning, , Available from: https://proceedings.neurips.cc/paper_files/paper/2021 (2021).
  32. McDermott, M. B. A., et al. Reproducibility in machine learning for health. Nat Med. 27 (1), 83-86 (2021).
  33. Mohassel, P., Zhang, Y. SecureML: a system for scalable privacy-preserving machine learning. 2017 IEEE Symposium on Security and Privacy (SP), San Jose, CA, USA, , (2017).

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

הדפסות חוזרות והרשאות

בקש הרשאה לשימוש חוזר בטקסט או באיורים של מאמר JoVE זה

בקש הרשאה

תגיות

מאמרים קשורים