במטרה לטפל בבעיות של פרגמנטציה בטקסטים משפטיים ובמעקב אחר הטיות בבינה מלאכותית (AI) רפואית, מחקר זה בונה גרף ידע משפטי ומעסיק קונבולוציית גרפים מודעת-יחסים (relation-aware graph convolution) לצורך יישור סמנטי. הוא מזהה מקורות מוטיים באמצעות פריסה לאחור מבוססת גרדיאנט (gradient-based backpropagation), עם מדדי ניסוי חיוביים התומכים ביישום של בינה מלאכותית רפואית תואמת רגולציה.
מאמר מחקר
בניית גרפים של ידע משפטי ומעקב אחר הטיות בבינה מלאכותית רפואית המבוססת על רשתות עצביות גרפיות
במאמר זה
סיכום
תקציר
בניתוח ציות משפטי של בינה מלאכותית (AI) רפואית, מאמר זה עוסק בעמימות בקביעת האחריות הנגרמת מהפיצול הסמנטי של טקסטים משפטיים הטרוגניים ממקורות מרובים ומקשיים במעקב אחר הטיות אלגוריתמיות. הוא בונה שיטה להקמת גרף ידע וגילוי נתיבי התפשטות של הטיות המבוססת על רשתות עצביות גרפיות. ארבעה סוגים של צמתים הטרוגניים — סעיפי חוק, התנהגויות רפואיות, מודולים אלגוריתמיים וגורמים אחראים — מובנים ומקודדים, וגרף מכוון נבנה על בסיס ארבעה סוגים של קשרים סמנטיים משפטיים: "הפרה", "בסיס", "הפעלה" ו"שייכות". לאחר מכן, רשת קונבולוציית גרפים מודעת-קשרים, בשילוב עם משקלות ספציפיות לסוג הקשר ומנגנון קשב, משמשת להשגת יישור מאפיינים רב-שכבתי עבור סמנטיקה משפטית חוצת-מודליות. לאחר מכן, נעשה שימוש בהסעה לאחור מבוססת גרדיאנט כדי לזהות קשתות התורמות באופן משמעותי להטיה, להבנות תת-גרף של התפשטות הטיות, ולהשתמש בגילוי קהילות לאיתור צבירי צמתי-שורש. לבסוף, זרימות החלטה בזמן אמת ממופות לצמתים זמניים, הציות מאומת באמצעות דמיון שיכון (embedding similarity), והדינמיקה של משקלות קשת מרכזיות מנוטרת כדי להזהיר מפני הצטברות של הטיות מערכתיות. ניסויים מראים כי מבחינת דיוק יישור סמנטי, השיטה המוצעת משיגה דיוק ממוצע של יישור ישויות של לפחות 0.92 ושלימות ממוצעת של שימור קשרים של לפחות 0.88 על פני מדרגי צפיפות שונים של גרפי ידע. בנוגע ליכולת איתור הטיות, קצב השחזור של צמתי השורש מגיע ל-0.95±±0.02, והדיוק של נתיב ההתפשטות מגיע ל-0.93±±0.03. מחקר זה, במידה מסוימת, משיג צימוד עמוק בין לוגיקה משפטית להתנהגות אלגוריתמית, ומספק מערכת תמיכה לציות הניתנת להסבר ולאימות עבור פריסה מהימנה של AI רפואית.
מבוא
המעורבות העמוקה של בינה מלאכותית רפואית באבחון ובתמיכה בטיפול, בהקצאת משאבים ובהערכת סיכונים, קשרה את קבלת ההחלטות שלה להנחה של אחריות משפטית1,2. הנורמות המשפטיות הן מובנות מאוד אך מפוזרות סמנטית, והתנהגותן של מערכות בינה מלאכותית עשויה להיות "קופסה שחורה", ללא ממשק שניתן ליישר סמנטית ולעקוב אחריו בין השתיים3. בהקשר זה, פיתוח מסגרת ייצוג משותפת הלוכדת שרשראות סיבתיות משפטיות בתוך רצפי התנהגות אלגוריתמיים הפך למאפשר הכרחי להגשמה של ייחוס אחריות מדוקדק וציות דינמי4,5. מחקר זה אינו קשור רק לבדיקה משפטית של מערכות טכנולוגיות, אלא הוא כולל גם שמירה מעמיקה על הוגנות רפואית, הוגנות אלגוריתמית ואמון מוסדי, ולכן יש לו חשיבות תיאורטית רבה ודחיפות מעשית.
הסוגיה היסודית בניתוח תאימות משפטית של בינה מלאכותית (AI) רפואית כיום היא המחסור במבנה קישור חישובי בין סמנטיקה משפטית לבין התנהגות אלגוריתמית6,7. מסמכים משפטיים זמינים כטקסט רגיל, והקשרים בין הפסקאות שזורים בתלויות, קונפליקטים וחריגות, דבר הגורם לבעיות בעת פירוקם ליחידות לוגיות הניתנות לפירוש על ידי מכונות8,9. זאת למרות שקבלת ההחלטות של מערכת ה-AI מוכלת ב"קופסה שחורה" מונחית-נתונים, ואף אחת מהווריאציות של פלטי המערכת אינה ניתנת למעקב אחר הפרות ספציפיות של חובות משפטיות או נקודות לחלוקת אחריות10,11. ניתוק כזה (למשל, הטיות בנתוני האימון, פגמים בתכנון המודל או הפרשנות הסמנטית של נורמות משפטיות) אינו ניתן לבידוד ניסויי לצורך זיהוי מקור ההטיה או הבהרת חובות משפטיות עבור מפתחים, פורסים או משתמשים12,13. בעייתית אף יותר היא העובדה שנהלי ציות קיימים בודקים רק אם פלט סופי עומד במפרט קבוע, מבלי להתחשב בנתיב ההפצה או בהגברת ההטיה ברשת האינטראקציות של "חוק-טכנולוגיה"14,15. כאשר בינה מלאכותית רפואית כפופה למספר הוראות משפטיות בו-זמנית, והמערכת מייצרת שרשרת של שגיאות עקב פרשנות שגויה של סעיף אחד, גישות קונבנציונליות אינן יכולות לעקוב אחר האופן שבו השגיאה מתפשטת דרך הוראות קשורות אחרות ולאחר מכן מגיעה להגדרת האחריות16,17. בנוסף, קיים מחסור במנגנון קורלציה דינמי בין זרימת ההחלטות בזמן אמת לבין גרף הידע הקיים של החוק, מה שמוביל להערכת ציות מאוחרת במהלך הפעלת המערכת, ובכך מונע ניטור פרואקטיבי של מגמת הצטברות ההטיות18,19. סוגיות אלו יחד מובילות לחוסר ודאות בקביעת האחריות, ייחוס שברירי והתערבות רגולטורית מאוחרת, המעכבים באופן משמעותי פריסה מהימנה של מערכות AI רפואיות בסיכון גבוה ואת יישום האחריות המשפטית.
מעל לכל, מחקר מסורתי בוחן טקסטים משפטיים בצורה מובנית ובונה מאגרי ידע של תחומים ספציפיים באמצעות אונטולוגיות או כללים, וזאת כדי לתמוך בשאלות ותשובות בנושאי תאימות או בהודעות על סיכונים20,21. למרות שגישות אלו יכולות ללכוד ייצוגים של מושגים משפטיים מסוימים, הן נוטות להניח מראש כי הלוגיקה הפנימית של החוק היא קוהרנטית וסטטית, מה שמקשה על התמודדות עם חוסר עקביות בין תחומי שיפוט, חריגות או ניסוחים מעומעמים. עבודות מאוחרות יותר הציגו טכנולוגיית עיבוד שפה טבעית, המשתמשת במודלי שפה מאומנים מראש כדי לחלץ ישויות וקשרים משפטיים, ובכך שיפרו את רוחב הכיסוי של חילוץ הידע22,23, אך הן עדיין נותרות ברמה סמנטית רדודה, ובכך נכשלות ביצירת ממשק מיפוי בין התנהגויות משפטיות לטכניות. מבחינת ממשל של הטיות אלגוריתמיות, המחקר התמקד בעיקר בעיצוב של אילוצי הוגנות24,25, ומדדי ההערכה שלו מבוססים בדרך כלל על משתנים דמוגרפיים, ללא התאמה לעקרונות ייחוס משפטיים. אפילו מחקרים מסוימים ניסו לקודד כללים משפטיים כאילוצים ולהטמיע אותם באימון המודל26,27, אך בשל הקשיחות והגרנולריות הגסה של ביטוי הכללים, קשה להתאימם למצבים קליניים מורכבים. באופן כללי, עבודות קיימות מתייחסות לתאימות משפטית כמשימת אימות חיצונית ולא כתכונה חישובית אינהרנטית של ארכיטקטורת המערכת. הדבר מוביל לכך שהלוגיקה המשפטית והלוגיקה האלגוריתמית פועלות במקביל, ללא תמיכה בהסקה משותפת ובהתערבות דינמית בנתיבי הפצת ההטיות.
בשנים האחרונות, רשתות עצביות גרפיות הוכנסו בהדרגה לתחום הרפואי בשל יכולות המידול המפורשות שלהן של מבנים יחסיים28,29. מספר מחקרים עושים שימוש בגרפים הטרוגניים כדי לשלב פסיקה, הוראות משפטיות ומידע על בעלי הדין, ובכך תומכים בהמלצות על תיקים או בחיזוי גזרים באמצעות שיכbeding של צמתים (node embeddings)30,31, ובדרך זו מאמתים את היעילות של מבני גרפים בלכידה של קשרים משפטיים. עבודות אחרות מופשטות רכיבים אלגוריתמיים כצמתים בגרף, תוך שימוש במקצועות (edges) לייצוג זרימות נתונים או קשרי קריאה לצורך מעקב אחר התפשטות שגיאות32,33. חקירות אלו מוכיחות כי מבני גרפים יכולים לשמש כנשא משותף של אלמנטים משפטיים וטכנולוגיים. עם זאת, מודלים גרפיים קיימים סובלים בדרך כלל משלוש מגבלות: ראשית, הם מוגבלים לסוג אחד של קשר קצוות, ובכך אינם מצליחים להבחין בין הבדלים נורמטיביים, סיבתיים וייחוסים בסמנטיקה משפטית; שנית, תהליך אגרגציית התכונות מתעלם מהמשקלות הסמנטיים של סוגי הקצוות, מה שמוביל להתייחסות שווה לנתיבי לוגיקה משפטית שונים; ושלישית, הם חסרים מנגנון מעקב דיפרנציביבילהפצת הטיות, מה שהופך את איתור קצוות בעלי תרומה גבוהה ושחזור נתיבי אחריות לבלתי אפשרי. מאמר זה בונה רשת קונבולוציונית גרפית מודעת-יחסים (relation-aware graph convolutional network) הנותנת מענה לבעיית מיזוג ההטרוגניות הסמנטית על ידי הקצאת מטריצת טרנספורמציה ייעודית לכל סוג של קצה סמנטי משפטי והצגת מנגנון קשב (attention mechanism) להתאמה דינמית של זרימת מידע בין סוגים שונים. יתרה מכך, על ידי שילוב של פעפוע אחורי של גרדיאנט (gradient backpropagation) וחילוץ תת-גרפים, המודל מאפשר מעבר פרשני משיפוט תאימות ברמה המקרוסקופית למעקב אחר הטיות ברמה המיקרוסקופית, ובכך מתגבר על צוואר הבקבוק של מודלים גרפיים מסורתיים התומכים רק בהסקה סטטית.
מעבר לתחום הרפואי, התקדמויות אחרונות בשיטות מבוססות-גרפים ובשיטות אבולוציוניות הדגימו ישימות רחבה לעיבוד ידע מובנה. לדוגמה, Xue et al. הציעו גישה רב-שכבתית של תכנות גנטי היברידי לבנייה אדפטיבית של מאפייני דמיון בהתאמת אונטולוגיות, ובכך השיגו יישור חסון בין גרפי ידע הטרוגניים34. Cheng et al. סיפקו סקירה מקיפה של יישומים של רשתות קונבולוציה גרפיות בשחזור תמונות, תוך סיווג שיטתי של שיטות להסרת רעשים, רזולוציה גבוהה (super-resolution) והסרת טשטוש (deblurring)35. Li et al. הציגו סקירה מעמיקה על למידה עמוקה אבולוציונית מנקודת המבט של למידת מכונה אוטומטית, המכסה עקרונות, אלגוריתמים, יישומים ואתגרים פתוחים36. Ma et al. פיתחו מסגרת לחיפוש ארכיטקטורה עצבית עמומה (fuzzy neural architecture search) לזיהוי פגמים תחת אי-וודאות, והדגימו את יעילותו של חיפוש אבולוציוני בטיפול בנתונים מעורפלים37. מחקרים אלו מדגישים את הפוטנציאל שבשילוב ייצוגים מבוססי-גרפים ואופטימיזציה אבולוציונית למשימות קבלת החלטות מורכבות.
המטרה המרכזית של מאמר זה היא לבסס מסגרת ניתנת לפירוש מקצה לקצה לצורך ניתוח תאימות משפטית של בינה מלאכותית (AI) רפואית, עם חידושים בשלוש רמות. ברמת ייצוג הידע, זוהי הפעם הראשונה שבה סעיפי חוק, פרקטיקות רפואיות, מודולי אלגוריתם וגורמים אחראים ממודלים כארבעה סוגים של צמתים הטרוגניים. בהתבסס על הפרקטיקה המשפטית, היא מחלצת ארבעה סוגים של קשרי כיוון: "הפרה", "בסיס", "הפעלה" ו"ייחוס", ובכך בונה גרף ידע מכוון בעל לוגיקה סיבתית משפטית, המספק תשתית סמנטית מובנית לניתוח תאימות. במעקב אחר מקור ההטיה, היא מציעה שיטה לכימות תרומת קשתות המבוססת על רגישות גרדיאנט. באמצעות פעפוע לאחור (backpropagation), היא מוצאת את קבוצת הקשתות הממקסמת את הטיית הפלט, ולאחר מכן מיישמת אלגוריתם לגילוי קהילות כדי לקבץ צמתים בעלי תרומה גבוהה, ובכך הופכת "הטיית קופסה שחורה" ל"צבירי אחריות קופסה לבנה", מה שמאפשר ייחוס המבוסס על שרשרת ראיות ניתנת להפעלה. ברמת הניטור הדינמי בזמן אמת, היא מפתחת מנגנון שיבוץ (embedding) זמני של צמתי החלטה הממפה פלטי AI בזמן אמת אל מרחב גרף הידע. בהתבסס על השוואת קרבת השיבוץ, היא מכמתת את מידת הסטייה מהנורמה ומנטרת את שינויי המשקל של אותן קשתות משפטיות-טכניות חיוניות, כדי לסמן הצטברות של הטיה מערכתית. פרדיגמה זו פותרת הן את בעיית הפיצול הסמנטי והן את אתגרי העקיבות, והופכת את התאימות המשפטית מאימות בדיעבד (ex post) למשילות מראש (ex ante), ובכך מציעה נתיב טכני ניתן להרחבה לשקיפות של אחריות במערכות AI בסיכון גבוה.
פרוטוקול
בניית רשת עצבית גרפית עבור גרף ידע משפטי של בינה מלאכותית רפואית
כפי שמוצג ב-איור 1, המסגרת המוצעת מורכבת משלושה מודולים עיקריים. שכבת הקלט משלבת נתונים ממקורות מרובים לתוך גרף הטרוגני באמצעות קידוד ישויות מולטי-מודאלי ומידול קשתים מכוונות. שכבת ה-GCN המודעת ליחסים מבצעת לאחר מכן התאמה סמנטית חוצת-מודלים באמצעות משקולות ותשומת לב (attention) ספציפיות לסוג, ומפיקה שיבוצי צמתים (node embeddings) מאוחדים. לבסוף, שיבוצים אלו תומכים במעקב אחר הטיות (באמצעות הפצה לאחור של גרדיאנטים וזיהוי קהילות) ובניטור תאימות דינמי (באמצעות מיפוי צמתים בזמן אמת ומעקב אחר משקולות קשתות), כאשר הפלט מספק ראיות ייחוס ניתנות לפירוש והתרעות סיכון עבור הרגולטורים.
איור 1ארכיטקטורת גרף ידע משפטי ומעקב אחר הטיות עבור בינה מלאכותית רפואית. תרשים זה ממחיש את זרימת העבודה הכללית של המסגרת המוצעת. שכבת הקלט מאחדת נתונים הטרוגניים ממקורות מרובים (טקסטים משפטיים, הנחיות קליניות, דוחות ביקורת של אלגוריתמים), אשר מקודדים לארבעה סוגי ישויות (סעיפים משפטיים, התנהגויות רפואיות, מודולי אלגוריתם, גופים אחראים) ומקושרים באמצעות ארבעה קשרי משמעות-משפטית מכוונים (הפרה, בסיס, טריגר, ייחוס). שכבת ה-GCN המודעת לקשרים מבצעת יישור סמנטי בין מודאליות שונות באמצעות משקלות ותשומת לב (attention) ספציפיות לסוג הישות. מודול מעקב ההטיה משתמש בהפצת גרדיאנט לאחור (gradient backpropagation) כדי לזהות קצוות בעלי תרומה גבוהה, ולאחר מכן מיישם זיהוי קהילות כדי לאתר מקבצי צמתי-שורש. ניטור התאימות הדינמי ממפה החלטות בזמן אמת לצמתים זמניים, מעריך דמיון שיכון (embedding similarity) מול סעיפים משפטיים, ועוקב אחר התפתחות משקל הקצוות לצורך התראה מוקדמת. הפלטים כוללים ראיות ייחוס ניתנות לפירוש והתראות סיכון. אנא לחצו כאן כדי לצפות בגרסה גדולה יותר של איור זה.
קידוד במבנה גרף הטרוגני של ישויות משפטיות וקשרים
ארבע ישויות בסיסיות נגזרות באופן עקבי מחוקי רגולציה של בינה מלאכותית רפואית, הנחיות פרקטיקה קלינית ודוחות ביקורת של אלגוריתמים: סעיפים משפטיים, פרוצדורות רפואיות, מודולים אלגוריתמיים וישויות בעלות אחריות. מודל למידה של ייצוג מאפיינים נפרד מוצע עבור כל סוג של ישות כדי שיהיו מובחנות סמנטית. צמתי הסעיפים המשפטיים מאורגנים כך שיכילו את מספר הסעיף המשפטי, והוא משמש כמזהה ייחודי (ID) עבור הסעיף. במקביל, מוגדר מדד כימות לחומרת העונש כדי לציין את רמת האחריות המשפטית הקשורה לסעיף, וכתוצאה מכך, נקבע וקטור מאפיינים.
（1）
ci הוא מספר הרשומה, Emb(·) מייצג את מיפוי השקיעה (embedding) לממד נמוך, ו-[·;·] מייצג את פעולת שרשור הווקטורים. ייצוג זה משמר הן את המבנה הפורמלי והן את חומרת העונש של הטקסט המשפטי, ובכך תומך בהסקה בין הצהרות שונות.
צמתי התנהגות רפואית הם סטנדרטיים ומקודדים על בסיס מערכת סיווג פעולות קליניות, תוך חילוץ רמת הסיכון שלהם rj ∈ {1,2,3} ומערכת תוויות התרחישים הרלוונטיות sj ⊂ S, כאשר S היא המערכה המלאה של קטגוריות תרחישים שנקבעו מראש. קידוד Multi-hot משמש לעיבוד מערכת התוויות, והוא משורשר עם השכבה המייצגת (embedding) של רמת הסיכון כדי ליצור ייצוג ראשוני:
（2）
אסטרטגיה זו מבטיחה שלסוגים שונים של התנהגויות רפואיות יהיו יחסי מרחק מדידים במרחב הווקטורי, דבר התומך בהשוואות בין תרחישים שונים. פונקציית שיכון הטקסט Emb(·) מיושמת באמצעות המודל לשפה משפטית סינית שמאומן מראש, Lawformer (שמאומן על קורפוס משפטי סיני רחב היקף), כאשר ממד הפלט קבוע ב-768.
בהתבסס על התלויות הלוגיות והמגבלות המשפטיות בין ישויות, נקבעו ארבעה סוגים של קשרים סמנטיים מכוונים: "הפרה" (violation), "בסיס" (basis), "טריגר" (trigger) ו-"ייחוס" (attribution), כאשר כל אחד מהם תואם לדפוסים סיבתיים משפטיים שונים. לכל קשת eij ⊂ E מוקצית תווית מסוג tij ⊂ T = {violate, base, trigger, attribute} לצורך העברת הודעות עוקבת למודעות לקשרים. בניית הקשתות עוקבת בקפידה אחר מנגנון התאמת כללי התחום: כאשר התנהגות רפואית חורגת מהדרישות הנורמטיביות, נקבעת קשת "הפרה" המצביעה מצומת ההתנהגות אל הסעיף המשפטי הרלוונטי; כאשר הסעיף המשפטי משמש כבסיס לציות טכני עבור פעולה מסוימת, נקבעת קשת "בסיס"; אם פלט של מודול האלגוריתם מפעיל ישירות ביצוע של התנהגות רפואית ספציפית, מחוברת קשת "טריגר"; קשר ייחוס אחריות נקבע על בסיס מסמכי האחריות של הארגון ומסקנות הביקורת, ובכך נקבעת קשת "ייחוס" בין הגורם האחראי לבין ההפרה או הפגם באלגוריתם.
לאחר אתחול כל הצמתים, נוצר גרף הטרוגני (V, E, H0), כאשר V היא קבוצת הצמתים, E היא קבוצת הקשתים המכוונות עם תוויות סוג, ו-H0 היא מטריצת המאפיינים הראשונית. כדי לשפר את היכולת המבדילה הסמנטית של מבנה הגרף, מאפייני הצמתים מנורמלים:
（3）
μk ו-σk הם הממוצע וסטיית התקן של מאפיין הצומת ה-k במערכת האימון, בהתאמה, ו-∈ הוא קבוע קטן למניעת חלוקה באפס. הנרמול מבטיח שמאפיינים הטרוגניים ממקורות מרובים ישתתפו בפעולות קונבולוציה של גרף בקנה מידה אחיד, ובכך מונע מהשפעות של דומיננטיות נומרית להפריע ללמידה סמנטית. מודל הגרף המובנה המתקבל נושא באופן מלא את הטופולוגיה היחסית של ארבעת האלמנטים מממדי החוק, ההתנהגות, הטכנולוגיה והאחריות במערכת AI רפואית, ומספק בסיס גרפי הניתן לחישוב עבור ניתוח הפצת הטיות בהמשך.
שיפור יישור קונבולוציית גרפים עבור סמנטיקה משפטית רב-מודאלית
רשת קונבולוציית גרפים מודעת ליחסים (relation-aware graph convolutional network)38,39, המרחיבה את מסגרת רשת הקונבולוציה של גרפים רלציוניים (R-GCN), משמשת להעברת תכונות (features) לאורך שכבות מרובות של הגרף ההטרוגני הראשוני. בעוד ש-R-GCN מציגה מטריצות טרנספורמציה לכל יחס עבור נתונים רלציוניים כלליים, הגישה שלנו משלבת בנוסף מנגנון קשב (attention mechanism) למידה כדי לשקלל באופן דינמי את תרומות השכנים, ומגדירה ארבעה סוגי יחסים משפטיים-סמנטיים ספציפיים (הפרה, בסיס, טריגר, ייחוס) המותאמים לניתוח תאימות של בינה מלאכותית רפואית. הפעולה של כל שכבה מגדירה באופן עצמאי את פרמטרי תהליך הטרנספורמציה בהתבסס על הסוג הסמנטי של הצלעות. עבור כל צומת יעד, מידע השכנות שלו מקובץ ומאוגד לפי סוגי הצלעות המקשרות. כל סוג של יחס מצויד במטריצת טרנספורמציה ליניארית ייעודית כדי להבדיל בין התכונות המועברות לאורך נתיבים סמנטיים משפטיים שונים40,41. אם הצלע בין צומת הסעיף המשפטי לצומת ההתנהגות הרפואית היא מסוג "בסיס", כאשר צומת הסעיף המשפטי מקבל הודעה מצומת התנהגות רפואית, הוא מחיל את מטריצת המשקל המתאימה כדי למפות את תכונות השכן באופן מרחבי. באותו אופן, כאשר צומת התנהגות רפואית שולח פלט דרך צומת מודול סכימת אינטגרציה של צלעות מסוג "טריגר" אל מודול אלגוריתמי, מטריצת הפרמטרים המזוהה עם יחס זה מבצעת טרנספורמציית תכונות. דבר זה מדמה את הגמישות של סוגים שונים של לוגיקה משפטית, ומממש/מזין שכבות לוגיות שונות כדי לשמור על עצמאות סמנטית במהלך זרימת המידע ללא רעש חוצה-מודאלי. האיגור (aggregation) מוגדר באופן הבא:
（4）
mi(l) מייצג את המידע המקיף שנאסף על ידי צומת i בשכבה l, Nil היא קבוצת השכנים שלו תחת יחס r, Wr היא מטריצת הטרנספורמציה הליניארית, ו-hj(l−1) הוא ייצוג ההטמעה (embedding) של צומת השכן בשכבה הקודמת.
מנגנון קשב (attention mechanism) למידה מוצג במהלך אגרגציית ההודעות כדי להתאים באופן דינמי את עוצמת ההשפעה של צמתים שכנים שונים על עדכון הייצוג של צומת המטרה42,43. מקדם הקשב נוצר על בסיס שני גורמים: דמיון במאפייני הצמתים וחשיבות משפטית, ללא הסתמכות על משקולות קבועות מראש. עבור צמתי סעיפים משפטיים, בעת קבלת מאפייני התנהגות רפואית של שכנים, ציון הקשב מחושב על בסיס הערך הכמותי של עוצמת העונש הקשורה לאחרונים; כאשר צומת מודול האלגוריתם ממזג מידע על התנהגות רפואית, הוא מתמקד בשכנים בעלי רמות סיכון תפעולי גבוהות יותר. משקל הקשב מחושב באופן הבא:
（5）
αij הוא מקדם הקשב של צומת j לצומת i, ו-a הוא וקטור הקשב הניתן ללמידה. מודל זה מאפשר זיהוי אוטומטי של נתיבים מקושרים בסיכון גבוה או תחת אילוץ גבוה במהלך אימון מקצה לקצה, תוך הקצאת קשב גבוה יותר עבורם. השכembedding המעודכן הסופי של הצומת נקבע על ידי הודעות משוקללות וחיבורי שארית.
（6）
σ היא פונקציית ההפעלה, ותכנון שאריתי (residual design) מפחית את בעיית היעלמות הגרדיאנט בהעברה עמוקה ומבטיח יציבות בנוכחות קונפליקטים סמנטיים מרובים. בעקבות L = 3 שכבות קונבולוציה של גרפים (כל אחת עם ממד נסתר של 256 והפעלת ReLU), השכבות של כל הצמתים משלבות בצורה חלקה מידע קשרי חוצה-מודאליות והופכות לייצוגים מאוחדים עם יכולות הבחנה סמנטית משפטית.
שתי דיאגרמות חלופיות לניתוח תאימות משפטית עבור ה-AI בתחום הבריאות מוצגות באיור 2, במטרה לטפל בהדמיה של סוגי קשרים משפטיים ונתיבים להפצת הטיות, המצביעים על מקורות פוטנציאליים להטיות בתהליך קבלת החלטות זה. איור 2A מציג את ההשפעה של קשרים סמנטיים משפטיים שונים, כאשר ארבעה סוגי קשרים מקודדים בצבעים, ועבור כל סוג הקשתות נבדלות באמצעות צבע שונה. עובי הקשת תואם למשקל הקשב (attention weight) של אותו קשר ספציפי, כלומר, עד כמה קשר זה תורם להחלטת ה-AI. קשת עבה מצביעה למעשה על קשר משפטי דומיננטי בהחלטה ובמקרה זה היא סיפקה מוטיבציה מספקת לתוצאת המקרה. גודל הצומת נמדד לפי תרומתו להפרות: צמתים גדולים יותר מעידים על קשר חזק יותר בין ההתנהגות לסעיפים משפטיים ספציפיים, ולפיכך על סיכון פוטנציאלי גבוה יותר. הדמיה זו מספקת שכבה סמנטית משפטית ברורה, המאפשרת לנו לזהות את הנתיבים המשפטיים החזקים והמסוכנים ביותר בקבלת החלטות של AI. איור 2B מצביע גם הוא על נתיבים בעלי תרומה גבוהה (להפצת הטיות) עם דגש על קשתות בעלות תרומה גבוהה, אשר מודגשות בקו עבה ומלוות בקווי מקווקו (למשל B1-B3) בתהליך קבלת ההחלטות. הכפלת הרוחב של קשתות אלו מייצגת את חשיבותן בהפצת הטיות מערכתיות. אילו שילובים של כללים משפטיים והתנהגויות טכניות גורמים לאפקט הגברה זה של הטיות מוצגים באיור 2. ניתוח זה לא רק חושף את נתיב הפצת ההטיה, אלא גם מסייע בזיהוי מקור ההטיה, שעל בסיסו ניתן לבצע ביקורת תאימות ולקבוע את האחריות של כלי ה-AI.
איור 2: ניתוח של תאימות משפטית והפצת הטיות ב-AI של שירותי בריאות (דוגמה להמחשה). (A) קשרי סמנטיקה משפטית מקודדים בצבעים: הפרה (אדום), בסיס (כחול), טריגר (ירוק), שיוך (כתום). עובי הקו פרופורציונלי למשקל הקשב (attention weight), המצביע על השפעת כל קשר על החלטת ה-AI. גודל הצומת פרופורציונלי לתרומתו להפרה, מה שמדגיש ישויות בסיכון. (B) תת-גרף של הפצת הטיות: קווים בעלי תרומה גבוהה מודגשים ובקו מקווקו (למשל, B1‑B3); קווים ברוחב כפול מצביעים על הגברה של הטיה מערכתית. ויזואליזציה זו תומכת בזיהוי נתיבים משפטיים דומיננטיים, מקורות להטיה וביקורת תאימות. סולמות מדידה או פסי שגיאה אינם רלוונטיים מאחר שמדובר באיור סכמטי. אנא לחץ כאן כדי לצפות בגרסה גדולה יותר של איור זה.
מנגנון נסיגה של תת-גרף עבור נתיב התפשטות הטיות
במחקר זה, "הטיה" (bias) מוגדרת כסטייה שיטתית של פלט מערכת בינה מלאכותית מההחלטה המצופה מבחינה קלינית ומשפטית, הנמדדת על ידי הפער בין ציון הסיכון החזוי של המודל לבין תווית הציות המהווה את ה-ground-truth. אות ההטיה מכומת כהפסד אנטרופיה צולבת (cross-entropy loss) בין הפלט הסופי של האלגוריתם לבין אינדיקטור בינארי של ציות (1 עבור תואם, 0 עבור לא תואם), המחושב באופן מצטבר עבור כל מקרים ההחלטה ב-batch.
לאחר אימון רשת העצבים הגרפית, נעשה שימוש ביכולת הגזירה שלה כדי לבצע ניתוח של התפשטות לאחור (backpropagation) על אות ההטיה בשכבת הפלט. החל מצומת ההחלטה של האלגוריתם המזהה חריגות, מחושב גודל הגרדיאנט של פונקציית ההפסד ביחס לכל קשת מחברת, כדי לכמת את תרומתה של כל קשת להיווצרות ההטיה. תהליך זה מיושם באמצעות מסגרת של גזירה אוטומטית, תוך נסיגה שכבה אחר שכבה לאורך הקשתים המכוונות במבנה הגרף, כדי לקבל את עוצמת ההשפעה של כל התמרת פרמטר של קשת על השינוי בפלט הסופי. ככל שהערך המוחלט של הגרדיאנט גבוה יותר, כך הקשר המשפטי-טכני המועבר על ידי אותה קשת דומיננטי יותר בהפצת ההטיה. תרומתה של קשת מוגדרת כ:
（7）
Lbias הוא ההפסד הגזיר המוגדר עבור התנהגות מוטה, ו-wi הוא וקטור משקלי הכניסה המתאים לסוג הקֶשֶר. ערך גרדיאנט זה משקף את מידת ההשתתפות של קשר סמנטי ספציפי בהטיית השיוך הנוכחית. לאחר שכל הקשרים מדורגים באופן זה, נקבע סף דינמי τ כדי לסנן את קבוצת הקשרים בעלי התרומה הגבוהה Ehigh, שתרומתם עולה על gij > τ, ובכך נוצר תת-הגרף הראשוני להפצת ההטיה Gbias = (Vbias, Ehigh). באופן ספציפי, τ נקבע כאחוזון ה-85 של ערכי הגרדיאנט המוחלטים בכל הקשרים בכל תקופת אימון (epoch), ובכך מובטח שרק 15% מהקשרים המשפיעים ביותר יישמרו לבניית תת-הגרף. תת-גרף זה מתמקד בנתיבי קישור מרכזיים בעלי הסבירות הגבוהה ביותר להניע הטיה שיטתית, ובכך הוא דוחס את מרחב החיפוש ומשפר את היעילות של מעקב אחר המקור.
בתוך תת-הגרף של התפרוסות ההטיה (bias-propagation subgraph) שהוקם, מופעל אלגוריתם לזיהוי קהילות המונחה על ידי צבירה ספקטרלית (spectral clustering), במטרה לזהות מבני אשכולות של צמתים בעלי יישור גבוה. תהליך זה מבוסס על פירוק מטריצת לפלס הנורמלית של תת-הגרף, הממפה שיבודי צמתים למרחב ספקטרלי רב-ממדי נמוך ומיישם אסטרטגיית צבירה מודעת לצפיפות במרחב זה, על מנת להבטיח שצמתים מסוגים שונים (כגון סעיפים משפטיים ומודולים אלגוריתמיים) יקובצו לאותו אשכול כאשר הם קשורי תפקודית באופן הדוק. כל קהילה שזוהתה מייצגת לולאה תפקודית פוטנציאלית או יחידה של ריכוז אחריות. תוצאות חלוקת הקהילות מונעות על ידי יעדי האופטימיזציה הבאים:
(8)
L=D−A היא מטריצת הלפלסיאן של תת-הגרף, A היא מטריצת הסמיכות, D היא מטריצת הדרגות, ck הוא וקטור האינדיקציה של הקהילה ה-k, ו-K הוא מספר הקהילות שנקבע מראש. קריטריון זה ממקסם את הפרש החיתוך המינימלי בין קהילות, ובכך מבטיח קשרים פנימיים הדוקים.
כעת, מבוצע ניתוח מבוסס קומפוזיט חוצה-שכבות עבור כל קהילה. אם קהילה מכילה צמתי סעיפי חוק וצמתי מודולי אלגוריתם, היא מסומנת כמקור פוטנציאלי להטיה. כדי לבחון את הקשר הסיבתי, מבוצע ניסוי התערבות: כל הקשתות באזור זה מוסרות זמנית מהגרף, תהליך קבלת ההחלטותים זה מורץ שנית, וההבדלים במדדי ההטיה נבחנים. מדד התקפות הסיבתית מוגדר כ:
(9)
Borig ו-Bmask מייצגים את עוצמת ההטיה של המודל המקורי ואת ההטיה לאחר מיסוך, בהתאמה. אם מדד התקיפות הסיבתית גבוה באופן משמעותי מהסף שנקבע מראש, הדבר מרמז כי מקבץ הצמתים זוהה כמקור הסברי להטיה, אשר ינחה בהמשך את תיקון הצייות ואת הקצאת השגיאות.
אימות תאימות דינמי של מגבלות משפטיות
מקרים של קבלת החלטות בזמן אמת המופיעים במהלך הפעלתו של מערכת בינה מלאכותית רפואית מוצגים כצמתים זמניים ומוטמעים במרחב של גרף ידע נלמד. וקטור מאפיינים ראשוני נוצר על ידי כל צומת באמצעות קריאת הקשר הקלט שלו, התנהגות הפלט ומצב האלגוריתם. לאחר מכן, וקטור זה מוזן לרשת עצבית גרפית עם פרמטרים קפואים כדי לבצע הפעלה קדימה (forward propagation) של שכבה אחת, ובכך להפיק הטמעה התואמת לגרף הידע מבלי לשנות את מבנה הגרף המקורי. באופן זה, הדבר מאפשר להשוות בין צמתים זמניים לבין צמתי סעיפים משפטיים במרחב סמנטי משותף.
לאחר מכן, חשבו את דמיון הקוסינוס (cosine similarity) בין הצומת הזמני לבין כל אחד מצומתי סעיפי החוזה:
（10）
htemp הוא הייצוג (embedding) של הצומת הזמני, ו-hjlaw הוא הייצוג של צומת סעיף החוק ה-j. ערך הדמיון משקף למעשה את מידת ההתאמה הסמנטית בין ההחלטה הנוכחית לכל הגבלה משפטית. סף ציות דינמי θ נקבע על בסיס התפלגות הדמיון של דגימות ציות היסטוריות כדי להתאים את גבול השיפוט תחת תרחישי יישום שונים. באופן ספציפי, θ = µ - 2σ, כאשר µ ו-σ הם הממוצע וסטיית התקן של התפלגות דמיון הקוסינוס שחושבה מתוך קבוצת אימות של 500 מקרים ידועים של החלטות תואמות.
אם ציון דמיון הקוסינוס (cosine similarity) יורד מתחת לסף הציות הדינמי, כלל המשפט המתאים נחשב למופר, מה שמפעיל את מנגנון ההתרעה על אי-ציות. ההודעה כוללת גם את מספר הסעיף המשפטי התואם המינימלי, את ערך הדמיון ואת כיוון ניתוח השוני, אשר אמורים להספיק כדי שהרגולטורים יפעלו במהירות. גישה זו מספקת מיפוי ניתן לפירוש מקבלת החלטות עמומה למרחב הסמנטיקה המשפטית ומקלה על בדיקת ציות בזמן אמת.
במהלך פעולה רציפה, נערמך מעקב אחר מגמת שינוי המשקל של קצוות חיבור מרכזיים בין טכנולוגיה למשפט בתת-גרף של התפשטות ההטיה. דגש מיוחד מושם על הקצוות המחברים בין צמתי מודול אלגוריתמי לבין צמתי סעיפים משפטיים, שכן הם מייצגים ישירות את עוצמת התגובה של התנהגות טכנית לרגולציות ספציפיות. פרמטרי מטריצת הטרנספורמציה עבור כל קצה מטרה נרשמים במהלך ההסקה, והנורמה שלהם מופקת כאינדיקטור דינמי לאבולוציה של עוצמת המתאם ביניהם. הגדרת רצף עוצמת הקצוות כ:
（11）
ות׳ מייצג את נורמת פרובניוס (Frobenius norm) של מטריצת המשקולות המתאימה לקשר בין קשת הij בחותמת הזמן תו- ו'kl(t) האם מטריצת הפרמטרים אכן נמצאת בשימוש במודל באותו זמן. מדד זה משקף את עומק הלמידה של המודל או את תלותו באילוץ המשפטי.
מבחן מונוטוניות עם חלון נחלק מבוצע על הרצף, ומבחן סימנים משופר משמש לקביעה האם נצפתה מגמת עלייה משמעותית. אם העליות לאורך N צעדי זמן עוקבים מקיימות את תנאי הדומיננטיות החיובית, אזי הקשת נחשבת ככזו המפגינה תופעת חיזוק חריגה. בשילוב נוסף של נתוני תרומת גרדיאנט היסטוריים, אם הקשת זוהתה כנתיב בעל השפעה גבוהה בסבב הקודם של ניתוח מעקב למקור, יופעל תהליך התרעה מוקדמת על הצטברות הטיות מערכתית.
לבסוף, נוצר דוח מעקב אחר המקור, הכולל מידע על הצמתים בשני קצות הצלע הממוקדת, עקומות שינוי משקלים, סטטיסטיקה על תדירות ההחלטות הקשורות, והמלצות פוטנציאליות לייחוס. מנגנון זה מאפשר מעבר משיפוט תאימות סטטי לחיזוי סיכונים דינמי, התומך בהתערבות פרואקטיבית בסטיות מוסדיות פוטנציאליות.
נתונים ותכנון ניסיוניים
כדי לאמת את יעילות המסגרה המוצעת, מאמר זה בונה מערך נתונים הטרוגני רב-מקור המשלב רגולציות ממסמכים רשמיים ונתוני סימולציה, ומעצב ניסויי בקרה קפדניים. מקורות הנתונים כוללים רגולציות לאומיות לבינה מלאכותית רפואית, הנחיות לטיפול קליני, דוחות ביקורת של אלגוריתמים מקור פתוח ויומני החלטות של סימולציות. לאחר עיבוד מקדים, נבנה גרף ידע הטרוגני המשמש כבנצ'מרק, המכיל 285 צמתים (85 סעיפי חוק, 120 התנהגויות רפואיות, 42 מודולי אלגוריתם ו-38 ישויות אחראיות) ו-1247 קשתות מכוונות, כפי שמוצג ב-איור 3.
איור 3: התפלגות ומאפיינים של סוגי ישויות הטרוגניות. (A) תרשים עמודות המראה את מספר הצמתים עבור כל סוג ישות: סעיפים משפטיים (85), התנהגויות רפואיות (120), מודולי אלגוריתם (42), גופים אחראים (38). (B) היסטוגרמה של עוצמת העונש עבור צמתים של סעיפים משפטיים, מחולקת לקטגוריות נמוכה (0‑0.33), בינונית (0.34‑0.66), וגבוהה (0.67‑1.0); הציר האנכי מייצג את הספירה. (C) תרשים עוגה של התפלגות רמת הסיכון בקרב צמתים של התנהגויות רפואיות: נמוכה (19%), בינונית (43%), גבוהה (38%). כל הערכים הם ספירות מוחלטות או אחוזים; לא מוצגים פסי שגיאה מכיוון שאלו סטטיסטיקות תיאוריות של מערך הנתונים. אנא לחץ כאן כדי לצפות בגרסה גדולה יותר של איור זה.
איור 3 ממחיש את ההתפלגות והמאפיינים של צומתי ישויות בגרף הידע ההטרוגני. איור 3A מראה את התפלגות מספרם של ארבעה סוגי צומתי ישויות, כאשר צומתי "התנהגות רפואית" הם הנפוצים ביותר (120), ואחריהם "סעיפי חוק" (85), בעוד ש"מודולי אלגוריתם" (42) ו"ישויות אחראיות" (38) הם מעטים יחסית. זאת מכיוון שהגרף תוכנן מבנית על בסיס התנהגות וכללים. איור 3B מציג את התפלגות עוצמות העונש עבור צמתים המייצגים סעיף חוק ייחודי, כאשר העוצמה מודדת את חומרת האחריות המשפטית. הנתונים מצביעים על כך שישנם מעט הוראות בעלות עוצמת עונש גבוהה, ומרביתן נמצאות בטווח עוצמה בינוני עד נמוך, דבר העולה בקנה אחד עם המציאות שבה קיימים רק מספר מועט של סעיפי הפרה חמורים במערכות משפטיות בעולם האמיתי. איור 3C ממחיש את התפלגות רמות הסיכון בצומתי התנהגות רפואית, כאשר להתנהגויות בסיכון בינוני יש את הפרופורציה הגדולה ביותר (43%) בעוד שהתנהגויות בסיכון נמוך הן בעלות הפרופורציה הנמוכה ביותר (19%), מה שחושף כי תרחישים רפואיים מופעלים באופן רגיל, ופעולות בסיכון גבוה כפופות לאילוצי קישור קפדניים יותר בגרף. נתונים סטטיסטיים אלו מצדיקים יחד את סכימת קידוד ביטול השגיונות (disambiguation) של הישויות שאומצה בבניית גרף הידע כדי לספק תמיכה במאפיינים עבור יישור קונבולוציית גרף (graph convolutional alignment) עוקב.
כל מערך הנתונים חולק באופן אקראי לקבוצות אימון (70%), תיקוף (10%) ובדיקה (20%), תוך ביצוע שכיבה (stratification) לפי סוג הצומת והתפלגות הקשרים כדי לשמר את מבנה הגרף הכולל בכל חלוקה. אותה חלוקה שימשה באופן עקבי עבור כל שיטות הבסיס (baseline) כדי להבטיח השוואה הוגנת. בנוסף לחלוקה בסיסית זו, שלושת מדרגי הצפיפות של גרף הידע (דליל, בינוני, צפוף) ושלוש הגדרות המורכבות הבין-שיפוטיות (יחיד, בילטרלי, מולטילטרלי) שתוארו לעיל משמשים כסביבות בדיקה מעשיות ועצמאיות, המעריכות יחד את חוסנו של המודל תחת תנאים משתנים של שלמות הנתונים וחפיפה רגולטורית. כדי לבנות תוויות אמת (ground-truth) להערכת לוקליזציה של הטיות, אימצנו אסטרטגיה דו-שלבית: (1) תוויון מומחים — שלושה מומחים משפטיים ורפואיים סקרו באופן עצמאי את יומני ההחלטות וזיהו את צומתי שורש הבעיה ונתיבי ההפצה עבור כל הפרה רשומה של הציות, כאשר חילוקי דעות נפתרו בהצבעת רוב; (2) הזרקה מדומית — לצורך בדיקה מבוקרת, הזרקנו באופן מלאכותי אותות של הטיות ל-20 נתיבי החלטה שנבחרו באופן אקראי על ידי שינוי משקולות הקשתות בגרף הידע, ובכך הבטחנו שצומתי המקור האמיתיים והקשתות המושפעות יהיו ידועים מראש.
עבור כל שיטות הבסיס (TransE, ComplEx, Graph Neural Networks (GNN) Explainer, KG-BERT, ו-Node2Vec), השתמשנו באותה תצורת אימון (אופטימייזר Adam, קצב למידה 1 × 10−3, גודל batch של 64, 100 epochs) ובאותן חלוקות נתונים כפי שבוצעו בשיטתנו, כדי להבטיח השוואה הוגנת. עבור TransE ו-ComplEx, ממד השקיעה (embedding dimension) נקבע ל-256 עם שוליים (margin) של 1.0; עבור KG-BERT, השתמשנו במודל BERT-base מאומן מראש עם גודל batch של 16 ואורך רצף מקסימלי של 128; עבור GNNExplainer, השתמשנו ב-GCN בעל 3 שכבות עם אותו ממד נסתר של 256; ועבור Node2Vec, הגדרנו את אורך המסלול ל-80, מספר המסלולים לכל צומת ל-10, ואת ממד השקיעה ל-256.
כדי להבטיח השוואה הוגנת, התאמנו את כל שיטות הבסיס (baseline) לאותן משימות לוקליזציית הטיות, דהיינו זיהוי צומת-שורש ושחזור נתיב הפצה. עבור TransE, ComplEx ו-Node2Vec, שאינן ניתנות להסבר באופן מובנה, חישבנו את הגרדיאנט של הפסד ההטיה ביחס להטמעה (embedding) של כל צומת והשתמשנו בעוצמת הגרדיאנט כציון חשיבות הצומת; צמתים-שורש נבחרו באמצעות סף (thresholding) של ציונים אלו, ונתיבי הפצה שוחזרו על ידי שמירת קשתות בעלות תרומות גרדיאנט הגבוהות ביותר. עבור GNNExplainer, השתמשנו ישירות במנגנוני חשיבות-קשת ומסכת-צומת המובנים שבו כדי להפיק הן את צמתי-השורש והן את תתי-הגרפים. עבור KG‑BERT, הפועל על שלשות, המרנו כל קשת בגרף לשלשה טקסטואלית והשתמשנו במשקולות הקשב (attention weights) של המודל על הישויות כדי לגזור את חשיבות הצומת, ולאחר מכן השתמשנו באותה אסטרטגיית סף לשחזור הנתיב. באמצעות התאמות אלו, כל שיטת בסיס מייצרת הן תחזיות לצומת-שורש והן תחזיות לנתיב-הפצה, מה שמאפשר הערכה אחידה של כל השיטות.
ההערכה מתמקדת בארבעה יכולות בסיסיות: דיוק של התאמה סמנטית, יכולת לאתר הטיות, יעילות של אחריות (accountability) והכללה בין תחומים. היא מציגה גם שלושה משתני בקרה חשובים, המדמים מורכבות מהעולם האמיתי.
1) מדרג צפיפות של גרף ידע: כדי להעריך כיצד השיטה מתפקדת ברמות השלמה משתנות של מידע, נוצרו שתי תתי-קבוצות מתוך הגרף המלא הבסיסי (צפיפות D = 1.0) על בסיס אסטרטגיה של השמטה אקראית של קשתות באופן הבא:
גרף דליל (D ~ 0.3): 30% מהקשתות נשמרות באופן אקראי, דבר המדמה את שלב בניית הידע המוקדם שבו מידע רב חסר.
גרף בצפיפות בינונית (D ~ 0.6): 60% מהקשתים נשמרים באופן אקראי, מה שמדמה תרחיש טיפוסי של מבנה ידע המוכר באופן חלקי.
גרף צפוף (D = 1.0): שימוש בכל 1247 הקשתות, המייצג תרחיש אופטימלי של ידע מלא יחסית.
2) מצב תדירות קבלת החלטות של AI רפואי: שלושה עומסי זרימת החלטות מלאכותיות נקבעו כדי לבחון את הביצועים בזמן אמת של ניטור תאימות דינמי:
תדר נמוך 10 Hz: בממוצע, 10 אירועי החלטה נוצרים בשנייה, דבר המדמה ניטור של מערכות בקנה מידה קטן או מערכות באתר בודד.
תדר בינוני 50 Hz: 50 אירועי החלטה לשנייה, המדמים את עומס מערכת ה-AI של מוסדות רפואיים אזוריים או בקנה מידה בינוני.
תדר גבוה של 100 Hz: 100 אירועי החלטה לשנייה מדמים תרחישים של לחץ מקביליות גבוה עבור שירותי AI הפרוסים בבית חולים גדול או בפלטפורמת ענן.
3) מדרג מורכבות חוצה-סמכויות שיפוט: כדי לבחון את יכולת ההעברה של מידול אילוצים משפטיים, נבנו שלוש קבוצות בדיקה מבוססות מורכבות:
סמכות שיפוט יחידה: מורכב אך ורק מחוקים ותקנות סיניים נוכחיים המסדירים בינה מלאכותית רפואית.
סמכות שיפוט דו-צדדית: משלבת את המשטרים הרגולטוריים של סין והאיחוד האירופי, כאשר כ-15% מהכללים הם סותרים וחופפים.
סמכות שיפוט רב-צדדית: בהתבסס על השתיים הראשונות, שלב זה משלב בנוסף כללי פרטיות ואבטחה מה-HIPAA (Health Insurance Portability and Accountability Act) של ארה"ב, ובכך יוצר סביבת בדיקה שבה המערכות המשפטיות של שלושת המשטרים המשפטיים שזורות זו בזו, מה שמעלה את שיעור הקונפליקט בין הכללים לכ-25%.
המדדים המרכזיים הבאים שימשו להערכה כמותית:
1) דיוק יישור סמנטי: מודד את יכולתו של הגרף למדל את הקשרים בין ישויות משפטיות וטכניות.
דיוק יישור ישויות:
（12）
Ppred היא קבוצת זוגות הישויות המיושרים שנחזו על ידי המודל, ו-Pgold היא קבוצת היישורים המוזהבים שסומנו על ידי מומחים.
שמירה על שלמות הקשרים:
（13）
Rgraph היא קבוצת היחסים המשוחזרת בגרף, ו-Rtext היא קבוצת היחסים המפורשים שהופקו מהטקסט המשפטי המקורי.
2) יכולת לוקליזציה של הטיות: הערכת היעילות של מעקב אחר הגורמים השורשיים ונתיבי ההפצה של ההטיה.
שיעור השחזור של צומת השורש:
（14）
Npred הוא קבוצת צמתי מקור ההטיה שזוהו על ידי המודל, ו-Ntrue הוא קבוצת צמתי המקור האמיתיים שסומנו על ידי מומחים.
דיוק נתיב ההגברה:
（15）
Epred היא קבוצת הקשתות בתת-גרף של הפגת ההטיה (bias propagation) שהושגה על ידי המודל, ו-Etrue היא קבוצת קשתות הפגת ההטיה האמיתית.
3) יעילות מעקב אחר אחריות: בדיקת ביצועי המערכת בתרחישי ניטור בזמן אמת.
שיהוי מעקב ממוצע:
（16）
M מייצג את המספר הכולל של הבקשות, ו-titrigger ו-tireport הם חותמות הזמן של טריגר ההטיה ה-i ויצירת דוח המקור, בהתאמה.
תפוקת המערכת:
（17）
Nprocessed מייצג את מספר בקשות המעקב בו-זמנית שעובדו בהצלחה בתוך חלון הזמן ΔT.
4) יכולת הכללה בין-תחומית: אימות ההתאמה של השיטה למערכות משפטיות שונות.
כיסוי שיפוטי:
（18）
Cencoded מייצג את מספר הסעיפים השיפוטים השונים שקודדו בהצלחה לגרף, ו-Cinput מייצג את המספר הכולל של סעיפי הקלט.
קצב זיהוי קונפליקטים של אילוצים:
（19）
Dpred היא קבוצת סתירות הלוגיקה המשפטיות שזוהו על ידי המודל, ו-Dgold היא קבוצת כל זוגות הסתירות שסומנו על ידי מומחים.
כל הניסויים בוצעו באמצעות תחנת עבודה המצוידת במעבד רב-ליבות וביחידה לעיבוד גרפי; מפרט חומרה מלא מופיע בטבלת החומרים.
ההיפר-פרמטרים המרכזיים של גישה זו וערכיהם מפורטים בטבלה 1, והם כוללים את מבנה המודל ותצורת האימון, כמו גם ספי שונים וקריטיים, כגון ממד השקיעות (embedding dimension), מספר השכבות הקנוולוציוניות (convolutional layers), קצב הלמידה וגודל האשדרה (batch size). כל הפרמטרים כווננו ביחס למערך האימות באמצעות חיפוש רשת (grid search); המודל המאומן התכנס בצורה יציבה והביצועים הם המיטביים. חלק מהספים נקבעו בשילוב עם קריטריונים מהתחום כדי לעמוד בדרישות לאמינות גבוהה של בדיקת תאימות בינה מלאכותית רפואית.
| פרמטר | ערך | תיאור |
| מימד השקיעה (Embedding Dimension) | 128 | גודל מימד התכונות עבור שקיעות צמתים |
| מספר שכבות קונבולוציה | 3 | עומק רשת הקונבולוציה הגרפית מודעת-יחסים |
| קצב למידה | 0.001 | קצב למידה ראשוני עבור אופטימייזר Adam |
| גודל אצווה (Batch Size) | 32 | מספר תת-גרפים המעובדים בכל אצווה |
| שיעור Dropout | 0.1 | הסתברות Dropout המיושמת על תכונות הצמתים במהלך האימון |
| מספר ראשי קשב (Attention Heads) | 8 | מספר הראשים במנגנון קשב רב-ראשי |
| מקדם רגולריזציית L2 | 5 × 10⁻⁴ | מקדם דעיכת משקולות עבור רגולריזציית פרמטרים |
| סף דמיון | 0.75 | דמיון שקיעה מינימלי עבור אישור תאימות |
| סף תרומת גרדיאנט | 0.01 | סף לבחירת קשתות בעלות השפעה גבוהה בבניית תת-גרף הטיות |
| גודל חלון ניטור | 10 | צעדי זמן המשמשים למעקב אחר דינמיקת משקלי קשתות |
טבלה 1: הגדרות פרמטרים עיקריים. רשימה של היפר-פרמטרים מרכזיים ששימשו בניסויים: ממד שיכון (embedding dimension) (256), מספר שכבות GCN (3), ממד נסתר (256), קצב למידה (1 × 10−3), גודל אצווה (batch size) (64), ממד וקטור קשב, סף תרומת קשת (האחוזון ה-85 של גדלי הגרדיאנט), סף ציות דינמי (µ‑2σ, כאשר µ ו-σ נלקחו מסט האימות של 500 דוגמאות צייתניות), מספר קהילות K (נקבע באמצעות צבירה ספקטרלית), ואופטימייזר (Adam). ערכים אלו נבחרו באמצעות חיפוש רשת (grid search) על סט האימות.
תוצאות
אימות ביצועים של מעקב אחר מקור ההטיה בגרף ידע משפטי של בינה מלאכותית רפואית
ביצועי קונבולוציית גרפים מודעת-קשרים
באמצעות אימון של רשת קונבולוציונית גרפית מודעת-יחסים (relation-aware graph convolutional network), חושבו דמיון בין השחלות (embeddings) של סעיפים משפטיים וצמתי התנהגות רפואית לאורך שכבות קונבולוציה שונות, ואפקט היישור של כל שכבה תועד. שנית, בוצע ניתוח סטטיסטי למשקלי הקשב (attention weights) שהוקצו לארבעת הקשרים הסמנטיים המשפטיים לאחר האימון, וזאת כדי לכמת את חשיבותו של כל סוג קשר באגרגציית תכונות. לבסוף, נותח דפוס הדעיקה של השפעת צמתי שכנים כפונקציה של מרחק. על ידי חישוב התרומות של צמתים עם מרחקי קפיצה שונים לעדכון התכונות של הצומת המרכזי, כומת עוצמת התפשטות ההשפעה והוערך הטווח האפקטיבי של מנגנון העברת ההודעות (message-passing mechanism). תהליך ההערכה כולו התבסס על ניתוח כמותי של הפרמטרים הפנימיים של המודל ומצבי ההפעלה שלו, כדי להבטיח את אובייקטיביות התוצאות ואת יכולת השחזור שלהן.
איור 4 ממחיש את ביצועיהן של רשתות קונבולוציה גרפיות מודעות-ליחסים (relation-aware graph convolutional networks) ביישור סמנטי משפטי בין-מודאלי. איור 4A מתאר את המגמה של דמיון השכבלים (embeddings) של הצמתים ככל שמספר שכבות הקונבולוציה עולה, עם עלייה הדרגתית מ-0.12 בשכבה 1 ל-0.68 בשכבה 4. נטייה הדרגתית זו נובעת מהקו-אקזיסטנס הדרגתי בין מרחב הסעיפים המשפטיים למרחב ההתנהגות הרפואית לאורך העברת המסרים הרב-שכבתית. שכבות קונבולוציה עמוקות יכולות ללמוד תבניות מורכבות של קשרי סמנטיקה בין-מודאליים. יחס ה-"הפרה" (violation) מקבל את המשקל הגבוה ביותר, 0.35, באיור 4B, המציג את התפלגות משקלי הקשב (attention weights) עבור ארבעה סוגים של יחסים סמנטיים משפטיים. הדבר תואם את העקרונות הבסיסיים של ניתוח ציות משפטי, שכן המודל מתמקד בקשרים עם הפרות כדי לתמוך בבקרת סיכונים יעילה. איור 4C מראה את תבנית צבירת ההשפעה רב-קפיצית (multi-hop) של צמתים שכנים. עוצמת ההשפעה הנמדדת עולה באופן מונוטוני מ-0.15 בקפיצה 1 ל-0.92 ב-8 קפיצות, מה שמעיד על כך שהשכבל של הצומת המרכזי מטמיע באופן הדרגתי מידע מבני רחב יותר מצמתים מרוחקים. עלייה בלתי צפויה זו לוכדת למעשה את התלות העקיפה של צמתים מרכזיים בצמתים מרוחקים. כאשר בוחנים צמתים במרחק קפיצות גדול יותר, ניתן להשיג מידע מבני גלובלי יותר, אך עם רעש ומידע עודף רב יותר. לכן, ביישומים מעשיים, יש להשיג איזון בין גודל שדה הקליטה (receptive field) לבין איכות המידע. כל התמרת הנתונים הדגימה כי המנגנון המודע-ליחסים היה יעיל בטיפול בקישור בין טקסטים משפטיים הטרוגניים להתנהגויות טכנולוגיות, וכי ניתן למדל את הסמנטיקה המשפטית באופן מדויק באמצעות תכנון ארגומנטים מובחן.
איור 4: ביצועי יישור סמנטי חוצה-מודלים של רשת קונבולוציונית גרפית מודעת-יחסים.(A) דמיון שיבודי צמתים (cosine similarity) כפונקציה של מספר שכבות ה-GCN (1 עד 4), המדגים יישור גובר בין מרחבי התנהגות משפטית ורפואית. (B) התפלגות משקלי קשב לאורך ארבעת סוגי היחסים (הפרה, בסיס, טריגר, ייחוס), כאשר להפרה ניתן המשקל הגבוה ביותר (0.35). (C) עוצמת השפעה של צמתים שכנים לעומת מרחק קפיצות (1 עד 8), המכמתת את אופן הצטברות המידע המבני רב-קפיצתי. כל הערכים הם ממוצעים של 30 הרצות בלתי תלויות; פסי השגיאה (שאינם מוצגים לצורך בהירות) הראו סטיות תקניות נמוכות מ-0.05 בכל המקרים, והמגמות הן מונוטוניות. אנא לחץ כאן כדי לצפות בגרסה גדולה יותר של איור זה.
על מנת להבין את תהליך אופטימיזציית הפרמטרים ואת מאפייני הביצועים של סוגים שונים של יחסים סמנטיים משפטיים ברשת קונבולוצית גרפית מודעת-יחסים, חושב הגודל הממוצע של מטריצת המשקלות עבור כל סוג יחס באמצעות אופטימיזציית פרמטרים, ואושר כי למידת הפרמטרים התכנסה באמצעות פניזור לאחור (backpropagation). לצורך הערכת איכות אגרגציית התכונות, נעשה שימוש בדמיון קוסינוס להערכת העקביות של שיבוצי צמתים (node embeddings) חוצי-סוגים. קצב ההתכנסות חושב על פי הירידה בפונקציית ההפסד בכל סבב אימון, דבר שהבטיח שכל סוג יחס נותר יציב במהלך האימון. יציבות הקשב (attention stability) הוערכה על ידי חישוב סטיית התקן של משקולות הקשב בשלבי אימון שונים. מדדי יעילות חישובית תוקננו על בסיס מספר פעולות נקודה צפה כדי להבטיח הגינות בהשוואה. כל המדדים הורצו 30 פעמים על אותה קבוצת בדיקה עם זרעים אקראיים שונים כדי להבטיח מובהקות סטטיסטית. עבור השוואות זוגיות בין השיטה שלנו לבין כל בסיס השוואה (baseline), ביצענו מבחני t מצומדים עם 29 דרגות חופש.
איור 5 מדגים את השפעות אופטימיזציית הפרמטרים ומאפייני הביצועים של קשרים סמנטיים משפטיים שונים ברשת הקונבולוציה גרפית המודעת לקשרים (relation-aware graph convolutional network). איור 5A מציג את התפלגות הגודל של מטריצות המשקל הייעודיות עבור ארבעת סוגי הקשרים, כאשר הציר האנכי מייצג את סוג הקשר והציר האופקי מייצג את ערכי הגודל של מטריצות הפרמטרים שנלמדו. קשר ה-"violation" משיג את ערך הגודל הגבוה ביותר, 0.78, מה שמעיד על כך שסוג סמנטי זה דומיננטי במודל ומשקף את הדגש של ניתוח הציות המשפטי על זיהוי הפרות. איור 5B משווה את ציוני איכות אגרגציית התכונות תחת סוגי קשרים שונים, כאשר הציר האנכי מייצג את סוג הקשר והציר האופקי מייצג את ציון אפקט האגרגציה. הוא מראה כי קשר ה-"violation" מציג גם הוא את הביצועים הטובים ביותר באיכות מיזוג התכונות (0.89). איור 5C מתאר את ביצועי קצב ההתכנסות של קשרים שונים, כאשר הציר האנכי מייצג את סוג הקשר והציר האופקי מייצג את קצב הפחתת ההפסד (loss reduction rate) לכל סבב אימון. הערכים, לפי הסדר, עבור violation, base, trigger ו-attribution הם: 0.023, 0.031, 0.028 ו-0.035. התוצאה היא שקשר ה-"attribution" מתכנס לאט יותר, אך נשאר יציב. איור 5D מציג את השונות של משקלי הקשב (attention weights) לאורך שלושה שלבי אימון. ציר ה-y מייצג את שלב האימון (מוקדם, אמצע ומאוחר), וציר ה-x מייצג את השונות של משקלי הקשב משמאל לימין. המספרים המתאימים הם 0.18 (מוקדם), 0.12 (אמצע) ו-0.08 (מאוחר), מה שמעיד על כך שהמודל מייצב בהדרגה את המיקוד שלו בקשרים בולטים במהלך האימון. איור 5E מציג את הפשרה ביעילות החישוב עבור קשרים שונים. ציר ה-y מתאים לסוג הקשר בעוד שציר ה-x מתאים לזמן הביצוע הנורמלי, המוגדר כשימוש במשאבי חישוב להשלמת המשימה הספציפית. המספרים הם 0.42 (violation), 0.39 (base), 0.43 (trigger) ו-0.38 (attribution). ההתפלגות בין המחלקות מאוזנת, מה שמעיד על כך שהמנגנון המודע לקשרים מבצע הקצאת משאבים טובה מבלי לפגוע בביצועים.
איור 5: אופטימיזציה של פרמטרי הקונבולוציה וניתוח ביצועים של גרף מודע-יחסים. (A) גודל (נורמת פרובניוס) של מטריצות משקלים ייעודיות לכל סוג יחס. (B) ציון איכות אגרגציית תכונות (עקביות דמיות קוסינוס) לכל סוג יחס. (C) קצב התכנסות (הפחתת ההפסד לכל תקופת אימון) לכל סוג יחס. (D) שונות של משקלי קשב בשלבים מוקדמים, אמצעיים ומאוחרים של האימון, המראה התייצבות. (E) זמן ביצוע מנורמל (עלות חישובית יחסית) לכל סוג יחס. כל המדדים הם ממוצעים של 30 הרצות; פסי השגיאה מייצגים סטיית תקן (מוצגים במקומות שבהם הם נראים). יחס ההפרה (violation) מציג את הגודל ואיכות האגרגציה הגבוהים ביותר, בעוד שיחס השייכות (attribution) מתכנס לאט יותר אך נותר יציב. אנא לחץ כאן כדי לצפות בגרסה גדולה יותר של איור זה.
דיוק יישור סמנטי
דיוק יישור ישויות (Entity alignment) ושלמות שימור קשרים משמשים כמדדי ליבה. תחת תנאים של מדרג צפיפות של גרף ידע (דליל/בינוני/צפוף), השיטה המוצעת מושווית ל-TransE, ComplEx, GNNExplainer, KG-BERT ו-Node2Vec. כל השיטות הופעלו 30 פעמים, והממוצע וסטיית התקן חושבו כדי לבטל את השפעת המקריות.
איור 6 מציג את השוואת הביצועים של השיטה המוצעת אל מול מספר שיטות ייחוס (benchmark) תחת צפיפויות שונות של גרף ידע, במונחים של דיוק יישור ישויות (entity alignment accuracy) ושל שלמות שימור יחסים (relation preservation integrity), שני מדדי מפתח. ב- איור 6A ו- 6Bהציר האופקי מייצג שיטות שונות, והציר האנכי מייצג, בהתאמה, את דיוק התאימות של הישויות ואת שלמות שימור היחסים.
איור 6: ביצועי יישור סמנטי תחת צפיפויות גרף שונות. (A) דיוק יישור ישויות (משוואה 12), ו- (B) שלמות שימור קשרים (משוואה 13), בהשוואה בין השיטה המוצעת לבין TransE, ComplEx, GNNExplainer, KG‑BERT ו-Node2Vec. גובה העמודות מציין ערכים ממוצעים על פני 30 הרצות; פסי השגיאה מייצגים סטיית תקן. השיטה המוצעת משיגה דיוק של לפחות 0.92 ושלמות של לפחות 0.88 בכל הצפיפויות, ובכך עולה בביצועיה על כל בסיסי ההשוואה. אנא לחצו כאן כדי לצפות בגרסה גדולה יותר של איור זה.
מבחינת דיוק יישור ישויות, השיטה המוצעת מציגה ביצועים מצוינים בתנאי צפיפות שונים, עם דיוק יישור ישויות ממוצע של לא פחות מ-0.92, המגיע לרמה הגבוהה ביותר, במיוחד בגרפים צפופים. הדבר מעיד על כך שהרשת הקונבולוציונית גרפית המודעת ליחסים (relation-aware graph convolutional network) שהוקמה יכולה ללכוד ביעילות את הקשרים הסמנטיים בין צמתים הטרוגניים, ולהשיג יישור יעיל של מאפיינים חוצי-מודליות באמצעות משקולות ספציפיות לסוג הקשת ומנגנוני קשב. לעומת זאת, שיטות מסורתיות, ובמיוחד TransE ו-Node2Vec, מציגות ביצועים נמוכים יותר עקב היעדר מידול מפורש של יחסים סמנטיים משפטיים. עליונותה של הגישה המוצעת מאושבת גם על ידי תוצאות של שלמות שימור היחסים, עם שלמות שימור יחסים ממוצעת של לא פחות מ-0.88, מה שמעיד על כך שהגישה יכולה לשחזר היטב את היחסים המפורשים בטקסט המשפטי המקורי בצפיפויות גרף שונות. ביצועים חסונים אלה נובעים מקידוד מבני של גרף הטרוגני ומסכימת העברת הודעות רב-שכבית, הלוכדת באופן מקיף את היחסים המורכבים בין סעיפים משפטיים, התנהגויות רפואיות, מודולים אלגוריתמיים וסוכנים האחראים. בעוד ש-GNNExplainer ו-KG-BERT מפגינים יכולות מסוימות של מידול יחסים, שניהם מוגבלים כאשר הם מיושמים על סמנטיקה נורמטיבית במשפט, וביצועיהם נמוכים מאלו של השיטה המוצעת.
השוואה של יכולות לוקליזציה של הטיות
הערכת לוקליזציית ההטיה (bias localization) מבוצעת באמצעות מסגרת אימות שיתופית בעלת שני מדדי איכות, המתבססת על recall של צמתים המהווים את סיבת השורש ועל הדיוק (precision) של נתיבי ההפגה, המתייחסים להשלמת המעקב אחר המקור ולדיוק הנתיב. כל שיטות ההשוואה מבוצעות על אותו קלט של מבנה גרפי, תוך שימוש באותו פרוטוקול הזרקה של סימולציית הטיה ובהגדרת ממשק הערכה זהה, כדי להבטיח בדיקה הוגנת. כל ניסוי חוזר 30 פעמים עם זרעי אקראיות (random seeds) שונים כדי לצמצם תנודות אקראיות. התוצאות מוצגות כממוצע ±± סטיית תקן, ומבחני t למדגמים מזווגים משמשים לקביעת ערכי p (מול השיטה במאמר זה), דבר המבטיח את התקינות הסטטיסטית ואת היכולת להשוות את מסקנות ההערכה. ערכי p נגזרים ממבחני t למדגמים מזווגים עם 29 דרגות חופש (על בסיס 30 הרצות עצמאיות). סטטיסטיקת ה-t להשוואה בין השיטה שלנו לבין כל בסיס השוואה (baseline) נעה בין 7.82 ל-12.45, בהתאם לערכי p שדווחו.
טבלה 2 מציגה את תוצאות ההערכה הכמותית של יכולת איתור ההטיה (bias localization) של שיטות שונות, עם שני מדדי ביצוע מרכזיים: recall של צומת השורש והדיוק (precision) של נתיב ההפצה. מבחינת ה-recall של צומת השורש, השיטה המוצעת טובה משמעותית מכל בסיסי ההשוואה (baselines), עם recall שיא של 0.95 ±± 0.02, תוצאה הגבוהה משמעותית משיטת GNNExplainer שהיא השנייה במיקומה (0.82 ±± 0.03) וגבוהה אף יותר משאר השיטות. יתרון זה מיוחס למנגנון הכימות המודע לגרדיאנט (gradient-aware quantification) המוצע במאמר זה, המסוגל להתחקות במדויק אחר נתיב ההפצה של אותות ההטיה בגרף ולזהות ביעילות את צומתי המקור בעלי התרומה הגבוהה. לעומת זאת, הגישות הקלאסיות TransE ו-Node2Vec, שאין להן אמצעים ללכוד הבדלים סמנטיים בסוגי הקשתות ולכן אינן מסוגלות להבחין בבירור בין נתיבי הפצת הטיה לבין יחסים רגילים, השיגו ציוני recall של 0.75 ±± 0.04 ו-0.72 ±± 0.05, בהתאמה. למרות ש-KG-BERT משלבת מודל שפה מאומן מראש, היא מוגבלת בזרימת המידע בתוך מבנה הגרף, עם ציון recall של 0.70 ±± 0.04.
| שיטה | Recall של צומת השורש | p-value (Recall של צומת השורש) | דיוק נתיב ההפצה | p-value (דיוק נתיב ההפצה) |
| המוצעת | 0.95 ± 0.02 | - | 0.93 ± 0.03 | - |
| TransE | 0.75 ± 0.04 | 1.23 × 10⁻8 | 0.78 ± 0.05 | 2.45 × 10⁻7 |
| ComplEx | 0.78 ± 0.03 | 8.91 × 10⁻9 | 0.81 ± 0.04 | 1.67 × 10⁻8 |
| GNNExplainer | 0.82 ± 0.03 | 3.45 × 10⁻7 | 0.86 ± 0.04 | 9.21 × 10⁻9 |
| KG-BERT | 0.70 ± 0.04 | 5.67 × 10⁻8 | 0.73 ± 0.05 | 4.32 × 10⁻8 |
| Node2Vec | 0.72 ± 0.05 | 7.89 × 10⁻9 | 0.75 ± 0.06 | 1.54 × 10⁻7 |
טבלה 2: שיעור recall של צומת השורש ושיעור הדיוק (precision) של נתיב ההפצה. השוואת ביצועים עבור לוקליזציית הטיות (bias localization) בכל השיטות. הערכים מדווחים כממוצע ±± סטיית תקנית על פני 30 הרצות עצמאיות. מוצגים ה-recall של צומת השורש (משוואה 14) והדיוק של נתיב ההפצה (משוואה 15). השיטה המוצעת משיגה את ה-recall הגבוה ביותר (0.95 ±± 0.02) ואת הדיוק הגבוה ביותר (0.93 ±± 0.03), ובכך עולה באופן משמעותי על שיטות הבסיס (paired t‑test, p < 0.001 לכל ההשוואות).
שיטה זו היא גם הטובה ביותר בדיוק נתיב ההפצה עם ערך של 0.93 ±± 0.03, ובכך עולה על שיטות אחרות. הדבר מוכיח כי הליך המעקב לאחור (backtracking) של תת-הגרף שהיא מציעה יכול להסיר בהצלחה קשתות רועשות ולזהות את נתיב הפצת ההטיה האמיתי. ניתוח ה-p-value מאשש את ההבדלים המשמעותיים בביצועים; כל שיטות הבסיס מראות הבדלים משמעותיים ביותר לעומת השיטה המוצעת (p < 0.001), דבר המבטיח את החוסן והיעילות של השיטה המוצעת בבעיית איתור ההטיה. הביצועים החזקים יחסית של ComplEx ו-GNNExplainer עשויים להצביע על חשיבותן של מבני יחסים מורכבים ויכולת ההסבר של רשתות עצביות גרפיות בזיהוי הטיה, אך הם אינם משתווים לפתרון הקצה-לקצה המוצג במאמר זה.
הערכת יעילות של מעקב אחריות
ההערכה מתמקדת בתגובה בזמן אמת של מערכת מעקב האחריות, כאשר השהיית המעקב הממוצעת וקצב המעבר של בקשות בו-זמניות משמשים כשני מדדי היעילות המרכזיים. הניסויים נערכו בשלוש תדרי קבלת החלטות של בינה מלאכותית רפואית (תדירות נמוכה, תדירות בינונית ותדירות גבוהה). לצורך השוואה הוגנת, כל הגישות קיבלו את אותו זרם קלט והפעילו את הליך המעקב המלא.
איור 7 משווה את היעילות של מעקב אחר אחריות בין שיטות שונות בתדרים שונים של קבלת החלטות על ידי AI רפואי. התוצאות הן עבור השיטות הנבחנות משמאל לימין: הקווים מסומנים כהחלטות med-AI בתדר נמוך, תדר בינוני ותדר גבוה.
איור 7: השהיית מעקב למקור ממוצעת וספיקת עיבוד בקשות בו-זמנית. (A) השהיית מעקב ממוצעת (ms) לכל שיטה; (B) ספיקה (requests/second) לכל שיטה. הקווים מחברים ערכי ממוצע על פני 30 הרצות; פסי השגיאה (במידה ומוצגים) מייצגים סטיית תקן. השיטה המוצעת שומרת על ההשהיה הנמוכה ביותר (42‑55 ms) והספיקה הגבוהה ביותר (190‑230 req/s) בכל התדרים, ובכך מדגימה ביצועים עדיפים בזמן אמת. אנא לחצו כאן כדי לצפות בגרסה גדולה יותר של איור זה.
עבור השהיית המעקב הממוצעת, התוצאה הטובה ביותר עבור השיטה המוצעת נכונה גם תחת כל תנאי התדר, יתרה מכך, לכל השיטות האחרות יש השהיה גבוהה באופן משמעותי מזו שלנו. לכל השיטות יש השהיית מעקב שגדלה בדרך כלל עם תדר ההחלטה, אך הצמיחה של השיטה שלנו היא חלקה: 42 milliseconds בתדר נמוך ו-55 milliseconds בתדר גבוה. עליונות זו נובעת מהעובדה ששיטה זו מבוססת על רשת קונבולוצית של גרף רלציוני-מודע (aware-relational graph convolutional network), המקצה מטריצות משקל שונות לסוגים שונים של קשרים סמנטיים משפטיים כדי למנוע עומס חישובי של שיתוף פרמטרים כלליים תחת ת concurreny גבוה בגישות קלאסיות. בניגוד לכך, TransE ו-ComplEx, המבוססות על פירוק טנזור, מידרדרות באופן דרסטי בתדרים גבוהים. הן אינן יכולות לטפל ביעילות בטרנספורמציה הלא-ליניארית של אינטראקציה ארוכת טווח בין קשרים משפטיים-טכניים, והתוצאה היא השהיה גבוהה יותר. מבחינת הזמן עבור זוגות של בקשות, השיטה במאמר זה טובה יותר. תחת הגדרת תדר נמוך, הסביבתיות (throughput) שלה היא 230 requests/second, נתון הרחוק מגישות אחרות. עם עליית התדר, הסביבתיות יורדת, אך כמות הירידה נשלטת אפילו בתרחיש של תדר גבוה, כאשר הסביבתיות עדיין מגיעה ל-190 requests/second. חוסן זה מיוחס לאסטרטגיית הטמעת הצמתים הזמנית (temporary node embedding) ולתכנון מקבילי-נתיב של הפצה לאחור של הגרדיאנט (gradient backpropagation path-parallel design) בגישה זו, שיכולה להבטיח דיוק מעקב באצווה תוך עיבוד יעיל של בקשות באצווה. גישות כלליות, שאינן מותאמות באופן ספציפי, סובלות מירידה משמעותית בביצועים ברגע שהן נתקלות בשאילתות סימולטניות, ולכן אינן מתאימות לניטור בזמן אמת.
תיקוף של יכולת הכללה בין-תחומית של כיסוי אילוצים משפטיים
הליך ההערכה מבוצע מנקודת המבט של יכולת חוצת-דומיינים של מידול המגבלות המשפטיות, כאשר שני המדדים לכימות הם כיסוי שיפוטי ושיעור זיהוי קונפליקטים בין מגבלות. שלושה סוגים של מורכבות חוצת-סמכויות שיפוט, כלומר סמכות שיפוט אחת, סמכות שיפוט בילטרלית וסמכות שיפוט מולטרלית, תוכננו עבור הניסוי. על מנת למנוע הטיות הערכה הנובעות מהבדלים ארכיטקטוניים, כל אחת מהשיטות המתחרות חוזרה 30 פעמים והתוצאות הממוצעות מדווחות כדי להבטיח השוואה הוגנת של יכולת ההכללה.
כפי שמוצג ב-טבלה 3, גישה זו משיגה באופן עקבי תוצאות טובות יותר מכל קווי הבסיס בשלוש רמות מורכבות של סמכויות שיפוט משפטיות, והירידה בביצועים היא מתונה יותר. היא מספקת שיעור זיהוי של כמעט 89% של קונפליקטים עם כיסוי משפטי של 94% בתרחיש של סמכות שיפוט משפטית אחת. כאשר היא מועממת לסמכויות שיפוט משפטיות רב-צדדיות, היא עדיין מסוגלת לספק כיסוי של 87% עם שיעור זיהוי קונפליקטים של 81%. לעומת זאת, שיטות שיכון מסורתיות (למשל, TransE ו-Node2Vec) סובלות מירידה בכיסוי לכ-60% בסביבות רב-צדדיות, וכן משיעורי זיהוי קונפליקטים נמוכים יותר באופן כללי, מה שמעיד על כך שהן אינן מתאימות לטיפול בהטרוגניות סמנטית בין סמכויות שיפוט משפטיות. עם זאת, KG-BERT ו-GNNExplainer מציגים שיפור מסוים באמצעות מודלי שפה מאומנים מראש או מודולי פרשנות נוספים, אך הם עדיין סובלים מירידה דרמטית בביצועים במצבים שבהם סמכויות שיפוט משפטיות חופפות.
| שיטה | הגדרת סמכות שיפוטית | כיסוי תחום משפטי | שיעור גילוי קונפליקט במגבלות |
| מוצעת | יחידה | 0.94 ± 0.02 | 0.89 ± 0.03 |
| בילטרלית | 0.91 ± 0.03 | 0.85 ± 0.04 | |
| מולטילטרלית | 0.87 ± 0.04 | 0.81 ± 0.05 | |
| TransE | יחידה | 0.76 ± 0.05 | 0.52 ± 0.06 |
| בילטרלית | 0.68 ± 0.06 | 0.45 ± 0.07 | |
| מולטילטרלית | 0.61 ± 0.07 | 0.38 ± 0.08 | |
| ComplEx | יחידה | 0.79 ± 0.04 | 0.55 ± 0.05 |
| בילטרלית | 0.72 ± 0.05 | 0.48 ± 0.06 | |
| מולטילטרלית | 0.65 ± 0.06 | 0.41 ± 0.07 | |
| GNNExplainer | יחידה | 0.82 ± 0.04 | 0.61 ± 0.05 |
| בילטרלית | 0.75 ± 0.05 | 0.54 ± 0.06 | |
| מולטילטרלית | 0.68 ± 0.06 | 0.47 ± 0.07 | |
| KG-BERT | יחידה | 0.80 ± 0.04 | 0.58 ± 0.05 |
| בילטרלית | 0.73 ± 0.05 | 0.51 ± 0.06 | |
| מולטילטרלית | 0.66 ± 0.06 | 0.44 ± 0.07 | |
| Node2Vec | יחידה | 0.74 ± 0.05 | 0.49 ± 0.06 |
| בילטרלית | 0.66 ± 0.06 | 0.42 ± 0.07 | |
| מולטילטרלית | 0.59 ± 0.07 | 0.36 ± 0.08 |
טבלה 3: כיסוי סמכות שיפוט ושיעור זיהוי קונפליקטים באילוצים. תוצאות הכללה חוצת-דומיינים תחת סמכויות שיפוט משפטיות בודדות, בילטרליות ומולטילטרליות. כיסוי סמכות השיפוט (משוואה 18) ושיעור זיהוי קונפליקטים באילוצים (משוואה 19) מוצגים כממוצע ±± SD על פני 30 הרצות. השיטה המוצעת שומרת על כיסוי גבוה (≥87%) וזיהוי גבוה (≥81%) אפילו בהגדרה המולטילטרלית המורכבת ביותר, בעוד ששיטות הבסיס מראות ירידה משמעותית.
סתירה זו נובעת מתהליכי מידול בסיסיים שונים לחלוטין. גישות קיימות להטמעת גרפים של ידע (למשל, TransE, ComplEx) רותמות יחסים גיאומטריים במרחב וקטורי סטטי לצורך מידול, ומעולם אינן מבדילות בין סמנטיקות משפטיות בינאריות כגון "איסור" ו"היתר", דבר המונע מהן להתמודד עם רגולציות מורכבות של אותה פעולה רפואית במערכות משפטיות שונות. למרות ש-KG-BERT יכול ללכוד הקשר טקסטואלי, חסרה לו יכולת הסקה מבנית מפורשת והוא נתקל בקשיים בהסקה עם תלויות נורמטיביות ואילוצים סותרים בין סעיפים. במקום זאת, המודל המוצע בונה גרף הטרוגני מכוון על ידי הרחבה של ארבעה סוגי קצוות סמנטיים משפטיים ("הפרה", "בסיס", "טריגר", ו"ייחוס") ומשלב קונבולוציית גרפים מודעת-יחסים עם פעפוע אחורי של גרדיאנט. כתוצאה מכך, המודל המוצע לא רק שומר על הכיווניות הסיבתית של הלוגיקה המשפטית, אלא גם מיישף באופן דינמי סעיפים מקבילים סמנטית ומזהה כללים סותרים בקלט רב-מקור מהתחום המשפטי. לפיכך, בתרחישים מורכבים של קונפליקטים תכופים של חובות, אחריות חופפת, או סדרי עדיפויות לא ודאיים ליישום בתוך מערכת משפטית רב-צדדית, המתודולוגיה מציעה דרך לזהות במדויק ובאופן מובנה את מקורות הסתירות ולתרגם אותם להסקות חוצות-תחומים עם כיסוי ודיוק גבוהים.
ניסוי השהרה (Ablation study)
כדי לבודד את התרומה של כל רכיב ליבה, ביצענו מחקר אבלציה (ablation study) על ידי הסרה או החלפה של מודולים מרכזיים במסגרת העבודה שלנו בהגדרה של גרף צפוף (D = 1.0). באופן ספציפי, השווינו את המודל המלא לשלוש גרסאות: (1) ללא קונבולוציה מודעת-יחסים (w/o relation-aware convolution), שבה כל סוגי הקשתות חולקים מטריצת טרנספורמציה אחת; (2) ללא מנגנון קשב (w/o attention mechanism), שבה תרומות השכנים ממוצעות באופן אחיד; ו-(3) ללא מעקב גרדיאנט לאחור (w/o gradient backtracking), שבה מקורות ההטיה מזוהים באמצעות היוריסטיקה פשוטה של דרגת צומת במקום שחזור תת-גרף מבוסס גרדיאנט.
טבלה 4 מציגה את תוצאות הניתוח ההסרי (ablation), החושפות תרומות מובחנות של כל רכיב. הסרת הקונבולוציה המודעת ליחסים (relation‑aware convolution) גרמה לירידה המשמעותית ביותר בביצועים, כאשר recall השורש ירד מ-0.95 ל-0.81 ודיוק הנתיב (path precision) ירד מ-0.93 ל-0.78. הדבר מאשר כי מידול קצוות ספציפי לסוג היחס הוא קריטי ללכידה של המגוון הסמנטי של יחסים משפטיים, שכן שימוש במטריצת טרנספורמציה אחת לכל סוגי היחסים מוביל לאובדן מידע משמעותי במהלך היישור הבינמודי (cross‑modal alignment). גם למנגנון הקשב (attention mechanism) יש תרומה ניכרת; הסרתו מפחיתה את recall השורש ל-0.88 ואת דיוק הנתיב ל-0.85, מה שמעיד על כך ששקילה דינמית של הודעות השכנים משפרת את יכולתו של המודל להבחין בין נתיבים משפטיים משפיעים, אם כי השפעתה משנית למודעות ליחסים. הסרת המעקב ההפוך של הגרדיאנט (gradient backtracking) הניבה את הירידה הקטנה ביותר ב-recall (0.91) אך את הירידה הגדולה ביותר בדיוק הנתיב (0.76), מה שמרמז שבעוד שהיוריסטיקות פשוטות יכולות לזהות חלקית צמתי מקור, שחזור מדויק של מבנה ההפצה נשען במידה רבה על ניתוח רגישות מבוסס גרדיאנט. באופן כללי, כל שלושת הרכיבים תורמים באופן משמעותי לביצועי לוקליזציית ההטיה (bias localization) של המסגרת, כאשר הקונבולוציה המודעת ליחסים היא החיונית ביותר והמעקב ההפוך של הגרדיאנט הוא הכרחי עבור דיוק ברמת הנתיב.
| גרסת מודל | Recall של השורש | דיוק הנתיב |
| מודל מלא | 0.95 ± 0.02 | 0.93 ± 0.03 |
| ללא קונבולוציה מודעת-יחסים | 0.81 ± 0.03 | 0.78 ± 0.04 |
| ללא מנגנון קשב | 0.88 ± 0.02 | 0.85 ± 0.03 |
| ללא נסיגה לאחור של הגרדיאנט | 0.91 ± 0.03 | 0.76 ± 0.05 |
טבלה 4: תוצאות מחקר אבלציה על גרף צפוף (D = 1.0). השפעה של הסרת רכיבי מפתח: (ללא קונבולוציה מודעת ליחסים), (ללא מנגנון קשב), ו-(ללא נסיגה אחורית של הגרדיאנט). המדדים ( recall של השורש ודיוק הנתיב) הם ממוצעים ±± SD לאורך 30 הרצות. המודל המלא מציג את הביצועים הטובים ביותר, מה שמאשר שכל רכיב תורם באופן משמעותי, כאשר קונבולוציה מודעת ליחסים (relation-aware convolution) היא הקריטית ביותר.
זמינות נתונים:
מערך הנתונים של גרף הידע ההטרוגני המובנה שנוצר ונותח במהלך מחקר זה, כולל כל נתוני הצמתים והקשתים (285 צמתים בארבעה סוגי ישויות ו-1,247 קשתים מכוונות עם ארבעה סוגי יחסי סמנטיקה חוקיים), הופקד במאגר Figshare תחת ה-DOI: https://doi.org/10.6084/m9.figshare.33117644. הנתונים זמינים לציבור החל ממועד פרסום מאמר זה. קובצי מערך הנתונים התואמים מסופקים גם כ-קובץ משלים 1.
קובץ משלים 1: קובצי מערכי הנתונים ששימשו במחקר זה.אנא לחצו כאן כדי להוריד קובץ זה.
דיון
שילוב של בינה מלאכותית רפואית בקבלת החלטות קליניות מעלה אתגרים משפטיים בנוגע לייחוס אחריות, המוקשים בשל הפער הסמנטי שבין טקסטים משפטיים לא מובנים לבין אלגוריתמים של "קופסה שחורה". כדי לגשר על פער זה, הצענו גרף ידע מבוסס GNN המmodell את סעיפי החוק, התנהגויות רפואיות, מודולי אלגוריתמים והגורמים האחראים כצמתים הטרוגניים, המחוברים באמצעות ארבעה קשרים משפטיים-סמנטיים מכוונים (הפרה, בסיס, טריגר, ייחוס). מבנה זה מספק ממשק חישובי לסנכרון רב-מודאלי ומעקב אחר הטיות.
השיטה שלנו משיגה ביצועים מעולים בכל המדדים. תחת צפיפויות גרף משתנות, דיוק התאמת הישויות (≥0.92) ושימור היחסים (≥0.88) עולים על TransE, ComplEx ו-KG‑BERT. מיקום ההטיה מניב recall של השורש (0.95 ±± 0.02) ודיוק נתיב (0.93 ±± 0.03), העולים באופן משמעותי על GNNExplainer. ניטור דינמי שומר על שיהוי נמוך (42–55 ms) וקצב עיבוד גבוה (190–230 req/s), בעוד שבדיקות חוצות-סמכויות מראות כיסוי חסון (≥87%) וזיהוי קונפליקטים (≥81%). תוצאות אלו מאשרות גישור יעיל בין סמנטיקה משפטית לטכנית עם מעקב להטיה הניתן לפירוש.
שלושה חידושים עומדים בבסיס הצלחתנו: (1) קשתים סמנטיים-משפטיים מוקלדים הלוכדים הבחנות סיבתיות ונורמטיביות שלרוב מוחמצות על ידי שימושים ב-embeddings אחידים20,21; (2) קונבולוציה מודעת-יחסים עם מטריצות טרנספורמציה ייעודיות לכל סוג יחס, השומרת על ספציפיות סמנטית תוך מתן אפשרות להחלפה בין סוגים שונים38,39; ו-(3) כימות תרומה מבוסס-גרדיאנט ואשכול (clustering) מודרך-קהילה, ההופכים הטיות גלובליות לזיהוי מקורות מקומיים, ובכך מתגברים על מגבלות של מסבירים posthoc32,33. גישה זו מעבירה את עמידת התקנים מבדיקת כללים סטטית להסקה דינמית ומודעת-מבנה.
המגבלות כוללות הסתמכות על חילוץ יחסים המוגדר ידנית וקושי עם פסוקים מעומעמים. עבודות עתידיות ישלבו פורמליזמי לוגיקה משפטית (למשל, defeasible logic26,27) ולמידה מקוונת עבור רגולציות מתפתחות, ויירחבו לתחומי סיכון גבוהים אחרים (נהיגה אוטונומית, פיננסים). משוב של משתמש במעגל (User-in-the-loop) ישפר עוד יותר את הייחוס. כיוונים אלו יבססו את הבינה המלאכותית ההסברית מבוססת הגרפים כתשתית למערכות אינטליגנטיות מהימנות.
גילויים
כתב היד לא פורסם בעבר ואינו נמצא בבחינה על ידי שום כתב עת אחר. כל המחברים אישרו את תוכן המאמר. המחברים מצהירים כי אין להם ניגודי עניינים כספיים.
חומרים
| שם | חברה | מספר קטלוג | הערות |
|---|---|---|---|
| ComplEx | מימוש בקוד פתוח (למשל, OpenKE) | גרסה 1.0 | בסיס השוואה של שיבוץ מורכב (Complex embedding) להשוואת גרפי ידע |
| GNNExplainer | מימוש בקוד פתוח (https://github.com/RexYing/gnn-explainer) | Commit 7a3b6a2 (2021) | קו בסיס לפענוח רשתות עצביות גרפיות (GNN) לצורך מעקב אחר הטיות |
| Intel Xeon Gold 6248 (מעבד) | Intel Corporation | SRF7F | מעבד מרכזי לאימון מודלים ועיבוד מקדים של נתונים |
| KG-BERT | HuggingFace Transformers + BERT-base | BERT-base-uncased (HuggingFace) | בסיס השוואה (baseline) להטמעת גרפי ידע (KG embedding) מבוסס-Transformer עבור יישור סמנטי |
| Node2Vec | מימוש בקוד פתוח (https://github.com/aditya-grover/node2vec) | גרסה 1.0 | קו הבסיס להטמעת צמתים המבוססת על הליכה אקראית |
| NVIDIA Tesla V100 (GPU) | NVIDIA Corporation | 900-2G500-0010-000 | GPU בעל ביצועים גבוהים להאצת אימון של רשתות נוירונים גרפיות |
| השיטה שלנו (GCN מודעת ליחסים) | מימוש מותאם אישית ב-PyTorch | PyTorch 1.12.0 | מסגרת מוצעת עם טרנספורמציות לכל יחס, קשב (attention) ונסיגה של גרדיאנטים (gradient backtracking) |
| TransE | מימוש בקוד פתוח (למשל, OpenKE) | גרסה 1.0 | בסיס השוואה של שיכון תרגומי (Translational embedding) להשוואת גרפי ידע |
מקורות
- Wang Y, Ma Z. Ethical and legal challenges of medical AI on informed consent: China as an example. Dev World Bioeth. 2025;25(1):46-54.
- Sand M, Durán JM, Jongsma KR. Responsibility beyond design: Physicians' requirements for ethical medical AI. Bioethics. 2022;36(2):162-169.
- Schultz MD, Seele P. Towards AI ethics' institutionalization: knowledge bridges from business ethics to advance organizational AI ethics. AI Ethics. 2023;3(1):99-111.
- Magesh V, et al. Hallucination-Free? Assessing the reliability of leading AI legal research tools. J Empir Leg Stud. 2025;22(2):216-242.
- Patil S, Shankar H. Transforming healthcare: harnessing the power of AI in the modern era. Int J Multidiscip Sci Arts. 2023;2(2):60-70.
- Birkstedt T, Minkkinen M, Tandon A, Mäntymäki M. AI governance: themes, knowledge gaps and future agendas. Internet Res. 2023;33(7):133-167.
- Mohammad Amini M, et al. Artificial intelligence ethics and challenges in healthcare applications: a comprehensive review in the context of the European GDPR mandate. Mach Learn Knowl Extr. 2023;5(3):1023-1035.
- Pasham SD. Opportunities and difficulties of artificial intelligence in medicine existing applications, emerging issues, and solutions. The Metascience. 2023;1(1):67-80.
- Vearrier L, et al. Artificial intelligence in emergency medicine: benefits, risks, and recommendations. J Emerg Med. 2022;62(4):492-499.
- Peng Y, Rousseau JF, Shortliffe EH, Weng C. AI-generated text may have a role in evidence-based medicine. Nat Med. 2023;29(7):1593-1594.
- Alam MN, Kaur M, Kabir MS. Explainable AI in healthcare: enhancing transparency and trust upon legal and ethical consideration. Int Res J Eng Technol. 2023;10(6):1-9.
- Sorantin E, et al. The augmented radiologist: artificial intelligence in the practice of radiology. Pediatr Radiol. 2022;52(11):2074-2086.
- Borger JG, et al. Artificial intelligence takes center stage: exploring the capabilities and implications of ChatGPT and other AI-assisted technologies in scientific research and education. Immunol Cell Biol. 2023;101(10):923-935.
- Chikhaoui E, Alajmi A, Larabi-Marie-Sainte S. Artificial intelligence applications in healthcare sector: ethical and legal challenges. Emerg Sci J. 2022;6(4):717-738.
- Kerasidou CX, Kerasidou A, Buscher M, Wilkinson S. Before and beyond trust: reliance in medical AI. J Med Ethics. 2022;48(11):852-856.
- Polineni TNS, Maguluri KK, Yasmeen Z, Edward A. AI-driven insights into end-of-life decision-making: ethical, legal, and clinical perspectives on leveraging machine learning to improve patient autonomy and palliative care outcomes. Migr Lett. 2022;19(6):1159-1172.
- Galiana LI, Gudino LC, González PM. Ethics and artificial intelligence. Rev Clin Esp (Engl Ed). 2024;224(3):178-186.
- Paladugu PS, et al. Generative adversarial networks in medicine: important considerations for this emerging innovation in artificial intelligence. Ann Biomed Eng. 2023;51(10):2130-2142.
- Harris E. Large language models answer medical questions accurately, but can't match clinicians' knowledge. JAMA. 2023;330(9):792-794.
- İpek ZH, Gözüm AIC, Papadakis S, Kallogiannakis M. Educational applications of the ChatGPT AI system: a systematic review research. Educ Process Int J. 2023;12(3):26-55.
- Kim C, et al. Transparent medical image AI via an image-text foundation model grounded in medical literature. Nat Med. 2024;30(4):1154-1165.
- Wang YH, Lin GY. Exploring AI-healthcare innovation: natural language processing-based patents analysis for technology-driven road mapping. Kybernetes. 2023;52(4):1173-1189.
- Pruneski JA, et al. Natural language processing: using artificial intelligence to understand human language in orthopedics. Knee Surg Sports Traumatol Arthrosc. 2023;31(4):1203-1211.
- Chen RJ, et al. Algorithmic fairness in artificial intelligence for medicine and healthcare. Nat Biomed Eng. 2023;7(6):719-742.
- Yang Y, et al. The limits of fair medical imaging AI in real-world generalization. Nat Med. 2024;30(10):2838-2848.
- Almarshadi NF, et al. Clinical and medical coding: a new pathway for automation—an updated review. J Med Life Sci. 2024;6(4):633-651.
- Osifowokan AS, Agbadamasi TO, Adukpo TK, Mensah N. Regulatory and legal challenges of artificial intelligence in the US healthcare system: liability, compliance, and patient safety. World J Adv Res Rev. 2025;25(3):949-955.
- Hasan MT. Graph neural network models for detecting fraudulent insurance claims in healthcare systems. Am J Adv Technol Eng Solut. 2022;2(01):88-109.
- Johnson R, Li MM, Noori A, Zitnik M. Graph artificial intelligence in medicine. Annu Rev Biomed Data Sci. 2024;7:345-368.
- Lettieri N, Guarino A, Malandrino D, Zaccagnino R. Knowledge mining and social dangerousness assessment in criminal justice: metaheuristic integration of machine learning and graph-based inference. Artif Intell Law. 2023;31(4):653-702.
- Ma Y, et al. Incorporating structural information into legal case retrieval. ACM Trans Inf Syst. 2023;42(2):1-28.
- Jin Z, et al. GNNLens: a visual analytics approach for prediction error diagnosis of graph neural networks. IEEE Trans Vis Comput Graph. 2022;29(6):3024-3038.
- Shen Y, Zhang J, Song SH, Letaief KB. Graph neural networks for wireless communications: from theory to practice. IEEE Trans Wirel Commun. 2022;22(5):3554-3569.
- Xue X, et al. Adaptive similarity feature construction for ontology matching via multi-layer hybrid genetic programming. IEEE Transactions on Evolutionary Computation, 2025;30(2):519-533.
- Cheng T, et al. Graph convolutional network for image restoration: A survey. Mathematics, 2024;12(13): 2020.
- Li N, et al. Survey on evolutionary deep learning: Principles, algorithms, applications, and open issues. ACM Computing Surveys, 2023; 56(2): 1-34.
- Ma L, et al. A novel fuzzy neural network architecture search framework for defect recognition with uncertainties. IEEE Transactions on Fuzzy Systems, 2024; 32(5): 3274-3285.
- Fang Y, et al. Relation-aware graph convolutional networks for multi-relational network alignment. ACM Trans Intell Syst Technol. 2023;14(2):1-23.
- Schlichtkrull M, et al. Modeling relational data with graph convolutional networks//European semantic web conference. Cham: Springer International Publishing, 2018; 593-607.
- Ariai F, Mackenzie J, Demartini G. Natural language processing for the legal domain: a survey of tasks, datasets, models, and challenges. ACM Comput Surv. 2025;58(6):1-37.
- Xu Y, et al. BNet: batch normalization with enhanced linear transformation. IEEE Trans Pattern Anal Mach Intell. 2023;45(7):9225-9232.
- Guo MH, et al. Attention mechanisms in computer vision: a survey. Comput Vis Media. 2022;8(3):331-368.
- Guo MH, et al. Visual attention network. Comput Vis Media. 2023;9(4):733-752.