פרוטוקול שניתן לשחזור לפיתוח והערכה של מסגרות בינה מלאכותית ניתנות להסבר באנליטיקה רפואית

סיכום

כאן, אנו מציגים פרוטוקול שניתן לשחזור לפיתוח והערכת מודלים ניתנים להסבר של בינה מלאכותית לניתוח בריאות. תהליך העבודה משלב עיבוד נתונים מוקדם, מידול חיזוי, הסברים מבוססי SHAP, LIME ו-Grad-CAM, הערכה כמותית ואימות ממוקד אדם כדי לתמוך בקבלת החלטות קליניות שקופה ואמינה.

תקציר

בינה מלאכותית מוסברת (XAI) מוכרת יותר ויותר ככלי חיוני לבניית מערכות בינה מלאכותית אמינות בתחום הבריאות, כאשר שקיפות ויכולת להסביר החלטות הן מרכיבים חיוניים בקבלת החלטות קליניות. פרסום זה מציג גישה ניסיונית שניתן לשחזר לפיתוח והערכת מערכות בינה מלאכותית ניתנות להסבר לניתוח בריאות. הצינור המפותח משלב את שלבי העיבוד המוקדם של הנתונים, מידול חיזוי, יצירת פרשנות והערכה לזרימת עבודה חלקה שניתן ליישם הן על נתונים קליניים מובנים והן על מערכי דימות רפואיים. מודלים של למידת מכונה קבוצתית הראו ביצועים חיזויים חזקים על מערכי נתונים טבלאות מובנים, בעוד שמודלים של למידה עמוקה יעילים ללמידת דפוסים מורכבים בנתוני דימות רפואי. טכניקות כמו SHAP, LIME ו-Grad-CAM הן הסברים גלובליים ומקומיים שמקלים על פירוש המודלים. מאוד מועיל. ההערכה הכמותית של המסגרת כוללת מדדים רבים כגון דיוק, דיוק, זיכרון, ציון F1, ROC-AUC, מדדי הסבר, נאמנות ויציבות. התוצאות מצביעות על כך שכאשר התנאים הניסיוניים נשלטים, המסגרת הראתה שיפור בביצועי החיזוי ובאיכות ההסבר תחת תנאי הניסוי המוערכים. כמסמך המונחה על ידי פרוטוקול, עבודה זו מגבה את השחזוריות והיכולת להרחבה, את היישום המתמשך על ידי יצורים חיים אחרים. מודל הבינה המלאכותית השקוף והברור הזה הוא הבסיס שעליו מערכות תמיכה בקבלת החלטות קליניות ומערכות ניתוח בריאות זוכות לאמון ולשימוש בקנה מידה רחב.

מבוא

בינה מלאכותית (AI) הפכה לרכיב חשוב במערכת הבריאות המודרנית על ידי תמיכה באבחון מחלות, פרוגנוזה, סיווג סיכונים, ניתוח תמונות רפואיות וקבלת החלטות קליניות^. התקדמות בלמידת מכונה ולמידה עמוקה אפשרה למערכות בריאות לעבד כמויות גדולות של נתונים מובנים ולא מובנים, לעיתים קרובות להשיג ביצועים חיזויים השווים או עולים על הגישות הסטטיסטיות המסורתיות². למרות ההתקדמות הזו, מודלים רבים של הבינה המלאכותית פועלים כמערכות קופסה שחורה מורכבות, מה שמקשה על רופאים ובעלי עניין בתחום הבריאות להבין כיצד נוצרים תחזיות³. חוסר השקיפות הזה עלול להגביל אמון, אימוץ ואחריות בסביבות בריאות בעלות סיכון גבוה ^4,5.

בינה מלאכותית ניתנת להסבר (XAI) הפכה לגישה מבטיחה לשיפור השקיפות והפרשנות של מודלים של למידת מכונה⁶. טכניקות הסבר נפוצות, כולל SHAP (הסברים אדיטיביים של Shapley), LIME (הסברים מקומיים ניתנים לפרשנות למודל), ומיפוי הפעלה מחלקות משוקלל לפי גרדיאנט (Grad-CAM), מספקות תובנות על התנהגות המודל באמצעות ייחוס תכונות ומנגנוני הסבר חזותי ^7,8,9. שיטות אלו מיושמות יותר ויותר ביישומי בריאות לתמיכה בפרשנות קלינית, ביקורת מודלים ותמיכה בהחלטות^10,11. עם זאת, הסבר לבדו אינו מבטיח אמינות, שחזוריות או תועלת קלינית. מחקרים עדכניים הדגישו אתגרים הקשורים לאי-יציבות בהסברים, רגישות להפרעות, אימות מוגבל של רופא, ואי-עקביות בין פלטי ההסבר לבין הסקת מודל אמיתי 12,13,14,15.

בנוסף לאתגרי ההסבר, השחזוריות נותרה דאגה משמעותית במחקר למידת מכונה רפואית 16,17,18. מחקרים רבים שפורסמו מספקים מידע מוגבל בנוגע להליכי קדם-עיבוד, סביבות תוכנה, קונפיגורציות היפרפרמטרים, אסטרטגיות אימות ותהליכי עבודה של יישום, מה שמקשה על שכפול עצמאי 19,20,21. יתרה מזאת, מחקרי בינה מלאכותית רפואית מתמקדים לעיתים קרובות בביצועים חיזויים תוך מתן הנחיות מוגבלות בנוגע להערכת איכות הסבר, הערכה ממוקדת קלינאי ושיקולי^יישום מעשי. מגבלות אלו עלולות להקשות על תרגום מערכות בינה מלאכותית ניתנות להסבר מסביבות מחקר לסביבות בריאות אמיתיות 23,24,25,26,27.

תהליכי עבודה עדכניים בתחום הבריאות ב-XAI מעריכים לעיתים טכניקות הסבר אישיות או מודלים חיזויים בנפרד, ולעיתים נדירות מספקים פרוטוקולים סטנדרטיים המשלבים הכנת נתונים, מידול חיזוי, הערכת הסברות, הערכה ממוקדת אדם ומשאבי שחזוריות 28,29,30,31. כתוצאה מכך, חוקרים ואנשי מקצוע עלולים להיתקל בקשיים בשחזור זרימות עבודה, השוואת שיטות הסבר או הערכת התועלת המעשית של מערכות בינה מלאכותית ניתנות להסבר בין מאגרי נתונים ותחומי יישום שונים בתחום הבריאות. לכן נדרש פרוטוקול מקיף וניתן לשחזור כדי להקל על יישום, הערכה ודיווח עקביים של תהליכי בינה מלאכותית מוסברים במערכת הבריאות 32,33,34,35.

כאן, אנו מציגים פרוטוקול שניתן לשחזור לפיתוח, הערכה ופרשנות של מערכות בינה מלאכותית ניתנות להסבר בניתוח בריאות. הפרוטוקול משלב עיבוד נתונים מוקדם, מידול חיזוי, הערכת הסבר באמצעות SHAP, LIME ו-Grad-CAM, הערכה ממוקדת רופא, הליכי אימות ומשאבי שחזוריות בתוך זרימת עבודה מאוחדת. המטרה היא לספק מסגרת סטנדרטית התומכת בפיתוח מודלים שקוף, הערכת איכות הסברים ויישום שניתן לשחזור על פני מאגרי נתונים רפואיים מגוונים 36,37,38,39. התרומה המתודולוגית של עבודה זו טמונה בשילוב אנליטיקה חזויה, הערכת הסברות, אימות קלינאי ופרקטיקות שחזוריות לפרוטוקול אחד המתאים למחקר, חינוך ומחקרים ממוקדי פריסה בתחום הבינה המלאכותית בבריאות 40,41,42,43.

התרומה העיקרית של עבודה זו אינה פיתוח אלגוריתם הסבר חדשני.

במקום זאת, הוא מספק פרוטוקול סטנדרטי, ניתן לשחזור ומאומת ניסויים, המשלב מודלים חיזוי, הערכת הסבר, ויזואליזציה, הערכה ופרשנות ממוקדת אדם לזרם עבודה מאוחד המתאים לאנליטיקה רפואית ולהפצת פרוטוקולים מבוססי JoVE. המטרה העיקרית של עבודה זו אינה להציג אלגוריתם חיזוי חדשני, אלא לספק פרוטוקול סטנדרטי, ניתן לשחזור ומאומת ניסיוני ליישום זרימות עבודה של בינה מלאכותית ניתנת להסבר באנליטיקה רפואית. הפרוטוקול משלב עיבוד נתונים מוקדם, מידול חיזוי, הערכת הסבר, הערכה ממוקדת קלינאי ומשאבי שחזור למסגרת מאוחדת המתאימה לאימוץ, שכפול והפצה חינוכית.

פרוטוקול

כל מערכי הנתונים ששימשו במחקר זה התקבלו ממאגרים זמינים לציבור ומסודרים לחלוטין, כולל מאגר למידת המכונה של UCI, מסד הנתונים PhysioNet MIMIC-III ומאגרי רנטגן חזה של NIH. לא נלקח מידע מזוהה של מטופלים. המחקר עמד בהנחיות אתיות למחקר מוסדי לניתוח משני של נתונים שאינם מזוהים זמינים לציבור. לא נדרש אישור פורמלי של ועדת ביקורת מוסדית משום שלא גויסו משתתפים אנושיים ישירות ולא נעשה שימוש במידע בריאותי מוגן.

1. סקירה של המסגרות הניסיוניות

1. פתח צינור בינה מלאכותית (XAI) שניתן לשחזור וניתן להסבר לניתוח ביטוח בריאות שקוף. ארגן את זרימת העבודה לשכבת הנתונים, שכבת העיבוד המקדים, שכבת המידול, שכבת ההסבר, שכבת ההערכה ושכבת הדמיה.
2. שלבו את המודולים הללו בתהליך עבודה מאוחד המסוגל לעבד נתונים קליניים מובנים, רשומות בריאות אלקטרוניות ומאגרי נתוני דימות רפואי.
3. ודא שכל מודול תורם לשחזוריות, פרשנות, יכולת הרחבה וביצוע ניסויים סטנדרטי.
4. עצב את הארכיטקטורה המודולרית שתתמוך בזרימת נתונים רציפה ולהבטיח שכל שלב בצינור תורם לשחזוריות, פרשנות ויכולת הרחבה לאורך כל תהליך הניסוי.

2. סביבה חישובית ותצורת מערכת

1. התקן את התלות הנדרשת בתוכנה לפני ביצוע זרימת העבודה על ידי פתיחת מסוף שורת פקודה והרצת הפקודה הבאה:
   PIP install numpy pandas scikit-learn tensorflow shap lime opencv-python matplotlib seaborn
2. אמת את ההתקנה המוצלחת של כל חבילות התוכנה ואשר תאימות לגרסאות התוכנה המפורטות בטבלת החומרים לפני המשך עיבוד נתונים ופיתוח מודלים.
3. השתמש ב-Python 3.11 כסביבת תכנות עיקרית. התקן והגדר את NumPy 1.26 ו-Pandas 2.1 למשימות מניפולציה של נתונים והנדסת תכונות. התקן את Scikit-Learn 1.5 לפיתוח והערכת מודלים של למידת מכונה.
4. התקן את TensorFlow 2.15 לאימון מודלים ללמידה עמוקה והסקת מסקנות. התקן את SHAP 0.46 ו-LIME 0.2.0 לניתוח הסברים. התקן את OpenCV 4.10 למשימות עיבוד תמונה. התקן את Matplotlib 3.9 ואת Seaborn 0.13 להצגת נתונים ודיווח תוצאות. עיין בטבלת החומרים לקבלת מפרטי תוכנה מלאים ופרטי יישום הנדרשים לשחזוריות.
5. הגדר את סביבת החישוב באמצעות תחנת עבודה המצוידת במעבד רב-ליבות, האצת יחידת עיבוד גרפיקה (GPU) ומשאבי זיכרון מספקים להכיל מאגרי נתונים גדולים בתחום הבריאות ועומסי עבודה ללמידה עמוקה.
6. הגדר זרעים אקראיים קבועים לחלוקת נתונים, אתחול מודלים ונהלי אימון כדי להבטיח שחזוריות בין ריצות ניסוי. הפעלת מנגנוני רישום לתיעוד פעולות עיבוד נתונים מוקדמות, תצורות מודלים, הגדרות היפרפרמטרים, נהלי אימון ותוצאות הערכה לאורך כל תהליך העבודה.
7. הגדר את ארכיטקטורות המודל, פרמטרי האופטימיזציה, קצבי הלמידה, גדלי האצווה, הגדרות האימון וערכי ההיפרפרמטרים בהתאם למפרטים המסוכמים בטבלה 1. יש להיצמד להגדרות אלו במהלך ניסויי השכפול כדי להבטיח עקביות עם התוצאות המדווחות.
8. תפוקה צפויה - סביבה חישובית מוגדרת במלואה וניתנת לשחזור עם כל חבילות התוכנה הנדרשות, משאבי חומרה, מנגנוני רישום והגדרות קונפיגורציה של מודל הזמינים לעיבוד נתונים מוקדם, פיתוח מודלים, ניתוח הסבר ונהלי הערכה.

רכיב	פרמטר	ערך	תיאור
יער רנדום	n_estimators	100	מספר העצים
יער רנדום	max_depth	אין	עומק עץ
XGBoost	learning_rate	0.01	קצב למידה
XGBoost	n_estimators	100	פגזי חיזוק
CNN	תקופות	25	תקופות האימון
CNN	batch_size	32	גודל אצווה
CNN	אופטימייזר	אדם	אלגוריתם אופטימיזציה
MLP	hidden_layers	2	מספר השכבות הנסתרות
MLP	הפעלה	ReLU	פונקציית הפעלה
כללי	train_split	70%	יחס נתוני אימון
כללי	validation_split	15%	יחס אימות
כללי	test_split	15%	יחס בדיקות

טבלה 1: פרטי יישום ותצורת היפרפרמטרים.

טבלה זו מסכמת את סביבת החישוב, ספריות תוכנה, תצורות מודלים של למידת מכונה ולמידה עמוקה, הגדרות אופטימיזציה, קצבי למידה, גדלי אצווה, פרמטרי אימון וערכי היפרפרמטרים ששימשו במהלך ההערכה הניסויית של מסגרת הבינה המלאכותית הניתנת להסבר מוצעת.

3. הכנת מערכי נתונים ועיבוד מוקדם

1. בחר מערכי נתונים רפואיים זמינים לציבור כדי להבטיח שקיפות ושחזור של תהליך העבודה הניסיוני.
2. השתמש בארבעה תרחישי בריאות מייצגים לאימות המסגרת המוצעת: (i) אבחון סרטן השד באמצעות מאגר הנתונים של סרטן השד של ויסקונסין, (ii) חיזוי סיכון לסוכרת באמצעות מאגר הנתונים Pima Indians Diabetes, (iii) חיזוי תוצאות קליניות באמצעות רשומות רפואיות אלקטרוניות MIMIC-III, ו-(iv) סיווג מחלות חזה באמצעות מאגר נתוני רנטגן חזה של NIH. בחרו מאגרי נתונים אלו כדי להעריך את המסגרת בין רשומות קליניות מובנות, רשומות בריאות אלקטרוניות לאורך זמן, ושיטות דימות רפואיות הנפוצות במערכות תמיכה בהחלטות בתחום הבריאות.
3. ייבא כל מערך נתונים לסביבת פייתון והפרד את הרשומות לתכונות קלט ומשתני יעד. ארגן נתונים קליניים מובנים למשימות חיזוי מחלה, רשומות בריאות אלקטרוניות לניתוח תוצאות לאורך זמן, ומאגרי דימות רפואיים למשימות סיווג אבחון. בדוק את שלמות כל מאגר נתונים לפני שממשיכים בפעולות הקדם-עיבוד.
4. זיהוי וטיפול בערכים חסרים באמצעות טכניקות אימפוטציה מתאימות. תקנון תכונות מספריות באמצעות הגדלת תכונות ונירמול כדי להבטיח השוואה בין משתנים.
5. קודד משתנים קטגוריים באמצעות שיטות קידוד מתאימות המבוססות על מאפייני מאגר הנתונים. ביצוע בחירת תכונות באמצעות ניתוח קורלציה ומדדי חשיבות תכונות מבוססי מודל לזיהוי המשתנים הרלוונטיים ביותר ולהפחתת ממדיות הנתונים.
6. שנו את גודל כל התמונות הרפואיות ל-224, 224 פיקסלים לפני אימון הדגם. נרמול ערכי עוצמת הפיקסלים בהתאם לדרישות ארכיטקטורת הלמידה העמוקה שנבחרה. יישמו טכניקות הגדלת נתונים, כולל סיבוב תמונה והפיכת אופק, לשיפור הכללת המודל ולהפחתת התאמת יתר. בדוק את איכות התמונה וודא עקביות של מידות התמונה לאורך כל מערך הנתונים.
7. הערכו שלמות נתונים על ידי הערכת שלמות מערכי הנתונים, עקביות ויישור תוויות תכונות. ודאו שכל הרשומות מוקצות נכון למחלקות היעד המתאימות להן. סקור מאפייני מערך הנתונים, כולל גודל המדגם, מספר התכונות ומודאליות הנתונים, כפי שמסוכם בטבלה 2.
8. ליישם נהלי אימות ספציפיים למאגר נתונים כדי להבטיח קפדנות מתודולוגית ושחזור. רשמו את גודל המדגם, התפלגות המחלקות, אסטרטגיית הפיצול של אימות רכבת-מבחן, אמצעי מניעת דליפות, נהלי אופטימיזציה של היפרפרמטרים, עיצוב אימות צולב ופרוטוקול בדיקה חיצוני לכל מערך נתונים. סכם את נהלי האימות הללו בטבלה 3.
9. ביצוע בדיקות בקרת איכות לעיבוד מקדים על ידי הערכת טיפול בערכים חסרים, הסרת חריגים, קנה מידה של תכונות, קידוד קטגורית, שימור חלוקת מחלקות וחלוקת מערכי נתונים. ודאו שפעולות הקדם-עיבוד מיושמות באופן עקבי בכל מערכי הנתונים.
10. אשר את היעדר דליפת נתונים משמעותית במהלך חלוקת מערכי נתונים. בדוק את תוצאות אימות הקדם-עיבוד המוצגות באיור 1 כדי לוודא שנוצרו מערכי נתונים סטנדרטיים לניתוחי למידת מכונה והסבר עתידיים.
11. תפוקה צפויה - יצירת מערכי נתונים נקיים וסטנדרטיים עם ערכים חסרים שמטופלים כראוי, משתנים קטגוריים מקודדים, תכונות מספריות מנורמלות, ורשומות מחולקות לתת-קבוצות אימון, אימות ובדיקה. ודא שמאפייני מאגרי הנתונים, התפלגויות מחלקות ונהלי האימות תואמים לאלו שדווחו בטבלה 2 ובטבלה 3, ואשר אימות קדם-עיבוד מוצלח כפי שמודגם באיור 1.

מערך נתונים	סוג	דגימות	מאפיינים	מטרה
סרטן השד	טבולה	569	30	שפיר/ממאיר
סוכרת	טבולה	768	8	תוצאת סוכרת
MIMIC-III	EHR	~60,000	משתנים קליניים	תמותה
צילום חזה	הדמיה	~112,000	תמונות	תוויות מחלה

טבלה 2: מאפייני מערכי נתונים ומקרי שימוש בתחום הבריאות.

טבלה זו מספקת סיכום של מאגרי הנתונים הרפואיים ששימשו במחקר, כולל סוג מערך הנתונים, מספר הדגימות, ספירת התכונות, משתני היעד, תחום יישומי הבריאות ומקרי שימוש קליניים נלווים. מערכי הנתונים כוללים רשומות קליניות מובנות, רשומות בריאות אלקטרוניות ונתוני דימות רפואי כדי להדגים את יישום המסגרת בתרחישי ניתוח רפואי מגוונים.

מערך נתונים	גודל המדגם	התפלגות מחלקות	אסטרטגיית פיצול	מניעת דליפות	חיפוש היפרפרמטרים	אימות צולב	בדיקה חיצונית
סרטן השד (UCI, ויסקונסין)	569	357 חסין / 212 ממאיר	70/15/15	עיבוד מוקדם לרכבות בלבד	חיפוש רשת	CV מדורג 5 קיפולים	סט עצמאי של ההתנגדות
סוכרת אינדיאנים פימה	768	500 לא-סוכרתי / 268 סוכרתי	70/15/15	עיבוד מוקדם לרכבות בלבד	חיפוש רשת	CV מדורג 5 קיפולים	סט עצמאי של ההתנגדות
מימיק-III EHR	5274	קוהורטים מדורגים-תוצאה	70/15/15 ברמת מטופל	הפרדה ברמת המטופל	חיפוש אקראי	קורות חיים ברמת מטופל בחמישה חלקים	סט עצמאי של ההתנגדות
צילום חזה של NIH	112120	דלקת ריאות/שכבות תקינות	70/15/15	הפרדה ברמת התמונה	חיפוש אקראי	CV מדורג 5 קיפולים	סט עצמאי של ההתנגדות

טבלה 3: אימות ברמת מערך הנתונים ועיצוב ניסויים.

טבלה זו מסכמת את מתודולוגיית האימות המיושמת לכל מאגר נתונים, כולל גודל מדגם, התפלגות מחלקות, אסטרטגיית פיצול של מבחני אימוי רכבת, נהלי מניעת דליפות, שיטות אופטימיזציה של היפרפרמטרים, עיצוב אימות צולב ופרוטוקולי בדיקה חיצוניים. אמצעים אלו יושמו כדי להבטיח קפדנות מתודולוגית, שחזוריות והערכת מודלים בלתי מוטה.

איור 1: אימות של צינור עיבוד נתונים מוקדם.
תוצאות אימות עבור פעולות קדם-עיבוד מרכזיות שבוצעו לפני פיתוח המודל. (א) ניתוח ערך חסר בין תכונות בריאות מייצגות. (ב) התפלגות של משתנה מספרי לפני ואחרי טיפול בחריגות. (ג) אימות קנה מידה של תכונות באמצעות סטנדרטיזציה. (D) אימות קידוד קטגורית. (E) חלוקת מחלקות לאחר עיבוד מוקדם. (ו) אימות חלוקת נתוני בדיקת וימות-רכבת. תוצאות אלו מאשרות הצלחה בעיבוד מוקדם ובהכנה של מערכי הנתונים למידול חיזוי וניתוח הסבר. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

4. ארכיטקטורת מערכת של מסגרת הבינה המלאכותית הניתנת להסבר

1. ארגן את המסגרת באמצעות ארכיטקטורה שכבתית כדי להקל על עיבוד מודולרי, לשפר את שקיפות זרימת העבודה ולתמוך ביישום שניתן לשחזור. הגדר את שכבת הנתונים לקבל ולנהל מערכי נתונים גולמיים בתחום הבריאות. נתב את כל מערכי הנתונים הנכנסים דרך שכבת הנתונים לפני תחילת פעולות העיבוד המוקדם.
2. בצע ניקוי נתונים, טרנספורמציה, נרמול, הנדסת תכונות וקידוד בתוך שכבת הקדם-עיבוד. ודא שכל פעולות הקדם-עיבוד הושלמו לפני פיתוח המודל.
3. פיתוח מודלים חיזויים בתוך שכבת המידול באמצעות אלגוריתמים של למידת מכונה ולמידה עמוקה. מודלים של הגברת גרדיאנט רכבתית, יער אקראי, פרספטרון רב-שכבתי (MLP) ומודלים של רשת עצבית קונבולוציונית (CNN) תוך שימוש במערכי נתונים מעובדים מראש ותצורות היפרפרמטרים אופטימליות.
4. יישמו טכניקות הסבר בתוך שכבת ההסבר כדי לפרש תחזיות מודל. יצר הסברים על ייחוס תכונות באמצעות SHAP ו-LIME עבור מערכי נתונים מובנים. יצירת מפות חום Grad-CAM למודלים מבוססי תמונה כדי להמחיש אזורים התורמים לחיזוי המודלים.
5. העריכו ביצועי חיזוי ויכולת הסבר בתוך שכבת ההערכה. חשב דיוק, דיוק, זיכרון, ציון F1, ROC-AUC, נאמנות, יציבות ומדדי הערכה ממוקדי קלינאים. רשם את כל תוצאות ההערכה לניתוח ודיווח עתידיים.
6. יצר פלטים ויזואליים ניתנים לפרשנות קלינית בתוך שכבת הדמיה. צור גרפים של השוואת ביצועים, ויזואליזציות של חשיבות תכונות, גרפים סיכומים של SHAP, הסברים ל-LIME, מפות חום של Grad-CAM ולוחות מחוונים לדיווח המיועדים לרופאים. אחסן את כל הפלטים הוויזואליים להכללה בדוח הניסוי הסופי.
7. עברו על ארכיטקטורת המסגרת המלאה המוצגת באיור 2 לפני שאתם ממשיכים בביצוע זרימת עבודה.
8. תפוקה צפויה - יצר מודלים מאומנים מלאים של למידת מכונה ולמידה עמוקה, כולל גרדיאנט בוסטינג, יער אקראי, CNN וארכיטקטורות MLP. אחסון תצורות מודל, היפרפרמטרים אופטימליים, יומני אימון, קבצי נקודות ביקורת, פלטי הסבר, וארטיפקטים של ויזואליזציה להערכה וניתוח פרשנות מאוחר יותר.

איור 2: ארכיטקטורת מערכת של מסגרת הבינה המלאכותית הניתנת להסבר לאנליטיקה בתחום הבריאות. אנא לחצו כאן כדי לצפות בגרסה רחבה יותר של איור זה.

5. ביצוע זרימת עבודה

1. רכישת מערכי נתונים רפואיים ממאגרים ציבוריים ואחסנו את מערכי הנתונים בפורמטים מובנים המתאימים לניתוח למידת מכונה וללמידה עמוקה. עיין בתהליך העבודה המלא המוצג באיור 3 לפני התחלת ההליך הניסוי.
2. בצע ניקוי ועיבוד מוקדם של נתונים בהתאם להליכים המתוארים בסעיף 3. נרמול משתנים מספריים באמצעות שיטות קנה מידה מתאימות. קידוד משתנים קטגוריים באמצעות טכניקות קידוד מתאימות. זהה ומייך ערכים חסרים באמצעות אסטרטגיות ההתאמה ספציפיות למאגר נתונים. בדוק את איכות הנתונים, יישור תוויות תכונה ושלמות מערכי הנתונים לפני שממשיכים בפיתוח המודל.
3. חלק כל מערך נתונים לתת-קבוצות אימון, אימות ובדיקות כדי לתמוך בהערכת מודלים בלתי מוטה. לשמור על התפלגויות מחלקות במהלך חלוקת מערכי הנתונים וליישם אמצעי מניעת דליפות כאשר רלוונטי. שמרו את תת-קבוצת הבדיקות באופן בלעדי להערכת מודל סופית.
4. אימון מודלים של למידת מכונה על מערכי נתונים מובנים באמצעות אלגוריתמים מבוססי אנסמבל, כולל Gradient Boosting ו-Random Forest. אימון מודלים של למידה עמוקה על מערכי דימות באמצעות ארכיטקטורות רשת עצבית קונבולוציונית (CNN) המסוגלות ללמוד תכונות תמונה מרחביות. עדכן את פרמטרי המודל באופן איטרטיבי במהלך האימון ומנטר את ביצועי האימות לאחר כל תקופת אימון. יש להחיל עצירה מוקדמת כאשר ביצועי האימות מתדרדרים או לא משתפרים בהתאם לקריטריוני העצירה המוגדרים מראש.
5. אופטימיזציה של היפרפרמטרים של המודל באמצעות אסטרטגיות חיפוש שיטתיות, כולל חיפוש רשת וחיפוש אקראי. כוונן את קצב הלמידה, מספר האומדנים, עומק העץ, גודל האצווה, מספר התקנים ופרמטרים נוספים הספציפיים למודל בהתאם לביצועי הוולידציה. בחר את המודל הסופי בהתבסס על ביצועים חיזויים ויכולת הכללה בין מערכי נתונים של אימות.
6. יישמו שיטות הסבר לאחר סיום אימון המודלים. יצירת הסברים גלובליים באמצעות טכניקות ייחוס תכונות לזיהוי משתנים התורמים הכי חזק לחיזויי המודל. יצירת הסברים מקומיים לניתוח מקרי חיזוי בודדים והערכת התנהגות המודל ברמת המדגם. צור מפות חום של Grad-CAM למודלים של סיווג תמונות כדי להדגיש אזורים בתמונה התורמים לתוצאה החזויה. שמור את כל תוצרי ההסבר לניתוח ודיווח הבאים.
7. הערכת ביצועים חיזויים באמצעות דיוק, דיוק, שחזור, ציון F1 ושטח מאפיין תפעול של המקלט מתחת לעקומה (ROC-AUC). הערכו את איכות ההסבר באמצעות מדדי נאמנות ויציבות להערכת אמינות ועקביות ההסבר. השווה ביצועי מודלים בין מערכי נתונים ושיטות הסבר כדי להעריך עמידות והכללה של המסגרת.
8. יצר פלטי ויזואליזציה ודוחות אנליטיים כדי לתקשר תוצאות בצורה קלינית ניתנת לפרשנ. צור טבלאות השוואת ביצועים, גרפים של חשיבות תכונות, ויזואליזציות סיכום של SHAP, תוצרי הסבר LIME, מפות חום של Grad-CAM והדמיות קליניות רלוונטיות נוספות. בדוק את כל התוצרים הוויזואליים כדי להבטיח בהירות ועקביות לפני הדיווח.
9. תעד את כל פעולות העיבוד המוקדם, תצורות המודלים, הגדרות ההיפרפרמטרים, נהלי הסבר, אסטרטגיות אימות ותוצאות הערכה. לשמור על רשומות ניסוי מפורטות כדי להקל על שחזוריות ושכפול עצמאי של תהליך העבודה. אמת את עקביות התוצאות בין ריצות ניסויים חוזרות וארכב את כל הארטיפקטים של זרימת העבודה לעתיד.
10. תפוקה צפויה - יצר מודל חיזוי מאומן במלואו עם היפרפרמטרים אופטימליים, משקלי מודל שמורים, יומני אימון, מדדי ביצועים ויצירות הסבר, כולל הסברים ל-SHAP, הסברים LIME ומפות חום של Grad-CAM. אחסן את כל ארטיפקטי המודלים, דוחות הערכה ותוצרי ויזואליזציה לניתוח והערכת שחזוריות עתידית.

איור 3: זרימת עבודה מקצה לקצה של צינור הבינה המלאכותית הניתנת להסבר. אנא לחצו כאן לצפייה בגרסה רחבה יותר של איור זה.

6. הערכת מודלים והערכת הסבר

1. הערכו ביצועי מודל חיזוי באמצעות מדדי סיווג סטנדרטיים, כולל דיוק, דיוק, שלירה, ציון F1 ושטח מאפיין תפעול של המקלט מתחת לעקומה (ROC-AUC). חשב דיוק למדידת נכונות הסיווג הכוללת.
2. חשב דיוק כדי להעריך את אחוז התחזיות החיוביות שזוהו נכון. חשב שחזור כדי להעריך את יכולת המודל לזהות מקרים חיוביים. חשב את ציון ה-F1 כדי לאזן בין דיוק לזכירה. חשב את ROC-AUC להערכת ביצועים מובחנים בין ספי סיווג שונים.
3. יישמו את מדדי ההערכה הללו באופן עקבי בכל מערכי הנתונים וארכיטקטורות המודל כדי להקל על השוואת ביצועים אובייקטיבית. רשמו את כל ערכי המדדים ואחסנו את תוצאות ההערכה לניתוח סטטיסטי ודיווח מאוחר יותר.
4. העריך ביצועי הסבר באמצעות מדדי נאמנות ויציבות. חשב נאמנות כדי לקבוע עד כמה ההסברים שנוצרו משקפים במדויק את תחזיות המודל ואת התנהגות קבלת ההחלטות.
5. חשב יציבות על ידי השוואת הסברים שנוצרו מדגימות קלט דומות וכימות עקביות של פלטי ההסבר. ודאו שערכי נאמנות ויציבות עומדים בקריטריוני האיכות המוגדרים מראש לפני פירוש הסברי המודלים.
6. השווה את ביצועי ההסבר בין יציאות SHAP, LIME ו-Grad-CAM.
7. תפוקה צפויה - יצירת תוצאות הערכה כמותיות, כולל דיוק, דיוק, שחזור, ציון F1, ROC-AUC, נאמנות ומדדי יציבות. הפיקו פלטים ווויזואליזציות של הסבר המתאימים לדיווח מדעי, הערכת שחזוריות ופרשנות קלינית.

7. הערכה ממוקדת אדם

1. גייסו 12 אנשי מקצוע בתחום הבריאות, הכוללים 6 רופאים, 3 רדיולוגים ו-3 אנליסטים קליניים. בחרו משתתפים עם ניסיון קודם בקבלת החלטות קליניות, פרשנות תמונות רפואיות, ניתוח רפואי או סקירת רשומות רפואיות אלקטרוניות. קבל הסכמה מדעת מכל המשתתפים לפני תחילת תהליך ההערכה.
2. בחרו באקראי 100 מקרים מתוך מאגרי הנתונים של הבדיקה לאחר סיום ההדרכה במודלים וניתוח ההסבר. יצר שני תנאי הערכה לכל מקרה:
   1. פלט חיזוי בלבד ו
   2. חיזוי מלווה במידע על הסבר. אקראי את סדר ההצגה של המקרים ותנאי ההערכה כדי למזער הטיית הצגה והשפעות למידה.
3. הכינו טפסי הערכה סטנדרטיים המכילים תוצאות תחזית, תוצרי הסברים ושאלוני הערכה. הציגו מקרים בפני משתתפים באופן אישי באמצעות ממשק הערכה ממוחשב.
4. הנחו את המשתתפים לסקור כל מקרה באופן עצמאי מבלי לדון בתשובות עם מעריכים אחרים. לאפשר למשתתפים להשלים את כל ההערכות בתנאים ניסיוניים זהים.
5. לנהל שאלון בקנה מידה Likert בן חמישה נקודות, המותאם ממחקרי הערכת בינה מלאכותית שפורסמו להסבר. הנחו את המשתתפים לדרג אמון, פרשנות ושימושיות לכל מקרה שנבדק. רשמו את התשובות לשאלונים באופן אלקטרוני ווודאו את השלמת כל פריטי הסקר לפני המעבר לניתוח סטטיסטי.
6. למדוד מדדים אובייקטיביים של תועלת קלינית במהלך תהליך ההערכה. רשמו את הסכמת ההחלטה על ידי השוואת החלטות המשתתפים עם תוויות ההתייחסות המתאימות או תוצאות האמת הבסיסית. חשב את הסכמה ההחלטה כאחוז ההחלטות של המשתתפים התואמים לתוצאה המתייחסת.
7. רשמו את זמן הסקירה לכל מקרה על ידי מדידת המרווח בין הצגת התיק להגשת התשובה הסופית. חשב את זמן הסקירה הממוצע בנפרד עבור תנאי חיזוי בלבד ותנאי חיזוי עם הסבר.
8. חשב ממוצע ציוני אמון, פרשנות ושימושיות לכל המשתתפים ומקרי ההערכה. השווה ציונים שהושגו בתנאי חיזוי בלבד וחיזוי עם הסבר.
9. בצע מבחני t זוגיים לאחר סיום כל הערכות המשתתפים כדי לקבוע האם הבדלים באמון, פרשנות, שימושיות, הסכמת החלטות וזמן הסקירה הם מובהקים סטטיסטית. השתמש בסף מובהקות של p 0.05 לכל ההשוואות הסטטיסטיות.
10. חשב פלייס קאפה לאחר איסוף תגובות מכל המשתתפים כדי להעריך את ההסכמה בין המעריגים. השתמשו בדירוגי המשתתפים המצטברים כדי לקבוע את עקביות ההערכות בין הסוקרים. לפרש ערכי פלייס קאפה לפי קווי ההנחיה הקבועים להסכם ולרשום את הסטטיסטיקות של ההסכם שנוצרו.
11. סיכום דמוגרפיה של המשתתפים, מתודולוגיית ההערכה, עיצוב שאלונים, נהלי ניתוח סטטיסטי, מדדי ביצועים אובייקטיביים ותוצאות הסכמה בין המערכים בטבלה 4.
12. סקירה של תוצרי המודל הן בתנאי הערכה והן משווה את תגובות המשתתפים בתנאים שונים. ודאו שההסברים משפרים את האמון, הפרשנות והשימושיות מבלי לפגוע באיכות ההחלטות.
13. אשר את עקביות ההערכות של המשתתפים באמצעות הסטטיסטיקה המחושבת של פלייס קאפה. לתעד את כל תוצאות ההערכה לדיווח עתידי ולהערכת שחזוריות.
14. תפוקה צפויה - יצירת ציוני אמון של רופאים, דירוגי פרשנות, דירוגי שמישות, מדדי הסכמת החלטות, סטטיסטיקות זמן ביקורת, תוצאות זוגות של מבחני t, וסטטיסטיקות הסכמה בין המדרגים. הפיק ראיות כמותיות המתארות את השימושיות הקלינית, הפרשנות והאמינות של מסגרת הבינה המלאכותית הניתנת להסבר.

פרמטר	ערך
מומחים	12
רופאים	6
רדיולוגים	3
אנליסטים קליניים	3
מקרים שנבדקו	100
עיצוב הערכה	אקראי (חיזוי בלבד לעומת חיזוי+הסבר)
כלי סקר	סולם ליקרט בעל 5 נקודות
הערכת נאמנות	פרשנות, אמון, שימושיות
מבחן סטטיסטי	מבחן t מזווג (עמ' 0.05)
אמינות בין מעריכים	פלייס קאפה
מדדים אובייקטיביים	הסכם החלטה, זמן סקירה

טבלה 4: פרוטוקול הערכה ממוקד אדם ועיצוב הערכת קלינאים.

טבלה זו מציגה את מסגרת ההערכה של הרופאים המשמשת להערכת הפרשנות, האמינות והשימושיות של מערכת הבינה המלאכותית הניתנת להסבר. מידע בנוגע לדמוגרפיה של המשתתפים, מתודולוגיית סקירת מקרה, עיצוב סקרים, נהלי ניתוח סטטיסטי, הערכת אמינות בין-מעריכה ומדדי הערכה אובייקטיביים מסוכם.

8. הערכת אימות ושחזור

1. לבצע מחקרי אימות ואבלציה להערכת החוסן והאמינות של המסגרת המוצעת. זהה תכונות עם ציוני חשיבות גבוהים באמצעות שיטות ההסבר שנבחרו. הסר תכונות חשובות בהדרגה והכין מחדש את המודלים החיזויים לאחר כל שלב הסרת תכונות.
2. העריך את ביצועי המודל לאחר כל ניסוי אבלציה באמצעות דיוק, דיוק, שחזור, ציון F1 ומדדי ROC-AUC. השווה את ערכי הביצועים המתקבלים עם ביצועי המודל הבסיסי כדי לקבוע את תרומת התכונות הבודדות לתוצאות חיזויות.
3. הערכת יציבות ההסבר על ידי יצירת הסברים לדגימות קלט דומות באמצעות SHAP, LIME ו-Grad-CAM. השווה את תוצרי ההסבר בין הערכות חוזרות וכמת עקביות באמצעות מדדי יציבות מוגדרים מראש. ודאו שההסברים נשארים יציבים תחת שינויים קלים בקלט וריצות ניסוי חוזרות.
4. רשם את כל ההליכים הניסיוניים לאורך תהליך העבודה. פעולות עיבוד נתונים מוקדמות, פרוצדורות חלוקת מערכי נתונים, ארכיטקטורות מודל, הגדרות היפרפרמטרים, תצורות אימון, שיטות הסבר, אסטרטגיות אימות ומדדי הערכה. אחסן את כל פרמטרי הקונפיגורציה והפלטים הניסיוניים בפורמט מובנה כדי להקל על שחזוריות ואימות עצמאי.
5. בדוק את כל רשומות הניסוי כדי להבטיח שלמות ועקביות. ודאו שניתן לשחזר את תהליך העבודה באמצעות הנהלים, קבצי הקונפיגורציה ומפרטי התוכנה המתועדים. לשמור על מבנה זרימת עבודה מודולרי שיקל על התאמת הפרוטוקול למחקרים עתידיים ולתמוך בהמרה לפרוטוקול ניסיוני מבוסס וידאו התואם את דרישות המתודולוגיה של JoVE.

9. משאבי שכפול

1. בצע את כל הניסויים באמצעות זרעים אקראיים קבועים כדי להבטיח תוצאות ניתנות לשחזור על ריצות חוזרות. שמרו קוד מקור, סקריפטים של עיבוד מקדים, קבצי קונפיגורציה, מפרטי סביבה, פרמטרי מודל וסקריפטי ויזואליזציה בתוך מאגר נגיש לציבור.
2. ספק הוראות מפורטות לרכישת מערכי נתונים, עיבוד מוקדם, ביצוע ניסויים, אימון מודלים, יצירת הסברות, נהלי אימות ושחזור כל הטבלאות והמספרים המדווחים. ארכוב את כל רכיבי זרימת העבודה הנדרשים לשכפול עצמאי, כולל מפרטי תוכנה, תהליכי קדם-עיבוד, קבצי קונפיגורציה, הוראות גישה למערכי נתונים, נקודות ביקורת למודלים ונכסי ויזואליזציה.
3. סכם את משאבי התוכנה, תהליכי העבודה המוקדמים, קבצי התצורה, הוראות גישה למאגרי הנתונים ונכסי השחזור המשמשים לאורך כל המסגרת בטבלה 5.
4. תפוקה צפויה - יצירת חבילת ניסוי מלאה הניתנת לשחזור הכוללת סקריפטים של עיבוד מוקדם, קבצי קונפיגורציה, מודלים מיומנים, נקודות ביקורת של מודלים, פלטי הסבר, דוחות אימות, ארטיפקטים של ויזואליזציה, מפרטי תוכנה ותיעוד הדרושים לשכפול ואימות עצמאיים של המסגרת המוצעת.

משאב	תיאור
קוד מקור	סקריפטים ליישום פייתון לעיבוד נתונים מוקדם, אימון מודלים, הסבר והערכה
קובץ הסביבה	requirements.txt המכיל תלותיות וגרסאות של חבילות
קבצי קונפיגורציה	הגדרות ארכיטקטורת המודלים, היפרפרמטרים ותצורות ניסוי
זרעים אקראיים קבועים	זרע = 42 משמש לניסויים ניתנים לשחזור
הוראות גישה למאגרי נתונים	קישורים ונהלים לרכישת מאגרי נתונים ציבוריים בתחום הבריאות
סקריפטים לעיבוד מקדים	סקריפטים לניקוי נתונים, נרמל, קידוד ובחירת תכונות
סקריפטים ליצירת דמויות	סקריפטים לשחזור כל איורי כתב היד
סקריפטים ליצירת טבלאות	סקריפטים לשחזור טבלאות ומדדים מדווחים
קלטים לדוגמה	מערכי נתונים לדוגמה וקבצי קלט
פלטים לדוגמה	תוצאות חיזוי, הסברים ודוחות הערכה

טבלה 5: משאבי שחזוריות ונכסים ניסיוניים.

טבלה זו מסכמת את המשאבים הניתנים לתמיכה בשחזור ניסויים, כולל קוד מקור, סקריפטים לעיבוד מקדים, קבצי קונפיגורציה, מפרטי סביבה, הוראות גישה למערכי נתונים, הגדרות זרע אקראיות קבועות, סקריפטים ליצירת איורים, וקבצי קלט/פלט לדוגמה הנדרשים לשחזור התוצאות המדווחות.

תוצאות

הערכנו לעומק את רכיב הבינה המלאכותית ההסברי בכל צינור המחקר שלנו, והערכנו עד כמה הוא חזה בין סוגי נתוני בריאות שונים, כולל נתונים קליניים מובנים ותמונות רפואיות. התוצאות הצביעו על ביצועים חיזויים עקביים בין מערכי הנתונים שהוערכו. מבין המודלים שנבדקו, מודל הגברת הגרדיאנט השיג את הדיוק הגבוה ביותר של 97.4%, ואחריו מודל היער האקראי עם 94.2%. שיטות למידה עמוקה שיושמו על ערכות תמונות השיגו דיוק של 91.3%, בעוד שמודלים רב-שכבתיים של פרספטרון הניבו תוצאות מעט נמוכות יותר, 90.8%. דבר זה מצביע על כך שמודלים מבוססי למידת מכונה מבוססי קבוצות מתפקדים בצורה הטובה ביותר על נתוני בריאות מובנים, בעוד שארכיטקטורות למידה עמוקה מצטיינות במשימות דימות. טבלה 6 מפרטת בפירוט מדדי ביצועים שונים לפונקציות חיזוי, כולל דיוק, דיוק, שליפה וציון F1, וכן מדדי הסבר כמו דיוק ויציבות. הגענו למספרי ביצועים אלו באמצעות אימות צולב חמש פעמים והצגת תוצאות כערכים ממוצעים (עם רווחי ביטחון של 95%). מרווחי ביטחון לא רק מציינים את אי-הוודאות של המודל, אלא גם הופכים את ההשוואות של ביצועי החיזוי לאמינים יותר, תוך התחשבות בזיכרון מערכי הנתונים והבדלים בארכיטקטורות המודל.

מודל	דיוק (%)	דיוק	זימון מחדש	F1-Score	פידליטי	יציבות	95% CI
יער רנדום	94.2	0.93	0.92	0.92	0.85	0.82	93.1–95.3
XGBoost	97.4	0.96	0.95	0.95	0.92	0.89	96.5–98.3
MLP	90.8	0.89	0.88	0.88	0.80	0.78	89.6–92.0
CNN (דימות)	91.3	0.90	0.91	0.90	0.88	0.86	90.1–92.5

טבלה 6: ביצועים השוואתיים של מודלים חיזויים ושיטות הסבר.
טבלה זו מציגה הערכה השוואתית של מודלים של למידת מכונה ולמידה עמוקה באמצעות מדדי ביצועים חיזויים, כולל דיוק, דיוק, שחזור, ציון F1 ו-ROC-AUC. בנוסף, מדדי הסבר כמו נאמנות, יציבות, הבנה וציוני אמון אנושי מדווחים כדי לספק הערכה מקיפה הן של יעילות חיזוי והן של פרשנות אפשרית.

התוצאות מצביעות על כך ש-Gradient Boosting השיג את ביצועי החיזוי הכלליים הגבוהים ביותר (דיוק של 97.4%), עם ביצועים טובים יותר מ-Random Forest ב-3.2 נקודות אחוז ועל מודלי הלמידה העמוקה ביותר מ-6 נקודות אחוז. תצפית זו מצביעה על כך ששיטות למידה מבוססות קבוצה היו יעילות במיוחד עבור מאגרי הנתונים המובנים של מערכת הבריאות שנכללו במחקר זה. ההבדל הקטן יותר בביצועים בין מודלי CNN ל-MLP מצביע על כך שמורכבות המודל המוגברת לבדה לא בהכרח תורגמה לביצועים חיזויים טובים יותר בתנאי הניסוי המוערכים.
כדי להציג את השימושיות של המסגרת המוצעת שלנו במגוון משימות ניתוח בריאות, אנו מציגים את תוצאות ביצועי החיזוי הספציפי למאגר נתונים בטבלה 7.

ניתוח ספציפי למאגר נתונים.
הביצועים השתנו בין מערכי הנתונים בשל הבדלים במורכבות התכונות, גודל המדגם, התפלגות המחלקות ומודאליות הנתונים. מאגר הנתונים של סרטן השד השיג את הדיוק החיזוי הגבוה ביותר, ככל הנראה בשל הפרדת תכונות מוגדרת היטב. ביצועים מעט נמוכים יותר במאגרי נתוני רנטגן חזה MIMIC-III ו-NIH משקפים את המורכבות הגבוהה יותר של רשומות קליניות אורך ודימות רפואי. ממצאים אלו מראים כי ביצועי המסגרת מושפעים ממאפייני מערך הנתונים ומהקשר קליני.

מערך נתונים	דיוק (%)	דיוק (%)	זיכרון (%)	ציון F1 (%)
סרטן השד	97.4	97.2	97.6	97.1
סוכרת	94.2	93.9	94.4	94
MIMIC-III	91.3	91	91.5	91.1
צילום חזה של NIH	90.8	90.4	91.2	90.6

טבלה 7: תוצאות ביצועים חיזויים ספציפיים למערך נתונים.
ביצועים חיזויים של מסגרת הבינה המלאכותית המוצעת להסבר בארבעה מערכי נתונים מייצגים בתחום הבריאות. דיוק, דיוק, זיכרון וציון F1 מדווחים כאחוזים (%) במערכות הבדיקה העצמאיות. ערכים גבוהים יותר מצביעים על ביצועי סיווג טובים יותר.

להערכת ביצועים חיזויים, נבדקו ארבעה מודלים של למידת מכונה ולמידה עמוקה, כלומר Gradiant Boosting, Random Forest, Convolutional Neural Network (CNN) ו-Multilayer Perceptron (MLP), בארבעה מערכי נתונים מייצגים בתחום הבריאות. ביצועי המודל הוערכו באמצעות דיוק, דיוק, זיכרון, ציון F1 ומדדי ROC-AUC על מערכי נתונים עצמאיים לאחר חלוקה של 70:15:15 למבחן אימות רכבת-ואימות צולב של חמש. שיפורים בביצועים החיזויים נקבעו על ידי השוואת מדדי הערכה ספציפיים למודל בתנאי קדם-עיבוד ואימות זהים.
כדי להבהיר כיצד ביצועי המודלים שונים בשיטות שונות, איור 4 מציג את היתרונות והחסרונות של מודלים של אנסמבל, רשת עצבית ולמידה עמוקה באופן תמונתי ומדויק.

איור 4: ביצועים השוואתיים של מודלים של למידת מכונה ולמידה עמוקה במשימות חיזוי בריאות. (א) השוואת דיוק של מודלים של הגברת גרדיאנט, יער אקראי, CNN ו-MLP במאגר הנתונים של הבדיקה. (ב) השוואת ציון F1 של מודלים של הגברת גרדיאנט, יער אקראי, CNN ו-MLP במאגר הנתונים של הבדיקה. (ג) השוואת דיוק בין מודלים של הגברת גרדיאנט, יער אקראי, CNN ו-MLP במאגר הנתונים של הבדיקה. (ד) השוואת זיכרון בין מודלים של הגברת גרדיאנט, יער אקראי, CNN ו-MLP במאגר הנתונים של הבדיקה. ערכים גבוהים יותר מצביעים על ביצועים חיזויים טובים יותר. Gradient Boosting השיג את הביצועים הכוללים הגבוהים ביותר בכל מדדי ההערכה, ואחריו Random Forest. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

פרשנות של ביצועי הסבר.
SHAP השיג בעקביות את ציוני הנאמנות והיציבות הגבוהים ביותר בין שיטות ההסבר שנבדקו, מה שמעיד על הסכמה חזקה יותר בין ההסברים שנוצרו לבין תחזיות המודל הבסיסיות. LIME הציג יציבות נמוכה יחסית, מה שמרמז על רגישות גבוהה יותר להפרעות מקומיות ולשונות בדגימות. Grad-CAM סיפקה הסברים ויזואליים למודלים מבוססי תמונה אך הפיקה ערכי דיוק מעט נמוכים יותר מ-SHAP. ממצאים אלו מצביעים על כך שאיכות ההסבר תלויה הן בטכניקת ההסבר הנבחרת והן בארכיטקטורת המודל החיזוי הבסיסי.

טכניקות ההסבר המשולבות בצינור הוערכו מבחינת ביצועיהן כמותית ואיכותית. באופן ספציפי, שיטות ייחוס תכונות הצליחו לחשוף באופן עקבי את ההיגיון הפנימי של המודל בין מערכי נתונים שונים.
כל השיטות שנבדקו במחקר, SHAP, השיגו את הדיוק הגבוה ביותר (0.92) והיציבות הגבוהות ביותר (0.89) מבין שיטות ההסבר שנבדקו. בקיצור, ההסברים היו ייצוגים מדויקים מאוד של מה שהמודל באמת חזה. שיטות הסבר מקומיות הן סוג של חלון דרכו אנו יכולים לראות תחזית ספציפית ולהבין מה המודל השתמש כבסיס להחלטה.

ביצועי הפרשנות הוערכו באמצעות ציוני נאמנות, יציבות, הבנה ואמון קלינאים שהושגו מהערכה ממוקדת אדם. הסברים של SHAP, LIME ו-Grad-CAM הושוו באמצעות מערכי נתונים זהים ומודלים מאומנים. שיפורים ביכולת ההסבר הוערכו על ידי השוואת מדדי איכות ההסבר ודירוגי הרופאים לאורך שיטות היכולת להסביר שנבדקו. טכניקות ויזואליזציה למודלים של למידה עמוקה שעובדים עם תמונות בעצם מייצרות מפות חום, שמזהות את האזורים בתמונות שיש להם את הרלוונטיות הגבוהה ביותר לחיזוי המודל. התפלגויות חשיבות התכונות והשוואות ביצועים בין שיטות שונות מוצגות באיור 5.

איור 5: הערכת ביצועי הסבר.התרשים מציג את ביצועי שיטות ההסבר בעזרת מדדי נאמנות ויציבות. SHAP מובילה בנאמנות (0.92) וביציבות (0.89), מה שמשקף הסכמה טובה בין ההסברים לתחזיות המודלים. LIME מתגלה ככלי הטוב ביותר לפרשנות של דוגמאות בודדות. מצד שני, Grad-CAM מפיקה מפות חום חזותיות המשמשות בעיקר במודלים של דימות, ומציגות באופן גס את האזורים החשובים ביותר האחראים לחיזוי המודל, מה שמבחינה קלינית עשוי להיות רלוונטי מאוד. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

לאחר הערכת המודלים החיזויים והטכניקות לפרשנות, התגלה כי המתאם בין דיוק המודל לבין אמינות ההסברים שלו חזק מאוד. למעשה, אותם מודלים שהראו שיפורים בחיזוי גם הסבירו את תוצאותיהם ביציבות ועקביות רבה יותר כאשר טכניקות הפרשנות יושמו כראוי. מודלים קבוצתיים נמצאו כיותר ניתנים לפרשנות כאשר הם מלווים בשיטות ייחוס תכונות, בעוד שמודלים של למידה עמוקה קיבלו שירות טוב יותר על ידי שיטות הסבר מבוססות ויזואליזציה. הקשר שמקשר בין דיוק החיזוי לאמינות ההסברים ניתן לראות באיור 6, המתאר בפירוט רב את הדינמיקה המושגית בין המודל להסברות.

איור 6: ניתוח השוואתי של מודלים והסבר שיטות יכולת.הגרף מציג השוואה מפורטת של מדדי הדיוק וההסבר של מודלים שונים. הוא כולל גרף פיזור המתאר את המתאם בין דיוק ליציבות הסבר, השוואה טבלאית של ביצועים, ומטריצת התאמה המתארת את שיטות ההסבר השונות SHAP, LIME ו-Grad-CAM, ואת יעילותן עם סוגי מודלים שונים. הוויזואליות מראה בבירור שמודלים קבוצתיים יחד עם SHAP מספקים פרשנות מצוינת, בעוד שמודלים של למידה עמוקה ניתנים להסבר באמצעות טכניקות ויזואליזציה. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

ההערכה הממוקדת באדם אישרה את התועלת האמיתית של המערכת המוצעת בבתי חולים ובמתקנים קליניים אחרים. אנשי מקצוע רפואיים בחנו את תוצאות המודלים עם ובלי הסברים. הצגת התוצאות עם הסברים הובילה לעלייה משמעותית באמון ובפרשנות המשתמשים; ערך האמון הממוצע עלה מ-3.1 ל-4.7 בסולם של 1 עד 5. העלייה בציון האמון מ-3.1 ל-4.7 מייצגת שיפור יחסי משוער של 51.6%. ההסכמה המהותית בין המערכים (κ של פלייס = 0.81) מצביעה על הערכה עקבית של הרופא לגבי תועלת ההסבר. ממצאים אלו מצביעים על כך שפלטי הסבר עשויים לשפר את ביטחון המשתמש ולהקל על פרשנות החלטות קליניות בסיוע בינה מלאכותית. אנשי מקצוע ציינו הבנה טובה יותר של תוצרי המודל ואמון גבוה יותר בשיפוט הנתמך על ידי בינה מלאכותית של מצבים קליניים, מה שמצביע על חשיבות הפרשנות ביישום בפועל של שירותי הבריאות.

אישרנו עוד את עמידות המסגרת שלנו באמצעות ניתוח אבלציה. הסרת תכונות קריטיות שנחשבו חיוניות באמצעות שיטות הסבר גרמה לאובדן משמעותי בביצועי התחזית. לכן, הממצא משקף כי תכונות לא רק רלוונטיות אלא גם משמעותיות למשימת החיזוי. בנוסף, תוצאות ההסבר המשיכו להראות הבדלים זניחים בלבד כאשר הוסברו דגימות קלט שונות, מה שהראה את היציבות והאמינות של שיטות ההסבר.

כדי לבדוק את היתכנות הצינור לשימוש מעשי, מדדנו את מהירות החישוב שלו. הכנסת טכניקות הסבר גרמה להארכה מסוימת בזמן החישוב, במיוחד בעת ייחוס תכונות ויצירת ויזואליזציות. למרות זאת, זמן ההוצאה להורג הכולל עדיין היה אפשרי ולא ארוך מדי. איור 7 מראה כיצד הזמן החישובי מחולק בין שלבים שונים של הצינור, כגון עיבוד מוקדם, אימון מודלים, יצירת הסברים, הערכה והדמיה.

איור 7: פירוט זמן ביצוע הצינור. תרשים זה מראה כיצד זמן החישוב מחולק בין שלבים שונים בצינור הבינה המלאכותית הניתנת להסבר, כגון עיבוד מוקדם, אימון מודלים, יצירת הסברים ליכולות, הערכה והדמיה. הנתונים מגלים שרוב ציר הזמן מוקדש לאימון מודלים, שאחריו מתבצע עיבוד יכולת הסבר. מצד שני, הזמן שמוקדש לעיבוד מוקדם ודיווח הוא מינימלי למדי. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

בדקנו גם את חוזק המסגרת המוצעת באמצעות ניתוח אבלציה. הסרת התכונות החיוניות שהתגלו באמצעות שיטות הסבר הראתה ירידה ברורה בביצועים החיזויים, וזה סימן ברור לכך שתכונות אלו לא רק רלוונטיות אלא גם חשובות מאוד. מלבד זאת, פלטי ההסבר היו יציבים למדי גם כאשר היה שינוי קל בדגימות הקלט, מה שמוכיח את העקביות והאמינות של טכניקות ההסבר.

בקיצור, על ידי שילוב מדידת ביצועים חיזויים, הסבר ואימות ממוקד אדם, הוכח שהמסגרת המוצעת הייתה יעילה. המערכת לא רק ביצע תחזיות מדויקות מאוד, אלא גם נשארה מאוד ניתנת לפרשנות וקלה לשימוש. הכנסת שיטות הסבר הפכה את כל התהליך לשקוף מבלי לפגוע בביצועי המודל. השיפורים שראינו בדיוק החיזוי והפירוש לא נעשו רק תחת שליטה ניסויית קפדנית, אלא גם מובהקים סטטיסטית, עובדה שמעידה על הסיבולת והאותנטיות של הדרך המוצעת. השוואות זוגיות בין מודלים חיזויים בוצעו באמצעות מבחני t זוגיים על פני קפלים של אימות צולב. נצפו הבדלים מובהקים סטטיסטית בין הגברת הגרדיאנט למודלים מתחרים (p < 0.05), מה שמאשר את עליונות התצורה המוצעת.

ממצאים כלליים.
ביחד, התוצאות מראות כי ניתן להעריך ביצועים חזויים, איכות הסבר ואמון הרופאים במסגרת זרימת עבודה מאוחדת וניתנת לשחזור. המסגרת שמרה על ביצועים עקביים בין מאגרי נתונים רפואיים שונים, תוך תמיכה בפרשנות שקופה באמצעות הסברים של SHAP, LIME ו-Grad-CAM. עם זאת, יש לפרש את הממצאים בהקשר של מערכי הנתונים הנבחרים והגדרות האימות הנבחרים, ועדיין נדרש אימות חיצוני נוסף לפני הפריסה בעולם האמיתי.

זמינות נתונים:
קיבלנו את מערכי הנתונים המשמשים במחקר הנוכחי ממקורות ציבוריים, וניתן למצוא אותם במאגרי נתונים מוכרים. לדוגמה, הנתונים הנוגעים לסרטן השד וסוכרת ניתנים להורדה ממאגר למידת המכונה של UCI בכתובת: https://archive.ics.uci.edu/ml/index.php

ניתן לקבל את מאגר הנתונים האלקטרוני של רשומת הבריאות (MIMIC-III) דרך Physio Net בכתובת:
https://physionet.org/content/mimiciii/1.4/

נתוני הדמיית רנטגן של החזה נאספו ממאגר נתוני רנטגן חזה של NIH וניתן למצוא אותם בכתובת: https://www.kaggle.com/datasets/nih-chest-xrays/data

כל מערכי הנתונים שחקרנו במחקר זה הם אנונימיים וזמינים לציבור. שלבי העיבוד המוקדם, המודל המאומן והפלטים של יכולת ההסבר שהפקנו במהלך המחקר זמינים דרך המחבר המתאים אם נעשית בקשה סבירה. קוד מקור, סקריפטים של עיבוד מוקדם, קבצי קונפיגורציה ומשאבים לשחזור יופקדו במאגר ציבורי עם קבלת כתב היד.

דיון

מחקר זה פיתח והעריך זרימת עבודה של בינה מלאכותית ניתנת להסבר (XAI) לשחזור עבור ניתוח בריאות, המשלב מודלים חזויים, הערכת הסבר, הערכה ממוקדת קלינאי ומשאבי שחזוריות בתוך פרוטוקול אחד. התוצאות הראו כי מודלים מבוססי למידת מכונה מבוססי קבוצת, במיוחד Gradient Boosting ו-Random Forest, השיגו את הביצועים החיזויים הגבוהים ביותר במאגרי הנתונים המובנים של הבריאות שהוערכו, בעוד שמודלים של למידה עמוקה מתאימים יותר לניתוחים מבוססי תמונה. ממצאים אלו מדגישים את החשיבות של בחירת ארכיטקטורות מודל לפי מאפייני הנתונים במקום להניח שמודלים מורכבים יותר תמיד יניבו ביצועים טובים יותר. תרומה מרכזית של עבודה זו היא שילוב של מודלים חיזויים, הערכת הסבר, הערכה ממוקדת אדם ופרקטיקות שחזוריות בתוך תהליך עבודה סטנדרטי. בניגוד למחקרים שמעריכים טכניקות הסבר בנפרד, המסגרת המוצעת מספקת מתודולוגיה מונחית פרוטוקול התומכת בניסויים שקופים וניתנים לשחזור על פני מאגרי נתונים מגוונים בתחום הבריאות.

ניתוח ההסבר הראה הבדלים מדידים בין השיטות שהוערכו. SHAP השיגה את ציוני הנאמנות והיציבות הגבוהים ביותר בתנאי הניסוי שהוערכו, מה שמעיד על התאמה קרובה יותר בין ההסברים שנוצרו לבין תחזיות המודל. LIME סיפק הסברים מקומיים שימושיים אך הציג יציבות נמוכה יותר, בעוד ש-Grad-CAM יצר הסברים ויזואליים אינטואיטיביים לנתוני הדמיה. ממצאים אלו מצביעים על כך שאיכות ההסבר תלויה הן בשיטת ההסבר הנבחרת והן במודל החיזוי הבסיסי. הערכה ממוקדת אדם הראתה עוד כי הכללת הסברים משפרת את האמון והיכולת לפרשנות של הרופאים. העלייה שנצפתה בציוני האמון ובהסכמה המשמעותית בין המערכים (κ = 0.81 של פלייס) מעידות על הערכה עקבית של תועלת ההסבר בין המשתתפים. ממצאים אלו תומכים בערך הפוטנציאלי של שיטות הסבר לשיפור השקיפות וקבלת המשתמשים במערכות תמיכה בהחלטות בתחום הבריאות.

יש לקחת בחשבון מספר מגבלות בעת פירוש התוצאות. ראשית, המסגרת הוערכה באמצעות מספר מוגבל של מאגרי נתונים זמינים לציבור, וייתכן שלא תייצג במלואה את השונות הנפגשת בסביבות קליניות אמיתיות. שנית, ההערכה הקלינית כללה קבוצת משתתפים קטנה יחסית, מה שעשוי להגביל את ההכללה. שלישית, שיטות ההסבר שנחקרו במחקר זה הן טכניקות פוסט-הוק ולכן נשארות כפופות למגבלות ידועות, כולל רגישות להפרעות והסתירות פוטנציאליות בין הסברים לבין הסקת מודלים אמיתית. לבסוף, אימות חיצוני בין מוסדות בריאות עצמאיים היה מעבר להיקף המחקר הנוכחי.

מחקרים עתידיים צריכים לחקור אנליטיקה רפואית רב-מודלית המשלבת רשומות קליניות, הדמיה רפואית, אותות פיזיולוגיים ונתוני חיישנים לבישה. נדרשת עבודה נוספת להערכת שיטות הסבר סיבתיות ונגד-עובדתיות, כימות אי-ודאות, הערכת הוגנות, ניתוח כיול ואימות קליני פרוספקטיבי. מחקרים כאלה עשויים לשפר עוד יותר את השקיפות, האמינות והיישום של מערכות בינה מלאכותית ניתנות להסבר בתחום הבריאות.

בנוסף להערכת ביצועים, יש לשקול מספר אתגרי יישום מעשיים ושינויים בפרוטוקול כדי להבטיח פריסה חזקה של מסגרת הבינה המלאכותית המוצעת להסבר בסביבות בריאות מגוונות.

מגבלות שיטות הסבר

SHAP, LIME ו-Grad-CAM, למרות שהם מספקים תובנות מועילות לגבי התנהגות המודלים, יש להם גם מספר חסרונות. צוין בספרות כי כלים אלו עשויים להיות לא יציבים בריצות חוזרות, רגישים מאוד להפרעות, שונים בין מערכי נתונים, ולעיתים אינם משקפים במדויק את הסיבות האמיתיות של המודל. לכן, הסברים לאחר מכן צריכים להיחשב רק כראיה משלימים ולא כהצגה ממשית של מנגנוני החלטה סיבתיים. אימות נכון של אמינות ההסברים הוא עדיין שלב הכרחי לפני שניתן להשתמש בהם בסביבות קליניות בעלות השפעה גבוהה.

דבר זה גם תואם את ממצאי מחקרי AI ביו-רפואיים עדכניים, שהדגישו את הצורך להסביר אימות אמינות לפני יישומו בסביבות קליניות. שילוב ההסבר שימש כחלק מרכזי באימות במערכות חיזוי דום לב, כדי שיהיו שקופות יותר ולזכות באמון התחזיות הקליניות⁴¹. באותה מידה, סגמנטציה של תמונות אולטרסאונד בכבד באמצעות טכניקות הסבר מונעות ויזואליזציה נועדה להגדיל את הפרשנות מבלי להתעלם מהעובדה שההסברים לאחר מכן מוגבלים. מאמרים אלו מאשרים כי בדיקות עקביות הסבר, מבחני עמידות הסבר, ואימותי תוצרים בעלי משמעות קלינית הם הכרחיים כדי להגיע לרמת מוכנות קלינית לשימוש.

כיול, הוגנות, עמידות והכללה חיצונית

הגרסאות העתידיות של המסגרת המוצעת יכללו הערכת כיול ההסתברות באמצעות עקומות כיול וציון ברייר, הערכת אי-הוודאות באמצעות שיטות בייסיאניות ומבוססות אנסמבל, ביקורת הוגנות של תת-הקבוצות הדמוגרפיות, ובדיקת עמידות תחת נוכחות נתונים רועשים ותנאי תחום משתנים. ניתוחים אלו חשובים במיוחד בסביבות בריאות, שבהן ביטחון המודלים, ביצועים שוויוניים ואמינות בסביבות קליניות משתנות משפיעים ישירות על בטיחות המטופל ואימוץ קליני. מסגרות מדעיות עדכניות מבוססות בינה מלאכותית הדגישו גם הן את חשיבותם של מערכות תמיכה בהחלטות אמינות, שקופות ואמינות מעבר להערכת ביצועים חיזוי קונבנציונלית. מסגרות מדעיות עדכניות מבוססות בינה מלאכותית הדגישו גם הן את חשיבותן של מערכות תמיכה בהחלטות אמינות, שקופות ואמינות מעבר להערכת ביצועים חזותית קונבנציונלית ⁴³.

פתרון תקלות ושינויים בפרוטוקול

יש לשקול מספר נקודות מעשיות כדי להשלים בהצלחה את מסגרת הבינה המלאכותית הניתנת להסבר. בעיה טיפוסית היא התאמת יתר, למשל, בעת אימון מודלים של למידה עמוקה על מאגרי נתונים קטנים יחסית בתחום הבריאות. ניתן להפחית התאמה יתר על ידי יישום אימות צולב, עצירה מוקדמת, רגולריזציה של נפילה, הרחבת נתונים ואופטימיזציה יסודית של היפרפרמטרים. צפייה בביצועי האימות במהלך ההכשרה היא דרך טובה להימנע ממודל מאוד מורכב שמכליל בצורה לקויה.

בעיה חשובה נוספת במאגרי נתונים בתחום הבריאות היא חוסר איזון מעמדי, כלומר תוצאות קליניות חיוביות נדירות בהרבה ממקרים שליליים. כדי להתמודד עם בעיה זו, דגימה שכבתית, התאמת משקל מחלקה, דגימת יתר של מיעוטים סינתטיים, ושימוש במדדי הערכה מאוזנים כמו ציון F1 ו-ROC-AUC צריכים להיות חלק מצינור המידול. התעלמות מחוסר איזון מעמדי עלולה להוביל למדדי ביצועים שאינם מייצגים באמת את המודל ותחזיות קליניות שעלולות להיות מוטות.

מערכי הנתונים של הדמיה רפואית בדרך כלל אינם מושלמים ועלולים להיפגע מרעש, ארטיפקטים של רכישה, איכות לא עקבית ועוד. גורמים אלה משתנים גם בהתאם לסוג מכשיר ההדמיה. גורמים כאלה עלולים להשפיע לרעה על ביצועים חיזויים וגם להשפיע על תוצאות ההסבר. לכן, יש ליישם שלבי קדם-עיבוד סטנדרטיים, נרמול תמונה, בדיקות בקרת איכות וטכניקות הרחבת נתונים כדי להשיג עמידות ואמינות של המודל.

SHAP מאפשרת הסקה של הסברים אינפורמטיביים מאוד על ייחוס תכונות. עם זאת, לא ניתן להמעיט בהתחייבויות של חוסר יציבות, במיוחד כאשר קיימות תכונות מתואמות מאוד או כאשר תוצאות המודל רגישות מאוד לשינויים זעירים בנתוני הקלט. כדי לשפר את עקביות ההסבר ואמינותו, מומלץ לכתוב את ההסבר מספר פעמים, להעריך יציבות לאורך מספר ריצות, להשתמש באסטרטגיות קיבוץ תכונות ולבדוק מול שיטות הסבר אחרות כמו LIME.

כשמדובר בנתוני בריאות בקנה מידה גדול וארכיטקטורות רשת עצבית עמוקה עצומה, מגבלות הזיכרון של GPU עלולות להפוך לאחת המגבלות המרכזיות. צרכי הזיכרון יכולים להיות מוקטנים משמעותית באמצעות שינויים בגודל אצווה, אימון מדויק מעורב, גיזום מודלים, הפחתת ממדי תכונות ואימוץ טעינת נתונים יעילה. בנוסף, חוקרים שמפרסמים את המסגרת במערכות דלות משאבים עשויים לשקול שימוש בסביבות מחשוב ענן או הדרכה מבוזרת.

העיצוב המודולרי של המסגרת המוצעת מאפשר ביצוע שינויים בקלות עבור יישומים שונים בתחום הבריאות. בהתאם למשימה הקלינית, מדענים יכולים לשנות מודל חיזוי אחד או יותר, להוסיף שיטות הסבר חדשות, להשתמש בסוגים שונים של נתוני בריאות יחד, או לכלול מודולים של כימות וכיול אי-ודאות מבלי לשנות את זרימת העבודה הכוללת. גמישות זו מסייעת להפוך את המסגרת לשימושית במקרים שונים מאוד של אנליטיקת בריאות, תוך שמירה על שחזור ופרשנות.

שיקולים רגולטוריים ואתיים:

מערכות בינה מלאכותית שמובנות יותר יכולות לסייע רבות בתחום הבריאות. אבל זה לא מספיק. כללי הרגולטור, הקוראים לשקיפות, אחריות, פרטיות ובטיחות מטופלים, חייבים להתממש. גם אם ההסבר עשוי להגדיל את האמון והפרשנות, הוא לא יכול לבדו להבטיח תוקף קליני. יישום אחראי דורש אימות קליני פרוספקטיבי, הערכת הוגנות, סקירה רגולטורית ומעקב לאחר פריסה. בנוסף, יש לקחת בחשבון סודיות מטופל, פיקוח קלינאי וביצועים שוויוניים בין קבוצות דמוגרפיות בעת יישום המסגרת בעתיד. כדי להשתלב בתהליכי עבודה קליניים אמיתיים, מערכות בינה מלאכותית ואנשי מקצוע בתחום הבריאות חייבים לקיים אינטראקציה ללא תקלות. לכן, מידע על הסבר צריך להיות חלק מתיקי בריאות אלקטרוניים ופלטפורמות תמיכה קליניות קיימות, ולא כלים נפרדים שפועלים רק לעצמם. ההחלטות הסופיות חייבות להתקבל על ידי הרופאים, בעוד שבינה מלאכותית מוסברת היא רק טכנולוגיה מסייעת שמגבירה שקיפות, מגבה חשיבה מבוססת ראיות ומקלה על התקשורת בין עובדי הבריאות למטופלים.

מאמר זה מציג פרוטוקול שניתן לשחזר לפיתוח, הערכה ופרשנות של מערכות בינה מלאכותית ניתנות להסבר בניתוח בריאות. התרומה היא מתודולוגית וממוקדת בזרימת עבודה, ומספקת לחוקרים ולרופאים מסגרת סטנדרטית שניתן לשחזר, להתאים ולהרחיב אותה במגוון יישומי בריאות. הוא משלב היבטים שונים כגון עיבוד נתונים מוקדם, מידול חיזוי, שיטות הסבר והערכת ביצועים באופן אחיד אחד. המתודולוגיה הראתה ביצועים חיזויים חזקים במגוון מאגרי נתונים בתחום הבריאות. כשמדובר בניתוח נתונים מובנים, אנסמבלים של מודלים הם הטובים ביותר, בעוד שמודלים של למידה עמוקה נמצאים כיעילים מאוד למשימות דימות רפואי. יתרה מזאת, שימוש בטכניקות הסבר מקל על המשתמשים להבין את המודלים, שכן הוא מציע פרשנויות גלובליות ומקומיות לתוצאות התחזית. לכן, זה לא רק מעלה את האמון של הרופאים אלא גם את השימושיות של המודלים. הממצאים מצביעים על כך שבינה מלאכותית ניתנת להסבר יכולה לתמוך בפיתוח מערכות ניתוח בריאות שקופות וניתנות לפרשנות, כדי למצוא פשרה בין הדיוק לפרשנות של המודלים, שהם חיוניים לניתוח רפואי אמין ואמין. כתוצאה מכך, השיטה המוצגת כאן היא כלי יעיל ופשוט לניתוח נתונים רפואיים שיכול לסייע לאנשי מקצוע בתחום הבריאות להשתמש בטכנולוגיות בינה מלאכותית שהם סומכים עליהן. מאמר זה מציג פרוטוקול שניתן לשחזור לפיתוח, הערכה ופרשנות של מודלים ניתנים להסבר של בינה מלאכותית באנליטיקה רפואית. על ידי שילוב עיבוד נתונים מוקדם, מידול חיזוי, הערכת הסבר, הערכה ממוקדת קלינאי ומשאבי שחזוריות בתוך זרימת עבודה מאוחדת, הפרוטוקול מספק מסגרת מעשית למחקר שקוף של בינה מלאכותית בתחום הבריאות. תהליך העבודה יכול להיות מותאם למאגרי נתונים רפואיים מגוונים ולתחומי יישום, ותומך ביישום, הערכה ודיווח שניתן לשחזור על מערכות למידת מכונה ניתנות להסבר.

חומרים

רשימת החומרים שנעשה בהם שימוש במאמר זה

שם	חברה	מספר קטלוג	הערות
GPU Workstation	תלוי ביצרן	לא חל	אימון מודלי למידת תעומק
Jupyter Notebook	Project Jupyter	הגרסה היציבה האחרונה	ביצוע ניסויים אינטראקטיבי
LIME	LIME	גרסה 0.2.0	הסברים מקומיים ניתנים לפרשנות
Matplotlib	Matplotlib Project	גרסה 3.9	ויזואליזציה של נתונים
MIMIC-III Database	PhysioNet	גרסה 1.4	ניתוח רשומות בריאות אלקטרוניות
NIH Chest X-ray Dataset	NIH Clinical Center	מסד נתונים ציבורי	סיווג מחלות בחזה
NumPy	NumPy Developers	גרסה 1.26	חישוב מספרי ופעולות מערכים
OpenCV	OpenCV Foundation	גרסה 4.10	עיבוד תמונה מקדים
Pandas	Pandas Development Team	גרסה 2.1	מניפולציה ועיבוד מוקדם של נתונים
Pima Indians Diabetes Dataset	UCI Machine Learning Repository	מסד נתונים ציבורי	חיזוי סיכון לסוכרת
Python 3.11	Python Software Foundation	גרסה 3.11	סביבת תכנות עיקרית
Scikit-learn	scikit-learn	גרסה 1.5	אלגוריתמים והערכת למידת מכונה
Seaborn	Seaborn	גרסה 0.13	ויזואליזציה סטטיסטית
SHAP	SHAP	גרסה 0.46	ייחוס תכונות והסבריות
TensorFlow	TensorFlow	גרסה 2.15	פיתוח מודלי למידת תעומק
Windows / Ubuntu Linux	Microsoft / Canonical	לא חל	מערכת הפעלה
Wisconsin Breast Cancer Dataset	UCI Machine Learning Repository	מסד נתונים ציבורי	אבחון סרטן השד