הרשמה ל-JoVE נדרשת לצפייה בתוכן זה. התחברו או התחילו בגרסת ניסיון בחינם.

מאמר מחקר

פרוטוקול שניתן לשחזור לפיתוח והערכה של מסגרות בינה מלאכותית ניתנות להסבר באנליטיקה רפואית

93 צפיות

⸱

DOI:

10.3791/71999

⸱

31 ביולי 2026

 ,  ,  ,  , 
1Department of Computer Engineering, Vishwakarma Institute of Technology, 2Bharati Vidyapeeth's College of Engineering for Women, 3Department of Computer Engineering, Kasetsart University, 4Department of Computer Science and Engineering (Artificial Intelligence and Machine Learning), Vishwakarma Institute of Technology, 5President Maryam Abacha American University of Nigeria

במאמר זה

סיכום

כאן, אנו מציגים פרוטוקול שניתן לשחזור לפיתוח והערכת מודלים ניתנים להסבר של בינה מלאכותית לניתוח בריאות. תהליך העבודה משלב עיבוד נתונים מוקדם, מידול חיזוי, הסברים מבוססי SHAP, LIME ו-Grad-CAM, הערכה כמותית ואימות ממוקד אדם כדי לתמוך בקבלת החלטות קליניות שקופה ואמינה.

תקציר

בינה מלאכותית מוסברת (XAI) מוכרת יותר ויותר ככלי חיוני לבניית מערכות בינה מלאכותית אמינות בתחום הבריאות, כאשר שקיפות ויכולת להסביר החלטות הן מרכיבים חיוניים בקבלת החלטות קליניות. פרסום זה מציג גישה ניסיונית שניתן לשחזר לפיתוח והערכת מערכות בינה מלאכותית ניתנות להסבר לניתוח בריאות. הצינור המפותח משלב את שלבי העיבוד המוקדם של הנתונים, מידול חיזוי, יצירת פרשנות והערכה לזרימת עבודה חלקה שניתן ליישם הן על נתונים קליניים מובנים והן על מערכי דימות רפואיים. מודלים של למידת מכונה קבוצתית הראו ביצועים חיזויים חזקים על מערכי נתונים טבלאות מובנים, בעוד שמודלים של למידה עמוקה יעילים ללמידת דפוסים מורכבים בנתוני דימות רפואי. טכניקות כמו SHAP, LIME ו-Grad-CAM הן הסברים גלובליים ומקומיים שמקלים על פירוש המודלים. מאוד מועיל. ההערכה הכמותית של המסגרת כוללת מדדים רבים כגון דיוק, דיוק, זיכרון, ציון F1, ROC-AUC, מדדי הסבר, נאמנות ויציבות. התוצאות מצביעות על כך שכאשר התנאים הניסיוניים נשלטים, המסגרת הראתה שיפור בביצועי החיזוי ובאיכות ההסבר תחת תנאי הניסוי המוערכים. כמסמך המונחה על ידי פרוטוקול, עבודה זו מגבה את השחזוריות והיכולת להרחבה, את היישום המתמשך על ידי יצורים חיים אחרים. מודל הבינה המלאכותית השקוף והברור הזה הוא הבסיס שעליו מערכות תמיכה בקבלת החלטות קליניות ומערכות ניתוח בריאות זוכות לאמון ולשימוש בקנה מידה רחב.

מבוא

בינה מלאכותית (AI) הפכה לרכיב חשוב במערכת הבריאות המודרנית על ידי תמיכה באבחון מחלות, פרוגנוזה, סיווג סיכונים, ניתוח תמונות רפואיות וקבלת החלטות קליניות. התקדמות בלמידת מכונה ולמידה עמוקה אפשרה למערכות בריאות לעבד כמויות גדולות של נתונים מובנים ולא מובנים, לעיתים קרובות להשיג ביצועים חיזויים השווים או עולים על הגישות הסטטיסטיות המסורתיות2. למרות ההתקדמות הזו, מודלים רבים של הבינה המלאכותית פועלים כמערכות קופסה שחורה מורכבות, מה שמקשה על רופאים ובעלי עניין בתחום הבריאות להבין כיצד נוצרים תחזיות3. חוסר השקיפות הזה עלול להגביל אמון, אימוץ ואחריות בסביבות בריאות בעלות סיכון גבוה 4,5.

בינה מלאכותית ניתנת להסבר (XAI) הפכה לגישה מבטיחה לשיפור השקיפות והפרשנות של מודלים של למידת מכונה6. טכניקות הסבר נפוצות, כולל SHAP (הסברים אדיטיביים של Shapley), LIME (הסברים מקומיים ניתנים לפרשנות למודל), ומיפוי הפעלה מחלקות משוקלל לפי גרדיאנט (Grad-CAM), מספקות תובנות על התנהגות המודל באמצעות ייחוס תכונות ומנגנוני הסבר חזותי 7,8,9. שיטות אלו מיושמות יותר ויותר ביישומי בריאות לתמיכה בפרשנות קלינית, ביקורת מודלים ותמיכה בהחלטות10,11. עם זאת, הסבר לבדו אינו מבטיח אמינות, שחזוריות או תועלת קלינית. מחקרים עדכניים הדגישו אתגרים הקשורים לאי-יציבות בהסברים, רגישות להפרעות, אימות מוגבל של רופא, ואי-עקביות בין פלטי ההסבר לבין הסקת מודל אמיתי 12,13,14,15.

בנוסף לאתגרי ההסבר, השחזוריות נותרה דאגה משמעותית במחקר למידת מכונה רפואית 16,17,18. מחקרים רבים שפורסמו מספקים מידע מוגבל בנוגע להליכי קדם-עיבוד, סביבות תוכנה, קונפיגורציות היפרפרמטרים, אסטרטגיות אימות ותהליכי עבודה של יישום, מה שמקשה על שכפול עצמאי 19,20,21. יתרה מזאת, מחקרי בינה מלאכותית רפואית מתמקדים לעיתים קרובות בביצועים חיזויים תוך מתן הנחיות מוגבלות בנוגע להערכת איכות הסבר, הערכה ממוקדת קלינאי ושיקולייישום מעשי. מגבלות אלו עלולות להקשות על תרגום מערכות בינה מלאכותית ניתנות להסבר מסביבות מחקר לסביבות בריאות אמיתיות 23,24,25,26,27.

תהליכי עבודה עדכניים בתחום הבריאות ב-XAI מעריכים לעיתים טכניקות הסבר אישיות או מודלים חיזויים בנפרד, ולעיתים נדירות מספקים פרוטוקולים סטנדרטיים המשלבים הכנת נתונים, מידול חיזוי, הערכת הסברות, הערכה ממוקדת אדם ומשאבי שחזוריות 28,29,30,31. כתוצאה מכך, חוקרים ואנשי מקצוע עלולים להיתקל בקשיים בשחזור זרימות עבודה, השוואת שיטות הסבר או הערכת התועלת המעשית של מערכות בינה מלאכותית ניתנות להסבר בין מאגרי נתונים ותחומי יישום שונים בתחום הבריאות. לכן נדרש פרוטוקול מקיף וניתן לשחזור כדי להקל על יישום, הערכה ודיווח עקביים של תהליכי בינה מלאכותית מוסברים במערכת הבריאות 32,33,34,35.

כאן, אנו מציגים פרוטוקול שניתן לשחזור לפיתוח, הערכה ופרשנות של מערכות בינה מלאכותית ניתנות להסבר בניתוח בריאות. הפרוטוקול משלב עיבוד נתונים מוקדם, מידול חיזוי, הערכת הסבר באמצעות SHAP, LIME ו-Grad-CAM, הערכה ממוקדת רופא, הליכי אימות ומשאבי שחזוריות בתוך זרימת עבודה מאוחדת. המטרה היא לספק מסגרת סטנדרטית התומכת בפיתוח מודלים שקוף, הערכת איכות הסברים ויישום שניתן לשחזור על פני מאגרי נתונים רפואיים מגוונים 36,37,38,39. התרומה המתודולוגית של עבודה זו טמונה בשילוב אנליטיקה חזויה, הערכת הסברות, אימות קלינאי ופרקטיקות שחזוריות לפרוטוקול אחד המתאים למחקר, חינוך ומחקרים ממוקדי פריסה בתחום הבינה המלאכותית בבריאות 40,41,42,43.

התרומה העיקרית של עבודה זו אינה פיתוח אלגוריתם הסבר חדשני.

במקום זאת, הוא מספק פרוטוקול סטנדרטי, ניתן לשחזור ומאומת ניסויים, המשלב מודלים חיזוי, הערכת הסבר, ויזואליזציה, הערכה ופרשנות ממוקדת אדם לזרם עבודה מאוחד המתאים לאנליטיקה רפואית ולהפצת פרוטוקולים מבוססי JoVE. המטרה העיקרית של עבודה זו אינה להציג אלגוריתם חיזוי חדשני, אלא לספק פרוטוקול סטנדרטי, ניתן לשחזור ומאומת ניסיוני ליישום זרימות עבודה של בינה מלאכותית ניתנת להסבר באנליטיקה רפואית. הפרוטוקול משלב עיבוד נתונים מוקדם, מידול חיזוי, הערכת הסבר, הערכה ממוקדת קלינאי ומשאבי שחזור למסגרת מאוחדת המתאימה לאימוץ, שכפול והפצה חינוכית.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

פרוטוקול

כל מערכי הנתונים ששימשו במחקר זה התקבלו ממאגרים זמינים לציבור ומסודרים לחלוטין, כולל מאגר למידת המכונה של UCI, מסד הנתונים PhysioNet MIMIC-III ומאגרי רנטגן חזה של NIH. לא נלקח מידע מזוהה של מטופלים. המחקר עמד בהנחיות אתיות למחקר מוסדי לניתוח משני של נתונים שאינם מזוהים זמינים לציבור. לא נדרש אישור פורמלי של ועדת ביקורת מוסדית משום שלא גויסו משתתפים אנושיים ישירות ולא נעשה שימוש במידע בריאותי מוגן.

1. סקירה של המסגרות הניסיוניות

  1. פתח צינור בינה מלאכותית (XAI) שניתן לשחזור וניתן להסבר לניתוח ביטוח בריאות שקוף. ארגן את זרימת העבודה לשכבת הנתונים, שכבת העיבוד המקדים, שכבת המידול, שכבת ההסבר, שכבת ההערכה ושכבת הדמיה.
  2. שלבו את המודולים הללו בתהליך עבודה מאוחד המסוגל לעבד נתונים קליניים מובנים, רשומות בריאות אלקטרוניות ומאגרי נתוני דימות רפואי.
  3. ודא שכל מודול תורם לשחזוריות, פרשנות, יכולת הרחבה וביצוע ניסויים סטנדרטי.
  4. עצב את הארכיטקטורה המודולרית שתתמוך בזרימת נתונים רציפה ולהבטיח שכל שלב בצינור תורם לשחזוריות, פרשנות ויכולת הרחבה לאורך כל תהליך הניסוי.

2. סביבה חישובית ותצורת מערכת

  1. התקן את התלות הנדרשת בתוכנה לפני ביצוע זרימת העבודה על ידי פתיחת מסוף שורת פקודה והרצת הפקודה הבאה:
    PIP install numpy pandas scikit-learn tensorflow shap lime opencv-python matplotlib seaborn
  2. אמת את ההתקנה המוצלחת של כל חבילות התוכנה ואשר תאימות לגרסאות התוכנה המפורטות בטבלת החומרים לפני המשך עיבוד נתונים ופיתוח מודלים.
  3. השתמש ב-Python 3.11 כסביבת תכנות עיקרית. התקן והגדר את NumPy 1.26 ו-Pandas 2.1 למשימות מניפולציה של נתונים והנדסת תכונות. התקן את Scikit-Learn 1.5 לפיתוח והערכת מודלים של למידת מכונה.
  4. התקן את TensorFlow 2.15 לאימון מודלים ללמידה עמוקה והסקת מסקנות. התקן את SHAP 0.46 ו-LIME 0.2.0 לניתוח הסברים. התקן את OpenCV 4.10 למשימות עיבוד תמונה. התקן את Matplotlib 3.9 ואת Seaborn 0.13 להצגת נתונים ודיווח תוצאות. עיין בטבלת החומרים לקבלת מפרטי תוכנה מלאים ופרטי יישום הנדרשים לשחזוריות.
  5. הגדר את סביבת החישוב באמצעות תחנת עבודה המצוידת במעבד רב-ליבות, האצת יחידת עיבוד גרפיקה (GPU) ומשאבי זיכרון מספקים להכיל מאגרי נתונים גדולים בתחום הבריאות ועומסי עבודה ללמידה עמוקה.
  6. הגדר זרעים אקראיים קבועים לחלוקת נתונים, אתחול מודלים ונהלי אימון כדי להבטיח שחזוריות בין ריצות ניסוי. הפעלת מנגנוני רישום לתיעוד פעולות עיבוד נתונים מוקדמות, תצורות מודלים, הגדרות היפרפרמטרים, נהלי אימון ותוצאות הערכה לאורך כל תהליך העבודה.
  7. הגדר את ארכיטקטורות המודל, פרמטרי האופטימיזציה, קצבי הלמידה, גדלי האצווה, הגדרות האימון וערכי ההיפרפרמטרים בהתאם למפרטים המסוכמים בטבלה 1. יש להיצמד להגדרות אלו במהלך ניסויי השכפול כדי להבטיח עקביות עם התוצאות המדווחות.
  8. תפוקה צפויה - סביבה חישובית מוגדרת במלואה וניתנת לשחזור עם כל חבילות התוכנה הנדרשות, משאבי חומרה, מנגנוני רישום והגדרות קונפיגורציה של מודל הזמינים לעיבוד נתונים מוקדם, פיתוח מודלים, ניתוח הסבר ונהלי הערכה.
רכיבפרמטרערךתיאור
יער רנדוםn_estimators100מספר העצים
יער רנדוםmax_depthאיןעומק עץ
XGBoostlearning_rate0.01קצב למידה
XGBoostn_estimators100פגזי חיזוק
CNNתקופות25תקופות האימון
CNNbatch_size32גודל אצווה
CNNאופטימייזראדםאלגוריתם אופטימיזציה
MLPhidden_layers2מספר השכבות הנסתרות
MLPהפעלהReLUפונקציית הפעלה
כלליtrain_split70%יחס נתוני אימון
כלליvalidation_split15%יחס אימות
כלליtest_split15%יחס בדיקות

טבלה 1: פרטי יישום ותצורת היפרפרמטרים.

טבלה זו מסכמת את סביבת החישוב, ספריות תוכנה, תצורות מודלים של למידת מכונה ולמידה עמוקה, הגדרות אופטימיזציה, קצבי למידה, גדלי אצווה, פרמטרי אימון וערכי היפרפרמטרים ששימשו במהלך ההערכה הניסויית של מסגרת הבינה המלאכותית הניתנת להסבר מוצעת.

3. הכנת מערכי נתונים ועיבוד מוקדם

  1. בחר מערכי נתונים רפואיים זמינים לציבור כדי להבטיח שקיפות ושחזור של תהליך העבודה הניסיוני.
  2. השתמש בארבעה תרחישי בריאות מייצגים לאימות המסגרת המוצעת: (i) אבחון סרטן השד באמצעות מאגר הנתונים של סרטן השד של ויסקונסין, (ii) חיזוי סיכון לסוכרת באמצעות מאגר הנתונים Pima Indians Diabetes, (iii) חיזוי תוצאות קליניות באמצעות רשומות רפואיות אלקטרוניות MIMIC-III, ו-(iv) סיווג מחלות חזה באמצעות מאגר נתוני רנטגן חזה של NIH. בחרו מאגרי נתונים אלו כדי להעריך את המסגרת בין רשומות קליניות מובנות, רשומות בריאות אלקטרוניות לאורך זמן, ושיטות דימות רפואיות הנפוצות במערכות תמיכה בהחלטות בתחום הבריאות.
  3. ייבא כל מערך נתונים לסביבת פייתון והפרד את הרשומות לתכונות קלט ומשתני יעד. ארגן נתונים קליניים מובנים למשימות חיזוי מחלה, רשומות בריאות אלקטרוניות לניתוח תוצאות לאורך זמן, ומאגרי דימות רפואיים למשימות סיווג אבחון. בדוק את שלמות כל מאגר נתונים לפני שממשיכים בפעולות הקדם-עיבוד.
  4. זיהוי וטיפול בערכים חסרים באמצעות טכניקות אימפוטציה מתאימות. תקנון תכונות מספריות באמצעות הגדלת תכונות ונירמול כדי להבטיח השוואה בין משתנים.
  5. קודד משתנים קטגוריים באמצעות שיטות קידוד מתאימות המבוססות על מאפייני מאגר הנתונים. ביצוע בחירת תכונות באמצעות ניתוח קורלציה ומדדי חשיבות תכונות מבוססי מודל לזיהוי המשתנים הרלוונטיים ביותר ולהפחתת ממדיות הנתונים.
  6. שנו את גודל כל התמונות הרפואיות ל-224, 224 פיקסלים לפני אימון הדגם. נרמול ערכי עוצמת הפיקסלים בהתאם לדרישות ארכיטקטורת הלמידה העמוקה שנבחרה. יישמו טכניקות הגדלת נתונים, כולל סיבוב תמונה והפיכת אופק, לשיפור הכללת המודל ולהפחתת התאמת יתר. בדוק את איכות התמונה וודא עקביות של מידות התמונה לאורך כל מערך הנתונים.
  7. הערכו שלמות נתונים על ידי הערכת שלמות מערכי הנתונים, עקביות ויישור תוויות תכונות. ודאו שכל הרשומות מוקצות נכון למחלקות היעד המתאימות להן. סקור מאפייני מערך הנתונים, כולל גודל המדגם, מספר התכונות ומודאליות הנתונים, כפי שמסוכם בטבלה 2.
  8. ליישם נהלי אימות ספציפיים למאגר נתונים כדי להבטיח קפדנות מתודולוגית ושחזור. רשמו את גודל המדגם, התפלגות המחלקות, אסטרטגיית הפיצול של אימות רכבת-מבחן, אמצעי מניעת דליפות, נהלי אופטימיזציה של היפרפרמטרים, עיצוב אימות צולב ופרוטוקול בדיקה חיצוני לכל מערך נתונים. סכם את נהלי האימות הללו בטבלה 3.
  9. ביצוע בדיקות בקרת איכות לעיבוד מקדים על ידי הערכת טיפול בערכים חסרים, הסרת חריגים, קנה מידה של תכונות, קידוד קטגורית, שימור חלוקת מחלקות וחלוקת מערכי נתונים. ודאו שפעולות הקדם-עיבוד מיושמות באופן עקבי בכל מערכי הנתונים.
  10. אשר את היעדר דליפת נתונים משמעותית במהלך חלוקת מערכי נתונים. בדוק את תוצאות אימות הקדם-עיבוד המוצגות באיור 1 כדי לוודא שנוצרו מערכי נתונים סטנדרטיים לניתוחי למידת מכונה והסבר עתידיים.
  11. תפוקה צפויה - יצירת מערכי נתונים נקיים וסטנדרטיים עם ערכים חסרים שמטופלים כראוי, משתנים קטגוריים מקודדים, תכונות מספריות מנורמלות, ורשומות מחולקות לתת-קבוצות אימון, אימות ובדיקה. ודא שמאפייני מאגרי הנתונים, התפלגויות מחלקות ונהלי האימות תואמים לאלו שדווחו בטבלה 2 ובטבלה 3, ואשר אימות קדם-עיבוד מוצלח כפי שמודגם באיור 1.
מערך נתוניםסוגדגימותמאפייניםמטרה
סרטן השדטבולה56930שפיר/ממאיר
סוכרתטבולה7688תוצאת סוכרת
MIMIC-IIIEHR~60,000משתנים קלינייםתמותה
צילום חזההדמיה~112,000תמונותתוויות מחלה

טבלה 2: מאפייני מערכי נתונים ומקרי שימוש בתחום הבריאות.

טבלה זו מספקת סיכום של מאגרי הנתונים הרפואיים ששימשו במחקר, כולל סוג מערך הנתונים, מספר הדגימות, ספירת התכונות, משתני היעד, תחום יישומי הבריאות ומקרי שימוש קליניים נלווים. מערכי הנתונים כוללים רשומות קליניות מובנות, רשומות בריאות אלקטרוניות ונתוני דימות רפואי כדי להדגים את יישום המסגרת בתרחישי ניתוח רפואי מגוונים.

מערך נתוניםגודל המדגםהתפלגות מחלקותאסטרטגיית פיצולמניעת דליפותחיפוש היפרפרמטריםאימות צולבבדיקה חיצונית
סרטן השד (UCI, ויסקונסין)569357 חסין / 212 ממאיר70/15/15עיבוד מוקדם לרכבות בלבדחיפוש רשתCV מדורג 5 קיפוליםסט עצמאי של ההתנגדות
סוכרת אינדיאנים פימה768500 לא-סוכרתי / 268 סוכרתי70/15/15עיבוד מוקדם לרכבות בלבדחיפוש רשתCV מדורג 5 קיפוליםסט עצמאי של ההתנגדות
מימיק-III EHR5274קוהורטים מדורגים-תוצאה70/15/15 ברמת מטופלהפרדה ברמת המטופלחיפוש אקראיקורות חיים ברמת מטופל בחמישה חלקיםסט עצמאי של ההתנגדות
צילום חזה של NIH112120דלקת ריאות/שכבות תקינות70/15/15הפרדה ברמת התמונהחיפוש אקראיCV מדורג 5 קיפוליםסט עצמאי של ההתנגדות

טבלה 3: אימות ברמת מערך הנתונים ועיצוב ניסויים.

טבלה זו מסכמת את מתודולוגיית האימות המיושמת לכל מאגר נתונים, כולל גודל מדגם, התפלגות מחלקות, אסטרטגיית פיצול של מבחני אימוי רכבת, נהלי מניעת דליפות, שיטות אופטימיזציה של היפרפרמטרים, עיצוב אימות צולב ופרוטוקולי בדיקה חיצוניים. אמצעים אלו יושמו כדי להבטיח קפדנות מתודולוגית, שחזוריות והערכת מודלים בלתי מוטה.

figure-protocol-1
איור 1: אימות של צינור עיבוד נתונים מוקדם.
תוצאות אימות עבור פעולות קדם-עיבוד מרכזיות שבוצעו לפני פיתוח המודל. (א) ניתוח ערך חסר בין תכונות בריאות מייצגות. (ב) התפלגות של משתנה מספרי לפני ואחרי טיפול בחריגות. (ג) אימות קנה מידה של תכונות באמצעות סטנדרטיזציה. (D) אימות קידוד קטגורית. (E) חלוקת מחלקות לאחר עיבוד מוקדם. (ו) אימות חלוקת נתוני בדיקת וימות-רכבת. תוצאות אלו מאשרות הצלחה בעיבוד מוקדם ובהכנה של מערכי הנתונים למידול חיזוי וניתוח הסבר. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

4. ארכיטקטורת מערכת של מסגרת הבינה המלאכותית הניתנת להסבר

  1. ארגן את המסגרת באמצעות ארכיטקטורה שכבתית כדי להקל על עיבוד מודולרי, לשפר את שקיפות זרימת העבודה ולתמוך ביישום שניתן לשחזור. הגדר את שכבת הנתונים לקבל ולנהל מערכי נתונים גולמיים בתחום הבריאות. נתב את כל מערכי הנתונים הנכנסים דרך שכבת הנתונים לפני תחילת פעולות העיבוד המוקדם.
  2. בצע ניקוי נתונים, טרנספורמציה, נרמול, הנדסת תכונות וקידוד בתוך שכבת הקדם-עיבוד. ודא שכל פעולות הקדם-עיבוד הושלמו לפני פיתוח המודל.
  3. פיתוח מודלים חיזויים בתוך שכבת המידול באמצעות אלגוריתמים של למידת מכונה ולמידה עמוקה. מודלים של הגברת גרדיאנט רכבתית, יער אקראי, פרספטרון רב-שכבתי (MLP) ומודלים של רשת עצבית קונבולוציונית (CNN) תוך שימוש במערכי נתונים מעובדים מראש ותצורות היפרפרמטרים אופטימליות.
  4. יישמו טכניקות הסבר בתוך שכבת ההסבר כדי לפרש תחזיות מודל. יצר הסברים על ייחוס תכונות באמצעות SHAP ו-LIME עבור מערכי נתונים מובנים. יצירת מפות חום Grad-CAM למודלים מבוססי תמונה כדי להמחיש אזורים התורמים לחיזוי המודלים.
  5. העריכו ביצועי חיזוי ויכולת הסבר בתוך שכבת ההערכה. חשב דיוק, דיוק, זיכרון, ציון F1, ROC-AUC, נאמנות, יציבות ומדדי הערכה ממוקדי קלינאים. רשם את כל תוצאות ההערכה לניתוח ודיווח עתידיים.
  6. יצר פלטים ויזואליים ניתנים לפרשנות קלינית בתוך שכבת הדמיה. צור גרפים של השוואת ביצועים, ויזואליזציות של חשיבות תכונות, גרפים סיכומים של SHAP, הסברים ל-LIME, מפות חום של Grad-CAM ולוחות מחוונים לדיווח המיועדים לרופאים. אחסן את כל הפלטים הוויזואליים להכללה בדוח הניסוי הסופי.
  7. עברו על ארכיטקטורת המסגרת המלאה המוצגת באיור 2 לפני שאתם ממשיכים בביצוע זרימת עבודה.
  8. תפוקה צפויה - יצר מודלים מאומנים מלאים של למידת מכונה ולמידה עמוקה, כולל גרדיאנט בוסטינג, יער אקראי, CNN וארכיטקטורות MLP. אחסון תצורות מודל, היפרפרמטרים אופטימליים, יומני אימון, קבצי נקודות ביקורת, פלטי הסבר, וארטיפקטים של ויזואליזציה להערכה וניתוח פרשנות מאוחר יותר.

figure-protocol-2
איור 2: ארכיטקטורת מערכת של מסגרת הבינה המלאכותית הניתנת להסבר לאנליטיקה בתחום הבריאות. אנא לחצו כאן כדי לצפות בגרסה רחבה יותר של איור זה.

5. ביצוע זרימת עבודה

  1. רכישת מערכי נתונים רפואיים ממאגרים ציבוריים ואחסנו את מערכי הנתונים בפורמטים מובנים המתאימים לניתוח למידת מכונה וללמידה עמוקה. עיין בתהליך העבודה המלא המוצג באיור 3 לפני התחלת ההליך הניסוי.
  2. בצע ניקוי ועיבוד מוקדם של נתונים בהתאם להליכים המתוארים בסעיף 3. נרמול משתנים מספריים באמצעות שיטות קנה מידה מתאימות. קידוד משתנים קטגוריים באמצעות טכניקות קידוד מתאימות. זהה ומייך ערכים חסרים באמצעות אסטרטגיות ההתאמה ספציפיות למאגר נתונים. בדוק את איכות הנתונים, יישור תוויות תכונה ושלמות מערכי הנתונים לפני שממשיכים בפיתוח המודל.
  3. חלק כל מערך נתונים לתת-קבוצות אימון, אימות ובדיקות כדי לתמוך בהערכת מודלים בלתי מוטה. לשמור על התפלגויות מחלקות במהלך חלוקת מערכי הנתונים וליישם אמצעי מניעת דליפות כאשר רלוונטי. שמרו את תת-קבוצת הבדיקות באופן בלעדי להערכת מודל סופית.
  4. אימון מודלים של למידת מכונה על מערכי נתונים מובנים באמצעות אלגוריתמים מבוססי אנסמבל, כולל Gradient Boosting ו-Random Forest. אימון מודלים של למידה עמוקה על מערכי דימות באמצעות ארכיטקטורות רשת עצבית קונבולוציונית (CNN) המסוגלות ללמוד תכונות תמונה מרחביות. עדכן את פרמטרי המודל באופן איטרטיבי במהלך האימון ומנטר את ביצועי האימות לאחר כל תקופת אימון. יש להחיל עצירה מוקדמת כאשר ביצועי האימות מתדרדרים או לא משתפרים בהתאם לקריטריוני העצירה המוגדרים מראש.
  5. אופטימיזציה של היפרפרמטרים של המודל באמצעות אסטרטגיות חיפוש שיטתיות, כולל חיפוש רשת וחיפוש אקראי. כוונן את קצב הלמידה, מספר האומדנים, עומק העץ, גודל האצווה, מספר התקנים ופרמטרים נוספים הספציפיים למודל בהתאם לביצועי הוולידציה. בחר את המודל הסופי בהתבסס על ביצועים חיזויים ויכולת הכללה בין מערכי נתונים של אימות.
  6. יישמו שיטות הסבר לאחר סיום אימון המודלים. יצירת הסברים גלובליים באמצעות טכניקות ייחוס תכונות לזיהוי משתנים התורמים הכי חזק לחיזויי המודל. יצירת הסברים מקומיים לניתוח מקרי חיזוי בודדים והערכת התנהגות המודל ברמת המדגם. צור מפות חום של Grad-CAM למודלים של סיווג תמונות כדי להדגיש אזורים בתמונה התורמים לתוצאה החזויה. שמור את כל תוצרי ההסבר לניתוח ודיווח הבאים.
  7. הערכת ביצועים חיזויים באמצעות דיוק, דיוק, שחזור, ציון F1 ושטח מאפיין תפעול של המקלט מתחת לעקומה (ROC-AUC). הערכו את איכות ההסבר באמצעות מדדי נאמנות ויציבות להערכת אמינות ועקביות ההסבר. השווה ביצועי מודלים בין מערכי נתונים ושיטות הסבר כדי להעריך עמידות והכללה של המסגרת.
  8. יצר פלטי ויזואליזציה ודוחות אנליטיים כדי לתקשר תוצאות בצורה קלינית ניתנת לפרשנ. צור טבלאות השוואת ביצועים, גרפים של חשיבות תכונות, ויזואליזציות סיכום של SHAP, תוצרי הסבר LIME, מפות חום של Grad-CAM והדמיות קליניות רלוונטיות נוספות. בדוק את כל התוצרים הוויזואליים כדי להבטיח בהירות ועקביות לפני הדיווח.
  9. תעד את כל פעולות העיבוד המוקדם, תצורות המודלים, הגדרות ההיפרפרמטרים, נהלי הסבר, אסטרטגיות אימות ותוצאות הערכה. לשמור על רשומות ניסוי מפורטות כדי להקל על שחזוריות ושכפול עצמאי של תהליך העבודה. אמת את עקביות התוצאות בין ריצות ניסויים חוזרות וארכב את כל הארטיפקטים של זרימת העבודה לעתיד.
  10. תפוקה צפויה - יצר מודל חיזוי מאומן במלואו עם היפרפרמטרים אופטימליים, משקלי מודל שמורים, יומני אימון, מדדי ביצועים ויצירות הסבר, כולל הסברים ל-SHAP, הסברים LIME ומפות חום של Grad-CAM. אחסן את כל ארטיפקטי המודלים, דוחות הערכה ותוצרי ויזואליזציה לניתוח והערכת שחזוריות עתידית.

figure-protocol-3
איור 3: זרימת עבודה מקצה לקצה של צינור הבינה המלאכותית הניתנת להסבר. אנא לחצו כאן לצפייה בגרסה רחבה יותר של איור זה.

6. הערכת מודלים והערכת הסבר

  1. הערכו ביצועי מודל חיזוי באמצעות מדדי סיווג סטנדרטיים, כולל דיוק, דיוק, שלירה, ציון F1 ושטח מאפיין תפעול של המקלט מתחת לעקומה (ROC-AUC). חשב דיוק למדידת נכונות הסיווג הכוללת.
  2. חשב דיוק כדי להעריך את אחוז התחזיות החיוביות שזוהו נכון. חשב שחזור כדי להעריך את יכולת המודל לזהות מקרים חיוביים. חשב את ציון ה-F1 כדי לאזן בין דיוק לזכירה. חשב את ROC-AUC להערכת ביצועים מובחנים בין ספי סיווג שונים.
  3. יישמו את מדדי ההערכה הללו באופן עקבי בכל מערכי הנתונים וארכיטקטורות המודל כדי להקל על השוואת ביצועים אובייקטיבית. רשמו את כל ערכי המדדים ואחסנו את תוצאות ההערכה לניתוח סטטיסטי ודיווח מאוחר יותר.
  4. העריך ביצועי הסבר באמצעות מדדי נאמנות ויציבות. חשב נאמנות כדי לקבוע עד כמה ההסברים שנוצרו משקפים במדויק את תחזיות המודל ואת התנהגות קבלת ההחלטות.
  5. חשב יציבות על ידי השוואת הסברים שנוצרו מדגימות קלט דומות וכימות עקביות של פלטי ההסבר. ודאו שערכי נאמנות ויציבות עומדים בקריטריוני האיכות המוגדרים מראש לפני פירוש הסברי המודלים.
  6. השווה את ביצועי ההסבר בין יציאות SHAP, LIME ו-Grad-CAM.
  7. תפוקה צפויה - יצירת תוצאות הערכה כמותיות, כולל דיוק, דיוק, שחזור, ציון F1, ROC-AUC, נאמנות ומדדי יציבות. הפיקו פלטים ווויזואליזציות של הסבר המתאימים לדיווח מדעי, הערכת שחזוריות ופרשנות קלינית.

7. הערכה ממוקדת אדם

  1. גייסו 12 אנשי מקצוע בתחום הבריאות, הכוללים 6 רופאים, 3 רדיולוגים ו-3 אנליסטים קליניים. בחרו משתתפים עם ניסיון קודם בקבלת החלטות קליניות, פרשנות תמונות רפואיות, ניתוח רפואי או סקירת רשומות רפואיות אלקטרוניות. קבל הסכמה מדעת מכל המשתתפים לפני תחילת תהליך ההערכה.
  2. בחרו באקראי 100 מקרים מתוך מאגרי הנתונים של הבדיקה לאחר סיום ההדרכה במודלים וניתוח ההסבר. יצר שני תנאי הערכה לכל מקרה:
    1. פלט חיזוי בלבד ו
    2. חיזוי מלווה במידע על הסבר. אקראי את סדר ההצגה של המקרים ותנאי ההערכה כדי למזער הטיית הצגה והשפעות למידה.
  3. הכינו טפסי הערכה סטנדרטיים המכילים תוצאות תחזית, תוצרי הסברים ושאלוני הערכה. הציגו מקרים בפני משתתפים באופן אישי באמצעות ממשק הערכה ממוחשב.
  4. הנחו את המשתתפים לסקור כל מקרה באופן עצמאי מבלי לדון בתשובות עם מעריכים אחרים. לאפשר למשתתפים להשלים את כל ההערכות בתנאים ניסיוניים זהים.
  5. לנהל שאלון בקנה מידה Likert בן חמישה נקודות, המותאם ממחקרי הערכת בינה מלאכותית שפורסמו להסבר. הנחו את המשתתפים לדרג אמון, פרשנות ושימושיות לכל מקרה שנבדק. רשמו את התשובות לשאלונים באופן אלקטרוני ווודאו את השלמת כל פריטי הסקר לפני המעבר לניתוח סטטיסטי.
  6. למדוד מדדים אובייקטיביים של תועלת קלינית במהלך תהליך ההערכה. רשמו את הסכמת ההחלטה על ידי השוואת החלטות המשתתפים עם תוויות ההתייחסות המתאימות או תוצאות האמת הבסיסית. חשב את הסכמה ההחלטה כאחוז ההחלטות של המשתתפים התואמים לתוצאה המתייחסת.
  7. רשמו את זמן הסקירה לכל מקרה על ידי מדידת המרווח בין הצגת התיק להגשת התשובה הסופית. חשב את זמן הסקירה הממוצע בנפרד עבור תנאי חיזוי בלבד ותנאי חיזוי עם הסבר.
  8. חשב ממוצע ציוני אמון, פרשנות ושימושיות לכל המשתתפים ומקרי ההערכה. השווה ציונים שהושגו בתנאי חיזוי בלבד וחיזוי עם הסבר.
  9. בצע מבחני t זוגיים לאחר סיום כל הערכות המשתתפים כדי לקבוע האם הבדלים באמון, פרשנות, שימושיות, הסכמת החלטות וזמן הסקירה הם מובהקים סטטיסטית. השתמש בסף מובהקות של p 0.05 לכל ההשוואות הסטטיסטיות.
  10. חשב פלייס קאפה לאחר איסוף תגובות מכל המשתתפים כדי להעריך את ההסכמה בין המעריגים. השתמשו בדירוגי המשתתפים המצטברים כדי לקבוע את עקביות ההערכות בין הסוקרים. לפרש ערכי פלייס קאפה לפי קווי ההנחיה הקבועים להסכם ולרשום את הסטטיסטיקות של ההסכם שנוצרו.
  11. סיכום דמוגרפיה של המשתתפים, מתודולוגיית ההערכה, עיצוב שאלונים, נהלי ניתוח סטטיסטי, מדדי ביצועים אובייקטיביים ותוצאות הסכמה בין המערכים בטבלה 4.
  12. סקירה של תוצרי המודל הן בתנאי הערכה והן משווה את תגובות המשתתפים בתנאים שונים. ודאו שההסברים משפרים את האמון, הפרשנות והשימושיות מבלי לפגוע באיכות ההחלטות.
  13. אשר את עקביות ההערכות של המשתתפים באמצעות הסטטיסטיקה המחושבת של פלייס קאפה. לתעד את כל תוצאות ההערכה לדיווח עתידי ולהערכת שחזוריות.
  14. תפוקה צפויה - יצירת ציוני אמון של רופאים, דירוגי פרשנות, דירוגי שמישות, מדדי הסכמת החלטות, סטטיסטיקות זמן ביקורת, תוצאות זוגות של מבחני t, וסטטיסטיקות הסכמה בין המדרגים. הפיק ראיות כמותיות המתארות את השימושיות הקלינית, הפרשנות והאמינות של מסגרת הבינה המלאכותית הניתנת להסבר.
פרמטרערך
מומחים12
רופאים6
רדיולוגים3
אנליסטים קליניים3
מקרים שנבדקו100
עיצוב הערכהאקראי (חיזוי בלבד לעומת חיזוי+הסבר)
כלי סקרסולם ליקרט בעל 5 נקודות
הערכת נאמנותפרשנות, אמון, שימושיות
מבחן סטטיסטימבחן t מזווג (עמ' 0.05)
אמינות בין מעריכיםפלייס קאפה
מדדים אובייקטיבייםהסכם החלטה, זמן סקירה

טבלה 4: פרוטוקול הערכה ממוקד אדם ועיצוב הערכת קלינאים.

טבלה זו מציגה את מסגרת ההערכה של הרופאים המשמשת להערכת הפרשנות, האמינות והשימושיות של מערכת הבינה המלאכותית הניתנת להסבר. מידע בנוגע לדמוגרפיה של המשתתפים, מתודולוגיית סקירת מקרה, עיצוב סקרים, נהלי ניתוח סטטיסטי, הערכת אמינות בין-מעריכה ומדדי הערכה אובייקטיביים מסוכם.

8. הערכת אימות ושחזור

  1. לבצע מחקרי אימות ואבלציה להערכת החוסן והאמינות של המסגרת המוצעת. זהה תכונות עם ציוני חשיבות גבוהים באמצעות שיטות ההסבר שנבחרו. הסר תכונות חשובות בהדרגה והכין מחדש את המודלים החיזויים לאחר כל שלב הסרת תכונות.
  2. העריך את ביצועי המודל לאחר כל ניסוי אבלציה באמצעות דיוק, דיוק, שחזור, ציון F1 ומדדי ROC-AUC. השווה את ערכי הביצועים המתקבלים עם ביצועי המודל הבסיסי כדי לקבוע את תרומת התכונות הבודדות לתוצאות חיזויות.
  3. הערכת יציבות ההסבר על ידי יצירת הסברים לדגימות קלט דומות באמצעות SHAP, LIME ו-Grad-CAM. השווה את תוצרי ההסבר בין הערכות חוזרות וכמת עקביות באמצעות מדדי יציבות מוגדרים מראש. ודאו שההסברים נשארים יציבים תחת שינויים קלים בקלט וריצות ניסוי חוזרות.
  4. רשם את כל ההליכים הניסיוניים לאורך תהליך העבודה. פעולות עיבוד נתונים מוקדמות, פרוצדורות חלוקת מערכי נתונים, ארכיטקטורות מודל, הגדרות היפרפרמטרים, תצורות אימון, שיטות הסבר, אסטרטגיות אימות ומדדי הערכה. אחסן את כל פרמטרי הקונפיגורציה והפלטים הניסיוניים בפורמט מובנה כדי להקל על שחזוריות ואימות עצמאי.
  5. בדוק את כל רשומות הניסוי כדי להבטיח שלמות ועקביות. ודאו שניתן לשחזר את תהליך העבודה באמצעות הנהלים, קבצי הקונפיגורציה ומפרטי התוכנה המתועדים. לשמור על מבנה זרימת עבודה מודולרי שיקל על התאמת הפרוטוקול למחקרים עתידיים ולתמוך בהמרה לפרוטוקול ניסיוני מבוסס וידאו התואם את דרישות המתודולוגיה של JoVE.

9. משאבי שכפול

  1. בצע את כל הניסויים באמצעות זרעים אקראיים קבועים כדי להבטיח תוצאות ניתנות לשחזור על ריצות חוזרות. שמרו קוד מקור, סקריפטים של עיבוד מקדים, קבצי קונפיגורציה, מפרטי סביבה, פרמטרי מודל וסקריפטי ויזואליזציה בתוך מאגר נגיש לציבור.
  2. ספק הוראות מפורטות לרכישת מערכי נתונים, עיבוד מוקדם, ביצוע ניסויים, אימון מודלים, יצירת הסברות, נהלי אימות ושחזור כל הטבלאות והמספרים המדווחים. ארכוב את כל רכיבי זרימת העבודה הנדרשים לשכפול עצמאי, כולל מפרטי תוכנה, תהליכי קדם-עיבוד, קבצי קונפיגורציה, הוראות גישה למערכי נתונים, נקודות ביקורת למודלים ונכסי ויזואליזציה.
  3. סכם את משאבי התוכנה, תהליכי העבודה המוקדמים, קבצי התצורה, הוראות גישה למאגרי הנתונים ונכסי השחזור המשמשים לאורך כל המסגרת בטבלה 5.
  4. תפוקה צפויה - יצירת חבילת ניסוי מלאה הניתנת לשחזור הכוללת סקריפטים של עיבוד מוקדם, קבצי קונפיגורציה, מודלים מיומנים, נקודות ביקורת של מודלים, פלטי הסבר, דוחות אימות, ארטיפקטים של ויזואליזציה, מפרטי תוכנה ותיעוד הדרושים לשכפול ואימות עצמאיים של המסגרת המוצעת.
משאבתיאור
קוד מקורסקריפטים ליישום פייתון לעיבוד נתונים מוקדם, אימון מודלים, הסבר והערכה
קובץ הסביבהrequirements.txt המכיל תלותיות וגרסאות של חבילות
קבצי קונפיגורציההגדרות ארכיטקטורת המודלים, היפרפרמטרים ותצורות ניסוי
זרעים אקראיים קבועיםזרע = 42 משמש לניסויים ניתנים לשחזור
הוראות גישה למאגרי נתוניםקישורים ונהלים לרכישת מאגרי נתונים ציבוריים בתחום הבריאות
סקריפטים לעיבוד מקדיםסקריפטים לניקוי נתונים, נרמל, קידוד ובחירת תכונות
סקריפטים ליצירת דמויותסקריפטים לשחזור כל איורי כתב היד
סקריפטים ליצירת טבלאותסקריפטים לשחזור טבלאות ומדדים מדווחים
קלטים לדוגמהמערכי נתונים לדוגמה וקבצי קלט
פלטים לדוגמהתוצאות חיזוי, הסברים ודוחות הערכה

טבלה 5: משאבי שחזוריות ונכסים ניסיוניים.

טבלה זו מסכמת את המשאבים הניתנים לתמיכה בשחזור ניסויים, כולל קוד מקור, סקריפטים לעיבוד מקדים, קבצי קונפיגורציה, מפרטי סביבה, הוראות גישה למערכי נתונים, הגדרות זרע אקראיות קבועות, סקריפטים ליצירת איורים, וקבצי קלט/פלט לדוגמה הנדרשים לשחזור התוצאות המדווחות.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

תוצאות

הערכנו לעומק את רכיב הבינה המלאכותית ההסברי בכל צינור המחקר שלנו, והערכנו עד כמה הוא חזה בין סוגי נתוני בריאות שונים, כולל נתונים קליניים מובנים ותמונות רפואיות. התוצאות הצביעו על ביצועים חיזויים עקביים בין מערכי הנתונים שהוערכו. מבין המודלים שנבדקו, מודל הגברת הגרדיאנט השיג את הדיוק הגבוה ביותר של 97.4%, ואחריו מודל היער האקראי עם 94.2%. שיטות למידה עמוקה שיושמו על ערכות תמונות השיגו דיוק של 91.3%, בעוד שמודלים רב-שכבתיים של פרספטרון הניבו תוצאות מעט נמוכות יותר, 90.8%. דבר זה מצביע על ...

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

דיון

מחקר זה פיתח והעריך זרימת עבודה של בינה מלאכותית ניתנת להסבר (XAI) לשחזור עבור ניתוח בריאות, המשלב מודלים חזויים, הערכת הסבר, הערכה ממוקדת קלינאי ומשאבי שחזוריות בתוך פרוטוקול אחד. התוצאות הראו כי מודלים מבוססי למידת מכונה מבוססי קבוצת, במיוחד Gradient Boosting ו-Random Forest, השיגו את הביצועים החיזויים הגבוהים ביותר במאגרי הנתונים המובנים של הבריאות שהוערכו, בעוד שמודלים של למידה עמוקה מתאימים יותר לניתוחים מבוססי תמונה. ממצאים אלו מדגישים את החשיבות של בחירת ארכיטקטורות מודל לפי מאפיי...

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

גילויים

המחברים מצהירים כי אין להם אינטרסים פיננסיים מתחרים או ניגודי עניינים הקשורים לעבודה זו. המחקר נערך באופן עצמאי ללא קשרים מסחריים או פיננסיים שניתן לפרש כניגוד עניינים פוטנציאלי.

גילוי מידע על שימוש בבינה מלאכותית

כלי בינה מלאכותית שימשו לשיפור שפה, בדיקת דקדוק וסיוע בעריכה במהלך הכנת כתב היד. כל התוכן המדעי, עיצוב הניסוי, ניתוח הנתונים, הפרשנות ואימות המסמך הסופי בוצעו על ידי המחברים. המחברים בדקו ואימתו את כל התוצרים בסיוע בינה מלאכותית כדי להבטיח דיוק, שלמות ועמידה בהנחיות כתב העת.

תודות

המחברים רוצים להודות למוסדותיהם על מתן התשתית והתמיכה המחקרית הנדרשות לביצוע מחקר זה. המחברים גם מכירים בשימוש במאגרי נתונים זמינים לציבור ובכלים בקוד פתוח שסייעו בפיתוח והערכה של מסגרת הבינה המלאכותית המוצעת להסבר. תודה מיוחדת מוענקת למומחים בתחום שסיפקו תובנות חשובות במהלך שלב ההערכה הממוקדת באדם.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

חומרים

רשימת החומרים שנעשה בהם שימוש במאמר זה
שםחברהמספר קטלוגהערות
GPU Workstationתלוי ביצרןלא חלאימון מודלי למידת תעומק
Jupyter NotebookProject Jupyterהגרסה היציבה האחרונהביצוע ניסויים אינטראקטיבי
LIMELIMEגרסה 0.2.0הסברים מקומיים ניתנים לפרשנות
MatplotlibMatplotlib Projectגרסה 3.9ויזואליזציה של נתונים
MIMIC-III DatabasePhysioNetגרסה 1.4ניתוח רשומות בריאות אלקטרוניות
NIH Chest X-ray DatasetNIH Clinical Centerמסד נתונים ציבוריסיווג מחלות בחזה
NumPyNumPy Developersגרסה 1.26חישוב מספרי ופעולות מערכים
OpenCVOpenCV Foundationגרסה 4.10עיבוד תמונה מקדים
PandasPandas Development Teamגרסה 2.1מניפולציה ועיבוד מוקדם של נתונים
Pima Indians Diabetes DatasetUCI Machine Learning Repositoryמסד נתונים ציבוריחיזוי סיכון לסוכרת
Python 3.11Python Software Foundationגרסה 3.11סביבת תכנות עיקרית
Scikit-learnscikit-learnגרסה 1.5אלגוריתמים והערכת למידת מכונה
SeabornSeabornגרסה 0.13ויזואליזציה סטטיסטית
SHAPSHAPגרסה 0.46ייחוס תכונות והסבריות
TensorFlowTensorFlowגרסה 2.15פיתוח מודלי למידת תעומק
Windows / Ubuntu LinuxMicrosoft / Canonicalלא חלמערכת הפעלה
Wisconsin Breast Cancer DatasetUCI Machine Learning Repositoryמסד נתונים ציבוריאבחון סרטן השד

מקורות

  1. Lundberg SM, et al. From local explanations to global understanding with explainable AI for trees. Nat Mach Intell. 2020;2(1):56-67.
  2. Ribeiro MT, Singh S, Guestrin C. Why should I trust you. Explaining the predictions of any classifier. Presented at: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; 2016. p. 1135-44. doi:10.1145/2939672.2939778.
  3. Selvaraju RR, et al. Grad-CAM: Visual explanations from deep networks via gradient-based localization. Int J Comput Vis. 2020;128(2):336-59.
  4. Tjoa E, Guan C. A survey on explainable artificial intelligence: Toward medical XAI. IEEE Trans Neural Netw Learn Syst. 2021;32(11):4793-813.
  5. Samek W, et al. Explainable AI: Interpreting, Explaining and Visualizing Deep Learning. Springer; Cham; 2019.
  6. Arrieta AB, et al. Explainable artificial intelligence: Concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 2020;58:82-115.
  7. Holzinger A, et al. Causability and explainability of artificial intelligence in medicine. Wiley Interdiscip Rev Data Min Knowl Discov. 2020;10(5):e1312.
  8. Topol E. Deep medicine: How artificial intelligence can make healthcare human again. Nat Med. 2020;25:44-56.
  9. Esteva A, et al. A guide to deep learning in healthcare. Nat Med. 2019;25(1):24-9.
  10. Rajpurkar P, Chen E, Banerjee O, Topol EJ. AI in health and medicine. Nat Med. 2022;28:31-38.
  11. Doshi-Velez F, Kim B. Towards a rigorous science of interpretable machine learning. arXiv. 2021. doi:10.48550/arXiv.1702.08608.
  12. Molnar C. Interpretable Machine Learning. Lulu Press; 2022.
  13. Rudin C. Stop explaining black box machine learning models for high-stakes decisions and use interpretable models instead. Nat Mach Intell. 2019;1(5):206-15.
  14. Zhang Q, Zhu S. Visual interpretability for deep learning: A survey. Front Inf Technol Electron Eng. 2020;21:27-39.
  15. Holzinger A, Biemann C, Pattichis CS, Kell DB. What do we need to build explainable AI systems for the medical domain. arXiv. 2020. Available at: https://arxiv.org/abs/1712.09923.
  16. McDermott MB, et al. Reproducibility in machine learning for health. Nat Med. 2021;27:1016-23.
  17. Kelly CJ, et al. Key challenges for delivering clinical impact with AI. BMC Med. 2019;17:195.
  18. Ahmad MA, Teredesai A, Eckert C. Interpretable machine learning in healthcare. Proc ACM Conf Health Inference Learn. 2021;4:1-7.
  19. Ghassemi M, Oakden-Rayner L, Beam AL. The false hope of current approaches to explainable AI in healthcare. Lancet Digit Health. 2021;3(11):e745-50.
  20. Carvalho DV, Pereira EM, Cardoso JS. Machine learning interpretability: A survey on methods and metrics. Inf Fusion. 2020;58:82-115.
  21. Chen RJ, et al. Synthetic data in healthcare: A narrative review. Nat Biomed Eng. 2021;5:493-97.
  22. Zhou B, et al. Learning deep features for discriminative localization. Presented at: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition; 2016. p. 2921-29.
  23. Vellido A. The importance of interpretability and visualization in machine learning for applications in medicine and health care. Expert Syst Appl. 2020;146:113222.
  24. Lipton ZC. The mythos of model interpretability. Commun ACM. 2018;61(10):36-43.
  25. Guidotti R, et al. A survey of methods for explaining black box models. ACM Comput Surv. 2018;51(5):93.
  26. Suresh H, Guttag J. A framework for understanding unintended consequences of machine learning. Commun ACM. 2021;64(12):42-50.
  27. Wiens J, et al. Do no harm: A roadmap for responsible machine learning for health care. Nat Med. 2019;25(9):1337-40.
  28. Rajkomar A, Dean J, Kohane I. Machine learning in medicine. N Engl J Med. 2019;380(14):1347-58.
  29. Lundberg SM, Lee SI. A unified approach to interpreting model predictions. Presented at: Advances in Neural Information Processing Systems. 2017;30:4765-74.
  30. Agarwal R, et al. Neural additive models: Interpretable machine learning with neural nets. Presented at: Advances in Neural Information Processing Systems. 2021;34:4699-711.
  31. Singh C, Murdoch WJ, Yu B. Hierarchical interpretations for neural network predictions. Proc Natl Acad Sci U S A. 2020;117(32):19950-57.
  32. Tonekaboni S, Joshi S, McCradden MD, Goldenberg A. What clinicians want: Contextualizing explainable machine learning for clinical end use. Nat Mach Intell. 2019;1(5):176-85.
  33. Wang F, Preininger A. AI in health care: Applications, challenges, and future directions. Annu Rev Biomed Data Sci. 2019;2:221-52.
  34. Azizi S, et al. Big self-supervised models advance medical AI. Nat Med. 2021;27(8):1431-42.
  35. Zhang Y, et al. Explainable deep learning for healthcare: Methods, applications and challenges. IEEE Access. 2020;8:120455-475.
  36. Holzinger A, et al. Explainable AI methods: A brief overview. Mach Learn Knowl Extr. 2021;3(2):606-27.
  37. Rudin C, Radin J. Why are we using black box models in AI when we do not need to  A lesson from an explainable AI competition. Nat Mach Intell. 2019;1(5):206-15.
  38. Doshi-Velez F, et al. Accountability of AI Under the Law: The Role of Explanation. Harvard University; Cambridge; 2020.
  39. Kaur H, et al. Interpreting interpretability: Understanding data scientists' use of interpretability tools for machine learning. Presented at: Proceedings of the CHI Conference on Human Factors in Computing Systems; 2020. p. 1-14.
  40. Caruana R, et al. Intelligible models for healthcare: Predicting pneumonia risk and hospital 30-day readmission. Presented at: Proceedings of the ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; 2015. p. 1721-30.
  41. Mangalote IAC, et al. Development and validation of a class imbalance-resilient cardiac arrest prediction framework incorporating multiscale aggregation, ICA and explainability. IEEE Trans Biomed Eng. 2025;72(5):1674-84.
  42. Ansari MY, Mangalote IAC, Masri D, Dakua SP. Neural network-based fast liver ultrasound image segmentation. Presented at: 2023 International Joint Conference on Neural Networks; 2023. p. 1-8.
  43. Dakua SP, et al. Artificial intelligence enabled biomineralization for eco-friendly nanomaterial synthesis: Charting future trends. Nano Select. 2025;6(5):e202400118.

הגישה מוגבלת. התחברו או התחילו תקופת ניסיון כדי לצפות בתוכן זה.

הדפסות חוזרות והרשאות

תגיות

233233XAI
צור קשר
המלצה לספרייה

פרטיות

תנאי שימוש

מדיניות

2026 © זכויות יוצרים MyJoVE Corporation. כל הזכויות שמורות.