מחקר זה עושה שימוש במסגרת מבוקרת להערכת צינורות עיבוד מוקדם ואופטימיזציה בתוך ארכיטקטורה קבועה, במטרה לקבוע כיצד עיבוד מוקדם קלאסי משפיע על אופטימייזרים ורשתות עצביות קונבולוציונליות (CNNs) בסיווג גידולי מוח.
Research Article
מחקר זה עושה שימוש במסגרת מבוקרת להערכת צינורות עיבוד מוקדם ואופטימיזציה בתוך ארכיטקטורה קבועה, במטרה לקבוע כיצד עיבוד מוקדם קלאסי משפיע על אופטימייזרים ורשתות עצביות קונבולוציונליות (CNNs) בסיווג גידולי מוח.
סיווג גידולי מוח באמצעות הדמיית תהודה מגנטית (MRI) מציב אתגרים בשל הבדלים בגודל, בצורה ובמרקם הגידול. למרות ששיטות קדם-עיבוד תמונה מסורתיות משמשות בדרך כלל לשיפור איכות הקלט, השפעתן על התנהגות האופטימיזציה ועל ביצועי ה-CNN טרם נחקרה לעומק. מחקר זה בוחן את השפעת העיבוד המוקדם על התכנסות, הכללה ודיוק סיווג בין אופטימייזרים שונים. אנו משתמשים במאגר נתונים של Kaggle הזמין לציבור כדי ליצור שני צינורות עיבוד מוקדם: צינור בסיס שמזנה רק את גודל התמונות וצינור מסורתי שממיר תמונות לגווני אפור, מטשטש אותן ומיישם סינון מורפולוגי. לאחר מכן אנו בודקים כיצד צינורות אלו משפיעים על שלושה אופטימייזרים: אדם, התפשטות ממוצעת ריבועי שורש (RMSProp), וירידת גרדיאנט סטוכסטית (SGD). כדי להפריד משתני פרוטוקול, נעשה שימוש בארכיטקטורת CNN קבועה לאורך כל הדרך. הביצועים מוערכים באמצעות דיוק, דיוק, זיכרון וציון F1, מאומתים באמצעות אימות הדדי חמש. התוצאות מראות שעיבוד מוקדם בסיסי מניב בעקביות דיוק גבוה יותר והתכנסות יציבה יותר בכל האופטימיזטורים, כאשר RMSProp ו-SGD משיגים את הדיוק הממוצע הגבוה ביותר של 99.53% תחת אימות צולב חמש. הממצאים מתייחסים להשפעה שנחקרה פחות של עיבוד מוקדם על ביצועי האופטימיזציה, ומדגישים את הצורך באסטרטגיות אימון מודעות לעיבוד מקדים לשיפור החוסן והיכולת לפרשנות בניתוח תמונות רפואיות.
סיווג גידולי מוח באמצעות הדמיית תהודה מגנטית (MRI) הוא משימה קריטית בנוירו-אונקולוגיה, שבה אבחון מוקדם ומדויק משפיע ישירות על תכנון הטיפול ותוצאות המטופל1. CNNs הפכו לגישה הדומיננטית לאוטומציה של תהליך זה בזכות יכולתם ללמוד תכונות היררכיות ומרחביות וטקסטורליות ישירות מנתוני תמונה גולמיים2. עם זאת, איכות נתוני הקלט נותרת גורם מרכזי לביצועי המודל. טכניקות קדם-עיבוד קלאסיות – כגון המרה לגווני אפור, טשטוש גאוסיאני, סף ופעולות מורפולוגיות – מיושמות באופן שגרתי להפחתת רעש ולהדגשת גבולות מבניים 3,4,5. Gangadharan ואחרים ערכו ניתוח השוואתי של מודלים של למידה עמוקה לחיזוי גידולי מוח, והדגישו את השונות בביצועים בין ארכיטקטורות ואת חשיבות מאפייני מערכי הנתונים בעיצוב תוצאות6. קורשי ועמיתיו הציעו CNN קל במיוחד לגילוי גידולים רב-קטגוריות, תוך הדגשת יעילות חישובית ויישום בזמן אמת מבלי לפגוע בדיוק האבחון7. מעבר להדמיה מבנית, קורשי ועמיתיו חקרו סיווג רדיו-גנומי באמצעות תכונות מולטי-אומיקס משולבות מסריקות MRI רב-פרמטריות לחיזוי מצב מתיל-גואנין-DNA מתילטרנספראז (MGMT), והדגים את הפוטנציאל של מודאליות נתונים משולבות לפרופיל גידולים לא פולשני8. למרות הנוכחות הנפוצה שלהן, ההשפעה בהמשך של השינויים הללו על דינמיקת אימון CNN, התנהגות האופטימיזציה ויכולת הפרשנות עדיין לא נחקרה.
התקדמות אחרונה בסיווג גידולי מוח התמקדה במורכבות ארכיטקטונית, שילוב של סגמנטציה-סיווג, ולמידת העברה. לדוגמה, MultiFeNet משתמשת במיזוג תכונות רב-קנה מידה כדי לשפר ייצוג מרחבי9, בעוד שמודלים אנסמבלים ו-CNNים תלת-ממדיים מציעים איכות גבוהה במחיר של עלייה בעומס חישובי10,11. מחקרים עדכניים על שיטות היברידיות, כגון טרנספורמציית גלים עם מכונת תמיכה וקטורית (SVM) וזיהוי קצוות מבוססי אוטומטים תאיים, דורשים בדרך כלל תכונות בעבודת יד או עיבוד רב-שלבי12,13. מחקר השוואתי על מאגרי נתונים לא מאוזנים הדגיש את האתגרים בהשגת הכללה לפי מחלקות14. גישות למידת העברה באמצעות רשתות מאומנות מראש, כמו VGG ו-ResNet, הראו פוטנציאל בסיווג MRI 15,16,17; עם זאת, לעיתים קרובות הם מתייחסים לעיבוד מוקדם כשלב קבוע במעלה הזרם. מודלים אלה לעיתים נדירות מבודדים כיצד טרנספורמציות קלט משפיעות על ההתכנסות של האופטימיזר או שימור סמנטי.
מחקרים מודעים לעיבוד מקדים החלו להדגיש את הפער הזה. איוונסקו ועמיתיו הראו כי סינון מופרז עלול להפחית את רגישות ה-CNN לדפוסי גידול עדינים3. וו ואחרים הראו שהמרה ושינוי גודל של גווני אפור יכולים להשליך מידע הקשרי, ובכך להשפיע על דיוק האבחון4. הופר ואחרים חשפו כי סינון טומוגרפיה ממוחשבת (CT) במעלה הזרם מעורר שונות בביצועים, מה שמדגיש את השבריריות של CNN לשינויים בתחום5. קונדו ואחרים הציעו טרנספורמציות עוצמה מבוססות גאוס לשיפור הסגמנטציה18; עם זאת, הם לא העריכו את רגישות האופטימייזר. בינתיים, אסירי ואחרים ואמיר ואח' אופטימיזציה של היפרפרמטרים של CNN לגילוי גידולי מוח16,17, תוך ציון ביצועים מעולים של אדם מבלי לנתח כיצד הוא מגיב לשינויים בעיבוד מוקדם. כלים להסבר כמו מיפוי הפעלה מחלקית משוקלל (Grad-CAM) ו-SHapley Additive ExPlanations (SHAP) קידמו את הבנתנו את קבלת ההחלטות ב-CNN על ידי המחשת אזורים מפלים-מחלקתיים19,20. שיטות אלו חיוניות לאימות האם העיבוד המוקדם משפר או מעוות את שמירת הסמנטיקה.
עם זאת, מעט מחקרים בחנו באופן שיטתי כיצד עיבוד מוקדם משפיע על התכנסות האופטימיזציה, הכללה ופרשנות תחת ארכיטקטורה קבועה – נושאים בעלי חשיבות קלינית וחישובית. קלינית, החלקה מופרזת או טרנספורמציות עוצמה עלולות להחליש גרדיאנטים של מרקם ומרחב רלוונטיים לאבחון, ולהפחית את נאמנות הלוקליזציה ואת אמון הרופא. חישובית, האופטימיזטורים מגיבים באופן שונה לשינויים בקנה המידה של התכונות ובשונות הגרדיאנט; אי-התאמות בין מורכבות הקלט לדינמיקת האופטימיזציה עלולות לגרום להתכנסות לא יציבה או להכללה גרועה יותר.
כדי להתמודד עם זה, אנו מציגים מסגרת דו-מסלולית שמשווה באופן שיטתי בין צינורות עיבוד מוקדם בסיסיים (רק לשינוי גודל) וצינורות עיבוד מוקדם מסורתיים בין שלושה אופטימייזרים — Adam, RMSProp ו-SGD — באמצעות ארכיטקטורת CNN עקבית ומערך הנתונים BR35H Kaggle21. אנו מעריכים את ביצועי הסיווג, מהירות ההתכנסות ויכולת הפרשנות באמצעות Grad-CAM, מאומתים באמצעות אימות צולב חמש. בניגוד לעבודות קודמות שמבלבלות שינויים ארכיטקטוניים ושינויים בעיבוד מקדים, פרוטוקול זה מבודד את העיבוד המוקדם כמשתנה עצמאי, וחושף כי סינון אגרסיבי עלול לפגוע בביצועי האופטימיזציה ובתשומת הלב המרחבית.
המסגרת המוצגת כאן מציעה מספר יתרונות על פני מודלים קיימים. ראשית, הוא מעריך במפורש את האינטראקציות בין אסטרטגיות קדם-עיבוד לאופטימייזרים, מימד שלרוב מתעלמים ממנו במחקרי למידה קבוצתית והעברה 15,16,17. שנית, הוא שומר על ארכיטקטורת CNN קבועה, ובכך מדמה מגבלות פריסה בעולם האמיתי שבהן שינוי ההגדרה בדרך כללאינו מעשי. שלישית, היא משלבת שיטות ייחוס חזותי להערכת שימור סמנטי, ומשלימה עבודות קודמות על מחקרי רדיומיקה ותכונות בעבודת יד23. לבסוף, המסגרת מציעה תובנות שניתן לשחזר על אסטרטגיות אימון מודעות לעיבוד מוקדם, ובכך משפרת הן את החוסן והן את יכולת הפרשנות.
על ידי סינתזה תובנות משיטות עיבוד מוקדם 3,4,5, מחקרי אופטימייזרים16,17, וכלי הסבר19,20, עבודה זו מציגה צינור מעשי וניתן לפרשנות לסיווג גידולי מוח שמאזן בין דיוק, יציבות ורלוונטיות קלינית.
Access restricted. Please log in or start a trial to view this content.
איור 1 מציג סקירה של תהליך העבודה בפרוטוקול. מחקר זה בוחן את השפעת עיבוד התמונות הקלאסי על ביצועי CNN ועל התנהגות האופטימיזציה בסיווג גידולי מוח באמצעות MRI. הפרוטוקול כולל הכנת מערכי נתונים, צינורות עיבוד מקדים דו-נתיבים, ארכיטקטורת מודל, קונפיגורציית אופטימייזר, הערכת ביצועים ואימות פרשנות. כל הניסויים בוצעו ב-Python 3.10.12 באמצעות Keras גרסה 2.13.1 עם backend של TensorFlow, OpenCV גרסה 4.8.0 ו-Matplotlib גרסה 3.8.0.
הכנת מערכי נתונים
מערך הנתונים BR35H לגידולי מוח MRI מ-Kaggle21, הכולל 3,000 תמונות המחולקות באופן שווה לקבוצות גידול נוכחות ("כן") וללא גידול ("לא"), שימש במחקר זה. כל התמונות שונו לגודל של 128 × 128 פיקסלים באמצעות פונקציית cv2.resize של OpenCV כדי לאחד את מידות הקלט בין ניסויים. דגימה שכבתית עם train_test_split של Scikit-learn הבטיחה ייצוג מאוזן בין מערך האימון (80%) ומערך האימות (20%), ובכך שמרה על עקביות בהתפלגות המחלקות בכל מערך.
בנוסף למאגר הנתונים הציבורי BR35H, אימתנו פרוטוקול זה באמצעות מאגר נתונים עצמאי שנאסף ממאגר Ultralytics Brain Tumor Dataset (https://docs.ultralytics.com/datasets/detect/brain-tumor/). מערך נתונים זה כולל סט אימון תקף של 878 תמונות ומערך בדיקות של 223 תמונות, עם שתי מחלקות מוגדרות בבירור: שלילי (תמונות ללא גידולים במוח) וחיובי (תמונות עם גידולים במוח). הכללת מערך הנתונים העצמאי הזה אפשרה לנו להעריך עוד את ההכללה והעמידות של המסגרת מעבר לנתוני המקור המקוריים.
צינורות קדם-עיבוד
שני צינורות עיבוד מוקדם מובחנים יושמו כדי להעריך את השפעת עיבוד התמונה הקלאסי. צינור העיבוד הבסיסי (BP) פשוט שינה את גודל התמונות ל-128 × 128 פיקסלים ללא טרנספורמציות נוספות, ובכך שמר על עוצמת הפיקסלים הגולמית והתכונות המבניות כתנאי בקרה. צינור העיבוד המקדים המסורתי (TP) יישם רצף של שלבי עיבוד תמונה קלאסיים באמצעות פונקציות OpenCV: המרת גווני אפור (cv2.cvtColor) להקטנת ממדי הערוץ, טשטוש גאוסי (cv2). GaussianBlur) לדיכוי רעש והגברת ניגודיות24, סף (cv2.threshold) לקטע מבנים בעוצמהגבוהה 25, פעולות מורפולוגיות (cv2.erode, cv2.dilate) לשיפור קצוות והפחתת ארטיפקטים26, וזיהוי קווי מתאר (cv2.findContours) לזיהוי אזורים מעניינים. צינור זה שיפר את הניגודיות והפחית עומס ויזואלי, אם כי סיכן את הטקסטורה האבחנתית הרלוונטית.
ארכיטקטורת מודלים
CNN מותאם אישית יושם ונשמר קבוע בכל הניסויים כדי לבודד את השפעות העיבוד המוקדם ובחירת האופטימיזטור. הארכיטקטורה כללה שכבת קלט (128 × 128 × 1), שלוש שכבות קונבולוציונליות (הראשונה עם 32 מסננים והשתיים הבאות עם 64 פילטרים, כולן השתמשו ב-2 × 2 גרעינים והפעלה של יחידה ליניארית מתוקנת (ReLU), כל אחת ואחריה 2 × 2 איגוד מקסימלי. הפלט הושטח ועבר דרך שכבה צפופה של 128 יחידות עם הפעלת ReLU, ואחריה שכבת dropout (קצב = 0.5), ולבסוף יחידת סיגמואיד אחת לסיווג בינארי. עיצוב זה יוצר איזון בין פרשנות ליעילות חישובית, מה שהופך אותו למתאים לחומרה קלינית מוגבלת במשאבים.
קונפיגורציית אופטימייזר
שלושה אופטימייזרים הוערכו עם היפרפרמטרים קבועים: אדם (קצב למידה = 0.001, β1 = 0.9, β2 = 0.999, אפסילון = 1e−07), RMSProp (קצב למידה = 0.001, rho = 0.9, epsilon = 1e−07), ו-SGD (קצב למידה = 0.005, מומנטום = 0.9, נסתרוב מושבת). פרמטרי האימון נשמרו קבועים לאורך כל הניסויים, עם גודל אצווה של 32, 50 אפוקים, ועצירות מוקדמות (patience = 10) שיושמו באמצעות קריאות חוזרות של Keras כדי למנוע התאמת יתר.
הערכת ביצועים
הביצועים הוערכו באמצעות דיוק, דיוק, זיכרון וציון F1, שחושבו באמצעות classification_report של Scikit-learn. עקומות אובדן אימון ואימות צוירו באמצעות Matplotlib להערכת מהירות ההתכנסות ולזיהוי התאמת יתר. התוצאות נסכמו והודגמו כדי להשוות את רגישות האופטימייזר בתנאי קדם-עיבוד שונים.
אימות פרשנות
היכולת לפרשנות אומתה באמצעות ויזואליזציות Grad-CAM שנוצרו מהשכבה הקונבולוציונית הסופית. מפות חום נוצרו באמצעות פונקציות Keras ו-TensorFlow ואז הונחו על תמונות ה-MRI המקוריות באמצעות Matplotlib. שלב זה הבטיח שהקשב המרחבי של ה-CNN יתאים לאזורים הגידולים הרלוונטיים קלינית, ובכך תמך בשקיפות ובאמון אבחני.
Access restricted. Please log in or start a trial to view this content.
אופטימייזר אדם - עיבוד מוקדם בסיסי:
איור 2 ממחיש את ביצועי מודל סיווג גידולי מוח באמצעות אופטימייזר אדם עם עיבוד מקדים בסיסי. מטריצת הבלבול מראה הפרדה כמעט מושלמת בין מקרים גידוליים ללא-גידוליים, עם סיווג שגוי בלבד מתוך 8 מתוך 600 דגימות. דוח הסיווג המצורף מאשר זאת בדיוק, בזיכרון ובציוני F1 כולם ב-0.98 ומעלה בשתי הקטגוריות.
אופטימייזר אדם עם עיבוד מוקדם מסורתי:
איור 3<...
Access restricted. Please log in or start a trial to view this content.
ההצלחה של סיווג גידולי מוח מבוססי CNN במחקר זה נבעה בעיקר משני רכיבי פרוטוקול: תכנון עיבוד מוקדם ובחירת אופטימייזר. עיבוד מוקדם בסיסי – שכלל אך ורק שינוי גודל תמונה – שמר על עוצמת פיקסלים טבעית ומבנה מרחבי, ואפשר למודל ללמוד תכונות קליניות רלוונטיות. לעומת זאת, שיטות קדם-עיבוד מסורתיות (כגון המרה בגווני אפור, טשטוש גאוסיאני, סף ופעולות מורפולוגיות) הציגו הפשטת תכונות, שלעיתים דיכאה רמזים עדינים של גידול, מה שהוביל לירידה בביצועים וביכולת הפרשנות.
הבחירה באופטי...
Access restricted. Please log in or start a trial to view this content.
למחברים אין מה לחשוף.
המחברים מביעים את הערכתם ותודתם הכנה לאוניברסיטת GITAM, לצוות ההנהגה, לדיקן ולראש המחלקה להנדסת מדעי המחשב בקמפוס ויסאקהפאטנם, על התמיכה והעידוד המתמשכים שלהם במחקר ופיתוח.
Access restricted. Please log in or start a trial to view this content.
| Name | Company | Catalog Number | Comments |
|---|---|---|---|
| עטיפת API | קראס | 2.13.1 (RRID:SCR_016345) | API ברמה גבוהה לארכיטקטורה והדרכה של CNN |
| כלי ייחוס | מימוש Grad-CAM | Custom (דרך Keras) | הסבר חזותי לתשומת הלב של CNN |
| מאגר נתוני MRI גידולי מוח BR35H | קגל | https://www.kaggle.com/ahmedhamada0/brain-tumor-detection | מקור לתמונות MRI מסומנות לסיווג |
| מאגר נתוני גידולי מוח | אולטרליטיקה | https://docs.ultralytics.com/datasets/detect/brain-tumor/ | |
| ספריית למידה עמוקה | TensorFlow | 2.15.0 (RRID:SCR_018345) | ממשק למימוש מודל CNN |
| עיבוד תמונה | OpenCV | 4.8.0 (RRID:SCR_015526) | עיבוד מוקדם: גווני אפור, טשטוש, סף, מורפולוגיה |
| שפת תכנות | פייתון | 3.10.12 (RRID:SCR_008394) | סביבת ביצוע לכל הניסויים |
| ויזואליזציה | Matplotlib | 3.8.0 (RRID:SCR_008624) | שרטוט עקומות אובדן ושכבות Grad-CAM |
Access restricted. Please log in or start a trial to view this content.
Request permission to reuse the text or figures of this JoVE article
Request Permission