Method Article
מחקר זה מציג מסגרת למידת עומק קלה מבוססת תשומת לב לסיווג גידול מוחי מסוג ארבעה מחלקות מתמונות MRI באמצעות למידה מעבר עם MobileNetV2, EfficientNetV1 ו-Inception-ResNet-V2. המודל משיג דיוק סיווג גבוה עם מורכבות חישובית מופחתת, ותומך ביישומים לתמיכה בהחלטה קלינית מוגבלת במשאבים.
המטרה של מחקר זה היא לפתח מסגרת למידת עומק קלה אך מדויקת לסיווג גידולי מוח לארבע קטגוריות - גליומות, מנינגיאומות, גידולי יותרת המוח ורקמת מוח בריאה - באמצעות נתוני הדמיית תהודה מגנטית (MRI). המתודולוגיה המוצעת משלבת למידה מעבר עם שלושה מודלי רשת עצבית קפלית מוכוונים מראש - MobileNetV2, EfficientNetV1 ו-Inception-ResNet-V2 - המשולבים במנגנון תשומת לב המדמה את יכולתו של המערכת החזותית האנושית להתמקד באזורים רלוונטיים מבחינה קלינית של תמונה. גישה מונחית תשומת לב זו משפרת את לוקליזציה של הגידול תוך דיכוי מידע רקע לא רלוונטי. המסגרת מוערכת על סט נתונים גדול של הדמיית מוח MRI הזמין בציבור המכיל אלפי תמונות מסומנות בארבע הקטגוריות. פרוצדורות עיבוד מוקדמות, הרחבת נתונים והדרכה סטנדרטיות מיושמות כדי לאפשר שכפול פשוט של השיטה המוצעת. תוצאות ניסוי מראות כי EfficientNetV1 משיג את ביצועי הסיווג הגבוהים ביותר, ומגיע לדיוק מעולה בהשוואה ל-MobileNetV2 ו-Inception-ResNet-V2 כאחד. המחקר מסכם כי המסגרת הקלה המבוססת על תשומת לב מוצעת מאזנת ביעילות בין דיוק למורכבות חישובית, מה שהופך אותה למתאימה במיוחד ליישומי בריאות בזמן אמת וניידים, במיוחד בסביבות עם מגבלות משאבים.
סיווג מדויק של גידולי מוח באמצעות דימות תהודה מגנטית (MRI) משחק תפקיד קריטי באבחון קליני, תכנון טיפול והערכת פרוגנוזה1. גידולי מוח, כולל גליומה, מנינגיומה וגידולים בבלוטת יותרת המוח, מציגים מאפיינים פתולוגיים שונים ותגובות לטיפול; לכן, זיהוי מוקדם ואמין הוא חיוני לשיפור תוצאות הטיפול ולהפחתת התקדמות המחלה. MRI מועדף באופן נרחב להערכת גידולי מוח בשל הניגודיות העליונה ברקמות רכות, האופי הלא פולשני והיכולת לדמיין את מורפולוגיית הגידול על פני מישורים אנטומיים מרובים. עם זאת, פרשנות ידנית של סריקי MRI היא לעתים קרובות עתירות זמן ותלויה מאוד במומחיות רדיולוגית, במיוחד כאשר גבולות הגידול לא סדירים או כאשר קיימות קווי דמיון ויזואליים בין סוגי הגידול. כתוצאה מכך, מערכות אבחון אוטומטיות מבוססות מחשב הפכו חשובות יותר ויותר על מנת לסייע לרדיולוגים בסיווג מדויק ויעיל של גידולים.
טכניקות ניתוח תמונה מבוססות למידה עמוקה (DL) קידמו באופן משמעותי את סיווג המחלות האוטומטי ברחבי יישומי ביו-רפואה וחזון ממוחשב2,3. בנוירו-אונקולוגיה, טכניקות למידת מכונה והעברת למידה הראו ביצועים מבטיחים עבור זיהוי גידולים, פילוח ומשימות סיווג4. רשתות עצביות מתכנסות (CNNs), בפרט, הראו יכולת עליונה בחילוץ אוטומטי של תכונות תמונה היררכיות ישירות מסריקי MRI ללא תלות בהנדסת תכונות בעבודת יד. ארכיטקטורות CNN יכולות ללמוד ייצוגים מפליגים הקשורים לגידולים מנתוני הדמיה, ובכך לשפר את ביצועי הסיווג בהשוואה לגישות למידת מכונה קונבנציונליות. התקדמויות עדכניות ב-DL אפשרו פיתוח של מערכות סיווג תמונה בעלות ביצועים גבוהים המסוגלות לעבד מערכי הדמיה בקנה מידה גדול עם דיוק משופר והתערבות אנושית מופחתת.
למרות התקדמויות אלו, ארכיטקטורות CNN עמוקות קונבנציונליות דורשות לעתים קרובות משאבים חישוביים ניכרים, כולל צריכת זיכרון גבוהה, מורכבות פרמטרים מוגברת ותקופות אימון ממושכות5. דרישות חישוביות אלו מגבילות את היישום שלהן בסביבות קליניות עם מגבלות משאבים ובמערכות בריאות ניידות. בנוסף, ארכיטקטורות רשת עצבית מתכנסת קלילה משכו תשומת לב הולכת וגדלה בשל המורכבות החישובית המופחתת וההתאמה שלהן לפריסה ביישומים עם משאבים מוגבלים5. מחקרים עדכניים רבים חקרו אסטרטגיות CNN מותאמות, מנגנוני חילוץ תכונות יעילים ומסגרות פריסה קלילות כדי לשפר את יעילות הסיווג מבלי להתפשר באופן משמעותי על דיוק החיזוי6,7,8. עם זאת, איזון בין יעילות חישובית לביצועי סיווג מרובה-מחלקות חזקים נותר אתגר מרכזי בניתוח גידולי מוח מבוססי MRI9.
מסגרות למידה עמוקה מבוססות תשומת לב צמחו כפתרונות יעילים לשיפור ייצוג התכונות בניתוח תמונות רפואיות10. מנגנוני תשומת לב מאפשרים לרשתות עצביות להדגיש באופן סלקטיבי אזורים רלוונטיים מבחינה דיפרמטית בתמונה תוך דיכוי מידע רקע לא רלוונטי. בהשראת מערכת הראייה האנושית, ארכיטקטורות מונחות תשומת לב משפרות את למידת התכונות הדיפרמטית על ידי הפניית הפוקוס החישובית לאזורים מרחביים ספציפיים לגידולים ומאפיינים קונטקסטואליים. מנגנונים כאלה מועילים במיוחד לניתוח MRI של גידולי מוח מכיוון שרקמות הגידול מציגות לעתים קרובות דפוסי עוצמה הטרוגניים, מורפולוגיה לא סדירה ומאפיינים ויזואליים חופפים בין קטגוריות גידול. כתוצאה מכך, שילוב מודולי תשומת לב בארכיטקטורות מבוססות CNN יכול לשפר את דיוק הסיווג ולשפר את ביצועי לוקליזציית התכונות.
המחקר הזה השתמש במערך נתונים זמין לציבור, שנעשה אנונימי; לכן, לא נדרשה הסכמה מדעת. הגישה המוצעת מורכבת משישה מרכיבים: עיבוד מוקדם, מודול קפלים, מודול תשומת לב, שילוב של מודול קפלים ותשומת לב, ושכבות מחוברות במלואן (FC). איור 1 ממחיש את זרימת העבודה המלאה של השיטה שלנו.
רכישת מערכי נתונים
תמונות MRI מוח מסומנות מתקבלות ממערך נתונים זמין לציבור ב-Kaggle הכולל ארבע קטגוריות של גידולים ורקמת רקמה רגילה.
עיבוד מוקדם של הנתונים
התמונות מוקטנות לגודל אחיד ונורמליזציה של עוצמה. אוגמנטציה אופציונלית (סיבוב, היפוך, הגדלה) מיושמת כדי לשפר את הכללה. מערך הנתונים מחולק לקבוצות אימון (70%) ובדיקה (30%).
ארכיטקטורת המודל
שלוש CNNs מובילה טרום אימון על ImageNet - MobileNetV2, EfficientNetV1 ו-Inception-ResNet-V2 - שימשו לסיווג גידולי מוח לארבע קטגוריות באמצעות תמונות MRI. MobileNetV2 ו-EfficientNetV1 הוגדרו עם מימד קלט של 224 x 224 פיקסלים, בעוד ש-Inception-ResNet-V2 דרש גודל קלט של 299 x 299 פיקסלים. בתהליך הלמידה ההעברתית, שכבות הקפלים הראשוניות היו קפואות בתחילת התהליך כדי לשמר תכונות תמונה כלליות, בעוד השכבות העליונות הותאמו באופן משובח כדי להתאים את המודל לסיווג גידולי מוח. כל עמוד השדרה הוזמן עם ראש סיווג קל משקל שכלל Global Average Pooling, שכבות צפופות, טיפול בנפילות לצורך רגולציה, ופונקציית הפעלה של Softmax לחיזוי ארבעה סוגים. טיפול בנפילות יושם כדי למתן התאמה יתר ולהגביר את הכללה. הארכיטקטורה שתוכננה מיזגה ביעילות חילוץ תכונות יעיל עם דרישות חישוב נמוכות יותר, והקלה על סיווג מדויק תוך שמירה על התאמה לפריסה בתרחישים מוגבלים במשאבים ובהוכחת רעיון.
חילוץ תכונות מבוסס תשומת לב
תמונות הקלט מעובדות דרך שכבת קפלים ראשונית ואחריה מודול תשומת לב מותאם אישית. מיתוג מקסימלי מקביל וממוצע לוכדים תכונות בולטות והקשרות, אשר מחוברים ומזוקקים באמצעות קפלים כדי להדגיש אזורים רלוונטיים לגידול.
גב CNN והתמזגות
תכונות משוקללות בתשומת לב מועברות לבסיסים מוכנים (MobileNetV2, EfficientNetV1, או Inception-ResNet-V2). שכבות קפלים מתקדמות מאוחדות מבחינה לוגית כדי להפחית גישה לזיכרון ולשפר את היעילות החישובית.
סיווג
תכונות שטוחות מועברות דרך שכבות מחוברות במלואן עם הפעלה של ReLU6 ונפילות, ומייצרות ייצוג קומפקטי לסיווג סופי של ארבעה סוגים עם פונקציית softmax.
הערכה
ביצועי המודל מוערכים על ערכת הבדיקה באמצעות דיוק, דיוק, קריאה, F1-score ומטריצות בלבול.
פיתוח מסגרת
הפתרון המוצע מיושם ב-Python ומשתמש ב-Keras לביצוע. טבלה 1 ממחישה את ההיפר-פרמטרים. מערך הנתונים מחולק לקבוצת אימון ולקבוצת בדיקה ביחס של 70:30. חמש חלוקות שרירותיות שונות של אימונים/בדיקות משמשות להצגת הביצועים המאוזנים הסופיים עבור כל מערך נתונים.
עיבוד מוקדם
יש לעדכן את תמונות הקלט מכיוון שמסגרת MobileNetV2 משמשת כבסיס לפתרון המוצע. כדי לחלץ תכונות ברזולוציה גבוהה מצילומים, נעשה שימוש במודל MobileNetV2 מוכן מראש עם מימד הקלט שלו. כל תמונת קלט מוקטנת אז ל-224x224 פיקסלים בטווח של [-1, 1].
מודל הקפלים
MobileNetV2 משפר את זיהוי התמונות על ידי ניצול ארכיטקטורת רשת עצבית קונבולוצית (CNN) יעילה שנועדה למזער את דרישות החישוב. בעוד ש-CNNs מסורתיים משיגים דיוק גבוה, הם לעתים קרובות דורשים
שלושה מודלי למידת עמוק מוכנים מראש, כלומר MobileNetV2, EfficientNetV1, ו-Inception-ResNet-V2, הוערכו עבור סיווג גידול מוח מארבעה סוגים באמצעות תמונות MRI.
מסד הנתונים המשמש
המסגרת המוצעת הוערכה באמצעות מסד נתונים של תמונות MRI של גידול מוח שהושג מפלטפורמת Kaggle. מסד הנתונים כלל 835 תמונות MRI רגילות של מוח, 826 תמונות של גליומה, 822 תמונות של מנינגיומה ו-827 תמונות של גידול יותרת המוח. דגימות MRI מייצגות ממסד הנתונים מוצגות באיור 2.
MobileNetV2
במודל MobileNetV2 היו 2,263,108 פרמטרים כוללים, כולל 2,228,996 שניתנים לאימון ו-34,112 שאינם ניתנים לאימון. מדדי ביצוע הסיווג מוצגים בטבלה 2. המודל השיג דיוק סיווג כולל של 97%, עם ציוני F1 מקרו-וממוצעים משוקללים דומים. מטריצת הבלבול המוצגת בטבלה 3 מדגימה ביצועי סיווג חזקים בכל ארבע קטגוריות הגידול, עם מעט מאוד סיווגים שגויים בין גליומה למנינגיומה.
איור 3 מציג את עקומות הדיוק/ההפסד של האימון והאימות עבור MobileNetV2. המודל הפגין התכנסות יציבה לאחר מספר עידני אימון, כאשר ביצועי האימות השתפרו בהדרגה.
Inception-ResNet-V2
למודל Inception-ResNet-V2 היו 54,342,884 פרמטרים כוללים, כולל 54,282,340 שניתנים לאימון ו-60,544 שאינם ניתנים לאימון. מדדי הסיווג מסוכמים בטבלה 4. המודל השיג דיוק סיווג כולל של 98%, מה שמצביע על שיפור בביצועים בהשוואה ל-MobileNetV2.
מטריצת הבלבול בטבלה 5 מצביעה על דיוק סיווג גבוה בכל קטגוריות הגידול עם שיעורי סיווג שגוי מופחתים. נצפתה אפליה משופרת בין סוגי הגידול בהשוואה למודל MobileNetV2. איור 4 ממחיש את עקומות ביצועי האימון והאימות עבור Inception-ResNet-V2. המודל הפגין התנהגות למידה יציבה והתכנסות עקבית לאורך עידני האימון.
EfficientNetV1
מודל EfficientNetV1 הכיל 6,580,363 פרמטרים כוללים, כולל 6,518,308 שניתנים לאימון ו-62,055 שאינם ניתנים לאימון. מדדי הסיווג המסוכמים בטבלה 6 מראים את הביצועים הגבוהים ביותר מבין המודלים שהוערכו, ומגיעים לדיוק, דיוק, זיכרון וציון F1 של כ-99%.
מטריצת הבלבול בטבלה 7 מצביעה על ביצועי סיווג חזקים בכל ארבע קטגוריות הגידול, עם מעט מאוד סיווג שגוי. המודל סיווג נכון את רוב תמונות הגליומה, המנינגיומה, התמונות ללא גידול וגידול יותרת המוח.
איור 5 מציג את עקומות הדיוק/ההפסד של האימון והאימות עבור EfficientNetV1. המודל השיג התכנסות יציבה עם תנודות אימות נמוכות יותר בהשוואה לארכיטקטורות שהוערכו האחרות.
השוואה כוללת
בין המודלים שהוערכו, EfficientNetV1 השיג את ביצועי הסיווג הגבוהים ביותר תוך שמירה על מורכבות חישובית נמוכה יותר מאשר Inception-ResNet-V2. MobileNetV2 הפגין ביצועים קלים ויעילים עם דרישות פרמטרים נמוכות יותר, ואילו Inception-ResNet-V2 השיג דיוק סיווג משופר על חשבון מורכבות גבוהה יותר של המודל. הממצאים מצביעים על כך ש-EfficientNetV1 מספק את האיזון הטוב ביותר בין דיוק סיווג ויעילות חישובית לסיווג גידול מוח מארבעה סוגים באמצעות MRI.
זמינות נתונים
מסד נתוני ה-MRI של המוח שנותח במחקר זה זמין באופן ציבורי דרך פלטפורמת Kaggle. כל הנתונים שנוצרו ונוצחו במהלך המחקר זה, כולל תוצאות סיווג, מדדי ביצוע, מטריצות בלבול ותצריות אימון/אימות, מוצגים בתוך הנתונים והטבלאות של מאמר זה. קוד מותאם אישית המשמש לפיתוח והערכת המודלים זמין מהמחבר המתאים על פי בק
הערכת הביצועים, המבוססת על דיוק, זיכרון, ציון F1 ודיוק, מגלה שגם MobileNetV2 וגם Inception-ResNet-V2 משיגים תוצאות דומות בסיווג גידולי מוח, כל אחד מהם משיג דיוק מצטבר ומשוקלל ממוצע של 97-98%. לעומת זאת, EfficientNet מבצע טוב יותר מהדגמים האחרים, ומשיג 99% דיוק ברחבי מדדים מקרו ומשוקללים, בזכות הכללה משופרת ואסטרטגיית קנה מידה משולבת. ממצאים אלו תואמים מחקרים קודמים המדגימים את היעילות של ארכיטקטורות EfficientNet לסיווג גידולים מרובה תוויות של MRI ולמידת תכונות יעילה מבחינה חישובית22. באופן דומה, מסגרות MobileNetV2 מבוססות למידת העברה הראו בעבר ביצועים חזקים במשימות סיווג גידולי מוח קלות תוך שמירה על מורכבות חישובית נמוכה יותר21.
השיפור בביצועים של EfficientNetV1 עשוי להיות מיוחס לקנה מידה המאוזן שלו של עומק הרשת, רוחב ורזולוציית הקלט, המאפשרת חילוץ יעיל של תכונות תיאוריות הקשורות לגידול. תצפיות דומות לגבי היתרונות של אסטרטגיות קנה מידה משולבות דווחו במחקרים קודמים לאופטימיזציית רשתות עצביות7,8. בנוסף, שילוב מודול חילוץ תכונות מונחה על ידי תשומת לב תרם ככל הנראה למיקום משופר של אזורים רלוונטיים לגידול על ידי דיכוי מידע רקע לא רלוונטי, מה שמתיישב עם ממצאים ממחקרים לסיווג תמונות רפואיות מבוססי תשומת לב10,15.
למרות התוצאות הללו, מספר אתגרים נותרו בסיווג גידולי מוח, כולל הבחנה מדויקת של גידולים לא סדירים, פילוח של תת-אזורים מעבר לליבת הגידול ודירוג מדויק בין סוגי רקמות מוח שונים. מחקרים קודמים דגלו באופן דומה בחסרונות הקשורים למגוון הנתונים, יכולת הכללה ומורכבות חישובית במערכות סיווג גידולים מבוססות MRI9,11,12. יתר על כן, מסגרות MRI רב-מרחיביות הוכיחו ייצוג תכונות משופר וויזואליזציה של גידולים, אם כי שיטות אלו דורשות לעיתים קרובות עיבוד מוקדם נרחב ומשאבים חישוביים גבוהים יותר13,17,18,20.
טבלה 8 מציגה ניתוח חצייה מאוחד של MobileNetV2, Inception-ResNet-V2 ו-EfficientNetV1 עם אימות של 5 קפלים. הטבלה מציגה את הממוצע והסטייה התקנית של דיוק, רגישות, זיכרון ומדד F1, יחד עם דיוק לפי קפלים. MobileNetV2 מפגין ביצועים יציבים אך נמוכים יחסית, ואילו Inception-ResNet-V2 משפר גם את הדיוק וגם את העקביות. EfficientNetV1 משיג את הדיוק הממוצע הגבוה ביותר (0.989 ± 0.003) עם השונות הנמוכה ביותר, מה שמעיד על יכולת הכללה מעולה. הדיוקים היציבים לפי קפלים (0.986-0.992) מדגימים ביצועים חזקים ויציבים על פני מספר פיצולים של נתונים, ומוכרים בו כמתאים ביותר לארבעת סוגי סיווג ה-MRI של גידולי מוח במחקר זה.
מגבלות המחקר
הערכת המסגרת הנוכחית מסתמכת אך ורק על הרחבת נתונים מקוונת, דבר שעשוי להגביל את חוסנה בטיפול בשונות נתונים רחבה יותר בתרחישים בעולם האמיתי. בנוסף, המחקר בוחן בעיקר חילוץ תכונות מהשכבות הקונבולוציה האחרונות, מבלי להעריך את היתרונות הפוטנציאליים של שילוב מיזוג תכונות רב-שכבתי. המחקר מוגבל גם למסדי נתונים סטטיים של MRI ולא אושר בסביבה קלינית חיה, מה שעשוי להציב אתגרי שילוב.
כיווני מחקר עתידיים
עבודות עתידיות צריכות לחקור צבירת תכונות רב-שכבתי מ-MobileNetV2 ובסיסים אחרים כדי לשפר עוד יותר את דיוק הסיווג. הרחבת המסגרת כדי לתמוך בנתוני הדמיה רב-מרחיבים ואימות הביצועים שלה בסביבות קליניות בזמן אמת יחזקו את היישום המעשי שלה.
אין למחברים עימותי אינטרסים שעליהם להצהיר עליהם.
לא התקבלו מימון חיצוני עבור מחקר זה.
```html
| Name | Company | Catalog Number | Comments |
|---|---|---|---|
| מאגר תמונות MRI של המוח | IEEE | https://dx.doi.org/10.21227/q2vt-tf46 | מאגר הנתונים מורד עם גישה ממוסדת. מאגר ה-MRI מכיל ארבעה סוגים: גליומה, מנינגיומה, גידול יותרת המוח והמוח הרגיל |
| מאיץ CNN (מיזוג שכבות) | עבודה מוצעת | — | מיזוג לוגי של שכבות ה-convolution העליונים להפחתת גישה לזיכרון ושיפור היעילות החישובית |
| מודול תשומת לב מותאם אישית | עבודה מוצעת | — | מנגנון תשומת לב המשלב מיזוג מקסימום וממוצע כדי להדגיש אזורים רלוונטיים לגידול |
| EfficientNetV1 | מוכשר (ImageNet) | ארכיטקטורת CNN סקלבילית המספקת פשרה אופטימלית בין דיוק ויעילות | |
| Google Colaboratory | https://colab.research.google.com/ | סביבה מבוססת ענן המשמשת לאימון מודל, הערכה והתנסות עם תמיכת GPU | |
| Inception-ResNet-V2 | מוכשר (ImageNet) | ארכיטקטורת CNN היברידית עמוקה המשלבת מודולים של Inception עם חיבורים שיוריים | |
| Keras | v2.6.0 | ממשק API לרשתות עצביות מהירות ברמה גבוהה שנבנה על TensorFlow לפרוטוטיפ מהיר של מודלים | |
| Matplotlib | מפתחי Matplotlib | v3.4.3 | ספריית הדמיה המשמשת לשרטוט עקומות אימון, מטריצות בלבול ומדדי ביצועים |
| MobileNetV2 | מוכשר (ImageNet) | גב CNN קל משקל מותאם לפריסה בניידים ובשוליים | |
| NumPy | מפתחי NumPy | v1.21.4 | ספריית מחשוב מדעי ליבה המשמשת לפעולות מספריות |
| Pandas | צוות פיתוח Pandas | v1.3.4 | ספריית טיפול וניהול נתונים המשמשת לארגון מאגרי נתונים ועיבוד מטא נתונים |
| Python | קרן תוכנת Python | v3.8.10 | שפת תכנות עיקרית המשמשת לעיבוד מוקדם של נתונים, פיתוח מודלים והערכה |
| Scikit-learn | מפתחי Scikit-learn | הייציבה האחרונה | משמשת למדדי הערכת ביצועים כגון דיוק, זיכרון, ציון F1 ומטריצות בלבול |
| Seaborn | מפתחי Seaborn | הייציבה האחרונה | ספריית הדמיה סטטיסטית ברמה גבוהה המשמשת לניתוח גרפי משופר |
| TensorFlow | v2.6.0 | מסגרת למידה עמוקה מקצה לקצה המשמשת ליישום גב CNN ומודולים להתמקדות |
Request permission to reuse the text or figures of this JoVE article
Request Permission