מתודולוגיה
נבנה מודל חלון הזזה מפוקח כדי לחזות את ערך PM2.5 העתידי בזמן t + 1 מתצפיות שעתיות קודמות. אורכי חלון קלט מועמדים של 12, 24 ו-48 צעדי זמן לשעה הוערכו באמצעות ביצועי אימות, והתצורה הסופית של CORTA-Net השתמשה ברצף קלט של 24 שעות. אינטרפולציה ליניארית שימשה למילוי ערכים חסרים; חריגים הוסרו באמצעות שיטת IQR; וכל המשתנים הוגדלו באמצעות נרמול מינימלי-מקסימום לפני יצירת תכונות PM2.5 עם עיכובים. לאחר מכן הוחל תהליך CorrXGBoost-Rank לבחירת תכונות. ראשית, סינון קורלציה פירסון שמר משתנים עם |r| ≥ 0.30. שנית, זוגות תכונות מיותרים מאוד עם מתאם זוגי |corr(xi, xj)| ≥ 0.85 סוננו כדי להפחית את הרב-קולינאריות. שלישית, רגרסור XGBoost אומן על המשתנים הנותרים, ומנבאים עם ציוני חשיבות מבוססי רווח XGBoost ≥ 0.015 נשמרו לקלט הסופי של המודל. הארכיטקטורה הסופית של CORTA-Net כללה שכבות LSTM מוערמות לקידוד זמן, שכבת תשומת לב מרובת ראשים לשקלול ברמת תכונות וצעד זמן, ושכבות רגרסיה צפופה להערכת PM2.5 . המודל אומן באמצעות אופטימייזר אדם עם ממוצע ריבוע של אובדן שגיאה ועצירה מוקדמת. הערכת מודלים בוצעה באמצעות RMSE ו-R2 בין חלוקות אימון, אימות, בדיקות ואימות צולב של 10 פעמים. טבלה 2 מייצגת את סיכום קדם-עיבוד הנתונים והנדסת התכונות.
| צעד | השיטה שבה נעשה שימוש | פרמטר / סף | מטרה |
| חישוב ערך חסר | אחוז התצפיות החסרות | אחוז משתנה לפי דוח | כימות את שלמות הנתונים |
| הקצאת רווח קצר | אינטרפולציה ליניארית | אורך הפער ≤ 6 שעות | ממלא מרווחים קצרים חסרים |
| זיהוי חריגים | שיטת IQR | Q1 − 1.5 × IQR, Q3 + 1.5 × IQR | מסיר ערכים קיצוניים לא תקינים |
| נרמול | קנה מידה מינ-מקסי | מינימום ומקסימום של סט אימונים | תקן את טווח התכונות |
| PM₂.₅ lags | משתנים עם השהות | lag₁, lag₂, lag₃ | לוכד התמדה זמנית |
| סטטיסטיקות מתגלגלות | ממוצעים נעים | 3 שעות, 6 שעות, 12 שעות, 24 שעות | לוכד הצטברות לטווח קצר |
| תכונת ספירת אש | ספירת האש של מודיס | ספירת אותו יום / יום קודם | מייצג השפעה אזורית של שריפות |
טבלה 2: סיכום קדם-עיבוד נתונים והנדסת תכונות. בטבלה 2, עיבוד הנתונים מתבצע בשתי דרכים: ראשית, באמצעות ניקוי וטרנספורמציה של הנתונים הגולמיים (עיבוד מוקדם), ושנית, באמצעות הנדסת תכונות ליצירה/בחירה/שינוי תכונות (תכונות). כיחידה, שני התהליכים הללו מסייעים בביטול או הפחתת רעש; לטפל בערכים חסרים; לשפר את עקביות הנתונים; וליצור מודלים חיזויים יותר.
פרמטרי הנורמליזציה הוערכו רק מקבוצת האימון ואז הוחלו ללא שינוי על קבוצות הבדיקה והאימות כדי למנוע דליפת מידע.
ניסוח מתמטי של דירוג CorrXGBoost
יהי X = {x1, x2, ...,x n} מסמנים את קבוצת משתני הקלט המועמדים, ו-y מסמן את ריכוז PM₂.₅ היעד. עבור כל תכונה xi, מקדם המתאם של פירסון עם משתנה היעד חושב כך:
(1)
כאשר Cov(xi, y) הוא הקווריאנטיות בין תכונה xi למטרה y, ו-σxi ו-σy הם סטיות התקן שלהם. תכונות שנשמרו מספקות: |ri| ≥ τr כאשר τr = 0.30 במחקר זה.
חושבו מתאמים זוגיים בין כל features_xi, xj, ואם |corr(xi, xj)| >= τאדום, כאשר τאדום = 0.85, התכונה עם הקורלציה המוחלטת הנמוכה יותר ליעד PM2.5 מוסרת מקבוצת התכונות. תהליך זה מפחית משתנים מתוך מערך התכונות שיש להם רב-קולינאריות. לאחר מכן, מותאם מודל רגרסור XGBoost לתכונות שנותרו, וחושבו ציוני חשיבות תכונה לכל מאפיין באמצעות חשיבות XGBoost, ותכונות שמקיימות i_i ≥ τxgb כאשר τxgb = 0.015 נשמרו בקבוצת התכונות הסופית (S") שהוגדרה כ-Sfinal= Scorr ∪ Sxgb, כלומר קבוצת התכונות שהוגדרה על ידי סינון תכונות עבור עודף ביחס לקורלציה והסרת תכונות המבוססות על חשיבות משתנה XGBoost. הגישה הכוללת בבחירת התכונות היא כדלקמן: חישוב מתאם פירסון לפי מטרות תכונה, השלכת תכונות עם |r_i|< 0.30, השלכת תכונות עם זוגות עם קורלציות זוגיות ≥ 0.85, התאמת XGBoost לתכונות שנותרו, שמירה על תכונות עם ציון חשיבות XGBoost ≥ 0.015, הגדרת התכונות הרצויות הסופיות Sסופי=Scorr ∪ Sxgb, כאשר Scorr הן התכונות שנשמרות לאחר סינון מתאם מיותר, ו-Sxgb הן התכונות שנבחרו באמצעות ציון חשיבות התכונה של XGBoost. לכן, זרימת העבודה של CorrXGBoost-Rank היא: חישוב קורלציה של פירסון לתכונות-יעד, הסרת תכונות עם |r i| < 0.30, הסרת תכונות מיותרות מאוד עם קורלציה זוגית ≥ 0.85, הפעלת XGBoost על המשתנים הנותרים, שמירת משתנים עם ציון חשיבות XGBoost ≥ 0.015, ושימוש באיחוד המשתנים שנבחרו על ידי קורלציה ו-XGBoost כקבוצת התכונות הסופית. הפרמטרים בהם נעשה שימוש במחקר זה הם τr = 0.30, τאדום = 0.85, ו-τxgb = 0.015.
מקורות נתונים
המחברים שילבו שלושה מערכי נתונים גדולים למחקר; אלו הם נתונים על מזהמי אוויר (PM2.5, PM10, NO2, CO ו-SO₂) שהמחברים השיגו באמצעות CPCB (מועצת בקרת הזיהום המרכזית) / DPCC (ועדת בקרת הזיהום של דלהי) במעקב אחר איכות אוויר, נתונים מטאורולוגיים (טמפרטורה, לחות, מהירות/כיוון רוח ולחץ) ממחלקת המטאורולוגיה ההודית (IMD) ומידע לווייני על שריפות פעילות ממוצרי האש הפעילים MODIS של נאס"א. שלושת מערכי הנתונים הללו מכסים את התקופה של 12 השנים ינואר 2012–דצמבר 2023 ולכן מייצגים סוגים שונים של פליטות. אירועי שריפות תורמים לזיהום אוויר, כפי שמודגם באיור המשלים 2, המציג מגמות FIRECOUNT בין 2012 ל-2024.
מגמות ארוכות טווח של מזהמים לאורך תקופת המחקר
איור 1 מציג מגמות ארוכות טווח של מזהמים בשנות המחקר (2012–2024). ספירות השריפות השנתיות וריכוזי PM₂₅ הממוצעים בין 2012 ל-2024 מציגים יחס חיובי בינוני חזק (r = 0.688), מה שמעיד שפעילות אש גבוהה יותר בדרך כלל קשורה לריכוזי PM₂₅ גבוהים יותר. גם נתוני PM₂ וגם חזויים ב-PM₂.₅ עוקבים אחרי מגמה דומה, מה שתומך ברעיון ששריפת ביומסה תורמת לזיהום חלקיקים. למרות שיש שונות משמעותית בין-שנתית, פליטות הקשורות לשריפות הן גורם חשוב בקביעת שונות PM₂.₅, ומדגיש את הצורך בניהול אזורי לשיפור איכות האוויר. האוטוקורלציה של PM2.5 החזוי בשלושים עיכובים, המוצגת באיור המשלים 3, מציגה אוטוקורלציה חיובית משמעותית כמעט בכל שלושים העיכובים, מה שמאשר של-PM2.5 בדלהי יש תלות זמנית חזקה והתמדה רב-יומית.

איור 1: מגמות ספירת השריפות והשריפות ארוכות הטווח בין 2012 ל-2024. איור 1 משווה את השונות השנתית בספירת האש לבין ריכוזי PM₂₂.₅ הנצפים והחזויים. PM₂.₅ מדווח במיקרוגרםלמטר 3. FIRECOUNT מייצג פעילות אש שמקור בלוויין במוצרי MODIS. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.
פירוק STL (פירוק עונתי ומגמה באמצעות לואס)
STL או פירוק עונתי ומגמה באמצעות Loess הוא אלגוריתם איטרטיבי שמאפשר פירוק נתוני סדרות זמן לשלושה רכיבים מצבריים כפי שמוצג באיור 2: מגמה (מגמה ארוכת טווח) (איור 2A), (איור 2D), (איור 2G), (איור 2J), עונתיות (תקופות מחזוריות) (איור 2B), (איור 2E), (איור 2H), (איור 2K), ושארית (רעש/שאריות) (איור 2C), (איור 2F), (איור 2I), (איור 2L). STL הוכיח את עצמו כמוצלח בהתמודדות עם מאפיינים מורכבים לא ליניאריים של נתוני סביבה (כגון PM2.5), שלגביהם טכניקות אנליטיות רבות אחרות נכשלו בשל אמפליטודות משתנות באות העונתי ועקב קיומם של חריגים. החלקת LOESS מאפשרת הפרדה מדויקת של רכיבים אלו, ומספקת פרשנות ברורה יותר של מגמות או דפוסים. באמצעות עיבוד STL, ניתן להפריד בין מגמות העלייה הרחבות יותר של PM2.5 למחזורים יומיים/עונתיים קצרים ומהשאריות הלא יציבות בתוך אותם מחזורים. הפרדה זו מאפשרת זיהוי אילו פליטות השפיעו על PM2.5, בניגוד לאילו גורמים מטאורולוגיים השפיעו על PM2.5. תוצאות הפרדה זו מסייעות בחיזוי מדויק של פליטות PM2.5 עתידיות; לספק נתונים להחלטות רגולטוריות; ולעמוד בסטנדרטים שנקבעו לפירוק קפדני של נתוני סדרות זמן למחקרי איכות אוויר34. מדידות ריכוז יומיות ממוצעות של PM2.5 שנערכו בתחנות ניטור בדלהי בין השנים 2012–2024 מצביעות על שינויים מינימליים ברמת PM2.5 (כלומר, ללא שינוי משמעותי בין 2022–24) באופן כללי והתנהגות עקבית מוגבלת מאוד (או עקביות ברמות PM2.5 בין ארבעת אתרי המעקב). רמות PM2.5 במגזר 8 בדוארקה ובמונדקה-DPCC מראות מגמת ירידה מתמשכת (כלומר, ממשיכה לרדת), בעוד שאנאנד ויהאר מגמת עלייה (כלומר, עלייה משמעותית), וסוניה ויהאר מגמת עלייה קלה (מעלייה קטנה מאוד מאז 2022). בנוסף, שאריות הריכוזים היומיים של PM2.5 בכל אחת מארבע תחנות הניטור הצביעו על כך שריכוזי PM2.5 הושפעו מאוד משינויים עונתיים (מטאורולוגיים), שגרמו לתנודות גדולות בריכוזי PM2.5 היומיים הממוצעים עבור תחנות בודדות. ריכוזי PM2.5 היומיים בארבע תחנות הניטור בדלהי (2012–2024) מוצגים באיור 2.

איור 2: פירוק STL (פירוק עונתי ומגמה באמצעות Loess) של ריכוזי PM₂.₅ היומיים בארבע תחנות ניטור בדלהי בין השנים 2022–2024. סדרת הזמן של כל תחנת ניטור מחולקת לשלושה רכיבים מצטברים: מגמה ארוכת טווח, שונות עונתית, ושארית (שארית). (א) רכיב מגמה עבור מגזר דווארקה 8. (ב) רכיב עונתי למקטע 8 של דווארקה. (ג) רכיב שאריתי למגזר דווארקה 8. (ד) רכיב מגמה עבור אננד ויהאר. (ה) רכיב עונתי לאנאנד ויהאר. (ו) רכיב שאריתי לאנאנד ויהאר. (G) רכיב מגמה עבור Mundka-DPCC. (H) רכיב עונתי עבור Mundka-DPCC. (I) רכיב שאריתי עבור Mundka-DPCC. (J) רכיב מגמה עבור סוניה ויהאר. (K) רכיב עונתי לסוניה ויהאר. (L) רכיב שארתי לסוניה ויהאר. STL, פירוק עונתי וטרנד באמצעות Loess. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.
איור 2 מציג את הפירוקים הזמניים של ריכוזי PM2.5 היומיים בארבעה אתרי ניטור עירוניים בשנים 2022-2024, וחושף דפוסים של ירידות ארוכות טווח, עליות הדרגתיות ושינויים יומיים גדולים. הבדלים אלו נובעים בעיקר מהשפעות פיזיות של מזג האוויר, כלומר שינויים בגובה שכבת הגבול הפלנטרית (PBL), כמו התפשטות ביום שמגבירה את הפיזור האנכי ומפחיתה ריכוזים, והתכווצות בלילה, מה שמשאיר מזהמים קרובים לקרקע ויוצר שיא גבוה יותר בלילה. השפעות מטאורולוגיות נוספות נובעות מפליטות פעילות אנושית מקומיות הקשורות לשעות הנפח הגבוה ביותר (שיאי בוקר/ערב), תעשיות, והאינטראקציות שלהן עם: גורמים ספציפיים לאתר כמו טופוגרפיה מקומית, מהירות רוח, לחות יחסית ועונה (כלומר מתאם גדול יותר בחורף) שיוצרים את השינויים הספציפיים לתחנה והירידה ארוכת הטווח הכוללת עשויים להיות מושפעים מבקרות רגולטוריות על פליטות, מה שמוביל למגמות ירידה באופן כללי.
קורלציה בין התכונות
איור 3 מציג את התפלגות כל תכונות הקלט המשמשות במודל CORTA-Net. בלוחות, משתני מזהמים (PM10 (איור 3A), NO₂ (איור 3B), CO (איור 3C), SO₂ (איור 3D)) מציגים התפלגויות מוטות ימינה האופייניות לנתוני איכות אוויר עירוניים, בעוד O₃ (איור 3E) ולחץ (איור 3I) מציגים דפוסים קרובים לנורמה35. הטמפרטורה (איור 3F) מציגה מבנה עונתי דו-מודלי ברור, לחות (איור 3G) עוקבת אחרי פיזור אחיד רחב, ומהירות הרוח (איור 3H) מציגה התפלגות זנב-קלה. דפוסים אלה מדגישים את ההתנהגות הסטטיסטית ההטרוגנית של המנבאים ומצדיקים את הצורך בהנדסת תכונות ונרמול לפני אימון המודלים.

איור 3: התפלגות תכונות הקלט במודל CORTA-Net, כולל ריכוזי מזהמי אוויר ומשתנים מטאורולוגיים. ההתפלגויות ממחישות את המאפיינים הסטטיסטיים של המנבאים לפני העיבוד המוקדם והאימון במודל. (א) ריכוז PM₁₀. (ב) ריכוז NO₂. (C) ריכוז CO. (ד) ריכוז SO₂. (E) ריכוז O₃. (F) טמפרטורת אוויר. (G) לחות יחסית. (H) מהירות רוח. (I) לחץ אטמוספרי. משתני מזהמים, במיוחד PM₁₀, NO₂, CO ו-SO₂, מציגים התפלגויות מוטות ימינה האופייניות לנתוני איכות אוויר עירוניים, בעוד ש-O₃ ולחץ אטמוספירי מציגים התפלגויות נורמליות בקירו. הטמפרטורה מציגה דפוס עונתי דו-מודלי, ללחות יש התפלגות רחבה, ומהירות הרוח מרוכזת בערכים נמוכים יותר עם התפלגות זנב-קלה. התפלגויות תכונות הטרוגניות אלו תומכות בשימוש בהנדסת תכונות ובנרמול לפני פיתוח המודל. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.
איור 4 מציג את דירוג חשיבות התכונות מבוסס רווח XGBoost לאחר עיבוד מוקדם בדירוג CorrXGBoost לחיזוי PM₂.₅. הגרף הנוכחי של חשיבות התכונות מראה כי PM₂.₅ של היום הקודם הוא המדורג הגבוה ביותר עם ציון חשיבות של 0.280, אחריו PM10 = 0.180, FIRECOUNT = 0.150, NO₂ = 0.120, CO = 0.080, מהירות רוח = 0.070, טמפרטורה = 0.040, לחות = 0.030, ויום שנה = 0.020. הקו האנכי המקווקו מייצג את סף בחירת התכונות האמיתי של XGBoost של 0.015. מנבאים עם ציוני חשיבות גבוהים או שווים ל-0.015 נשמרו עבור קבוצת הקלט הסופית של CORTA-Net, בעוד שמנבאים מתחת לסף זה, כולל SO₂ = 0.010, O₃ = 0.010, לחץ = 0.005, גשם = 0.005, סוף שבוע = 0.002, וחופשה = 0.001, הוצאו משימוש. ערכים אלה מייצגים ציוני חשיבות תכונה מבוססי רווח XGBoost ואין לפרשם כמקדמי קורלציה של פירסון או השפעות סיבתיות.
לכן, רק התכונות שקיבלו תרומה מעל סף זה נכללו במודל. מודלים של XGBoost משתמשים באוסף של עצי החלטה, שבונים באופן איטרטיבי עץ כדי למזער פונקציית אובדן, הידועה כהגברת גרדיאנט. XGBoost מחשב את חשיבות התכונות באמצעות אחד משלושה מדדים: רווח (כמה הפיצול של הפיצול משפר את ביצועי המודל), משקל (כמה פעמים התכונה נבחרה כפיצול לעץ), או כיסוי (מספר התצפיות שהושפעו מהפיצול). מודל XGBoost נבנה על נתונים הקשורים לאיכות אוויר (מזהמים, משתנים מטאורולוגיים) ומתמקד ב-PM2.5 עם איחור כדי לחזות אוטומטית את PM2.5, דבר נפוץ במודלים של PM2.5 בדלהי, ועוזר ללכוד את ההתמדה הזמנית של PM2.5. Delhi_PM2.5 הוא גורם משמעותי בשל מאפייני האוטוקורלציה הגבוהים של חלקיקים עדינים, שמצביעים גם על נוכחות אינרציה של זיהום ממקורות פליטה עקביים. מהירות הרוח היא תורמת משמעותית כי היא מספקת את המנגנון לפיזור המזהמים; בעוד שרוחות נמוכות מאפשרות להצטברות מזהמים במהלך החורף כאשר קיימים היפוכים. NO2 קשור ל-PM2.5 בשל התנועה/פליטות, בעוד שיום השנה הוא אינדיקציה למחזור הפליטה השנתי של מזהמים (כלומר, פליטות נמוכות יותר בסופי שבוע). בדלהי, ל-PM2.5 יש עמידות עצמית גבוהה בשל המטאורולוגיה החורפית הקפואה והפליטות המתמשכות מרכבים, תעשייה וביומסה28. הרוח מסייעת בפיזור האירוסולים, אך רוח חלשה < 2 מ'/שנייה תרמה לעלייה בהצטברות PM2.5 עקב היפוכים. הקשר בין NO2 ל-PM2.5 הוא תוצאה של המקור המשותף שלהם (כלומר, בעירה) והוא נתון להשפעות זמן (למשל, יומי לעומת שבועי)36. ארבעת הגורמים העיקריים האחראים להסבר של 93% או יותר מהשונות ב-AQI הם שינויים בריכוזי המזהמים עקב הצטברות PM2.5 מאוחרת (93%+) ומהירויות רוח נמוכות שמחסימות את הפליטות, פליטות NO2/PM מרכבים ותעשייה, ושינויים יומיומיים בכמות התנועה37. בנוסף, הגאוגרפיה של דלהי היא גורם תורם להמשכיות ההיפכות באזור וכך גם מחמירה את ריכוזי PM2.5 . כיוונון היפר-פרמטרים, רגולריזציה והוספת משתנים נוספים (כגון טמפרטורה) יסייעו להגביל את הסיכוי להתאמת יתר וישפרו את ביצועי המודל הכוללים. יישום אסטרטגיות תפעוליות להפחתת פליטות PM צריך לכלול הטמעת מגבלות יומיות על פליטות PM, שימוש במכשירים המספקים ניטור בזמן אמת לנוכחות PM, ושימוש ברוח לפיזור פליטות PM דרך השטח הירוק העירוני.

איור 4: דירוג חשיבות תכונות מבוסס רווח ב-XGBoost לאחר סינון תכונות בדירוג CorrXGBoost לחיזוי PM₂.₅. פסי החיזוי מסודרים לפי סדר חשיבות. הקו האנכי המקווקו מייצג את סף בחירת התכונות האמיתי של XGBoost של 0.015. מנבאים עם ציונים ≥ 0.015 נשמרו עבור קבוצת הקלט הסופית של CORTA-Net, בעוד שמנבאים מתחת לסף זה הוצאו. הדירוג משמש לסינון תכונות ופרשנות התנהגות מודלית, ואין לפרש אותו כיחוס סיבתי. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.
ארכיטקטורת מודל CORTA-net
איור 5 מציג מסגרת חיזוי PM2.5 מוצעת. איורים משלימים 4 ו-5 ממחישים את הסידור הפנימי של יחידת ה-LSTM וייצוג של דיאגרמת בלוקי הקשב הרב-ראשיים. כל מקורות הנתונים (כלומר, תנאי הסביבה, תצפיות מטאורולוגיות, פעילות אש, והיבטים זמניים והקשריים של הנתונים) עברו עיבוד מוקדם כדי לוודא שהם תואמים זמנית, שיש להם נתונים חסרים (אם יש צורך), ועברו הסרת חריגים ונורמליזציה לפני השימוש בהם בתהליכי בניית המודלים. ארכיטקטורת המודל, הנדסת התכונות, תצורת ההדרכה, תצורת הנתונים, למידת העברה, מדדי הערכה, תחזיות עתידיות ופרטי היישום מוצגים בטבלה משלימה 1. באמצעות מודול CorrXGBoost-Rank, קבוצת התכונות האופטימלית נקבעת לפני שתת-קבוצה מהן מוזמנת לארכיטקטורת LSTM, אשר שופרה על ידי שילוב שכבות קשב מרובות ראשים כדי להתחשב בהתנהגות סדרות זמן בשלב המידול. גם תחזית PM2.5 וגם תכונות PM2.5 מאפיינים את חשיבות תכונות הקלט, וכן משקלי קשב מרובי ראשים כמפות קשב, סופקו כפלטים. מבנה יחידת LSTM פנימי ודיאגרמת בלוקים קשב רב-ראשיים נכללו כאיורים משלימים 4 ו-5, בהתאמה, בעוד שטבלה משלימה 1 מספקת את פרמטרי הארכיטקטורה לכל סוג שכבה בארכיטקטורה זו.

איור 5: הארכיטקטורה הכוללת של מודל החיזוי PM₂.₅ של CORTA-Net. תהליך חיזוי קלט כולל קלטים ממדדי איכות אוויר, מדדי מזג אוויר, מדדי זמן, ומדדי ספירת שריפות MODIS (ספקטרורדיומטר דימות ברזולוציה בינונה). לכל אחד מהשלבים הללו, האלגוריתם יישר חותמות זמן, מטפל בערכים חסרים, מסנן חריגים, נרמול נתונים ומהנדס תכונות. המנבאים הסופיים נבחרו לאחר מכן באמצעות תהליך CorrXGBoost-Rank. לאחר מכן, התכונות שנבחרו הונחו בחלונות הזזה ברצף זמן והועברו דרך מקודד LSTM (זיכרון קצר טווח ארוך) באמצעות למידת העברה. לכל תכונה וצעד זמן, מנגנון הקשב הרב-ראשי מפעיל משקלים לפני שליחת הפלט המשולב לשכבת הרגרסיה הסופית הצפופה כדי לייצר את תחזית PM₂.₅. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.
הכשרה והערכה
שיטת חלון הזזה שימשה ליצירת רצפי למידה מפוקחים. ההדרכה השתמשה באופטימיזציה של אדם ובממוצע ריבוע אובדן שגיאה (טבלה משלימה 2). ביצועי המודל הוערכו באמצעות RMSE ו-R2 בין חלוקות אימון, ולידציה, בדיקה ואימות צולב. הארכיטקטורה של המודל, הנדסת התכונות, תצורת ההדרכה, תצורת הנתונים, למידת העברה, מדדי הערכה, תחזיות עתידיות ופרטי היישום מוצגים בטבלה משלימה 1. איור 6 מייצג את אבחון ההכשרה עבור מודל החיזוי PM₂.₅ של CORTA-Net. בפאנלים, איור 6A מייצג עקומות אובדן אימון ואימות, המציגות הפחתת שגיאות הדרגתית, עם עצירה אופטימלית באפוק 106. התפתחות פער ההכללה במהלך הערכת ניתוח התאמה גבוהה מודגמת על ידי הפער בין נתוני אימות לאימון באיור 6B. בפרט, הוא מציג תקופות שבהן הסטייה חורגת מגבולות מוגדרים מראש; מידע זה מספק ראיות לכך שהתנהגות קצב הלמידה ודפוסי הפחתת האובדן ממחישים את היתרונות של דעיכת קצב הלמידה המתוזמן (LR) בתקופות קריטיות כאמצעי לשיפור יציבות ההתכנסות כפי שמוצג באיור 6C. ביחד, איורים אלו מספקים סיכום של דינמיקת הלמידה, יכולת ההכללה ותצורת האימון המומלצת של המודל.

איור 6: אבחון אימון עבור מודל החיזוי CORTA-Net PM₂.₅. (א) עקומות אובדן אימון ואימות המראות ירידה הדרגתית בשגיאה במהלך אימון המודל, עם עצירה מוקדמת באפוק 106 בהתבסס על ביצועי אימות. (ב) פער הכללה בין אובדן אימון לאימות בין תקופות, הממחיש את התפתחות הכללת המודל ותקופות של התפצלות מוגברת המעידות על התאמה יתר פוטנציאלית. (ג) לוח זמנים לקצב למידה המראה את השפעת דעיכת קצב הלמידה המתוזמן על אופטימיזציה לאורך כל האימון. (ד) סיכום התנהגות התכנסות המודלים, המדגים אופטימיזציה יציבה ותצורת האימון הסופית שנבחרה למודל CORTA-Net. יחד, אבחונים אלו ממחישים את הדינמיקה של המודל, מאפייני ההתכנסות וביצועי הכללה במהלך האימון. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.