חיזוי אנרגיה סולארית באמצעות למידה עמוקה היברידית: שיפור ביצועים באמצעות מודלים אקראיים של יער ו-BiLSTM ואנסמבל

Summary

מחקר זה מקדם את ביצועי תחנות הכוח הסולאריות המרוכזות באמצעות ניתוח נתונים מקיף ומתודולוגיות תיקון שגיאות. על ידי שילוב ניתוח ספקטרום, אופטימיזציה של יעילות תרמית ומודלים היברידיים של למידת מכונה, המחקר מספק אסטרטגיות מעשיות לשיפור היעילות התפעולית והאמינות, ובכך תומך בתפקיד האנרגיה הסולארית כמקור אנרגיה בר-קיימא.

Abstract

חיזוי מדויק של אנרגיה סולארית הוא קריטי לאינטגרציה של הרשת וליציבות תפעולית של מערכות אנרגיה מתחדשת. מחקר זה מציג גישה היברידית של אנסמבל למידה עמוקה לחיזוי יצירת השמש על ידי לכידת תלות זמן מורכבת בנתוני קרינה. חמש ארכיטקטורות היברידיות הוערכו: RF-BiLSTM, CNN-LSTM, CNN-BILSTM, CNN-GRU ו-CNN-Transformer, שכל אחת משלבת רכיבים קונבולוציוניים או חוזרים כדי להפיק תכונות מרחביות וסדרתיות מסדרות זמן היסטוריות. מודל RF-BiLSTM השיג את הביצועים האישיים הטובים ביותר עם R² = 0.6568, MAE = 30,728 W, ו-MSE = 1.81 × 10⁹ W². מודל אנסמבל ששילב את שלוש הארכיטקטורות המובילות באמצעות ממוצע MAE משוקלל הפוך הראה ביצועים מעולים עם R² = 0.6933, MAE = 28,809.89 W, ו-MSE = 1.53 × 10⁹ W², מה שהפחית את שגיאת החיזוי ב-6.2% בהשוואה למודל הבודד הטוב ביותר. מסגרת האנסמבל המוצעת מאזנת ביעילות את חוזקות המודלים, משפרת את עמידות התחזית ומספקת פתרון מבוסס נתונים להרחבה לחיזוי אנרגיה מתחדשת במערכות רשת חכמה וניהול אנרגיה.

Introduction

המעבר הגלובלי המהיר לאנרגיה מתחדשת מיקם את האנרגיה הסולארית כמקור מרכזי בתמהיל האנרגיה בר-קיימא. ככל שמדינות מתחייבות יותר ויותר להפחתת פחמן במערכות האנרגיה שלהן, טכנולוגיית הפוטו-וולטאית הסולארית (PV) חוותה צמיחה אקספוננציאלית בשל יכולת ההרחבה שלה, ירידת העלויות והיתרונות הסביבתיים שלה. עם זאת, השילוב הנרחב של אנרגיה סולארית ברשתות החשמל הלאומיות והאזוריות מציב אתגרים משמעותיים, בעיקר בשל אופייה המזדמן והתלוי במזג האוויר. קרינת השמש מושפעת ממגוון גורמים סביבתיים, כולל כיסוי עננים, תנאי אטמוספירה, שינויים עונתיים ומחזורי יום, שכולם מוסיפים שונות ואי-ודאות לייצור אנרגיה סולארית. השונות הטבועה הזו מסבכת את משימת איזון הרשת ותכנון מערכות החשמל. המפעילים חייבים לחזות במדויק את תפוקת האנרגיה הסולארית כדי להבטיח הקצאת משאבים מיטבית, להפחית את התלות במערכות גיבוי מבוססות דלקים פוסיליים, למנוע עומס יתר או שימוש חלקי בתשתיות, ולשמור על יציבות רשת כללית. ככל שהחדירה של אנרגיית השמש גדלה, הצורך במודלים חזקים, אמינים ומדויקים לחיזוי נעשה דחוף אף יותר. תחזיות סולאריות מדויקות לטווח קצר וליום מראש הן קריטיות במיוחד ליישומים כמו השתתפות בשוק האנרגיה, שליחת עומסים, תזמון סוללות וניהול מיקרוגריד¹.

שיטות חיזוי מסורתיות, כגון מודלים פיזיקליים המבוססים על נתונים מטאורולוגיים וטכניקות סדרות זמן סטטיסטיות (למשל, ARIMA, החלקה מעריכית), לעיתים קרובות לא מצליחות לתפוס את ההתנהגות הלא-ליניארית והדינמית של יצירת השמש. מודלים אלו נוטים להסתמך על הנחות ליניאריות, תכונות בעבודת יד או סימולציות מזג אוויר מפורטות, מה שמגביל את יכולת ההרחבה וההתאמה שלהם לדפוסים משתנים בנתוני שמש². לעומת זאת, מודלים של למידה עמוקה (DL) צמחו כגישה טרנספורמטיבית בחיזוי סדרות זמן. שיטות מונחות נתונים אלו יכולות ללמוד אוטומטית תכונות מורכבות ותלותיות זמניות ישירות מנתוני קלט גולמיים מבלי לדרוש הנדסת תכונות מפורשת ^3,4.

בין הארכיטקטורות הנפוצות ביותר נמצאות רשתות עצביות חוזרות (RNNs) וגרסאותיהן המשופרות, כגון זיכרון ארוך-טווח קצר (LSTM) ורשתות יחידה חוזרת עם שער (GRU). מודלים אלו נועדו ללכוד תלות רציפה ויחסים זמניים ארוכי טווח בנתוני סדרות זמן ^2,5,6. בינתיים, רשתות עצביות קונבולוציונליות (CNNs) הראו יכולות חזקות בחילוץ תכונות מרחביות והותאמו לעיבוד נתונים זמניים באמצעות קונבולוציות חד-ממדיות, במיוחד בתצורות היברידיות ^7,8. מודלים היברידיים של DL, המשלבים את חוזקות הארכיטקטורות השונות כמו CNN ו-RNNs, זכו לפופולריות בתחזית סולארית בזכות יכולתם להפיק תלות מקומית וארוכת טווח מנתוני סדרות זמן ^7,8,9

לדוגמה, מודלים של CNN-LSTM או CNN-BiLSTM מיישמים שכבות קונבולוציונליות לעיבוד מוקדם וסינון רצף הקלט לפני הזנתו לשכבות חוזרות, מה שמוביל ללמידה יעילה ומדויקת יותר ^9,10. מספר מחקרים הראו את העליונות של ארכיטקטורות היברידיות על פני מודלים עצמאיים. מחקר שהשתמש במודלים היברידיים של SSA-RNN-LSTM השיג הפחתות משמעותיות במדדי השגיאה בטכנולוגיות PV רבות, והראה שיפורים של 15-23% ב-RMSE לעומת גישות היברידיות חלופיות⁹. באופן דומה, ארכיטקטורות CNN-LSTM עלו על גישות למידת מכונה סטנדרטיות ומודלים בודדים של למידת למידה עמוקה במדדי הערכה מרובים כאשר הן מיושמות על נתוני אנרגיה סולארית אמיתיים¹⁰. היעילות של שיטות היברידיות מבוססות פירוק הוכחה גם היא, כאשר פירוק חבילות גל בשילוב עם רשתות LSTM הראה ביצועים טובים יותר על פני מודלים בודדים של LSTM, RNN, GRU ו-MLP^בחיזוי הספק PV בשעה 2. בחיזוי אנרגיית רוח, מודלים היברידיים המשלבים שכבות קונבולוציוניות עם רשתות GRU השיגו שיפורים ניכרים בתחזיות קצרות טווח מאוד, כאשר אימות במיקומים רבים מאשר את עמידותן והכללתן⁷. בנוסף, מנגנונים מבוססי קשב כמו Transformers מציעים פוטנציאל נוסף על ידי התמקדות סלקטיבית במקטעי קלט רלוונטיים לאורך שלבי זמן. מחקרים אחרונים על היברידיים CNN-LSTM-Transformer השיגו שיעורי שגיאות נמוכים במיוחד, המייצגים מאמצים פורצי דרך לשלב רשתות טרנספורמר במודלים היברידיים לחיזוי אנרגיה סולארית¹¹.

ההצלחה של מודלים היברידיים חורגת מעבר לשילובים אדריכליים וכוללת טכניקות קדם-עיבוד והתאמות מיוחדות לתנאי העולם האמיתי. טכניקות פירוק אותות הוכיחו את עצמן כיעילות בלכידת המאפיינים הרב-קנה מידה של ייצור חשמל פוטו-ווטי, ושיפרו את דיוק החיזוי באמצעות ייצוג טוב יותר של דפוסי זמן². עבור תחנות סולאריות בקנה מידה תעשייתי הפועלים בתנאי קיצוץ, גישות מבוססות LSTM משופרות המשלבים עיבוד מוקדם מיוחד השיגו הפחתות שגיאות משמעותיות על ידי טיפול באי-עקביות בנתונים¹². השפעת איכות נתוני הקלט נבדקה גם היא, וחשפה הבדלים משמעותיים בביצועים בשימוש בנתוני מזג אוויר היסטוריים לעומת נתונים חזויים, כאשר טכניקות הנדסת תכונות חדשניות מסייעות להפחית אובדן דיוק בתנאי קלט לא מושלמים⁶. גישות למידת מכונה הוכיחו יעילות נוספת במערכות המחוברות לרשת, והראו פוטנציאל להפחתת התלות בקיבולת רזרבה סיבוב קונבנציונלית באמצעות חיזוי מדויק¹³. עבודות יסוד מוקדמות קבעו את היתכנותן של רשתות עצביות מלאכותיות ליישומים שונים באנרגיה סולארית, והדגימו את יכולתן להתמודד עם נתונים רועשים וחלקיים, תוך מתן תחזיות מהירות לאחר ההכשרה ^3,4,14. מחקר על אופקי חיזוי אופטימליים וגישות עם קלט מינימלי סיפק הנחיות מעשיות לתכנון ופריסת מערכות באזורים דלירי נתונים 15,16,17. שיטות היברידיות המשלבות מידול מנגנונים עם למידה עמוקה הראו גם הבטחה ליישומים מורכבים של אנרגיה תרמית סולארית, תוך זיהוי מדויק של גורמים מטאורולוגיים מרכזיים והקשרים המרחביים-זמניים ביניהם¹⁸. מחקרים השוואתיים קבעו את היתרונות של ארכיטקטורות מתקדמות של רנטליות, במיוחד רשתות LSTM דו-כיווניות, שהשיגו ביצועים יוצאי דופן בתנאי סביבה מאתגרים כמו מזג אוויר מעונן¹⁹.

למידה קבוצתית, במיוחד באמצעות ממוצע משוקלל, מציעה פתרון משכנע. על ידי איגום התחזיות של מודלים משלימים, שיטות אנסמבל יכולות להפחית שגיאות הכללה, לשפר עמידות ולהפחית את החולשות של מודלים בודדים. מחקר זה בוחן את ביצועי חמישה מודלים מתקדמים של DL: RF-BiLSTM, CNN-LSTM, CNN-BILSTM, CNN-GRU ו-CNN-Transformer לחיזוי אנרגיה סולארית. כל מודל מוערך באמצעות מדדים קפדניים, כולל מקדם הקביעה (R²), שגיאה ממוצעת מוחלטת (MAE) ושגיאה ממוצעת בריבוע (MSE). בהתבסס על בנצ'מרקינג ביצועים, שלושת הדגמים המובילים נבחרים ומשולבים לאנסמבל אופטימלי באמצעות טכניקת ממוצע משוקלל. המטרה היא לפתח אנסמבל ל-DL בלבד שמשפר את דיוק החיזוי תוך שמירה על הכללה וכדאיות חישובית. מחקר זה שואף לספק פתרונות חיזוי מעשיים ובעלי ביצועים גבוהים למפעילי רשת ולבעלי עניין בתחום האנרגיה המתחדשת.

למרות התקדמות משמעותית במתודולוגיות חיזוי אנרגיה מתחדשת, קיימות מספר מגבלות קריטיות בגוף הידע הנוכחי. בעוד שמערכות פוטו-וולטאיות זכו למוקד מחקרי משמעותי, יישומי חיזוי המיועדים במיוחד לריכוז אנרגיה סולארית נותרו מיוצגים בחסר באופן ניכר, מה שמשאיר את השאלות לגבי חיזוי יעילות תרמית ואופטימיזציה תפעולית כמעט ללא מענה^15,16. מסגרות החיזוי הנוכחיות בדרך כלל מתנהלות מתוך הנחה שמדידות חיישנים מדויקות מטבען, תוך התעלמות מיישום נהלי תיקון שגיאות שיטתיים עבור כלי קרינה נורמלית ישירים, מה שיוצר חששות פוטנציאליים לגבי אמינות הן לניתוח רטרוספקטיבי והן לתחזיות פרוספקטיביות²⁰. הגישות הקיימות מתמקדות בעיקר בחיזוי זמן מבלי לבחון את המאפיינים הספקטרליים של קרינת השמש בתנאי אטמוספירה משתנים, למרות ההשפעה הידועה של התפלגות הספקטרלית על ביצועי המערכת¹⁷. למרות שארכיטקטורות היברידיות המשלבות רשתות קונבולוציונליות וחוזרות הוכיחו יעילות ביישומים פוטו-וולטאיים ורוח, ההתאמה שלהן למערכות תרמיות סולאריות מרוכזות נותרה ברובה לא נחקרה, במיוחד תצורות המשלבות עיבוד תכונות יער רנדומי עם שכבות דו-כיווניות^{חוזרות 7,10}. השכיחות של מרווחי חיזוי שעה במחקרים שפורסמו מתעלמת מהצורך ברזולוציה זמנית גבוהה יותר המסוגלת ללכוד דינמיקת תגובה תרמית מהירה החיונית לניהול מערכות בזמן אמת^18,19. יתרה מזאת, שיפור איכות הנתונים ומידול חיזוי קיימים כתחומי מחקר מנותקים ללא מסגרות משולבות המראות כיצד תיקון מדידה מתורגם לשיפורי תחזית²⁰. לבסוף, שיקולי יעילות חישובית, כולל משך האימון, מהירות ההסקה ודרישות החומרה, אינם זוכים לתשומת לב מספקת ביחס למדדי דיוק בלבד, מה שמגביל את הנחיות הפריסה המעשיות²⁰.

חקירה זו מתמודדת עם ליקויים אלו על ידי הקמת מתודולוגיה מקיפה המשלבת ריכוז ניתוח ספציפי לאנרגיה סולארית עם אופטימיזציה תרמית, מיישמת פרוטוקולי תיקון שגיאות חיישנים קפדניים, מבצעת בדיקת התפלגות ספקטרלית, מציגה ארכיטקטורת LSTM אקראית-דו-כיוונית לחיזוי הספק תרמי, מבצעת חיזוי ברזולוציה דקה לשיפור הגרנולריות הזמנית, ומחברת תהליכי יישור נתונים עם ביצועים תוצאות, ומספק הבנצ'מרקינג חישובי שיטתי בחמש ארכיטקטורות היברידיות באמצעות חומרת עיבוד גרפיקה סטנדרטית. פערי המחקר המרכזיים שזוהו בספרות הקיימת מסוכמים בטבלה 1.

פער מחקר	ספרות קיימת	מה חסר	מחקר זה מתייחס אליו
מחקר מוגבל ספציפי ל-CSP	מחקרי חיזוי PV נרחבים15,16	יישור נתוני יעילות תרמית של CSP	ניתוח נתוני CSP מקיף עם אופטימיזציה תרמית
תיקון שגיאות חיישן לא מספק	מחקרים מניחים דיוק נתונים17	פרוטוקולי תיקון ללא שגיאות למכשירי DNI	יישמו תיקון אפס שגיאות להערכה מדויקת
היעדר ניתוח ספקטרלי של DNI	מוקד חיזוי זמני רק18	התפלגות ספקטרלית תחת שינויים אטמוספיריים	ניתוח ספקטרום חושף השפעות ענן/אטמוספירה
מודלים היברידיים מוגבלים ל-CSP	CNN-LSTM ל-PV10, CNN-GRU לרוח7	RF-BiLSTM ליישומי CSP	RF-BiLSTM חדש שמגיע ל-R2 = 0.657
היעדר ניתוח דקה	תחזיות לשעה18,19	רזולוציה גבוהה לדינמיקה תרמית	הערכה לפי דקה לאופטימיזציה בזמן אמת
אין מסגרת משולבת	מחקרי חיזוי ואיכות נפרדים20	הקשר בין תיקון לביצועים	מסגרת משולבת לשיפור נתונים לביצועים
ניתוח חישובי לא מספק	השוואות דיוק רק20	יעילות ההכשרה והיתכנות הפריסה	ניתוח חישובי על כרטיס מסך T4 ב-5 מודלים

טבלה 1: פערי מחקר שנבחנו במחקר הנוכחי. סיכום מגבלות מחקר קיימות, אלמנטים חסרים בספרות הנוכחית, ותרומות ספציפיות של מחקר זה בהתמודדות עם פערים שזוהו בחיזוי CSP ובהערכת איכות הנתונים.

Protocol

איסוף ותיאור מערכי הנתונים
מערך הנתונים (איור 1) המשמש במחקר זה כולל רשומות היסטוריות חיוניות לחיזוי אנרגיה סולארית. מערך הנתונים כולל נתונים תפעוליים יומיים מתחנת כוח תרמית סולארית מרוכזת בהספק של 50 מגה-וואט המופעלת על ידי Megha Engineering and Infrastructures Limited (MEIL), הממוקמת ליד אננטפור, אנדרה פרדש, הודו, תוך שימוש בטכנולוגיית CSP (שפע פרבולי לריכוז אנרגיה סולארית (CSP) הלוכדת קרינה רגילה ישירה (DNI) ומעבירה חום באמצעות נוזל העברת חום (HTF) לייצור חשמל. מערך הנתונים נאסף בין 01 בינואר 2015 ל-3 באוקטובר 2025 ומכיל שבע מאפיינים מרכזיים הלוכדים מידע זמני, מדידות קרינה סולארית ותפוקת ייצור חשמל. התכונות הזמניות כוללות את 'תאריך', המספק את תאריך הלוח בפורמט סטנדרטי, 'שנה' מציין את שנת איסוף הנתונים, 'חודש' מייצג את מספר החודש, 'יום' המציין את יום החודש, ו-'יום יוליאן' המציע מערכת מספור ימים רציפה לאורך כל השנה לניתוח זמני רציף. משתנה הקלט המטאורולוגי העיקרי הוא 'DNI SUM' הנמדד ב-kWh/m², ומייצג את סך הקרינה הנורמלית הישירה (DNI), האנרגיה הסולארית המצטברת המתקבלת למטר רבוע של משטח המאספ, ומשמש כגורם קריטי המשפיע על יעילות ההמרה התרמית של תחנת CSP. משתנה היעד 'ייצור בפועל', הנמדד בקילוואט שעה, תופס את תפוקת החשמל שנוצרה על ידי תחנת ה-CSP, ומשקף את תוצאת תהליך ההמרה מאנרגיה סולארית לתרמית לחשמלית. תכונות אלו מאפשרות יחד ניתוח מקיף של ביצועי התחנה, כולל קביעת יעילות תרמית, מודלים של המרת DNI לחשמל, זיהוי השפעות אטמוספיריות וכיסוי עננים באמצעות ניתוח ספקטרלי, יישום פרוטוקולי תיקון ללא שגיאות לכיול חיישנים, ופיתוח מודלים מתקדמים לחיזוי למידת מכונה היברידית לאופטימיזציה של תכנון תפעולי בזמן אמת ולשיפור היעילות והאמינות הכוללת של מתקני CSP. פרטי הצמח זמינים בכתובת: https://solarpaces.nrel.gov/project/megha-solar-plant

איור 1: חמש השורות העליונות של מאגר הנתונים. נתוני דוגמה המציגים את הרשומות הראשוניות של מאגר נתוני ייצור החשמל הסולארי, המציגים תכונות קלט ומשתני יעד המשמשים לאימון והערכת המודלים. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

הכנת נתונים
המחקר עושה שימוש בנתוני סדרות זמן של ייצור סולארי המשתרעים מ-1 בינואר 2015 ועד 10 במרץ 2025. כדי להתחשב בבעיות פוטנציאליות באיכות הנתונים בשנים הראשונות ולהתמקד בדפוסים עדכניים יותר, הרשומות סוננו החל מ-1 בינואר 2017. עמודות זמן (תאריך, שנה, יום) הוסרו בהתבסס על ניתוח מתאם ראשוני שהראה ערך חיזוי זניח. ערכים חסרים הונחו באמצעות טכניקת ממוצע נע לשמירה על רציפות זמן תוך מזעור עיוות של דפוסים בסיסיים. נוצרו שלוש תכונות השהייה באמצעות משתנה היעד (יצירה בפועל (kW/h)) כדי ללכוד תלות זמנית.

פיצול מערכי נתונים
כדי להקים קבוצות מאוזנות ומייצגות של הכשרה, אימות ובדיקות משותפות, מערך הנתונים המעובד מראש חולק באמצעות שיטת דגימה שכבתית. גישה זו הבטיחה ש-70% מהנתונים (2091 נתונים) יוקצו להדרכה, בעוד שגם מערכות האימות וגם הבדיקות היוו כל אחת 15% (448 נתונים לכל סט).

נרמול נתונים
תכונות הוסדרו באמצעות StandardScaler, בעוד שערכי היעד נורמלו באמצעות MinMaxScaler לטווח [0,1] ליציבות רשת עצבית.

אימון מודלים
חמישה מודלים היברידיים (Random Forest-BiLSTM, CNN-LSTM, CNN-BiLSTM, CNN-GRU ו-CNN-Transformer) יושמו לחיזוי ייצור סולארי. נתוני הקלט אורגנו מחדש לפורמט סדרתי ששונה ל-(דגימות, צעדי זמן, תכונות) כאשר צעדי זמן = 1 עבור רוב המודלים, למעט CNN-LSTM, שהשתמש בחלון הזזה של 15 צעדים. סטים של אימון, אימות ובדיקות הוגדלו תוך שמירה על סדר זמני כדי למנוע דליפת נתונים. כל הדגמים מאומנים עם 32 מנות בגודל אצווה ו-30 אפוקים.

יער אקראי-BiLSTM (איור 2): המודל ההיברידי המוצע משלב רשת זיכרון ארוך-קצר טווח דו-כיווני (BiLSTM) עם רגרסור יער אקראי (RF) לשיפור דיוק החיזוי. ראשית, מודל BiLSTM מאומן על נתוני סדרות זמן קלט כדי ללכוד דפוסים זמניים וליצור תחזיות ראשוניות. לאחר מכן, מחושבים השגיאות השאריות (הבדלים בין ערכים אמיתיים לחזויים) מה-BiLSTM. מודל יער אקראי מאומן על תכונות הקלט המקוריות כדי ללמוד ולחזות את השאריות הללו. כדי לשפר את ביצועי מודל ה-RF, נבחרים ששת התכונות החשובות ביותר על פי ציוני חשיבות התכונה. לבסוף, התחזית המתוקנת מתקבלת על ידי הוספת השאריות החזויות על ידי RF לפלטי BiLSTM. גישה היברידית זו מנצלת את יכולת מידול הרצפים של BiLSTM ואת חוזק הלמידה הקבוצתי של Random Forest כדי להשיג הכללה טובה יותר וביצועים חיזויים.

יהי רצף הקלט בצעד הזמן t.

תחזית BiLSTM:

, 

 

 

חישוב שאריתי: 

למידה שארית באמצעות יער אקראי: יהי Z⊂X התכונות העליונות שנבחרו לפי חשיבות התכונות.

 

תחזית סופית: 

איור 2: ארכיטקטורה של מודל זיכרון ארוך-טווח קצר ביער אקראי. דיאגרמת סכמטית הממחישה את הארכיטקטורה ההיברידית RF-BiLSTM, המציגה את האינטגרציה של עיבוד תכונות יער אקראי עם שכבות LSTM דו-כיווניות ללמידת רצפים זמניים. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

CNN-LSTM (איור 3): המודל ההיברידי של CNN-LSTM מתחיל בעיבוד רצף הקלט באמצעות שכבת קונבולוציה חד-ממדית לחילוץ תכונות מרחביות מקומיות, ואחריו הפעלה של LeakyReLU, נרמול אצווה ומקסימום איגוד. המאפיינים המופקים עוברים דרך ערימה של שלוש שכבות LSTM כדי ללמוד תלות זמנית, כאשר נרמול השכבה וניתוק לאחר שני ה-LSTMs הראשונים לצורך רגולריזציה. פלט ה-LSTM הסופי עובר דרך שכבות צפופות מחוברות לחלוטין עם הפעלה ונפילה, ולבסוף ממופה לפלט באמצעות נוירון יחיד.

יהי רצף הקלט, כאשר T הוא חלון הזמן ו-F הוא מספר התכונות.

הפעלת CNN: 

איגוד מקסימלי: 

תא LSTM: 

 

פלט: 

איור 3: ארכיטקטורה של מודל CNN-LSTM. ייצוג מבני של המודל ההיברידי של רשת עצבית קונבולוציונית-זיכרון ארוך טווח קצר, המדגים חילוץ תכונות קונבולוציוני ואחריו עיבוד רצף זמני חד-כיווני. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

CNN-BiLSTM (איור 4): המודל ההיברידי CNN-BiLSTM חילץ תחילה תכונות מרחביות באמצעות שכבת קונבולוציה חד-ממדית עם 32 מסננים, ולאחר מכן נרמול אצווה ואגירה מקסימלית להפחתת הממדיות. הפלט עובר דרך מערך של שתי שכבות LSTM דו-כיווניות כדי ללכוד תלות זמן ארוכת טווח בכיוונים קדימה ואחורה. רגולריזציה מיושמת באמצעות נפילת מחזור ונירמול באצוות. שכבה צפופה עם 128 נוירונים מחדדת את הייצוג הנלמד לפני ששכבת הפלט הסופית ממפה אותו לערך חזוי יחיד.

הפעלת CNN: 

איגוד מקסימלי:

LSTM דו-כיווני:  ,  

 

פלט:  

איור 4: ארכיטקטורה של מודל CNN-BiLSTM. דיאגרמת ארכיטקטורה של מודל הרשת העצבית הקונבולוציונית-זיכרון ארוך טווח דו-כיווני, המדגישה את השילוב של שכבות קונבולוציוניות עם עיבוד דו-כיווני חזרי לשיפור תלות הזמן. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

CNN-GRU (איור 5): המודל ההיברידי של CNN-GRU מתחיל בשכבת Conv1D המשתמשת בגודל גרעין של 1 כדי להפיק תכונות מרחביות מצעד זמן יחיד. איגוד מקסימלי מפחית ממדים מרחביים. לאחר מכן מגיעה ערימה של שכבות GRU, הראשונה מחזירה רצפים ללכידת תלות זמנית, והשנייה מסכמת את הרצף לייצוג קומפקטי. שכבה צפופה סופית מפיקה את הערך החזויה. רגולריזציה של נפילת נשירה מופעלת בין שכבות GRU כדי למנוע התאמת יתר.

הפעלת CNN: 

איגוד מקסימלי: 

תא GRU:

פלט:

איור 5: ארכיטקטורה של מודל CNN-GRU. סכמטיקה של מודל ההיברידי של רשת עצבית קונבולוציונית-יחידה חוזרת עם שערים, המציג עיבוד מוקדם קונבולוציוני משולב עם שכבות GRU למידול זמני יעיל. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

טרנספורמטור CNN (איור 6) מודל ה-CNN-transformer מתחיל בשכבת Conv1D לחילוץ תכונות מקומיות מרצף הקלט, ואחריה שכבת איגוד מקסימלי. תכונות אלו מועברות דרך בלוק מקודד טרנספורמר הכולל מנגנון ריכוז עצמי רב-ראשי, נרמול שכבה ורשת צפופה להזנה קדימה. לאחר מכן מוחל איגוד ממוצע גלובלי לפני ששכבה צפופה סופית מפיקה את התחזית. ארכיטקטורה זו נועדה ללכוד גם תבניות מרחביות (באמצעות CNN) וגם תלויות גלובליות (באמצעות תשומת לב של טרנספורמרים).

הפעלת CNN:

ריכוז עצמי רב-ראשי:

כאשר: Q, K, V = XW^Q, XW^K, XW^V ו-d_k הוא ממד המפתחות.

רשת פיד פורוורד:

הוסף שכבות & נורם:

פלט:

איור 6: ארכיטקטורה של מודל CNN-Transformor. סקירה מבנית של המודל ההיברידי של רשת עצבית קונבולוציונית-טרנספורמר, הכולל חילוץ תכונות קונבולוציוני עם מנגנוני קשב רב-ראשיים לזיהוי דפוסים זמניים מתקדמים. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

פיתוח מודל אנסמבל
כדי לשפר את דיוק החיזוי ועמידות המודל, יישמנו גישה ממוצעת משוקללת של אנסמבל באמצעות תחזיות מחמשת מודלי הלמידה העמוקה ההיברידיים: RF-BiLSTM, CNN-LSTM, CNN-BILSTM, CNN-GRU ו-CNN-Transformer. האוסף נבנה על ידי הקצאת משקלים אופטימליים לכל תחזיות של המודל, כאשר משקלים גבוהים יותר ניתנו למודלים המראים ביצועים אישיים טובים יותר, כפי שנמדד על ידי ציוני R² שלהם. אסטרטגיית משקל זו מבטיחה שמודלים מדויקים יותר תורמים משמעותית יותר לתחזית הסופית, תוך ניצול החוזקות המשלימות של כל הארכיטקטורות. פלט האנסמבל הוערך לאחר מכן באמצעות מדדי ביצועים סטנדרטיים: R², שגיאה מוחלטת ממוצעת (MAE) ושגיאה ממוצעת בריבוע (MSE) כדי להעריך את דיוק החיזוי שלה, עקביות ויכולת הכללה. אנסמבל למידה עמוקה זה שואף לשלב חילוץ תכונות זמן ממספר פרספקטיבות, ובכך להשיג דיוק ועמידות גבוהים יותר מכל מודל היברידי בודד בנפרד.

ניסוח מתמטי של טכניקת האנסמבל:

יהי

מייצגים את קבוצת מודלי הבסיס המתאימים ל-CNN-RF-BiLSTM, CNN-LSTM, CNN-BiLSTM, CNN-GRU ו-CNN-Transformer.

כל מודל בסיס M_i מייצר תחזית:

מטריצת המטה-תכונות לערימה נוצרת כך:

המטא-לומד של רגרסיית הרכס מעריך את התחזית הסופית כך:

כאשר:

-- w_i הם משקולות ההצטברות שנלמדו

-- w₀ הוא מונח ההטיה

כדי למנוע התאמת יתר, רגרסיית רכס ממזערת את פונקציית האובדן המוסדרת הבאה:

כאשר:

-- y_j = מטרה אמיתית עבור הדגימה j^th

-- N = מספר הדגימות הכולל

-- α = פרמטר רגולוריזציה השולט בהתכווצות המשקל

חיזוי האנסמבל מתקבל כך:

כאשר המשקלים w_i נלמדים אוטומטית על ידי מזעור פונקציית אובדן הרכס.

Results

הערכת ביצועי מודל בודד
הערכת ביצועים של חמישה מודלים היברידיים ללמידה עמוקה (DL) RF-BiLSTM, CNN-GRU, CNN-BiLSTM, CNN-LSTM ו-CNN-transformer בוצעה באמצעות מערך מקיף של מדדי רגרסיה סטנדרטיים, כולל R² (מקדם קביעה), שגיאה ממוצעת מוחלטת (MAE) ושגיאה ממוצעת בריבוע (MSE), כדי להעריך בקפדנות את יכולתם לחזות ייצור חשמל סולארי בתנאים מטאורולוגיים שונים ותלות זמנית.

ביצועי מודל RF-BiLSTM:
מבין הארכיטקטורות שנבדקו, מודל RF-BiLSTM הפגין ביצועים יוצאי דופן, והוכיח את ...

Discussion

המתודולוגיה המוצעת פועלת לפי תהליך עבודה מובנה כפי שמוצג באיור 12. בתחילה, מערך הנתונים עובר עיבוד מקדים מקיף, כולל הערכת ערך חסרה, נורמליזציה והנדסת תכונות, כדי להבטיח איכות נתונים ולשפר את למידת המודל ^3,6. מערך הנתונים המעובד מחולק לאחר מכן לקבוצות אימון (70%), אימות (15%) ובדיקות (15%) כדי לאפשר פיתוח מודלים חזקים והערכת ביצועים ^2,9. בהמשך, חמישה מודלים היברידיים ללמידה עמ...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
BiLSTM	TensorFlow/Keras	TensorFlow 2.10.0
שכבות CNN	TensorFlow/Keras	TensorFlow 2.10.0
גוגל קולאב	גוגל LLC	פלטפורמת ענן
GRU	TensorFlow/Keras	TensorFlow 2.10.0
Matplotlib	צוות הפיתוח של Matplotlib	3.7.1
NumPy	NumFOCUS	1.25.2
כרטיס גרפי NVIDIA T4	תאגיד NVIDIA	טסלה T4
פנדות	NumFOCUS	2.0.3
פירהליומטר למדידת DNI	קיפ & זונן	CH1-DL
פייתון	קרן התוכנה של פייתון	3.10.12
יער רנדום	מפתחי Scikit-learn	1.2.2
Scikit-learn	מפתחי Scikit-learn	1.2.2
חיישני טמפרטורה	וייסלה	HMP155
TensorFlow/Keras	גוגל	גרסה 2.10.0
טרנספורמר	TensorFlow/Keras	TensorFlow 2.10.0
תחנת מזג האוויר	דייוויס אינסטרומנטס	Vantage Pro2