Prognozowanie energii słonecznej z wykorzystaniem hybrydowego głębokiego uczenia: Poprawa wydajności dzięki losowemu lasowi-biLSTM oraz modelowaniu zespołowemu

Summary

Badanie to poprawia wydajność skoncentrowanych elektrowni słonecznych dzięki kompleksowej analizie danych i metodologiom korekcji błędów. Poprzez integrację analizy widma, optymalizacji efektywności cieplnej oraz hybrydowych modeli uczenia maszynowego, badania dostarczają praktycznych strategii zwiększających efektywność operacyjną i niezawodność, wspierając tym samym rolę energii słonecznej jako zrównoważonego źródła energii.

Abstract

Dokładne prognozowanie energii słonecznej jest kluczowe dla integracji sieci i stabilności operacyjnej systemów odnawialnych źródeł energii. Niniejsze badanie przedstawia hybrydowe podejście zespołu głębokiego uczenia do przewidywania generowania energii słonecznej poprzez uchwycenie złożonych zależności czasowych w danych o napromieniowaniu. Oceniono pięć hybrydowych architektur: RF-BiLSTM, CNN-LSTM, CNN-BiLSTM, CNN-GRU oraz CNN-Transformer, z których każda łączyła komponenty splotowe lub rekurencyjne, aby wyodrębnić cechy przestrzenne i sekwencyjne z historycznych szeregów czasowych. Model RF-BiLSTM osiągnął najlepsze indywidualne osiągi z R² = 0,6568, MAE = 30 728 W oraz MSE = 1,81 × 10⁹ W². Model zespołowy integrujący trzy najwyższe architektury z wykorzystaniem odwrotnego uśredniania ważonego MAE wykazał lepsze wyniki przy R² = 0,6933, MAE = 28 809,89 W oraz MSE = 1,53 × 10⁹ W², zmniejszając błąd predykcji o 6,2% w porównaniu z najlepszym modelem indywidualnym. Proponowane ramy zespołowe skutecznie równoważą mocne strony modelu, zwiększają odporność prognoz i zapewniają skalowalne, oparte na danych rozwiązanie do prognozowania energii odnawialnej w inteligentnych sieciach i systemach zarządzania energią.

Introduction

Przyspieszająca globalna transformacja w kierunku energii odnawialnej uczyniła energię słoneczną kluczowym źródłem w zrównoważonym miksu energetycznym. W miarę jak kraje coraz bardziej zobowiązują się do dekarbonizacji swoich systemów energetycznych, technologia fotowoltaiczna (PV) odnotowuje wykładniczy wzrost dzięki swojej skalowalności, spadkom kosztów i korzyściom środowiskowym. Jednak powszechna integracja energii słonecznej z krajowymi i regionalnymi sieciami energetycznymi stanowi poważne wyzwania, głównie ze względu na jej przerywany i zależny od warunków pogodowych charakter. Na napromieniowanie słoneczne wpływa wiele czynników środowiskowych, w tym zachmurzenie, warunki atmosferyczne, zmiany sezonowe oraz cykle dzienne, które wprowadzają zmienność i niepewność do wytwarzania energii słonecznej. Ta wrodzona zmienność komplikuje zadanie balansowania sieci i planowania systemu energetycznego. Operatorzy muszą dokładnie przewidywać produkcję energii słonecznej, aby zapewnić optymalny przydział zasobów, zmniejszyć zależność od systemów zapasowych opartych na paliwach kopalnych, zapobiec przeciążeniom lub niedostatecznemu wykorzystaniu infrastruktury oraz utrzymać ogólną stabilność sieci. Wraz ze wzrostem penetracji energii słonecznej potrzeba solidnych, niezawodnych i precyzyjnych modeli prognozowania staje się jeszcze pilniejsza. Dokładne prognozy solarne na krótki termin i dzień do przodu są szczególnie istotne dla zastosowań takich jak udział w rynku energii, dyspozycja obciążeń, harmonogramowanie baterii oraz zarządzanie mikrosiecią¹.

Tradycyjne metody prognozowania, takie jak modele fizyczne oparte na danych meteorologicznych oraz techniki szeregów czasowych statystycznych (np. ARIMA, wykładnicze wygładzanie), często nie oddają nieliniowego i dynamicznego zachowania wytwarzania słońca. Modele te zwykle opierają się na liniowych założeniach, ręcznie wykonanych cechach lub szczegółowych symulacjach pogodowych, co ogranicza ich skalowalność i adaptację do zmieniających się wzorców w danych słonecznych². Dla porównania, modele głębokiego uczenia (DL) stały się transformacyjnym podejściem w prognozowaniu szeregów czasowych. Te metody oparte na danych mogą automatycznie uczyć się złożonych cech i zależności czasowych bezpośrednio z surowych danych wejściowych, bez konieczności intensywnego inżynierowania cech ^3,4.

Do najczęściej stosowanych architektur należą sieci neuronowe rekurencyjne (RNN) oraz ich ulepszone warianty, takie jak sieci pamięci długiej krótkotrwałej (LSTM) i Gated Recurrent Unit (GRU). Modele te zostały zaprojektowane tak, aby uchwycić zależności sekwencyjne i długoterminowe relacje czasowe w danych szeregów czasowych ^2,5,6. Tymczasem sieci konwolucyjne neuronowe (CNN) wykazały silne możliwości ekstrakcji cech przestrzennych i zostały przystosowane do przetwarzania danych czasowych za pomocą konwolucji 1D, szczególnie w konfiguracjach hybrydowych ^7,8. Hybrydowe modele DL, które łączą mocne strony różnych architektur, takich jak CNN i RNN, zyskały na popularności w prognozowaniu słońca dzięki zdolności do wyodrębniania zarówno lokalnych, jak i dalekosiężnych zależności z danych szeregów czasowych ^7,8,9

Na przykład modele CNN-LSTM lub CNN-BiLSTM stosują warstwy splotowe do wstępnego przetwarzania i filtrowania sekwencji wejściowej przed wprowadzeniem jej do warstw rekurencyjnych, co skutkuje bardziej efektywnym i dokładniejszym uczeniem^{się 9,10}. Kilka badań wykazało wyższość architektur hybrydowych nad samodzielnymi modelami. Badania z wykorzystaniem hybrydowych modeli SSA-RNN-LSTM przyniosły istotne zmniejszenie wskaźników błędu w wielu technologiach PV, wykazując poprawę RMSE o 15-23% w porównaniu z alternatywnymi podejściami hybrydowymi⁹. Podobnie, architektury CNN-LSTM przewyższają zarówno standardowe podejścia do uczenia maszynowego, jak i pojedyncze modele głębokiego uczenia w wielu metrykach ewaluacyjnych w odniesieniu do rzeczywistych danych o energii słonecznej¹⁰. Skuteczność hybrydowych metod opartych na dekompozycji została również potwierdzona, gdzie dekompozycja pakietów falkowych połączona z sieciami LSTM wykazała lepsze wyniki niż poszczególne modele LSTM, RNN, GRU i MLP w godzinnym wyprzedywaniu mocy PV². W prognozowaniu energii wiatrowej modele hybrydowe łączące warstwy splotowe z sieciami GRU osiągnęły znaczące poprawy w bardzo krótkoterminowych prognozach, a walidacja w wielu lokalizacjach potwierdza ich odporność i uogólnialność⁷. Dodatkowo, mechanizmy oparte na uwadze, takie jak Transformers, oferują dodatkowy potencjał, selektywnie koncentrując się na odpowiednich segmentach wejściowych w różnych etapach czasowych. Najnowsze badania dotyczące hybryd CNN-LSTM-Transformer wykazały wyjątkowo niskie wskaźniki błędów, co stanowi pionierskie wysiłki na rzecz włączenia sieci transformatorów do hybrydowych modeli prognozowania energii słonecznej¹¹.

Sukces modeli hybrydowych wykracza poza kombinacje architektoniczne i obejmuje techniki wstępnego przetwarzania oraz specjalistyczne adaptacje do rzeczywistych warunków. Techniki dekompozycji sygnału okazały się cenne w uchwyceniu wieloskalowych cech wytwarzania energii fotowoltaicznej, poprawiając dokładność prognozowania poprzez lepszą reprezentację wzorców czasowych². W przypadku przemysłowych elektrowni słonecznych działających w warunkach ograniczenia, ulepszone podejścia oparte na LSTM, wykorzystujące specjalistyczne wstępne przetwarzanie, osiągnęły znaczące zmniejszenie błędów poprzez rozwiązanie niespójności danych¹². Badana była także jakość danych wejściowych, ujawniając znaczące różnice w wydajności przy korzystaniu z danych historycznych i prognozowanych, a innowacyjne techniki inżynierii cech pomagają ograniczać straty dokładności w niedoskonałych warunkach wejściowych⁶. Podejścia do uczenia maszynowego dodatkowo wykazały skuteczność w systemach podłączonych do sieci, pokazując potencjał do zmniejszenia zależności od konwencjonalnej pojemności rezerwowej obrotowej dzięki dokładnym prognozom¹³. Wcześniejsze badania podstawowe potwierdziły wykonalność sztucznych sieci neuronowych dla różnych zastosowań energii słonecznej, pokazując ich zdolność do obsługi zaszumionych i niepełnych danych, jednocześnie zapewniając szybkie prognozy po wytrenowaniu ^3,4,14. Badania nad optymalnymi horyzontami prognozowania oraz podejściami z minimalnym wkładem dostarczyły praktycznych wskazówek dotyczących projektowania i wdrażania systemów w regionach o ograniczonych danych 15,16,17. Metody hybrydowe łączące modelowanie mechanizmów z uczeniem głębokim również wykazały obiecujące zastosowania dla złożonych zastosowań energii słonecznej termicznej, precyzyjnie identyfikując kluczowe czynniki meteorologiczne i ich relacje przestrzenno-czasowe¹⁸. Badania porównawcze wykazały zalety zaawansowanych architektur rekurencyjnych, szczególnie dwukierunkowych sieci LSTM, które osiągnęły wyjątkową wydajność w trudnych warunkach środowiskowych, takich^{jak pochmurna} pogoda.

Uczenie zespołowe, szczególnie poprzez uśrednianie ważone, oferuje przekonujące rozwiązanie. Agregując przewidywania modeli komplementarnych, metody zespołowe mogą zmniejszyć błąd uogólnienia, poprawić odporność i złagodzić słabości poszczególnych modeli. Niniejsze badanie bada wydajność pięciu zaawansowanych hybrydowych modeli DL: RF-BiLSTM, CNN-LSTM, CNN-BiLSTM, CNN-GRU oraz CNN-Transformer do prognozowania energii słonecznej. Każdy model jest oceniany za pomocą rygorystycznych metryk, w tym współczynnika determinacji (R²), średniego błędu bezwzględnego (MAE) oraz średniego błędu kwadratowego (MSE). Na podstawie benchmarkingu wydajności wybierane są trzy najlepsze modele i łączone w zoptymalizowany zespół za pomocą techniki ważonego uśredniania. Celem jest opracowanie zespołu wyłącznie DL, który zwiększy dokładność prognozowania, jednocześnie zachowując uogólnienie i wykonalność obliczeniową. Celem tych badań jest dostarczanie praktycznych, wysokowydajnych rozwiązań prognozujących dla operatorów sieci oraz interesariuszy energii odnawialnej.

Pomimo znacznych postępów w metodach prognozowania energii odnawialnej, w obecnej wiedzy wciąż istnieje kilka kluczowych ograniczeń. Chociaż systemy fotowoltaiczne przyciągają znaczną uwagę naukową, aplikacje prognozujące specjalnie dostosowane do koncentracji energii słonecznej pozostają wyraźnie niedostatecznie reprezentowane, pozostawiając kwestie dotyczące prognozowania efektywności cieplnej i optymalizacji operacyjnej w dużej mierze nierozwiązane^15,16. Obecne ramy prognozowania zazwyczaj opierają się na założeniu, że pomiary sensorów są z natury dokładne, pomijając wdrożenie systematycznych procedur korekcji błędów dla instrumentów Direct Normal Irradiance, co wprowadza potencjalne obawy o wiarygodność zarówno w analizie retrospektywnej, jak i prognozach prospektywnych²⁰. Istniejące podejścia koncentrują się głównie na przewidywaniu czasowym, nie analizując charakterystyk spektralnych promieniowania słonecznego w zmiennych warunkach atmosferycznych, mimo znanego wpływu rozkładu widma na wydajność systemu¹⁷. Chociaż architektury hybrydowe łączące sieci konwolucyjne i rekurencyjne okazały się skuteczne w zastosowaniach fotowoltaicznych i wiatrowych, ich adaptacja do koncentrowanych systemów słonecznych termicznych pozostaje w dużej mierze niezbadana, szczególnie konfiguracje integrujące przetwarzanie cech Random Forest z dwukierunkowymi warstwami rekurencyjnymi ^7,10. Powszechność godzinnych przedziałów prognozowania w opublikowanych badaniach pomija konieczność wyższej rozdzielczości czasowej, zdolnej do uchwycenia dynamicznej reakcji cieplnej, niezbędnej do zarządzania systemem w czasie rzeczywistym^18,19. Ponadto poprawa jakości danych i modelowanie predykcyjne istnieją jako oderwane od siebie dziedziny badań bez zintegrowanych ram demonstrujących, jak korekta pomiaru przekłada się na poprawę prognozowania²⁰. Wreszcie, kwestie efektywności obliczeniowej, takie jak czas trwania treningu, szybkość wnioskowania oraz wymagania sprzętowe, są traktowane niedostatecznie w odniesieniu do samych wskaźników dokładności, co ogranicza praktyczne wskazówki wdrożenia²⁰.

Niniejsze badanie rozwiązuje te niedociągnięcia poprzez opracowanie kompleksowej metodologii łączącej koncentrację analizy specyficznej dla energii słonecznej z optymalizacją termiczną, wdrożenie rygorystycznych protokołów korekcji błędów czujników, przeprowadzenie badań rozkładu spektralnego, wprowadzenie architektury LSTM Random Forest-Bidirectional do prognozowania mocy cieplnej, przeprowadzenie prognoz w rozdzielczości minutowej dla zwiększenia szczegółowości czasowej, łączenie procesów korekty danych z wydajnością oraz zapewnia systematyczne testy obliczeniowe na pięciu hybrydowych architekturach wykorzystujących standaryzowany sprzęt do przetwarzania grafiki. Kluczowe luki badawcze zidentyfikowane w istniejącej literaturze są podsumowane w Tabeli 1.

Luka badawcza	Istniejąca literatura	Czego brakuje	Niniejsze badanie dotyczy
Ograniczone badania specyficzne dla CSP	Rozbudowane badania prognozowania fotowoltaiki15,16	Prostowanie danych o sprawności cieplnej CSP	Kompleksowa analiza danych CSP z optymalizacją termiczną
Niewystarczająca korekcja błędów czujników	Badania zakładają dokładność danych17	Protokoły korekcji zerowych błędów dla instrumentów DNI	Implementowano korekcję zerową błędów dla dokładnej oceny
Brak analizy spektralnej DNI	Skupienie prognozowania czasowego tylko18	Rozkład widmowy pod wpływem zmienności atmosfery	Analiza widma ujawniająca wpływy chmur/atmosfery
Ograniczone modele hybrydowe dla CSP	CNN-LSTM dla PV10, CNN-GRU dla wiatru7	RF-BiLSTM dla zastosowań CSP	Nowatorski RF-BiLSTM osiągający R2 = 0,657
Brak analizy minutowej	Prognozy godzinowe18,19	Wysoka rozdzielczość dla dynamiki termicznej	Ocena minutowa dla optymalizacji w czasie rzeczywistym
Brak zintegrowanych ram	Oddzielne badania prognozowania i jakości20	Związek między prostowaniem a wydajnością	Zintegrowany framework usprawniania danych do wydajności
Niewystarczająca analiza obliczeniowa	Porównania dokładności tylko20	Efektywność szkolenia i wykonalność wdrożenia	Analiza obliczeniowa na GPU T4 w 5 modelach

Tabela 1: Luki badawcze uwzględnione w obecnym badaniu. Podsumowanie istniejących ograniczeń badawczych, brakujących elementów w aktualnej literaturze oraz konkretnych wkładów tego badania w rozwiązywanie zidentyfikowanych luk w prognozowaniu CSP i ocenie jakości danych.

Protocol

Zbieranie i opis zbiorów danych
Zbiór danych (Rysunek 1) użyty w tych badaniach obejmuje historyczne zapisy kluczowe dla prognozowania energii słonecznej. Zbiór danych obejmuje codzienne dane operacyjne z elektrowni słonecznej o mocy 50 MW, obsługiwanej przez Megha Engineering and Infrastructures Limited (MEIL), zlokalizowanej w pobliżu Anantapur, Andhra Pradesh, Indie, wykorzystującej technologię skoncentrowanej energii słonecznej (CSP) z parabolicznego trumfu (CSP), która wychwytuje bezpośrednie normalne promieniowanie (DNI) i przekazuje ciepło za pomocą płynu transferowego ciepła (HTF) do wytwarzania energii elektrycznej. Zbiór danych został zebrany od 1 stycznia 2015 do 3 października 2025 i zawiera siedem kluczowych atrybutów obejmujących informacje czasowe, pomiary promieniowania słonecznego oraz produkcję energii. Atrybuty temporalne obejmują 'Date', podająca datę kalendarzową w standardowym formacie, 'Year' oznaczającą rok zbierania danych, 'Month' oznaczającą numer miesiąca, 'Day' oznaczającą dzień miesiąca oraz 'Julian Day' oferującą sekwencyjny system numeracji dni w ciągu roku do ciągłej analizy czasowej. Główną zmienną wejściową meteorologiczną jest 'DNI SUM' mierzona w kWh/m², która reprezentuje całkowite bezpośrednie normalne napromieniowanie (DNI), czyli skumulowaną energię słoneczną otrzymywaną na metr kwadratowy powierzchni kolektora, będącą kluczowym czynnikiem wpływającym na efektywność konwersji cieplnej elektrowni CSP. Zmienna docelowa "Rzeczywista generacja", mierzona w kWh, obejmuje moc elektryczną wyprodukowaną przez elektrownię CSP, odzwierciedlając wynik procesu konwersji energii słonecznej na cieplno-elektryczną. Te cechy łącznie umożliwiają kompleksową analizę wydajności elektrowni, w tym określanie efektywności cieplnej, modelowanie konwersji DNI na zasilanie, identyfikację wpływów atmosfery i chmur poprzez analizę spektralną, wdrożenie protokołów korekcji zerowych błędów do kalibracji czujników oraz rozwój zaawansowanych hybrydowych modeli prognozowania uczenia maszynowego dla optymalizacji planowania operacyjnego w czasie rzeczywistym oraz zwiększenia ogólnej efektywności i niezawodności elektrowni CSP. Szczegóły dotyczące rośliny dostępne na: https://solarpaces.nrel.gov/project/megha-solar-plant

Rysunek 1: Pięć górnych wierszy zbioru danych. Przykładowe dane pokazujące początkowe wpisy zbioru danych o wytwarzaniu energii słonecznej, pokazujące cechy wejściowe i zmienne docelowe używane do trenowania i oceny modelu. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.

Przygotowanie danych
Badanie wykorzystuje dane z szeregów czasowych z produkcji energii słonecznej obejmujące okres od 1 stycznia 2015 do 10 marca 2025 roku. Aby uwzględnić potencjalne problemy z jakością danych w pierwszych latach i skupić się na nowszych wzorcach, dane zostały przefiltrowane od 1 stycznia 2017 roku. Kolumny czasowe (Data, Rok, Dzień) zostały usunięte na podstawie wstępnej analizy korelacji, która wykazała znikomą wartość predykcyjną. Brakujące wartości zostały sprowadzone za pomocą techniki średniej kroczącej w celu utrzymania ciągłości czasowej przy jednoczesnym minimalizowaniu zniekształceń ukrytych wzorców. Utworzono trzy funkcje opóźniające przy użyciu zmiennej docelowej (Rzeczywista Generacja (kW/h)) do rejestrowania zależności czasowych.

Dzielenie zbiorów danych
Aby ustalić zrównoważone i reprezentatywne kohorty treningowe, walidacyjne i testowe, zbiór danych przygotowany wcześniej został podzielony na segmenty metodą stratyfikowanego próbkowania. Takie podejście zapewniło, że 70% danych (2091 danych) było przeznaczonych do treningu, podczas gdy zarówno zestawy walidacyjne, jak i testowe stanowiły po 15% (448 danych na zestaw).

Normalizacja danych
Cechy zostały ustandaryzowane za pomocą StandardScaler, natomiast wartości docelowe zostały znormalizowane za pomocą MinMaxScaler do zakresu [0,1] dla stabilności sieci neuronowej.

Trening modelu
Do prognozowania energii słonecznej zaimplementowano pięć modeli hybrydowych (Random Forest-BiLSTM, CNN-LSTM, CNN-LSTM, CNN-GRU oraz CNN-Transformer). Dane wejściowe zostały przekształcone w format sekwencyjny przekształcony w (próbki, kroki czasowe, cechy), gdzie kroki czasowe = 1 dla większości modeli, z wyjątkiem CNN-LSTM, które korzystało z przesuwanego okna 15 kroków. Zestawy treningowe, walidacyjne i testowe były skalowane, zachowując porządek czasowy, aby uniknąć wycieku danych. Wszystkie modele są trenowane z 32 rozmiarami partii i 30 epochami.

Losowy Las – BiLSTM (Rysunek 2): Proponowany model hybrydowy łączy dwukierunkową sieć pamięci długotrwałej (BiLSTM) z regressorem lasu losowego (RF), aby poprawić dokładność predykcji. Po pierwsze, model BiLSTM jest trenowany na danych szeregów czasowych wejściowych, aby wychwycić wzorce czasowe i generować wstępne prognozy. Następnie obliczane są błędy resztkowe (różnice między rzeczywistymi a przewidywanymi wartościami) z BiLSTM. Model lasu losowego jest następnie trenowany na oryginalnych cechach wejściowych, aby nauczyć się i przewidzieć te reszty. Aby zwiększyć wydajność modelu RF, sześć najważniejszych cech wybiera się na podstawie wskaźników ważności cech. Na koniec skorygowane przewidywanie uzyskuje się przez dodanie rezydualów prognozowanych RF do wyjść BiLSTM. To hybrydowe podejście wykorzystuje zdolność modelowania sekwencji BiLSTM oraz siłę uczenia się zespołowego Random Forest, aby osiągnąć lepszą generalizację i wydajność predykcyjną.

Niech będzie sekwencją wejściową w kroku czasowym t.

Prognoza BiLSTM:

,

 

 

Obliczenia resztkowe:  

Uczenie rezydualne z wykorzystaniem lasu losowego: Niech Z⊂X będzie cechami wybranych z najwyższych k, biorąc pod uwagę ważność cech.

 

Ostateczna prognoza:

Rysunek 2: Architektura modelu pamięci długoterminowej krótkotrwałej lasu i dwukierunkowej pamięci. Schemat ilustrujący hybrydową architekturę RF-BiLSTM, pokazujący integrację przetwarzania cech Random Forest z dwukierunkowymi warstwami LSTM do uczenia sekwencji czasowej. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.

CNN-LSTM (Rysunek 3): Model hybrydowy CNN-LSTM rozpoczyna się od przetwarzania sekwencji wejściowej za pomocą warstwy 1D splotowej do wyodrębnienia lokalnych cech przestrzennych, po czym następuje aktywacja LeakyReLU, normalizacja wsadowa i maksymalna pula. Wyodrębnione cechy są następnie przekazywane przez stos trzech warstw LSTM w celu poznania zależności czasowych, a normalizacja warstw i dropout są stosowane po pierwszych dwóch LSTM do regularizacji. Ostateczne wyjście LSTM jest przekazywane przez w pełni połączone, gęste warstwy z aktywacją i przerwą, a ostatecznie mapowane na wyjście za pomocą pojedynczego neuronu.

Niech będzie ciągiem wejściowym, gdzie T to okno czasowe, a F to liczba cech.

Operacja CNN:  

Maksymalna pula:  

Komórka LSTM:  

 

Efekt:

Rysunek 3: Architektura modelu CNN-LSTM. Strukturalna reprezentacja hybrydowego modelu hybrydowego sieci neuronowej i długiej pamięci krótkotrwałej, demonstrująca ekstrakcję cech splotowych, po której następuje jednokierunkowe przetwarzanie sekwencji czasowej. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.

CNN-BiLSTM (Rysunek 4): Model hybrydowy CNN-BiLSTM najpierw wyodrębnia cechy przestrzenne za pomocą 1D warstwy splotowej z 32 filtrami, następnie następuje normalizacja wsadowa i maksymalna pula w celu zmniejszenia wymiarowości. Następnie wyjście jest przekazywane przez stos dwóch dwukierunkowych warstw LSTM, aby uchwycić długoterminowe zależności czasowe zarówno w kierunku do przodu, jak i do tyłu. Regularizacja jest stosowana poprzez dropout i normalizację wsadową. Gęsta warstwa z 128 neuronami udoskonala wyuczoną reprezentację, zanim ostateczna warstwa wyjściowa odwzoruje ją na pojedynczą przewidywaną wartość.

Operacja CNN:  

Maksymalna pula:

Dwukierunkowy LSTM: ,

 

Efekt:

Rysunek 4: Architektura modelu CNN-BiLSTM. Diagram architektury modelu Convolutional Neural Network-Bidirectional Long Short-Term Memory, podkreślający połączenie warstw splotowych z dwukierunkowym przetwarzaniem rekurencyjnym dla lepszego przechwytywania zależności czasowej. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.

CNN-GRU (Rysunek 5): Model hybrydowy CNN-GRU zaczyna się od warstwy Conv1D, używającej jądra o rozmiarze 1 do wyodrębniania cech przestrzennych z pojedynczego kroku czasowego. Maksymalna pula zmniejsza wymiary przestrzenne. Następnie następuje stos warstw GRU: pierwsza zwraca sekwencje do przechwytywania zależności czasowych, a druga podsumowuje sekwencję do zwartej reprezentacji. Końcowa warstwa gęsta generuje wartość przewidywaną. Regularizacja dropoutu jest stosowana pomiędzy warstwami GRU, aby zapobiec nadmiernemu dopasowaniu.

Operacja CNN:  

Maksymalna pula:  

Komórka GRU:

Efekt:

Rysunek 5: Architektura modelu CNN-GRU. Schemat hybrydowego modelu hybrydowego Convolutional Neural-Network-Gated Recurrent Unit, pokazujący konwolucyjne wstępne przetwarzanie zintegrowane z warstwami GRU dla efektywnego modelowania czasowego. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.

Transformator CNN (Rysunek 6) Model transformatora CNN zaczyna się od warstwy Conv1D do wyodrębnienia lokalnych cech z sekwencji wejściowej, po której następuje warstwa maksymalnej puli. Funkcje te są przekazywane przez blok enkodera transformatora, składający się z wielogłowowego mechanizmu samouwagi, normalizacji warstw oraz gęstej sieci feed-forward. Następnie stosuje się globalne ułożenie średniej przed ostateczną warstwą gęstą wygenerowaną prognozę. Ta architektura została zaprojektowana tak, aby przechwytywać zarówno wzorce przestrzenne (za pośrednictwem CNN), jak i globalne zależności (za pomocą uwagi transformera).

Operacja CNN:

Wielogłowa samouwaga:

Gdzie: Q, K, V = XW^Q, XW^K, XW^{V i} d_k to wymiar kluczy.

Sieć Feed Forward:

Warstwy Dodaj i Normuj:

Efekt:

Rysunek 6: Architektura modelu CNN-Transformer. Przegląd strukturalny hybrydowego modelu splotowej sieci neuronowej-transformatora, łączący ekstrakcję cech splotowych z mechanizmami uwagi wielogłowej dla zaawansowanego rozpoznawania wzorców czasowych. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.

Rozwój modelu zespołowego
Aby zwiększyć dokładność prognozowania i odporność modelu, wdrożyliśmy podejście zespołu ważonego średniego, wykorzystując prognozy z pięciu hybrydowych modeli głębokiego uczenia: RF-BiLSTM, CNN-LSTM, CNN-BiLSTM, CNN-GRU oraz CNN-Transformer. Zespół został skonstruowany poprzez przypisanie zoptymalizowanych wag do przewidywań każdego modelu, przy czym wyższe wagi przyznawano modelom wykazującym lepsze indywidualne wyniki, mierzone ich wynikami R². Ta strategia ważenia zapewnia, że dokładniejsze modele znacząco przyczyniają się do ostatecznej prognozy, jednocześnie wykorzystując komplementarne zalety wszystkich architektur. Następnie wynik zespołu został oceniony za pomocą standardowych wskaźników wydajności: R², średniego błędu bezwzględnego (MAE) oraz średniego błędu kwadratowego (MSE), aby ocenić jego dokładność predykcyjną, spójność i zdolność uogólnienia. Ten zespół głębokiego uczenia ma na celu integrację ekstrakcji cech czasowych z różnych perspektyw, osiągając tym samym większą dokładność i odporność niż jakikolwiek pojedynczy model hybrydowy w izolacji.

Matematyczne sformułowanie techniki zespołowej:

Niech

reprezentują zestaw modeli bazowych odpowiadających CNN-RF-BiLSTM, CNN-LSTM, CNN-BiLSTM, CNN-GRU oraz CNN-Transformer.

Każdy model bazowy M_i daje prognozę:

Macierz meta-cech dla układania składów powstaje jako:

Meta-uczący się regresji grzbietu szacuje ostateczną prognozę jako:

gdzie:

-- w_i są wyuczonymi wagami stosowania

-- w₀ to wyraz stronniczości

Aby uniknąć nadmiernego dopasowania, regresja grzbietowa minimalizuje następującą uregulowaną funkcję strat:

gdzie:

-- y_j = prawdziwy cel dla^j-tej próbki

-- N = całkowita liczba próbek

-- α = parametr regularizacji kontrolujący kurczenie się masy

Predykcja zespołowa uzyskuje się jako:

gdzie wagi w_i są automatycznie uczone przez minimalizację funkcji straty grzbietu.

Results

Ocena wydajności modelu indywidualnego
Ocena wydajności pięciu hybrydowych modeli głębokiego uczenia (DL) RF-BiLSTM, CNN-GRU, CNN-BiLSTM, CNN-LSTM oraz CNN-transformer została przeprowadzona przy użyciu kompleksowego zestawu standardowych metryk regresji, w tym R² (współczynnik determinacji), średniego błędu bezwzględnego (MAE) i średniego błędu kwadratowego (MSE), aby rygorystycznie ocenić ich zdolność do prognozowania wytwarzania energii słonecznej w różnych warunkach meteorologicznych i zależności ...

Discussion

Proponowana metodologia opiera się na uporządkowanym przepływie pracy, jak pokazano na Rysunku 12. Początkowo zbiór danych przechodzi kompleksowe wstępne przetwarzanie, w tym imputację wartości brakującej, normalizację oraz inżynierię cech, aby zapewnić jakość danych i poprawić uczenie się modelu ^3,6. Przetworzony zbiór danych jest następnie dzielony na zestawy treningowe (70%), walidację (15%) oraz testowe (15%), aby umożliwić solid...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
BiLSTM	TensorFlow/Keras	TensorFlow 2.10.0
Warstwy CNN	TensorFlow/Keras	TensorFlow 2.10.0
Google Colab	Google LLC	Platforma chmurowa
GRU	TensorFlow/Keras	TensorFlow 2.10.0
Matplotlib	Zespół deweloperski Matplotlib	3.7.1
NumPy	NumFOCUS	1.25.2
Karta graficzna NVIDIA T4	NVIDIA Corporation	Tesla T4
Pandy	NumFOCUS	2.0.3
Pyrheliometr do pomiaru DNI	Kipp & Zonen	CH1-DL
Python	Python Software Foundation	3.10.12
Losowy Las	Scikit-learn Developers	1.2.2
Scikit-learn	Scikit-learn Developers	1.2.2
Czujniki temperatury	Vaisala	HMP155
TensorFlow/Keras	Google	Wersja 2.10.0
Transformer	TensorFlow/Keras	TensorFlow 2.10.0
Stacja meteorologiczna	Davis Instruments	Vantage Pro2