하이브리드 딥러닝을 이용한 태양광 전력 예측: 랜덤 포레스트-BiLSTM 및 앙상블 모델링을 통한 성능 향상

Summary

이 연구는 포괄적인 데이터 분석과 오류 수정 방법론을 통해 집중 태양광 발전소 성능을 발전시킵니다. 스펙트럼 분석, 열 효율 최적화, 하이브리드 머신러닝 모델을 통합함으로써, 이 연구는 운영 효율성과 신뢰성을 향상시키기 위한 실행 가능한 전략을 제시하고, 태양광 에너지를 지속 가능한 에너지원으로서 지원합니다.

Abstract

정확한 태양광 에너지 예측은 그리드 통합과 재생 에너지 시스템의 운영 안정성에 매우 중요합니다. 본 연구는 복사 데이터에서 복잡한 시간적 의존성을 포착하여 태양 생성을 예측하기 위한 하이브리드 딥러닝 앙상블 접근법을 제시합니다. RF-BiLSTM, CNN-LSTM, CNN-Bilstm, cnn-gru, CNN-트랜스포머 등 다섯 가지 하이브리드 아키텍처가 평가되었으며, 각각 컨볼루션 또는 반복 요소를 결합하여 역사적 시계열에서 공간적 및 순차적 특징을 추출했습니다. RF-BiLSTM 모델은 R² = 0.6568, MAE = 30,728 W, MSE = 1.81 × 10⁹ W²로 최고의 개별 성능을 달성했습니다. 상위 세 아키텍처를 통합한 역MAE 가중 평균화를 사용한 앙상블 모델은 R² = 0.6933, MAE = 28,809.89 W, MSE = 1.53 × 10⁹ W²로 우수한 성능을 보여 개별 모델 대비 예측 오차를 6.2% 줄였습니다. 제안된 앙상블 프레임워크는 모델의 강점을 효과적으로 균형 있게 조정하고, 예측의 견고성을 높이며, 스마트 그리드 및 에너지 관리 시스템에서 재생에너지 예측을 위한 확장 가능하고 데이터 기반 솔루션을 제공합니다.

Introduction

재생 에너지로의 가속화된 글로벌 전환은 태양광 에너지를 지속 가능한 에너지 믹스에서 중추적 원천으로 자리매김하게 했습니다. 국가들이 에너지 시스템의 탈탄소화에 점점 더 전념함에 따라, 태양광 발전(PV) 기술은 확장성, 비용 감소, 환경적 이점 덕분에 기하급수적으로 성장하고 있습니다. 그러나 태양광 에너지가 국가 및 지역 전력망에 널리 통합되면서, 주로 간헐적이고 기상 의존적인 특성 때문에 상당한 도전 과제가 있습니다. 태양 복사량은 구름 덮개, 대기 조건, 계절 변화, 주간 주기 등 다양한 환경 요인에 의해 영향을 받으며, 이들은 모두 태양광 발전에 변동성과 불확실성을 초래합니다. 이러한 내재된 변동성은 그리드 밸런싱과 전력 시스템 계획 작업을 복잡하게 만듭니다. 운영자는 최적의 자원 배분을 위해 태양광 발전량을 정확히 예측하고, 화석 연료 기반 백업 시스템에 대한 의존도를 줄이며, 인프라의 과부하 또는 과활용을 방지하고, 전체 전력망의 안정성을 유지해야 합니다. 태양광 에너지 보급이 증가함에 따라 견고하고 신뢰할 수 있으며 정확한 예측 모델의 필요성은 더욱 시급해집니다. 정확한 단기 및 당일 태양광 예보는 에너지 시장 참여, 부하 배치, 배터리 스케줄링, 마이크로그리^{드 관리와} 같은 응용 분야에서 특히 중요합니다.

기상 데이터와 통계적 시계열 기법(예: ARIMA, 지수 평활화)을 기반으로 한 물리적 모델과 같은 전통적인 예측 방법들은 태양 발전의 비선형적이고 동적인 거동을 포착하는 데 종종 부족합니다. 이 모델들은 선형 가정, 수작업으로 만든 특징, 또는 상세한 기상 시뮬레이션에 의존하는 경향이 있어 태양 데이터의 변화하는 패턴에 대한 확장성과 적응성이 제한됩니다^. 반면, 딥러닝(DL) 모델은 시계열 예측에서 혁신적인 접근법으로 등장했습니다. 이러한 데이터 기반 방법들은 명시적인 특징 공학 없이도 원시 입력 데이터로부터 복잡한 특징과 시간적 의존성을 자동으로 학습할 수 있습니다 ^3,4.

가장 널리 사용되는 아키텍처 중에는 순환신경망(RNN)과 그 개선된 변형인 장단기 기억(LSTM), 게이트 재정상 단위(GRU) 네트워크가 있습니다. 이 모델들은 시계열 데이터 ^2,5,6에서 순차적 의존성과 장기 시간적 관계를 포착하도록 설계되었습니다. 한편, 합성곱 신경망(CNN)은 공간적 특징 추출에서 강력한 능력을 입증했으며, 특히 하이브리드 구성(^7,8)에서 1차원 컨볼루션을 통한 시간 데이터를 처리하는 데 적응되었습니다. CNN과 RNN과 같은 다양한 아키텍처의 강점을 결합한 하이브리드 DL 모델은 시계^{열 데이터에서} 국소 및 장기 의존성을 추출할 수 있어 태양 예보에서 주목받고 있습니다. 7^{, 8, 9}

예를 들어, CNN-LSTM 또는 CNN-BiLSTM 모델은 입력 시퀀스를 재순환 층에 입력하기 전에 전처리하고 필터링하기 위해 합성곱층을 적용하여 더 효율적이고^{정확한 학습을} 가능하게 ^합니다. 여러 연구에서 하이브리드 아키텍처가 독립형 모델보다 우수함을 입증했습니다. SSA-RNN-LSTM 하이브리드 모델을 사용한 연구는 여러 PV 기술에서 오류 지표를 유의미하게 감소시켰으며, 대체 하이브리드 접근법에 비해 RMSE가 15-23% 개선되었음을 보^{였습니다.} 마찬가지로, CNN-LSTM 아키텍처는 실제 태양광 데이터 적용 시 표준 머신러닝 접근법과 단일 딥러닝 모델을 여러 평가 지표에서 능가했습니다¹⁰. 분해 기반 하이브리드 방법의 효과도 입증되었으며, 웨이블릿 패킷 분해와 LSTM 네트워크를 결합한 결과, 1시간 앞 PV 전력 예측에서 개별 LSTM, RNN, GRU, MLP 모델보다 우수한 성능을 보^{였습니다.} 풍력 전력 예보에서는 합성곱 계층과 GRU 네트워크를 결합한 하이브리드 모델이 매우 단기 예측에서 주목할 만한 개선을 이루었으며, 여러 장소에서의 검증을 통해 그 견고성과 일반화 가능성을 확인했습니다^. 또한, 트랜스포머와 같은 주의 기반 메커니즘은 시간 단계에 걸쳐 관련 입력 구간에 선택적으로 집중함으로써 추가적인 가능성을 제공합니다. 최근 CNN-LSTM-트랜스포머 하이브리드에 대한 연구는 매우 낮은 오류율을 달성했으며, 이는 트랜스포머 네트워크를 태양광 에너지 예측을 위한 하이브리드 모델에 통합하려는 선구적인 노력을^{보여줍니다.}

하이브리드 모델의 성공은 아키텍처 결합을 넘어 전처리 기법과 실제 상황에 대한 특화된 적응까지 확장됩니다. 신호 분해 기법은 PV 발전의 다중 규모 특성을 포착하는 데 유용함이 입증되었으며, 시간 패턴의 더 나은 표현을 통해 예측 정확도를 향상시킵니다². 산업 규모의 태양광 발전소가 축소 조건에서 운영되는 경우, 특수 전처리를 포함한 향상된 LSTM 기반 접근법이 데이터 불일치를 해결하여 상당한 오류 감소를 달성했습니다¹². 입력 데이터 품질에 미치는 영향도 조사되었으며, 과거 기상 데이터와 예보된 기상 데이터를 사용할 때 상당한 성능 차이가 있음을 보여주었으며, 혁신적인 특징 공학 기법이 불완전한 입력 조건에서 정확도 손실을 완화하는 데 도움을 줍니다⁶. 머신러닝 접근법은 그리드 연결 시스템에서 효과성을 입증했으며, 정확한 예측을 통해 기존 스핀 예비 용량 의존도를 줄일 잠재력을 보여주었습니다¹³. 초기 기초 연구들은 인공 신경망이 다양한 태양에너지 응용에 적합하다는 것을 입증하며, 노이즈와 불완전한 데이터를 처리하고 학습 후 빠른 예측을 제공할 수 있음을 입증했습니다 ^3,4,14. 최적 예측 지평선과 최소 입력 접근법에 관한 연구는 데이터 부족 영역^{15, 16, 17}에서 시스템 설계 및 배포에 실질적인 지침을 제공했습니다. 메커니즘 모델링과 딥러닝을 결합한 하이브리드 방법도 복잡한 태양열 발전 응용에 가능성을 보여주었으며, 주요 기상 요인과 그 시공간적 관계를 정확히 식별할 수^{있습니다.} 비교 연구를 통해 특히 양방향 LSTM 네트워크와 같은 고급 반복 아키텍처의 장점이 입증되었으며, 이는 구^{름 날씨와} 같은 어려운 환경 조건에서 탁월한 성능을 보였습니다.

특히 가중 평균을 통한 앙상블 학습은 매력적인 해결책을 제공합니다. 상보 모델의 예측을 집계함으로써 앙상블 방법은 일반화 오차를 줄이고 견고성을 높이며 개별 모델의 약점을 완화할 수 있습니다. 본 연구는 태양광 전력 예측을 위한 RF-BiLSTM, CNN-LSTM, CNN-Bilstm, cnn-gru, CNN-트랜스포머 등 다섯 가지 고급 하이브리드 DL 모델의 성능을 조사합니다. 각 모델은 결정 계수(R²), 평균 절대 오차(MAE), 평균 제곱 오차(MSE) 등 엄격한 지표를 사용하여 평가됩니다. 성능 벤치마킹을 바탕으로 상위 세 모델을 선정하여 가중 평균화 기법을 사용해 최적화된 앙상블로 결합합니다. 목표는 일반화와 계산 가능성을 유지하면서 예측 정확도를 높이는 DL 전용 앙상블을 개발하는 것입니다. 이 연구는 그리드 운영자와 재생에너지 이해관계자들에게 실용적이고 고성능 예측 솔루션을 제공하는 것을 목표로 합니다.

재생에너지 예측 방법론의 상당한 발전에도 불구하고, 현재 지식 체계에는 몇 가지 중대한 한계가 여전히 존재합니다. 태양광 시스템이 상당한 연구 관심을 받고 있지만, 태양광 집중에 특화된 예측 응용 분야는 현저히 저평가되어 있어 열 효율 예측과 운영 최적화에 관한 질문이 대부분 해결되지 않은 채 있습니다^15,16. 현재의 예측 프레임워크는 일반적으로 센서 측정이 본질적으로 정확하다는 가정 하에 진행되며, 직접 정상 방사선 측정 계측에 대한 체계적 오류 수정 절차 구현을 간과하여 소급 분석과 전향 예측 모두에 신뢰성 문제를 야기합니다²⁰. 기존 접근법은 대기 조건 변화에 따른 태양 복사의 스펙트럼 특성을 조사하지 않고 주로 시간적 예측에 집중하고 있으며, 이는 스펙트럼 분포가 시스템 성능에 미치는 영향이 알려져 있음에도 불구하고¹⁷. 컨볼루션 네트워크와 반복 네트워크를 결합한 하이브리드 아키텍처는 태양광 및 풍력 응용 분야에서 효과적임이 입증되었지만, 이들의 집중형 태양열 시스템으로의 적응은 여전히 거의 탐구되지 않고 있으며, 특히 랜덤 포레스트 특징 처리와 양방향 반복 계층을 통합하는 구성은 ^7,10. 발표된 연구에서 시간별 예측 간격이 널리 사용되고 있음에도, 실시간 시스템 관리에 필수적인 빠른 열 반응 역학을 포착할 수 있는 더 높은 시간 해상도의 필요성을 간과하고 있습니다^18,19. 더불어, 데이터 품질 향상과 예측 모델링은 측정 정정이 예측 개선으로 어떻게 이어지는지를 보여주는 통합 프레임워크 없이 분리된 연구 영역으로 존재^합니다. 마지막으로, 훈련 시간, 추론 속도, 하드웨어 요구사항 등 계산 효율성 고려사항은 정확도 지표만으로는 충분한 주의를 기울이지 않아 실질적인 배포 지침²⁰에 제한이 있습니다.

본 연구는 집중 태양 발전 분석 및 열 최적화를 통합하고, 엄격한 센서 오류 정정 프로토콜을 구현하며, 스펙트럼 분포 검사를 수행하고, 열 전력 예측을 위한 무작위 숲-양방향 LSTM 아키텍처를 도입하고, 시간 단위 세분화를 위한 분별 예측을 실행하며, 데이터 정정 프로세스와 성능을 연결하는 포괄적인 방법론을 구축함으로써 이러한 결함을 해결합니다 표준화된 그래픽 처리 하드웨어를 사용하여 다섯 가지 하이브리드 아키텍처에 걸쳐 체계적인 계산 벤치마킹을 제공합니다. 기존 문헌에서 확인된 주요 연구 공백은 표 1에 요약되어 있습니다.

연구 격차	기존 문헌	무엇이 빠졌는지	이 연구는 다음을 다룹니다
제한된 CSP 특화 연구	광범위한 태양광 예측 연구15,16	CSP 열효율 데이터 정류법	열 최적화를 포함한 종합적인 CSP 데이터 분석
센서 오류 수정 불충분	연구들은 데이터 정확성을 가정합니다17	DNI 기기용 제로 오류 정정 프로토콜	정확한 평가를 위한 제로 오류 수정 구현
DNI 스펙트럼 분석의 부재	시간 예측에 집중하는것은 18입니다	대기 변동에 따른 스펙트럼 분포	구름/대기 영향 드러내는 스펙트럼 분석
CSP용 제한 하이브리드 모델	PV10은 CNN-LSTM, 풍력7은 CNN-GRU	CSP 응용 분야의 RF-BiLSTM	새로운 RF-BiLSTM 달성 R2 = 0.657
분별별 분석 부족	시간별 예측18, 19	열역학을 위한 고해상도	실시간 최적화를 위한 분단위 평가
통합 프레임워크 없음	별도의 예측 및 품질 연구20	정류와 성능 간의 연관성	통합 데이터-성과 개선 프레임워크
불충분한 계산 분석	정확도 비교20개뿐입니다.	훈련 효율성과 배치 타당성	5개 모델에 걸친 T4 GPU에 대한 계산 분석

표 1: 본 연구에서 해결된 연구 격차. 기존 연구 한계, 현재 문헌에서 누락된 요소, 그리고 CSP 예측 및 데이터 품질 평가에서 확인된 격차를 해소하는 데 있어 본 연구의 구체적 기여 요약.

Protocol

데이터셋 수집 및 설명
이 연구에 사용된 데이터셋(그림 1)은 태양광 발전 예측에 중요한 역사적 기록을 포함합니다. 이 데이터셋은 인도 안드라프라데시 주 아난타푸르 근처에 위치한 Megha Engineering and Infrastructures Limited(MEIL)가 운영하는 50MW 집중형 태양열 발전소의 일일 운영 데이터를 포함하며, 직접 정규 방사선(DNI)을 포착하고 열전달 유체(HTF)를 통해 열을 전달하여 전기를 생산하는 포물면 고리 집중 태양광 발전소(CSP) 기술을 사용합니다. 이 데이터셋은 2015년 1월 1일부터 2025년 10월 3일까지 수집되었으며, 시간 정보, 태양 복사 측정, 전력 생산량을 포착하는 7가지 핵심 속성을 포함하고 있습니다. 시간적 속성에는 표준 형식의 달력 날짜를 제공하는 '날짜', 데이터 수집 연도를 나타내는 '연도', 월 번호를 나타내는 '월', 월의 요일을 나타내는 '일', 연중 연속적인 시간 분석을 위한 연속적인 날짜 체계를 제공하는 '율리우스 데이'가 포함됩니다. 주요 기상 입력 변수는 kWh/m² 단위의 'DNI SUM'으로, 이는 집열기 표면당 제곱미터당 누적 태양 에너지인 총 직선 정상 방사(DNI)로, CSP 발전소 열 변환 효율에 영향을 미치는 중요한 요소입니다. 목표 변수인 '실제 발전량'은 kWh 단위로, CSP 발전소에서 생성된 전력 출력을 반영하며, 태양광에서 열에너지, 전기 에너지 변환 과정을 반영합니다. 이 특성들은 열효율 결정, DNI에서 전력 변환 모델링, 스펙트럼 분석을 통한 대기 및 구름 영향 식별, 센서 보정을 위한 제로 오차 수정 프로토콜 구현, 실시간 운영 계획 최적화와 전반적인 CSP 발전소 효율성 및 신뢰성 향상을 위한 첨단 하이브리드 머신러닝 예측 모델 개발 등 발전소 성능에 대한 포괄적인 분석을 가능하게 합니다. 공장 세부 정보는 다음 https://solarpaces.nrel.gov/project/megha-solar-plant 에서 확인할 수 있습니다.

그림 1: 데이터셋의 상위 다섯 행. 태양광 발전 데이터셋의 초기 항목을 보여주는 샘플 데이터로, 모델 학습 및 평가에 사용된 입력 특징과 대상 변수를 보여줍니다. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.

데이터 준비
이 연구는 2015년 1월 1일부터 2025년 3월 10일까지의 태양 발전 시계열 데이터를 활용합니다. 초기 해의 잠재적 데이터 품질 문제를 고려하고 최근 패턴에 집중하기 위해 2017년 1월 1일부터 기록이 필터링되었습니다. 예비 상관관계 분석을 통해 예측 가치가 거의 없음을 보인 시간별 열(날짜, 연도, 일)은 제거되었습니다. 누락된 값은 이동평균 기법을 사용하여 시간 연속성을 유지하면서 근본 패턴의 왜곡을 최소화하려 했습니다. 시간 의존성을 포착하기 위해 목표 변수(실제 발전량(kW/h))를 사용하여 세 가지 지연 특징이 생성되었습니다.

데이터셋 분할
균형 잡히고 대표성 있는 훈련, 검증, 테스트 코호트를 설정하기 위해, 전처리 데이터셋은 층별 표본추출 방법으로 분할되었습니다. 이 접근법은 데이터의 70%(2,091개 데이터)를 훈련용으로 할당하는 반면, 검증 및 테스트 세트는 각각 15%(세트당 448개 데이터)를 차지하도록 보장했습니다.

데이터 정규화
특징은 StandardScaler를 사용하여 표준화되었고, 목표 값은 신경망 안정성을 위해 MinMaxScaler를 통해 [0,1] 범위로 정규화되었습니다.

모델 훈련
태양광 발전 예측을 위해 다섯 가지 하이브리드 모델(랜덤 포레스트-BiLSTM, CNN-LSTM, CNN-Bilstm, cnn-gru, CNN-트랜스포머)이 구현되었습니다. 입력 데이터는 순차적 형식으로 재구성되었으며, 대부분의 모델에서 타임스텝 = 1이 적용되었으나, CNN-LSTM은 15스텝의 슬라이딩 윈도우를 사용했습니다. 학습, 검증, 테스트 세트는 시간 순서를 유지하면서 데이터 유출을 방지하면서도 확장되었습니다. 모든 모델은 32개의 배치 크기와 30개의 에포크로 학습됩니다.

랜덤 포레스트-BiLSTM(그림 2): 제안된 하이브리드 모델은 양방향 장기 단기 기억(BiLSTM) 네트워크와 랜덤 포레스트(RF) 회귀기를 결합하여 예측 정확도를 향상시킵니다. 먼저, BiLSTM 모델은 입력된 시계열 데이터를 기반으로 학습되어 시간적 패턴을 포착하고 초기 예측을 생성합니다. 이후 BiLSTM의 잔여 오차(실제 값과 예측값 간의 차이)를 계산합니다. 그 후 랜덤 포레스트 모델이 원래 입력 특징을 기반으로 학습되어 이 잔차를 학습하고 예측합니다. RF 모델의 성능을 향상시키기 위해 특징 중요도 점수를 기준으로 가장 중요한 6가지 특징이 선정됩니다. 마지막으로, 보정된 예측은 RF 예측 잔차를 BiLSTM 출력에 더하여 얻습니다. 이 하이브리드 접근법은 BiLSTM의 시퀀스 모델링 능력과 랜덤 포레스트의 앙상블 학습 강점을 활용하여 더 나은 일반화와 예측 성능을 달성합니다.

를 시간 단계 t에서의 입력 수열이라고 하자 .

BiLSTM 예측:

, 

 

 

잔차 계산: 

랜덤 포레스트를 이용한 잔여 학습: Z⊂X를 특징 중요도를 기준으로 선택한 상위 k개의 특징이라고 하자.

 

최종 예측: 

그림 2: 무작위 숲-양방향 장단기 기억 모델의 구조. RF-BiLSTM 하이브리드 아키텍처를 보여주는 도식도로, 랜덤 포레스트 특징 처리와 양방향 LSTM 계층의 시간 시퀀스 학습 통합을 보여줍니다. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.

CNN-LSTM (그림 3): CNN-LSTM 하이브리드 모델은 1차원 컨볼루션 레이어를 사용해 입력 시퀀스를 처리하여 국소 공간 특징을 추출하는 것으로 시작하며, 이후 LeakyReLU 활성화, 배치 정규화, 최대 풀링을 수행합니다. 추출된 특징들은 세 개의 LSTM 계층 스택을 거쳐 시간적 의존성을 학습하며, 첫 두 LSTM 이후에는 정규화를 위해 레이어 정규화와 드롭아웃이 적용됩니다. 최종 LSTM 출력은 활성화와 드롭아웃을 거치며 완전히 연결된 밀집층을 통과한 후 단일 뉴런을 통해 출력에 매핑됩니다.

입력 수열을 두고 T는 시간 창이고 F는 특징의 수라고 하 자.

CNN 운영: 

최대 풀링: 

LSTM 셀: 

 

결과물:  

그림 3: CNN-LSTM 모델의 아키텍처. 합성곱 신경망-장기 단기 기억 하이브리드 모델의 구조적 표현으로, 합성곱 특징 추출 후 단방향 시간 시퀀스 처리를 시연합니다. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.

CNN-BiLSTM (그림 4): CNN-BiLSTM 하이브리드 모델은 먼저 32개의 필터를 가진 1차원 합성곱층을 사용하여 공간적 특징을 추출하고, 이후 배치 정규화와 최대 풀링을 통해 차원을 줄입니다. 출력은 두 개의 양방향 LSTM 계층 스택을 거쳐 전방 및 후방 방향 모두에서 장기적인 시간적 의존성을 포착합니다. 정규화는 드롭아웃과 배치 정규화를 통해 적용됩니다. 128개의 뉴런이 있는 밀집된 층이 학습된 표현을 정제한 후 최종 출력 층이 단일 예측 값으로 매핑합니다.

CNN 운영: 

최대 풀링:

양방향 LSTM:  ,  

 

결과물:  

그림 4: CNN-BiLSTM 모델의 아키텍처. 합성곱 신경망-양방향 장기 단기 기억 모델의 아키텍처 다이어그램으로, 합성곱 층과 양방향 재발 처리의 결합을 통해 시간 의존성 포착을 강화한 점을 강조합니다. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.

CNN-GRU (그림 5): CNN-GRU 하이브리드 모델은 단일 타임스텝에서 공간적 특징을 추출하기 위해 커널 크기를 1인 Conv1D 계층에서 시작합니다. 최대 풀링은 공간 차원을 줄입니다. 그 다음으로 GRU 계층 스택이 이어지는데, 첫 번째는 시간적 의존성을 포착하는 서열을 반환하고, 두 번째는 서열을 압축된 표현으로 요약합니다. 최종 밀집층이 예측값을 출력합니다. 과적합을 방지하기 위해 GRU 층 사이에 드롭아웃 정규화가 적용됩니다.

CNN 운영: 

최대 풀링: 

GRU 셀:

결과물:

그림 5: CNN-GRU 모델의 아키텍처. 효율적인 시간 모델링을 위해 GRU 계층과 통합된 합성곱 전처리를 보여주는 합성곱 신경망-게이팅 재귀 단위 하이브리드 모델의 개략도. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.

CNN-트랜스포머 (그림 6) CNN-트랜스포머 모델은 입력 서열에서 국소 특징을 추출하는 Conv1D 계층으로 시작하며, 이어서 최대 풀링 계층이 이어집니다. 이 기능들은 다중 헤드 자기 주의 메커니즘, 계층 정규화, 피드 포워드 밀집 네트워크로 구성된 트랜스포머 인코더 블록을 통과합니다. 그 후 최종 밀집 계층이 예측을 출력하기 전에 전역 평균 풀링이 적용됩니다. 이 아키텍처는 공간 패턴(CNN을 통해)과 전역 의존성(트랜스포머 주의를 통해)을 모두 포착하도록 설계되었습니다.

CNN 운영:

다중 헤드 자기 주의:

여기서 Q, K, V = XW^Q, XW^K,^{XW V}, d_k는 키의 차원입니다.

피드 포워드 네트워크:

덧셈 및 정규 층:

결과물:

그림 6: CNN-트랜스포머 모델의 아키텍처. 복잡한 시간 패턴 인식을 위한 다중 헤드 주의 메커니즘과 합성곱 특징 추출을 통합한 합성곱 신경망-트랜스포머 하이브리드 모델의 구조적 개요. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.

앙상블 모델 개발
예측 정확도와 모델의 견고성을 높이기 위해, 우리는 RF-BiLSTM, CNN-LSTM, CNN-Bilstm, cnn-gru, CNN-Transformer라는 다섯 가지 하이브리드 딥러닝 모델의 예측을 활용한 가중 평균 앙상블 접근법을 구현했습니다. 이 앙상블은 각 모델의 예측에 최적화된 가중치를 할당하고, R² 점수로 측정한 우수한 개별 성능을 보이는 모델에게는 더 높은 가중치를 부여하여 구성되었습니다. 이 가중치 전략은 더 정확한 모델이 최종 예측에 더 크게 기여하면서도 모든 아키텍처의 상호 보완적인 강점을 활용할 수 있도록 보장합니다. 앙상블 출력은 표준 성능 지표인 R², 평균 절대 오차(MAE), 평균제곱 오차(MSE)를 사용하여 예측 정확도, 일관성 및 일반화 능력을 평가했습니다. 이 딥러닝 앙상블은 여러 관점에서 시간적 특징 추출을 통합하여, 단일 하이브리드 모델만을 단독으로 사용하는 것보다 더 높은 정확도와 견고성을 달성하는 것을 목표로 합니다.

앙상블 기법의 수학적 공식화:

다음과 같이

는 CNN-RF-BiSTM, CNN-LSTM, CNN-BiSTM, CNN-GRU, CNN-트랜스포머에 대응하는 기본 모델 집합을 나타냅니다.

각 기본 모델 M_{i 는} 다음과 같은 예측을 산출합니다:

스태킹을 위한 메타 특징 행렬은 다음과 같이 형성됩니다:

능선 회귀 메타 학습자는 최종 예측값을 다음과 같이 추정합니다:

여기서 다음과 같습니다:

--_나는 배운 스태킹 중추

-- w₀는 편향 항입니다

과적합을 피하기 위해 능선 회귀는 다음과 같은 정규화된 손실 함수를 최소화합니다:

여기서 다음과 같습니다:

-- y_j = j^번째 샘플의 진짜 표적(true target)

-- N = 총 샘플 수

-- α = 무게 수축을 제어하는 정규화 매개변수

앙상블 예측은 다음과 같이 얻어집니다:

여기서 가중치 w_i 는 능선 손실 함수를 최소화하여 자동으로 학습된다.

Results

개별 모델 성능 평가
RF-BiLSTM, CNN-GRU, CNN-Bilstm, cnn-lstm, CNN-트랜스포머 등 다섯 가지 하이브리드 딥러닝(DL) 모델의 성능 평가는 R²(결정 계수), 평균 절대 오차(MAE), 평균제곱 오차(MSE) 등 포괄적인 표준 회귀 지표 세트를 사용하여 다양한 기상 조건과 시간적 의존성에서 태양광 발전 예측 능력을 엄격히 평가하였습니다.

RF-BiLSTM 모델 성능:
평가된 아키텍처 중 RF-BiLSTM 모델은 뛰어난 성능을 보여주었으며, R² 점수 0.6568로 우수한 개별 모델로 자리매김했으며, 태양광 발전 분산의 약 65.68%가 모델로 설명될 수 있음을 나타냅니다. 이 모델은 30,728 W의 매우 낮은 MAE와 1.81 × 10⁹ W²의 MSE를 달성하여 절대 및 제곱 예측 오차를 효과적으로 최소화할 수 있음을 입증했습니다. RF-BiLSTM 모델의 새로움은 전통적인...

Discussion

제안된 방법론은 그림 12에 나타난 구조화된 워크플로우를 따릅니다. 초기에는 데이터 품질을 보장하고 모델 학습을 향상시키기 위해 누락값 치유, 정규화, 특징 공학 등 포괄적인 전처리가 이루어집니다 ^3,6. 처리된 데이터셋은 훈련(70%), 검증(15%), 테스트(15%)로 나뉘어 견고한 모델 개발과 성능 평가를 가능하게 합니다 ^2,9. 이후 RF-BiLSTM, CNN-LSTM, CNN-Bilstm, cnn-gru, CNN-Transformer 등 다섯 가지 하이브리드 딥러닝 모델이 검증 세트를 사용하여 독립적으로 학습 및 평가됩니다. 개별 성능을 바탕으로 가중 평균화 앙상블을 구성하며, R² 점수가 높은 모델에 더 큰 가중치를 부여하여 예측 강도를 강조합니다. 최종 앙...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
BiLSTM	텐서플로우/케라스	텐서플로우 2.10.0
CNN 계층	텐서플로우/케라스	텐서플로우 2.10.0
구글 콜랩	구글 LLC	클라우드 플랫폼
으르	텐서플로우/케라스	텐서플로우 2.10.0
매트플롯립	Matplotlib 개발 팀	3.7.1
넘버피	넘버포커스	1.25.2
NVIDIA T4 GPU	엔비디아 코퍼레이션	테슬라 T4
판다	넘버포커스	2.0.3
DNI 측정용 피르렐리오미터	킵 & 조넨	CH1-DL
파이썬	파이썬 소프트웨어 재단	3.10.12
랜덤 포레스트	Scikit-learn 개발자들	1.2.2
Scikit-learn	Scikit-learn 개발자들	1.2.2
온도 센서	바이살라	HMP155
텐서플로우/케라스	구글	버전 2.10.0
트랜스포머	텐서플로우/케라스	텐서플로우 2.10.0
기상 관측소	데이비스 인스트루먼트	밴티지 프로2