UiPath를 통해 스크랩된 데이터와 함께 Transformer 딥 러닝 모델을 사용한 금 선물 가격 예측

요약

이 연구는 2014년부터 2024년까지의 과거 데이터를 사용하여 금 가격을 정확하게 예측할 수 있는 트랜스포머 딥러닝 모델을 개발합니다. 93%의 정확도를 달성한 이 모델은 복잡한 추세와 종속성을 포착하여 기존 방법보다 성능이 뛰어납니다. 이는 투자자와 정책 입안자의 의사 결정을 돕고 감정 분석과 글로벌 요인을 사용하여 향후 개선 사항을 제안합니다.

초록

금은 전 세계, 특히 인도에서 가장 가치 있고 널리 거래되는 상품 중 하나이며 경제 및 금융 시장에서 중요한 역할을 합니다. 역사적으로 금은 국제 무역과 경제 안정의 초석이었으며 중앙은행은 인플레이션과 외채를 관리하기 위해 준비금을 유지해 왔습니다. 금 가격은 시장 동향과 투자 전략에 영향을 미치는 핵심 경제 지표 역할을 합니다. 그러나 금리, 경기 침체, 유가 변동, 지정학적 사건 등 다양한 요인의 영향을 받는 금융 시장의 복잡하고 비선형적인 특성으로 인해 금 가격을 정확하게 예측하는 것은 어렵습니다. 연구 트랜스포머 모델은 UiPath를 사용하여 웹 스크래핑을 통해 investing.com 에서 수집된 일일 금 가격을 예측하는 데 사용되었습니다. 데이터의 무결성을 보존하고 모델 성능을 향상시키기 위한 RPA(Robotic Process Automation) 플랫폼으로, 누락된 데이터 처리 및 MinMax 스케일링과 같은 전처리 작업이 수행되었습니다. 이 모델은 주요 성능 지표에 대해 테스트 및 훈련되었으며 높은 예측 정확도로 MSE(Mean Squared Error) 0.0224, RMSE(Root Mean Squared Error) 0.1496, R-제곱 0.93을 달성했습니다. 연구 결과는 트랜스포머 모델이 단기 가격 변동과 장기 시장 동향을 효율적으로 감지하여 기존 예측 방법보다 더 정확하고 신뢰할 수 있는 방법을 제공한다는 것을 확인시켜 줍니다. 이 연구는 투자자, 재무 분석가 및 정책 입안자가 금괴 시장에서 정보에 입각한 결정을 내리는 데 귀중한 지침을 제공합니다. 향후 연구는 잠재적으로 시장 움직임에 대한 보다 풍부한 통찰력을 제공할 수 있는 뉴스 헤드라인 및 소셜 미디어의 감정과 같은 대체 데이터 소스를 포함함으로써 개선될 수 있습니다.

서론

금은 금융 시장에서 가장 중요한 상품 중 하나이며 중요한 경제 자원이자 가격 통제 도구입니다. 금은 많은 국가에서 중앙은행 준비금의 상당 부분을 차지합니다¹. 최근 금은 인플레이션 헤지 수단으로 더 잘 알려져 있습니다². 이는 주요 헤징 자산이며 비대칭, 극단 및 점프를 설명하는 일반화된 자동 회귀 조건부 이분산성 - 혼합 데이터 샘플링(GARCH-MIDAS) 모델을 사용하여 변동성 예측이 개선됩니다³. 인도와 중국은 전 세계 수요의 약 60%를 차지하는 최대 금 수입국이자 소비국입니다. 시장 역학과 원자재 관계에 따른 금 가격의 지속적인 상승으로 인해 금은 미래 수익을 위한 선호 투자로 자리매김했습니다⁴. 인도에서는 실물 금 보유량이 상당하며 가계에서는 금을 문화재이자 재정적 보호 장치로 취급하는 경우가 많습니다. 실물 금에 대한 수요는 시장 동향에 직접적인 영향을 미치며, 금 가격 예측과 관련성을 고려해야 할 필요성을 강조합니다 ^5,6. 투자자들은 가장 낮은 위험으로 가장 높은 수익을 제공하는 투자 기회를 끊임없이 찾고 있습니다. 이와 관련하여 금은 경제적 불확실성 동안 재정적 안정을 제공하는 안전 자산 역할을 합니다. 인도의 최고의 투자 대안 중에는 주식, 은행, 예금, 보험, 금 우편 저축, 기타 저축 및 투자 옵션이 있습니다⁷. 안정성을 감안할 때 금은 다양한 투자 옵션 중에서 최고의 대체 투자 옵션이자 인플레이션 및 금융 위험으로부터 보호하는 귀중한 자산으로 널리 알려져 있습니다^1,8. 금 가격 결정은 금 수요, 공급, 인플레이션, 환율 등의 요인의 영향을 받습니다. 놀라운 발견은 달러 평가절상이 투기적 투자로 인한 금 가격 상승과 상관관계가 있음을 나타냅니다⁹. 금 가격은 변동성이 크고 예측할 수 없으며 비선형적이고 통제할 수 없는 가격 움직임으로 인해 예측하기 어렵습니다¹⁰. 따라서 정확한 금 가격 예측은 투자자, 포트폴리오 관리자 및 정책 입안자에게 매우 중요하며, 향상된 예측은 상당한 수익 기회로 이어질 수 있습니다¹¹. 20년 전보다 4배 더 높은 현재 금 가격 추세와 금을 유지하려는 열망은 투자자들이 관련 자산에 투자하도록 유도합니다¹². 따라서 금에 투자하기 전에 모든 투자자는 금의 가격에 영향을 미치는 주요 요인을 이해해야 합니다¹³. 금융 산업에서는 금 가격의 방향을 예측하는 능력이 필수적이며, 성과 예측의 사소한 발전조차도 이익을 얻을 수 있으며, 돈은 삶을 영위하는 데 필수적이며, 건전한 재무 예측은 경제 확장을 뒷받침할 것입니다¹⁴.

그림 1 은 2014년부터 2024년까지 인도의 금 가격 추세와 달러 지수, 연방기금 금리, 소비자물가지수(CPI), 환율, 유가 및 S&P500과 같은 글로벌 요인에 따라 금 가격이 점점 더 많이 기반해지고 있음을 살펴봅니다¹⁵. 다른 요인으로는 경기 사이클, 명목 이자율, 원자재 가격, 환율 및 주가 등이 있습니다¹⁶. 이는 특히 최근 몇 년 동안 상당한 가격 변동, 시장 변동성, 금 가격의 지속적인 상승 기간을 강조합니다. 2014년과 2018년 사이에는 가격 변동성이 거의 없었지만 2019년에는 더 많은 가격 변동과 함께 강력한 상승 추세가 관찰되었습니다. 안전자산으로서의 금의 입지는 인플레이션과 경제 격변에 대한 우려로 인해 2020년에 상당한 상승으로 강화되었습니다. 종가는 시가를 밀접하게 따르지만 특히 2020년 이후에는 고가와 저가 사이의 격차가 더 커지면서 변동성이 더 커집니다. 가격은 2023-2024년 기간 동안 꾸준히 상승하여 사상 최고치를 기록했습니다. 이 차트는 금이 시간이 지남에 따라 어떻게 평가되었는지를 보여주므로 분석가와 투자자에게 유용한 자산이 됩니다.

정확한 금 가격 예측은 정보에 입각한 의사 결정에 필수적이지만 경제 및 지정학적 상황과 같은 복잡한 요인으로 인해 어렵습니다¹⁷. ARIMA(Autoregressive Integrated Moving Average)와 같은 기존 모델은 이러한 복잡성을 포착하는 데 어려움을 겪는 경우가 많아 예측 정확도가 제한됩니다^18,19. 이러한 한계를 극복하기 위해 최근 기계 학습 및 딥 러닝의 발전으로 재무 예측 정확도가 크게 향상되었습니다. 실험 결과 LSTM(Long Short-Term Memory) 네트워크와 같은 딥러닝 모델은 금 가격의 순차적 관계와 추세를 포착함으로써 기존 통계 모델보다 훨씬 더 나은 성능을 발휘하는 것으로 나타났습니다²⁰. 하이브리드 예측 모델은 빅 데이터 계산 및 경제학에서 금 가격을 예측할 때 주요 고려 사항입니다²¹. 그럼에도 불구하고 성능에 관계없이 LSTM(Long Short-Term Memory) 및 GRU(Gated Recurrent Unit)와 같은 반복 모델은 사라지는 기울기 문제, 높은 계산 복잡성 및 장거리 관계를 캡처할 수 없는 것과 같은 자연적인 한계를 가지고 있어 대규모 금융 시계열 데이터 처리 효율성에 영향을 미칠 수 있습니다.

이러한 결함을 해소하고 예측의 정확도를 더욱 향상시키기 위해 변환기 모델은 이제 시계열 예측에서 매력적인 선택이며, LSTM 네트워크에 비해 변환기는 자체 주의 메커니즘을 활용하여 재무 데이터 및 병렬 처리에서 장기 패턴과 단기 진동을 효과적으로 감지하여 확장성을 향상시킵니다. 트랜스포머는 금융 시장 예측의 효율성을 고려할 때 금 가격 예측 정확도를 향상시킬 수 있는 상당한 잠재력을 가지고 있습니다. 본 연구는 과거 금 가격과 주요 경제 데이터를 활용하여 금 예측을 위한 트랜스포머 모델을 개발하여 금 예측에 대한 보다 강력한 접근 방식을 제공하는 것을 목표로 합니다.

이전 연구에서는 신경망, 알고리즘, 기계 학습, 딥 러닝 및 인공 지능과 같은 여러 기술을 사용하여 금 가격을 예측했습니다. 금 가격 예측과 관련된 일부 연구는 다음과 같습니다.

가우스 과정 회귀(GPR)는 철강, 구리 및 귀금속에 적용되어 고차원 금융 데이터를 처리하고 베이지안 방법을 통해 모델을 최적화하여 금 가격을 보다 정확하게 예측하는 효율성을 강조하는 금속 가격 예측을 위한 강력한 도구로 부상했습니다. 이 연구는 금, 은 및 백금의 변동성을 예측하기 위해 RCK(Random Convolutional Kernels) 기반 신경망과 GARCH(Generalized Autoregressive Conditional Heteroskedasticity)를 결합한 새로운 하이브리드 모델을 제시합니다. 제안된 방법의 정확도는 GARCH-LSTM 모델²³보다 53% 더 높습니다. 이 연구는 ARIMA와 Holt-Winters 모델을 사용하여 소비자 물가 지수(CPI)를 고려하여 인도와 미국의 미래 금 가격과 인플레이션율을 예측했습니다. 금은 인도와 미국 투자자 모두에게 인플레이션에 대한 좋은 헤지 수단입니다²⁴. 이 연구는 딥러닝과 머신러닝 모델을 비교하여 비트코인과 금, 석유, 미국 달러 지수(DXY) 및 금리와 같은 글로벌 요인과의 관계를 분석합니다. TFT(Temporal Fusion Transformer)는 글로벌 이벤트 및 규제 속에서 금과 DXY를 주요 영향력 요인으로 강조하여 다른 제품보다 성능이 뛰어납니다²⁵. 또한, 본 연구는 인플레이션율, 금리, 원유 가격, 미국 달러 지수 등 금 선물 가격에 영향을 미치는 요인을 전통적인 시계열 모델(ARIMA GARCH, ARDL), 하이브리드 모델(MS-MIDAS-CJ, VMD-ICSS-BiGRU) 및 딥러닝 방법(SGRU-AM) DBN)²⁶의 세 가지 주요 예측 방법을 사용하여 체계적으로 검토합니다. 트랜스포머 아키텍처는 장거리 종속성을 효과적으로 캡처하고 기존의 반복 신경망(RNN) 기반 모델을 능가함으로써 장기 시계열 예측에서 강력한 잠재력을 가지고 있습니다²⁷. 이 연구는 금 가격과 주식 시장, 원유, 환율, 인플레이션 및 금리와 같은 주요 결정 요인 사이의 관계를 조사했습니다. 기계 학습 알고리즘을 활용하여 금 가격을 예측할 때 기울기 부스팅 회귀가 랜덤 포레스트 회귀보다 더 정확하다는 것을 발견합니다¹⁴. 이 연구는 ARDL(Autoregressive Distribution Lag) 모델을 사용하여 국채 금리, 금 수요 및 지연된 금 가격을 공변량으로 사용하여 연간 금 가격을 예측했습니다²⁸. 금 가격 예측을 위해 제안된 컨볼루션 신경망-장단기 기억(CNN-LSTM) 모델은 MAE 및 RMSE 값이 낮은 기존 방법에 비해 우수한 성능을 보여줍니다. 컨볼루션 레이어를 LSTM 아키텍처에 통합하면 데이터에서 단기 패턴과 장기 종속성을 모두 캡처하는 능력이 더욱 향상됩니다²⁹.

미래 금 가격은 91.67^%의 정확도로 ELM(Extreme Learning Machine) 모델을 사용하여 금 가격, 은 가격, 원유 가격, 표준 및 푸어스 500 주가지수(S&P500) 지수 및 환율의 과거 데이터 등 4가지 상품에서 예측됩니다4. 다층 퍼셉트론(MLP) 신경망 모델을 사용하여 테헤란 증권거래소(TSE)의 데이터를 기반으로 주가 변동과 금 가격을 예측했습니다. 결과는 인공 신경망이 예측 정확도 측면에서 기존 예측 모델을 능가한다는 것을 나타냅니다³⁰. 이 연구는 LSTM을 선형 회귀 모델과 비교한 결과 선형 회귀 분석이 금 가격의 일일 변동을 예측하는 데 있어 53.02%의 약간 더 높은 정확도를 달성했음을 발견했습니다. 이는 더 간단한 모델이라도 금 가격 변동을 예측하는 데 효과적일 수 있음을 시사하며, 금 가격과 더 넓은 경제적 요인 사이의 관계를 이해하는 것이 중요하다는 점을 강조합니다³¹. 금 가격 예측을 위한 웨이블릿 신경망(WNN) 모델링 연구 실험 결과는 향상된 ABC(Artificial Bee Colony) 알고리즘이 웨이블릿 신경망을 활용한 금 가격 예측에서 기존 ABC 접근 방식을 능가하는 것으로 나타났습니다³².

금 및 금융 시장 예측을 위해 몇 가지 고급 예측 모델이 제안되었습니다. 연구 중 하나는 과거 금 가격을 입력으로 하는 ANFIS(Adaptive Neuro-Fuzzy Inference System)를 사용하여 금 가격 예측 모델을 개발했습니다. 이 모델은 RMSE 측면에서 ARIMA 및 CNN 모델을 능가하는 익일 금 가격을 정확하게 예측했습니다. 또한 상당히 높은 투자 수익을 제공함으로써 매수 및 보유 전략의 성과를 모두 능가했으며, 이는 금 가격 예측에 대한 강력한 잠재력을 보여줍니다³³. 또 다른 연구에서는 ELM을 퍼지 추론 시스템(FIS)과 통합하고 CQCSA(Chaotic Quantum Crisscross Search Algorithm) 최적화 기술을 사용했습니다. 이 하이브리드 모델은 금과 유가를 예측하는 데 탁월한 성능을 보여줍니다³⁴. 코로나19 기간 동안 금융 시장 예측에 다양한 기계 학습 모델을 사용한 연구에서는 바닐라 스택형 LSTM이 시계열 예측에서 다른 접근 방식을 능가했습니다. 연구 결과는 단기 시장 예측을 위해 과거 재무 데이터와 함께 비경제적 변수를 통합하는 것이 중요하다는 점을 강조했습니다³⁵. 이 연구는 금과 은 주가 변동을 예측하기 위한 앙상블 모델을 탐색했습니다. 이러한 접근 방식은 금의 경우 85%, 은의 경우 79%의 주목할만한 정확도를 달성하여 복잡한 시장 역학을 포착할 수 있는 능력을 나타냅니다³⁶. 금 가격 예측을 위한 딥 러닝 아키텍처에 초점을 맞춘 또 다른 연구에서 BiLSTM(Bidirectional Long Short-Term Memory) 모델은 더 높은 R², 더 낮은 MAE 및 RMSE 값을 달성하여 표준 LSTM을 능가했습니다. BiLSTM은 정규화된 과거 데이터에서 시간적 패턴을 효과적으로 캡처함으로써 재무 예측의 정확성을 향상시킬 수 있는 잠재력을 입증했습니다³⁷.

금 가격에 대한 정확한 예측은 금융 시장의 변동성, 비선형적, 다요인적 특성으로 인해 투자자, 분석가 및 정책 입안자에게 오랫동안 중요한 과제를 안겨 왔습니다¹⁰. ARIMA 및 회귀 기반 접근 방식과 같은 전통적인 통계 모델은 특히 거시경제 지표, 지정학적 긴장 및 글로벌 금융 변화의 영향 하에서 금 가격 변동에 내재된 복잡하고 역동적인 관계를 포착하는 데 한계가 있는 것으로 나타났습니다¹⁹. ARIMA 및 유사한 모델은 단기 선형 예측에 유용하지만 비선형성, 구조적 단절 및 장기 종속성을 포착하는 기능이 부족합니다^18,38. LSTM 및 GRU와 같은 딥 러닝 모델은 순차적 패턴을 학습하여 예측 성능을 향상시켰지만²⁰. 이러한 모델은 여전히 사라지는 기울기 및 시계열 데이터에서 장기 종속성을 모델링하는 데 어려움이 있는 것과 같은 본질적인 한계를 겪고 있습니다²⁹. 또한 하이브리드 및 앙상블 모델이 탐구되었지만 대규모 금융 데이터 세트에서 확장성과 계산 효율성에 어려움을 겪는 경우가 많습니다²³. 인플레이션과 경제적 불확실성에 대한 헤지 수단으로 점점 더 많이 사용되는 금, 특히 인도와 같은 국가에서는 상당한 문화적, 재정적 중요성을 지니고 있으며, 강력하고 정확도가 높은 예측 모델에 대한 수요가 가장 중요해졌습니다². 딥 러닝의 최근 혁신, 특히 자기 주의 메커니즘으로 알려진 트랜스포머 아키텍처는 금융 영역 전반에 걸쳐 시계열 예측 작업에서 유망한 결과를 보여주었습니다¹⁷. 그러나 기존 문헌에는 다양한 경제 지표가 풍부한 장기 과거 데이터 세트를 사용하여 금 가격 예측을 위한 트랜스포머 모델에 대한 포괄적인 조사가 부족합니다. 대부분의 이전 연구는 단기 예측에 초점을 맞추거나 제한된 데이터 입력을 사용하여 단기 및 장기 시장 동향을 모두 포착하는 데 있어 트랜스포머 모델의 잠재력을 최대한 무시했습니다³¹.

따라서 본 연구는 UiPath를 사용하여 자동화되고 재현 가능한 웹 스크래핑 방법을 통해 수집된 10년 분량의 과거 금 가격 데이터(2014-2024)를 기반으로 학습된 트랜스포머 딥러닝 모델을 제안하고 평가함으로써 중요한 연구 격차를 해소합니다. 이 모델은 LSTM, CNN-LSTM 및 회귀와 같은 기존 모델보다 예측 정확도를 향상시키는 것을 목표로 합니다. 이는 투자자와 정책 입안자가 시장 불확실성 하에서 정보에 입각한 결정을 내릴 수 있는 신뢰할 수 있는 도구를 제공합니다²².

금 가격의 멈출 수 없는 상승은 투자자, 재무 분석가 및 정책 입안자에게 그 어느 때보다 중요한 예측의 필요성을 높였습니다. 금은 안전 자산으로 널리 평가되며 특히 경제적, 문화적 중요성을 지닌 인도와 같은 국가에서 투자 전략에서 핵심적인 역할을 합니다. 점점 더 변동성이 커지는 시장과 글로벌 불확실성 환경에서 신뢰할 수 있는 예측은 수익 극대화, 위험 관리 및 건전한 재무 결정을 내리는 데 매우 중요합니다. 이 연구는 오늘날 금융 시장의 복잡성에 부합하는 정확하고 효과적인 금 가격 예측 모델을 개발하기 위해 고안되었습니다.

프로토콜

이 연구의 방법론은 금 가격 예측을 위한 트랜스포머 모델을 개발하기 위해 고안된 체계적인 프로세스입니다. 데이터 수집은 과거 금 가격 데이터와 관련 재무 지표를 수집하여 포괄적인 데이터 세트를 구성하는 초기 단계입니다. 데이터 세트는 데이터 전처리, 모델 개발, 평가, 성능 지표 및 마지막으로 금 가격 예측을 거치며 다음 섹션에서 자세한 설명을 제공합니다.

데이터 수집 및 신뢰성:
이 연구의 과거 금 가격 데이터는 UiPath RPA(Robotic Process Automation) 플랫폼에서 개발된 자동화된 프로세스를 사용하여 수집되었습니다. 데이터 세트는 구조화되고 정확한 상품 및 시장 데이터로 잘 알려진 널리 활용되고 평판이 좋은 금융 플랫폼 Investing.com 에서 얻었습니다³⁹. 여기에는 2014년 1월 1일부터 2024년 12월 31일까지의 기간을 포괄하는 날짜, 시가, 고가, 저가, 종가, 거래량 및 백분율 변화에 대한 일일 값이 포함되었습니다(보충 표 1). 자동화는 관련 과거 데이터 페이지로 이동하여 정의된 날짜 범위를 지정하고 데이터 세트를 Excel로 내보내도록 프로그래밍되었습니다. 안정성과 실행 속도를 향상시키기 위해 프로세스는 달력 선택기 인터페이스를 피하고 웹 페이지 변형을 수용하기 위해 유효성 검사 루틴, 시간 지연 및 조건부 검사를 통합했습니다. 이 접근 방식을 통해 수동 개입 없이 효율적이고 반복 가능하며 정확한 데이터 추출이 가능했습니다.

데이터 무결성과 신뢰성을 보장하기 위해 UiPath의 요소 존재, 조건부 검사, 동적 페이지 로드 제어를 위한 지연과 같은 여러 유효성 검사 단계가 포함되어 데이터 무결성과 신뢰성을 보장했습니다. 외부 소스의 웹 스크래핑은 대규모 데이터 세트를 효율적으로 획득하는 데 유용한 방법이 될 수 있습니다. 그러나 일관되지 않은 데이터 형식, 웹페이지 구조의 변경 또는 시간 경과에 따른 데이터 가용성의 변화와 같은 문제가 발생할 수도 있습니다. 스크래핑 도구에는 오류 처리 절차가 있으며 이러한 위험을 줄이기 위해 주기적인 신뢰성 테스트를 거쳤습니다. 정확성을 확인하기 위해 검색된 데이터는 Yahoo Finance와 같은 다른 소스의 정보와 무작위로 교차 확인되었습니다. 전처리 중에 순방향 채우기 및 보간을 사용하여 비거래일 및 누락된 레코드를 관리했습니다. 이 방법은 딥 러닝 모델에 적합한 신뢰할 수 있는 데이터 세트를 생성하는 강력하면서도 효과적인 방법을 제공합니다.

데이터 전처리:
본 연구에서는 금 가격 데이터 세트를 먼저 pandas DataFrame에 로드하여 분석을 위한 표 형식 데이터 세트를 생성하고 info, describe 및 unique와 같은 방법을 사용하여 데이터 유형, 통계 분포 및 각 열의 고유 값 수를 평가했습니다. 그런 다음 데이터 세트는 인덱스를 기준으로 오름차순으로 정렬되어 시계열 분석을 위한 시간순 배열을 보장했습니다. dropna를 사용하여 누락된 값을 식별하고 제거했으며 중복 방법을 사용하여 중복 항목을 감지한 후 데이터 무결성을 유지하기 위해 drop_duplicates로 제거했습니다. 열 이름은 Price to Close, Volume to Volume, Change % to Change와 같은 변수의 이름을 변경하여 일관성을 위해 표준화되었으므로 추가 분석에서 명확성을 용이하게 했습니다. 이러한 단계를 통해 데이터 세트는 정확하고 신뢰할 수 있는 후속 모델링 및 해석을 지원하기 위해 정리, 구조화 및 준비되었습니다.

모델 개발:
트랜스포머 모델은 효율적인 시퀀스 모델링을 가능하게 하는 반복이나 컨볼루션이 아닌 자기 주의 메커니즘에 의존합니다. 금 가격 예측과 같은 시계열 예측의 맥락에서 이 아키텍처는 장기 종속성을 효과적으로 포착할 수 있습니다.⁴⁰. 따라서 그림 2 의 트랜스포머 모델은 고급 딥러닝 기술을 활용하여 과거 가격 추세를 분석하여 금 가격 예측에 사용됩니다. 데이터 전처리 후 입력 데이터는 먼저 임베딩 레이어를 통과하여 수치 특징을 조밀한 벡터 표현으로 변환하여 데이터를 분석에 더 의미 있게 만듭니다. 위치 인코딩은 시간 정보를 유지하기 위해 적용됩니다. 각 인코더 블록에는 4개의 어텐션 헤드와 피드 포워드 신경망이 있는 다중 헤드 어텐션 메커니즘이 포함되어 있습니다. 각 주의 헤드는 확장된 내적 주의를 사용하여 관련 과거 데이터 포인트에 집중합니다. 이 모델에는 4 개의 인코더 레이어가 있으며, 각 레이어의 피드 포워드 내부 레이어 크기는 512이고 차원 (d_model) 은 128입니다. 각 하위 계층 뒤에는 과적합을 방지하기 위해 0.1의 비율로 드롭아웃 정규화가 이어집니다. 잔여 연결 및 레이어 정규화를 지속적으로 사용하면 훈련이 안정화되고 수렴이 향상됩니다. 모델의 핵심 구성 요소는 모든 과거 값을 동등하게 취급하는 대신 가장 관련성이 높은 과거 데이터 포인트를 식별하고 우선 순위를 지정하는 주의 메커니즘입니다. 이를 통해 모델은 금 가격 변동의 중요한 패턴과 종속성을 포착할 수 있습니다. 그런 다음 처리된 정보는 신경망 계층을 통해 전달되어 패턴과 관계를 더욱 구체화하여 예측 정확도를 향상시킵니다. 또한 이 모델은 여러 개의 스택 변압기 레이어를 통합하여 복잡한 추세를 학습하고 예측 성능을 향상시키는 능력을 강화합니다. 마지막으로 모델 정확도는 MSE(Mean Squared Error), RMSE(Root Mean Squared Error) 및 R-squared(R²)와 같은 성능 메트릭을 사용하여 평가됩니다. 이 트랜스포머 접근 방식은 금융 시계열 데이터의 단기 및 장기 종속성을 모두 효율적으로 포착하여 정확한 금 가격 예측에 매우 효과적입니다.

입력 기능을 정규화하기 위해 다음 방정식과 같이 최소-최대 스케일링이 적용되었습니다.

x를 기능 값, x_min 및 x_max 를 기능⁴¹의 최소값과 최대값으로 합시다.

x: 원래 가치(오늘의 금 가격).
x_min, x_min: 해당 기능의 학습 기간의 최소값과 최대값입니다.
[ᅡ, ᄂ]; 대상 범위(일반적으로 [0, 1], 때로는 [-1, 1]).

트랜스포머 인코더의 핵심은 다음과 같이 정의되는 스케일링된 내적주의 메커니즘⁽⁴⁰ )이다:

평균 제곱 오차(MSE)
모델은 예측값과 실제 값 사이의 평균 제곱 오차(MSE)를 최소화하도록 훈련되었습니다⁴².

MSE =

평균 제곱근 오차(RMSE)
성능은 다음과 같이 계산된 RMSE(Root Mean Square Error)⁴³을 사용하여 평가되었습니다.

RMSE =

교육 및 검증
데이터 세트는 훈련에 80%, 테스트에 10%, 검증에 10%가 할당되는 세 개의 하위 집합으로 분할됩니다. 이 모델은 배치 크기가 64이고 학습률이 0.001인 Adam 옵티마이저⁽⁴⁴ )를 사용하여 최적화됩니다. 과적합을 방지하기 위해 훈련은 검증 손실에 따라 조기 중단과 함께 50 에포크 이상 수행됩니다. 평균 제곱 오차(MSE)는 손실 함수 역할을 합니다. 대상 출력은 t+30의 값이며 시퀀스 입력은 30일 전환 확인 기간(L = 30)으로 생성됩니다. 필요한 경우 일정한 시퀀스 길이를 유지하기 위해 패딩 및 마스킹이 적용됩니다. TenSorFlow⁴⁵ 는 확장성과 재현성을 보장하는 모델을 구현하는 데 사용되었습니다. 재현성은 재무 예측에 대한 변압기 아키텍처의 적응에 대한 이해를 향상시키는 이러한 포괄적인 사양에 의해 지원됩니다.

테스트
트랜스포머 모델의 최종 평가는 전체 데이터의 나머지 10%를 차지하는 테스트 데이터 세트를 사용하여 수행됩니다. 예측된 금 가격을 실제 값과 비교하고 성능 지표를 계산하여 예측 정확도를 측정합니다.

모델 평가
모델의 예측 성능은 평균 제곱 오차(MSE), 평균 제곱근 오차(RMSE) 및 R-제곱(R²)과 같은 주요 통계 지표를 사용하여 평가되었습니다. 결과는 다음 섹션에 나와 있습니다.

결과

연구 분석에서 성능 지표는 과거 데이터를 통해 평가되었으며, 이러한 지표는 변압기 모델이 미래 금 가격을 얼마나 잘 예측했는지에 대한 포괄적인 그림을 제공하는 데 사용되었습니다.

그림 3에서 금 가격 캔들스틱 차트는 가격 변동을 철저하게 시각적으로 표현하여 중요한 패턴, 시장 조정 및 시간 경과에 따른 안정적인 간격을 강조합니다. 시장 움직임을 더 쉽게 따라갈 수 있도록 각 촛대는 뚜렷한 거래 기간을 나타내며, 빨간색 촛대는 손실을 나타내고 녹색 촛대는 가격 상승을 나타냅니다. 금 가격은 2014년과 2018년 사이에 대부분 안정적으로 유지되었으며, 매우 미세한 변동과 작은 촛대는 변동성이 거의 없음을 시사합니다. 그러나 2018년부터 차트는 더 긴 심지와 더 큰 촛대로 더 큰 변동성을 나타내며 이는 거래 활동이 증가하고 투자자의 관심이 높아지고 있음을 나타냅니다. 2019년은 지정학적 사건, 인플레이션 문제, 글로벌 경제적 ...

토론

본 연구는 향상된 정확도와 신뢰성으로 금 선물 가격을 예측하기 위해 금융 데이터를 적시에 체계적으로 수집할 수 있도록 보장하는 자동화 플랫폼인 UiPath에서 스크랩한 데이터를 사용하는 트랜스포머 딥러닝 모델을 제안했습니다. 이 모델은 거래량 지표, 30일 및 100일 이동 평균, 추세, 금 가격 예측 및 촛대 패턴과 같은 중요한 기술 지표와 함께 금 가격에 대한 데이터를 통합합니다. LSTM, CNN-LSTM 및 선형 회귀와 같은 기존 모델보다 성능이 뛰어난 트랜스포머 모델은 자기 주의 메커니즘을 활용하여 복잡한 금융 시계열에서 단기 및 장기 관계를 모두 효율적으로 포착합니다.

본 연구는 2014년부터 2024년까지의 과거 재무 데이터를 분석하여 ARIMA, LSTM 및 회귀 기반 모델과 같은 기존 예측 방법에 비해 그 효과를 입증하는 트랜스포머 딥러닝 모델을 사용하여 금 가격 예측에 대한 자세한 분석을 제공합니다. ...

재료

이 논문에 사용된 재료 목록

이름	회사	카탈로그 번호	댓글
데이터 소스	Investing.com	https://in.investing.com/commodities/gold-historical-data	Investing.com 는 시장 시세, 주식, 선물 등에 대한 정보를 제공하는 금융 시장 플랫폼입니다.
트랜스포머 모델(Google Colab에서 구현된 Python)	구글	https://colab.research.google.com/	데이터에서 인사이트를 추출하기 위해 데이터 분석을 위한 Python 소스 코드를 개발했으며, 해당 코드는 이 Google Colab 가상 환경에서 실행되었습니다.
UiPath 로봇 프로세스 자동화	유이패스(주)	https://www.uipath.com	소스에서 데이터를 추출하고 코드가 이 플랫폼에서 실행된 경우 UiPath Studio.