Porównawcza ocena złożoności modelu głębokiego uczenia w prognozowaniu cen metali nieżelaznych

Summary

Systematyczna reewaluacja 13 architektur prognozowania cen metali pokazuje, że prosta jednostka gated rekurencyjna przewyższa bardziej złożone modele hybrydowe. Modele trenowane na miedzi oraz testowane na aluminium i cynku wykazują konsekwentnie wysoką dokładność predykcyjną, wspierając stosowanie oszczędnych metod w prognozowaniu cen surowców.

Abstract

Badanie to analizuje, czy rosnąca złożoność architektoniczna poprawia dokładność prognozowania w modelach finansowych opartych na głębokim uczeniu. Korzystając z dziennych cen spot z rynku metali w Szanghaju dla miedzi (Cu), aluminium (Al) i cynku (Zn) od stycznia 2015 do września 2025, zastosowano standaryzowany proces wstępnego przetwarzania, obejmujący normalizację z-score i konstrukcję sekwencji okien przesuwających się (długość okna = 30, horyzont prognozy = 1). Systematycznie oceniono osiemnaście modeli, w tym gated rekurencyjne jednostki (GRU), sieci długiej pamięci krótkotrwałej (LSTM), hybrydy konwolucyjnej sieci neuronowej–dwukierunkowe LSTM–uwaga (CNN–BiLSTM–Attention), a także tradycyjne modele ekonometryczne (autoregresywna zintegrowana średnia krocząca i uogólniona autoregresyjna warunkowa heteroskedastyczność), modele uczenia maszynowego (las losowy i ekstremalne gradientowe boosting), oraz model oparty na Transformerze. Wszystkie modele głębokiego uczenia były trenowane wyłącznie na danych Cu i oceniane na niezależnych zbiorach danych Al i Zn w celu oceny uogólnialności. Wyniki pokazują, że standardowy model GRU osiąga najniższe wskaźniki błędów (średni błąd bezwzględny [MAE] = 1032,85; średni błąd kwadratowy pierwiastkowy = 1344,30) oraz najwyższą moc wyjaśniającą (współczynnik determinacji [R²] = 0,907) na zbiorze testowym Cu, a także osiąga wysokie wyniki na Al (MAE = 167,51, R² = 0,918) i Zn (MAE = 254,23, R² = 0,952). Analiza ablacji pokazuje, że dodanie komponentów architektonicznych, takich jak mechanizmy uwagi, warstwy dwukierunkowe i moduły splotowe, zmniejsza dokładność predykcyjną. Testy statystyczne z użyciem testu Diebolda–Mariano wskazują, że większość różnic w wydajności jest istotna (s. < 0,05). Wyniki te podkreślają ograniczenia niepotrzebnej złożoności modelu i wspierają stosowanie prostszych, solidniejszych podejść do prognozowania cen surowców.

Introduction

Globalny rynek metali nieżelaznych — obejmujący miedź (Cu), aluminium (Al) i cynk (Zn) — jest kluczowym filarem światowej gospodarki. Te metale są fundamentalne dla budownictwa, produkcji, transportu oraz szybko rozwijającej się infrastruktury zielonej energii ^1,2. W konsekwencji ich dynamika cenowa charakteryzuje się wysoką zmiennością, napędzaną złożoną interakcją sił makroekonomicznych, napięć geopolitycznych, zakłóceń w łańcuchach dostaw, spekulacyjnych działań finansowych oraz powiązań z rynkami energii ^3,4. Dokładne prognozowanie nie jest tylko akademickie, lecz pilną praktyczną koniecznością dla rządów (strategiczne bezpieczeństwo zasobów), korporacji górniczych (planowanie produkcji), konsumentów przemysłowych (zamówienia) oraz instytucji finansowych (zarządzanie ryzykiem i handel)^5,6.

Dążenie do prediktywnej dokładności napędzało ewolucję metodologiczną. Tradycyjne podejścia ekonometryczne — autoregresyjne zintegrowane średnie kroczące (ARIMA) oraz uogólnione modele warunkowej heteroskedastyczności autoregresywnej (GARCH) — od dawna są stosowane do uchwycenia liniowych zależności i klastrów zmienności ^7,8. Jednak często mają problemy z szumem nieliniowym, niestacjonarnym i wysokoczęstotliwościowym⁹. Techniki uczenia maszynowego (ML), takie jak maszyny wektorowe wspierające i lasy losowe, stanowiły krok naprzód, modelując złożone nieliniowe relacje bez rygorystycznych założeń rozkładu^10,11. Jednak ich zdolność do przechwytywania długoterminowych zależności czasowych pozostaje ograniczona. Prawdziwa zmiana paradygmatu nastąpiła wraz z głębokim uczeniem (DL)¹², szczególnie z rekurencyjnymi sieciami neuronowymi (RNN). Sieci pamięci krótkotrwałej (LSTM)¹³ oraz ich uprościona odmiana, gated recurrent unit (GRU)^14,15, skutecznie łagodzą problem zanikającego gradientu i stały się de facto standardami w prognozowaniu szeregów czasowych finansowych, w tym prognozy cen metali 16,17,18,19. Liczne badania zastosowały te metody DL na rynkach metali nieżelaznych, wykazując poprawę dokładności w porównaniu z klasycznymi benchmarkami 20,21,22,23,24,25,26,27.

Późniejsze badania jednak w dużej mierze koncentrowały się na rosnącej złożoności architektonicznej, napędzanej innowacjami w innych dziedzinach sztucznej inteligencji (AI). Ten przebieg można podzielić na trzy synergiczne trendy. Po pierwsze, hybrydyzacja z jednowymiarowymi splotowymi sieciami neuronowymi (CNN) w celu wyodrębnienia lokalnych cech wieloskalowych przed modelowaniem czasowym (np. CNN–LSTM lub CNN–GRU)28,29,30. Po drugie, przetwarzanie dwukierunkowe (dwukierunkowe LSTM [BiLSTM] i dwukierunkowe GRU [BiGRU]), które przetwarza sekwencje w przód i w tył, aby przechwycić bogatsze informacje kontekstowe^31,32. Po trzecie, włączenie mechanizmów uwagi, które pozwalają modelom dynamicznie oceniać znaczenie historycznych kroków czasowych ^33,34. Logicznym kulminacją są wieloskładnikowe "superhybrydy", takie jak CNN–BiLSTM–Attention lub CNN–BiGRU–Attention^35,36. Wszechobecnym, często ukrytym założeniem leżącym u podstaw tych badań jest to, że złożoność architektoniczna jest synonimem poprawy dokładności prognozowania, co prowadzi do "wyścigu zbrojeń złożoności" w literaturze finansowej opartej na AI³⁷.

To założenie wymaga krytycznej analizy. Zwiększona złożoność modelu niesie ze sobą znaczne koszty: drastyczne rozszerzenie parametrów do trenowania, zwiększone ryzyko nadmiernego dopasowania — zwłaszcza na skończonych, hałaśliwych zbiorach danych finansowych — większe wymagania obliczeniowe, dłuższe czasy treningu oraz obniżoną interpretowalność^38,39. Pojawiające się krytyki zaczęły zgłaszać malejące zyski, a nawet spadek wydajności, gdy zbyt złożone modele są stosowane do hałaśliwych, średniej wielkości zbiorów danych^40,41. Mechanizm uwagi, choć potężny w dziedzinach takich jak przetwarzanie języka naturalnego z jasnymi strukturami semantycznymi, może mieć trudności z nauką sensownych schematów ważenia w chaotycznych szeregach cenowych, potencjalnie ucząc fałszywych korelacji lub nie zbiegając⁴². Pomimo tych obaw, systematyczna, bezpośrednia empiryczna ocena kompromisu między złożonością a wydajnością, szczególnie w prognozowaniu cen wielometalowych, została wyraźnie nieobecna w literaturze.

Najnowsze badania przyczyniły się do prognostiowania cen surowców przy użyciu różnych metod głębokiego uczenia. Zaproponowano podejście oparte na motywach oparte na uczeniu się grafów graficznych do analizy grafów transakcyjnych dla prognozy cen kryptowalut⁴³. Opracowano modele głębokiego uczenia temporalnego oparte na grafach sieci neuronowych dla prognozowania cen aktywów finansowych⁴⁴. Modele głębokiego uczenia szeregowego czasowego zastosowano do handlu parami na rynkach finansowych⁴⁵. Sieci neuronowe hipergrafu zostały użyte do przechwytywania relacji wyższych rzędów między akcjami w celu przewidywania ruchów akcji⁴⁶. Łącznie te prace podkreślają rosnące zainteresowanie wyborem modeli, ale nie porównują systematycznie prostych architektur z pełnym spektrum złożonych hybryd w identycznych warunkach eksperymentalnych — lukę, którą to badanie rozwiązuje.

Dziękujemy również za najnowsze modele szeregów czasowych oparte na Transformerach (np. Informer, Autoformer, Temporal Fusion Transformer oraz PatchTST). Modele te wykazują obiecujące możliwości w prognozowaniu długiej sekwencji, ale zazwyczaj wymagają obszernych danych. W naszych wstępnych eksperymentach standardowy Transformer (tylko enkoder) trenowany na tym samym zbiorze danych (2 602 obserwacje dziennie, okno = 30) radził sobie słabo, osiągając ujemne wartości^R2 na wszystkich trzech metalach. Ten wynik jest zgodny z poglądem, że transformatory są intensywne i mogą nie nadawać się do scenariuszy rynku surowców ograniczonych danych. Biorąc pod uwagę nasze skupienie na realistycznym, średnioczęstotliwościowym środowisku prognozowania, wykluczamy zaawansowane warianty Transformera z głównego benchmarku, zauważając, że testowanie ich na większych zbiorach danych pozostaje ważnym kierunkiem na przyszłość.

Badanie to bezpośrednio odpowiada na zidentyfikowane luki, rygorystycznie testując hipotezę, że prostsze architektury głębokiego uczenia mogą przewyższać bardziej złożone odpowiedniki w prognozowaniu dziennych cen Cu, Al i Zn. Projektujemy i wdrażamy kompleksowe ramy benchmarkingowe obejmujące trzynaście nowoczesnych modeli — od podstawowych GRU i LSTM po zaawansowane architektury hybrydowe, takie jak CNN–BiGRU–Attention i CNN–BiLSTM–Attention. Nasza analiza opiera się na obszernym zbiorze danych z Shanghai Metals Market (SMM) od stycznia 2015 do września 2025 roku. Co istotne, wszystkie modele są trenowane wyłącznie na danych cen Cu, podczas gdy zbiory danych Al i Zn są zarezerwowane wyłącznie do niezależnej walidacji poza próbą w celu testowania uogólnialności. Przeprowadzamy także ustrukturyzowane eksperymenty ablacyjne, aby wyizolować i ilościowo określić indywidualny i łączny wpływ dodania mechanizmów uwagi, warstw dwukierunkowych i modułów splotowych do bazowych modeli rekurencyjnych, bezpośrednio analizując wartość każdego komponentu złożoności.

Wkład tej pracy jest trójstronny. Po pierwsze, zapewnia kompleksowy empiryczny benchmark dla prognozowania cen metali opartego na głębokim uczeniu, oferując jasną, opartą na dowodach hierarchię wyników modelu. Po drugie, dostarcza istotnej, krytycznej interwencji w dziedzinie, kwestionując bezsprzeczne dążenie do złożoności architektonicznej i podkreślając istotne ryzyko nadmiernego dopasowania i nieefektywności. Po trzecie, oferuje pragmatyczne wskazówki dla badaczy, analityków i praktyków branżowych, promując zasadę oszczędności: prostsze, dobrze dostrojone modele, takie jak GRU, mogą być nie tylko wystarczające, ale i lepsze do niektórych zadań prognozowania finansowego, oferując korzystny balans dokładności, szybkości, odporności i przejrzystości. Pozostała część tego artykułu jest skonstruowana następująco. Sekcja Protokołu szczegółowo opisuje metodologię badawczą, w tym dane, wstępne przetwarzanie, architektury modeli, protokoły treningowe oraz metryki ewaluacyjne. Sekcja Wyniki przedstawia wyniki empiryczne, w tym podstawowe benchmarking, badania ablacji oraz testy uogólnialności. Sekcja Dyskusja omawia teoretyczne i praktyczne implikacje, ograniczenia oraz przyszłe kierunki.

Protocol

Badanie to nie obejmowało uczestników ludzkich ani kręgowców. Wszystkie wykorzystywane dane to publicznie dostępne serie cen towarów z SMM, które nie wymagają etycznego zatwierdzenia. W związku z tym nie uzyskano ani nie wymagano etycznego zatwierdzenia dla tych badań.

Ta sekcja przedstawia kompleksowy i rygorystyczny projekt badań wdrożony w celu empirycznego testowania podstawowej hipotezy. Zawiera szczegółowe wyjaśnienie matematycznej formuły i szczegółów architektonicznych trzynastu ocenianych modeli deep learning, precyzyjnego protokołu treningowego oraz formalnych metryk ewaluacji. Ogólny proces metodologiczny jest wizualnie podsumowany na Rysunku 1.

Rysunek 1: Schematyczny przegląd metodologii badawczej. Diagram ilustruje cały eksperymentalny pipeline, w tym partycjonowanie danych, trenowanie modeli wyłącznie na serii cen Cu, ocenę na zbiorze testowym Cu oraz walidację poza próbką dla niezależnych serii Al i Zn. Pętla sprzężenia zwrotnego z przerwanym sprzężeniem zwrotnym wskazuje na strukturalne eksperymenty ablacyjne przeprowadzone w celu analizy wkładu poszczególnych komponentów architektonicznych. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.

Diagram ilustruje cały proces eksperymentalny. Proces rozpoczyna się od wyłącznego wykorzystania serii cenowej Cu do tworzenia modeli. Seria ta jest podzielona chronologicznie na zestawy treningowe (80%), walidację (10%) oraz testowe (10%). Następnie trenuje się trzynaście różnych architektur głębokiego uczenia i jest hiperparametrycznie optymalizowanych wyłącznie na danych treningowych Cu, a wczesne zatrzymanie jest monitorowane za pomocą zestawu walidacyjnego. Głównym punktem odniesienia jest ocena tych modeli na zestawie testowym Cu. Co istotne, aby ocenić uogólnialność, stosuje się dokładnie te same wytrenowane modele bez modyfikacji, aby prognozować całkowicie niezależne serie cen Al i Zn, reprezentując ścisły test poza próbą. Na koniec przeprowadzane są eksperymenty strukturalnej ablacji (pętla sprzężenia zwrotnego z przerwanym sprzężeniem), aby rozłożyć i przeanalizować wkład wydajności poszczególnych komponentów architektonicznych (np. uwagę, przetwarzanie dwukierunkowe i warstwy splotowe).

Architektury modeli i formułowanie matematyczne
Zaprojektowaliśmy i wdrożyliśmy spektrum 13 modeli DL, systematycznie zwiększając złożoność architektoniczną od prostych sieci rekurencyjnych po zaawansowane hybrydy wielokomponentowe. Wszystkie modele mają ten sam główny cel: nauczyć się odwzorowania z historycznego okna cenowego X_t = [P _{t-L,P t-L+1},...,P_t-1] o długości L = 30 do następnej ceny y_t = _{P t}.

Rodziny modeli definiuje się następująco:

Podstawowe modele rekurencyjne
GRU: Uprościona sieć rekurencyjna wykorzystująca bramki aktualizacji (_{z t}) i resetu (r_t) do modulacji przepływu informacji. Ukryty stan h_t oblicza się jako:

   (1)

   (2)

  (3)

(4)

gdzie X to aktywacja sigmoidalna, oznacza iloczyn Hadamarda, a x_t to wejście w czasie t . Ostatni ukryty stan h_L jest przekazywany przez liniową warstwę wyjściową. Równania 1–4 zostały zaadaptowane z Cho i in. ¹⁴.

LSTM: Wykorzystuje bramki wejściowe (i_t), forget (f_t) i output (o_t) do utrzymania stanu komórki (C_t), zapewniając bardziej wyraźną kontrolę nad pamięcią długotrwałą.

Modele dwukierunkowe (BiGRU i BiLSTM)
Modele te zawierają dwie oddzielne warstwy rekurencyjne, które przetwarzają sekwencję w kierunkach do przodu i do tyłu. Ostatnią ukrytą reprezentacją w każdym kroku czasowym jest konkatenacja , teoretycznie przechwytująca informacje kontekstowe zarówno z przeszłości, jak i przyszłości w ramach stałego okna wejściowego.

Modele zwiększone uwagą (GRU–uwaga i LSTM–uwaga)
Mechanizm addytywnej uwagi stosuje się do sekwencji ukrytych stanów H = [h_{1,h 2},...,_{h L}] wytworzonych przez ostatnią warstwę rekurencyjną. Wektor kontekstowy definiuje się jako sumę ważoną:

(5)

(6)

(7)

Tutaj α_i oznacza wagę uwagi przypisaną i-temu historycznemu krokowi czasowemu. Wektor kontekstu c, zawierający adaptacyjne podsumowanie istotnej historii, jest przekazywany do ostatniej warstwy predykcyjnej. Równania 5–7 zostały zaadaptowane z Bello i ^in.47.

Modele hybrydowe CNN–Hybrid (CNN–GRU i CNN–LSTM)
Warstwa rekurencyjna jest przypisana do warstwy rekurencyjnej warstwy CNN z aktywacją jednostki liniowej (ReLU).

Złożone modele hybrydowe
Te architektury łączą wiele komponentów (np. CNN–BiGRU–Attention, CNN–BiLSTM–Attention). Reprezentują one najnowszy poziom pod względem złożoności, dążąc do integracji lokalnej ekstrakcji wzorców (CNN), dwukierunkowego modelowania kontekstowego oraz adaptacyjnego ważenia czasowego (uwagi) w jedną ramę.

Wszystkie modele były skonfigurowane z jednolitymi wymiarami stanu ukrytego (128 jednostek dla warstw powtarzających się i 64 filtrów dla warstw CNN) i zostały sfinalizowane z jedną liniową warstwą wyjściową. Taki kontrolowany projekt zapewnia, że różnice w wydajności wynikają z wyborów architektonicznych, a nie z rozbieżności w strojeniu pojemności modelu. Liczba parametrów do trenowania znacznie wzrosła na tym spektrum.

Protokół treningowy, hiperparametry i projekt badania ablacji
Tabela 1 podsumowuje zunifikowaną i rygorystyczną konfigurację eksperymentalną zastosowaną we wszystkich trzynastu modelach, aby zapewnić uczciwe porównanie i ograniczyć nadmierne dopasowanie. Wszystkie modele były trenowane od podstaw, korzystając wyłącznie z wyznaczonego zestawu treningowego Cu. Optymalizator Adama został użyty do minimalizacji strat spowodowanych średnim błędem kwadratowym (MSE). Krytyczna technika wczesnego zatrzymania, monitorowana na zbiorze walidacyjnym Cu, była stosowana jednolicie. Zapewniało to, że trening kończył się w momencie optymalnej generalizacji na niewidocznych danych Cu, zapobiegając tym samym nadmiernemu dopasowaniu modeli do szumu treningowego.

Kategoria parametrów	Specyfikacja / Wartość	Opis
Podstawowe zadanie i dane
Prognozowanie celu	Cena następnego dnia	Standardowa prognoza o krok do przodu.
Długość okna wejściowego (L)	60 dni handlowych	Równoważy wystarczający kontekst historyczny ze złożonością modelu i stabilnością treningową.
Rozwój modelu
Zestaw treningowy (tylko Cu)	Pierwsze 80% (~2081 obserwacji)	Używany do uczenia parametrów modelu za pomocą propagacji wstecznej.
Zestaw walidacyjny (tylko Cu)	Następne 10% (~260 obserwacji)	Używany do strojenia hiperparametrów i wczesnego zatrzymania; Kluczowe w zapobieganiu nadmiernemu dopasowaniu.
Zestaw testowy (tylko Cu)	Ostatnie 10% (~260 obserwacji)	Ostateczna, przeprowadzona ocena wyników w próbie (Cu).
Architektura modelu
Ukryte jednostki RNN	128	Zapewnia odpowiednią zdolność reprezentacyjną; utrzymywana na stałym poziomie we wszystkich modelach opartych na RNN.
Filtry CNN	64	Liczba map cech dla warstw CNN w modelach hybrydowych.
Procedura szkoleniowa
Optymalizator	Adam	Adaptacyjny optymalizator szybkości uczenia się dla stabilnej i efektywnej zbieżności.
Początkowy wskaźnik uczenia się	1 × 10⁻³	Standardowa stawka startowa dla Adama.
Funkcja straty	Średni błąd kwadratowy (MSE)	Standard regresji
Wielkość partii	32	Efektywne szkolenie mini-grupowe.
Epoki maksymalne	80	Górna granica iteracji treningowych.
Wczesne zatrzymanie cierpliwości	10 epok	Trening zatrzymuje się, jeśli strata walidacji nie poprawi się przez 20 kolejnych epok; Przywrócono wagi modeli z najlepszej epoki.
Ocena i walidacja
Metryki podstawowe	MAE, RMSE, R²	Przedstawić uzupełniające spojrzenia na wyjaśnienie wielkości błędu i wariancji.
Test uogólnialności	Prognoza dla pełnych serii Al i Zn (2602 obserwacje każda)	Modele są zamrażane po treningu Cu. To czysty, surowy test poza próbą na zupełnie innych towarach.
Konstrukcja ablacji	GRU → BiGRU → BiGRU–Uwaga → CNN–BiGRU–Uwaga	Systematycznie izoluje wpływ dodania dwukierunkowości, uwagi i komponentów CNN.

Tabela 1: Kluczowe parametry eksperymentalne i konfiguracja. Podsumowanie konfiguracji eksperymentalnej zastosowanej we wszystkich modelach, w tym partycjonowanie danych, parametry architektury modelu, ustawienia treningowe oraz metryki ewaluacyjne.

Aby rozłożyć wkład każdego z elementów architektonicznych, opracowano ustrukturyzowane badanie ablacji. Zaczynając od najlepiej działającego poziomu bazowego (GRU), skonstruowano stopniowy "łańcuch złożoności". Rysunek 2 wizualnie przedstawia ten łańcuch złożoności, ilustrując stopniowe dodawanie składowych. To stopniowe podejście pozwala bezpośrednio przypisać każdą zmianę w wydajności prognozowania stopniowemu dodawaniu dwukierunkowości, mechanizmowi uwagi oraz w końcu warstwie splotowej sieci neuronowej. Wskaźniki wydajności w każdym węźle tego łańcucha dostarczają jasnych dowodów empirycznych na temat wartości lub minusów każdego komponentu złożoności dla konkretnego zadania prognozowania cen metali.

Rysunek 2: Łańcuch złożoności stosowany w badaniu ablacji. Diagram ilustruje stopniowe dodawanie komponentów architektonicznych, przechodząc od GRU do BiGRU, BiGRU–Attention oraz CNN–BiGRU–Attention. Ta sekwencja odzwierciedla systematyczny wzrost złożoności modelu stosowany do oceny wpływu każdego komponentu na wydajność prognozowania. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.

Metryki oceny wyników
Wydajność modelu została rygorystycznie zmierzona za pomocą trzech standardowych metryk regresji, oferując uzupełniające informacje o dokładności predykcji i mocy wyjaśniającej.

Średni błąd bezwzględny (MAE)
Mierzy średnią wielkość błędów, zapewniając solidną i łatwą do interpretacji skalę odchyleń.

(8)

Średni błąd kwadratowy pierwiastkowy (RMSE)
Podkreśla większe błędy wynikające z operacji kwadratowania, co zwiększa wrażliwość na wartości odstające i duże błędy.

(9)

Współczynnik determinacji (R²)
Reprezentuje udział wariancji zmiennej docelowej, który jest przewidywalny z modelu.

 (10)

gdzie jest średnią wartości prawdziwych. Wartość ^R2 bliższa 1 oznacza model wyjaśniający większość wariancji danych. Równania 8–10 to standardowe metryki regresji⁴⁸. Ocena została przeprowadzona w dwóch odrębnych, sekwencyjnych fazach, aby osobno ocenić wyniki benchmarków w próbie oraz uogólnialność poza próbą. (1) Faza 1 (Pierwotny Benchmark): Wszystkie trzynaście modeli, po trenowaniu i wczesnym zatrzymaniu na danych Cu, zostało ocenionych na wylożonym zestawie testowym Cu. (2) Faza 2 (Test uogólnialności): Dokładnie te same modele, z zamrożonymi parametrami, zostały wdrożone do generowania prognoz dla pełnej, niezależnej serii cen Al i Zn. Nie przeprowadzono żadnego ponownego szkolenia ani adaptacji.

Powtarzalność: Szczegółowe środowiska eksperymentalne
Dzienne ceny spot (CNY/ton) dla Grade A Cu, Al i Zn zostały uzyskane z publicznej platformy SMM (https://www.smm.cn/), obejmujące okres od 5 stycznia 2015 do 12 września 2025. Surowe i przetworzone dane są dostępne w publicznym repozytorium (DOI: 10.5281/zenodo.19976985). Plik danych zawiera kolumny date, Cu, Al i Zn. Daty są konwertowane do formatu date-time i sortowane rosnąco. Brakujące wartości są obsługiwane przez wypełnianie do przodu, a następnie do wstecznego. Cechy są standaryzowane za pomocą skalera z-score dopasowanego tylko do zbioru treningowego (średnia μ_j, odchylenie standardowe σ_j , ); te same i są stosowane do zestawów walidacyjnych i testowych bez konieczności dopasowywania. Zmienna docelowa (Cu, Al lub Zn) jest skalowana oddzielnie, korzystając z własnych statystyk zbioru treningowego.

Sekwencje wejścia–wyjścia są konstruowane przy użyciu okna przesuwnego, o długości wejściowej L = 30 dni handlowych i horyzoncie prognozy h = 1 (prognoza na następny dzień). Dla docelowego indeksu (0 = Cu, 1 = Al, 2 = Zn) każda próbka definiowana jest jako X_{i =} V[ t - L : t, : ] (kształt 30 × 3) oraz y_{i =} V[ t + h , k] (skalar). Nie stosuje się tasowania, aby zachować porządek czasowy. Zbiór danych jest podzielony chronologicznie bez przypadkowości: trening obejmuje indeksy 0–2080 (2 081 obserwacji, 80%), indeksy walidacyjne 2081–2340 (260 obserwacji, 10%) oraz indeksy testowe 2341–2601 (261 obserwacji, 10%). Odpowiednie granice to 5 stycznia 2015 do 31 lipca 2023 (szkolenie), od 1 sierpnia 2023 do 19 października 2023 (walidacja) oraz od 20 października 2023 do 12 września 2025 (test); plik w repozytorium zawiera dokładne szczegóły.

Losowe seedy są ustalone następująco: główne seed eksperymentu = 42, a seedy Pythona, NumPy i TensorFlow ustawione są na 42. Inicjalizacja wag wykorzystuje jednorodność Glorota dla jąder wejściowych, ortogonalna dla jąder rekurencyjnych oraz zera dla biases. Środowisko oprogramowania składa się z Pythona 3.10.19, TensorFlow 2.20.0/Keras, NumPy 1.26.4, pandas 2.3.3, scikit-learn 1.7.2 oraz Matplotlib 3.10.6. Eksperymenty prowadzono na komputerze z Windows 11 z procesorem Intel Core i7 (2,20 GHz) i 32 GB RAM; Nie użyto żadnej karty graficznej.

Optymalizator Adama jest stosowany przy learning_rate = 1×^10-3, β₁ = 0,9, β₂ = 0,999, , oraz weight_decay = 0. Funkcja strat to MSE. Planownik ReduceLROnPlateau monitoruje straty walidacyjne z współczynnikiem 0,5, cierpliwością 5 oraz minimalnym wskaźnikiem uczenia się 1 × ^10-5. Wczesne zatrzymanie stosuje się z monitorem = val_loss, cierpliwością = 10, restore_best_weights = Prawdą oraz min_delta = 0. Każda epoka treningowa składa się z przejścia do przodu na partii treningowej, obliczenia strat MSE, propagacji wstecznej oraz aktualizacji parametrów Adama. Po każdej epoce obliczana jest strata walidacja; Wczesne zatrzymanie i zmniejszenie tempa uczenia się są wyzwalane na podstawie tej wartości. Model o najniższej utracie walidacyjnej jest przywracany do testów. Wielkość partii wynosi 32, a próbki są podawane w porządku chronologicznym bez tasowania (tasowanie = Fałsz).

Dla hybrydowych modeli CNN stosuje się jedną warstwę Conv1D z 64 filtrami, kernel_size = 3, stride = 1, wypełnienie = 'same', oraz aktywację rectified linear unit (ReLU), następnie MaxPooling1D(pool_size = 2) oraz Dropout(0.15). W modelach zwiększonych uwagą sieć neuronowa rekurencyjna zwraca pełną ukrytą sekwencję H o kształcie B × T × C. Gęsta warstwa z jedną jednostką generuje wynik, a softmax w czasie przekształca te wyniki w wagi uwagi , z wektorem kontekstowym zdefiniowanym jako c _{= ∑t} α_t h _t t. Następnie następuje warstwa gęsta z 64 jednostkami oraz aktywacja ReLU, Dropout (0.15) oraz warstwa gęsta na wyjściu. Modele dwukierunkowe łączą ukryte stany do przodu i do tyłu (każdy 64 jednostki), co daje 128 wymiarów; gdy używana jest uwaga, return_sequences = Prawdziwe zachowuje pełną sekwencję (B × T × 128).

Ewaluacja wykorzystuje bezpośrednią predykcję o krok do przodu (nierekurencyjną). Wszystkie prognozy są odwracane do pierwotnej skali cenowej przed obliczeniem MAE, RMSE i R² na tej skali. W testach uogólnialności na Al i Zn, skalator wejściowy zamontowany na Cu jest używany ponownie bez modyfikacji, podczas gdy każdy metal docelowy ma własny skaler na własnych celach treningowych. W badaniu ablacji wszystkie parametry niearchitektoniczne (dane, podział, skalowanie, losowe ziarno, liczba epok, wielkość partii, optymalizator, tempo uczenia, funkcja strat, wczesne zatrzymanie, harmonogram, dropout) są utrzymywane identyczne w całym łańcuchu; zmienia się tylko architektura. Pełny kod źródłowy oraz instrukcje replikacji są publicznie dostępne na Zenodo (10.5281/zenodo.19976985). Wszystkie figury zostały wygenerowane w Matplotlib 3.10.6 z dostarczonym skryptem; wyjścia są zapisywane jako PDF, SVG oraz wysokorozdzielczość PNG (600 dpi). Wszystkie modele były trenowane z maksymalnie 80 epokami. Wczesne zatrzymanie z cierpliwością = 10 (monitorowane przy utracie walidacji) było uruchamiane dla każdego modelu przed osiągnięciem limitu epoki. Na przykład model GRU zatrzymał się na epoce 37 (najlepsza epoka 27, najlepsza strata walidacyjna 0,0040), podczas gdy najbardziej złożona hybryda CNN–BiLSTM–Attention zatrzymała się na epoce 23 (najlepsza epoka 13, najlepsza strata walidacyjna 0,0072). Pełna lista zatrzymanych epok, najlepszych epok oraz najlepszych strat walidacyjnych dla wszystkich 13 modeli jest dostępna w repozytorium Zenodo, zapewniając pełną przejrzystość i powtarzalność bez przeciążenia głównego tekstu tabelą. Dyskusje teoretyczne (ograniczenia Lipschitza, złożoność próby, złożoność Rademachera, dekompozycja stronniczość–wariancja, entropia uwagi oraz wzajemna informacja) są koncepcyjnymi wyjaśnieniami wyników empirycznych i nie zmieniają celu treningowego ani implementacji modelu. Na koniec, aby ocenić stabilność, główne eksperymenty powtórzono z użyciem pięciu losowych nasion (1, 7, 21, 42 i 2024); średnia i odchylenie standardowe RMSE w tych przebiegach są przedstawione w sekcji Wyników , gdzie GRU utrzymywało konkurencyjną średnią RMSE przy niskiej wariancji, wspierając stabilną wydajność przy inicjalizacjach losowych.

Results

qTa sekcja przedstawia kompleksową empiryczną ocenę 13 modeli DL oraz dodatkowych modeli bazowych, zgodnie z rygorystyczną metodologią opisaną w Sekcji 3. Analiza podzielona jest na cztery części: (1) opisowy przegląd zbioru danych, (2) podstawowe porównanie wydajności modelu na wystawionym zbiorze testowym Cu, w tym wizualną diagnostykę dynamiki dopasowania i treningu, (3) szczegółowe badanie ablacji mające na celu dekonstrukcję wpływu złożoności architektonicznej oraz (4) krytyczny test uogólnialności modelu na niezale...

Discussion

Wyniki empiryczne przedstawione w sekcji Wyniki dostarczają jasnej i spójnej odpowiedzi na nasze główne pytanie badawcze: dla codziennego prognozowania cen metali nieżelaznych w realistycznym, ograniczonym na dane reżimie (2 602 obserwacje, dane wejściowe, horyzont o krok do przodu), najprostsza architektura głębokiego uczenia — GRU — konsekwentnie i znacząco przewyższa szeroki zakres bardziej złożonych modeli. Należą do nich hybrydowe CNN, dwukierunkowe RNN, sieci zwiększone uwagą oraz wieloskładnikowe ...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Zbiór danych	Codzienna seria cen spot miedzi (Cu) – Jeden z trzech metali docelowych; To także część funkcji wejściowych wielowymiarowych.	Shanghai Metals Market (SMM), publicznie dostępne	Dane cenowe SMM; kolumna = Cu; typ ceny = spot; częstotliwość = dziennie; jednostka = CNY/ton; zakres dat = 2015-01-05 do 2025-09-12; RRID: nie ma zastosowania
Zbiór danych	Codzienna seria cen spot aluminium (Al) – Jeden z trzech metali docelowych; To także część funkcji wejściowych wielowymiarowych.	Shanghai Metals Market (SMM), publicznie dostępne	Dane cenowe SMM; kolumna = Al; typ ceny = spot; częstotliwość = dziennie; jednostka = CNY/ton; zakres dat = 2015-01-05 do 2025-09-12; RRID: nie ma zastosowania
Zbiór danych	Codzienna seria cen spot cynku (Zn) & ndash; Jeden z trzech metali docelowych; To także część funkcji wejściowych wielowymiarowych.	Shanghai Metals Market (SMM), publicznie dostępne	Dane cenowe SMM; kolumna = Zn; typ ceny = spot; częstotliwość = dziennie; jednostka = CNY/ton; zakres dat = 2015-01-05 do 2025-09-12; RRID: nie ma zastosowania
Zbiór danych	Preprocessed multivariate ceny metali i dash; Chronologicznie posortowane i oczyszczone serie Cu, Al, Zn po obsłudze z wartością brakującą i konstrukcji okien przesuwanych (L = 30, h = 1).	Autor wygenerowany na podstawie danych SMM	Przechowywane w repozytorium Zenodo (DOI: 10.5281/zenodo.19976985); plik: Data.csv; RRID: nie ma zastosowania
Oprogramowanie	Python i dash; Główny język do przetwarzania danych, implementacji modeli, oceny oraz generowania figure/tabel.	Python Software Foundation / Anaconda	Python 3.10.19; Występowanie anakondy; RRID: SCR_008394
Oprogramowanie	TensorFlow/Keras – Ramy głębokiego uczenia do implementacji modeli GRU, LSTM, BiGRU, BiLSTM, CNN-hybrid, attention oraz Transformer.	TensorFlow / Keras	TensorFlow 2.20.0; RRID: SCR_016345
Oprogramowanie	NumPy – Numeryczne przetwarzanie tablic i operacje macierzy.	Społeczność open-source	NumPy 1.26.4; RRID: SCR_008633
Oprogramowanie	Pandas – Ładowanie danych, przetwarzanie tabelaryczne oraz obsługa wyników w CSV/Excel.	Społeczność open-source	Pandas 2.3.3; RRID: SCR_018214
Oprogramowanie	scikit-learn – Metryki ewaluacyjne, wstępne przetwarzanie i narzędzia uczenia maszynowego.	Społeczność open-source	scikit-learn 1.7.2; RRID: SCR_002577
Oprogramowanie	StandardScaler (normalizacja z-score) – Standardyzacja cech zastosowana przy użyciu statystyk zbioru treningowego.	scikit-learn	Zawarte w scikit-learn 1.7.2; RRID: SCR_002577
Oprogramowanie	Random Forest – Implementacja bazowa w uczyeniu maszynowym (RandomForestRegressor).	Społeczność open-source	scikit-learn 1.7.2; RRID: SCR_002577
Oprogramowanie	statsmodels – Podstawowa implementacja ARIMA.	Społeczność open-source	Statsmodels 0.14.6; RRID: SCR_016074
Oprogramowanie	łuk – Implementacja bazowa GARCH.	Społeczność open-source	arch 8.0.0; RRID: niedostępne
Oprogramowanie	XGBoost – XGBoost regresyjna implementacja bazowa.	Społeczność open-source	XGBoost 3.1.2; RRID: SCR_025884
Oprogramowanie	Model transformera – Podstawowa architektura głębokiego uczenia do porównania.	TensorFlow / Keras	Implementowane przy użyciu TensorFlow 2.20.0; RRID: SCR_016345
Oprogramowanie	Keras callbacks (ReduceLROnPlateau) – Harmonogram uczenia się używany podczas szkolenia.	TensorFlow / Keras	Zawarte w TensorFlow 2.20.0; RRID: SCR_016345
Oprogramowanie	Matplotlib – Generowanie i eksport figurek do PDF/SVG/PNG.	Społeczność open-source	Matplotlib 3.10.6; RRID: SCR_008595
Oprogramowanie	openpyxl – Wsparcie dla generowania i eksportu zeszytów w Excelu.	Społeczność open-source	OpenPyxl 3.1.5; RRID: niedostępne
Kod	GRU.py – Pełna implementacja wszystkich 13 modeli deep-learning, porównanie Transformerów, bazowe linie ARIMA/GARCH/XGBoost/Random Forest, Diebold– Testy Mariano i generowanie figurek.	Autor	Dostępne w Zenodo (DOI: 10.5281/zenodo.19976985); RRID: nie ma zastosowania
Kod	README_reproducibility.md – Instrukcje odtwarzania i protokół krok po kroku.	Autor	Dostępne w Zenodo (DOI: 10.5281/zenodo.19976985); RRID: nie ma zastosowania
Kod	requirements.txt – Zależności oprogramowania i dokładne specyfikacje wersji.	Autor	Dostępne w Zenodo (DOI: 10.5281/zenodo.19976985); RRID: nie ma zastosowania
Sprzęt	Stacja robocza komputerowa – Wszystko trenowanie modeli, walidacja, testowanie oraz generowanie figure/tabel.	ASUSTeK COMPUTER INC. (ROG Strix G634JZ_G634JZ)	Windows 11 Home 10.0.26200 Build 26200; komputer oparty na x64; RRID: nie ma zastosowania
Sprzęt	CPU – Centralna jednostka przetwarzania do szkolenia i wnioskowania.	Intel	Intel64 Family 6 Model 183 Stepping 1, ~2,20 GHz; RRID: nie ma zastosowania
Sprzęt	RAM – Pamięć fizyczna do wszystkich zadań obliczeniowych.	Stacja robocza ASUSTeK	32 387 MB (~32 GB); RRID: nie ma zastosowania
Sprzęt	Przyspieszenie GPU – Status wykorzystania jednostek przetwarzania graficznego.	Zapytanie urządzenia TensorFlow	tf.config.list_physical_devices('GPU') zwraca []; CUDA/cuDNN nie używa; RRID: nie ma zastosowania
Odczynnik/Model	Losowe ziarno (główny eksperyment) – Stały seed dla powtarzalności elementów stochastycznych.	Python losowy / NumPy / TensorFlow	Rozstawienie = 42; RRID: nie ma zastosowania
Odczynnik/Model	Losowe ziarna (test odporności) – Dodatkowe zalążki do wielobiegowej weryfikacji stabilności.	Python losowy / NumPy / TensorFlow	Nasiona = {1, 7, 21, 42, 2024}; RRID: nie ma zastosowania