Сравнительная оценка сложности модели глубокого обучения для прогнозирования цен на цветные металлы

Summary

Систематическая переоценка 13 архитектур для прогнозирования цен на металлы показывает, что простая гейтированная рекуррентная единица превосходит более сложные гибридные модели. Модели, обученные на меди и протестированные на алюминии и цинке, демонстрируют стабильно высокую предсказательную точность, что подтверждает использование экономичных подходов при прогнозировании цен на сырьевые товары.

Abstract

В данном исследовании рассматривается, повышает ли рост архитектурной сложности точность прогнозирования финансовых моделей на основе глубокого обучения. Используя ежедневные спотовые цены с рынка металлов Шанхая на медь (Cu), алюминий (Al) и цинк (Zn) с января 2015 по сентябрь 2025 года, был применён стандартизированный конвейер предварительной обработки, включающий нормализацию z-score и построение последовательности скользящих окон (длина окна = 30, прогнозный горизонт = 1). Всего было систематически оценено восемнадцать моделей, включая гейт-рекуррентные единицы (ГРУ), сети долгосрочной краткосрочной памяти (LSTM), гибриды свертковой нейронной сети–двунаправленного LSTM–внимания (CNN–BiLSTM–Attention), а также традиционные эконометрические модели (авторегрессивная интегрированная скользящая средняя и обобщённая авторегрессивная условная гетероскедастичность), модели машинного обучения (случайный лес и усиление экстремального градиента) и модель на основе трансформеров. Все модели глубокого обучения обучались исключительно на данных Cu и оценивались на независимых наборах данных Al и Zn для оценки обобщаемости. Результаты показывают, что стандартная модель ГРУ достигает наибольших уровней ошибок (средняя абсолютная ошибка [MAE] = 1032,85; средняя квадратическая ошибка корня = 1344,30) и наивысшую объяснительную степень (коэффициент определения [R²] = 0,907) на тестовом наборе Cu, при этом демонстрируя высокие результаты на Al (MAE = 167,51, R² = 0,918) и Zn (MAE = 254,23, R² = 0,952). Анализ абляции показывает, что добавление архитектурных компонентов, таких как механизмы внимания, двусторонние слои и сверточные модули, снижает точность прогнозирования. Статистическое тестирование с использованием теста Диболда–Мариано показывает, что большинство различий в производительности существенны (p < 0,05). Эти результаты подчёркивают ограничения ненужной сложности моделей и поддерживают использование более простых и надёжных подходов к прогнозированию цен на сырьевые товары.

Introduction

Мировой рынок цветных металлов — включающий медь (Cu), алюминий (Al) и цинк (Zn) — является ключевым элементом мировой экономики. Эти металлы являются фундаментальными для строительства, производства, транспорта и быстро развивающейся инфраструктуры зелёной^{энергетики 1,2}. В результате их ценовая динамика характеризуется высокой волатильностью, вызванной сложным взаимодействием макроэкономических сил, геополитической напряжённостью, сбоями в цепочках поставок, спекулятивной финансовой деятельностью и связями с энергетическими^{рынками 3,4}. Точное прогнозирование является не только академической, но и актуальной практической необходимостью для правительств (стратегическая безопасность ресурсов), горнодобывающих корпораций (планирование производства), промышленных потребителей (закупки) и финансовых институтов (управление рисками и торговля)^5,6.

Стремление к предсказательной точности стимулировало методологическую эволюцию. Традиционные эконометрические подходы — авторегрессивные интегрированные скользящие средние (ARIMA) и обобщённые модели условной условной гетероскедастичности (GARCH) — давно применяются для отражания линейных зависимостей и кластеризации^{волатильности 7,8}. Однако они часто испытывают трудности с нелинейным, нестационарным и высокочастотным^{шумом 9}. Методы машинного обучения (ML), такие как опорные векторные машины и случайные леса, сделали шаг вперёд, моделируя сложные нелинейные отношения без строгих распределительных^{предположений 10,11}. Тем не менее, их способность захватывать долгосрочные временные зависимости остаётся ограниченной. Истинный сдвиг парадигмы произошёл с глубоким обучением (DL)¹², особенно рекуррентными нейронными сетями (RNN). Сети долгосрочной краткосрочной памяти (LSTM^{) 13} и их упрощённый вариант, гейтированный рекуррентный блок (GRU)^14,15, эффективно смягчают проблему исчезающего градиента и стали де-факто стандартами для прогнозирования финансовых временных рядов, включая прогнозирование цен на^{металлы} 16,17,18,19 . Многочисленные исследования применяли эти методы DL к рынкам цветных металлов, демонстрируя повышенную точность по сравнению с классическими эталонами^{20, 21, 22, 23, 24, 25, 26, 27}.

Однако последующие исследования в значительной степени были посвящены растущей архитектурной сложности, чему способствуют инновациям в других областях искусственного интеллекта (ИИ). Эту траекторию можно разделить на три синергетических направления. Во-первых, гибридизация с одномерными сверточными нейронными сетями (CNN) для извлечения локальных многомасштабных признаков до временного моделирования (например, CNN–LSTM или CNN–GRU)28,29,30. Во-вторых, двунаправленная обработка (двунаправленная LSTM [BiLSTM] и двусторонняя GRU [BiGRU]), которая обрабатывает последовательности вперёд и назад для захвата более богатой контекстуальной^{информации 31,32}. В-третьих, включение механизмов внимания, которые позволяют моделям динамически взвешивать важность исторических временных^{шагов 33,34}. Логическим итогом становятся многокомпонентные «супер-гибриды», такие как CNN–BiLSTM–Attention или CNN–BiGRU–Attention^35,36. Широко распространённым, часто скрытым предположением, лежащим в основе многих этих исследований, является то, что архитектурная сложность связана с улучшением точности прогнозирования, что приводит к «гонке вооружений сложности» в финансовой литературе, основанной на^{ИИ, 37}.

Это предположение требует тщательного рассмотрения. Рост сложности модели влечет за собой значительные издержки: резкое расширение обучаемых параметров, повышенный риск перенастройки — особенно на конечных, шумных финансовых наборах данных, увеличение требований к вычислительным ресурсам, более длительное время обучения и снижение^{интерпретируемости 38,39}. Новые критические замечания начали сообщать о снижении доходности или даже ухудшении производительности при применении чрезмерно сложных моделей к шумным средним наборам^{данных 40,41}. Механизм внимания, хотя и мощен в таких областях, как обработка естественного языка с чёткими семантическими структурами, может испытывать трудности с изучением значимых схем взвешивания в хаотичных ценовых рядах, потенциально обучая ложные корреляции или не достигая^{сходимости 42}. Несмотря на эти опасения, систематическая прямая эмпирическая оценка компромисса сложности и производительности, особенно в прогнозировании цен на мультиметаллы, заметно отсутствует в литературе.

Недавние исследования продвинули прогнозирование цен на сырьевые товары с использованием различных подходов глубокого обучения. Был предложен подход обучения представления графов на основе мотивов для анализа графиков транзакций с целью прогнозирования цены^{криптовалюты 43}. Были разработаны модели глубокого обучения на основе нейронных сетей на основе графов для прогнозирования цены финансовых^{активов 44}. Модели глубокого обучения с временными рядами применялись к парам, торгующимся на финансовых^{рынках 45}. Гиперграфовые нейронные сети использовались для фиксации связей вышестоящих порядков между акциями с целью прогнозирования движений^{акций 46}. В совокупности эти работы подчёркивают растущий интерес к выбору моделей, но не систематически сравнивают простые архитектуры с полным спектром сложных гибридов в одинаковых экспериментальных условиях — этот пробел устраняется.

Мы также учитываем современные временные модели на основе Transformer (например, Informer, Autoformer, Temporal Fusion Transformer и PatchTST). Эти модели показали перспективы в долгосрочном прогнозировании, но обычно требуют обширных данных. В наших предварительных экспериментах стандартный трансформатор (только энкодер), обученный на одном и том же наборе данных (2 602 ежедневных наблюдения, окно = 30), показал плохие результаты, достигнув отрицательных значений R² по всем трём металлам. Этот результат согласуется с мнением, что трансформеры требуют много данных и могут быть неподходящими для сценариев товарного рынка с ограничением данных. Учитывая наш фокус на реалистичной среде среднечастотного прогнозирования, мы исключаем продвинутые варианты Трансформеров из основного бенчмарка, при этом отмечая, что их тестирование на больших наборах данных остаётся важным направлением в будущем.

Это исследование напрямую устраняет выявленные пробелы, тщательно проверяя гипотезу о том, что более простые архитектуры глубокого обучения могут превзойти более сложные аналоги в прогнозировании ежедневных цен на Cu, Al и Zn. Мы разрабатываем и внедряем комплексную систему бенчмаркинга, включающую тринадцать передовых моделей — от базовых GRU и LSTM до продвинутых гибридных архитектур, таких как CNN–BiGRU–Attention и CNN–BiLSTM–Attention. Наш анализ основан на обширном наборе данных по Шанхайскому рынку металлов (SMM), охватывающем период с января 2015 по сентябрь 2025 года. Важно, что все модели обучаются исключительно на данных о ценах Cu, тогда как наборы данных Al и Zn предназначены исключительно для независимой проверки вне выборки с целью проверки обобщаемости. Мы также проводим структурированные абляционные эксперименты, чтобы выделить и количественно оценить индивидуальное и совместное влияние добавления механизмов внимания, двусторонних слоёв и сверточных модулей к базовым моделям рецидивиров, тем самым напрямую анализируя значение каждого компонента сложности.

Вклад этой работы тройный. Во-первых, он предоставляет комплексный эмпирический ориентир для прогнозирования цен на металлы на основе глубокого обучения, предлагая чёткую, основанную на доказательствах иерархию производительности модели. Во-вторых, он предлагает содержательное критическое вмешательство в этой области, бросая вызов бесспорному стремлению к архитектурной сложности и подчёркивая значительные риски переоборудования и неэффективности. В-третьих, она предлагает прагматичные рекомендации исследователям, аналитикам и специалистам отрасли, отстаивая принцип экономии: более простые, хорошо настроенные модели, такие как ГРУ, могут быть не только достаточными, но и превосходными для определённых финансовых задач прогнозирования, обеспечивая благоприятный баланс точности, скорости, надёжности и прозрачности. Остальная часть этой статьи структурирована следующим образом. Раздел «Протокол » подробно описывает методологию исследования, включая данные, предварительную обработку, архитектуры моделей, протоколы обучения и метрики оценки. В разделе «Результаты » представлены эмпирические результаты, включая первичный бенчмаркинг, исследования абляции и тесты обобщаемости. Раздел «Обсуждение » обсуждает теоретические и практические последствия, ограничения и будущие направления.

Protocol

В этом исследовании не участвовали люди или позвоночные животные. Все используемые данные — это общедоступные серии цен на товары от SMM, которые не требуют этического одобрения. Поэтому этическое одобрение для этого исследования не требовалось и не требовалось.

В этом разделе описывается комплексный и строгий исследовательский дизайн, реализованный для эмпирической проверки основной гипотезы. В ней подробно изложены математические формулировки и архитектурные особенности тринадцати оцениваемых моделей глубокого обучения, точного протокола обучения и формальных метрик оценки. Общий методологический рабочий процесс визуально изложен на рисунке 1.

Рисунок 1: Схематический обзор методологии исследования . Диаграмма иллюстрирует полный экспериментальный конвейер, включая разбиение данных, обучение модели исключительно на ценовой серии Cu, оценку на тестовом наборе Cu и вневыборочную валидацию для независимых рядов Al и Zn. Пунктирная обратная связь указывает на структурированные эксперименты по абляции, проведённые для анализа вклада отдельных архитектурных компонентов. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Диаграмма иллюстрирует полный экспериментальный конвейер. Процесс начинается с эксклюзивного использования серии Cu Price для разработки моделей. Эта серия хронологически разделена на обучающие (80%), валидационные (10%) и тестовые (10%) наборы. Тринадцать различных архитектур глубокого обучения затем обучаются и оптимизируются по гиперпараметрам исключительно на обучающих данных Cu, при этом ранние остановки отслеживаются через набор валидации. Основным ориентиром является оценка этих моделей на оставшимся тестовом наборе Cu. Ключевым является то, что для оценки обобщимости применяются те же самые обученные модели без изменений для прогнозирования полностью независимых ценовых рядов Al и Zn, представляющих собой строгий вневыборочный тест. Наконец, проводятся структурированные эксперименты по абляции (пунктирная обратная связь) для разложения и анализа вклада отдельных архитектурных компонентов (например, внимания, двунаправленной обработки и сверточных слоёв).

Архитектуры моделей и математическая формулировка
Мы спроектировали и реализовали спектр из 13 моделей DL, систематически увеличивая архитектурную сложность — от простых повторяющихся сетей до сложных многокомпонентных гибридов. Все модели объединяют одну и ту же основную цель: изучить отображение из исторического ценового окна X_t = [P _{t-L,P t-L+1},...,P_t-1] длины L = 30 к последующей цене y_t = P t.

Семейства моделей определяются следующим образом:

Базовые модели с повторяющимися
ГРУ: Упрощённая повторяющаяся сеть с использованием элементов обновления (z_t) и сброса (r_t) для модуляции потока информации. Скрытое состояние h t вычисляется как:

(1)

(2)

(3)

    (4)

где X — сигмовидная активация, обозначает произведение Адамара, а x_t — вход в момент времени t . Последнее скрытое состояние h_L проходит через линейный выходной слой. Уравнения 1–4 адаптированы из Чо и ^{др. 14}.

LSTM: Использует входные (i_t), забыть (f_t) и выходные элементы (o_t) для поддержания состояния ячейки (C_t), обеспечивая более явный контроль над долговременной памятью.

Двунаправленные модели (BiGRU и BiLSTM)
Эти модели включают два отдельных повторяющихся слоя, которые обрабатывают последовательность в прямом и обратном направлениях. Последним скрытым представлением на каждом шаге времени является конкатенация , теоретически захватывающая контекстную информацию как из прошлого, так и из будущего в фиксированном входном окне.

Модели с дополнением внимания (GRU–Attention и LSTM–Attention)
Аддитивный механизм внимания применяется к последовательности скрытых состояний H = [h_{1,h 2},...,_{h L}], создаваемой последним повторяющимся слоем. Вектор контекста определяется как взвешенная сумма:

(5)

(6)

(7)

Здесь α_i представляет вес внимания, присвоенный i-му историческому временному шагу. Вектор контекста c, инкапсулирующий адаптивное резюме соответствующей истории, подаётся на последний слой предсказания. Уравнения 5–7 адаптированы из Белло и ^др.47.

CNN–гибридные модели (CNN–GRU и CNN–LSTM)
Одномерный слой CNN с активацией ректифицированной линейной единицы (ReLU) предшествуется рекуррентному слою.

Сложные гибридные модели
Эти архитектуры сочетают несколько компонентов (например, CNN–BiGRU–Attention, CNN–BiLSTM–Attention). Они представляют собой передовое измерение по сложности, стремясь интегрировать локальное извлечение паттернов (CNN), двунаправленное контекстное моделирование и адаптивное временное весование (внимание) в единую структуру.

Все модели были настроены с согласованными размерами скрытого состояния (128 единиц для повторяющихся слоёв и 64 фильтра для слоёв CNN) и были доработаны одним линейным выходным слоем. Такое контролируемое проектирование гарантирует, что различия в производительности обусловлены архитектурными решениями, а не расхожденостями в настройке ёмкости модели. Количество обрабатываемых параметров, следовательно, значительно увеличилось по этому спектру.

Протокол обучения, гиперпараметры и дизайн абляционного исследования
Таблица 1 суммирует унифицированную и строгую экспериментальную конфигурацию, применённую ко всем тринадцати моделям, чтобы обеспечить справедливое сравнение и смягчить перенагон. Все модели тренировались с нуля, используя только назначенный набор Cu. Оптимизатор Адама использовался для минимизации потерь средней квадратической ошибки (MSE). Критическая техника ранней остановки, контролируемая на валидационном наборе Cu, применялась равномерно. Это обеспечивало завершение обучения в точке оптимального обобщения на невидимых данных Cu, тем самым предотвращая перенастройку моделей с обучающим шумом.

Категория параметров	Спецификация / Ценность	Описание
Основная задача и данные
Цель прогнозирования	Цена на следующий день	Стандартное предсказание на один шаг вперед.
Длина входного окна (L)	60 торговых дней	Сбалансирует достаточный исторический контекст с сложностью модели и стабильностью обучения.
Разработка модели
Тренировочный набор (только для Cu)	Первые 80% (~2081 наблюдения)	Используется для изучения параметров модели с помощью обратного распространения.
Валидационный набор (только в Cu)	Следующие 10% (~260 наблюдений)	Используется для настройки гиперпараметров и ранней остановки; Крайне важно для предотвращения перенагона.
Тестовый набор (только для Cu)	Последние 10% (~260 наблюдений)	Финальная, отложенная оценка результативности в выборке (Cu).
Архитектура модели
Скрытые подразделения RNN	128	Обеспечивает адекватные представительские возможности; оставался постоянным во всех моделях на базе RNN.
Фильтры CNN	64	Количество карт признаков для слоёв CNN в гибридных моделях.
Процедура обучения
Оптимизатор	Адам	Адаптивный оптимизатор скорости обучения для стабильной и эффективной сходимости.
Начальная скорость обучения	1 × 10⁻³	Стандартная стартовая ставка для Адама.
Функция потерь	Среднеквадратичная ошибка (MSE)	Стандарт регрессии
Размер партии	32	Эффективное обучение по мини-пакетам.
Максимальные эпохи	80	Верхний предел для обучающих итераций.
Раннее прекращение терпения	10 эпох	Обучение останавливается, если потеря валидации не улучшается в течение 20 последовательных эпох; Восстанавливаются веса моделей лучшей эпохи.
Оценка и валидация
Первичные метрики	MAE, RMSE, R²	Предоставить дополнительные представления о величине ошибки и дисперсии, которые объясняются.
Тест обобщаемости	Прогноз по полным сериям Al и Zn (по 2602 наблюдения каждая)	Модели замораживаются после тренировок Cu. Это чистый, строгий тест вне выборки на совершенно других товарах.
Абляционная конструкция	GRU → BiGRU → BiGRU–Внимание → CNN–BiGRU–Внимание	Систематически изолирует влияние добавления компонентов двунаправленности, внимания и CNN.

Таблица 1: Ключевые экспериментальные параметры и конфигурация. Краткое описание экспериментальной системы, применённой ко всем моделям, включая разделение данных, параметры архитектуры модели, настройки обучения и метрики оценки.

Для анализа вклада каждого архитектурного компонента было разработано структурированное исследование абляции. Начиная с самой эффективной базовой линии (ГРУ), была построена прогрессивная «цепочка сложности». Рисунок 2 визуально описывает эту цепочку сложности, демонстрируя поэтапное добавление компонентов. Такой поэтапный подход позволяет напрямую приписывать любые изменения эффективности прогнозирования постепенному добавлению двунаправленности, механизма внимания и, наконец, сверточному нейронному уровню. Метрики эффективности на каждом узле этой цепи предоставляют чёткие эмпирические доказательства ценности или вреда каждого компонента сложности для конкретной задачи прогнозирования цен на металлы.

Рисунок 2: Цепочка сложности, используемая в исследовании абляции. Диаграмма иллюстрирует поэтапное добавление архитектурных компонентов, переходя от GRU к BiGRU, BiGRU–Attention и CNN–BiGRU–Attention. Эта последовательность отражает систематическое увеличение сложности модели, используемое для оценки влияния каждого компонента на результаты прогнозирования. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Метрики оценки эффективности
Производительность модели была строго количественно измерена с помощью трёх стандартных регрессионных метрик, предоставляющих дополняющие инсайты точности прогнозирования и объяснительной способности.

Средняя абсолютная ошибка (MAE)
Измеряет среднюю величину ошибок, обеспечивая надёжную и легко интерпретируемую шкалу отклонения.

(8)

Ошибка корня среднего квадрата (RMSE)
Акцентирует внимание на больших ошибках, вызванных операцией квадрата, что делает его более чувствительным к выбросам и крупным ошибкам.

(9)

Коэффициент детерминации (R²)
Представляет долю дисперсии целевой переменной, предсказуемую по модели.

(10)

где — среднее значение истинных значений. Значение R² , ближе к 1, указывает на модель, объясняющую большую часть дисперсии в данных. Уравнения 8–10 являются стандартными регрессионными^{метриками 48}. Оценка проводилась в два отдельных последовательных этапа для отдельной оценки эффективности внутривыборочного бенчмарка и вневыборочной обобщаемости. (1) Фаза 1 (Первичный эталон): Все тринадцать моделей, после обучения и досрочной остановки на данных Cu, были оценены на оставшимся тестовом наборе Cu. (2) Фаза 2 (Тест на обобщаемость): Были внедрены те же самые модели с замороженными параметрами для генерации прогнозов для полных, независимых ценовых серий Al и Zn. Переобучение или адаптация не проводились.

Воспроизводимость: детальные экспериментальные настройки
Ежедневные спотовые цены (юань/тонну) на цены Grade A, Alon и Zn были получены с публичной платформы SMM (https://www.smm.cn/) с 5 января 2015 года по 12 сентября 2025 года. Необработанные и обработанные данные доступны в публичном репозитории (DOI: 10.5281/zenodo.19976985). Файл данных содержит столбцы date, Cu, Al и Zn. Даты конвертируются в формат datetime и сортируются в порядке возрастания. Отсутствующие значения обрабатываются прямой заполнением, а затем обратной заполнением. Характеристики стандартизируются с помощью z-балльного шкалера, установленного только на обучающий набор (среднее μ_j, стандартное отклонение σ_j , ); аналогично и применяются к валидационным и тестовым наборам без перенасадки. Целевая переменная (Cu, Al или Zn) масштабируется отдельно с использованием собственной статистики обучающего набора.

Последовательности ввода–выхода строятся с использованием скользящего окна с длиной входа L = 30 торговых дней и прогнозным горизонтом h = 1 (прогноз на следующий день). Для целевого индекса (0 = Cu, 1 = Al, 2 = Zn) каждый образец определяется как X_i = V[ t - L : t, : ] (форма 30 × 3) и y_i = V[ t + h , k] (скаляр). Перетасовка не применяется для сохранения временного порядка. Набор данных разделён в хронологическом порядке без случайности: обучение включает индексы 0–2080 (2 081 наблюдение, 80%), индексы валидации 2081–2340 (260 наблюдений, 10%) и тестовые индексы 2341–2601 (261 наблюдение, 10%). Соответствующие границы дат: с 5 января 2015 года по 31 июля 2023 года (обучение), с 1 августа 2023 года по 19 октября 2023 года (валидация) и с 20 октября 2023 года по 12 сентября 2025 года (тест); Файл в репозитории содержит точные детали.

Случайные семена фиксируются следующим образом: основное семя эксперимента = 42, а семена Python, NumPy и TensorFlow все установлены на 42. Инициализация весов использует Glorot-униформу для входных ядер, ортогональную для повторяющихся ядер и нули для смещений. Программная среда состоит из Python 3.10.19, TensorFlow 2.20.0/Keras, NumPy 1.26.4, pandas 2.3.3, scikit-learn 1.7.2 и Matplotlib 3.10.6. Эксперименты проводились на ПК с Windows 11 с Intel Core i7 (2,20 ГГц) и 32 ГБ оперативной памяти; видеокарта не использовалась.

Оптимизатор Адама применяется при learning_rate = 1×^10-3, _{β 1} = 0,9, β₂ = 0,999, , и weight_decay = 0. Функция потерь — это MSE. Планировщик ReduceLROnPlateau отслеживает потерю валидации с фактором 0,5, терпением 5 и минимальной скоростью обучения 1 × ^10-5. Ранняя остановка применяется с помощью монитора = val_loss, терпения = 10, restore_best_weights = Истинно, а min_delta = 0. Каждая обучающая эпоха состоит из прямого перехода на обучающую партию, вычисления потерь MSE, обратного распространения и обновления параметров Адама. После каждой эпохи вычисляются потери валидации; На основе этого значения запускаются ранняя остановка и снижение скорости обучения. Модель с наименьшими потерями валидации восстанавливается для тестирования. Размер партии — 32, а образцы подаются в хронологическом порядке без перемешивания (перетасовка = ложь).

Для гибридных моделей CNN используется один слой Conv1D с 64 фильтрами, kernel_size = 3, step = 1, заполнение = «одинаковый» и активация ректированной линейной единицы (ReLU), затем MaxPooling1D(pool_size = 2) и Dropout (0.15). В моделях с дополнением внимания рекуррентная нейронная сеть возвращает полную скрытую последовательность H с формой B × T × C.  Плотный слой с одной единицей даёт оценку, а софтмакс со временем преобразует эти оценки в веса внимания , при этом контекстный вектор определяется как c = ∑_t α_t h_t. За ним следует плотный слой с 64 единицами и активацией ReLU, Dropout (0.15) и выходной плотный слой. Двунаправленные модели объединяют скрытые состояния вперёд и назад (каждое по 64 единицы), в результате чего получается 128 измерений; при использовании внимания return_sequences = Истинное сохраняет полную последовательность (B × T × 128).

Оценка использует прямое предсказание на один шаг вперёд (нерекурсивное). Все прогнозы обратно преобразуются исходной цене перед вычислением MAE, RMSE и R² по этой шкале. Для тестов обобщённости на Al и Zn входный масштабер, установленный на Cu, используется повторно без модификаций, в то время как каждый металл мишени имеет свой собственный масштабер мишени на своих тренировочных мишенях. В исследовании абляции все неархитектурные параметры (данные, разделение, масштабирование, случайный посев, количество эпох, размер пакета, оптимизатор, скорость обучения, функция потерь, ранняя остановка, планировщик, выпадание) остаются одинаковыми по всей цепочке; меняется только архитектура. Полный исходный код и инструкции по репликации доступны на сайте Zenodo (10.5281/zenodo.19976985). Все фигурки были сгенерированы с помощью Matplotlib 3.10.6 с предоставленным скриптом; выходы сохраняются в форматах PDF, SVG и высокого разрешения PNG (600 dpi). Все модели тренировались с максимальным уровнем 80 эпох. Ранняя остановка с терпением = 10 (отслеживается при потере валидации) срабатывала для каждой модели до достижения эпохального предела. Например, модель ГРУ остановилась на эпохе 37 (лучший период 27, потеря лучшей валидации 0,0040), тогда как самый сложный гибрид CNN–BiLSTM–Attention — на эпохе 23 (лучший период 13, потеря лучшей валидации 0,0072). Полный список остановленных эпох, лучших эпох и потерь в валидации для всех 13 моделей доступен в репозитории Zenodo, что обеспечивает полную прозрачность и воспроизводимость без перегрузки основного текста таблицой. Теоретические обсуждения (границы Липшица, сложность выборки, сложность Радемахера, декомпозиция смещения–дисперсия, энтропия внимания и взаимная информация) являются концептуальными объяснениями эмпирических результатов и не изменяют цель обучения или реализацию модели. Наконец, для оценки стабильности основные эксперименты были повторены с пятью случайными семенами (1, 7, 21, 42 и 2024); среднее и стандартное отклонение RMSE по этим запускам представлены в разделе «Результаты », где GRU поддерживал конкурентное среднее RMSE с низкой дисперсией, поддерживая стабильную производительность при случайных инициализациях.

Results

qВ этом разделе представлена всесторонняя эмпирическая оценка 13 моделей DL и дополнительных базовых моделей, следуя строгой методологии, изложенной в разделе 3. Анализ состоит из четырёх частей: (1) описательный обзор набора данных, (2) первичный бенчмаркинг производительности модели на оставшимся тестовом наборе Cu, включая визуальную диагностику динамики подгонки и тренировки, (3) детальное исследование абляции для деконструкции влияния архитектурной сложности и (4) критический тест о...

Discussion

Эмпирические результаты, представленные в разделе «Результаты», дают ясный и последовательный ответ на наш основной исследовательский вопрос: для ежедневного прогнозирования цен на цветные металлы в реалистичном, ограниченном режиме (2602 наблюдения, унивариантные входы, горизонт на шаг вперед) самая простая архитектура глубокого обучения — ГРУ — стабильно и значительно превосходит широкий спектр более сложных моделей. К ним относятся гибридные CNN, двунаправленные RNN, ...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Набор данных	Ежедневная серия цен на медь (Cu) и ndash; Один из трёх целевых металлов; также часть многомерных функций ввода.	Шанхайский рынок металлов (SMM), публичный доступ	Данные о ценах SMM; столбец = Cu; тип цены = спот; частота = суток; единица = юань/тонна; Диапазон времени = 2015-01-05 по 2025-09-12; RRID: не применимо
Набор данных	Ежедневная серия спотовых цен на алюминий (Al) и панель; Один из трёх целевых металлов; также часть многомерных функций ввода.	Шанхайский рынок металлов (SMM), публичный доступ	Данные о ценах SMM; столбец = Al; тип цены = спот; частота = суток; единица = юань/тонна; Диапазон времени = 2015-01-05 по 2025-09-12; RRID: не применимо
Набор данных	Ежедневная серия спотовых цен на цинк (Zn) и ndash; Один из трёх целевых металлов; также часть многомерных функций ввода.	Шанхайский рынок металлов (SMM), публичный доступ	Данные о ценах SMM; столбец = Zn; тип цены = спот; частота = суток; единица = юань/тонна; Диапазон времени = 2015-01-05 по 2025-09-12; RRID: не применимо
Набор данных	Предварительно обработанный многомерный набор цен на металлы и DASH; Хронологически отсортированы и очищены серии Cu, Al, Zn после обработки пропущенных значений и построения скользящих окон (L = 30, h = 1).	Автор, генерированный на основе данных SMM	Хранится в хранилище Zenodo (DOI: 10.5281/zenodo.19976985); Файл: Data.csv; RRID: не применимо
Программное обеспечение	Язык программирования Python – Основной язык для обработки данных, реализации моделей, оценки и генерации рисунков/таблиц.	Фонд программного обеспечения Python / Anaconda	Python 3.10.19; Распространение анаконды; РРИД: SCR_008394
Программное обеспечение	TensorFlow/Keras – Фреймворк глубокого обучения для реализации моделей GRU, LSTM, BiGRU, BiLSTM, CNN-hybrid, attention и Transformer.	TensorFlow / Keras	TensorFlow 2.20.0; РРИД: SCR_016345
Программное обеспечение	NumPy – Численная обработка массив и матричные операции.	Сообщество с открытым исходным кодом	NumPy 1.26.4; РРИД: SCR_008633
Программное обеспечение	Панды и Ндаш; Загрузка данных, табличная обработка и обработка выводов в CSV/Excel.	Сообщество с открытым исходным кодом	панды 2.3.3; РРИД: SCR_018214
Программное обеспечение	scikit-learn и ndash; Метрики оценки, предобработка и утилиты машинного обучения.	Сообщество с открытым исходным кодом	scikit-learn 1.7.2; РРИД: SCR_002577
Программное обеспечение	StandardScaler (нормализация z-score) и ndash; Стандартизация признаков применяется с использованием статистики обучающего набора.	scikit-learn	Включено в scikit-learn 1.7.2; РРИД: SCR_002577
Программное обеспечение	Random Forest – Базовая реализация машинного обучения (RandomForestRegressor).	Сообщество с открытым исходным кодом	scikit-learn 1.7.2; РРИД: SCR_002577
Программное обеспечение	statsmodels и ndash; Базовая реализация ARIMA.	Сообщество с открытым исходным кодом	statsmodels 0.14.6; РРИД: SCR_016074
Программное обеспечение	Arch – Базовая реализация GARCH.	Сообщество с открытым исходным кодом	arch 8.0.0; RRID: недоступен
Программное обеспечение	XGBoost – Реализация базовой регрессии XGBoost.	Сообщество с открытым исходным кодом	XGBoost 3.1.2; РРИД: SCR_025884
Программное обеспечение	Модель трансформатора и приборная панель; Базовая архитектура глубокого обучения для сравнения.	TensorFlow / Keras	Реализовано с использованием TensorFlow 2.20.0; РРИД: SCR_016345
Программное обеспечение	Callbacks Keras (ReduceLROnPlateau) и dash; Планировщик скорости обучения, используемый во время обучения.	TensorFlow / Keras	Включено в TensorFlow 2.20.0; РРИД: SCR_016345
Программное обеспечение	Matplotlib – Генерация и экспорт фигурок в PDF/SVG/PNG.	Сообщество с открытым исходным кодом	Matplotlib 3.10.6; РРИД: SCR_008595
Программное обеспечение	openpyxl – Поддержка генерации и экспорта рабочих тетрадей Excel.	Сообщество с открытым исходным кодом	openPYXL 3.1.5; RRID: недоступен
Код	GRU.py – Полная реализация всех 13 моделей глубокого обучения, сравнение Transformer, базовые линии ARIMA/GARCH/XGBoost/Random Forest, Diebold и dash; Тесты Мариано и генерация фигур.	Автор	Доступно в Zenodo (DOI: 10.5281/zenodo.19976985); RRID: не применимо
Код	README_reproducibility.md – Инструкции воспроизведения и пошаговый протокол.	Автор	Доступно в Zenodo (DOI: 10.5281/zenodo.19976985); RRID: не применимо
Код	requirements.txt – Программные зависимости и точные спецификации версии.	Автор	Доступно в Zenodo (DOI: 10.5281/zenodo.19976985); RRID: не применимо
Аппаратное обеспечение	Вычислительная рабочая станция – Всё это обучение моделей, валидация, тестирование и генерация рисунков и таблиц.	ASUSTeK COMPUTER INC. (ROG Strix G634JZ_G634JZ)	Windows 11 Home 10.0.26200 сборка 26200; ПК на базе x64; RRID: не применимо
Аппаратное обеспечение	CPU – Центральный процессор для обучения и выводов.	Intel	Intel64 Family 6 Модель 183 Stepping 1, ~2,20 ГГц; RRID: не применимо
Аппаратное обеспечение	RAM – Физическая память для всех вычислительных задач.	Рабочая станция ASUSTeK	32 387 МБ (~32 ГБ); RRID: не применимо
Аппаратное обеспечение	Ускорение GPU и приборная панель; Статус использования графических процессоров.	Запрос по устройству TensorFlow	tf.config.list_physical_devices('GPU') возвращает []; CUDA/cuDNN не используется; RRID: не применимо
Реагент/Модель	Random seed (основной эксперимент) – Фиксированное семя для воспроизводимости стохастических элементов.	Python random / NumPy / TensorFlow	Посев = 42; RRID: не применимо
Реагент/Модель	Случайные сиды (тест на устойчивость) и тире; Дополнительные засечки для многофункциональной проверки стабильности.	Python random / NumPy / TensorFlow	Посева = {1, 7, 21, 42, 2024}; RRID: не применимо