Для просмотра этого контента требуется подписка на JoVE. Войдите или начните свой бесплатный пробный период.

Исследовательская статья

Гибридное глубокое обучение с интерпретацией, основанной на внимании, для прогнозирования PM2.5 в городских условиях Дели

206 просмотров

⸱

DOI:

10.3791/71004

⸱

7 августа 2026 г.

 ,  ,  ,  ,  ,  , 
1Department of AI&DS, Vignan's Institute of Information Technology, 2Vignan's Institute of Information Technology, 3Department of Computer Science and Engineering, Vignan's Institute of Information Technology, 4Department of Computer Sciences, College of Computer and Information Sciences, Princess Nourah bint Abdulrahman University, 5Department of Software Engineering, College of Computer Engineering and Science, Prince Mohammad Bin Fahd University, 6Computer Science Department, Faculty of Computers and Information, Qena University

В этой статье

Краткое содержание

CORTA (Correlation Optimized Ranked Transfer-Attention)-Net — гибридная фреймворк глубокого обучения для краткосрочного прогнозирования PM₂.₅ в Дели. Модель сочетает выбор признаков CorrXGBoost-Rank, трансферное обучение с сетями длительной краткосрочной памяти и многоголовое внимание для интерпретации на уровне времени и признаков, а также использует данные о качестве воздуха, метеорологии и спутниковых данных о подсчёте пожаров для улучшения прогнозирования PM2.5.

Аннотация

Краткосрочное прогнозирование PM2.5 в Дели сложно, поскольку концентрация твердых частиц зависит от местных выбросов, метеорологических колебаний, сезонной стагнации и эпизодического загрязнения, связанного с пожарами. В данном исследовании представлена CORTA-Net — гибридная фреймворк глубокого обучения для прогнозирования PM2.5 с использованием многоисточниковых экологических данных с 2012 по 2024 год. Входные данные включают ежечасные наблюдения качества воздуха с станций мониторинга CPCB (Центральный совет по контролю загрязнения) / DPCC (Комитет по контролю загрязнения Дели), метеорологические переменные от Метеорологического департамента Индии (IMD) и спутниковые данные о подсчёте пожаров из продуктов MODIS (Spectroradiometer Medium Resolution Imaging Imaging Spectroradiometer). Предлагаемая структура сначала применяет выбор признаков CorrXGBoost-Rank для снижения избыточных предикторов и сохранения важных загрязнителей, метеорологических, временных и связанных с пожарами переменных. Выбранные признаки затем организуются в виде контролируемых последовательностей скользящих окон и обрабатываются с помощью кодировщика LSTM на основе трансферного обучения, за которым следует многоголовый слой внимания. Механизм внимания обеспечивает интерпретацию прогноза PM2.5 на уровне характеристик и временных шагов. CORTA-Net оценивался с использованием хронологического обучения, тестирования и валидационных разделов, а также кросс-валидации. В сравнении с базовыми линиями случайного леса, XGBoost, LSTM и внимание-LSTM, предлагаемая структура снизила ошибку прогноза в условиях оцениваемой мониторинговой станции Дели. Новизна CORTA-Net заключается в сочетании явного скрининга признаков CorrXGBoost-Rank, временного кодирования на основе трансферного обучения, интеграции MODIS с огневой активностью и многоголового анализа поведения моделей в одном воспроизводимом конвейере прогнозирования PM2.5 . На практике эта структура может поддерживать краткосрочные прогнозы качества городского воздуха в условиях мониторинга, богатых данными, где доступны записи загрязнителей, метеорологические наблюдения и индикаторы пожарной активности.

Введение

Мелкие твердые частицы с аэродинамическим диаметром ≤ 2,5 мкм (PM2,5) являются важной проблемой качества воздуха в Дели, поскольку на них влияют локальныевыбросы 1,2,3, региональныйтранспорт 4, сезоннаяметеорология 5 и эпизодические события сжиганиябиомассы 6. В послемуссонные и зимниепериоды 7 низкая скоростьветра 8, мелководные условияпограничного слоя 9 и инверсия температуры могут уменьшить распространение загрязняющих веществ и увеличить накопление частиц. Прогнозирование краткосрочного PM2.5 сложно из-за присущего нелинейному, сезонному и резкому высокозагрязнённому явлению временнойсерии 10. Предыдущие исследования по прогнозированию PM2.5 использовали статистические модели, модели машинного обучения и модели рекуррентных нейронныхсетей 11. Статистические методы могут быть полезны для определения тенденций и сезонности данных12, но могут не полностью учитывать нелинейные взаимодействия между загрязнителями иметеорологией 13. Модели машинного обучения, такие как случайные леса и XGBoost, могут использоваться для моделирования нелинейныхвзаимосвязей 14; однако обычно они не имеют временной зависимости, если не разработаны задержки. Долгосрочные краткосрочные (LSTM) нейронные сети способны моделировать как временную зависимость, так и нелинейныевзаимосвязи 15.

Сети долгосрочной краткосрочной памяти могут моделировать временныепаттерны 16, но их производительность может зависеть от нестационарных условий и резкого загрязненияэпизодов 17. Современные подходы, основанные на внимании и трансформеры, улучшают временноепредставление 18, но многие из них напрямую обрабатывают все кандидатные переменные и обеспечивают ограниченный контроль над избыточностью признаков до моделированияпоследовательностей 19,20. Хотя трансформерные и гибридные модели глубокого обучения недавно улучшили PM2.5 иAQI 21, их вклад часто сосредоточен на обучении временномупредставлению 22, построению пространственныхграфов 23, слияниюмоделей 24 или оптимизации. Многие такие модели напрямую используют доступный многомерный набор входов и возлагают основную нагрузку на модельпоследовательности 25. Это может увеличить избыточность входных данных, снизить интерпретируемость и затруднить определение того, возникают ли улучшения за счёт временного моделирования, скрининга признаков, внешних индикаторов окружающей среды или взвешивания на основе внимания. Таким образом, CORTA-Net позиционируется как фреймворк прогнозирования на уровне рабочих процессов, а не как новый автономный нейронный уровень26. Её отличие заключается в упорядоченной интеграции из четырёх этапов: скрининг признаков CorrXGBoost-Rank перед моделированием последовательностей, кодирование LSTM с трансферным обучением для временной адаптации, включение подсчёта пожаров, основанных на MODIS, для эпизодического влияния на сжигание биомассы, и многоголовое внимание для интерпретации поведения модели на уровне признаков и временных шагов. Эта конструкция позволяет структуре оценивать как точность прогнозирования, так и вклад выбранных переменных загрязнителей, метеорологических, временных и пожарной активности при одной и той же установке мониторинговой станцииДели 27.

Недавние достижения в прогнозировании качества воздуха всё чаще используют гибридные модели глубокого обучения, механизмы внимания, обучение на основеграфов и архитектуры трансформеров для фиксации нелинейных временных и пространственныхзависимостей 29. Эти подходы повысили результаты прогнозирования за счёт изучения долгосрочных зависимостей и назначения адаптивных весов временным шагам или входнымпеременным 30. Однако многие современные модели всё ещё зависят от больших входных наборов признаков, не уменьшают явно избыточные предикторы до временного моделирования или не включают внешние индикаторы активности огня, когда важны эпизодические эффекты сжигания биомассы. CORTA-Net устраняет этот пробел, объединяя скрининг признаков, кодирование LSTM с обучением по передаче, интеграцию подсчёта пожаров на основе MODIS и многоголовое внимание в едином рабочем процессе прогнозирования.

В этом исследовании CORTA-Net представлен как воспроизводимый гибридный конвейер прогнозирования PM2.5 , а не как новый слой нейронных сетей. Фреймворк объединяет четыре этапа: выбор признаков CorrXGBoost-Rank, временное кодирование LSTM на основе трансферного обучения, интеграция с подсчётом огня на основе MODIS и многоголовый анализ поведения моделей на основе внимания. CorrXGBoost-Rank сначала снижает избыточные загрязнители и метеорологические переменные перед моделированием последовательностей. Выбранные признаки затем организуются в последовательности скользящих окон и обрабатываются с помощью кодировщика LSTM с обучением передачи. Переменные MODIS по количеству пожаров включены в качестве внешних индикаторов региональной активности пожаров, а многопрофильный уровень внимания используется для изучения того, какие недавние временные шаги и входные переменные наиболее влияют на прогноз. Фреймворк подходит для условий, где непрерывные наблюдения PM2.5 доступны как минимум с одной мониторинговой станции, желательно с несколькими годами почасовых данных. Также он получает выгоду от метеорологических наблюдений и спутниковых данных о подсчёте пожаров, когда влияние регионального биомассового сжигания имеет значение. Поэтому CORTA-Net предназначен для насыщенных данными условий прогнозирования качества городского воздуха и может быть неподходящим для мест с редкими, нерегулярными или краткосрочные мониторинговые записи.

Дели был выбран для изучения из-за повторяющихся высоких уровней PM₂.₅ в послемуссонный и зимнийпериоды 31. Город страдает от транспорта, промышленной активности, выбросов от жилых объектов, метеорологического стагнации и региональных сельскохозяйственных пожаров. Для этого исследования использовались четыре мониторинговые станции: сектор Дварка 8, Ананд Вихар, Мундка-DPCC и Соня Вихар. Каждая станция представляет собой разный тип городской микросреды: жилую зону, зону влияния на движение и зону с промышленным эффектом. Наблюдения, проведённые на каждой станции мониторинга в период с 2012 по 2024 годы, представлены на дополнительном рисунке 1. Обучение модели проводилось на данных с 2015 по 2022 год, а тестирование — на данных 2023 года как для разработки модели, так и для валидациимодели 32 по собранным в 2024 году. Используемые в качестве входных параметров включали PM2.5, PM10, NO,NO 2, NOx, CO, бензол, температуру воздуха, скорость ветра, солнечную радиацию и барметрическое давление, и определялись на основе доступных наобъекте 33. Данные о пожарах, полученные от MODIS, использовались как внешняя переменная, отражающая уровень пожарной активности в этом районе. Таблица 1 содержит сводку статистики концентрации PM₂.₅ с каждой из четырёх мониторинговых станций.

Набор данныхНазвание станцииЗлойSTDМин25%50%75%Макс
1Сектор Дварка 898.2479.127.5238.6570.83133.47588.15
2Ананд Вихар115.8789.428.9149.2884.36152.89574.92
3Mundka-DPCC113.6291.054.2143.5886.74158.42682.31
4Соня Вихар101.3580.255.8042.1575.60138.75565.40

Таблица 1: Сводная статистика концентрации PM₂.₅ на четырёх мониторинговых станциях Дели .В таблице 1 представлены средние уровни PM2.5 (мелкочастицы), измеренные на четырёх мониторах в Дели. PM2.5 состоит из воздушных загрязнителей размером менее 2,5 микрона в диаметре и, следовательно, достаточно мал, чтобы легко вдыхаться глубоко в лёгкие, что создаёт различные потенциальные опасности для здоровья.

Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.

Протокол

Методология
Была построена модель с контролируемым скользящим окном для прогнозирования будущего значения PM2.5 на момент времени t + 1 на основе предыдущих почасовых наблюдений. Длины окна ввода кандидатов — 12, 24 и 48 часовых шагов — оценивались с помощью производительности валидации, а окончательная конфигурация CORTA-Net использовала 24-часовую последовательность ввода. Для заполнения недостающих значений использовалась линейная интерполяция; выбросы удалялись с помощью метода IQR; и все переменные масштабировались с помощью нормализации min-max перед генерацией задерживающихся функций PM2.5 . Затем для выбора признаков применялась процедура CorrXGBoost-Rank. Во-первых, корреляционная фильтрация Пирсона сохраняла переменные с |r| ≥ 0.30. Во-вторых, крайне избыточные пары признаков с парной корреляцией |corr(x i, xj)| ≥ 0,85 были отфильтрованы для снижения мультиколлинеарности. В-третьих, регрессор XGBoost был обучен на оставшихся переменных, а предикторы с оценками важности на основе усиления XGBoost ≥ 0,015 были сохранены для итогового входа модели. Окончательная архитектура CORTA-Net состояла из слоёв LSTM для временного кодирования, многоголового слоя внимания для взвешивания на уровне признаков и временных шагов, а также плотных регрессионных слоёв для оценки PM2.5 . Модель была обучена с использованием оптимизатора Адама с потерями ошибки в среднем квадрате и ранней остановкой. Оценка модели проводилась с использованием RMSE иR 2 в рамках обучения, валидации, тестирования и 10-кратных перекрестных валидационных разделов. Таблица 2 представляет сводку предварительной обработки данных и инженерии характеристик.

ШагИспользуемый методПараметр / порогНазначение
Расчёт отсутствующего значенияПроцент пропущенных наблюденийОтчёт по переменным процентамКоличественно определяет полноту данных
Импутация короткого разрываЛинейная интерполяцияДлина зазора ≤ 6 чЗаполняет короткие пропущенные интервалы
Обнаружение выбросовМетод IQRQ1 − 1,5 × IQR, Q3 + 1,5 × IQRУдаляет недопустимые экстремальные значения
НормализацияМинимальное масштабированиеТренировочные наборы минимум и максимумСтандартизация диапазона функций
PM₂.₅ лагиЗадержки переменныхлаг₁, лаг₂, лаг₃Фиксирует временную устойчивость
Статистика перекатыванияСкользящие средние3 часа, 6 часов, 12 часов, 24 часаФиксирует краткосрочное накопление
Функция подсчёта пожаровПОДСЧЁТ МОДИСчёт в тот же день / предыдущий деньОтражает влияние региональных пожаров

Таблица 2: Предварительная обработка данных и сводка по инженерии признаков. В Таблице 2 обработка данных осуществляется двумя способами: во-первых, через очистку и преобразование исходных данных (предварительную обработку), а во-вторых, через инженерию признаков для создания/выбора/изменения характеристик (особенностей). В совокупности эти два процесса помогают устранить или уменьшить шум; обрабатывать отсутствующие значения; повысить согласованность данных; и создавать более предсказательные модели.

Параметры нормализации оценивались только из обучающего набора и затем применялись без изменений к наборам тестирования и валидации, чтобы избежать утечек информации.

Математическая формулировка CorrXGBoost-rank
Пусть X = {x1,x 2, ...,x n} обозначает множество кандидатов входных переменных, а y — целевую концентрацию PM₂.₅. Для каждого признака xi коэффициент корреляции Пирсона с целевой переменной рассчитывался следующим образом:

figure-protocol-1(1)

где CoV(xi, y) — ковариация между признакомx i и целевой единицей y, а σxi и σy — их стандартные отклонения. Сохранившиеся функции, удовлетворяющие ими: |ri| ≥ τr , где τr = 0,30 в этом исследовании.

Парные корреляции рассчитывались среди всех сохранившихся features_xi, xj, и если |corr(xi, xj)| >= τкрасный, где τкрасный = 0,85, признак с меньшей абсолютной корреляцией к цели PM2,5 исключается из набора признаков. Этот процесс уменьшает переменные из набора признаков, обладающие мультиколлинеарностью. Затем к оставшимся признакам была подгонена регрессорная модель XGBoost, и оценки важности признаков рассчитывались для каждой с использованием важности XGBoost, а также признаков, удовлетворяющих i_i ≥ τxgb, где τxgb = 0,015, сохранялись в итоговом наборе признаков (S), определяемом какS final=S corr ∪ Sxgb, то есть набор признаков, определяемый фильтрацией по избыточности по корреляции и удалением любых признаков на основе важности переменной XGBoost. Общий подход, используемый при выборе признаков, таков: вычислить целевые признаки попарно корреляцию Пирсона, отбрасывать признаки с |r_i|< 0,30, отбрасывать признаки с парами с парными корреляциями ≥ 0,85, подгонять XGBoost к оставшимся признакам, сохранять признаки с показателем важности XGBoost ≥ 0,015, определить окончательные желаемые признаки Sfinal=Scorr ∪ Sxgb, где Scorr — это признаки, сохраняющиеся после избыточной корреляционной фильтрации, а Sxgb — признаки, выбранные с помощью оценки важности функций XGBoost. Таким образом, рабочий процесс CorrXGBoost-Rank таков: вычислить корреляцию Пирсона с целевой характеристикой, удалить признаки с |ri| < 0.30 убрать высоко избыточные признаки с парной корреляцией ≥ 0.85, обучить XGBoost на оставшихся переменных, сохранить переменные с показателем важности XGBoost ≥ 0.015 и использовать объединение выбранных переменных по корреляции и выбранных XGBoost переменных в качестве окончательного набора признаков. Параметры, используемые в этом исследовании: τr = 0,30, τкрасный = 0,85 и τxgb = 0,015.

Источники данных
Авторы интегрировали три больших набора данных для исследования; это данные о загрязнителях воздуха (PM2.5, PM10,NO 2, CO и SO₂), которые авторы получили через мониторинг качества воздуха CPCB (Центральный совет по контролю загрязнения) / DPCC (Комитет по контролю загрязнения Дели), метеорологические данные (температура, влажность, скорость/направление и давление ветра) от индийского метеорологического департамента (IMD) и спутниковая информация об активных пожарах из MODIS Active Fire Products от NASA. Эти три набора данных охватывают 12-летний период с января 2012 по декабрь 2023 года и, таким образом, представляют разные типы выбросов. Пожарные инциденты способствуют загрязнению воздуха, как показано на дополнительном рисунке 2, где показаны тенденции FIRECOUNT с 2012 по 2024 год.

Долгосрочные тенденции загрязнителей за период исследования
Рисунок 1 показывает долгосрочные тенденции загрязнителей за годы исследования (2012–2024). Годовые подсчета пожаров и средние концентрации PM₂.₅ в период с 2012 по 2024 годы имеют умеренно сильную положительную связь (r = 0,688), что указывает на то, что более высокая активность пожаров обычно связана с более высокой концентрацией PM₂.₅. Как измеряемые, так и прогнозируемые данные PM₂.₅ следуют схожей тенденции, что подтверждает идею о сжигании биомассы способствующего загрязнению частицами. Хотя существует значительная межгодовая вариабельность, выбросы, связанные с пожаром, являются важным фактором в определении вариабельности PM₂.₅, что подчёркивает необходимость регионального управления пожарами для улучшения качества воздуха. Автокорреляция прогнозируемого PM2.5 на тридцати задержках, показанная на дополнительном рисунке 3, имеет значительную положительную автокорреляцию почти на всех тридцати задержках, что подтверждает, что PM2.5 в Дели обладает сильной временной зависимостью и многодневной персистентностью.

figure-protocol-2
Рисунок 1: Долгосрочные тенденции PM₂.₅ и подсчёт пожаров с 2012 по 2024 год. Рисунок 1 сравнивает годовое изменение количества пожаров с наблюдаемыми и прогнозируемыми концентрациями PM₂.₅. PM₂.₅ сообщается в мкг/м 3. FIRECOUNT отражает огневую активность, полученную от спутников, из продуктов MODIS. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Декомпозиция STL (сезонная и трендовая декомпозиция с использованием лёсса)
STL, или сезонная и трендовая декомпозиция с использованием Лёсса, — это итеративный алгоритм, позволяющий разбить данные временных рядов на три аддитивных компонента, как показано на рисунке 2: тренд (долгосрочный тренд) (рисунок 2A), (рисунок 2D), (рисунок 2G), (рисунок 2J), сезонный (циклический период) (рисунок 2B), (рисунок 2E), (рисунок 2H), (рисунок 2K) и остаток (шум/остаточный) (рисунок 2C), (Рисунок 2F), (Рисунок 2I), (Рисунок 2L). STL доказала свою эффективность в работе со сложными нелинейными характеристиками экологических данных (например, PM2.5), для которых многие другие аналитические методы не справились из-за переменных амплитуд сезонного сигнала и наличия выбросов. Сглаживание LOESS позволяет точно разделять эти компоненты, обеспечивая более чёткую интерпретацию тенденций или закономерностей. С помощью обработки STL можно отделить более широкие восходящие тенденции PM2.5 от более коротких дневных/сезонных циклов и от нестабильных остаточных в этих циклах. Такое разделение позволяет определить, какие выбросы повлияли на PM2.5, а какие метеорологические факторы повлияли на PM2.5. Результаты этого разделения помогают точно прогнозировать будущие выбросы PM2.5 ; предоставлять данные для регуляторных решений; и соответствовать стандартам, установленным для строгой деагрегации данных временных рядов для исследований качествавоздуха 34. Средние суточные измерения концентрации PM2.5 , проведённые на станциях мониторинга в Дели с 2012 по 2024 год, показывают минимальные изменения уровня PM2.5 (то есть отсутствие значимых изменений с 2022–24 годов) и крайне ограниченное стабильное поведение (или согласованность уровней PM2.5 в четырёх точках мониторинга). Уровни PM2.5 в секторе Дварка 8 и Мундка-DPCC демонстрируют устойчивую нисходящую тенденцию (то есть продолжают снижаться), в то время как Ананд Вихар демонстрирует тенденцию к росту (то есть значительный рост), а Соня Вихар — небольшой восходящий тренд (с очень небольшого роста с 2022 года). Кроме того, остатки суточных концентраций PM2.5 для каждой из четырёх мониторинговых станций показали, что концентрации PM2.5 сильно зависели от сезонных (метеорологических) изменений, которые приводили к значительным колебаниям среднесуточных концентрацийPM 2.5 для отдельных станций. Ежедневные концентрации PM2,5 для Четырёх мониторинговых станций в Дели (2012–2024) показаны на рисунке 2.

figure-protocol-3
Рисунок 2: Сезонное и трендовое разложение с использованием лёсса (STL) ежедневных концентраций PM₂.₅ на четырёх мониторинговых станциях Дели с 2022 по 2024 год.Временные ряды для каждой станции мониторинга разлагаются на три аддитивных компонента: долгосрочный тренд, сезонные изменения и остаточные (остатки). (A) Компонент тренда для сектора Дварка 8. (B) Сезонный компонент для сектора Дварка 8. (C) Остаточный компонент для сектора Дварка 8. (D) Компонент тренда для Ананда Вихара. (E) Сезонный компонент для Ананда Вихара. (F) Остаточный компонент для Ананда Вихара. (G) Компонент тенденции для Mundka-DPCC. (H) Сезонный компонент для Mundka-DPCC. (I) Остаточный компонент для Mundka-DPCC. (J) Трендовый компонент для Сони Вихар. (K) Сезонный компонент для Сонии Вихар. (L) Остаточный компонент для Сонии Вихар. STL, сезонная и трендовая декомпозиция с использованием лёсса. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Рисунок 2 демонстрирует временное разложение ежедневных концентраций PM2.5 в четырёх городских мониторинговых точках в 2022–2024 годах, выявляя закономерности долгосрочных снижений, постепенного увеличения и значительных суточных изменений. Эти различия в значительной степени связаны с физическим воздействием погоды, то есть изменениями высоты пограничного слоя планеты (PBL), такими как дневное расширение, увеличивающее вертикальное рассеяние и снижение концентраций, а также ночное сжатие, оставляющее загрязнители близко к земле и создавая более высокий пик ночью. Другие метеорологические влияния связаны с выбросами локальной человеческой активности, связанными с часами наибольшего объёма (утренние/вечерние пики), промышленностью и их взаимодействием с: специфическими для мест факторами, такими как местный рельеф, скорость ветра, относительная влажность и сезон (то есть большая корреляция зимой), которые создают специфические для станции изменения, а общие долгосрочные снижения могли быть вызваны регуляторным контролем выбросов, что в целом привело к нисходящим тенденциям.

Корреляция между признаками
Рисунок 3 показывает распределение всех входных признаков, используемых в модели CORTA-Net. В панелях переменные загрязнителей (PM10 (рисунок 3A), NO₂ (рисунок 3B), CO (рисунок 3C), SO₂ (рисунок 3D)) показывают распределения с правым уклоном, типичные для городских данных по качеству воздуха, тогда как O₃ (рисунок 3E) и давление (рисунок 3I) демонстрируют почти нормальные закономерности35. Температура (рисунок 3F) демонстрирует чёткую бимодальную сезонную структуру, влажность (рисунок 3G) следует широкому равномерному распределению, а скорость ветра (рисунок 3H) — легкохвостое распределение. Эти закономерности подчёркивают гетерогенное статистическое поведение предикторов и оправдывают необходимость инженерии признаков и нормализации перед обучением модели.

figure-protocol-4
Рисунок 3: Распределение входных признаков, используемых в модели CORTA-Net, включая концентрации загрязнителей воздуха и метеорологические переменные. Распределения иллюстрируют статистические характеристики предикторов до предварительной обработки и обучения модели. (A) Концентрация PM₁₀. (B) Концентрация NO₂. (C) Концентрация CO. (D) концентрация SO₂. (E) Концентрация O₃. (F) Температура воздуха. (G) Относительная влажность. (H) Скорость ветра. (I) Атмосферное давление. Переменные загрязнителей, особенно PM₁₀, NO₂, CO и SO₂, демонстрируют правонаправленные распределения, типичные для городских данных по качеству воздуха, тогда как O₃ и атмосферное давление показывают примерно нормальные распределения. Температура демонстрирует бимодальную сезонную схему, влажность широко распределена, а скорость ветра сосредоточена на более низких значениях с легкохвостым распределением. Эти гетерогенные распределения признаков поддерживают использование инженерии признаков и нормализации до разработки модели. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Рисунок 4 показывает рейтинг XGBoost по важности признаков на основе прироста после предварительной обработки CorrXGBoost-Rank для прогнозирования PM₂.₅. Текущий график важности признака показывает, что предыдущий день PM₂.₅ является самым высоким предиктором с оценкой важности 0.280, за ним следуют PM10 = 0.180, FIRECOUNT = 0.150, NO₂ = 0.120, CO = 0.080, скорость ветра = 0.070, температура = 0.040, влажность = 0.030 и день года = 0.020. Пунктирная вертикальная линия соответствует фактическому порогу выбора функций XGBoost в 0,015. Предикторы с показателями важности выше или равными 0,015 были сохранены для окончательного входного набора CORTA-Net, тогда как предикторы ниже этого порога, включая SO₂ = 0,010, O₃ = 0,010, давление = 0,005, осадки = 0,005, выходные = 0,002 и праздничные = 0,001, были исключены. Эти значения представляют собой показатели важности признаков на основе XGBoost и не должны интерпретироваться как коэффициенты корреляции Пирсона или причинные эффекты.

Таким образом, в модель включались только те признаки, которые получили вклад выше этого порога. Модели XGBoost используют ансамбль деревьев решений, которые итеративно строят дерево для минимизации функции потерь, известную как градиентное бустинг. XGBoost вычисляет важность признаков по одной из трёх метрик: усиление (насколько разделение признака улучшает производительность модели), вес (сколько раз признак был выбран как сплит для дерева) или покрытие (количество наблюдений, на которые влияет разделение). Модель XGBoost была построена на данных, связанных с качеством воздуха (загрязнители, метеорологические переменные), и сосредоточена на отстающем PM2.5 до авторегрессивного прогнозирования PM2.5, что часто встречается в моделях PM2.5 для Дели, и помогает фиксировать временную устойчивость PM2.5. Delhi_PM2.5 является значительным фактором благодаря высоким автокорреляционным характеристикам мелких частиц, что также указывает на наличие инерции загрязнения от последовательных источников выбросов. Скорость ветра является значительным фактором, поскольку она обеспечивает механизм рассеивания загрязнителей; в то время как низкий ветер позволяет загрязнителям накапливаться зимой, когда присутствуют инверсии. NO 2 коррелирует с PM2.5 из-за трафика/выбросов, а день года указывает на годовой цикл выбросов загрязнителей (то есть снижение выбросов в выходные). В Дели PM2.5 обладает высокой самостойкостью из-за застойной зимней метеорологии и постоянных выбросов от транспортных средств, промышленности ибиомассы 28. Ветер способствует рассеиванию аэрозолей, но слабый ветер < 2 м/с способствовал увеличению накопления PM2.5 из-за инверсий. Связь междуNO 2 и PM2.5 является результатом их общего происхождения (то есть сгорания) и подвержена временным влияниям (например, ежедневно или еженедельно)36. Четыре основных фактора, объясняющих 93% и более вариаций AQI, — это изменения концентрации загрязняющих веществ из-за задержки накопления PM2.5 (93%+) и низких скоростей ветра, удерживающих выбросы, выбросовNO 2/PM от транспортных средств и промышленности, а также ежедневных колебаний объёматрафика 37. Кроме того, география Дели является фактором, способствующим сохранению инверсий в этом районе и, следовательно, усугубляет концентрацию PM2.5 . Настройка гиперпараметров, регуляризация и добавление дополнительных переменных (например, температуры) помогут снизить вероятность переподгонки и повысят общую производительность модели. Внедрение операционных стратегий по снижению выбросов PM должно включать введение ежедневных лимитов выбросов PM, использование устройств с мониторингом наличия PM в реальном времени и использование ветра для рассеивания PM через городскую зеленую зону.

figure-protocol-5
Рисунок 4: Рейтинг по важности признаков на основе прироста XGBoost после скрининга признаков CorrXGBoost-Rank для прогнозирования PM₂.₅ . Предикторные полосы расположены в порядке убывания важности. Пунктирная вертикальная линия соответствует фактическому порогу выбора функций XGBoost в 0,015. Предикторы с баллами ≥ 0,015 были сохранены для окончательного входного набора CORTA-Net, тогда как предикторы ниже этого порога были исключены. Рейтинг используется для скрининга признаков и интерпретации поведения модели и не должен интерпретироваться как причинная атрибуция. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Архитектура модели CORTA-net
Рисунок 5 представляет предложенную модель прогнозирования PM2.5 . Дополнительные рисунки 4 и 5 иллюстрируют внутреннюю структуру блока LSTM и представляют блок-схему Multi-Head Attention. Все источники данных (то есть окружающие условия, метеорологические наблюдения, активность пожаров, а также временные и контекстуальные аспекты данных) прошли предварительную обработку, чтобы убедиться, что они временно совпадают, имеют отсутствующие данные (при необходимости) и были подвергнуты как удалению выбросов, так и нормализации перед их применением в процессах построения моделей. Архитектура модели, инженерия признаков, конфигурация обучения, конфигурация данных, трансферное обучение, метрики оценки, прогнозы на будущее и детали реализации приведены в Дополнительной таблице 1. С помощью модуля CorrXGBoost-Rank оптимальный набор признаков определяется до того, как часть из них будет введена в архитектуру LSTM, что было усилено за счёт включения многоголовых уровней внимания для учёта поведения временных рядов на этапе моделирования. Как прогноз PM2.5 , так и PM2.5 отмечают важность входных характеристик, а также массовые веса внимания в виде карт внимания были предоставлены в качестве выходных данных. Внутренняя структура блока LSTM и многоголовная блок-схема внимания включены в качестве дополнительных рисунков 4 и 5 соответственно, а дополнительная таблица 1 содержит параметры архитектуры для каждого типа слоя в этой архитектуре.

figure-protocol-6
Рисунок 5: Общая архитектура модели прогнозирования CORTA-Net PM₂.₅. Процесс входного прогноза включает данные от индикаторов качества воздуха, погодных индикаторов, временных индикаторов и индикаторов подсчёта пожаров MODIS (Medium Resolution Imaging Spectroradiometer). Для каждого из этих этапов алгоритм выравнивал временные метки, обрабатывал отсутствующие значения, фильтровал выбросы, нормализировал данные и проектировал признаки. Окончательные предикторы были выбраны с помощью процесса CorrXGBoost-Rank. Впоследствии выбранные функции помещались в скользящие окна временной последовательности и проходили через кодировщик LSTM (Long Short-Term Memory) с использованием трансферного обучения. Для каждого признака и шага времени многоголовый механизм внимания применяет веса перед отправкой совокупного выхода в финальный регрессионный плотный слой для получения прогноза PM₂.₅. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Обучение и оценка
Для формирования наблюдаемых учебных последовательностей использовался подход с раздвижным окном. Обучение использовало оптимизатор Адама и среднеквадратичную потерю ошибок (Дополнительная таблица 2). Производительность модели оценивалась с помощью RMSE иR 2 в обучающих, валидационных, тестовых и кросс-валидационных разделах. Архитектура модели, инженерия особенностей, конфигурация обучения, конфигурация данных, трансферное обучение, метрики оценки, прогнозы будущего и детали реализации приведены в таблице 1. Рисунок 6 представляет собой обучающую диагностику модели прогнозирования CORTA-Net PM₂.₅. На панелях рисунок 6A показывает кривые потерь для обучения и валидации, демонстрирующие прогрессирующее снижение ошибок с оптимальной остановкой на эпохе 106. Эволюция пробела обобщения при оценке анализа перенагружения иллюстрируется расхождением между валидацией и обучающими данными на рисунке 6B. В частности, он показывает периоды, когда расхождение превышает заранее определённые пределы; эта информация свидетельствует о том, что модели поведения на скорости обучения и снижения потерь иллюстрируют преимущества снижения запланированной скорости обучения (LR) в критические эпохи как средства повышения стабильности сходимости, как показано на рисунке 6C. В совокупности эти цифры дают краткое представление о динамике обучения, возможности обобщения и рекомендуемой конфигурации обучения модели.

figure-protocol-7
Рисунок 6: Диагностика обучения для модели прогнозирования CORTA-Net PM₂.₅. (A) Кривая потерь при обучении и валидации, показывающие прогрессивное снижение ошибок во время обучения модели, с ранней остановкой на эпохе 106 на основе эффективности валидации. (B) Пробел в обобщении между обучением и потерей валидации в разных эпохах, иллюстрирующий эволюцию обобщения моделей и периоды увеличения расхождения, указывающие на потенциальную переподгонку. (C) Расписание скорости обучения, показывающее влияние запланированного снижения скорости обучения на оптимизацию на протяжении всего обучения. (D) Краткое описание поведения при сходимости модели, демонстрация стабильной оптимизации и окончательной обучающей конфигурации, выбранной для модели CORTA-Net. Вместе эти диагностические данные иллюстрируют динамику модели, характеристики сходимости и производительность обобщения во время обучения. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.

Результаты

Результаты выбора объектов и прогнозирования
Процедура CorrXGBoost-Rank выбрала отставшие PM₂.₅, скорость ветра, влажность, температуру, временные индикаторы и количество пожаров, полученных из MODIS, в качестве значимых предикторов качества воздуха. Каждая из этих переменных учитывает устойчивость загрязнения, рассеивание из-за метеорологических условий, сезонные различия в уровне загрязнения и региональное влияние пожаров. Избыточные переменные были удалены до модел...

Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.

Обсуждение

CORTA-Net объединяет три ключевых компонента в последовательности для формирования гибридной архитектуры. CorrXGBoost-Rank: Индивидуальный компонент выбора признаков, который устраняет избыточные предикторы до этапа38-го временного моделирования. LSTM Encoder: Использует слои LSTM в стеке для фиксации краткосрочных и долгосрочных временных зависимостей в выбранной 24-часовой последовательностивхода 39. Многоголовый уровень внимания: применя...

Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.

Раскрытие информации

У авторов нет конфликтов интересов.

Благодарности

Проект поддержки исследователей Университета принцессы Нуры бинт Абдулрахман (PNURSP2026R300), Университет принцессы Нуры бинт Абдулрахман, Эр-Рияд, Саудовская Аравия.

Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.

Материалы

Список материалов, использованных в этой статье
ИмяКомпанияКаталожный номерКомментарии
Шрифт CalibriMicrosoft CorporationURL: https://learn.microsoft.com/en-us/typography/font-list/calibriИспользуется в качестве запрашиваемой базовой типографии для исправленных диаграмм и меток фигур.
Скрипты генерации фигур для CORTA-NetСобственные скрипты для этого проекта CORTA-NetURL: https://github.com/saravagnamahasiva/CORTA-NetИспользуется для повторного создания PDF-файлов рисунков с исправленными метками и порядком для публикации.
CORTA_Net_High_Resolution_Images.zipАрхив изображений проекта, предоставленный пользователемНомер каталога/RRID: Не применимо; локальный источник архиваИспользуется в качестве исходного/справочного набора изображений и для определения идентификации фигур.
GitHubGitHub, Inc.URL: https://github.com/Используется в качестве предполагаемого хоста репозитория для кода проекта и файлов генерации рисунков.
MatplotlibMatplotlib Development TeamRRID: SCR_008624; URL: https://matplotlib.org/Используется для повторного рисования графиков, диаграмм, меток, маркеров панелей и векторных рисунков в формате PDF.
NumPyРазработчики NumPyRRID: SCR_008633; URL: https://numpy.org/Используется для определенных массивов и симулированных значений в повторно созданных панелях рисунков.
OpenAI CodexOpenAIURL: https://openai.com/codexИспользуется для помощи в редактировании кода, повторном создании рисунков, упаковке PDF-файлов и проверке.
PillowАвторы PillowURL: https://python-pillow.org/Используется для просмотра, изменения размера, предварительного просмотра и проверки растровых изображений.
PopplerРазработчики Poppler / freedesktop.orgURL: https://poppler.freedesktop.org/Используется для рендеринга сгенерированных PDF-файлов в PNG-превью для проверки визуального качества.
pypdfАвторы pypdfURL: https://pypdf.readthedocs.io/Используется для проверки наличия одной действительной страницы в каждом конечном PDF-файле рисунка.
PythonФонд PythonRRID: SCR_008394; URL: https://www.python.org/Используется в качестве программной среды для генерации рисунков и обработки PDF.
ReportLabReportLab Inc.URL: https://www.reportlab.com/Используется для создания обязательной таблицы материалов/инструментов/программного обеспечения в виде PDF-артефакта.
Windows PowerShellMicrosoft CorporationURL: https://learn.microsoft.com/en-us/powershell/Используется для команд управления файлами, извлечения архивов и конечной упаковки в ZIP.

Ссылки

  1. AlShafeey M. Unraveling climate trends in the mediterranean: a hybrid machine learning and statistical approach. Model Earth Syst Environ. 2024;10:6255-6277.
  2. Li B, Qian Y. Weather prediction using CNN-LSTM for time series analysis: a case study on Delhi temperature data. arXiv:2409.09414. 2024.
  3. Bashardoost A, Mesgari MS, Karimi M. Quantifying uncertainty in the spatial prediction of PM2.5 using a deep learning algorithm. Ann GIS. 2025;31(4):679-712.
  4. Bi K, Xie L, Zhang H, et al. Accurate medium-range global weather forecasting with 3D neural networks. Nature. 2023;619:533-538.
  5. Xu C, Liu J, Han S, Duan X, Xiang L, Zhang T. FourCastLSTM: a precipitation nowcasting model integrating global and local spatiotemporal features. Comput Geosci. 2025;204:105966.
  6. Damkliang K, Chumnaul J. Deep learning and statistical approaches for area-based PM2.5 forecasting in Hat Yai, Thailand. J Big Data. 2025;12:36.
  7. Elabd E, Hamouda HM, Ali MAM, et al. Climate change prediction in Saudi Arabia using a CNN GRU LSTM hybrid deep learning model in al Qassim region. Sci Rep. 2025;15:16275.
  8. Guo Q, He Z, Wang Z. Monthly climate prediction using deep convolutional neural network and long short-term memory. Sci Rep. 2024;14(1):17748.
  9. Zhang H, Jin Y, Shi J, Zhang S. Predicting PM2.5 concentrations using stacking-based ensemble model. Appl Comput Math. 2021;10(6):156-162.
  10. Şener İF, Tuğal İ. Optimized CNN-LSTM with hybrid metaheuristic approaches for solar radiation forecasting. Case Stud Therm Eng. 2025;72:106356.
  11. Shen J, Wu W, Xu Q. Accurate prediction of temperature indicators in Eastern China using a multi-scale CNN-LSTM-Attention model. arXiv:2412.07997. 2024.
  12. Karimian H, Li Q, Wu C, et al. Evaluation of different machine learning approaches to forecasting PM2.5 mass concentrations. Aerosol Air Qual Res. 2019;19:1400-1410.
  13. Kumar S, Mishra S, Singh SK. A machine learning-based model to estimate PM2.5 concentration levels in Delhi's atmosphere. Heliyon. 2020;6(11):e05618.
  14. Ladjal B, Nadour M, Bechouat M, et al. Hybrid deep learning CNN-LSTM model for forecasting direct normal irradiance: a study on solar potential in Ghardaia, Algeria. Sci Rep. 2025;15:15404.
  15. Lakshmi S, Krishnamoorthy A. Deep transfer learning and attention based PM2.5 forecasting in Delhi using a decade of winter season data. Sci Rep. 2025;15:31787.
  16. Lan R, Eastham SD, Liu T, et al. Air quality impacts of crop residue burning in India and mitigation alternatives. Nat Commun. 2022;13:6537.
  17. Lütjens B, Ferrari R, Watson-Parris D, Selin NE. The impact of internal variability on benchmarking deep learning climate emulators. J Adv Model Earth Syst. 2025;17:e2024MS004619.
  18. Suleman MAR, Shridevi S. Short-term weather forecasting using spatial feature attention-based LSTM model. IEEE Access. 2022;10:82456-82468.
  19. Mansfield LA, Nowack PJ, Kasoar M, et al. Predicting global patterns of long-term climate change from short-term simulations using machine learning. npj Clim Atmos Sci. 2020;3:44.
  20. Masood A, Ahmad K. Data-driven predictive modeling of PM2.5 concentrations using machine learning and deep learning techniques: a case study of Delhi, India. Environ Monit Assess. 2022;195(1):60.
  21. Duan J, Gong Y, Luo J, Zhao Z. Air-quality prediction based on the ARIMA-CNN-LSTM combination model optimized by dung beetle optimizer. Sci Rep. 2023;13:12127.
  22. Liu X, Su K, Wang S, et al. Intelligent prediction of air quality index based on the transformer-BiLSTM model. Sci Rep. 2025;15:41838.
  23. Liu Z, Fang Z, Hu Y. A deep learning-based hybrid method for PM₂.₅ prediction in central and western China. Sci Rep. 2025;15:10080.
  24. Hu Y, Ding Y, Jiang W. Geographically aware air quality prediction through CNN-LSTM-KAN hybrid modeling with climatic and topographic differentiation. Atmosphere. 2025;16(5):513.
  25. Makhdoomi A, Sarkhosh M, Ziaei S. PM₂.₅ concentration prediction using machine learning algorithms: an approach to virtual monitoring stations. Sci Rep. 2025;15:8076.
  26. Jiang Z, Nie Y, Gong W. Enhanced PM₂.₅ forecasting via bio-inspired hybrid LSTM optimization for high-precision results. AIP Adv. 2025;15:075346.
  27. Pan P, Malarvizhi AS, Yang C. Data augmentation strategies for improved PM₂.₅ forecasting using transformer architectures. Atmosphere. 2025;16(2):127.
  28. Masood A, Hameed MM, Srivastava A, et al. Improving PM2.5 prediction in New Delhi using a hybrid extreme learning machine coupled with snake optimization algorithm. Sci Rep. 2023;13:21057.
  29. Meng X, Xie C, Tang X, et al. Prediction of particulate matter 2.5 concentration based on attention mechanism and convolutional BiLSTM network. Discov Appl Sci. 2025;7:1372.
  30. Mohammadi F, Teiri H, Hajizadeh Y, Abdolahnejad A, Ebrahimi A. Prediction of atmospheric PM2.5 level by machine learning techniques in Isfahan, Iran. Sci Rep. 2024;14(1):2109.
  31. Mutinda JK, Langat AK, Mwalili SM. Forecasting temperature time series data using combined statistical and deep learning methods: a case study of Nairobi County daily temperature. Int J Math Math Sci. 2025;2025:4795841.
  32. Nath P, Saha P, Middya AI, Roy S. Long-term time-series pollution forecast using statistical and deep learning methods. Neural Comput Appl. 2021;33(19):12551–12570.
  33. Patel P, Patel S, Shah K, Desai K, Patel S, Shah M, Patel S. A systematic study on PM2.5 and PM10 concentration prediction in air pollution using machine learning and deep learning model. Environ Chem Ecotoxicol. 2025;7:1401-1415.
  34. Li Q, Zhang C, Shangguan W, et al. LandBench 1.0: a benchmark dataset and evaluation metrics for data-driven land surface variables prediction. Expert Syst Appl. 2024;243:122917.
  35. Mojgani R, Waelchli D, Guan Y, Koumoutsakos P, Hassanzadeh P. Extreme event prediction with multi-agent reinforcement learning-based parametrization of atmospheric and oceanic turbulence. arXiv:2312.00907v1. 2023.
  36. Yu S, White BL, Bhiwandiwalla A, et al. ClimDetect: a benchmark dataset for climate change detection and attribution. arXiv:2408.15993. 2024.
  37. Li T, Hua M, Wu X. A hybrid CNN-LSTM model for forecasting particulate matter (PM2.5). IEEE Access. 2020.
  38. Farhangmehr V, Imanian H, Mohammadian A, Cobo JH, Shirkhani H, Payeur P. A spatiotemporal CNN-LSTM deep learning model for predicting soil temperature in diverse large-scale regional climates. Sci Total Environ. 2025;968:178901.
  39. Wu C, Wang R, Lu S, Tian J, Yin L, Wang L, Zheng W. Time-series data-driven PM2.5 forecasting: from theoretical framework to empirical analysis. Atmosphere. 2025;16:292.
  40. Wu Y, Wang X, Wang M, Liu X, Zhu S. Time-series forecasting of PM2.5 and PM10 concentrations based on the integration of surveillance images. Sensors. 2025;25:95.
  41. Gong Y, Zhang Y, Wang F, Lee C-H. Deep learning for weather forecasting: a CNN-LSTM hybrid model for predicting historical temperature data. arXiv:2410.14963. 2024.
  42. Zhou S, Wang W, Zhu L, Qiao Q, Kang Y. Deep-learning architecture for PM2.5 concentration prediction: a review. Environ Sci Ecotechnol. 2024;21:100400.
  43. Zhang Z, Dey S, Lee K, et al. Temporal difference-based graph transformer networks for air quality PM₂.₅ prediction. Front Environ Sci. 2022;10:924986

Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.

Перепечатки и разрешения

Теги

234234
Свяжитесь с нами
Рекомендовать библиотеке

Конфиденциальность

Условия эксплуатации

Политика

Авторские права © 2026 MyJoVE Corporation. Все права защищены.