Zespół wag czasowych, wnioskowanie przyczynowe i hierarchiczna atrybucja w optymalizacji SHAP

Podsumowanie

Niniejszy artykuł ma na celu ocenę wpływu wagowania czasowego, wnioskowania przyczynowego oraz hierarchicznego przypisywania na optymalizację interpretowalności.

Streszczenie

W ciągu ostatnich kilku lat potrzeba przejrzystości i interpretowalności wzrosła dzięki znaczącym postępom w modelach opartych na danych, co doprowadziło do powstania Wyjaśnialnej Sztucznej Inteligencji (XAI). Dominuje kilka tradycyjnych podejść XAI; jednak mają one ograniczone kompetencje w interpretacji relacji dynamicznych. Obecne badania mają na celu rozwiązanie tego ograniczenia poprzez propozycję nowatorskiego frameworka Ensemble SHapley Additive ExPlanations (SHAP), który koncentruje się na ważeniu czasowym, wnioskowaniu przyczynowym, hierarchicznym przypisaniu oraz optymalizacji interpretowalności, znanym jako TCHSHAP. TCHSHAP priorytetowo traktuje informacje bieżące nad historycznymi poprzez ważenie czasowe poprzez wykładnicze zanikanie. Ponadto wnioskowanie przyczynowe oddziela korelację od przyczynowości, aby uzyskać praktyczne wnioski. Dodatkowo, hierarchiczna atrybucja pozwala na analizę na poziomie szczegółowym (na poziomie regionu) i agregowanym (wpływ na grupy cech). Te podejścia są zintegrowane, aby uzyskać bardziej interpretowalny i wyjaśniający model. Aby zweryfikować skuteczność proponowanego modelu, przeprowadzamy eksperyment na zbiorze danych o plonach zebranych z Kaggle. Przed eksperymentalną oceną wstępne przetwarzanie danych odbywa się za pomocą kodowania one-hot. Normalizacja danych odbywa się poprzez skalowanie min-max, a wartości odstające są usuwane w zakresie interkwartylowym. Dla celów oceny eksperymentalnej autorzy wykorzystali model SHAP XAI dla Random Forest. Podczas oceny skuteczności proponowanego modelu TCHSHAP zaobserwowano, że podczas gdy średnia prognoza dla tradycyjnego SHAP wynosi 161,137, wzrasta do 161,506 po uwzględnieniu ważenia czasowego i wnioskowania przyczynowego, co podkreśla skuteczność stosowania istotności czasowej i przyczynowej. Dodatkowo, podczas hierarchicznej atrybucji zaobserwowano, że cechy rolnicze mają najsilniejszą dominację nad zmienną docelową. Ta dominacja jest następowana przez czynniki geograficzne i środowiskowe w kolejności. W ten sposób uzyskane wyniki upoważniają do skuteczności proponowanego podejścia w celu zwiększenia globalnej i lokalnej interpretowalności, wzmacniając zaufanie użytkownika do prognoz modelu. Obecne prace oferują sposoby na poprawę przejrzystości i interpretowalności bez wpływu na wydajność modelu. Sugerowany model umożliwia również interpretowalne i efektywne modelowanie regresyjne w złożonych, opartych na danych aplikacjach, umożliwiając jego szerokie zastosowanie w rzeczywistych warunkach.

Wprowadzenie

Regresja odgrywa kluczową rolę w analityce predykcyjnej, obejmując kilka dziedzin, w tym modelowanie klimatu, prognozowanie finansowe, diagnostykę medyczną oraz szacowanie plonów rolnych ^1,2. Jednak niewyjaśnione wyniki modeli regresji, zwłaszcza nieliniowych i o dużej pojemności, takich jak Gradient Boosting Machines (GBM), losowe lasy i głębokie sieci neuronowe (DNN), stwarzają poważne wyzwania, zwłaszcza dla zastosowań wymagających przejrzystości i praktycznych wniosków. Lukę w interpretowalności można zniwelować, stosując Explainable Artificial Intelligence (XAI), technikę, która wciąż jest w powijakach. Obecnie konwencjonalne frameworki XAI, takie jak SHAP i Local Interpretable Model Agnostic Explanation (LIME), oferują jedynie statyczne wyjaśnienia cech³. Obecnie te techniki XAI nie wyjaśniają zawiłości zadań regresji związanych z zależnościami czasowymi, hierarchicznymi strukturami cech i przyczynowościami, tworząc ścieżkę badań ^4,5. Z powodu braku uwzględnienia tych czynników, XAI czasem może wyciągać błędne wnioski. Na przykład tradycyjny SHAP uwzględnia jedynie korelację atrybutów z zmienną docelową, nie uwzględniając przyczynowości. Rozważmy zbiór danych z dwoma wejściami binarnymi, mianowicie spożyciem tytoniu i zabarwionymi zębami. Zmienną docelową w tym zbiorze danych jest prawdopodobieństwo zachorowania na raka. W takim scenariuszu, jeśli uzyskamy korelację między cechami wejściowymi a zmienną docelową, rak będzie silnie skorelowany z obiema cechami (spożyciem tytoniu i zabarwionymi zębami). Obecnie dość mylące jest wnioskowanie, że przebarwione zęby powodują raka, ponieważ jest on spowodowany regularnym spożywaniem tytoniu. Można więc podsumować, że pomimo znaczącego postępu w dziedzinie XAI, główne kwestie, które należy rozwiązać w kontekście regresji, to:

Brak możliwości uwzględnienia zależności czasowych prowadzi jedynie do wyjaśnień statycznych, które mogą nie działać w kontekstach z danymi dynamicznymi.

Brak włączenia wnioskowania przyczynowego do tradycyjnych adaptacji SHAP powoduje fałszywe korelacje zamiast cennych wniosków przyczynowych.

Brak uwagi poświęconej interpretacji hierarchicznej prowadzi do niewystarczających wyjaśnień wyższego poziomu zagregowanych.

Aby rozwiązać te problemy, obecne badania mają na celu zaproponowanie nowego frameworka XAI, TCHSHAP, obejmującego ważenie czasowe, wnioskowanie przyczynowe oraz hierarchiczną atrybucję, mające na celu zwiększenie interpretowalności i efektywności obliczeniowej obecnych modeli XAI. W tym samym przypadku proponowany model uwzględnia współczynnik wagi czasowej w_t, który przypisuje wyższe wagi niedawnemu wkładowi cech w porównaniu do wartości z przeszłości. Ten współczynnik wagi ma na celu zapewnienie, że interpretowalność jest zgodna z czasowym znaczeniem kluczowych cech w problemach regresji dynamicznej, takich jak prognozowanie plonów i prognozowanie sprzedaży. Ponadto tradycyjne modele regresji nie wykazują zależności przyczynowych, co prowadzi do niejednoznacznych atrybucji⁶. Aby sprostać temu wyzwaniu, proponowane ramy stosują Strukturalne Modele Przyczynowe (SCM) do oceny przyczynowego wpływu cechy F_i na wynik. Dodatkowo, zbiory danych w czasie rzeczywistym często wykazują hierarchiczne relacje (przestrzenne lub kategoryczne) między cechami, które rzadko są prezentowane w istniejących frameworkach XAI ^4,5,6. Przeciwnie, sugerowany framework XAI agreguje poszczególne cechy (F_i), aby uzyskać cechy wyższego poziomu (H_j), co pozwala na szczegółowość wyjaśnień.

Poza uwzględnieniem znaczenia czasowego, przyczynowego i hierarchicznego, proponowany zespół ma również na celu zwiększenie interpretowalności i wyjaśnienia. Taki cel ma na celu ustalenie kompromisu między interpretowalnością a dokładnością, zapewniając, że wyjaśnienia uzyskane z TCHSHAP są dokładne i łatwe do interpretacji⁴. Sugerowany framework XAI można matematycznie opisać następująco, natomiast opis użytych zmiennych przedstawiono w Tabeli 1. Tradycyjna wartość SHAP dla tej cechy oblicza się jako równanie (1)^5,6.

   (1)

Ta tradycyjna formuła SHAP sumuje wkłady bez uwzględniania korekt czasowych, przyczynowych czy hierarchicznych.

Zmienna	Definicja
Fi	Cecha, której wartość Shap jest obliczana
Shapi	Wartość Shap cechy
S	Zestaw całkowitych cech
M	Podzbiór wszystkich cech
FT	Łączna liczba cech
P(M)	Predykcja modelu, gdy używane są tylko cechy w M
λ > 0	Tempo rozpadu
T	Czas przewidywania odniesienia
Y	Wyjście

Tabela 1: Opis używanych zmiennych. Ta tabela opisuje znaczenie różnych zmiennych.

Ta tradycyjna formuła SHAP została zmodyfikowana do obsługi zależności dynamicznych poprzez uwzględnienie ważenia czasowego. To ważenie czasowe uwzględnia się poprzez wprowadzenie współczynnika wagowego wt = ^{e-λ |t - T|}gdzie λ oznacza współczynnik zaniku (λ > 0). Jak wspomniano wcześniej, to wykładnicze ważenie nadaje większą wagę najnowszym wartościom w porównaniu do wcześniejszych. Ten wykładniczy spadek jest uwzględniony w kontekście zrozumienia, że najnowsze wartości cech mają większe znaczenie niż wartości z przeszłości. Zmodyfikowana wartość SHAP (po uwzględnieniu istotności czasowej) jest podana w równaniu (2).

  (2)

Te informacje czasowe są ważne dla zadań regresji dynamicznej, takich jak prognozowanie rentowności lub zapasów.

Ponadto, aby wyjaśnienia były bardziej solidne, stosuje się SCM do oceny przyczynowego wpływu cechy F_i na wyjście Y. Matematyczne sformułowanie dla przyczynowego SHAP przedstawiono w równaniu (3)

 (3)

Tutaj do(F_i) reprezentuje cechę, która przyczyniła się do zmiany. Dzięki temu model uzyskuje kompetencję do wyjaśnienia przyczynowości, a nie korelacji. Warto zauważyć, że obliczenia efektów przyczynowych oparte na SCM zapewniają, że przypisywane są tylko cechy o bezpośrednim wpływie przyczynowym, eliminując fałszywe korelacje.

Ponadto w sugerowanym modelu proponowana jest hierarchia agregująca atrybuty na różnych poziomach. Matematyczne sformułowanie hierarchicznego SHAP przedstawiono w równaniu (4).

  (4)

Włączenie hierarchii do sugerowanego modelu zapewnia osiągnięcie szczegółowości wyjaśnień. Sugerowany system przedstawiony jest na Rysunku 1.

Rysunek 1: Ilustracja obrazowa różnych elementów proponowanego ramy. Ten rysunek przedstawia ilustrację obrazową różnych elementów proponowanego ramowego TCHSHAP, w tym wagowania czasowego, wnioskowania przyczynowego oraz hierarchicznego przypisywania. Proszę kliknąć tutaj, aby zobaczyć większą wersję tej figurki.

Nowością proponowanego modelu TCHSHAP jest obsługa tych trzech niespójności poprzez zastosowanie wagowania czasowego (aby nadać większą wagę aktualnym informacjom), Strukturalnych Modeli Przyczynowych (SCM; do oceny efektów przyczynowych) oraz hierarchicznej agregacji wartości SHAP (w celu uzyskania wielopoziomowych wglądów). W ten sposób proponowany zespół rozszerza SHAP poza jego statyczne ograniczenia, zapewniając regresyjne zoptymalizowane ramy wyjaśniające.

Proponowany TCHSHAP ma potencjał, by zyskać ogromne znaczenie dla zastosowań w czasie rzeczywistym w scenariuszach wymagających lepszego podejmowania decyzji, ponieważ identyfikuje szczegółowe wyjaśnienia wyników w modelach regresji, płynnie łącząc modelowanie z podejmowaniem decyzji. Podsumowując, głównym wkładem tego manuskryptu jest zaprojektowanie nowatorskiego ram, które łączą wagę czasową, wnioskowanie przyczynowe oraz relacje hierarchiczne, aby wzbogacić praktyczne wyjaśnienia tradycyjnego modelu SHAP.

Powiązane dzieła

XAI wykorzystuje różne metodologie specjalnie zaprojektowane w celu zwiększenia przejrzystości i interpretowalności różnych modeli uczenia maszynowego. Strategie XAI budują zaufanie do wyników, dostarczając niezbędnych wniosków z nich. Na przykład znane metody XAI, takie jak LIME i SHAP, zwiększają interpretowalność i przejrzystość modeli, które zwykle są czarną skrzynką, w różnych dziedzinach, takich jak finanse, edukacja i sektor opieki zdrowotnej⁷. Ponadto techniki XAI są stosowane w zadaniach związanych z analizą oprogramowania, wykrywaniem klonów oraz przewidywaniem defektów Just-in-Time⁸. Dodatkowo Awal i Roy również zwróciły uwagę na rozbieżności i wykazały mniejszą wiarygodność w generowaniu wyjaśnień⁸. Tutaj autorzy zastosowali Metryki Oceny Poziomu Granularnego (Granular Level Evaluation Metrics) do zmniejszenia spójności w ocenie. XAI jest również szeroko stosowane w medycynie do zrozumienia najważniejszych czynników wpływających na wyniki zadania klasyfikacyjnego, a tym samym wzmacniania zaufania wśród pracowników służby zdrowia do stosowania diagnostyki opartej na AI 9,10,11,12. Ponadto, w sektorach takich jak belgijskie prognozowanie czynszu mieszkaniowego, podejścia XAI ułatwiają interpretację złożonych modeli, co zwiększa kontrolę jakości i minimalizuje błędy produkcyjne¹³. Bommer i in. wykazali, że integracja metod XAI z gradientami poprawia ich wydajność pod względem odporności, wierności, złożoności i randomizacji w nauce o klimacie¹⁴. Wielu badaczy próbowało tworzyć techniki zespołowe i hybrydowe. Oprócz proponowania technik zespołowych, naukowcy wykazali także skuteczność tych hybrydowych technik w dostarczaniu kompleksowego wglądu w złożone modele^15,16. Szczegółowy przegląd technik, optymalizacji i różnych zastosowań przedstawiono w tabeli 2, która jasno wskazuje, że najczęściej stosowane techniki to LIME i SHAP. Przyszły kierunek badań wskazuje na zgłębianie optymalizacji w tych metodach w celu zwiększenia interpretowalności tych modeli. Kontynuując linię badań, autorzy obecnych badań koncentrują się na optymalizacji SHAP, dodając wnioskowanie przyczynowe, hierarchiczną atrybucję oraz wagę czasową.

Cytat	Techniki XAI	Optymalizacja	Spostrzeżenia	Aplikacji	Przyszłe kierunki badań
(Anushree i in., 2024)	WAPNO	Nie udostępniono	Zwiększenie interpretowalności i przejrzystości modeli czarnych skrzynek w różnych zastosowaniach w finansach, edukacji i sektorze opieki zdrowotnej.	· Kompromis między dokładnością a interpretowalnością w sektorze finansów, edukacji i opieki zdrowotnej	· Potrzeba opracowania listy szczegółowych wskaźników do oceny różnych modeli XAI
	SHAP
	Mechanizmy zaburzeń
	Mechanizmy oparte na uwadze
(Awal & Roy, 2024)	PyExplainer	Metryki oceny na poziomie granularnym w celu zmniejszenia spójności w ocenie.	Podkreśla rozbieżności i wykazuje mniejszą wiarygodność w generowaniu wyjaśnień.	· Zadania związane z analityką oprogramowania	· Zaawansowane metody badawcze są niezbędne do zwiększenia niezawodności modeli XAI w zadaniach związanych z analizą oprogramowania
	WAPNO			· wykrywanie klonów
				· Przewidywanie defektów w samą porę
(Bommer i in., 2024)	Zintegrowane gradienty	Integracja metod XAI z gradientami	Integracja metod XAI z gradientami zwiększa wydajność pod względem odporności, wierności, złożoności i randomizacji w nauce o klimacie.	· Prognozy nauk o klimacie	· Skupienie się na ocenie specyficznej dla konkretnych zadań nauk o klimacie.
	Warstwowa propagacja znaczenia			· Prognoza map średniej temperatury rocznej
	Czasy wejściowe gradienty
	Metody czułości takie jak gradient, SmoothGrad, NoiseGrad i FusionGrad
(Bhatnagar & Agrawal, 2024)	WAPNO	Zespół technik XAI	Ensemble zapewnia kompleksowy wgląd oraz zwiększa interpretowalność i wyjaśnienie złożonych modeli.	· Zastosowane na zbiorze danych moralnych w celu zwiększenia interpretowalności wyników	· Eksploruj hybrydowe metody XAI poprzez łączenie wielu technik
	SHAP				· Personalizacja różnych algorytmów XAI dla konkretnych modeli, odpowiadając na potrzeby użytkowników
(Dias, 2024)	WAPNO	Integracja technik XAI	Poprawa interpretowalności i dokładności	· Klasyfikacja toksycznych komentarzy	· Wzmacnianie siły do celów klasyfikacji.
	Eli5
(Hajare i in., 2024)	SHAP	Nie udostępniono	SHAP oferuje szczegółowe informacje na temat czynników ryzyka przewidujących ostry zespół wieńcowy.	· Ostry zespół wieńcowy (ACS)	· Aby poznać nowe czynniki ryzyka w prognozowaniu ACS.
(Hamida i in., 2024)	Kompleksowy przegląd różnych technik XAI	Nie udostępniono	Dostarcza informacji na temat zastosowań XAI XAI w sektorze opieki zdrowotnej, podkreślając znaczenie wyjaśnialności decyzji AI dla zrozumienia wyników dostarczanych przez AI.	· Praktyczne spostrzeżenia w sektorze opieki zdrowotnej	· Ulepszanie elementów XAI, czyli zrozumiałości, przejrzystości, interpretowalności i łatwości wyjaśnienia.
					· Niestandardowe techniki XAI dla sektora opieki zdrowotnej z szczegółowymi informacjami dla branży medycznej
(Ihongbe i in., 2024)	Grad-CAM (Gradient-weighted Class Activation Mapping)	Gradientowe ważenie mapowania aktywacji klas	Lepsza dokładność w diagnozowaniu zapalenia płuc i COVID-19.	· Poprawa dokładności diagnostyki medycznej	Zwiększenie świadomości użyteczności technik XAI w zastosowaniach w praktyce
(Lenaers i De Moor, 2023).	6 technik XAI	Zespół 6 technik XAI na modelu CatBoost	Wiele technik zwiększa interpretowalność XAI do prognozowania czynszów.	· Prognoza belgijskich czynszów mieszkaniowych	XAI może być wykorzystywane do podejmowania decyzji
(Makumbura i in., 2024)	SHAP	Zespół RF, LightGBM, XGBoost z SHAP	SHAP ujawnia różne czynniki odpowiedzialne za ocenę i przewidywanie jakości wody.	· Ocena i prognozowanie jakości wody	Można go wykorzystać do podejmowania decyzji
(Schlegel & Keim, 2023).	Techniki XAI z analizą perturbacji	Analiza perturbacji	Można skutecznie wykorzystać do zadań klasyfikacji danych szeregów czasowych	· Dane szeregów czasowych z finansów, opieki zdrowotnej, nauk o klimacie	Łączenie wielu technik XAI dla lepszej interpretowalności.
(Silva & Keller, 2023)	XAI	Nie udostępniono	Modele XAI mają ograniczenie wyjaśniające wyniki w przypadku cech skorelowanych. Można je wykorzystać w naukach o Ziemi i atmosferze.	· Nauki atmosferyczne	XAI musi być zoptymalizowane pod kątem powiązanych cech, aby uniknąć fałszywych wyjaśnień.
	Szybkość reakcji biomolekularnej			· Chemia atmosferyczna
(Y, S., & Challa, M. 2023)	SHAP	Nie udostępniono	Tutaj modele XAI są porównywane pod względem interpretowalności i zrozumienia istotnych cech, a stwierdzono, że SHAP i LIME są najskuteczniejsze.	· Zastosowania medyczne	Poprawa interpretowalności dla zaawansowanych zastosowań medycznych
	WAPNO
	PDP
	GAM

Tabela 2: Kompleksowy przegląd różnych optymalizacji zastosowanych w technikach XAI. Ta tabela przedstawia kompleksowy przegląd różnych technik optymalizacji proponowanych przez różnych badaczy.

Protokół

UWAGA: Ta sekcja omawia proponowaną metodę zespołową, w tym wszystkie proponowane poprawki przedstawione na Rysunku 1.

Przygotowanie danych

Aby zweryfikować skuteczność proponowanych ram, autorzy przeprowadzili eksperyment na zbiorze danych o plonach zebranych z Kaggle¹⁷. Ten zbiór danych zawiera indyjskie dane rolne dla różnych upraw z lat 1997–2020 i został udostępniony w marcu 2025 roku. Ten zbiór danych obejmuje wiele cech, takich jak sezon, crop_year, nawozy, pestycydy, uprawy oraz plon (zmienna docelowa) itd. Rozpatrywany zbiór danych jest wstępnie przetwarzany dla zwiększenia efektywności, wykorzystując kodowanie one-hot do obsługi wartości kategorycznych. Cechy kategoryczne, takie jak pora roku, plony i stan, są kodowane jako one-hot. Skalowanie MinMax jest również stosowane do skalowania cech liczbowych takich jak powierzchnia, produkcja, annual_rainfall, nawozy i pestycydy do zakresu [0,1]. Aby obsłużyć wartości odstające, zastosowaliśmy regułę zakresu międzykwartylowego z progiem Q₁ - 1,5 • IQR¹⁷. Losowe ziarno 42 zostało zastosowane we wszystkich etapach wstępnego przetwarzania, aby uzyskać powtarzalność wyników. Ponadto zbiór danych został podzielony na zbiór treningowy (80%) oraz zbiór testowy (20%) po wstępnym przetwarzaniu.

Układ eksperymentalny

Eksperyment przeprowadzono przy użyciu Pythona 3.10 na serwerze GPU A100 z procesorem: Dual AMD Rome 7742, 128 rdzeniami, 1TB RAM. Biblioteki importowane do symulacji to scikit-learn 1.3.0, XGBoost 1.7.6, TensorFlow 2.13, SHAP 0.41.0, LIME 0.2.0.1 oraz ELI5 0.13.0.

Ocena modeli ML

Tutaj autorzy wykorzystali różne modele regresji, takie jak LinearRegression(), Ridge(alpha=1,random_state=42), Lasso(alpha=0,1,_stan losowy = 42), Decision TreeRegressor(max_depth = 10, random_state= 42), RandomForestRegressor(max_depth = 15random_state = 42), GradientBoostingRegressor(n_estimators = 200, learning_rate = 0,1, random_state = 42), XGBoost oraz CNN, aby określić wpływ różnych zmiennych na zmienną docelową yield¹⁸. XGBoost używa 300 estymatorów i ma szybkość uczenia się 0,05. W modelu CNN używa się dwóch ukrytych warstw: aktywacji ReLU oraz optymalizatora Adama z częstotliwością uczenia 0,001. Efektywność tych modeli porównywana jest za pomocą różnych wskaźników wydajności. Modele te wykonują również dostrajanie hiperparametrów. Na przykład regresja grzbietowa i regresja Lasso są trenowane z alfa równa się odpowiednio 1,0 i alfa równa 0,1. W Drzewie Decyzyjnym i Losowym Lesie maksymalna głębokość była ustalana odpowiednio na 10 i 15. Gradient Boosting wykorzystuje 200 estymatorów i współczynnik uczenia się 0,1. Wydajność tych modeli oceniano za pomocą walidacji krzyżowej pięciokrotnej w kategoriach średniego błędu kwadratowego (MSE) oraz kwadratu R2.

Ocena modeli XAI

Jak wspomniano, obecne prace wykorzystują różne modele XAI do porównania wyników. Tutaj autorzy używają shap. TreeExplainer(model,data = crop_yield) dla modeli opartych na drzewie (Random Forest, Gradient Boosting i XGBoost). Z zestawu treningowego wybrano tło danych 100 losowo wybranych przypadków, aby ustabilizować atrybuacje. Dalej, Shap. KernelExplainer() był używany do modeli niedrzewnych (Linear, Ridge, Lasso i CNN) z 1000 perturbacjami, aby zbliżyć się do wartości SHAP. Wyjaśniacz tabelarny (lime.lime_tabular. LimeTabularExplainer) był używany z 5000 perturbacjami na instancję do uruchomienia LIME na tym samym zbiorze danych w tle, aby zapewnić stabilność lokalnych wyjaśnień. Szerokość jądra ustalano na podstawie cech, a funkcja predykcyjna modelu służyła do wnioskowania wyjaśnień. Lokalne wyjaśnienia generowano przez wywołanie explainer.explain_instance(x,model.predict). ELI5 zostało wykorzystane jako znaczenie permutacji z 10 powtórzeniami na podziale walidacyjnym, aby uniknąć nadmiernego dopasowania danych testowych, i symulowane za pomocą eli5.sklearn.PermutationImportance(estymator,random_state = 42). Znaczenie średniej i wariancji między powtórzeniami zostało wykazane podczas eksperymentu. Ostatecznie model dopasowany został użyty do podziału walidacyjnego w celu uzyskania wykresów częściowych zależności (PDP), które zostały zaimplementowane za pomocą PartialDependencyDisplay.from_estimator (model,X_val,cechy = [cecha]),

Utworzenie ram TCHSHAP

Następnie TCHSHAP został zaimplementowany poprzez zastosowanie różnych kroków w kolejności. Pierwszym krokiem w sekwencji było ważenie czasowe wykorzystujące funkcję wykładniczego zaniku o tempie zaniku λ = 0,85, wybraną na podstawie badania ablacji w λ [0.7.0.95]. Czas odniesienia (T_current) został wybrany jako ostatni rok uprawy w zbiorze danych. Zapewnia to, że wyjaśnienia modelu uwzględniają dynamikę prognozy produkcji rolnej, gdzie ostatnie cechy (opady, stosowanie nawozów czy pestycydów) mają większe znaczenie przy podejmowaniu decyzji. Ważenie czasowe zostało następnie podjęte przez SCM, aby przyjmować wnioski przyczynowe. Sugerowana metodologia wykorzystuje operator punktowy do symulacji interwencji i obliczania średniego efektu przyczynowego. Wnioskowanie przyczynowe zostało zastosowane przy użyciu biblioteki python doWhy 0.13. Pomaga to łagodzić mylące powiązania wynikające z skorelowanych wejść, takich jak produkcja i powierzchnia, osiągając rzeczywiste powiązania przyczynowo-skutkowe. Ostatnim krokiem w pipeline była hierarchiczna atrybuacja, gdzie cechy były organizowane w domeny wyższego poziomu. W obecnym zbiorze danych wyróżniają się trzy cechy hierarchiczne: nakłady rolnicze (nawóz, pestycydy), czynniki geograficzne (stan, obszar, Crop_Year) oraz czynniki środowiskowe (Annual_Rainfall, sezon). Dzięki zastosowaniu znormalizowanego sumowania do grupowania danych SHAP można uzyskać wyjaśnienia na obu poziomach (szczegółowych i ogólnych).

Podsumowując, potok TCHSHAP łączy trzy kroki – korektę czasową, przypisanie przyczynowe oraz hierarchiczną grupację w jeden proces. Tutaj bazowy SHAP najpierw przedstawia wyjaśnienia, a następnie dodaje trzy ulepszenia. Ten uporządkowany pipeline zapewnia, że wyniki TCHSHAP są spójne, możliwe do powielania oraz dostarczają zarówno lokalnych, jak i globalnych wyjaśnień. Szczegółowy opis proponowanego frameworka znajduje się w poniższym pseudokodzie.

Wkład:
X: Zbiór danych z cechami X_{1,X 2,X 3},........,X_n.
t: zmienna czasowa w zbiorze danych
_Prąd T: Czas odniesienia
λ: Szybkość zaniku
G: Grupy cech
Oblicz wagi czasowe
Dla każdego przypadku i X należy wyliczyć w_t = ^e-λ|t-T|,
Oblicz wartości shap_i
Oblicz Shap_Tempral = Shap_i * w_t
Oblicz wnioskowanie przyczynowe
Dla każdej cechy X_i X
Oblicz Shap_Przyczynowy = Shap_i * Efekt Przyczynowy(X_j →Y)
Hierarchiczna atrybucja
Dla każdej cechy X_i X
Oblicz wartości shap_i
Dla każdego G_i G

Wyjście: Zestaw hierarchicznie zagregowanych wartości SHAP

Ilościowy punkt kontrolny ułatwiający rozwiązywanie problemów przedstawiono poniżej: Losowy Las daje najniższy MSE i najwyższy R² we wszystkich modelach ML. Uzyskano znaczenie cech > pestycydów > nawozów, przy minimalnym sezonie i Crop_Year. Globalna prognoza bazowa SHAP wyniosła 161,137. Ponadto, po zastosowaniu λ = 0,85, wkład Crop_year i Season wzrasta. Wkłady na poziomie grup są w kolejności: Wkłady rolnicze>Czynniki geograficzne> Czynniki środowiskowe.

Wyniki

Ta sekcja omawia wyniki uzyskane dzięki zastosowaniu różnych metod stosowanych podczas badania, obejmujących różne podsekcje, jak poniżej:

Zbieranie i wstępne przetwarzanie danych

Aby przeprowadzić eksperymentalną ocenę proponowanych ram, zebrano zbiór danych dotyczących plonów z Kaggle¹⁹. Zebrane dane były wstępnie przetwarzane...

Dyskusja

Głównym celem obecnego badania jest uwzględnienie wagowania czasowego, wnioskowania przyczynowego oraz hierarchicznego znaczenia w tradycyjnym modelu SHAP, co daje model TCHSHAP. Celem włączenia tych elementów do technik XAI jest poprawa interpretowalności wyników. Dla ważenia czasowego rozważaliśmy technikę wykładniczego spadku, która nadaje większą wagę najnowszym wartościom w porównaniu do starych. W przypadku istotności przyczynowej autorzy starają się ocenić bezpośredni wpływ różnych cech na zmienną predykcyjną. Pon...

Materiały

Lista materiałów użytych w tym artykule

Nazwa	Firma	Numer katalogowy	Komentarze
ELI5	0.13.0	PyPI
WAPNO	0.2.0.1	PyPI
Serwer GPU Nvidia DGX A100	CPU Dual AMD Rome 7742, łącznie 128 rdzeni	Nvidia
Pamięć systemowa 1TB
Pyton	3.1	Pyton
SHAP	0.41.0	PyPI
scikit-learn	1.3.0	PyPI
TensorFlow	2.13	Przepływ tensorowy
XGBoost	1.7.6	PyPI