SHAP 최적화를 위한 시간적 가중치, 인과 추론, 계층적 귀속의 앙상블

Archana Salaria; Manik Rakhra; Nonita Sharma; Monika Mangla; Fernando Moreira; Nishan Singh Bala

doi:10.3791/69125

이 콘텐츠를 보려면 JoVE 구독이 필요합니다. 로그인하거나 오늘 무료 평가판을 시작하세요.

연구 논문

SHAP 최적화를 위한 시간적 가중치, 인과 추론, 계층적 귀속의 앙상블

537 조회수

⸱

DOI:

10.3791/69125

⸱

2025년 11월 18일

Archana Salaria¹ , Manik Rakhra¹ , Nonita Sharma² , Monika Mangla³ , Fernando Moreira⁴ , Nishan Singh Bala⁵

¹School of Computer Science Engineering, Lovely Professional University, ²Department of Information Technology, Indira Gandhi Delhi Technical University for Women, ³Department of Information Technology, Dwarkadas J. Sanghvi College of Engineering, ⁴REMIT, IJP, Universidade Portucalense, ⁵Oakville Trafalgar High School, Halton District School Board

이 논문에서

요약

이 글은 시간 가중치, 인과 추론, 계층적 귀속이 해석 가능성 최적화에 미치는 영향을 평가하는 것을 목표로 합니다.

초록

지난 몇 년간 데이터 기반 모델의 큰 발전으로 인해 투명성과 해석 가능성에 대한 필요성이 더욱 커졌으며, 이를 통해 설명 가능한 인공지능(XAI)이 등장했습니다. 여러 전통적인 XAI 접근법이 널리 퍼져 있습니다; 그러나 이들은 동적 관계를 해석하는 데 한계가 있다. 현재 연구는 시간적 가중치, 인과 추론, 계층적 귀속, 해석 가능성 최적화에 중점을 둔 새로운 Ensemble SHapley Additive exPlanations(SHAP) 프레임워크인 TCHSHAP를 제안하여 이 한계를 해결하는 것을 목표로 합니다. TCHSHAP는 지수적 감소를 통해 시간적 가중치를 부여하여 현재 정보를 역사적 정보보다 우선시합니다. 더 나아가, 인과관계 추론은 상관관계를 인과관계에서 분리하여 실질적인 통찰을 얻습니다. 또한, 계층적 귀속은 세분적(지역 수준)과 집계된 수준(특징 그룹 영향)에서의 통찰을 제공합니다. 이러한 접근법들은 보다 해석 가능하고 설명 가능한 모델을 구현하기 위해 통합됩니다. 제안된 모델의 효능을 검증하기 위해, Kaggle에서 수집한 작물 수확량 데이터셋을 대상으로 실험을 수행했습니다. 실험 평가에 앞서 데이터 전처리는 원핫 인코딩을 사용하여 수행됩니다. 데이터 정규화는 최소-최대 스케일링으로 수행되며, 이상치는 4분위 범위를 통해 제거됩니다. 실험 평가를 위해 저자들은 무작위 숲에 SHAP XAI 모델을 사용했습니다. 제안된 TCHSHAP 모델의 효능을 평가할 때, 전통적 SHAP의 평균 예측치가 161.137인 반면, 시간적 가중치와 인과 추론을 포함하면 161.506까지 상승하여 시간적 및 인과적 유의성 활용의 효과를 지지하는 것으로 관찰됩니다. 또한, 계층적 귀속 과정에서 농업적 특징이 목표 변수에 대해 가장 강한 우세를 보이는 것이 관찰됩니다. 이러한 지배 뒤에는 지리적, 환경적 요인이 순서대로 따릅니다. 따라서 얻어진 결과는 제안된 접근법이 전역 및 국소 해석 가능성을 향상시키는 데 효과적임을 입증하며, 사용자의 모델 예측에 대한 신뢰를 강화합니다. 현재 연구는 모델 성능에 영향을 주지 않으면서 투명성과 해석 가능성을 개선하는 방법을 제시합니다. 제안된 모델은 복잡한 데이터 기반 응용 분야에서 해석 가능하고 효율적인 회귀 모델링을 가능하게 하여 실제 환경에서 널리 적용할 수 있게 합니다.

서론

회귀분석은 기후 모델링, 재무 예측, 의료 진단, 농업 수확량 추정 등 여러 영역을 포함하는 예측 분석에서 중요한 역할을^합니다. 그러나 회귀 모델, 특히 Gradient Boosting Machines(GBM), 랜덤 포레스트, 딥 뉴럴 네트워크(DNN)와 같은 비선형 및 고용량 모델의 설명되지 않은 결과는 투명성과 실행 가능한 인사이트가 필요한 응용 분야에서 상당한 도전 과제를 제기합니다. 이 해석 가능성의 격차는 아직 초기 단계인 설명 가능한 인공지능(XAI) 기술을 활용함으로써 메울 수 있습니다. 현재 SHAP과 로컬 해석 가능한 모델 무관성 설명(LIME)과 같은 기존 XAI 프레임워크는 정적인 특징 설명만 제공합니다³. 이 XAI 기법들은 현재 시간 의존성, 계층적 특징 구조, 인과관계를 포함하는 회귀 작업의 복잡성을 설명하지 못해 연구 경로 ^4,5를 만듭니다. 이러한 요인들을 고려하지 않아 XAI는 때때로 잘못된 결론을 도출할 수 있습니다. 예를 들어, 전통적인 SHAP은....