مجموعة الأوزان الزمنية، والاستدلال السببي، والنسبة الهرمية نحو تحسين SHAP

Archana Salaria; Manik Rakhra; Nonita Sharma; Monika Mangla; Fernando Moreira; Nishan Singh Bala

doi:10.3791/69125

مقالة بحثية

مجموعة الأوزان الزمنية، والاستدلال السببي، والنسبة الهرمية نحو تحسين SHAP

DOI:

10.3791/69125

⸱

نوفمبر 18, 2025

Archana Salaria¹ , Manik Rakhra¹ , Nonita Sharma² , Monika Mangla³ , Fernando Moreira⁴ , Nishan Singh Bala⁵

¹School of Computer Science Engineering, Lovely Professional University, ²Department of Information Technology, Indira Gandhi Delhi Technical University for Women, ³Department of Information Technology, Dwarkadas J. Sanghvi College of Engineering, ⁴REMIT, IJP, Universidade Portucalense, ⁵Oakville Trafalgar High School, Halton District School Board

في هذه المقالة

ملخص

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

تهدف هذه المقالة إلى تقييم تأثير الوزن الزمني، والاستدلال السببي، والنسبة الهرمية على تحسين قابلية التفسير.

الملخص

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

خلال السنوات القليلة الماضية، زادت الحاجة إلى الشفافية وقابلية التفسير بسبب التقدم الكبير في النماذج المعتمدة على البيانات، مما أدى إلى ظهور الذكاء الاصطناعي القابل للتفسير (XAI). هناك عدة أساليب XAI التقليدية شائعة؛ ومع ذلك، فإن هذه الصلاحيات محدودة في تفسير العلاقات الديناميكية. يهدف البحث الحالي إلى معالجة هذا القيد من خلال اقتراح إطار عمل جديد لمجموعة شابلي الإضافية (SHAP) يركز على الوزن الزمني، والاستدلال السببي، والإسناد الهرمي، وتحسين قابلية التفسير يعرف باسم TCHSHAP. يعطي TCHSHAP الأولوية للمعلومات الحالية على حساب المعلومات التاريخية من خلال الوزن الزمني عبر الانحلال الأسي. علاوة على ذلك، يفصل الاستنتاج السببي الارتباط عن السببية لاكتساب رؤى عملية. بالإضافة إلى ذلك، يسمح النسبة الهرمية برؤية على مستوى الحبيبات (مستوى المناطق) والمجمع (تأثيرات مجموعات السمات). تم دمج هذه الأساليب لتحقيق نموذج أكثر قابلية للتفسير والتفسير. للتحقق من فعالية النموذج المقترح، نجري تجربة على مجموعة بيانات محصول المحاصيل التي جمعت من كاجل. قبل التقييم التجريبي، تجرى معالجة البيانات المسبق باستخدام ترميز واحد ساخن. يتم تطبيع البيانات عن طريق التكبير الأقصى، وتزال القيم الشاذة عبر نطاق الربعية. من أجل التقييم التجريبي، استخدم المؤلفون نموذج SHAP XAI للعبة Random Forest. عند تقييم فعالية نموذج TCHSHAP المقترح، لوحظ أنه بينما يبلغ متوسط التنبؤ ل SHAP التقليدي 161.137، فإنه يرتفع إلى 161.506 بعد دمج الوزن الزمني والاستدلال السببي، مما يدعو إلى فعالية استخدام الدلالة الزمنية والسببية. بالإضافة إلى ذلك، أثناء النسبة الهرمية، يلاحظ أن المعالم الزراعية لها أقوى هيمنة على المتغير المستهدف. تتبع هذه الهيمنة عوامل جغرافية وبيئية بالترتيب. وبالتالي، تشير النتائج التي تم الحصول إليها على فعالية النهج المقترح لتعزيز قابلية التفسير العالمية والمحلية، مما يعزز ثقة المستخدم في توقعات النموذج. يقدم العمل الحالي طرقا لتحسين الشفافية وقابلية التفسير دون التأثير على أداء النماذج. كما يمكن النموذج المقترح من نمذجة الانحدار القابلة للتفسير والكفاءة في التطبيقات المعقدة المعتمدة على البيانات، مما يتيح تطبيقه الواسع في البيئات الواقعية.

المقدمة

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

يلعب الانحدار دورا رئيسيا في التحليلات التنبؤية، ويشمل عدة مجالات منها نمذجة المناخ، والتنبؤ المالي، وتشخيص الرعاية الصحية، وتقدير المحصول الزراعي ^1,2. ومع ذلك، فإن النتائج غير المفسرة لنماذج الانحدار، خاصة النماذج غير الخطية وعالية السعة مثل آلات تعزيز التدرج (GBMs)، والغابات العشوائية، والشبكات العصبية العميقة (DNNs)، تشكل تحديات كبيرة، خاصة للتطبيقات التي تتطلب شفافية ورؤى قابلة للتنفيذ. يمكن سد هذه الفجوة في قابلية التفسير باستخدام تقنية الذكاء الاصطناعي القابل للتفسير (XAI)، وهي تقنية لا تزال في مراحلها الأولى. حاليا، توفر أطر XAI التقليدية مثل SHAP وتفسير النموذج المحلي القابل للتفسير (LIME) فقط تفسيرات الميزات الثابتة³. تفشل هذه التقنيات الحالية في تفسير تعقيدات مهام الانحدار التي تشمل الاعتماديات الزمنية، وهياكل الميزات الهرمية، والسببيات، مما يخلق طريقا للبحث⁴^،⁵. وبسبب عدم أخذ هذه العوامل في الاعتبار، قد تستخلص XAI أحيانا استنتاجات خاطئة. على سبيل المثال، يأخذ SHAP التقليدي في الاعتبار فقط ارتباط السمات مع المتغير المستهدف دون النظر في السببية. دعونا ننظر في مجموعة بيانات تحتوي على ميزتين ثنائيتين مدخلتين، وهما استهلاك التبغ والأسنان الملطخة. المتغير المستهدف في هذه المجموعة هو احتمال الإصابة بالسرطان. في مثل هذا السيناريو، إذا تم الحصول على ارتباط بين ميزات الإدخال والمتغير المستهدف، فإن السرطان سيكون مرتبطا بشكل كبير بكلا الميزتين (استهلاك التبغ والأسنان الملطخة). من المضلل جدا الاستنتاج بأن الأسنان الملطخة تسبب السرطان، لأنه ينجم عن استهلاك التبغ المنتظم. لذا، يمكن تلخيص أنه بالرغم من التقدم الكبير في مجال XAI، فإن القضايا الرئيسية التي يجب معالجتها في سياقات الانحدار تشمل:

عدم القدرة على النظر في التبعيات الزمنية يؤدي فقط إلى تفسيرات ثابتة قد لا تعمل في السياقات التي تحتوي على بيانات ديناميكية.

عدم تضمين الاستدلال السببي في التكيفات التقليدية ل SHAP يسبب ارتباطات خاطئة بدلا من رؤى سببية قيمة.

يؤدي نقص الاهتمام بالتفسير الهرمي إلى نقص في التفسيرات المجمعة على مستوى أعلى.

ولمعالجة هذه القضايا، يهدف البحث الحالي إلى اقتراح إطار عمل جديد ل XAI يسمى TCHSHAP، يشمل الوزن الزمني، والاستدلال السببي، والإسناد الهرمي بهدف تعزيز قابلية التفسير والكفاءة الحاسوبية لنماذج XAI الحالية. ولهذا الغرض، يأخذ الإطار المقترح في الاعتبار عامل وزن زمني w_يمنح أوزانا أعلى للمساهمة في الميزة الأخيرة مقارنة بالقيم السابقة. يهدف عامل الوزن هذا إلى ضمان توافق قابلية التفسير مع الأهمية الزمنية للميزات الحاسمة في مشاكل الانحدار الديناميكي مثل التنبؤ بالعائد والتنبؤ بالمبيعات. علاوة على ذلك، تفشل نماذج الانحدار التقليدية في إظهار علاقات سببية، مما يؤدي إلى نسبات غامضة⁶. لمواجهة هذا التحدي، يعتمد الإطار المقترح النماذج السببية الهيكلية (SCMs) لتقييم التأثير السببي لميزة F_i على المخرج. بالإضافة إلى ذلك، غالبا ما تظهر مجموعات البيانات في الوقت الحقيقي علاقات هرمية (مكانية أو تصنيفية) بين الميزات، والتي نادرا ما تعرض في أطر XAI الحالية ^4,5,6. على العكس، يجمع إطار XAI المقترح الميزات الفردية (F_i) للحصول على ميزات أعلى المستوى (H_j)، لتحقيق دقة في التفسيرات.

بعيدا عن دمج الأهمية الزمنية والسببية والهرمية، يهدف التشكيل المقترح أيضا إلى تعزيز قابلية التفسير والتفسير. هذا الهدف هو جهد لوضع موازنة بين قابلية التفسير والدقة، لضمان أن الشروحات المستخرجة من TCHSHAP دقيقة وقابلة للتفسير⁴. يمكن وصف إطار XAI المقترح رياضيا كما يلي، بينما وصف المتغيرات المستخدمة مذكور في الجدول 1. يتم حساب قيمة SHAP التقليدية لهذه الميزة كمعادلة (1)^5,6.

figure-introduction-1 (1)

تجمع هذه الصياغة التقليدية ل SHAP مساهمات دون النظر في التعديلات الزمنية أو السببية أو الهرمية.

متغير	تعريف
F_i	الميزة التي يتم حساب قيمة شاب
شاب_آي	قيمة الشكل للميزة
S	مجموعة الميزات الكاملة
M	مجموعة فرعية من جميع الميزات
ف_ت	إجمالي عدد الميزات
P(M)	توقع النموذج عندما تستخدم الميزات فقط في M
λ > 0	معدل التحلل
T	وقت التنبؤ المرجعي
Y	الناتج

الجدول 1: وصف المتغيرات المستخدمة. يصف هذا الجدول أهمية المتغيرات المختلفة المستخدمة.

تم تعديل هذه الصياغة التقليدية ل SHAP للتعامل مع الاعتماديات الديناميكية من خلال تضمين الوزن الزمني. يتم دمج هذا الوزن الزمني بإدخال معامل الوزن wt = ^{e-λ |ت - ت|} حيث λ يمثل عامل الانحلال (λ > 0). كما نوقش سابقا، هذا الوزن الأسي يعطي وزنا أكبر للقيم الحديثة مقارنة بالقيم السابقة. يتضمن هذا التراجع الأسي مع فهم أن قيم الميزات الحديثة لها دلالة أعلى من القيم السابقة. قيمة SHAP المعدلة (بعد دمج الدلالة الزمنية) تعطى في المعادلة (2).

figure-introduction-2 (2)

هذه المعلومات الزمنية مهمة لمهام الانحدار الديناميكي مثل التنبؤ بالعوائد أو الأسهم.

علاوة على ذلك، لجعل التفسيرات أكثر قوة، يتم تطبيق SCM لتقييم التأثير السببي للميزة F_i على الناتج Y. الصياغة الرياضية لشاب السببي معطاة في المعادلة (3)

figure-introduction-3 (3)

هنا تمثل do(_{F i}) الميزة التي ساهمت في التغيير. وباستخدام هذا، يحقق النموذج القدرة على شرح السببية بدلا من الارتباط. ومن الجدير بالذكر أن الحوسبة المعتمدة على SCM للتأثيرات السببية تضمن أن الفضل يعطى فقط الميزات ذات التأثير السببي المباشر، مما يلغي الارتباطات الزائفة.

علاوة على ذلك، يقترح النموذج المقترح التسلسل الهرمي لتجميع السمات عبر مستويات مختلفة. الصياغة الرياضية لنظام SHAP الهرمي معطاة في المعادلة (4).

figure-introduction-4 (4)

يضمن دمج التسلسل الهرمي في النموذج المقترح تحقيق دقة التفسيرات. الإطار المقترح موضح في الشكل 1.

figure-introduction-5
الشكل 1: توضيح تصويري لعناصر مختلفة في الإطار المقترح. يقدم هذا الشكل توضيحا تصويريا لعناصر مختلفة في إطار TCHSHAP المقترح والتي تشمل الوزن الزمني، والاستدلال السببي، والإسناد الهرمي. يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.

تكمن حداثة النموذج المقترح TCHSHAP في التعامل مع هذه التناقضات الثلاثة باستخدام الأوزان الزمنية (لإعطاء وزنا أكبر للمعلومات الحالية)، والنماذج السببية الهيكلية (SCM؛ لتقييم التأثيرات السببية)، والتجميع الهرمي لقيم SHAP (للحصول على رؤى متعددة المستويات). وبالتالي، توسع المجموعة المقترحة SHAP إلى ما بعد قيودها الثابتة، موفرة إطار عمل تفسيري محسن للانحدار.

يمتلك TCHSHAP المقترح القدرة على تحقيق أهمية كبيرة للتطبيقات الفورية في السيناريوهات التي تتطلب اتخاذ قرارات أفضل، حيث يحدد الشروحات التفصيلية للمخرجات في نماذج الانحدار، مما يربط النمذجة باتخاذ القرار بسلاسة. باختصار، المساهمة الرئيسية لهذه المخطوطة هي تصميم إطار جديد يجمع بين الوزن الزمني، والاستدلال السببي، والعلاقات الهرمية لتعزيز التفسيرات العملية لنموذج SHAP التقليدي.

أعمال ذات صلة

تدمج XAI منهجيات مختلفة مصممة خصيصا لتعزيز الشفافية وقابلية التفسير لنماذج التعلم الآلي المختلفة. تؤسس هذه الاستراتيجيات الثقة في النتائج من خلال توفير الرؤى المطلوبة من النتائج. على سبيل المثال، تعزز منهجيات XAI البارزة مثل LIME وSHAP قابلية التفسير والشفافية لنماذج الصندوق الأسود عبر مجالات متعددة، وهي المالية والتعليم^وقطاع الرعاية الصحية. أيضا، تستخدم تقنيات XAI في المهام المتعلقة بتحليلات البرمجيات، واكتشاف النسخ، والتنبؤ بالعيوب في الوقت المناسب^. بالإضافة إلى ذلك، أشار أوال وروي أيضا إلى التناقضات وأظهرا موثوقية أقل في توليد التفسيرات⁸. هنا، طبق المؤلفون مقاييس تقييم المستوى الحبيبي لتقليل الاتساق في التقييم. كما تم استخدام XAI على نطاق واسع في المجال الطبي لفهم أبرز العوامل التي تؤثر على نتائج مهمة التصنيف، وبالتالي تعزيز ثقة الممارسين الصحيين باستخدام التشخيصات المعتمدة على الذكاء الاصطناعي 9,10,11,12. علاوة على ذلك، في قطاعات مثل التنبؤ بالإيجار السكني في بلجيكا، تسهل طرق XAI تفسير النماذج المعقدة، مما يعزز مراقبة الجودة ويقلل من أخطاء الإنتاج¹³. أظهر بومر وآخرون أن دمج طرق XAI مع التدرجات يعزز أداء طرق XAI من حيث المتانة، والوفاء، والتعقيد، والعشوائية في علم المناخ¹⁴. حاول العديد من الباحثين ابتكار تقنيات جماعية وهجينة. بالإضافة إلى اقتراح تقنيات المجموعة، أظهر الباحثون أيضا فعالية هذه التقنيات الهجينة في توفير رؤية شاملة للنماذج المعقدة^15,16. مراجعة مفصلة للتقنيات والتحسينات والتطبيقات المختلفة مرزونة في الجدول 2، الذي يوضح بوضوح أن أكثر التقنيات تطبيقا هي LIME وSHAP. تشير اتجاهات البحث المستقبلية إلى استكشاف التحسين في هذه الأساليب لتعزيز قابلية تفسير هذه النماذج. واستمرارا لهذا البحث، يركز المؤلفون في أبحاثهم الحالية على تحسين SHAP من خلال إضافة الاستدلال السببي، والإسناد الهرمي، والوزن الزمني.

ذكر	تقنيات XAI	الامثل	البصائر	التطبيقات	اتجاهات البحث المستقبلية
(أنوشري وآخرون، 2024)	جير	لم يتم توفيرها	تعزيز قابلية التفسير والشفافية لنماذج الصندوق الأسود عبر تطبيقات متنوعة في قطاعي المالية والتعليم والرعاية الصحية.	· المقايضة بين الدقة وقابلية التفسير في قطاعات المالية والتعليم والرعاية الصحية	· نحتاج إلى تطوير قائمة بالمقاييس التفصيلية لتقييم نماذج XAI المختلفة
	شاب
	آليات الاضطراب
	آليات قائمة على الانتباه
(أوال وروي، 2024)	باي إكسبلينر	مقاييس تقييم المستوى الحبيبي لتقليل الاتساق في التقييم.	يبرز التناقضات ويظهر موثوقية أقل في توليد التفسيرات.	· المهام المتعلقة بتحليلات البرمجيات	· تتطلب طرق بحث متقدمة لتعزيز موثوقية نماذج XAI للمهام المتعلقة بتحليلات البرمجيات
	جير			· اكتشاف النسخ
				· التنبؤ بعيوب الزمن
(بومر وآخرون، 2024)	التدرجات المتكاملة	تكامل طرق XAI مع التدرجات	يعزز دمج طرق XAI مع التدرجات الأداء من حيث المتانة، والوفاء، والتعقيد، والعشوائية في علم المناخ.	· التنبؤ بعلم المناخ	· ركز على تقييم علم المناخ حسب المهام.
	انتشار الصلة حسب الطبقة			· توقع خرائط متوسط درجة الحرارة السنوية
	تدرجات الأزمنة المدخلة
	طرق الحساسية مثل التدرج، SmoothGrad، NoiseGrad، وFusionGrad
(بهاتناغار وأغروال، 2024)	جير	مجموعة تقنيات XAI	يوفر Ensemble رؤى شاملة ويعزز قابلية التفسير وقابلية الشرح للنماذج المعقدة.	· تطبيق على مجموعة البيانات الأخلاقية لتعزيز قابلية تفسير النتائج	· استكشف طرق XAI الهجينة من خلال دمج تقنيات متعددة
	شاب				· تخصيص خوارزميات XAI مختلفة لنماذج محددة تلبي احتياجات المستخدمين المختلفة
(دياس، 2024)	جير	دمج تقنيات XAI	تحسين قابلية التفسير والدقة	· تصنيف التعليقات السامة	· تعزيز القوة لأغراض التصنيف.
	اشرح لي كأنني في الخامسة
(هاجاري وآخرون، 2024)	شاب	غير مقدم	يقدم SHAP رؤى مفصلة حول عوامل الخطر في التنبؤ بمتلازمة الشريان التاجي الحاد.	· متلازمة الشريان التاجي الحاد (ACS)	· لاكتشاف عوامل خطر جديدة في التنبؤ ب ACS.
(حميدة وآخرون، 2024)	مراجعة شاملة لتقنيات XAI المختلفة	غير مقدم	يقدم رؤى حول تطبيقات XAI XAI في قطاع الرعاية الصحية، مع التأكيد على أهمية قابلية تفسير قرارات الذكاء الاصطناعي لفهم النتائج التي يقدمها الذكاء الاصطناعي.	· رؤى قابلة للتنفيذ في قطاع الرعاية الصحية	· تعزيز مكونات XAI وهي الفهم، الشفافية، التفسير، وقابلية التفسير.
					· تقنيات XAI مخصصة لقطاع الرعاية الصحية للحصول على رؤى تفصيلية لمجال الرعاية الصحية
(إيهونغبي وآخرون، 2024)	Grad-CAM (رسم خرائط تفعيل الفئات المرجحة بالتدرج)	رسم خرائط تفعيل الفئات المرجحة بالتدرج	دقة أفضل لتشخيص الالتهاب الرئوي وكوفيد-19.	· تحسين الدقة في التشخيص الطبي	زيادة الوعي بقابلية استخدام تقنيات XAI للتطبيقات الواقعية
(لينيرز، & دي مور، 2023).	6 تقنيات XAI	مجموعة من 6 تقنيات XAI على نموذج CatBoost	تعزز تقنيات متعددة قابلية تفسير XAI لتوقع الإيجار.	· توقعات الإيجار السكني في بلجيكا	يمكن استخدام XAI في اتخاذ القرار
(ماكومبورا وآخرون، 2024)	شاب	مجموعة من RF، LightGBM، XGBoost مع SHAP	يكشف SHAP عن العوامل المختلفة المسؤولة عن تقييم وتوقع جودة المياه.	· تقييم وتوقع جودة المياه	يمكن استخدامها لاتخاذ القرار
(شليغل & كيم، 2023).	تقنيات XAI مع تحليل الاضطراب	تحليل الاضطراب	يمكن استخدامها بفعالية في مهام التصنيف لبيانات السلاسل الزمنية	· بيانات السلاسل الزمنية للمالية والرعاية الصحية وعلوم المناخ	لدمج تقنيات XAI متعددة لتعزيز قابلية التفسير.
(سيلفا & كيلر، 2023)	XAI	غير مقدم	نماذج XAI لها قيود على تفسير النتائج في حالة وجود ميزات مترابطة. يمكن استخدامه في علوم الأرض والغلاف الجوي.	· علوم الغلاف الجوي	يجب تحسين XAI للميزات المترابطة لتجنب التفسيرات الخاطئة.
	معدل التفاعل الجزيئي الحيوي			· الكيمياء الجوية
(ي، س.، وتشالا، م. 2023)	شاب	غير مقدم	هنا، تقارن نماذج XAI من حيث قابلية التفسير وفهم الميزات المهمة، وخلصت إلى أن SHAP وLIME هما الأكثر فعالية.	· التطبيقات الطبية	لتعزيز قابلية التفسير للتطبيقات الطبية المتقدمة
	جير
	حزب الشعب الديمقراطي
	الحركه

الجدول 2: مراجعة شاملة لمختلف التحسينات التي أجريت على تقنيات XAI. يقدم هذا الجدول مراجعة شاملة لتقنيات التحسين المختلفة التي اقترحها باحثون مختلفون.

الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.

البروتوكول

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

ملاحظة: يناقش هذا القسم طريقة المجموعات المقترحة، بما في ذلك جميع التعديلات المقترحة كما هو موضح في الشكل 1.

إعداد البيانات

وللتحقق من فعالية الإطار المقترح، أجرى المؤلفون تجربة على مجموعة بيانات محصول المحاصيل التي جمعت من Kaggle¹⁷. تتكون هذه المجموعة من بيانات زراعية هندية لمختلف المحاصيل من عام 1997 إلى 2020 وتم الوصول إليها في مارس 2025. تتضمن هذه المجموعة العديد من الخصائص، مثل الموسم، crop_year، الأسمدة، المبيد الحشي، المحاصيل، والعائد (المتغير المستهدف)، وغيرها. يتم معالجة مجموعة البيانات المدرسة مسبقا لتعزيز الكفاءة باستخدام ترميز أحادي التسخين للتعامل مع القيم التصنيفية. الميزات الفطرية مثل الموسم، والمحصول، والحالة مشفرة ب one-hot. يستخدم أيضا مقياس MinMax لتوسيع الخصائص العددية مثل المساحة، الإنتاج، annual_rainfall، الأسمدة، والمبيدات الحشرية إلى نطاق [0,1]. للتعامل مع القيم الشاذة، استخدمنا قاعدة النطاق الرباعي مع عتبة Q₁ - 1.5 • IQR¹⁷. تم تطبيق بذرة عشوائية مكونة من 42 عبر جميع خطوات المعالجة المسبقة للحصول على قابلية تكرار النتائج. علاوة على ذلك، تم تقسيم مجموعة البيانات إلى مجموعة تدريب (80٪) ومجموعة بيانات اختبار (20٪) بعد المعالجة المسبقة.

الإعداد التجريبي

تم تنفيذ التجربة باستخدام بايثون 3.10 على خادم معالج A100 مع وحدة معالجة مركزية: معالج AMD Rome 7742 مزدوج، 128 نواة، وذاكرة RAM بسعة 1 تيرابايت. المكتبات المستوردة للمحاكاة هي scikit-learn 1.3.0، XGBoost 1.7.6، TensorFlow 2.13، SHAP 0.41.0، LIME 0.2.0.1، وELI5 0.13.0.

تقييم نماذج التعلم الآلي

هنا، استخدم المؤلفون نماذج انحدار متنوعة مثل LinearRegression()، Ridge(alpha=1,random_state=42)، Lasso(alpha=0.1،_الحالةالعشوائية = 42)، Decision TreeRegressor(max_depth = 10، random_state = 42)، RandomForestRegressor(max_depth = 15random_state = 42)، GradientBoostingRegressor(n_estimators = 200، learning_rate = 0.1، random_state = 42)، XGBoost، وCNN لتحديد تأثير المتغيرات المختلفة على المتغير المستهدف في الإنتاج¹⁸. يستخدم XGBoost 300 مقدر ومعدل تعلم 0.05. في نموذج CNN، تستخدم طبقتان مخفيتان، تفعيلات ReLU ومحسن آدم بمعدل تعلم 0.001. يتم مقارنة كفاءة هذه النماذج باستخدام مقاييس أداء مختلفة. تقوم هذه النماذج أيضا بضبط المعاملات الفائقة. على سبيل المثال، يتم تدريب انحدار الحافة وانحدار الحبل بحيث يكون ألفا يساوي 1.0 وألفا يساوي 0.1 على التوالي. في شجرة القرار والغابة العشوائية، تم تعيين العمق الأقصى إلى 10 و15 على التوالي. يستخدم تعزيز التدرج 200 مقدر ومعدل تعلم 0.1. تم تقييم أداء هذه النماذج باستخدام التحقق المتقاطع الثلاثي من حيث متوسط التربيع الخطأ (MSE) ومربع R2.

تقييم نماذج XAI

كما نوقش، يستخدم العمل الحالي نماذج XAI مختلفة لمقارنة النتائج. هنا، يستخدم المؤلفون شاب. TreeExplainer (model,data = crop_yield) للنماذج القائمة على الشجرة (Random Forest، Gradient Boosting، وXGBoost). تم اختيار مجموعة بيانات خلفية تضم 100 حالة مختارة عشوائيا من مجموعة بيانات التدريب لتثبيت الإسناد. علاوة على ذلك ، شاب. تم استخدام KernelExplainer() للنماذج غير الشجرية (الخطية، الحافة، الحبل، وCNN) مع 1000 اضطراب للوصول إلى قيم SHAP. شرح جدولي (lime.lime_tabular. LimeTableularExplainer) استخدم مع 5000 اضطراب في كل مثيل لتشغيل LIME على نفس مجموعة البيانات الخلفية لضمان استقرار التفسيرات المحلية. تم تحديد عرض النواة بناء على الخصائص، واستخدمت دالة التنبؤ في النموذج لاستنتاج التفسيرات. تم توليد تفسيرات محلية عن طريق استدعاء explainer.explain_instance(x,model.predict). تم استخدام ELI5 كأهمية تبديل مع 10 تكرارات على تقسيم التحقق لتجنب الإفراط في ملاءمة بيانات الاختبار، وتم محاكاته باستخدام eli5.sklearn.PermutationImportance (مقدر،random_state = 42). تم إثبات أهمية المتوسط والتباين بين التكرارات خلال التجربة. وأخيرا، تم استخدام النموذج المناسب لتقسيم التحقق للحصول على مخططات الاعتماد الجزئي (PDPs)، والتي تم تنفيذها باستخدام PartialDependencyDisplay.from_estimator (model,X_val,features = [feature]),

إعداد إطار عمل TCHSHAP

لاحقا، تم تنفيذ TCHSHAP من خلال تطبيق خطوات مختلفة بالتسلسل. كانت الخطوة الأولى في التسلسل هي الترجيح الزمني الذي يستخدم دالة تلاشي أسي بمعدل تحلل λ = 0.85، وقد تم اختياره بناء على دراسة استئصال عبر λ figure-protocol-1 [0.7.0.95]. تم اختيار الوقت المرجعي (T_current) كسنة المحصول الأخيرة في مجموعة البيانات. هذا يضمن أن تفسيرات النموذج تأخذ في الاعتبار ديناميكيات توقعات الإنتاج الزراعي، حيث تحمل الميزات الحديثة (الأمطار، استخدام الأسمدة، أو المبيدات) أهمية أكبر لاتخاذ القرارات. تبع التصنيف الزمني نظام SCM لاعتماد الاستدلالات السببية. تستخدم المنهجية المقترحة عامل النقطة لمحاكاة التدخلات وحساب متوسط التأثير السببي. تم تطبيق الاستدلال السببي باستخدام مكتبة بايثون doWhy 0.13. يساعد ذلك في تخفيف الروابط المضللة الناتجة عن المدخلات المترابطة مثل الإنتاج والمساحة، مما يحقق روابط حقيقية بين السبب والنتيجة. كانت الخطوة الأخيرة في خط الأنابيب هي النسبة الهرمية، حيث تم تنظيم الميزات في مجالات أعلى مستوى. بالنسبة لمجموعة البيانات الحالية، هناك 3 ميزات هرمية، وهي المدخلات الزراعية (الأسمدة، المبيدات)، العوامل الجغرافية (الولاية، المنطقة، Crop_Year)، والعوامل البيئية (Annual_Rainfall، الموسم). باستخدام الجمع المعياري لتجميع بيانات SHAP، يمكن الحصول على تفسيرات على المستويين (المفصلة والعامة).

باختصار، يجمع خط أنابيب TCHSHAP بين ثلاث خطوات: التعديل الزمني، الإسناد السببي، والتجميع الهرمي في عملية واحدة. هنا، تقدم SHAP الأساسية أولا الشرح، ثم تضيف ثلاثة تحسينات. يضمن هذا المخطط أن تكون مخرجات TCHSHAP متسقة، ويمكن إعادة إنتاجها، وتوفر تفسيرات محلية وعالمية. الوصف خطوة بخطوة للإطار المقترح مقدم في الشيفرة الزائفة أدناه.

الادخال:
X: مجموعة بيانات تحتوي على ميزات X_1,X _{2,X 3},........,X_n.
t: متغير زمني في مجموعة البيانات
_تيار T: وقت مرجعي
λ: معدل التحلل
G: مجموعات الميزات
حساب الأوزان الزمنية
لكل مثال، i figure-protocol-2 X، قيم w_t= ^e-λ|t-T|,
حساب قيم الشاب شاب_i
احسب شاب_تمبرال= شاب_i* w t
حساب الاستدلال السببي
لكل ميزة، X_i figure-protocol-3 X
احسب _سببالشاب = شاب_i* التأثير السببي(X_j →Y)
النسبة الهرمية
لكل ميزة، X_i figure-protocol-4 X
حساب قيم الشاب شاب_i
لكل G_i figure-protocol-5 G
figure-protocol-6

الناتج: مجموعة من قيم SHAP المجمعة هرميا

نقطة التحقق الكمية لتسهيل استكشاف الأخطاء وإصلاحها موضحة أدناه: الغابة العشوائية التي تعطي أدنى MSE وأعلى R² عبر جميع نماذج التعلم الآلي. الأهمية التي تم الحصول عليها كانت في مساحة > مبيدات حشرية > الأسمدة، مع تقليل الموسم و Crop_Year الأدنى. كان توقع SHAP الأساسي العالمي هو 161.137. علاوة على ذلك، بعد تطبيق λ = 0.85، تزداد مساهمة Crop_year والموسم. تتبع المساهمات على مستوى المجموعة ترتيب المدخلات الزراعية>العوامل الجغرافية> العوامل البيئية.

الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.

النتائج

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

يناقش هذا القسم النتائج التي تم الحصول عليها من خلال تطبيق طرق مختلفة مستخدمة خلال دراسة التجربة، وتشمل أقسام فرعية مختلفة كما يلي:

جمع البيانات ومعالجتها المسبقة

لإجراء تقييم تجريبي للإطار المقترح، تم جمع مجموعة بيانات حول إنتاجية المحاصيل من كاجل¹⁹. تم معالجة البيانات المجمعة مسبقا، بما في ذلك...

الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.

المناقشة

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

الهدف الأساسي من الدراسة الحالية هو دمج الوزن الزمني، والاستدلال السببي، والدلالة الهرمية في نموذج SHAP التقليدي، مما ينتج نموذج TCHSHAP. الدافع وراء تضمين هذه المكونات في تقنيات XAI هو تعزيز قابلية تفسير النتائج. بالنسبة للوزن الزمني، نظرنا في تقنية تدهور أسي، تعطي وزنا أكبر للقيم الحديثة مقارنة بالقيم القديمة. في الدلالة السببية، يحاول المؤلفون تقييم التأثير المباشر للسمات المختلفة على المتغير المتنبئ. علاوة على ذلك، تصنف معلمات الإدخال أيضا إلى ميزات هرمية مختلفة لفهم النتائج بشكل أفض...

الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.

الإفصاحات

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

يعلن المؤلفون أنه لا توجد تضارب مصالح.

شكر وتقدير

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

يتم تمويل هذا العمل من الأموال الوطنية عبر FCT – Fundação para a Ciência e a Tecnologia, I.P.، بموجب عقد البرنامج UID/05105/2025.

الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.

المواد

قائمة المواد المستخدمة في هذه المقالة
الاسم	الشركة	رقم فهرسي
اشرح لي كأنني في الخامسة	0.13.0	PyPI
جير	0.2.0.1	PyPI
خادم Nvidia DGX A100 GPU	معالج مزدوج AMD Rome 7742، بإجمالي 128 نواة	نفيديا
ذاكرة النظام 1 تيرابايت
بايثون	3.1	بايثون
شاب	0.41.0	PyPI
سكيكيت-لرن	1.3.0	PyPI
تنسور فلو	2.13	تدفق التنسور
XGBoost	1.7.6	PyPI

المراجع

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Kaur, B., et al. N-Beats architecture for explainable forecasting of multi-dimensional poultry data. PloS One. 20 (4), e0320979(2025).
Sharma, N., Mangla, M., Iqbal, M. M., Mohanty, S. N. Deep Learning Framework for Identification of Skin Lesions. EAI Endorsed Trans Perv Health Tech. 9, (2023).
Sharma, N., Mohanty, S. N., Mahato, S., Pattanaik, C. R. A novel dataset and local interpretable model-agnostic explanations (LIME) for monkeypox prediction. Intell Decision Technol. 17 (4), 1297-1308 (2023).
Makumbura, R. K., et al. Advancing Water Quality Assessment and Prediction Using Machine Learning Models, Coupled with Explainable Artificial Intelligence (XAI) Techniques Like Shapley Additive Explanations (SHAP) For Interpreting the Black-Box Nature. Results Eng. 23, 102831(2024).
Schlegel, U., Keim, D. A. A Deep Dive into Perturbations as Evaluation Technique for Time Series XAI. Communic Comp Informat Sci. 1903, (2023).
Silva, S. J., Keller, C. A. Limitations of XAI methods for process-level understanding in the atmospheric sciences. Artificial Intell Earth Syst. 3 (1), e230045(2024).
Anushree, G., Madagaonkar, S. B., Ravili, C. H. Unveiling the Black Box: A Comprehensive Review of Explainable AI Techniques. Int J Sci Res Eng Manag. 8 (9), 1-11 (2024).
Awal, M. A., Roy, C. K. EvaluateXAI: A framework to evaluate the reliability and consistency of rule-based XAI techniques for software analytics tasks. J Syst Software. 217, 112159(2024).
Hajare, S. W., Rewatkar, R., Reddy, K. Design of an iterative method for enhanced early prediction of acute coronary syndrome using XAI analysis. AIMS Bioeng. 11 (3), 301-322 (2024).
Hamida, S. U., Chowdhury, M. J. M., Chakraborty, N. R., Biswas, K., Sami, S. K. Exploring the landscape of explainable artificial intelligence (XAI): A systematic review of techniques and applications. Big Data Cognit Comput. 8 (11), 149(2024).
Ihongbe, I. E., Fouad, S. F., Mahmoud, T., Rajasekaran, A., Bhatia, B. Evaluating Explainable Artificial Intelligence (XAI) techniques in chest radiology imaging through a human-centered Lens. PloS One. 19 (10), e0308758(2024).
A Comparative Analysis of Explainable AI Techniques for Enhanced Model Interpretability. Swathi, Y., Challa, M. 3rd Int Conf Pervasive Comput Social Netw, , 229-234 (2023).
Lenaers, I., De Moor, L. Exploring XAI techniques for enhancing model transparency and interpretability in real estate rent prediction: a comparative study. Finance Res Lett. 58 (Part A), 104306(2023).
Bommer, P. L., Kretschmer, M., Hedström, A. K., Bareeva, D., Höhne, M. Finding the right XAI Method - A Guide for the Evaluation and Ranking of Explainable AI Methods in Climate Science. Artif Intell Earth Syst. 3, e230074(2024).
Bhatnagar, S., Agrawal, R. Understanding explainable artificial intelligence techniques: a comparative analysis for practical application. Bullet Elect Eng Info. 13 (6), 4451-4455 (2024).
Ennab, M., Mcheick, H. Enhancing interpretability and accuracy of AI models in healthcare: a comprehensive review on challenges and future directions. Front Robot AI. 11, 1444763(2024).
Wan, X., Wang, W., Liu, J., Tong, T. Estimating the sample mean and standard deviation from the sample size, median, range and/or interquartile range. BMC Med Res Methodol. 14 (1), 135(2014).
Mangla, M., Shinde, S. K., Mehta, V., Sharma, N., Mohanty, S. N. Handbook of Research on Machine Learning: Foundations and Applications. , CRC Press. (2022).
Gupta, A. Agricultural Crop Yield in Indian States Dataset [Data set]. , Kaggle. https://www.kaggle.com/datasets/akshatgupta7/crop-yield-in-indian-states-dataset (2025).
Shin, J., Miah, A. S. M., Konnai, S., Hoshitaka, S., Kim, P. Electromyography-Based Gesture Recognition with Explainable AI (XAI): Hierarchical Feature Extraction for Enhanced Spatial-Temporal Dynamics. IEEE Access. 13, 88930-88951 (2025).
Das, A., Rad, P. Opportunities and challenges in explainable artificial intelligence (xai): A survey. arXiv. , (2020).
Srinivasu, P. N., Sandhya, N., Jhaveri, R. H., Raut, R. From blackbox to explainable AI in healthcare: existing tools and case studies. Mobile Info Syst. 2022 (1), 8167821(2022).
Fiok, K., Farahani, F. V., Karwowski, W., Ahram, T. Explainable artificial intelligence for education and training. J Defense Model Simulat. 19 (2), 133-144 (2022).

الوصول مقيد. يرجى تسجيل الدخول أو بدء فترة تجريبية لعرض هذا المحتوى.

إعادة الطباعة والأذونات

طلب إذن لإعادة استخدام النص أو الأشكال في مقالة JoVE هذه

طلب إذن

مجموعة الأوزان الزمنية، والاستدلال السببي، والنسبة الهرمية نحو تحسين SHAP

في هذه المقالة

ملخص

الملخص

المقدمة

البروتوكول

النتائج

المناقشة

الإفصاحات

شكر وتقدير

المواد

المراجع

إعادة الطباعة والأذونات

الوسوم

مقالات ذات صلة