بروتوكول قابل للتكرار لتطوير وتقييم أطر الذكاء الاصطناعي القابلة للتفسير في تحليلات الرعاية الصحية

ملخص

هنا، نقدم بروتوكولا قابلا للتكرار لتطوير وتقييم نماذج الذكاء الاصطناعي القابلة للتفسير لتحليلات الرعاية الصحية. يدمج سير العمل معالجة البيانات المسبقة، والنمذجة التنبؤية، وقابلية التفسير القائمة على SHAP وLIME وGrad-CAM، والتقييم الكمي، والتحقق المتمحور حول الإنسان لدعم اتخاذ القرار السريري الشفاف والموثوق.

الملخص

يتعرف بشكل متزايد على الذكاء الاصطناعي القابل للتفسير (XAI) كأداة لا غنى عنها لبناء أنظمة ذكاء اصطناعي موثوقة في الرعاية الصحية، حيث تعد الشفافية والقدرة على شرح القرارات من المكونات الأساسية لاتخاذ القرار السريري. يقدم هذا المنشور نهجا تجريبيا قابلا لإعادة الإنتاج لتطوير وتقييم أنظمة الذكاء الاصطناعي القابلة للتفسير لتحليلات الرعاية الصحية. يدمج خط الأنابيب المطور خطوات المعالجة المسبقة للبيانات، والنمذجة التنبؤية، وتوليد التفسير، والتقييم في سير عمل واحد سلس يمكن تطبيقه على كل من البيانات السريرية المنظمة ومجموعات بيانات التصوير الطبي. أظهرت نماذج التعلم الآلي الجماعية أداء تنبؤيا قويا على مجموعات بيانات جدولية منظمة، في حين أن نماذج التعلم العميق فعالة لتعلم الأنماط المعقدة في بيانات التصوير الطبي. تقنيات مثل SHAP وLIME وGrad-CAM هي تفسيرات عالمية ومحلية تسهل تفسير النماذج. مفيد جدا. يشمل التقييم الكمي للإطار العديد من المقاييس المختلفة مثل الدقة، الدقة، الاسترجاع، درجة F1، ROC-AUC، مقاييس التفسير، الدقة، والاستقرار. تشير النتائج إلى أنه عند التحكم في الظروف التجريبية، أظهر الإطار أداء تنبؤيا وجودة تفسير أفضل في الظروف التجريبية المقيمة. كوثيقة موجهة بالبروتوكول، تدعم هذه القطعة من العمل قابلية التكرار والتوسع، والتنفيذ المستمر من قبل كائنات حية أخرى. هذا النموذج الشفاف والمفهوم للذكاء الاصطناعي هو الأساس الذي تكتسب عليه أنظمة اتخاذ القرار السريري وأنظمة تحليلات الرعاية الصحية الثقة والاستخدام على نطاق واسع.

المقدمة

أصبح الذكاء الاصطناعي (AI) مكونا مهما في الرعاية الصحية الحديثة من خلال دعم تشخيص الأمراض، والتوقعات التشخيصية، وتصنيف المخاطر، وتحليل الصور الطبية،^{واتخاذ القرار} السريري. مكنت التطورات في التعلم الآلي والتعلم العميق أنظمة الرعاية الصحية من معالجة كميات كبيرة من البيانات المنظمة وغير المنظمة، وغالبا ما تحقق أداء تنبؤيا يقارن أو يتجاوز الأساليب الإحصائية التقليدية². على الرغم من هذه التطورات، تعمل العديد من نماذج الذكاء الاصطناعي كأنظمة صندوق أسود معقدة، مما يصعب على الأطباء وأصحاب المصلحة في الرعاية الصحية فهم كيفية توليد التنبؤات³. هذا النقص في الشفافية يمكن أن يحد من الثقة والتبني والمساءلة في بيئات الرعاية الصحية عالية المخاطر ^4,5.

برز الذكاء الاصطناعي القابل للتفسير (XAI) كنهج واعد لتحسين شفافية وقابلية تفسير نماذج التعلم الآلي⁶. توفر تقنيات التفسير المستخدمة على نطاق واسع، بما في ذلك SHAP (تفسيرات شابلي الإضافية)، وLIME (تفسيرات محلية غير معتمدة على النموذج)، ورسم خرائط تفعيل الفئات المرجحة بالتدرج (Grad-CAM)، رؤى حول سلوك النموذج من خلال نسب الميزات وآليات التفسير البصري^7،8،9. وقد تم تطبيق هذه الطرق بشكل متزايد في تطبيقات الرعاية الصحية لدعم التفسير السريري، وتدقيق النماذج، ودعم اتخاذ القرار^10,11. ومع ذلك، فإن قابلية التفسير وحدها لا تضمن الموثوقية أو التكرار أو الفائدة السريرية. سلطت الدراسات الحديثة الضوء على تحديات تتعلق بعدم استقرار التفسير، والحساسية للاضطرابات، وقلة التحقق من صحة الطبيب، والتناقضات بين مخرجات التفسير والاستدلال النموذجي الحقيقي 12,13,14,15.

بالإضافة إلى تحديات القابلية للتفسير، لا تزال قابلية التكرار مصدر قلق كبير في أبحاث تعلم الآلة في الرعاية الصحية 16,17,18. توفر العديد من الدراسات المنشورة معلومات محدودة حول إجراءات المعالجة المسبقة، وبيئات البرمجيات، وتكوينات المعاملات الفائقة، واستراتيجيات التحقق، وسير عمل التنفيذ، مما يجعل التكرار المستقل صعبا^{19، 20، 21}. علاوة على ذلك، تركز دراسات الذكاء الاصطناعي في الرعاية الصحية غالبا على الأداء التنبؤي مع تقديم إرشادات محدودة بشأن تقييم جودة التفسير، والتقييم المرتكز على الطبيب، والاعتبارات العملية للتنفيذ²². قد تعيق هذه القيود نقل أنظمة الذكاء الاصطناعي القابلة للتفسير من بيئات البحث إلى بيئات الرعاية الصحية الواقعية 23,24,25,26,27.

غالبا ما تقيم سير العمل الحالية في الرعاية الصحية تقنيات التفسير الفردية أو النماذج التنبؤية بشكل منفصل ونادرا ما توفر بروتوكولات موحدة تدمج إعداد البيانات، والنمذجة التنبؤية، وتقييم التفسير، والتقييم المرتكز على الإنسان، وموارد التكرار 28,29,30,31. وبالتالي، قد يواجه الباحثون والممارسون صعوبات عند إعادة إنتاج سير العمل، أو مقارنة طرق التفسير، أو تقييم الفائدة العملية لأنظمة الذكاء الاصطناعي القابلة للشرح عبر مجموعات بيانات الرعاية الصحية ومجالات التطبيقات المختلفة. لذلك هناك حاجة إلى بروتوكول شامل وقابل للتكرار لتسهيل التنفيذ المتسق والتقييم والإبلاغ عن سير عمل الذكاء الاصطناعي القابل للتفسير في الرعاية الصحية^{32،33،34،35}.

هنا، نقدم بروتوكولا قابلا للتكرار لتطوير وتقييم وتفسير أنظمة الذكاء الاصطناعي القابلة للتفسير في تحليلات الرعاية الصحية. يدمج البروتوكول معالجة البيانات المسبقة، والنمذجة التنبؤية، وتقييم قابلية التفسير باستخدام SHAP، LIME، وGrad-CAM، والتقييم المرتكز على الطبيب، وإجراءات التحقق، وموارد القابلية للتكرار ضمن سير عمل موحد. الهدف هو توفير إطار موحد يدعم تطوير النماذج الشفافة، وتقييم جودة الشرح، والتنفيذ القابل لإعادة الإنتاج عبر مجموعات بيانات صحية متنوعة 36,37,38,39. تكمن المساهمة المنهجية لهذا العمل في دمج التحليلات التنبؤية، وتقييم قابلية التفسير، والتحقق من صحة الطبيب، وممارسات القابلية للتكرار في بروتوكول واحد مناسب لأبحاث الذكاء الاصطناعي في الرعاية الصحية، والتعليم، والدراسات الموجهة للنشر 40,41,42,43.

المساهمة الأساسية لهذا العمل ليست تطوير خوارزمية جديدة لقابلية التفسير.

بل يوفر بروتوكولا موحدا وقابلا للإعادة إنتاجه ومثبتا تجريبيا يدمج النمذجة التنبؤية، وتقييم التفسير، والتصور، والتقييم، والتفسير المتمحور حول الإنسان في سير عمل موحد مناسب لتحليلات الرعاية الصحية ونشر البروتوكولات المعتمدة على JoVE. الهدف الأساسي من هذا العمل ليس تقديم خوارزمية تنبؤية جديدة، بل توفير بروتوكول موحد، قابل للتكرار، والتحقق تجريبيا لتنفيذ سير عمل الذكاء الاصطناعي القابل للتفسير في تحليلات الرعاية الصحية. يدمج البروتوكول معالجة البيانات المسبقة، والنمذجة التنبؤية، وتقييم قابلية التفسير، والتقييم المرتكز على الطبيب، وموارد القابلية للتكرار في إطار موحد مناسب للتبني والتكرار والنشر التعليمي.

البروتوكول

تم الحصول على جميع مجموعات البيانات المستخدمة في هذه الدراسة من مستودعات متاحة للجمهور ومجهولة الهوية بالكامل، بما في ذلك مستودع تعلم الآلة في UCI، وقاعدة بيانات PhysioNet MIMIC-III، ومجموعات بيانات أشعة الصدر التابعة للمعاهد الوطنية للصحة. لم يتم الوصول إلى أي معلومات مرضى معروفة. امتثلت الدراسة إلى إرشادات أخلاقيات البحث المؤسسي للتحليل الثانوي للبيانات غير المحددة المتاحة للجمهور. لم تكن هناك حاجة لموافقة مجلس مراجعة المؤسسات الرسمية لأن المشاركين البشريين لم يتم تجنيدهم مباشرة ولم يتم استخدام أي معلومات صحية محمية.

1. نظرة عامة على الأطر التجريبية

1. تطوير خط أنابيب ذكاء اصطناعي (XAI) قابل للتكرار وقابل للتفسير لتحليلات الرعاية الصحية الشفافة. نظم سير العمل في طبقة البيانات، طبقة المعالجة المسبقة، طبقة النمذجة، طبقة التفسير، طبقة التقييم، وطبقة التصور.
2. دمج هذه الوحدات في سير عمل موحد قادر على معالجة البيانات السريرية المنظمة، والسجلات الصحية الإلكترونية، ومجموعات بيانات التصوير الطبي.
3. تأكد من أن كل وحدة تساهم في قابلية التكرار، وقابلية التفسير، وقابلية التوسع، والتنفيذ التجريبي الموحد.
4. صمم البنية المعيارية لدعم تدفق البيانات المستمر وضمان أن تساهم كل مرحلة من مراحل خط الأنابيب في قابلية التكرار والتفسير والتوسع طوال سير العمل التجريبي.

2. البيئة الحاسوبية وتكوين النظام

1. تثبيت التبعيات البرمجية المطلوبة قبل تنفيذ سير العمل عن طريق فتح طرفية سطر الأوامر وتشغيل الأمر التالي:
   PIP install numpy pandas scikit-Learn tensorflow Shap Lime OpenCV-Python Matplotlib Seaborn
2. تحقق من نجاح تثبيت جميع حزم البرمجيات وتأكد من التوافق مع إصدارات البرمجيات المدرجة في جدول المواد قبل المضي قدما في معالجة البيانات وتطوير النماذج.
3. استخدم بايثون 3.11 كبيئة برمجة أساسية. قم بتثبيت وتكوين NumPy 1.26 وPandas 2.1 لمعالجة البيانات ومهام هندسة الميزات. قم بتثبيت Scikit-Learn 1.5 لتطوير وتقييم نماذج التعلم الآلي.
4. تثبيت TensorFlow 2.15 لتدريب نماذج التعلم العميق والاستنتاج. قم بتثبيت SHAP 0.46 و LIME 0.2.0 لتحليل القابلية للتفسير. قم بتثبيت OpenCV 4.10 لمهام معالجة الصور. قم بتثبيت Matplotlib 3.9 و Seaborn 0.13 لعرض البيانات وتقارير النتائج. يرجى الرجوع إلى جدول المواد للحصول على المواصفات الكاملة للبرمجيات وتفاصيل التنفيذ المطلوبة لإعادة الإنتاج.
5. قم بتكوين بيئة الحوسبة باستخدام محطة عمل مزودة بمعالج متعدد الأنوية، وتسريع وحدة معالجة الرسوميات (GPU)، وموارد ذاكرة كافية لاستيعاب مجموعات بيانات الرعاية الصحية الكبيرة وأحمال التعلم العميق.
6. قم بتعيين بذور عشوائية ثابتة لتقسيم البيانات، وتهيئة النموذج، وإجراءات التدريب لضمان قابلية التكرار عبر عمليات التجربة. تمكين آليات التسجيل لتسجيل عمليات المعالجة المسبقة للبيانات، وتكوينات النماذج، وإعدادات المعلمات الفائقة، وإجراءات التدريب، ونتائج التقييم طوال سير العمل.
7. قم بتكوين هياكل النموذج، ومعلمات التحسين، ومعدلات التعلم، وأحجام الدفعات، وإعدادات التدريب، وقيم المعاملات الفائقة وفقا للمواصفات الملخصة في الجدول 1. الالتزام بهذه الإعدادات أثناء تجارب التكرار لضمان الاتساق مع النتائج المبلغ عنها.
8. الناتج المتوقع - بيئة حسابية مكتملة التكوين وقابلة للتكرار تحتوي على جميع حزم البرمجيات المطلوبة، وموارد العتاد، وآليات التسجيل، وإعدادات تكوين النموذج المتاحة لمعالجة البيانات المسبقة اللاحقة، وتطوير النماذج، وتحليل قابلية التفسير، وإجراءات التقييم.

المكون	المعلمة	القيمة	الوصف
الغابة العشوائية	n_estimators	100	عدد الأشجار
الغابة العشوائية	max_depth	لا شيء	عمق الشجرة
XGBoost	learning_rate	0.01	معدل التعلم
XGBoost	n_estimators	100	الطلقات المعززة
سي إن إن	العصور	25	فترات التدريب
سي إن إن	batch_size	32	حجم الدفعة
سي إن إن	المحسن	آدم	خوارزمية التحسين
MLP	hidden_layers	2	عدد الطبقات المخفية
MLP	التفعيل	ReLU	دالة التفعيل
عام	train_split	70%	نسبة بيانات التدريب
عام	validation_split	15%	نسبة التحقق
عام	test_split	15%	نسبة الاختبار

الجدول 1: تفاصيل التنفيذ وتكوين المعاملات الفائقة.

يلخص هذا الجدول البيئة الحاسوبية، ومكتبات البرمجيات، وتكوينات نماذج التعلم الآلي والتعلم العميق، وإعدادات التحسين، ومعدلات التعلم، وأحجام الدفعات، ومعلمات التدريب، وقيم المعلمات الفائقة المستخدمة طوال التقييم التجريبي لإطار الذكاء الاصطناعي المقترح القابل للتفسير.

3. إعداد مجموعات البيانات ومعالجتها المسبقة

1. اختر مجموعات بيانات الرعاية الصحية المتاحة للجمهور لضمان الشفافية وقابلية تكرار سير العمل التجريبي.
2. استخدم أربعة سيناريوهات صحية ممثلة للتحقق من صحة الإطار المقترح: (1) تشخيص سرطان الثدي باستخدام مجموعة بيانات سرطان الثدي في ويسكونسن، (2) التنبؤ بمخاطر السكري باستخدام مجموعة بيانات مرض السكري من Pima Indians، (3) التنبؤ بالنتائج السريرية باستخدام سجلات الصحة الإلكترونية MIMIC-III، و(4) تصنيف أمراض الصدر باستخدام مجموعة بيانات الأشعة السينية للصدر التابعة للمعاهد الوطنية للصحة. اختر هذه المجموعات لتقييم الإطار عبر السجلات السريرية المنظمة، والسجلات الصحية الإلكترونية الطولية، ووسائل التصوير الطبي الشائعة في أنظمة دعم اتخاذ القرار في الرعاية الصحية.
3. استيراد كل مجموعة بيانات إلى بيئة بايثون وفصل السجلات إلى ميزات الإدخال والمتغيرات المستهدفة. تنظيم البيانات السريرية المنظمة لمهام التنبؤ بالأمراض، والسجلات الصحية الإلكترونية لتحليل النتائج الطولية، ومجموعات بيانات التصوير الطبي لمهام التصنيف التشخيصي. تحقق من سلامة كل مجموعة بيانات قبل المضي قدما في عمليات المعالجة المسبقة.
4. تحديد ومعالجة القيم المفقودة باستخدام تقنيات الحساب المناسبة. توحيد الميزات العددية من خلال إجراءات تكبير الميزات وتطبيره لضمان قابلية المقارنة عبر المتغيرات.
5. ترميز المتغيرات التصنيفية باستخدام طرق ترميز مناسبة بناء على خصائص مجموعة البيانات. قم باختيار الميزات باستخدام تحليل الارتباط ومقاييس أهمية الميزات القائمة على النموذج لتحديد المتغيرات الأكثر صلة وتقليل أبعاد البيانات.
6. قم بتغيير حجم جميع الصور الطبية إلى 224 أو 224 بكسل قبل تدريب النماذج. تطبيع قيم شدة البكسلات وفقا لمتطلبات بنية التعلم العميق المختارة. تطبيق تقنيات تعزيز البيانات، بما في ذلك تدوير الصورة والعكس الأفقي، لتحسين تعميم النموذج وتقليل الإفراط في التركيب. تحقق من جودة الصورة وتأكد من اتساق أبعاد الصورة في جميع أنحاء مجموعة البيانات.
7. قيم سلامة البيانات من خلال تقييم اكتمال مجموعة البيانات، والاتساق، وتوافق الميزات. تحقق من أن جميع السجلات تم تعيينها بشكل صحيح للفئات المستهدفة المقابلة. راجع خصائص مجموعة البيانات، بما في ذلك حجم العينة، وعدد الميزات، وطريقة البيانات، كما هو موضح في الجدول 2.
8. تنفيذ إجراءات التحقق الخاصة بمجموعة البيانات لضمان الدقة المنهجية وقابلية التكرار. سجل حجم العينة، توزيع الفئات، استراتيجية تقسيم التحقق من القطار والاختبار، تدابير منع التسرب، إجراءات تحسين المعلمات الفائقة، تصميم التحقق المتبادل، وبروتوكول الاختبار الخارجي لكل مجموعة بيانات. لخص إجراءات التحقق هذه في الجدول 3.
9. إجراء فحوصات مراقبة الجودة للمعالجة المسبقة من خلال تقييم التعامل مع القيم المفقودة، إزالة القيم الشاذة، تحجيم الميزات، الترميز التصنيفي، حفظ توزيع الفئات، وتقسيم مجموعات البيانات. تحقق من تطبيق عمليات المعالجة المسبقة بشكل متسق عبر جميع مجموعات البيانات.
10. تأكد من عدم وجود تسرب كبير للبيانات أثناء تقسيم مجموعات البيانات. راجع نتائج التحقق من صحة المعالجة المبدئية المعروضة في الشكل 1 للتأكد من أن مجموعات البيانات الموحدة قد تم توليدها لتحليلات التعلم الآلي وقابلية التفسير لاحقا.
11. المخرج المتوقع - توليد مجموعات بيانات نظيفة وموحدة مع قيم مفقودة معنونة بشكل مناسب، مميزات تصنيفية مشفرة، ميزات رقمية مطبعة، وسجلات مقسمة إلى مجموعات تدريب، والتحقق من الصحة، والاختبار. تأكد من أن خصائص مجموعات البيانات، وتوزيعات الفئات، وإجراءات التحقق تتوافق مع تلك المبلغ عنها في الجدول 2 والجدول 3، وتأكيد نجاح التحقق من صحة المعالجة المبدئية كما هو موضح في الشكل 1.

مجموعة البيانات	النوع	عينات	الميزات	الهدف
سرطان الثدي	الجدول	569	30	حميدة/خبيثة
السكري	الجدول	768	8	نتيجة مرض السكري
MIMIC-III	السجلات الصحية الإلكترونية	~60,000	المتغيرات السريرية	الموت
أشعة الصدر	التصوير	~112,000	الصور	ملصقات الأمراض

الجدول 2: خصائص مجموعة البيانات وحالات استخدام الرعاية الصحية.

يوفر هذا الجدول ملخصا لمجموعات بيانات الرعاية الصحية المستخدمة في الدراسة، بما في ذلك نوع مجموعة البيانات، وعدد العينات، وعدد الميزات، والمتغيرات المستهدفة، ومجال تطبيق الرعاية الصحية، وحالات الاستخدام السريري المرتبطة. تشمل مجموعات البيانات السجلات السريرية المنظمة، والسجلات الصحية الإلكترونية، وبيانات التصوير الطبي لإثبات تطبيق الإطار عبر سيناريوهات تحليلات الرعاية الصحية المتنوعة.

مجموعة البيانات	حجم العينة	توزيع الفئة	استراتيجية الانقسام	منع التسرب	البحث عن المعاملات الفائقة	التحقق المتقاطع	اختبار خارجي
سرطان الثدي (جامعة كاليفورنيا في كاليفورنيا، ويسكونسن)	569	357 بينيجن / 212 خبيث	70/15/15	المعالجة المسبقة للقطار فقط	البحث الشبكي	CV طبقي 5-طي	مجموعة الاستقلاليات المستقلة
مرض السكري لدى هنود بيما	768	500 غير مصاب بالسكري / 268 مريض سكري	70/15/15	المعالجة المسبقة للقطار فقط	البحث الشبكي	CV طبقي 5-طي	مجموعة الاستقلاليات المستقلة
التمثيل الهرفي القابل للطيران الثلاثي	5274	مجموعات النتائج الطبقية	70/15/15 على مستوى المريض	الانفصال على مستوى المريض	البحث العشوائي	سيرة ذاتية على مستوى المريض بخمسة طيات	مجموعة الاستقلاليات المستقلة
أشعة الصدر في المعاهد الوطنية للصحة	112120	الالتهاب الرئوي/الطبقات الطبيعية	70/15/15	فصل على مستوى الصورة	البحث العشوائي	CV طبقي 5-طي	مجموعة الاستقلاليات المستقلة

الجدول 3: التحقق على مستوى مجموعة البيانات وتصميم التجارب.

يلخص هذا الجدول منهجية التحقق المستخدمة لكل مجموعة بيانات، بما في ذلك حجم العينة، توزيع الفئات، استراتيجية تقسيم التحقق من القطار والاختبار، إجراءات منع التسرب، طرق تحسين المعاملات الفائقة، تصميم التحقق المتبادل، وبروتوكولات الاختبار الخارجية. تم تنفيذ هذه التدابير لضمان الصرامة المنهجية، وقابلية التكرار، والتقييم غير المتحيز للنموذج.

الشكل 1: التحقق من خط أنابيب معالجة البيانات المسبقة.
نتائج التحقق من صحة العمليات الرئيسية للمعالجة المسبقة التي أجريت قبل تطوير النموذج. (أ) تحليل القيمة المفقودة عبر ميزات الرعاية الصحية الممثلة. (ب) توزيع متغير عددي قبل وبعد التعامل مع القيم الشاذة. (ج) التحقق من صحة التوسع باستخدام التوحيد القياسي. (د) التحقق من صحة الترميز التصنيفي. (ه) توزيع الفئة بعد المعالجة المسبقة. (و) التحقق من تقسيم بيانات التحقق من القطار والاختبار. تؤكد هذه النتائج نجاح المعالجة المبدئية وتحضير مجموعات البيانات للنمذجة التنبؤية وتحليل القابلية للتفسير. يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.

4. بنية النظام لإطار العمل القابل للتفسير للذكاء الاصطناعي

1. تنظيم الإطار باستخدام بنية متعددة الطبقات لتسهيل المعالجة المعيارية، وتحسين شفافية سير العمل، ودعم التنفيذ القابل لإعادة الإنتاج. قم بتكوين طبقة البيانات لاستقبال وإدارة مجموعات بيانات الرعاية الصحية الخام. توجيه جميع مجموعات البيانات الواردة عبر طبقة البيانات قبل بدء عمليات المعالجة المسبقة.
2. تنفيذ إجراءات تنظيف البيانات، والتحويل، والتطبيع، وهندسة الميزات، والترميز داخل طبقة المعالجة المسبقة. تأكد من اكتمال جميع عمليات المعالجة المسبقة قبل تطوير النموذج.
3. تطوير نماذج تنبؤية داخل طبقة النمذجة باستخدام خوارزميات التعلم الآلي والتعلم العميق. استخدام نماذج تعزيز تدرج القطار، الغابة العشوائية، البيرسيبترون متعدد الطبقات (MLP)، ونماذج الشبكة العصبية الالفافية (CNN) باستخدام مجموعات البيانات المعالجة مسبقا وتكوينات المعاملات الفائقة المحسنة.
4. تطبيق تقنيات التفسير داخل طبقة التفسير لتفسير توقعات النموذج. توليد تفسيرات نسبية للميزات باستخدام SHAP وLIME لمجموعات البيانات المنظمة. إنشاء خرائط حرارة Grad-CAM للنماذج القائمة على الصور لرؤية المناطق التي تساهم في توقعات النموذج.
5. تقييم الأداء التنبؤي وقابلية التفسير ضمن طبقة التقييم. احسب الدقة، الدقة، الاستدعاء، درجة F1، ROC-AUC، الدقة، الاستقرار، ومقاييس التقييم التي تركز على الطبيب. سجل جميع مخرجات التقييم للتحليل والتقارير اللاحقة.
6. توليد مخرجات بصرية قابلة للتفسير سريريا ضمن طبقة التصور. أنشئ مخططات مقارنة الأداء، وتصورات أهمية الميزات، ومخططات ملخصة ل SHAP، وتفسيرات LIME، وخرائط حرارة Grad-CAM، ولوحات تقارير موجهة للطباء. تخزين جميع المخرجات البصرية لإدراجها في التقرير التجريبي النهائي.
7. راجع بنية الإطار الكاملة الموضحة في الشكل 2 قبل المضي قدما في تنفيذ سير العمل.
8. الإنتاج المتوقع - توليد نماذج تعلم آلي وتعلم عميق مدربة بالكامل، بما في ذلك تعزيز التدرج، وRandom Forest، وCNN، ومعماريات MLP. تخزين تكوينات النماذج، والمعلمات الفائقة المحسنة، وسجلات التدريب، وملفات نقاط التحقق، ومخرجات القابلية للتفسير، وتشكيلات التصور لتقييم لاحق وتحليل قابلية التفسير.

الشكل 2: بنية النظام لإطار العمل القابل للتفسير للذكاء الاصطناعي لتحليلات الرعاية الصحية. يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.

5. تنفيذ سير العمل

1. الحصول على مجموعات بيانات الرعاية الصحية من المستودعات المتاحة للجمهور وتخزين مجموعات البيانات بصيغ منظمة مناسبة لتحليل التعلم الآلي والتعلم العميق. راجع سير العمل الكامل الموضح في الشكل 3 قبل بدء الإجراء التجريبي.
2. قم بتنظيف البيانات ومعالجتها المبدئية وفقا للإجراءات الموضحة في القسم 3. تطبيع المتغيرات العددية باستخدام طرق القياس المناسبة. ترميز المتغيرات التصنيفية باستخدام تقنيات الترميز المناسبة. تحديد وحساب القيم المفقودة باستخدام استراتيجيات الحساب الخاصة بمجموعة البيانات. تحقق من جودة البيانات، وتوافق الميزات مع العلامات، واكتمال مجموعة البيانات قبل المضي قدما في تطوير النموذج.
3. قسم كل مجموعة بيانات إلى مجموعات تدريب، وتحقق من الصحة، واختبارات لدعم تقييم النماذج غير المتحيز. الحفاظ على توزيعات الفئات أثناء تقسيم مجموعات البيانات وتنفيذ تدابير منع التسرب حيثما كان ذلك ينطبق. احتفظ بمجموعة الاختبار حصريا للتقييم النهائي للنموذج.
4. تدريب نماذج التعلم الآلي على مجموعات بيانات منظمة باستخدام خوارزميات قائمة على المجموعات، بما في ذلك تعزيز التدرج والغابة العشوائية. تدريب نماذج التعلم العميق على مجموعات بيانات التصوير باستخدام هياكل الشبكة العصبية الالتفاوية (CNN) القادرة على تعلم ميزات الصور المكانية. قم بتحديث معلمات النموذج بشكل تكراري أثناء التدريب وراقب أداء التحقق بعد كل فترة تدريب. تطبيق الإيقاف المبكر عندما يتدهور أداء التحقق أو يفشل في التحسن وفقا لمعايير التوقف المحددة مسبقا.
5. تحسين المعلمات الفائقة للنموذج باستخدام استراتيجيات البحث المنهجية، بما في ذلك البحث الشبكي والبحث العشوائي. ضبط معدل التعلم، وعدد المقدرات، وعمق الشجرة، وحجم الدفعة، وعدد الفترات الزمنية (epoch)، وغيرها من المعلمات الخاصة بالنموذج حسب أداء التحقق. اختر النموذج النهائي بناء على الأداء التنبؤي وقدرة التعميم عبر مجموعات بيانات التحقق.
6. تطبيق طرق التفسير بعد إكمال تدريب النماذج. توليد تفسيرات عامة باستخدام تقنيات نسبة الميزات لتحديد المتغيرات التي تساهم بشكل أكبر في توقعات النموذج. توليد تفسيرات محلية لتحليل حالات التنبؤ الفردية وتقييم سلوك النموذج على مستوى العينة. إنشاء خرائط حرارة Grad-CAM لنماذج تصنيف الصور لتسليط الضوء على المناطق من الصورة التي تساهم في النتيجة المتوقعة. احتفظ بجميع مخرجات الشرح للتحليل والتقارير لاحقا.
7. تقييم الأداء التنبؤي باستخدام الدقة، والدقة، والاستدعاء، ودرجة F1، ومساحة خصائص تشغيل المستقبل تحت المنحنى (ROC-AUC). تقييم جودة الشرح باستخدام مقاييس الدقة والثبات لتقييم موثوقية الشرح واتساقها. قارن أداء النموذج عبر مجموعات البيانات وطرق التفسير لتقييم متانة الإطار وقابلية التعميم.
8. توليد مخرجات التصور والتقارير التحليلية لنقل النتائج بطريقة قابلة للتفسير سريريا. أنشئ جداول مقارنة الأداء، ومخططات أهمية الميزات، وتصورات ملخصات SHAP، ومخرجات تفسير LIME، وخرائط الحرارة التكميلية التجريدية، وغيرها من التصورات ذات الصلة السريرية. راجع جميع المخرجات البصرية لضمان الوضوح والاتساق قبل التقرير.
9. توثيق جميع عمليات المعالجة المسبقة، وتكوينات النماذج، وإعدادات المعاملات الفائقة، وإجراءات الشرح، واستراتيجيات التحقق، ونتائج التقييم. حافظ على سجلات تجريبية مفصلة لتسهيل قابلية التكرار والتكرار المستقل لسير العمل. تحقق من اتساق النتائج عبر عمليات التجارب المتكررة وأرشفت جميع تشوهات سير العمل للرجوع إليها مستقبلا.
10. الناتج المتوقع - أنشئ نموذج تنبؤي مدرب بالكامل مع معلمات فائقة محسنة، وأوزان النماذج المحفوظة، وسجلات التدريب، ومقاييس الأداء، ومخرجات قابلية الشرح، بما في ذلك تفسيرات SHAP، وتفسيرات LIME، وخرائط الحرارة Grad-CAM. تخزين جميع النماذج الأثرية، وتقارير التقييم، ومخرجات التصور لإجراء التحليل اللاحق وتقييم قابلية التكرار.

الشكل 3: سير العمل من البداية إلى النهاية لخط أنابيب الذكاء الاصطناعي القابل للشرح. يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.

6. تقييم النماذج وتقييم قابلية التفسير

1. تقييم أداء النموذج التنبؤي باستخدام مقاييس التصنيف القياسية، بما في ذلك الدقة، الدقة، الاستدعاء، درجة F1، ومساحة خصائص تشغيل المستقبل تحت المنحنى (ROC-AUC). احسب الدقة لقياس صحة التصنيف بشكل عام.
2. احسب الدقة لتقييم نسبة التنبؤات الإيجابية التي تم تحديدها بشكل صحيح. احسب الاستدعاء لتقييم قدرة النموذج على تحديد الحالات الإيجابية. احسب درجة F1 لتحقيق توازن بين الدقة والاسترجاع. احسب ROC-AUC لتقييم الأداء التمييزي عبر عتبات التصنيف المختلفة.
3. تطبيق هذه المقاييس التقييمية بشكل متسق عبر جميع مجموعات البيانات وبنى النماذج لتسهيل مقارنة الأداء الموضوعي. سجل جميع القيم القياسية وحفظ نتائج التقييم للتحليل والإحصاء اللاحق والتقارير.
4. تقييم أداء قابلية التفسير باستخدام مقاييس الدقة والاستقرار. حساب الدقة لتحديد مدى دقة انعكاس التفسيرات المولدة لتوقعات النماذج وسلوك اتخاذ القرار.
5. احسب الاستقرار من خلال مقارنة التفسيرات المولدة من عينات إدخال مماثلة وقياس اتساق مخرجات الشرح. تحقق من أن قيم الدقة والاستقرار تفي بمعايير الجودة المحددة مسبقا قبل تفسير تفسيرات النماذج.
6. قارن أداء التفسير عبر مخرجات SHAP وLIME وGrad-CAM.
7. الناتج المتوقع - توليد نتائج تقييم كمية، بما في ذلك الدقة، والدقة، والاسترجاع، ودرجة F1، وROC-AUC، والدقة، ومقاييس الاستقرار. إنتاج مخرجات وتصورات للتفسير مناسبة للتقارير العلمية، وتقييم قابلية التكرار، والتفسير السريري.

7. التقييم المرتكز على الإنسان

1. استقطبوا 12 متخصصا في الرعاية الصحية يتكونون 6 أطباء، 3 أطباء أشعة، و3 محللي بيانات سريرية. اختر المشاركين الذين لديهم خبرة سابقة في اتخاذ القرار السريري، أو تفسير الصور الطبية، أو تحليلات الرعاية الصحية، أو مراجعة السجلات الصحية الإلكترونية. احصل على موافقة مستنيرة من جميع المشاركين قبل بدء إجراء التقييم.
2. اختر عشوائيا 100 حالة من مجموعات بيانات الاختبار بعد الانتهاء من تدريب النماذج وتحليل قابلية التفسير. تولد شرطين للتقييم لكل حالة:
   1. مخرجات التنبؤ فقط و
   2. التنبؤ مصحوبا بمعلومات القابلية للتفسير. عشوائي ترتيب عرض الحالات وظروف التقييم لتقليل تحيز العرض وتأثيرات التعلم.
3. أعد نماذج تقييم موحدة تحتوي على نتائج التنبؤ، ومخرجات الشرح، واستبيانات التقييم. عرض الحالات بشكل فردي على المشاركين باستخدام واجهة تقييم معتمدة على الحاسوب.
4. وجه المشاركين لمراجعة كل حالة بشكل مستقل دون مناقشة الردود مع مقيمين آخرين. السماح للمشاركين بإكمال جميع التقييمات تحت ظروف تجريبية متطابقة.
5. إدارة استبيان مكون من خمس نقاط على مقياس ليكرت مقتبس من دراسات مراجعة منشورة لتقييم الذكاء الاصطناعي. وجه المشاركين لتقييم الثقة، وقابلية التفسير، وسهولة الاستخدام لكل حالة تمت مراجعتها. سجل إجابات الاستبيان إلكترونيا وتحقق من إكمال جميع عناصر الاستبيان قبل الانتقال إلى التحليل الإحصائي.
6. قياس المؤشرات الموضوعية للفائدة السريرية أثناء عملية التقييم. سجل اتفاق القرار من خلال مقارنة قرارات المشاركين مع تسميات المراجع المقابلة أو نتائج الحقيقة الواقعية. احسب اتفاق القرار كنسبة من قرارات المشاركين التي تطابق النتيجة المرجعية.
7. سجل وقت المراجعة لكل حالة بقياس الفاصل بين عرض القضية وتقديم الرد النهائي. احسب متوسط وقت المراجعة بشكل منفصل لشروط التنبؤ فقط والتنبؤ مع التفسير.
8. احسب متوسط درجات الثقة، وقابلية التفسير، وسهولة الاستخدام عبر جميع المشاركين وحالات التقييم. قارن الدرجات التي تم الحصول عليها تحت شروط التنبؤ فقط والتنبؤ مع التفسير.
9. إجراء اختبارات t مزدوجة بعد الانتهاء من جميع تقييمات المشاركين لتحديد ما إذا كانت الفروق في الثقة، وقابلية التفسير، وسهولة الاستخدام، واتفاق القرار، ووقت المراجعة ذات دلالة إحصائية. استخدم عتبة دلالة p 0.05 لجميع المقارنات الإحصائية.
10. احسب فلايس كابا بعد جمع ردود جميع المشاركين لتقييم توافق المقيمين. استخدم تقييمات المشاركين المجمعة لتحديد اتساق التقييمات بين المراجعين. تفسير قيم فلايس كابا وفقا لإرشادات الاتفاقية المعتمدة وتسجيل إحصائيات الاتفاقية الناتجة.
11. تلخيص التركيبة السكانية للمشاركين، منهجية التقييم، تصميم الاستبيانات، إجراءات التحليل الإحصائي، مقاييس الأداء الموضوعية، ونتائج الاتفاق بين المقيمين في الجدول 4.
12. راجع مخرجات النماذج تحت كل من شروط التقييم وقارن ردود المشاركين عبر الظروف. تحقق من أن التفسيرات تحسن الثقة وقابلية التفسير وسهولة الاستخدام دون التأثير سلبا على جودة القرار.
13. تأكيد اتساق تقييمات المشاركين باستخدام إحصائية فلايس كابا المحسوبة. تسجيل جميع نتائج التقييم لإجراء التقارير اللاحقة وتقييم قابلية التكرار.
14. النتائج المتوقعة - توليد درجات ثقة الطبيب، وتقييمات قابلية التفسير، وتقييمات قابلية الاستخدام، ومقاييس اتفاق القرار، وإحصائيات وقت المراجعة، ونتائج اختبار t الزوجية، وإحصائيات الاتفاق بين المقيمين. أنتج أدلة كمية تصف الفائدة السريرية، وقابلية التفسير، وموثوقية إطار الذكاء الاصطناعي القابل للتفسير.

المعلمة	القيمة
الخبراء	12
الأطباء	6
أطباء الأشعة	3
محللو البيانات السريرية	3
القضايا التي تمت مراجعتها	100
تصميم التقييم	عشوائي (التنبؤ فقط مقابل التنبؤ + الشرح)
أداة المسح	مقياس ليكيرت ذو الخمس نقاط
تقييم الثقة	قابلية التفسير، الثقة، سهولة الاستخدام
اختبار إحصائي	اختبار t المزدوج (p 0.05)
موثوقية بين المقيمين	فلايس كابا
المقاييس الموضوعية	اتفاقية القرار، وقت المراجعة

الجدول 4: بروتوكول التقييم المتمحور حول الإنسان وتصميم تقييم الطبيب.

يقدم هذا الجدول إطار تقييم الأطباء المستخدم لتقييم قابلية التفسير والموثوقية وقابلية استخدام نظام الذكاء الاصطناعي القابل للتفسير. يتم تلخيص المعلومات المتعلقة بتركيبة المشاركين السكانية، ومنهجية مراجعة الحالة، وتصميم الاستبيانات، وإجراءات التحليل الإحصائي، وتقييم موثوقية المقيمين بين المقيمين، ومقاييس التقييم الموضوعي.

8. تقييم التحقق والتكرار

1. إجراء دراسات التحقق والاستئصال لتقييم متانة وموثوقية الإطار المقترح. حدد الميزات ذات الدرجات العالية الأهمية باستخدام طرق التفسير المختارة. إزالة الميزات المهمة تدريجيا وإعادة تدريب النماذج التنبؤية بعد كل خطوة إزالة ميزة.
2. قيم أداء النموذج بعد كل تجربة استئصال باستخدام الدقة والدقة والاسترجاع ودرجة F1 ومقاييس ROC-AUC. مقارنة قيم الأداء الناتجة مع أداء النموذج الأساسي لتحديد مساهمة الميزات الفردية في النتائج التنبؤية.
3. تقييم استقرار التفسير من خلال توليد تفسيرات لعينات إدخال مماثلة باستخدام SHAP وLIME وGrad-CAM. قارن مخرجات التفسير عبر التقييمات المتكررة وقياس الاتساق باستخدام مقاييس الاستقرار المحددة مسبقا. تحقق من أن التفسيرات تبقى مستقرة تحت تغيرات مدخلات طفيفة وتكرار عمليات التجريب.
4. سجل جميع الإجراءات التجريبية طوال سير العمل. توثيق عمليات المعالجة المسبقة للبيانات، إجراءات تقسيم مجموعات البيانات، هياكل النماذج، إعدادات المعلمات الفائقة، تكوينات التدريب، طرق التفسير، استراتيجيات التحقق، ومقاييس التقييم. تخزين جميع معلمات التكوين والمخرجات التجريبية في صيغة منظمة لتسهيل قابلية التكرار والتحقق المستقل.
5. راجع جميع السجلات التجريبية لضمان الاكتمال والاتساق. تحقق من إمكانية تكرار سير العمل باستخدام الإجراءات الموثقة، وملفات التكوين، ومواصفات البرمجيات. الحفاظ على هيكل سير عمل معياري لتسهيل تكييف البروتوكول للدراسات المستقبلية ودعم التحويل إلى بروتوكول تجريبي قائم على الفيديو يتوافق مع متطلبات منهجية JoVE.

9. موارد قابلية التكرار

1. نفذ جميع التجارب باستخدام بذور عشوائية ثابتة لضمان نتائج قابلة للتكرار عبر التكرار. الحفاظ على شيفرة المصدر، وسكريبتات المعالجة المسبقة، وملفات التكوين، ومواصفات البيئة، ومعلمات النموذج، وسكريبتات التصور داخل مستودع متاح للجمهور.
2. توفير تعليمات مفصلة لجمع مجموعات البيانات، والمعالجة المسبقة، وتنفيذ التجارب، وتدريب النماذج، وتوليد قابلية التفسير، وإجراءات التحقق، وإعادة توليد جميع الجداول والأرقام المبلغ عنها. أرشفة جميع مكونات سير العمل المطلوبة للتكرار المستقل، بما في ذلك مواصفات البرمجيات، وسير عمل المعالجة المسبقة، وملفات التكوين، وتعليمات الوصول إلى مجموعات البيانات، ونقاط التحقق من النماذج، وأصول التصور.
3. لخص موارد البرمجيات، وسير العمل المسبق، وملفات التكوين، وتعليمات الوصول إلى مجموعات البيانات، وأصول التكرار المستخدمة في جميع أنحاء الإطار في الجدول 5.
4. الناتج المتوقع - أنشئ حزمة تجريبية كاملة قابلة لإعادة الإنتاج تحتوي على سكريبتات المعالجة المسبقة، ملفات التكوين، نماذج مدربة، نقاط تفتيش النماذج، مخرجات القابلية للتفسير، تقارير التحقق، تشويهات التصور، مواصفات البرمجيات، والوثائق اللازمة للتكرار المستقل والتحقق من الإطار المقترح.

المصدر	الوصف
الشيفرة المصدرية	سكريبتات تنفيذ بايثون لمعالجة البيانات مسبقا، تدريب النماذج، قابلية الشرح، والتقييم
ملف البيئة	requirements.txt تحتوي على تبعيات الحزم وإصداراتها
ملفات التكوين	إعدادات بنية النماذج، المعاملات الفائقة، وتكوينات التجارب
بذور عشوائية ثابتة	البذور = 42 المستخدمة في التجارب القابلة للتكرار
تعليمات الوصول إلى مجموعة البيانات	روابط وإجراءات للحصول على مجموعات بيانات الرعاية الصحية العامة
سكريبتات المعالجة المسبقة	سكريبتات لتنظيف البيانات، والتطبيع، والترميز، واختيار الميزات
سكريبتات توليد الأشكال	نصوص لإعادة توليد جميع أشكال المخطوطات
سكريبتات توليد الجداول	سكريبتات لإعادة إنتاج الجداول والمقاييس المبلغ عنها
أمثلة على المدخلات	مجموعات بيانات نموذجية وملفات الإدخال
أمثلة على المخرجات	نتائج التنبؤ، والتفسيرات، وتقارير التقييم

الجدول 5: موارد قابلية التكرار والأصول التجريبية.

يلخص هذا الجدول الموارد المقدمة لدعم قابلية إعادة الإنتاج التجريبية، بما في ذلك الشيفرة المصدرية، وسكريبتات المعالجة المسبقة، وملفات التكوين، ومواصفات البيئة، وتعليمات الوصول إلى مجموعات البيانات، وإعدادات البذرة العشوائية الثابتة، وسكريبتات توليد الأشكال، وملفات الإدخال/الإخراج النموذجية المطلوبة لإعادة إنتاج النتائج المبلغ عنها.

النتائج

قمنا بتقييم دقيق لمكون الذكاء الاصطناعي التفسيري في خط الإنتاج بأكمله، وقمنا بتقييم مدى تنقله عبر أنواع مختلفة من بيانات الرعاية الصحية، بما في ذلك البيانات السريرية المنظمة والصور الطبية. أشارت النتائج إلى أداء تنبؤي متسق عبر مجموعات البيانات المقيمة. من بين النماذج التي تم اختبارها، حقق نموذج تعزيز التدرج أعلى دقة بنسبة 97.4٪، تلاها نموذج الغابة العشوائية بنسبة 94.2٪. حققت طرق التعلم العميق المطبقة على مجموعات الصور دقة 91.3٪، بينما حققت نماذج بيرسيبترون متعددة الطبقات نتائج أقل قليلا، بنسبة 90.8٪. يشير ذلك إلى أن نماذج التعلم الآلي المعتمدة على المجموعات تؤدي بشكل أفضل على بيانات الرعاية الصحية المنظمة، في حين تتفوق بنى التعلم العميق في مهام التصوير. يوضح الجدول 6 بالتفصيل مقاييس أداء مختلفة لوظائف التنبؤ، بما في ذلك الدقة، والدقة، والاسترجاع، ودرجة F1، بالإضافة إلى مقاييس القابلية للشرح مثل الدقة والثبات. توصلنا إلى هذه الأرقام من خلال استخدام التحقق المتقاطع الخمسة وتقديم النتائج كقيم متوسطة (مع فترات ثقة 95٪). لا تشير فترات الثقة إلى عدم اليقين في النموذج فحسب، بل تجعل أيضا مقارنات الأداء التنبؤي أكثر موثوقية، مع الأخذ في الاعتبار ذاكرة مجموعة البيانات والفروقات في بنى النموذج.

النموذج	الدقة (٪)	الدقة	الاستدعاء	F1-Score	الوفاء	الاستقرار	95٪ CI
الغابة العشوائية	94.2	0.93	0.92	0.92	0.85	0.82	93.1–95.3
XGBoost	97.4	0.96	0.95	0.95	0.92	0.89	96.5–98.3
MLP	90.8	0.89	0.88	0.88	0.80	0.78	89.6–92.0
سي إن إن (تصوير)	91.3	0.90	0.91	0.90	0.88	0.86	90.1–92.5

الجدول 6: الأداء المقارن للنماذج التنبؤية وطرق القابلية للتفسير.
يقدم هذا الجدول تقييما مقارنا لنماذج التعلم الآلي والتعلم العميق باستخدام مقاييس الأداء التنبؤية، بما في ذلك الدقة، والدقة، والاسترجاع، ودرجة F1، وROC-AUC. بالإضافة إلى ذلك، يتم الإبلاغ عن مقاييس التفسير مثل الدقة، والاستقرار، والفهم، ودرجات الثقة البشرية لتوفير تقييم شامل لكل من الفعالية التنبؤية وقابلية التفسير.

تشير النتائج إلى أن تعزيز التدرج حقق أعلى أداء تنبؤي عام (دقة 97.4٪)، متفوقا على Random Forest بمقدار 3.2 نقطة مئوية ونماذج التعلم العميق بأكثر من 6 نقاط مئوية. تشير هذه الملاحظة إلى أن طرق التعلم القائمة على المجموعات كانت فعالة بشكل خاص لمجموعات البيانات المنظمة للرعاية الصحية المدرجة في هذه الدراسة. يشير الفرق الأصغر في الأداء بين نماذج CNN وMLP إلى أن زيادة تعقيد النموذج وحدها لم تترجم بالضرورة إلى أداء تنبؤي متفوق تحت الظروف التجريبية المقيمة.
لعرض فائدة الإطار المقترح لدينا عبر مجموعة متنوعة من مهام تحليلات الرعاية الصحية، نقدم نتائج أداء التنبؤ الخاصة بمجموعة البيانات في الجدول 7.

تحليل خاص بمجموعة البيانات.
اختلفت الأداء عبر مجموعات البيانات بسبب اختلافات تعقيد الميزات، حجم العينة، توزيع الفئات، وطريقة البيانات. حققت مجموعة بيانات سرطان الثدي أعلى دقة تنبؤية، ويرجح أن ذلك كان بسبب تحديد الخصائص بشكل واضح. يعكس الأداء المنخفض قليلا على مجموعات بيانات أشعة الصدر MIMIC-III وNIH تعقيد أكبر للسجلات السريرية الطولية وبيانات التصوير الطبي. تظهر هذه النتائج أن أداء الإطار يتأثر بخصائص مجموعة البيانات والسياق السريري.

مجموعة البيانات	الدقة (٪)	الدقة (٪)	الاستدعاء (٪)	نتيجة F1 (٪)
سرطان الثدي	97.4	97.2	97.6	97.1
السكري	94.2	93.9	94.4	94
MIMIC-III	91.3	91	91.5	91.1
أشعة الصدر في المعاهد الوطنية للصحة	90.8	90.4	91.2	90.6

الجدول 7: نتائج الأداء التنبؤي الخاص بمجموعة البيانات.
الأداء التنبؤي لإطار العمل المقترح للذكاء الاصطناعي القابل للتفسير عبر أربع مجموعات بيانات ممثلة للرعاية الصحية. يتم الإبلاغ عن الدقة والدقة والاسترجاع ودرجة F1 كنسب (٪) في مجموعات الاختبار المستقلة. تشير القيم الأعلى إلى أداء تصنيف أفضل.

لتقييم الأداء التنبؤي، تم تقييم أربعة نماذج تعلم آلي وتعلم عميق، وهي تعزيز التدرج، الغابة العشوائية، الشبكة العصبية الالتفاوية (CNN)، والبيرسيبترون متعدد الطبقات (MLP)، عبر أربع مجموعات بيانات صحية ممثلة. تم تقييم أداء النموذج باستخدام مقاييس الدقة، والدقة، والاسترجاع، ودرجة F1، ومقاييس ROC-AUC على مجموعات بيانات اختبار مستقلة بعد تقسيم اختبار التحقق من القطار بنسبة 70:15:15 والتحقق المتقاطع بخمسة أضعاف. تم تحديد التحسينات في الأداء التنبؤي من خلال مقارنة مقاييس التقييم الخاصة بالنموذج عبر ظروف المعالجة المسبقة والتحقق المتطابقة.
لتوضيح كيف تختلف أداء النماذج في الطرق المختلفة، يعرض الشكل 4 مزايا وعيوب نماذج المجموعات والشبكات العصبية والتعلم العميق بشكل مصور.

الشكل 4: الأداء المقارن لنماذج التعلم الآلي والتعلم العميق في مهام التنبؤ بالرعاية الصحية. (أ) مقارنة دقة نماذج تعزيز التدرج، الغابات العشوائية، CNN، وMLP على مجموعة بيانات الاختبار. (ب) مقارنة درجة F1 لنماذج تعزيز التدرج، الغابة العشوائية، CNN، ونماذج MLP على مجموعة بيانات الاختبار. (ج) مقارنة دقيقة لنماذج تعزيز التدرج، الغابة العشوائية، CNN، ونماذج MLP على مجموعة بيانات الاختبار. (د) مقارنة استدعاء بين نماذج تعزيز التدرج، الغابات العشوائية، CNN، وMLP على مجموعة بيانات الاختبار. تشير القيم الأعلى إلى أداء تنبؤي أفضل. حقق تعزيز التدرج أعلى أداء إجمالي عبر جميع مقاييس التقييم، تليه الغابة العشوائية. يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.

تفسير أداء قابلية التفسير.
حقق SHAP باستمرار أعلى درجات الدقة والاستقرار بين طرق القابلية للتفسير المقيمة، مما يشير إلى توافق أقوى بين الشروحات المولدة والتنبؤات الأساسية للنموذج. أظهر LIME استقرارا أقل نسبيا، مما يشير إلى حساسية أكبر للاضطرابات المحلية وتباين العينات. قدم Grad-CAM تفسيرات قابلة للتفسير بصريا للنماذج القائمة على الصور لكنه قدم قيم دقة أقل قليلا من SHAP. تشير هذه النتائج إلى أن جودة الشرح تعتمد على كل من تقنية الشرح المختارة وبنية النموذج التنبؤي الأساسية.

تم تقييم تقنيات التفسير المدمجة في خط الأنابيب من حيث أدائها كميا ونوعيا. على وجه التحديد، نجحت طرق إسناد الميزات في كشف المنطق الداخلي للنموذج بشكل متسق عبر مجموعات بيانات مختلفة.
جميع الطرق التي تم النظر فيها في الدراسة، SHAP، حققت أعلى دقة (0.92) واستقرار (0.89) بين طرق التفسير المقيمة. ببساطة، كانت التفسيرات تمثيلات دقيقة جدا لما تنبأ به النموذج فعليا. طرق التفسير المحلي هي نوع من النافذة التي يمكننا من خلالها رؤية توقع محدد وفهم ما استخدمه النموذج كأساس للقرار.

تم تقييم أداء قابلية التفسير باستخدام درجات الدقة، والاستقرار، والفهم، ودرجات ثقة الأطباء التي تم الحصول عليها من تقييم يركز على الإنسان. تمت مقارنة تفسيرات SHAP وLIME وGrad-CAM باستخدام مجموعات بيانات متطابقة ونماذج مدربة. تم تقييم التحسينات في قابلية التفسير من خلال مقارنة مقاييس جودة الشرح وتقييمات الأطباء عبر طرق القدرة على الشرح التي تم تقييمها. تقنيات التصور لنماذج التعلم العميق التي تعمل مع الصور تنتج أساسا خرائط حرارية، تحدد المناطق في الصور التي لها أدنى صلة بتوقع النموذج. توزيعات أهمية الميزات ومقارنات الأداء القابلة للتفسير عبر الطرق المختلفة موضحة في الشكل 5.

الشكل 5: تقييم أداء قابلية التفسير.يعرض الشكل أداء طرق التفسير بمساعدة مقاييس الدقة والاستقرار. يتصدر SHAP السلسلة في الدقة (0.92) والاستقرار (0.89)، مما يعكس توافقا جيدا بين التفسيرات وتوقعات النموذج. يظهر LIME كأفضل أداة لتفسير الأمثلة الفردية. من ناحية أخرى، يخرج Grad-CAM خرائط حرارية بصرية تستخدم بشكل رئيسي في نماذج التصوير، ويظهر بشكل تقريبي أهم المناطق المسؤولة عن التنبؤ بالنموذج، والتي، من الناحية السريرية، قد تكون ذات صلة كبيرة. يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.

بعد تقييم النماذج التنبؤية والتقنيات للتفسير، تبين أن الارتباط بين دقة النموذج وموثوقية تفسيراته قوي جدا. في الواقع، نفس النماذج التي أظهرت تحسينات في التنبؤ كانت تشرح نتائجها بمزيد من الاستقرار والاتساق عندما تم تطبيق تقنيات التفسير بشكل صحيح. وجدت نماذج المجموعات الأكثر قابلية للتفسير عند مصاحبتها بطرق إسناد الميزات، بينما كانت نماذج التعلم العميق أكثر فائدة من الطرق القابلة للتفسير القائمة على التصور. يمكن رؤية الرابط الذي يربط دقة التنبؤ وموثوقية التفسيرات في الشكل 6، الذي يوضح الديناميكيات المفاهيمية بين النموذج وقابلية الشرح بتفصيل كبير.

الشكل 6: تحليل مقارن للنماذج وشرح طرق القدرة.يعرض الرسم البياني مقارنة مفصلة بين مقاييس الدقة وشرح القدرات للنماذج المختلفة. يتكون من رسم بياني للتشتت يوضح العلاقة بين الدقة وثبات التفسير، ومقارنة جدولية للأداء، ومصفوفة ملاءمة توضح طرق الشرح المختلفة SHAP وLIME وGrad-CAM، وفعاليتها مع أنواع النماذج المختلفة. تظهر الصورة بوضوح أن نماذج المجموعات بالإضافة إلى SHAP تقدم قابلية تفسير رائعة، بينما نماذج التعلم العميق يمكن تفسيرها من خلال تقنيات التصور. يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.

أكد التقييم المرتكز على الإنسان الفائدة العملية للنظام المقترح في المستشفيات والمرافق السريرية الأخرى. قام الأطباء بمراجعة مخرجات النماذج مع وبدون تفسيرات. عرض النتائج مع شروحات أدى إلى زيادة كبيرة في ثقة المستخدمين وقابليتهم للتفسير؛ ارتفعت قيمة الثقة المتوسطة من 3.1 إلى 4.7 على مقياس من 1 إلى 5. تمثل زيادة درجة الثقة من 3.1 إلى 4.7 تحسنا نسبيا تقريبيا بنسبة 51.6٪. يشير الاتفاق الكبير بين المقيمين (κ فلايس = 0.81) إلى تقييم طبي متسق لفائدة التفسير. تشير هذه النتائج إلى أن مخرجات قابلية التفسير قد تحسن ثقة المستخدم وتسهل تفسير القرارات السريرية المدعومة بالذكاء الاصطناعي. ذكر المتخصصون فهم أفضل لمخرجات النماذج وثقة أكبر في الحكم المدعوم بالذكاء الاصطناعي للحالات السريرية، مما يشير إلى أهمية قابلية التفسير في التنفيذ الفعلي للرعاية الصحية.

لقد تحققنا أيضا من متانة إطارنا من خلال تحليل الاستئصال. أدى إزالة الميزات الحرجة التي اعتبرت ضرورية من خلال طرق التفسير إلى فقدان كبير في أداء التنبؤ. وبالتالي، يعكس الاكتشاف أن الميزات لم تكن ذات صلة فحسب، بل كانت أيضا مهمة للمهمة التنبؤية. بالإضافة إلى ذلك، استمرت نتائج التفسير في إظهار فروقات ضئيلة فقط عند شرح عينات إدخال مختلفة، مما أظهر استقرار وموثوقية طرق القابلية للتفسير.

للتحقق من جدوى خط الأنابيب للاستخدام العملي، قمنا بقياس سرعته الحسابية. أدى إدخال تقنيات التفسير إلى زيادة في وقت الحساب، خاصة عند نسب الميزات وإنشاء التصورات. ومع ذلك، كان الوقت الإعدام الكلي لا يزال ممكنا ولم يكن طويلا جدا. يوضح الشكل 7 كيف يتم توزيع الوقت الحسابي بين مراحل مختلفة من خط الأنابيب، مثل المعالجة المسبقة، وتدريب النماذج، وتوليد قابلية التفسير، والتقييم، والتصور.

الشكل 7: تفصيل وقت تنفيذ خط الأنابيب. يوضح هذا الرسم البياني كيف يتم تقسيم الوقت الحسابي بين مراحل مختلفة من خط أنابيب الذكاء الاصطناعي القابل للتفسير، مثل المعالجة المسبقة، تدريب النماذج، إنشاء القدرات التفسيرية، التقييم، والتصور. تكشف البيانات أن معظم الجدول الزمني يخصص لتدريب النماذج، والذي يتبعه بعد ذلك معالجة الشرح للقدرات. من ناحية أخرى، الوقت المستغرق في المعالجة المبدئية والإبلاغ قليل جدا. يرجى الضغط هنا لعرض نسخة أكبر من هذا الشكل.

اختبرنا قوة الإطار المقترح من خلال تحليل الاستئصال أيضا. إزالة الميزات الأساسية التي اكتشفت عبر طرق التفسير أظهرت انخفاضا واضحا في الأداء التنبؤي، وهو مؤشر واضح على أن هذه الميزات ليست ذات صلة فحسب، بل مهمة أيضا. بالإضافة إلى ذلك، كانت مخرجات التفسير مستقرة إلى حد كبير حتى عندما حدث تغيير طفيف في عينات الإدخال، وهذا دليل على اتساق وموثوقية تقنيات التفسير.

باختصار، من خلال الجمع بين قياس الأداء التنبؤي، وقابلية التفسير، والتحقق الموجه نحو الإنسان، أظهر أن الإطار المقترح فعال. لم يقتصر النظام على تقديم توقعات دقيقة جدا، بل ظل أيضا قابلا للتفسير وسهل الاستخدام. إدخال طرق التفسير جعل العملية بأكملها شفافة دون أن يؤثر على أداء النموذج. التحسينات التي رأيناها في دقة التنبؤ وقابلية التفسير لم تحدث فقط تحت رقابة تجريبية صارمة، بل كانت أيضا ذات دلالة إحصائية، وهو أمر يدل على مدى التحمل والأصالة في الطريقة المقترحة. تم إجراء مقارنات زوجية بين النماذج التنبؤية باستخدام اختبارات t مزدوجة عبر طيات التحقق المتقاطع. لوحظت فروقات ذات دلالة إحصائية بين تعزيز التدرج والنماذج المنافسة (p < 0.05)، مما يؤكد تفوق التكوين المقترح.

النتائج العامة.
تظهر النتائج مجتمعة أن الأداء التنبؤي، وجودة الشرح، وثقة الطبيب يمكن تقييمها ضمن سير عمل موحد وقابل للتكرار. حافظ الإطار على أداء متسق عبر مجموعات بيانات الرعاية الصحية المتعددة مع دعم التفسير الشفاف من خلال شروحات SHAP وLIME وGrad-CAM. ومع ذلك، يجب تفسير النتائج ضمن سياق مجموعات البيانات المختارة وإعدادات التحقق، ولا يزال التحقق الخارجي الإضافي ضروريا قبل النشر في العالم الحقيقي.

توفر البيانات:
حصلنا على مجموعات البيانات المستخدمة في البحث الحالي من مصادر عامة، ويمكن العثور عليها في مستودعات بيانات معروفة. على سبيل المثال، يمكن تنزيل البيانات المتعلقة بسرطان الثدي والسكري من مستودع التعلم الآلي في جامعة كاليفورنيا في الوسط على: https://archive.ics.uci.edu/ml/index.php

يمكن الحصول على مجموعة بيانات السجل الصحي الإلكتروني (MIMIC-III) عبر Physio Net على:
https://physionet.org/content/mimiciii/1.4/

تم استخراج بيانات تصوير الصدر بالأشعة السينية من مجموعة بيانات الأشعة السينية للصدر التابعة للمعاهد الوطنية للصحة، ويمكن العثور عليها في: https://www.kaggle.com/datasets/nih-chest-xrays/data

جميع مجموعات البيانات التي استكشفناها في هذه الدراسة تم إخفاء هويتها وجعلها متاحة للعامة. خطوات المعالجة المسبقة، والنموذج المدرب، ومخرجات القدرة على الشرح التي أنتجناها خلال البحث متاحة من خلال المؤلف المقابل إذا تم تقديم طلب معقول. سيتم إيداع الشيفرة المصدرية، والنصوص المسبقة للمعالجة، وملفات التكوين، وموارد التكرار في مستودع عام عند قبول المخطوطة.

المناقشة

طورت هذه الدراسة وقيمت سير عمل ذكاء اصطناعي قابل للتفسير (XAI) قابل لإعادة إنتاج لتحليلات الرعاية الصحية، يدمج النمذجة التنبؤية، وتقييم التفسير، والتقييم المرتكز على الطبيب، وموارد القابلية للتكرار ضمن بروتوكول واحد. أظهرت النتائج أن نماذج التعلم الآلي المعتمدة على المجموعات، وخاصة تعزيز التدرج والغابة العشوائية، حققت أعلى أداء تنبؤي على مجموعات بيانات الرعاية الصحية المنظمة المقيمة، في حين كانت نماذج التعلم العميق أكثر ملاءمة للتحليلات القائمة على الصور. تسلط هذه النتائج الضوء على أهمية اختيار هياكل النماذج بناء على خصائص البيانات بدلا من افتراض أن النماذج الأكثر تعقيدا ستحقق دائما أداء أفضل. من المساهمة الرئيسية لهذا العمل دمج النمذجة التنبؤية، وتقييم التفسير، والتقييم المتمحور حول الإنسان، وممارسات التكرار ضمن سير عمل موحد. على عكس الدراسات التي تقيم تقنيات التفسير بشكل منفصل، يوفر الإطار المقترح منهجية مدفوعة بالبروتوكول تدعم التجارب الشفافة والقابلة للتكرار عبر مجموعات بيانات الرعاية الصحية المتنوعة.

أظهر تحليل قابلية التفسير فروقا ملموسة بين الطرق المقيمة. حقق SHAP أعلى درجات الدقة والاستقرار ضمن الظروف التجريبية المقيمة، مما يشير إلى توافق أوثق بين التفسيرات المولدة وتوقعات النموذج. قدم LIME تفسيرات محلية مفيدة لكنه أظهر استقرارا أقل، بينما أنتج Grad-CAM تفسيرات بصرية بديهية لبيانات التصوير. تشير هذه النتائج إلى أن جودة الشرح تعتمد على كل من طريقة التفسير المختارة والنموذج التنبؤي الأساسي. أظهر التقييم المرتكز على الإنسان أيضا أن تضمين التفسيرات حسن ثقة الأطباء وقابليتهم للتفسير. تشير الزيادة الملحوظة في درجات الثقة والاتفاق الكبير بين المقيمين (κ = 0.81) إلى تقييم متسق لفائدة التفسير بين المشاركين. تدعم هذه النتائج القيمة المحتملة لطرق التفسير لتحسين الشفافية وقبول المستخدمين في أنظمة دعم القرار في الرعاية الصحية.

يجب أخذ عدة قيود في الاعتبار عند تفسير النتائج. أولا، تم تقييم الإطار باستخدام عدد محدود من مجموعات البيانات المتاحة للعامة وقد لا يمثل بشكل كامل التباين الذي يواجهه في البيئات السريرية الواقعية. ثانيا، شمل تقييم الطبيب مجموعة مشاركة صغيرة نسبيا، مما قد يحد من قابلية التعميم. ثالثا، طرق التفسير التي تم بحثها في هذه الدراسة هي تقنيات ما بعد الحادث، وبالتالي تظل خاضعة لقيود معروفة، بما في ذلك الحساسية للاضطرابات والفروق المحتملة بين التفسيرات والتفكير النموذجي الحقيقي. وأخيرا، كان التحقق الخارجي عبر المؤسسات الصحية المستقلة خارج نطاق الدراسة الحالية.

يجب أن تبحث الأبحاث المستقبلية في تحليلات الرعاية الصحية متعددة الوسائط التي تدمج السجلات السريرية، والتصوير الطبي، والإشارات الفسيولوجية، وبيانات المستشعرات القابلة للارتداء. هناك حاجة إلى عمل إضافي لتقييم طرق التفسير السببية والمضادة للواقع، وقياس عدم اليقين، وتقييم العدالة، وتحليل المعايرة، والتحقق السريري المستقبلي. قد تحسن هذه الدراسات الشفافية والموثوقية وقابلية تطبيق أنظمة الذكاء الاصطناعي القابلة للتفسير في الرعاية الصحية.

بالإضافة إلى تقييم الأداء، يجب النظر في عدة تحديات تنفيذ عملية وتعديلات على البروتوكولات لضمان نشر قوي لإطار الذكاء الاصطناعي المقترح القابل للتفسير في بيئات رعاية صحية متنوعة.

حدود طرق التفسير

شاب، لايم وغراد-كام، رغم توفير رؤى مفيدة حول سلوك النماذج، إلا أن لديها أيضا عدة عيوب. لقد لوحظ في الأدبيات أن هذه الأدوات قد تكون غير مستقرة في التكرارات، وحساسة جدا للاضطرابات، وتختلف بين مجموعات البيانات، وأحيانا لا تعكس بدقة الأسباب الحقيقية للنموذج. لذلك، يجب اعتبار التفسيرات بعد الحدث مجرد دليل تكميلي وليس التصوير الفعلي لآليات القرار السببي. لا يزال التحقق الصحيح من موثوقية التفسيرات خطوة ضرورية جدا قبل أن يمكن استخدامها في بيئات سريرية ذات تأثير كبير.

وهذا يتوافق أيضا مع نتائج أبحاث الذكاء الاصطناعي الطبي الحيوي الحديثة، التي أكدت على ضرورة شرح التحقق من الموثوقية قبل تطبيقه في البيئات السريرية. تم استخدام دمج قابلية التفسير كجانب رئيسي من التحقق في أنظمة التنبؤ بتوقف القلب حتى تكون أكثر شفافية وتكسب ثقة التنبؤات السريرية⁴¹. بنفس الطريقة، كان تقسيم صور الموجات فوق الصوتية للكبد باستخدام تقنيات التفسير المعتمدة على التصور يهدف إلى زيادة قابلية التفسير دون تجاهل حقيقة أن التفسيرات بعد الحدث محدودة. تؤكد هذه الأوراق أن اختبارات اتساق التفسير، واختبارات التفسير المتانة، والتحقق من مخرجات التفسير ذات المعنى السريري ضرورية للوصول إلى أعلى مستوى من جاهزية الاستخدام السريري⁴².

المعايرة، العدالة، المتانة، والتعميم الخارجي

ستشمل الإصدارات المستقبلية للإطار المقترح تقييم معايرة الاحتمالات باستخدام منحنيات المعايرة ودرجة بريير، وتقدير عدم اليقين باستخدام الطرق البايزية والمعتمدة على المجموعات، وتدقيق العدالة للمجموعات الفرعية الديموغرافية، وفحص المتانة تحت وجود بيانات ضوضاء وظروف المجال المتغيرة. تكتسب هذه التحليلات أهمية خاصة في بيئات الرعاية الصحية حيث تؤثر ثقة النموذج، والأداء العادل، والموثوقية في ظل البيئات السريرية المتغيرة بشكل مباشر على سلامة المرضى وتبني المرضى السريري. كما أكدت الأطر العلمية الحديثة المدعومة بالذكاء الاصطناعي على أهمية أنظمة دعم القرار الموثوقة والشفافة والموثوقة التي تتجاوز التقييم التنبؤي التقليدي للأداء. كما أكدت الأطر العلمية الحديثة المدعومة بالذكاء الاصطناعي على أهمية أنظمة دعم القرار الموثوقة والشفافة والموثوقة التي تتجاوز تقييم الأداء التنبؤي التقليدي ⁴³.

استكشاف الأخطاء وتعديلات البروتوكول

يجب النظر في عدة نقاط عملية لتحقيق النجاح في طرح إطار الذكاء الاصطناعي المقترح القابل للتفسير. مشكلة نموذجية هي التلاءم الزائد، على سبيل المثال، عند تدريب نماذج التعلم العميق على مجموعات بيانات صحية صغيرة نسبيا. يمكن تقليل التوافق الزائد عن طريق تطبيق التحقق المتبادل، والإيقاف المبكر، وتنظيم الانسحاب، وتعزيز البيانات، وتحسين المعاملات الفائقة بشكل شامل. مراقبة أداء التحقق أثناء التدريب طريقة جيدة لتجنب نموذج معقد جدا يعمم بشكل سيء.

قضية أخرى مهمة جدا في مجموعات بيانات الرعاية الصحية هي عدم التوازن الطبقي، أي أن النتائج السريرية الإيجابية أقل بكثير من الحالات السلبية. للتعامل مع هذه المشكلة، يجب أن تكون العينة الطبقية، وتعديل وزن الفئة، والأخذ المفرط للأقليات الاصطناعية، واستخدام مقاييس تقييم متوازنة مثل F1-score وROC-AUC جزءا من خط النمذجة. تجاهل عدم التوازن الطبقي قد يؤدي إلى مقاييس أداء لا تمثل النموذج حقا وتنبؤات سريرية قد تكون متحيزة.

مجموعات بيانات التصوير الطبي عادة ليست مثالية وقد تتلف بسبب الضوضاء، أو الشوائب المكتسبة، أو جودة غير متسقة، وما إلى ذلك. تختلف هذه العوامل أيضا حسب نوع جهاز التصوير. قد تؤثر هذه العوامل سلبا على الأداء التنبؤي وتؤثر أيضا على مخرجات قابلية التفسير. لذلك، يجب تطبيق خطوات المعالجة المبدئية الموحدة، وتطبيع الصورة، وفحوصات مراقبة الجودة، وتقنيات تعزيز البيانات لتحقيق متانة وموثوقية النموذج.

يتيح SHAP استنتاج تفسيرات نسبية الميزات المفيدة للغاية. ومع ذلك، لا يمكن تجاهل حدوث عدم الاستقرار، خاصة عندما توجد ميزات مترابطة بشدة أو عندما تكون نتائج النموذج حساسة جدا للتغيرات الطفيفة في بيانات الإدخال. لتعزيز اتساق الشرح وموثوقيته، ينصح بكتابة الشرح عدة مرات، وتقييم الاستقرار خلال عدة جولات، واستخدام استراتيجيات تجميع الميزات، والمقارنة مع طرق التفسير الأخرى مثل LIME.

عندما يتعلق الأمر ببيانات الرعاية الصحية واسعة النطاق وبنى الشبكات العصبية العميقة الضخمة، قد تصبح حدود ذاكرة وحدة معالجة الرسومات واحدة من القيود الرئيسية. يمكن تقليل احتياجات الذاكرة بشكل كبير من خلال تغييرات حجم الدفعات، والتدريب الدقيق المختلط، وتقليم النماذج، وتقليل أبعاد الميزات، وتبني تحميل بيانات بكفاءة. بالإضافة إلى ذلك، قد يفكر الباحثون الذين ينشرون الإطار على أنظمة منخفضة الموارد في استخدام بيئات الحوسبة السحابية أو التدريب الموزع.

يتيح التصميم المعياري للإطار المقترح إجراء التغييرات بسهولة لتطبيقات الرعاية الصحية المختلفة. اعتمادا على المهمة السريرية، يمكن للعلماء تغيير نموذج أو أكثر من نماذج التنبؤ الفردية، أو إضافة طرق جديدة للشرح، أو استخدام أنواع مختلفة من بيانات الرعاية الصحية معا، أو تضمين وحدات لقياس ومعايرة عدم اليقين دون تغيير سير العمل العام. تساعد هذه المرونة في جعل الإطار قابلا للاستخدام في حالات تحليلات الرعاية الصحية المختلفة مع كونه قابلا للتكرار والتفسير.

الاعتبارات التنظيمية والأخلاقية:

أنظمة الذكاء الاصطناعي التي تصبح أكثر وضوحا يمكن أن تكون عونا كبيرا في مجال الرعاية الصحية. لكن هذا ليس كافيا. يجب الالتزام بقواعد الجهات التنظيمية، التي تدعو إلى الشفافية والمساءلة والخصوصية وسلامة المرضى. حتى لو زاد التفسير من الثقة وقابلية التفسير، فإنه لا يمكن وحده ضمان الصلاحية السريرية. يتطلب التنفيذ المسؤول التحقق السريري المستقبلي، وتقييم العدالة، والمراجعة التنظيمية، والمراقبة بعد النشر. بالإضافة إلى ذلك، يجب مراعاة سرية المرضى، والإشراف على الطبيب، والأداء العادل عبر الفئات الديموغرافية عند تطبيق الإطار في المستقبل. لكي يتم دمجها في سير العمل السريري الواقعي، يجب أن تتفاعل أنظمة الذكاء الاصطناعي والمتخصصون في الرعاية الصحية دون أي مشاكل. لذلك، يجب أن تكون معلومات التفسير جزءا من السجلات الصحية الإلكترونية الحالية ومنصات دعم اتخاذ القرار السريري، وليس أدوات منفصلة تعمل بشكل مستقل فقط. يجب أن يتخذ الأطباء القرارات النهائية، بينما الذكاء الاصطناعي القابل للتفسير هو مجرد تقنية مساعدة تعزز الشفافية، وتدعم الاستدلال المبني على الأدلة، وتجعل التواصل بين العاملين في الرعاية الصحية والمرضى أسهل.

تقدم هذه المقالة بروتوكولا قابلا للتكرار لتطوير وتقييم وتفسير أنظمة الذكاء الاصطناعي القابلة للتفسير في تحليلات الرعاية الصحية. المساهمة منهجية وموجهة نحو سير العمل، حيث توفر للباحثين والأطباء إطارا موحدا يمكن تكراره وتكييفه وتوسيعه عبر تطبيقات الرعاية الصحية المتعددة. يجمع بين جوانب مختلفة مثل معالجة البيانات المسبقة، والنمذجة التنبؤية، وطرق القابلية للتفسير، وتقييم الأداء بطريقة موحدة واحدة. أظهرت المنهجية أداء تنبؤيا قويا عبر مجموعات بيانات الرعاية الصحية المتعددة. عندما يتعلق الأمر بتحليل البيانات المنظمة، فإن مجموعات النماذج هي الأفضل أداء، بينما تعتبر نماذج التعلم العميق فعالة جدا في مهام التصوير الطبي. علاوة على ذلك، يجعل استخدام تقنيات التفسير من السهل على المستخدمين فهم النماذج، حيث يقدم تفسيرات عامة ومحلية لنتائج التنبؤ. لذلك، لا يزيد ذلك فقط من ثقة الأطباء بل يزيد أيضا من قابلية استخدام النماذج. تشير النتائج إلى أن الذكاء الاصطناعي القابل للتفسير يمكن أن يدعم تطوير أنظمة تحليلات صحية شفافة وقابلة للتفسير لإيجاد حل وسط بين دقة وقابلية تفسير النماذج، وهي ضرورية لتحليلات الرعاية الصحية الموثوقة والموثوقة. وبالتالي، فإن الطريقة المقدمة هنا هي أداة فعالة ومباشرة جدا لتحليل البيانات الطبية يمكن أن تساعد المتخصصين في الرعاية الصحية على استخدام تقنيات الذكاء الاصطناعي التي يثقون بها. تقدم هذه المقالة بروتوكولا قابلا للتكرار لتطوير وتقييم وتفسير نماذج الذكاء الاصطناعي القابلة للتفسير في تحليلات الرعاية الصحية. من خلال دمج معالجة البيانات المسبقة، والنمذجة التنبؤية، وتقييم قابلية التفسير، والتقييم المرتكز على الطبيب، وموارد إعادة الإنتاج ضمن سير عمل موحد، يوفر البروتوكول إطارا عمليا لأبحاث شفافة في مجال الذكاء الاصطناعي في الرعاية الصحية. يمكن تكييف سير العمل لتناسب مجموعات بيانات الرعاية الصحية ومجالات التطبيقات المتنوعة، مما يدعم التنفيذ القابل للتكرار، والتقييم، والتقارير لأنظمة التعلم الآلي القابلة للتفسير.

المواد

قائمة المواد المستخدمة في هذه المقالة

الاسم	الشركة	رقم فهرسي	التعليقات
محطة عمل GPU	حسب الشركة المصنعة	NA	تدريب نماذج التعلم العميق
مفكرة Jupyter	مشروع Jupyter	أحدث إصدار مستقر	تنفيذ التجارب التفاعلي
LIME	LIME	الإصدار 0.2.0	تفسيرات محلية
Matplotlib	مشروع Matplotlib	الإصدار 3.9	تصور البيانات
قاعدة بيانات MIMIC-III	PhysioNet	الإصدار 1.4	تحليل السجلات الصحية الإلكترونية
مجموعة بيانات NIH Chest X-ray	المركز السريري NIH	مجموعة بيانات عامة	تصنيف الأمراض الصدرية
NumPy	مطورو NumPy	الإصدار 1.26	الحساب العددي وعمليات المصفوفات
OpenCV	مؤسسة OpenCV	الإصدار 4.10	معالجة الصور المسبقة
Pandas	فريق تطوير Pandas	الإصدار 2.1	معالجة البيانات وتجهيزها
مجموعة بيانات Pima Indians Diabetes	مستودع UCI للتعلم الآلي	مجموعة بيانات عامة	توقع مخاطر مرض السكري
Python 3.11	مؤسسة Python للبرمجيات	الإصدار 3.11	بيئة البرمجة الأساسية
Scikit-learn	scikit-learn	الإصدار 1.5	خوارزميات التعلم الآلي والتقييم
Seaborn	Seaborn	الإصدار 0.13	التصور الإحصائي
SHAP	SHAP	الإصدار 0.46	نسبة الميزات وإمكانية التفسير
TensorFlow	TensorFlow	الإصدار 2.15	تطوير نماذج التعلم العميق
Windows / Ubuntu Linux	Microsoft / Canonical	NA	نظام التشغيل
مجموعة بيانات سرطان الثدي في ويسكونسن	مستودع UCI للتعلم الآلي	مجموعة بيانات عامة	تشخيص سرطان الثدي