Bu içeriği görüntülemek için JoVE aboneliğiniz gereklidir. Giriş yapın veya ücretsiz denemenizi bugün başlatın.

Araştırma makalesi

Sağlık Analitiğinde Açıklanabilir Yapay Zeka Çerçeveleri Geliştirmek ve Değerlendirmek İçin Tekrarlanabilir Bir Protokol

93 görüntüleme

⸱

DOI:

10.3791/71999

⸱

31 Temmuz 2026

 ,  ,  ,  , 
1Department of Computer Engineering, Vishwakarma Institute of Technology, 2Bharati Vidyapeeth's College of Engineering for Women, 3Department of Computer Engineering, Kasetsart University, 4Department of Computer Science and Engineering (Artificial Intelligence and Machine Learning), Vishwakarma Institute of Technology, 5President Maryam Abacha American University of Nigeria

Bu makalede

Özet

Burada, sağlık analizleri için açıklanabilir yapay zeka modelleri geliştirmek ve değerlendirmek amacıyla tekrarlanabilir bir protokol sunuyoruz. İş akışı, veri ön işlemesi, öngörücü modelleme, SHAP-, LIME- ve Grad-CAM tabanlı açıklanabilirlik, nicel değerlendirme ve insan merkezli doğrulamayı entegre ederek şeffaf ve güvenilir klinik karar alma süreçlerini destekler.

Özet

Açıklanabilir Yapay Zeka (XAI), şeffaflık ve kararları açıklama yeteneğinin klinik karar alma süreçlerinin temel bileşenleri olduğu sağlık hizmetlerinde güvenilir yapay zeka sistemleri inşa etmek için giderek daha fazla vazgeçilmez bir araç olarak kabul edilmektedir. Bu yayın, sağlık analizleri için açıklanabilir yapay zeka sistemlerinin geliştirilmesi ve değerlendirilmesine yönelik tekrarlanabilir deneysel bir yaklaşım sunmaktadır. Geliştirilen ürün hattı, veri ön işleme, öngörücü modelleme, yorumlama oluşturma ve değerlendirme adımlarını hem yapılandırılmış klinik verilere hem de tıbbi görüntüleme veri setlerine uygulanabilecek tek bir sorunsuz iş akışında entegre eder. Topluluk makine öğrenimi modelleri, yapılandırılmış tablo veri setlerinde güçlü öngörücü performans göstermişken, derin öğrenme modelleri tıbbi görüntüleme verilerindeki karmaşık desenleri öğrenmede etkilidir. SHAP, LIME ve Grad-CAM gibi teknikler, model yorumlamayı kolaylaştıran küresel ve yerel açıklamalardır. Çok yardımcı oldu. Çerçevenin nicel değerlendirmesi, doğruluk, hassasiyet, hatırlar, F1 puanı, ROC-AUC, açıklama metrikleri, sadakat ve istikrar gibi birçok farklı ölçütü kapsar. Sonuçlar, deneysel koşullar kontrol altına alındığında, çerçevenin değerlendirilen deneysel koşullar altında gelişmiş öngörücü performans ve açıklama kalitesi gösterdiğini göstermektedir. Protokol tarafından yönlendirilen bir belge olarak, bu çalışma tekrarlanabilirlik ve ölçeklenebilirliği, yani diğer canlılar tarafından sürekli uygulanmasını destekliyor. Bu şeffaf ve anlaşılır yapay zeka modeli, klinik karar alma desteği ve sağlık analitik sistemlerinin büyük ölçekte güven ve kullanım kazanmasının temelidir.

Giriş

Yapay zeka (YZE), hastalık teşhisi, prognozu, risk tabakası, tıbbi görüntü analizi ve klinik karar alma süreçlerini destekleyerek modern sağlık hizmetlerinin önemli bir bileşenihaline gelmiştir 1. Makine öğrenimi ve derin öğrenmedeki ilerlemeler, sağlık sistemlerinin büyük hacimlerde yapılandırılmış ve yapılandırılmamış verileri işlemesini sağlamış ve genellikle geleneksel istatistiksel yaklaşımlara benzer veya onları aşan öngörücü performanselde etmiştir 2. Bu gelişmelere rağmen, birçok yapay zeka modeli karmaşık kara kutu sistemleri olarak çalışır ve klinisyenlerin ve sağlık paydaşlarının tahminlerin nasıl üretildiğini anlamasınızorlaştırır 3. Bu şeffaflık eksikliği, yüksek riskli sağlık ortamlarında güven, benimseme ve hesap verebilirliğisınırlayabilir 4,5.

Açıklanabilir yapay zeka (XAI), makine öğrenimi modellerinin şeffaflığını ve yorumlanabilirliğini artırmak için umut vadeden bir yaklaşım olarak ortayaçıkmıştır 6. SHAP (Shapley ekleme açıklamaları), LIME (Yerel yorumlanabilir model-agnostik açıklamalar) ve gradyen ağırlıklı sınıf aktivasyon haritalama (Grad-CAM) gibi yaygın kullanılan açıklama teknikleri, özellik atfisyonu ve görsel açıklamamekanizmaları 7,8,9 aracılığıyla model davranışına dair içgörüler sağlar. Bu yöntemler, klinik yorumlama, model denetimi ve karar desteğini desteklemek için sağlık uygulamalarında giderek daha fazla uygulanmaktadır10,11. Ancak, açıklanabilirlik tek başına güvenilirlik, tekrarlanabilirlik veya klinik faydayı garanti etmez. Son çalışmalar, açıklama kararsızlığı, bozulmalara duyarlılık, sınırlı klinisyen doğrulaması ve açıklama çıktıları ile gerçek model akıl yürütmesi arasındakitutarsızlıklarla ilgili zorlukları ortaya koymuştur 12,13,14,15.

Açıklanabilirlik zorluklarının yanı sıra, tekrarlanabilirlik sağlık makine öğrenimi araştırmalarında önemli bir endişe olmaya devametmektedir 16,17,18. Yayınlanmış birçok çalışma, ön işleme prosedürleri, yazılım ortamları, hiperparametre yapılandırmaları, doğrulama stratejileri ve uygulama iş akışları hakkında sınırlı bilgi sunarak bağımsız çoğaltmayızorlaştırır 19,20,21. Ayrıca, sağlık AI çalışmaları sıklıkla öngörücü performansa odaklanırken, açıklama kalite değerlendirmesi, klinisyen merkezli değerlendirme ve pratik uygulama konularında sınırlı rehberlik sağlar22. Bu sınırlamalar, açıklanabilir yapay zeka sistemlerinin araştırma ortamlarından gerçek dünya sağlık ortamlarına geçişini engelleyebilir 23,24,25,26,27.

Mevcut sağlık XAI iş akışları genellikle bireysel açıklama tekniklerini veya öngörücü modelleri izole olarak değerlendirir ve nadiren veri hazırlama, öngörücü modelleme, açıklanabilirlik değerlendirmesi, insan merkezli değerlendirme ve tekrarlanabilirlik kaynaklarını entegre eden standart protokollersunar 28,29,30,31 . Sonuç olarak, araştırmacılar ve uygulayıcılar iş akışlarını yeniden ürederken, açıklama yöntemlerini karşılaştırırken veya farklı sağlık veri setleri ve uygulama alanlarında açıklanabilir yapay zeka sistemlerinin pratik faydasını değerlendirirken zorluklarla karşılaşabilirler. Bu nedenle, sağlık açıklanabilir yapay zeka iş akışlarının tutarlı uygulanması, değerlendirilmesi ve raporlanmasını kolaylaştırmak için kapsamlı ve tekrarlanabilir birprotokole ihtiyaç vardır 32,33,34,35.

Burada, sağlık analitiğinde açıklanabilir yapay zeka sistemlerinin geliştirilmesi, değerlendirilmesi ve yorumlanması için tekrarlanabilir bir protokol sunuyoruz. Protokol, veri ön işlemesi, öngörücü modelleme, SHAP, LIME ve Grad-CAM kullanılarak açıklanabilirlik değerlendirmesi, klinisyen odaklı değerlendirme, doğrulama prosedürleri ve tekrarlanabilirlik kaynaklarını birleşik bir iş akışı içinde entegre eder. Amaç, çeşitli sağlık veri setlerinde şeffaf model geliştirmeyi, açıklama kalite değerlendirmesini ve tekrarlanabilir uygulamayı destekleyen standartlaştırılmış bir çerçevesağlamaktır (36,37,38,39). Bu çalışmanın metodolojik katkısı, öngörücü analiz, açıklanabilirlik değerlendirmesi, klinisyen doğrulaması ve tekrarlanabilirlik uygulamalarının sağlık AI araştırmaları, eğitimi ve uygulama odaklı çalışmalar için uygun tek bir protokol içinde entegre edilmesindeyatmaktadır 40,41,42,43.

Bu çalışmanın temel katkısı, yeni bir açıklanabilirlik algoritmasının geliştirilmesi değildir.

Bunun yerine, tahmin modelleme, açıklanabilirlik değerlendirmesi, görselleştirme, değerlendirme ve insan merkezli yorumlamayı, sağlık analizi ve JoVE tabanlı protokol yayımı için uygun birleşik bir iş akışına entegre eden, standartlaştırılmış, tekrarlanabilir ve deneysel olarak doğrulanmış bir protokol sunar. Bu çalışmanın temel amacı, yeni bir öngörücü algoritma tanıtmak değil, sağlık analitiğinde açıklanabilir yapay zeka iş akışlarını uygulamak için standartlaştırılmış, tekrarlanabilir ve deneysel olarak doğrulanmış bir protokol sağlamaktır. Protokol, veri ön işlemesi, öngörücü modelleme, açıklanabilirlik değerlendirmesi, klinisyen odaklı değerlendirme ve tekrarlanabilirlik kaynaklarını benimseme, çoğaltma ve eğitimsel yayım için uygun birleşik bir çerçevede entegre eder.

Erişim kısıtlı. Bu içeriği görüntülemek için lütfen giriş yapın veya deneme sürümünü başlatın.

Protokol

Bu çalışmada kullanılan tüm veri setleri, UCI Makine Öğrenimi Deposu, PhysioNet MIMIC-III veri tabanı ve NIH Gevs X-ışını veri setleri dahil olmak üzere halka açık ve tamamen anonimleştirilmiş depolardan alınmıştır. Tanımlanabilir hasta bilgisi erişim sağlanmadı. Çalışma, kamuya açık kimliği yok edilmiş verilerin ikincil analizi için kurumsal araştırma etik rehberlerine uydu. Resmi Kurumsal İnceleme Kurulu onayı gerekmiyordu çünkü doğrudan insan katılımcılar alınmadı ve korunan sağlık bilgisi kullanılmadı.

1. Deneysel Çerçevelerin Genel Görünümü

  1. Şeffaf sağlık analizleri için tekrarlanabilir, açıklanabilir bir yapay zeka (XAI) boru hattı geliştirin. İş akışını Veri Katmanı, Ön İşlem Katmanı, Modelleme Katmanı, Açıklanabilirlik Katmanı, Değerlendirme Katmanı ve Görselleştirme Katmanı olarak organize edin.
  2. Bu modülleri, yapılandırılmış klinik veriler, elektronik sağlık kayıtları ve tıbbi görüntüleme veri setlerini işleyen birleşik bir iş akışına entegre edin.
  3. Her modülün tekrarlanabilirlik, yorumlanabilirlik, ölçeklenebilirlik ve standartlaştırılmış deneysel yürütmeye katkı sağladığından emin olun.
  4. Modüler mimariyi sürekli veri akışını destekleyecek şekilde tasarlayın ve boru hattının her aşamasının deneysel iş akışı boyunca tekrarlanabilirlik, yorumlanabilirlik ve ölçeklenebilirliğe katkı sağlamasını sağlasın.

2. Hesaplamalı Ortam ve Sistem Konfigürasyonu

  1. İş akışını çalıştırmadan önce gerekli yazılım bağımlılıklarını bir komut satırı terminali açarak ve aşağıdaki komutu çalıştırarak yükleyin:
    pip install numpy pandas scikit-learn tensorflow shap lime opencv-python matplotlib seaborn
  2. Tüm yazılım paketlerinin başarılı kurulumunu doğrulayın ve veri ön işleme ve model geliştirmeye geçmeden önce Materyaller Tablosu'nda listelenen yazılım sürümleriyle uyumluluğu doğrulayın.
  3. Ana programlama ortamı olarak Python 3.11'i kullanın. NumPy 1.26 ve Pandas 2.1'i veri işleme ve özellik mühendisliği görevleri için kurup yapılandırın. Makine öğrenimi modeli geliştirme ve değerlendirme için Scikit-learn 1.5'i kurun.
  4. Derin öğrenme modeli eğitimi ve çıkarım için TensorFlow 2.15'i kurun. Açıklanabilirlik analizi için SHAP 0.46 ve LIME 0.2.0 kurun. Görüntü işleme görevleri için OpenCV 4.10 kurun. Veri görselleştirme ve sonuç raporlaması için Matplotlib 3.9 ve Seaborn 0.13 yükleyin. Tekrarlanabilirlik için gerekli tam yazılım spesifikasyonları ve uygulama detayları için Materyal Tablosu'na bakabilirsiniz.
  5. Hesaplama ortamını, çok çekirdekli işlemci, grafik işlem birimi (GPU) hızlandırma ve büyük sağlık veri setleri ile derin öğrenme iş yüklerini karşılayacak yeterli bellek kaynaklarıyla donatılmış bir iş istasyonu kullanarak yapılandırmak.
  6. Deneysel çalışmalar arasında tekrarlanabilirliği sağlamak için veri bölmeleri, model başlatma ve eğitim prosedürleri için sabit rastgele tohumlar oluşturun. Günlük mekanizmalarının, iş akışı boyunca veri ön işleme işlemlerini, model yapılandırmalarını, hiperparametre ayarlarını, eğitim prosedürlerini ve değerlendirme sonuçlarını kaydetmesini etkinleştirin.
  7. Model mimarilerini, optimizasyon parametrelerini, öğrenme oranlarını, toplu boyutlarını, eğitim ayarlarını ve hiperparametre değerlerini Tablo 1'de özetlenen özelliklere göre yapılandırın. Tekrarlama deneyleri sırasında bildirilen sonuçlarla tutarlılığı sağlamak için bu ayarlara uyulabilir.
  8. Beklenen Çıktı - Tüm gerekli yazılım paketlerini, donanım kaynaklarını, kayıt mekanizmalarını ve model yapılandırma ayarlarını içeren tamamen yapılandırılabilir ve tekrarlanabilir bir hesaplama ortamı, sonraki veri ön işleme, model geliştirme, açıklanabilirlik analizi ve değerlendirme prosedürleri için kullanılabilir.
BileşenParametreDeğerTanım
Rastgele Ormann_estimators100Ağaç sayısı
Rastgele Ormanmax_depthHiçbiri yokAğaç derinliği
XGBoostlearning_rate0.01Öğrenme hızı
XGBoostn_estimators100Güçlendirme mermileri
CNNÇağlar25Eğitim dönemleri
CNNbatch_size32Parti büyüklüğü
CNNOptimizerAdamOptimizasyon algoritması
MLPhidden_layers2Gizli katman sayısı
MLPAktivasyonReLUAktivasyon fonksiyonu
Geneltrain_split70%Eğitim veri oranı
Genelvalidation_split15%Doğrulama oranı
Geneltest_split15%Test oranı

Tablo 1: Uygulama Detayları ve Hiperparametre Konfigürasyonu.

Bu tablo, önerilen açıklanabilir yapay zeka çerçevesinin deneysel değerlendirmesi boyunca kullanılan hesaplama ortamı, yazılım kütüphaneleri, makine öğrenimi ve derin öğrenme model yapılandırmaları, optimizasyon ayarları, öğrenme oranları, parti boyutları, eğitim parametreleri ve hiperparametre değerlerini özetlemektedir.

3. Veri Seti Hazırlama ve Ön İşleme

  1. Deneysel iş akışının şeffaflığını ve tekrarlanabilirliğini sağlamak için kamuya açık sağlık veri setlerini seçin.;
  2. Önerilen çerçeveyi doğrulamak için dört temsilli sağlık senaryosu kullanın: (i) Wisconsin Meme Kanseri Veri Seti kullanılarak meme kanseri teşhisi, (ii) Pima Indians Diyabet Veri Seti kullanılarak diyabet riski tahmini, (iii) MIMIC-III elektronik sağlık kayıtları kullanılarak klinik sonuç tahmini ve (iv) NIH Göğüs Röntgeni Veri Seti kullanılarak göğüs hastalığı sınıflandırması. Bu veri setlerini, yapılandırılmış klinik kayıtlar, uzunlamasına elektronik sağlık kayıtları ve sağlık karar destek sistemlerinde yaygın kullanılan tıbbi görüntüleme yöntemleri arasındaki çerçeveyi değerlendirmek için seçin.
  3. Her veri setini Python ortamına aktarın ve kayıtları giriş özellikleri ile hedef değişkenlere ayırın. Hastalık tahmin görevleri için yapılandırılmış klinik veriler, uzunlamasına sonuç analizi için elektronik sağlık kayıtları ve tanısal sınıflandırma görevleri için tıbbi görüntüleme veri setlerini organize etmek. Ön işlem işlemlerine geçmeden önce her veri setinin bütünlüğünü doğrulayın.
  4. Uygun ödüm teknikleriyle eksik değerleri belirleyin ve giderin. Değişkenler arasında karşılaştırılabilirliği sağlamak için özellik ölçeklendirme ve normalizasyon prosedürleriyle sayısal özellikleri standartlaştırın.
  5. Veri seti özelliklerine dayalı uygun kodlama yöntemleriyle kategorik değişkenleri kodlayın. En ilgili değişkenleri belirlemek ve veri boyutluluğunu azaltmak için korelasyon analizi ve model tabanlı özellik önemi ölçümleri kullanarak özellik seçimi yapın.
  6. Model eğitiminden önce tüm tıbbi görüntüleri 224,224 piksele boyutlandırın. Seçilen derin öğrenme mimarisinin gereksinimlerine göre piksel yoğunluk değerlerini normalleştirin. Model genellemesini iyileştirmek ve aşırı uyumu azaltmak için görüntü döndürme ve yatay çevirme gibi veri artırma tekniklerini uygulayın. Veri seti boyunca görüntü kalitesini doğrulayın ve görüntü boyutlarının tutarlılığını garantileyin.
  7. Veri bütünlüğünü, veri setinin tamlığını, tutarlılığını ve özellik-etiket uyumunu değerlendirerek değerlendirin. Tüm kayıtların ilgili hedef sınıflarına doğru şekilde atadığını doğrulayın. Örneklem büyüklüğü, özellik sayısı ve veri modalitesi gibi veri seti özelliklerini, Tablo 2'de özetlenmiş şekilde gözden geçirin.
  8. Metodolojik titizlik ve tekrarlanabilirlik sağlamak için veri setine özgü doğrulama prosedürlerini uygulayın. Her veri seti için örneklem büyüklüğünü, sınıf dağılımı, tren-doğrulama-test bölme stratejisini, sızıntı önleme önlemlerini, hiperparametre optimizasyon prosedürlerini, çapraz doğrulama tasarımını ve harici test protokolünü kaydedin. Bu doğrulama prosedürlerini Tablo 3'te özetleyin.
  9. Eksik değer işleme, outlier kaldırma, özellik ölçeklendirme, kategorik kodlama, sınıf dağıtımı koruma ve veri seti bölümleme prosedürlerini değerlendirerek ön işleme kalite kontrol kontrolleri gerçekleştirin. Tüm veri setlerinde ön işleme işlemlerinin tutarlı şekilde uygulandığını doğrulayın.
  10. Veri seti bölümlendirme sırasında önemli veri sızıntısı olmadığını doğrulayın. Şekil 1'de sunulan ön işleme doğrulama sonuçlarını inceleyerek sonraki makine öğrenimi ve açıklanabilirlik analizleri için standartlaştırılmış veri setlerinin oluşturulduğundan emin olun.
  11. Beklenen Çıktı - Eksik değerleri uygun şekilde gideren, kategorik değişkenler kodlanmış, sayısal özellikler normalleştirilmiş ve kayıtları eğitim, doğrulama ve test alt kümelerine bölmüş şekilde temizlenmiş ve standartlaştırılmış veri setleri oluşturun. Veri seti özellikleri, sınıf dağılımları ve doğrulama prosedürlerinin Tablo 2 ve Tablo 3'te bildirilenlerle uyumlu olduğundan emin olun ve Şekil 1'de gösterildiği gibi başarılı ön işleme doğrulamasını onaylayın.
Veri setiTipÖrneklerÖzelliklerHedef
Meme KanseriTabular56930İyi huylu/Kötü huylu
DiyabetTabular7688Diyabet Sonucu
MIMIC-IIIEHR~60.000Klinik DeğişkenlerÖlüm
Göğüs röntgeniGörüntüleme~112.000GörsellerHastalık Etiketleri

Tablo 2: Veri Seti Özellikleri ve Sağlık Kullanım Durumları.

Bu tablo, çalışmada kullanılan sağlık veri setlerinin özetini sunar; veri seti türü, örnek sayısı, özellik sayısı, hedef değişkenler, sağlık uygulama alanı ve ilgili klinik kullanım durumları dahildir. Veri setleri, çeşitli sağlık analitik senaryolarında çerçeve uygulanabilirliğini göstermek için yapılandırılmış klinik kayıtları, elektronik sağlık kayıtları ve tıbbi görüntüleme verilerini kapsar.

Veri setiÖrneklem BüyüklüğüSınıf DağılımıBölünme StratejisiSızıntı ÖnlemeHiperparametre AramasıÇapraz DoğrulamaDış Test
Meme Kanseri (UCI, Wisconsin)569357 İyi Niyetli / 212 Malign70/15/15Sadece tren ön işlemeŞebeke Arama5 Kat Katmanlı Katmanlı CVBağımsız Direniş Seti
Pima Kızılderilileri Diyabet768500 Diyabetik Olmayanlar / 268 Diyabetik70/15/15Sadece tren ön işlemeŞebeke Arama5 Kat Katmanlı Katmanlı CVBağımsız Direniş Seti
MIMIC-III EHR5274Sonuç-tabakalı kohortlar15.70.15 Hasta seviyesiHasta düzeyinde ayrımRastgele Arama5 Katmanlı Hasta Seviyesinde CVBağımsız Direniş Seti
NIH Gevs X-ray112120Zatürre/Normal tabakalı70/15/15Görüntü düzeyinde ayrımRastgele Arama5 Kat Katmanlı Katmanlı CVBağımsız Direniş Seti

Tablo 3: Veri Seti Düzeyinde Doğrulama ve Deneysel Tasarım.

Bu tablo, her veri seti için kullanılan doğrulama metodolojisini, örneklem büyüklüğü, sınıf dağılımı, tren-doğrulama-test bölme stratejisi, sızıntı önleme prosedürleri, hiperparametre optimizasyon yöntemleri, çapraz doğrulama tasarımı ve harici test protokollerini özetlemektedir. Bu önlemler, metodolojik titizlik, tekrarlanabilirlik ve tarafsız model değerlendirmesini sağlamak için uygulandı.

figure-protocol-1
Şekil 1: Veri Ön İşleme Boru Hattının Doğrulaması.
Model geliştirmeden önce gerçekleştirilen anahtar ön işleme işlemleri için doğrulama sonuçları. (A) Temsilci sağlık özellikleri genelinde eksik değer analizi. (B) Bir sayısal değişkenin dışna işleme öncesi ve sonrası dağılımı. (C) Standartlaştırma kullanarak özellik ölçeklendirme doğrulaması. (D) Kategorik kodlama doğrulaması. (E) Ön işleme sonrası sınıf dağılımı. (F) Tren doğrulama-test veri bölmesinin doğrulanması. Bu sonuçlar, veri setlerinin öngörülü modelleme ve açıklanabilirlik analizi için başarılı ön işleme ve hazırlanmasını doğrulamaktadır. Bu figürün daha büyük bir versiyonunu görmek için lütfen buraya tıklayın.

4. Açıklanabilir YZ Çerçevesinin Sistem Mimarisi

  1. Modüler işlemeyi kolaylaştırmak, iş akışı şeffaflığını artırmak ve tekrarlanabilir uygulamayı desteklemek için katmanlı bir mimariyle çerçeveyi organize edin. Ham sağlık veri setlerini almak ve yönetmek için Veri Katmanını yapılandırın. Ön işlem işlemlerine başlamadan önce gelen tüm veri setlerini Veri Katmanı üzerinden yönlendirin.
  2. Ön İşleme Katmanı içinde veri temizliği, dönüşüm, normalizasyon, özellik mühendisliği ve kodlama prosedürlerini gerçekleştirin. Tüm ön işleme işlemlerinin model geliştirmeden önce tamamlandığından emin olun.
  3. Modelleme Katmanı içinde makine öğrenimi ve derin öğrenme algoritmaları kullanarak öngörücü modeller geliştirin. Gradient Boosting, Random Forest, Çok katmanlı Perceptron (MLP) ve Konvolüsyon Sinir Ağı (CNN) modellerini önceden işlenmiş veri setleri ve optimize edilmiş hiperparametre yapılandırmaları kullanarak eğin.
  4. Açıklanabilirlik Katmanı içinde açıklanabilirlik tekniklerini kullanarak model tahminlerini yorumlayın. Yapılandırılmış veri setleri için SHAP ve LIME kullanarak özellik atıflama açıklamaları oluşturun. Model tahminlerine katkıda bulunan bölgeleri görselleştirmek için görüntü tabanlı modeller için Grad-CAM ısı haritaları oluşturun.
  5. Değerlendirme Katmanı içinde öngörücü ve açıklanabilirlik performansını değerlendirin. Doğruluk, hassasiyet, hatırlama, F1-puan, ROC-AUC, sadakat, stabilite ve klinisyen merkezli değerlendirme metriklerini hesaplayın. Tüm değerlendirme çıktılarını sonraki analiz ve raporlama için kaydedin.
  6. Görselleştirme Katmanı içinde klinik olarak yorumlanabilir görsel çıktılar üretin. Performans karşılaştırma grafikleri, özellik önemi görselleştirmeleri, SHAP özet grafikleri, LIME açıklamaları, Grad-CAM ısı haritaları ve klinisyen odaklı raporlama panelleri oluşturun. Tüm görsel çıktıları nihai deneysel rapora dahil etmek üzere depolayın.
  7. İş akışı yürütmesine geçmeden önce Şekil 2'de gösterilen tüm framework mimarisini gözden geçirin.
  8. Beklenen Çıktı - Gradient Boosting, Random Forest, CNN ve MLP mimarileri dahil olmak üzere tam eğitilmiş makine öğrenimi ve derin öğrenme modelleri üretin. Model yapılandırmalarını, optimize edilmiş hiperparametreleri, eğitim günlüklerini, kontrol noktası dosyalarını, açıklanabilirlik çıktılarını ve görselleştirme eserlerini sonraki değerlendirme ve yorumlanabilirlik analizi için depolayın.

figure-protocol-2
Şekil 2: Sağlık Analitiği için Açıklanabilir YZ Çerçevesinin Sistem Mimarisi. Bu şeklin daha büyük bir versiyonunu görüntülemek için lütfen buraya tıklayın.

5. İş Akışı Yürütme

  1. Kamuya açık depolardan sağlık veri setlerini edinin ve veri setlerini makine öğrenimi ve derin öğrenme analizine uygun yapılandırılmış formatlarda depolayın. Deneysel prosedüre başlamadan önce Şekil 3'te gösterilen tüm iş akışını gözden geçirin.
  2. Bölüm 3'te tanımlanan prosedürlere göre veri temizleme ve ön işleme işlemi yapılmalıdır. Uygun ölçeklendirme yöntemleriyle sayısal değişkenleri normalize edin. Uygun kodlama teknikleriyle kategorik değişkenleri kodlayın. Eksik değerleri veri setine özgü emputasyon stratejileri kullanarak tespit edin ve hesaplayın. Model geliştirmeye geçmeden önce veri kalitesini, özellik-etiket uyumunu ve veri seti tamlığını doğrulayın.
  3. Her veri setini, tarafsız model değerlendirmesini desteklemek için eğitim, doğrulama ve test alt kümelerine ayırın. Veri seti bölümlendirme sırasında sınıf dağılımlarını koruyun ve geçerlidirse sızıntı önleme önlemleri uygulayın. Test alt kümesini yalnızca nihai model değerlendirmesi için ayırın.
  4. Gradient Boosting ve Random Forest dahil olmak üzere toplu tabanlı algoritmalar kullanarak yapılandırılmış veri setlerinde makine öğrenimi modelleri eğitin. Mekansal görüntü özelliklerini öğrenebilen Konvolüsyon Sinir Ağı (CNN) mimarileri kullanarak görüntüleme veri setlerinde derin öğrenme modelleri eğitin. Model parametrelerini eğitim sırasında yinelemeli olarak güncelledin ve her eğitim döneminden sonra doğrulama performansını izleyin. Doğrulama performansı önceden belirlenmiş durdurma kriterlerine göre kötüleştiğinde veya iyileşmediğinde erken durdurma uygulanır.
  5. Şebeke ve rastgele arama dahil olmak üzere sistematik arama stratejileri kullanarak model hiperparametrelerini optimize edin. Öğrenme hızını, tahmin cihazlarının sayısını, ağaç derinliğini, parti büyüklüğünü, dönem sayısını ve diğer modele özgü parametreleri doğrulama performansına göre ayarlayın. Doğrulama veri setleri arasında öngörücü performans ve genelleştirme yeteneğine dayalı nihai modeli seçin.
  6. Model eğitimini tamamladıktan sonra açıklanabilirlik yöntemlerini uygulayın. Model tahminlerine en güçlü katkıda bulunan değişkenleri belirlemek için özellik-attribution teknikleriyle küresel açıklamalar oluşturun. Bireysel tahmin vakalarını analiz etmek ve örneklem düzeyinde model davranışını değerlendirmek için yerel açıklamalar üretmek. Görüntü sınıflandırma modelleri için Grad-CAM ısı haritaları oluşturularak tahmin edilen sonuca katkıda bulunan görüntü bölgelerini vurgulayabilir. Tüm açıklama çıktılarını sonraki analiz ve raporlama için depolayın.
  7. Doğruluk, hassasiyet, hatırlama, F1-puanı ve alıcının eğri altındaki çalışma karakteristik alanı (ROC-AUC) kullanılarak tahmin performansını değerlendirin. Açıklama güvenilirliği ve tutarlılığını değerlendirmek için güvenilirlik ve kararlılık metrikleri kullanarak açıklama kalitesini değerlendirin. Veri kümeleri ve açıklanabilirlik yöntemleri arasında model performansını karşılaştırarak çerçeve sağlamlığını ve genellenebilirliğini değerlendirin.
  8. Sonuçları klinik olarak yorumlanabilir bir şekilde iletmek için görselleştirme çıktıları ve analitik raporlar oluşturun. Performans karşılaştırma grafikleri, özellik önemi grafikleri, SHAP özet görselleştirmeleri, LIME açıklama çıktıları, Grad-CAM ısı haritaları ve diğer klinik açıdan ilgili görselleştirmeler oluşturun. Raporlamadan önce netlik ve tutarlılık sağlamak için tüm görsel çıktıları gözden geçirin.
  9. Tüm ön işleme işlemlerini, model yapılandırmalarını, hiperparametre ayarlarını, açıklanabilirlik prosedürlerini, doğrulama stratejilerini ve değerlendirme sonuçlarını belgeleyin. İş akışının tekrarlanabilirliğini ve bağımsız tekrarını kolaylaştırmak için ayrıntılı deneysel kayıtlar tutun. Tekrarlanan deneysel çalışmalarda sonuçların tutarlılığını doğrulayın ve tüm iş akışı eserlerini gelecekte referans için arşivleyin.
  10. Beklenen Çıktı - Optimize edilmiş hiperparametreler, kaydedilen model ağırlıkları, eğitim günlükleri, performans metrikleri ve açıklanabilirlik çıktılarıyla tam eğitilmiş bir öngörücü model oluşturun; bunlar arasında SHAP açıklamaları, LIME açıklamaları ve Grad-CAM ısı haritaları bulunur. Tüm model eserlerini, değerlendirme raporlarını ve görselleştirme çıktılarını sonraki analiz ve tekrarlanabilirlik değerlendirmesi için depolayın.

figure-protocol-3
Şekil 3: Açıklanabilir yapay zeka boru hattının uçtan uca iş akışı. Bu şekilin daha büyük bir versiyonunu görüntülemek için lütfen buraya tıklayın.

6. Model Değerlendirmesi ve Açıklanabilirlik Değerlendirmesi

  1. Doğruluk, hassasiyet, hatırlama, F1-puanı ve alıcının eğri altındaki çalışma karakteristik alanı (ROC-AUC) dahil olmak üzere standart sınıflandırma metrikleri kullanılarak öngörücü model performansını değerlendirin. Genel sınıflandırma doğruluğunu ölçmek için doğruluğu hesaplayın.
  2. Doğru tanımlanmış olumlu tahminlerin oranını değerlendirmek için hassasiyeti hesaplayın. Modelin pozitif vakaları tespit etme yeteneğini değerlendirmek için geri çağırma hesaplayın. Hassasiyet ve hatırlama dengesi için F1 puanını hesaplayın. Farklı sınıflandırma eşikleri arasında ayrımcı performansı değerlendirmek için ROC-AUC hesaplayın.
  3. Bu değerlendirme metriklerini tüm veri setleri ve model mimarilerinde tutarlı şekilde uygulayarak nesnel performans karşılaştırmasını kolaylaştırın. Tüm metrik değerlerini kaydedin ve değerlendirme sonuçlarını sonraki istatistiksel analiz ve raporlama için saklayın.
  4. Açıklanabilirlik performansını doğruluk ve kararlılık metrikleri kullanarak değerlendirin. Oluşturulan açıklamaların model tahminlerini ve karar alma davranışlarını ne ölçüde doğru yansıttığını belirlemek için doğruluğu hesaplayın.
  5. Benzer girdi örneklerinden üretilen açıklamaları karşılaştırarak ve açıklama çıktılarının tutarlılığını nicelikle ölçerek kararlılığı hesaplayın. Model açıklamalarını yorumlamadan önce doğruluk ve stabilitelik değerlerinin önceden tanımlanmış kalite kriterlerini karşıladığından emin olun.
  6. SHAP, LIME ve Grad-CAM çıktıları arasında açıklanabilirlik performansını karşılaştırın.
  7. Beklenen Çıktı - Doğruluk, hassasiyet, hatırlama, F1 puanı, ROC-AUC, sadakat ve istikrar metrikleri dahil olmak üzere nicel değerlendirme sonuçları oluşturun. Bilimsel raporlama, tekrarlanabilirlik değerlendirmesi ve klinik yorumlama için uygun açıklanabilirlik çıktıları ve görselleştirmeler üretin.

7. İnsan Merkezli Değerlendirme

  1. 6 hekim, 3 radyolog ve 3 klinik veri analistinden oluşan 12 sağlık profesyoneli işe alın. Klinik karar verme, tıbbi görüntü yorumu, sağlık analizi veya elektronik sağlık kaydı incelemesi konusunda önceden deneyimi olan katılımcıları seçin. Değerlendirme prosedürünü başlatmadan önce tüm katılımcılardan bilgilendirilmiş onay alın.
  2. Model eğitimi ve açıklanabilirlik analizi tamamlandıktan sonra test veri setlerinden rastgele 100 vaka seçilir. Her vaka için iki değerlendirme koşulu oluşturun:
    1. sadece tahmin için çıktı ve
    2. açıklanabilirlik bilgisi eşliğinde tahmin. Sunum yanlılığını ve öğrenme etkilerini en aza indirmek için vakaların sunum sırasını ve değerlendirme koşullarını rastgele hale getirin.
  3. Tahmin sonuçları, açıklama çıktıları ve değerlendirme anketleri içeren standart değerlendirme formları hazırlayın. Vakaları katılımcılara bireysel olarak bilgisayar tabanlı bir değerlendirme arayüzü kullanarak sunun.
  4. Katılımcılara, diğer değerlendiricilerle yanıtları tartışmadan her vakayı bağımsız olarak incelemeleri talimatını verin. Katılımcıların tüm değerlendirmeleri aynı deneysel koşullarda tamamlamasına izin verin.
  5. Yayınlanmış açıklanabilir yapay zeka değerlendirme çalışmalarından uyarlanmış beş maddelik Likert ölçeği anketi uygulayın. Katılımcıların, incelenen her dava için güven, yorumlanabilirlik ve kullanılabilirlik değerlendirmelerini yönlendirin. Anket yanıtlarını elektronik olarak kaydedin ve istatistiksel analize geçmeden önce tüm anket maddelerinin tamamlandığını doğrulayın.
  6. Değerlendirme sürecinde klinik faydanın nesnel göstergelerini ölçmek. Katılımcı kararlarını ilgili referans etiketleri veya gerçek sonuçlarıyla karşılaştırarak kayıt kararı anlaşması yapın. Katılımcı kararların referans sonucuna uyan yüzde yüzdesi olarak karar anlaşmasını hesaplayın.
  7. Her vaka için inceleme süresini kaydederek dava sunumu ile nihai yanıt gönderimi arasındaki aralığı ölçerek kaydedin. Sadece tahmin ile açıklamalı tahmin koşulları için ortalama inceleme süresini ayrı ayrı hesaplayın.
  8. Tüm katılımcılar ve değerlendirme vakaları arasında ortalama güven, yorumlanabilirlik ve kullanılabilirlik puanlarını hesaplayın. Sadece tahmin ve tahmin ile açıklama koşullarında elde edilen puanları karşılaştırın.
  9. Tüm katılımcı değerlendirmeleri tamamlandıktan sonra eşleştirilmiş t-testleri yapılarak güven, yorumlanabilirlik, kullanılabilirlik, karar anlaşması ve inceleme süresindeki farklılıkların istatistiksel olarak anlamlı olup olmadığını belirleyin. Tüm istatistiksel karşılaştırmalar için p 0.05 anlamlılık eşiği kullanın.
  10. Tüm katılımcılardan yanıtlar topladıktan sonra Fleiss Kappa'yı hesaplayarak değerlendiriciler arası anlaşmayı değerlendirin. Değerlendirmelerin değerlendiriciler arasındaki tutarlılığını belirlemek için toplu katılımcı puanlarını kullanın. Fleiss Kappa değerlerini yerleşik anlaşma yönergelerine göre yorumlayın ve ortaya çıkan anlaşma istatistiklerini kaydedin.
  11. Katılımcı demografisi, değerlendirme metodolojisi, anket tasarımı, istatistiksel analiz prosedürleri, nesnel performans ölçümleri ve değerlendiriciler arası anlaşma sonuçlarını Tablo 4'te özetleyin.
  12. Her iki değerlendirme koşullarında model çıktılarını inceleyin ve katılımcı yanıtlarını koşullar arasında karşılaştırın. Açıklamaların güveni, yorumlanabilirliği ve kullanılabilirliği artırdığını, karar kalitesini olumsuz etkilemeden yaptığını doğrulayın.
  13. Hesaplanan Fleiss Kappa istatistiği kullanılarak katılımcı değerlendirmelerinin tutarlılığını doğrulayın. Tüm değerlendirme sonuçlarını takip eden raporlama ve tekrarlanabilirlik değerlendirmesi için kaydedin.
  14. Beklenen Çıktı - Klinisyen güven puanları, yorumlanabilirlik dereceleri, kullanılabilirlik dereceleri, karar-anlaşma ölçümleri, inceleme süresi istatistikleri, eşleştirilmiş t-test sonuçları ve değerlendiriciler arası anlaşma istatistikleri oluşturun. Açıklanabilir yapay zeka çerçevesinin klinik faydası, yorumlanabilirliği ve güvenilirliğini tanımlayan nicel kanıtlar sunun.
ParametreDeğer
Uzmanlar12
Hekimler6
Radyologlar3
Klinik Veri Analistleri3
İncelenen Davalar100
Değerlendirme TasarımıRastgele (Sadece Tahmin vs Tahmin+Açıklama)
Ölçüm Aleti5 noktalı Likert Ölçeği
Güven DeğerlendirmesiYorumlanabilirlik, Güven, Kullanılabilirlik
İstatistiksel TestEşleştirilmiş t-testi (p 0.05)
Derecelendirme Arası GüvenilirlikFleiss Kappa
Nesnel ÖlçütlerKarar Anlaşması, İnceleme Süresi

Tablo 4: İnsan Merkezli Değerlendirme Protokolü ve Klinisyen Değerlendirme Tasarımı.

Bu tablo, açıklanabilir yapay zeka sisteminin yorumlanabilirliği, güvenilirliği ve kullanılabilirliğini değerlendirmek için kullanılan klinisyen değerlendirme çerçevesini sunmaktadır. Katılımcı demografisi, vaka inceleme metodolojisi, anket tasarımı, istatistiksel analiz prosedürleri, değerlendiriciler arası güvenilirlik değerlendirmesi ve nesnel değerlendirme ölçütleri hakkında bilgiler özetlenir.

8. Doğrulama ve Tekrarlanabilirlik Değerlendirmesi

  1. Önerilen çerçevenin sağlamlığını ve güvenilirliğini değerlendirmek için doğrulama ve ablasyon çalışmaları yapmaktır. Seçilen açıklanabilirlik yöntemleriyle yüksek önem puanlarına sahip özellikleri belirleyin. Önemli özellikleri kademeli olarak kaldırın ve her özellik kaldırma adımından sonra öngörücü modelleri yeniden eğitin.
  2. Her ablasyon deneyinden sonra model performansını doğruluk, hassasiyet, hatırlama, F1-puanı ve ROC-AUC metrikleri kullanarak değerlendirin. Ortaya çıkan performans değerlerini, tahmin edici sonuçlara bireysel özelliklerin katkısını belirlemek için temel model performansıyla karşılaştırın.
  3. SHAP, LIME ve Grad-CAM kullanarak benzer girdi örnekleri için açıklamalar üreterek açıklama kararlılığını değerlendirin. Tekrarlanan değerlendirmeler arasında açıklama çıktılarını karşılaştırın ve önceden tanımlanmış kararlılık metriklerini kullanarak tutarlılığı nicelikle ölçün. Açıklamaların küçük girdi varyasyonları ve tekrarlanan deneysel çalışmalar altında stabil kaldığını doğrulayın.
  4. İş akışı boyunca tüm deneysel prosedürleri kaydedin. Veri ön işleme işlemleri, veri seti bölümleme prosedürleri, model mimarileri, hiperparametre ayarları, eğitim yapılandırmaları, açıklanabilirlik yöntemleri, doğrulama stratejileri ve değerlendirme metrikleri belgelenmesi. Tüm yapılandırma parametrelerini ve deneysel çıktıları tekrarlanabilirlik ve bağımsız doğrulamayı kolaylaştırmak için yapılandırılmış bir formatta depolayın.
  5. Tüm deneysel kayıtları inceleyerek tamlık ve tutarlılık sağlanır. İş akışının belgelenmiş prosedürler, yapılandırma dosyaları ve yazılım spesifikasyonları kullanılarak çoğaltılabilir olup olmadığını doğrulayın. Protokolün gelecekteki çalışmalar için uyarlanmasını kolaylaştırmak ve JoVE metodolojik gereksinimlerine uygun video tabanlı deneysel protokole dönüşümü desteklemek amacıyla modüler bir iş akışı yapısı korumak.

9. Tekrarlanabilirlik Kaynakları

  1. Tüm deneyleri, tekrarlanan çalışmalarda tekrarlanabilir sonuçlar sağlamak için sabit rastgele tohumlarla yürütün. Kaynak kodu, ön işleme betikleri, yapılandırma dosyaları, ortam spesifikasyonları, model parametreleri ve görselleştirme betiklerini halka açık bir depoda tutun.
  2. Veri seti edinimi, ön işleme, deney yürütme, model eğitimi, açıklanabilirlik üretimi, doğrulama prosedürleri ve tüm rapor edilen tablo ve şekillerin yeniden oluşturulması için ayrıntılı talimatlar sağla. Bağımsız çoğaltma için gereken tüm iş akışı bileşenlerini arşivleyin; yazılım spesifikasyonları, ön işleme iş akışları, yapılandırma dosyaları, veri seti erişim talimatları, model kontrol noktaları ve görselleştirme varlıkları dahil.
  3. Çerçeve genelinde kullanılan yazılım kaynaklarını, ön işleme iş akışlarını, yapılandırma dosyalarını, veri seti erişim talimatlarını ve tekrarlanabilirlik varlıklarını Tablo 5'te özetleyin.
  4. Beklenen Çıktı - Ön işlem betikleri, yapılandırma dosyaları, eğitilmiş modeller, model kontrol noktaları, açıklanabilirlik çıktıları, doğrulama raporları, görselleştirme eserleri, yazılım spesifikasyonları ve önerilen çerçevenin bağımsız tekrarlanması ve doğrulanması için gerekli dokümantasyonları içeren tam bir tekrarlanabilir deneysel paket oluşturun.
KaynakTanım
Kaynak KoduVeri ön işleme, model eğitimi, açıklanabilirlik ve değerlendirme için Python uygulama betikleri
Çevre Dosyasırequirements.txt paket bağımlılıkları ve sürümleri içerir
Yapılandırma DosyalarıModel mimarisi ayarları, hiperparametreler ve deney yapılandırmaları
Sabit Rastgele TohumlarTohum = 42 tekrarlanabilir deneyler için kullanıldı
Veri Seti Erişim TalimatlarıKamu sağlık veri setlerinin edinilmesi için bağlantılar ve prosedürler
Ön İşleme SenaryolarıVeri temizliği, normalizasyon, kodlama ve özellik seçimi için betikler
Şekil Oluşturma YazılarıTüm el yazması figürlerini yeniden oluşturmak için yazı yazıları
Tablo Oluşturma ScriptleriRapor edilen tabloları ve metrikleri yeniden üreten betikler
Örnek GirdilerÖrnek veri setleri ve giriş dosyaları
Örnek ÇıktılarTahmin sonuçları, açıklamalar ve değerlendirme raporları

Tablo 5: Tekrarlanabilirlik Kaynakları ve Deneysel Varlıklar.

Bu tablo, deneysel tekrarlanabilirliği desteklemek için sağlanan kaynakları özetler; bunlar arasında kaynak kodu, ön işleme betikleri, yapılandırma dosyaları, ortam spesifikasyonları, veri seti erişim talimatları, sabit rastgele tohum ayarları, şekil oluşturma betikleri ve rapor edilen sonuçların yeniden üretilmesi için gerekli olan örnek giriş/çıktı dosyaları yer alır.

Erişim kısıtlı. Bu içeriği görüntülemek için lütfen giriş yapın veya deneme sürümünü başlatın.

Sonuçlar

Tüm ürün hattımızın açıklayıcı yapay zeka bileşenini kapsamlı şekilde değerlendirdik; farklı sağlık verileri türlerinde, hem yapılandırılmış klinik veriler hem de tıbbi görüntüler dahil olmak üzere, ne kadar iyi tahmin edildiğini değerlendirdik. Sonuçlar, değerlendirilen veri setleri boyunca tutarlı öngörücü performans gösterdi. Test edilen modeller arasında, gradyan artırma modeli %97,4 ile en yüksek doğruluğu elde etti, ardından rastgele orman modeli %94,2 ile geldi. Görüntü setlerine ...

Erişim kısıtlı. Bu içeriği görüntülemek için lütfen giriş yapın veya deneme sürümünü başlatın.

Tartışma

Bu çalışma, öngörücü modelleme, açıklanabilirlik değerlendirmesi, klinisyen odaklı değerlendirme ve tekrarlanabilirlik kaynaklarını tek bir protokol içinde entegre eden sağlık analizleri için tekrarlanabilir açıklanabilir yapay zeka (XAI) iş akışı geliştirmiş ve değerlendirmiştir. Sonuçlar, özellikle Gradient Boosting ve Random Forest, topluluk tabanlı makine öğrenimi modellerinin, değerlendirilen yapılandırılmış sağlık veri setlerinde en yüksek tahmin performansını elde ettiğini, derin ...

Erişim kısıtlı. Bu içeriği görüntülemek için lütfen giriş yapın veya deneme sürümünü başlatın.

Açıklamalar

Yazarlar, bu çalışmayla ilgili herhangi bir rekabet eden finansal çıkarları veya çıkar çatışmaları olmadığını belirtmektedir. Araştırma, potansiyel çıkar çatışması olarak değerlendirilebilecek herhangi bir ticari veya finansal ilişki olmadan bağımsız olarak yürütüldü.

Yapay Zeka Kullanımı Açıklaması

Yapay zeka araçları, dil geliştirme, dilbilgisi kontrolü ve makale hazırlığı sırasında editoryal destek için kullanıldı. Tüm bilimsel içerik, deneysel tasarım, veri analizi, yorumlama ve nihai makale doğrulaması yazarlar tarafından gerçekleştirilmiştir. Yazarlar, dergi yönergelerine doğruluk, bütünlük ve uyum sağlamak için tüm yapay zeka destekli çıktıları incelemiş ve doğrulamıştır.

Teşekkürler

Yazarlar, bu çalışmayı yürütmek için gerekli altyapı ve araştırma desteğini sağladıkları için ilgili kurumlarına teşekkür etmek isterler. Yazarlar ayrıca, önerilen açıklanabilir yapay zeka çerçevesinin geliştirilmesini ve değerlendirilmesini kolaylaştıran halka açık veri setleri ve açık kaynak araçların kullanımını da kabul etmektedir. İnsan odaklı değerlendirme aşamasında değerli bilgiler sunan alan uzmanlarına özel teşekkürler.

Erişim kısıtlı. Bu içeriği görüntülemek için lütfen giriş yapın veya deneme sürümünü başlatın.

Malzemeler

Bu makalede kullanılan malzemelerin listesi
AdŞirketKatalog numarasıYorumlar
GPU WorkstationÜreticiye bağlıNADerin öğrenme modellerinin eğitilmesi
Jupyter NotebookProject JupyterEn son kararlı sürümEtkileşimli deney çalıştırma
LIMELIMESürüm 0.2.0Yerel yorumlanabilir açıklamalar
MatplotlibMatplotlib ProjectSürüm 3.9Veri görselleştirme
MIMIC-III VeritabanıPhysioNetSürüm 1.4Elektronik sağlık kaydı analizi
NIH Göğüs X-ışını Veri SetiNIH Klinik MerkeziGenel Veri SetiGöğüs hastalığı sınıflandırması
NumPyNumPy GeliştiricileriSürüm 1.26Sayısal hesaplama ve dizi işlemleri
OpenCVOpenCV VakfıSürüm 4.10Görüntü ön işleme
PandasPandas Geliştirme EkibiSürüm 2.1Veri manipülasyonu ve ön işleme
Pima Hintlileri Diyabet Veri SetiUCI Makine Öğrenme DeposuGenel Veri SetiDiyabet riski tahmini
Python 3.11Python Yazılım VakfıSürüm 3.11Birincil programlama ortamı
Scikit-learnscikit-learnSürüm 1.5Makine öğrenme algoritmaları ve değerlendirme
SeabornSeabornSürüm 0.13İstatistiksel görselleştirme
SHAPSHAPSürüm 0.46Özellik atıf ve açıklanabilirlik
TensorFlowTensorFlowSürüm 2.15Derin öğrenme modeli geliştirme
Windows / Ubuntu LinuxMicrosoft / CanonicalNAİşletim sistemi
Wisconsin Meme Kanseri Veri SetiUCI Makine Öğrenme DeposuGenel Veri SetiMeme kanseri teşhisi

Kaynaklar

  1. Lundberg SM, et al. From local explanations to global understanding with explainable AI for trees. Nat Mach Intell. 2020;2(1):56-67.
  2. Ribeiro MT, Singh S, Guestrin C. Why should I trust you. Explaining the predictions of any classifier. Presented at: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; 2016. p. 1135-44. doi:10.1145/2939672.2939778.
  3. Selvaraju RR, et al. Grad-CAM: Visual explanations from deep networks via gradient-based localization. Int J Comput Vis. 2020;128(2):336-59.
  4. Tjoa E, Guan C. A survey on explainable artificial intelligence: Toward medical XAI. IEEE Trans Neural Netw Learn Syst. 2021;32(11):4793-813.
  5. Samek W, et al. Explainable AI: Interpreting, Explaining and Visualizing Deep Learning. Springer; Cham; 2019.
  6. Arrieta AB, et al. Explainable artificial intelligence: Concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 2020;58:82-115.
  7. Holzinger A, et al. Causability and explainability of artificial intelligence in medicine. Wiley Interdiscip Rev Data Min Knowl Discov. 2020;10(5):e1312.
  8. Topol E. Deep medicine: How artificial intelligence can make healthcare human again. Nat Med. 2020;25:44-56.
  9. Esteva A, et al. A guide to deep learning in healthcare. Nat Med. 2019;25(1):24-9.
  10. Rajpurkar P, Chen E, Banerjee O, Topol EJ. AI in health and medicine. Nat Med. 2022;28:31-38.
  11. Doshi-Velez F, Kim B. Towards a rigorous science of interpretable machine learning. arXiv. 2021. doi:10.48550/arXiv.1702.08608.
  12. Molnar C. Interpretable Machine Learning. Lulu Press; 2022.
  13. Rudin C. Stop explaining black box machine learning models for high-stakes decisions and use interpretable models instead. Nat Mach Intell. 2019;1(5):206-15.
  14. Zhang Q, Zhu S. Visual interpretability for deep learning: A survey. Front Inf Technol Electron Eng. 2020;21:27-39.
  15. Holzinger A, Biemann C, Pattichis CS, Kell DB. What do we need to build explainable AI systems for the medical domain. arXiv. 2020. Available at: https://arxiv.org/abs/1712.09923.
  16. McDermott MB, et al. Reproducibility in machine learning for health. Nat Med. 2021;27:1016-23.
  17. Kelly CJ, et al. Key challenges for delivering clinical impact with AI. BMC Med. 2019;17:195.
  18. Ahmad MA, Teredesai A, Eckert C. Interpretable machine learning in healthcare. Proc ACM Conf Health Inference Learn. 2021;4:1-7.
  19. Ghassemi M, Oakden-Rayner L, Beam AL. The false hope of current approaches to explainable AI in healthcare. Lancet Digit Health. 2021;3(11):e745-50.
  20. Carvalho DV, Pereira EM, Cardoso JS. Machine learning interpretability: A survey on methods and metrics. Inf Fusion. 2020;58:82-115.
  21. Chen RJ, et al. Synthetic data in healthcare: A narrative review. Nat Biomed Eng. 2021;5:493-97.
  22. Zhou B, et al. Learning deep features for discriminative localization. Presented at: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition; 2016. p. 2921-29.
  23. Vellido A. The importance of interpretability and visualization in machine learning for applications in medicine and health care. Expert Syst Appl. 2020;146:113222.
  24. Lipton ZC. The mythos of model interpretability. Commun ACM. 2018;61(10):36-43.
  25. Guidotti R, et al. A survey of methods for explaining black box models. ACM Comput Surv. 2018;51(5):93.
  26. Suresh H, Guttag J. A framework for understanding unintended consequences of machine learning. Commun ACM. 2021;64(12):42-50.
  27. Wiens J, et al. Do no harm: A roadmap for responsible machine learning for health care. Nat Med. 2019;25(9):1337-40.
  28. Rajkomar A, Dean J, Kohane I. Machine learning in medicine. N Engl J Med. 2019;380(14):1347-58.
  29. Lundberg SM, Lee SI. A unified approach to interpreting model predictions. Presented at: Advances in Neural Information Processing Systems. 2017;30:4765-74.
  30. Agarwal R, et al. Neural additive models: Interpretable machine learning with neural nets. Presented at: Advances in Neural Information Processing Systems. 2021;34:4699-711.
  31. Singh C, Murdoch WJ, Yu B. Hierarchical interpretations for neural network predictions. Proc Natl Acad Sci U S A. 2020;117(32):19950-57.
  32. Tonekaboni S, Joshi S, McCradden MD, Goldenberg A. What clinicians want: Contextualizing explainable machine learning for clinical end use. Nat Mach Intell. 2019;1(5):176-85.
  33. Wang F, Preininger A. AI in health care: Applications, challenges, and future directions. Annu Rev Biomed Data Sci. 2019;2:221-52.
  34. Azizi S, et al. Big self-supervised models advance medical AI. Nat Med. 2021;27(8):1431-42.
  35. Zhang Y, et al. Explainable deep learning for healthcare: Methods, applications and challenges. IEEE Access. 2020;8:120455-475.
  36. Holzinger A, et al. Explainable AI methods: A brief overview. Mach Learn Knowl Extr. 2021;3(2):606-27.
  37. Rudin C, Radin J. Why are we using black box models in AI when we do not need to  A lesson from an explainable AI competition. Nat Mach Intell. 2019;1(5):206-15.
  38. Doshi-Velez F, et al. Accountability of AI Under the Law: The Role of Explanation. Harvard University; Cambridge; 2020.
  39. Kaur H, et al. Interpreting interpretability: Understanding data scientists' use of interpretability tools for machine learning. Presented at: Proceedings of the CHI Conference on Human Factors in Computing Systems; 2020. p. 1-14.
  40. Caruana R, et al. Intelligible models for healthcare: Predicting pneumonia risk and hospital 30-day readmission. Presented at: Proceedings of the ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; 2015. p. 1721-30.
  41. Mangalote IAC, et al. Development and validation of a class imbalance-resilient cardiac arrest prediction framework incorporating multiscale aggregation, ICA and explainability. IEEE Trans Biomed Eng. 2025;72(5):1674-84.
  42. Ansari MY, Mangalote IAC, Masri D, Dakua SP. Neural network-based fast liver ultrasound image segmentation. Presented at: 2023 International Joint Conference on Neural Networks; 2023. p. 1-8.
  43. Dakua SP, et al. Artificial intelligence enabled biomineralization for eco-friendly nanomaterial synthesis: Charting future trends. Nano Select. 2025;6(5):e202400118.

Erişim kısıtlı. Bu içeriği görüntülemek için lütfen giriş yapın veya deneme sürümünü başlatın.

Yeniden basım ve izinler

Etiketler

M hendislikSay 233Say 233Bo De erSayA klanabilir Yapay Zeka XAIMakine renmesiderin renmeModel Yorumlanabilirli iKlinik Karar Destek SistemleriTekrar retilebilir Deneysel Protokol
Bize ulaşın
Kütüphaneye tavsiye et

Gizlilik

Kullanım Şartları

İlkeler

Telif hakkı © 2026 MyJoVE Corporation. Tüm hakları saklıdır.