Explainable AI / XAI
Bir modelin kararlarının neden ve nasıl verildiğini insan tarafından anlaşılır kılan yöntemler bütünü.
Açıklanabilir yapay zeka, özellikle derin sinir ağları gibi "kara kutu" sayılan modellerin verdiği kararların arkasındaki gerekçeyi insanların anlayabileceği bir dile dökme çabasıdır. SHAP ve LIME gibi yöntemler, bir modelin belirli bir tahmine hangi girdilerin ne ölçüde katkı sağladığını görselleştirerek geliştiricilerin ve denetleyicilerin modele güvenmesini kolaylaştırır. Sağlık, kredi değerlendirme ve adli sistemler gibi kararların hayati sonuçlar doğurduğu alanlarda XAI, yalnızca teknik bir gereklilik değil aynı zamanda düzenleyici kurumların da giderek daha fazla talep ettiği bir şeffaflık standardı haline gelmiştir. Model karmaşıklığı arttıkça açıklanabilirlik ile performans arasında da bir denge kurmak gerekir.