Model Robustness
Bir modelin, gürültülü, beklenmedik veya kasıtlı olarak manipüle edilmiş girdiler karşısında güvenilir performans gösterebilme yeteneği.
Model sağlamlığı, bir yapay zeka modelinin gürültülü, eksik, beklenmedik ya da kasıtlı olarak manipüle edilmiş (karşıt saldırı gibi) girdilerle karşılaştığında bile güvenilir ve tutarlı performans gösterebilme yeteneğini ifade eder. Bir model, eğitim ve test verisinde mükemmel doğruluk elde etse bile, gerçek dünyada karşılaşacağı hafif ışık değişiklikleri, yazım hataları, beklenmedik veri dağılımları (dağılım kayması) karşısında performansı ciddi biçimde düşüyorsa "kırılgan" kabul edilir. Sağlamlık, özellikle sağlık, finans ve otonom sistemler gibi hataların ciddi sonuçlar doğurabileceği kritik uygulamalarda, ham doğruluk kadar önemli bir değerlendirme kriteridir; red teaming ve stres testleri, bir modelin sağlamlığını dağıtım öncesinde sınamak için sıkça kullanılan yöntemlerdir.