Bias
Eğitim verisindeki dengesizliklerin model çıktılarına yansıyan adaletsiz eğilimi.
Yapay zeka bağlamında önyargı, bir modelin eğitildiği verideki dengesizlikleri öğrenip belirli grupları sistematik olarak dezavantajlı ya da stereotipik biçimde temsil etmesi anlamına gelir. Kaynağı çoğunlukla toplumsal önyargıların halihazırda yansıdığı tarihsel veri kümeleridir; örneğin işe alım verisiyle eğitilen bir model geçmişteki ayrımcı kalıpları yeniden üretebilir. Önyargı yalnızca etik bir sorun değil, aynı zamanda modelin gerçek dünyada güvenilmezliğine de yol açan teknik bir kusurdur. Veri çeşitliliğini artırmak, adalet metrikleriyle düzenli denetim yapmak ve karar süreçlerine insan gözetimi eklemek, bu riski azaltmak için başvurulan başlıca yöntemlerdir.