Adversarial Example
Modeli yanıltmak amacıyla küçük ama hedefli biçimde değiştirilmiş girdidir.
Çekişmeli örnek, insan için önemsiz görünen bir değişiklikle modelin yanlış sınıflandırma veya tehlikeli çıktı üretmesine yol açabilir. Görüntü, ses ve metin sistemlerinde farklı biçimlerde görülür. Sağlamlık testleri, giriş denetimi ve savunma katmanlarıyla ele alınır.
Üye yorumları