LETTER A 👁 1 views

Adversarial Example

Modeli yanıltmak amacıyla küçük ama hedefli biçimde değiştirilmiş girdidir.

Çekişmeli örnek, insan için önemsiz görünen bir değişiklikle modelin yanlış sınıflandırma veya tehlikeli çıktı üretmesine yol açabilir. Görüntü, ses ve metin sistemlerinde farklı biçimlerde görülür. Sağlamlık testleri, giriş denetimi ve savunma katmanlarıyla ele alınır.