Jailbreak Attack
Bir modelin güvenlik veya kullanım politikalarını atlatmaya yönelik sistematik istem girişimidir.
Kural aşma saldırıları rol yapma, kodlama, çok adımlı yönlendirme veya bağlam karmaşasıyla korumaları aşmayı dener. Tek bir yasaklı kelime filtresi bu çeşitliliği yakalayamaz. Davranışsal test setleri, katmanlı filtre ve olay analiziyle savunma geliştirilir.
Üye yorumları