Red Teaming
Bir yapay zeka sisteminin güvenlik açıklarını ve istenmeyen davranışlarını bulmak için kasıtlı olarak saldırgan gibi test edilmesi.
Kırmızı takım testi; modelin jailbreak edilmeye, zararlı içerik üretmeye veya yanlış bilgi vermeye ne kadar dirençli olduğunu sistematik olarak sınayarak dağıtım öncesi güvenlik açıklarını ortaya çıkarır.
Üye yorumları