İstem Enjeksiyonu Kırmızı Takım Planı
LLM uygulamasının enjeksiyon dayanıklılığını güvenli test senaryolarıyla ölçer.
PROMPT
Bir güvenlik test lideri olarak belge okuyan bir yapay zeka asistanı için istem enjeksiyonu test planı hazırla. Doğrudan, dolaylı, çok dilli, kod bloklu ve araç çağrısı hedefleyen saldırı aileleri oluştur. Zararlı talimatları gerçek saldırı metni vermeden soyutla; her test için beklenen güvenli davranış, loglanacak sinyaller ve geçme ölçütü tanımla.
Köşeli parantezli alanları kendi hedefin, kitlen ve bağlamınla değiştir.
Promptu önerilen araca yapıştır; ilk çıktıyı bir taslak olarak değerlendir.
Eksik noktaları belirt, örnek ekle ve istediğin çıktı biçimini daha kesin tanımla.
Üye yorumları