Context Poisoning
Modelin kararını saptırmak amacıyla bağlam penceresine yanıltıcı veya kötü niyetli bilgi yerleştirilmesi.
Bağlam zehirlenmesi, kullanıcı mesajı, getirilen belge, araç çıktısı ya da kalıcı bellek içindeki güvenilmez içeriğin model davranışını bozmasıdır. İstem enjeksiyonundan daha geniş bir risk alanını kapsar. Kaynak güven puanı, içerik ayrıştırma ve araç sonucu doğrulaması temel savunmalardır.
Üye yorumları