Prompt Drift
Bir yapay zekâ uygulamasındaki istemlerin zamanla amaçtan veya onaylı şablondan uzaklaşmasıdır.
İstem kayması, kullanıcı alışkanlığı, şablon değişikliği ya da zincir içindeki düzenlemeler nedeniyle model girdilerinin sessizce farklılaşmasıdır. Çıktı kalitesi ve güvenlik kuralları bu nedenle bozulabilir. Sürümleme, örneklem denetimi ve regresyon testleriyle izlenir.
Member comments