Giskard ile Model Açığı Taraması

Bu rehber ne kazandırır?

Makine öğrenmesi ve LLM uygulamalarında beklenmeyen davranışları otomatik testlerle görünür hale getirir.

Kurulum yaklaşımı

Modelin görevini, hedef kullanıcıyı ve yasaklı davranışları taramadan önce açıkça tanımlayın.

Kritik güvenlik ve kalite noktası

Otomatik bulunan açıkları önem, tekrar üretilebilirlik ve kullanıcı etkisine göre triage edin.

Doğrulama adımı

Onaylanan her bulguyu CI içinde çalışan kalıcı bir test vakasına dönüştürün.

Sonuç

Bu akışı küçük ve ölçülebilir bir pilotta uygulayın; sonuçlar kabul eşiğini geçtiğinde kapsamı kontrollü biçimde genişletin.