Output Guardrail
Model yanıtını kullanıcıya ulaşmadan önce politika, gizlilik ve biçim kuralları açısından denetleyen kontrol katmanı.
Çıktı koruma katmanı kişisel veri, zararlı talimat ve beklenmeyen format gibi sorunları sınıflandırıcılar veya kurallarla yakalayabilir. Yanlış pozitiflerin yararlı yanıtları engellememesi için kararlar kaydedilmeli ve insan incelemesine açık olmalıdır.
Üye yorumları