Guardrails
Yapay zeka sistemlerinin zararlı, yanlış veya politika dışı çıktı üretmesini engelleyen kontrol mekanizmaları.
Koruma bariyerleri (guardrails), bir yapay zeka sisteminin zararlı, yanlış, önyargılı veya şirket politikalarına aykırı çıktılar üretmesini engellemek amacıyla modelin etrafına yerleştirilen teknik ve kural tabanlı kontrol katmanlarıdır. Bunlar girdi doğrulama (kullanıcının kötü niyetli bir istek gönderip göndermediğini kontrol etme), çıktı filtreleme (üretilen metnin uygunsuz içerik barındırıp barındırmadığını denetleme) ve konuşma konusunu belirli bir kapsamda tutan kural tabanlı kısıtlamalar gibi farklı katmanlardan oluşabilir. Guardrails, modelin kendi iç eğitiminden (hizalama) bağımsız, dışarıdan eklenen ek bir güvenlik ağı gibi çalışır ve özellikle müşteriyle doğrudan etkileşen kurumsal chatbot ve ajan sistemlerinde kritik önem taşır.