Anayasal Yapay Zeka

Constitutional AI (anayasal artificial intelligence), Anthropic tarafından geliştirilen ve bir modelin zararlı, yanlış veya etik dışı çıktılar üretmesini insan tarafından her örneği tek tek etiketlemeden azaltmayı amaçlayan bir eğitim yöntemidir. Modele önce bir dizi yazılı ilke ("anayasa") verilir; model kendi ürettiği yanıtları bu ilkelere göre eleştirir, revize eder ve bu düzeltilmiş örnekler üzerinden yeniden eğitilir. Bu yaklaşım, geleneksel RLHF'e kıyasla insan etiketleme maliyetini azaltırken modelin davranışlarını daha şeffaf ve tutarlı bir ilkeler kümesine bağlar. Claude modelleri bu yöntemle eğitilir.