Constitutional AI
Bir modelin, insan tarafından yazılmış etik ilkeler bütününü (bir anayasa) kullanarak kendi çıktısını eleştirip düzeltmesine dayanan hizalama yöntemi.
Constitutional AI (anayasal yapay zeka), Anthropic tarafından geliştirilen ve bir modelin zararlı, yanlış veya etik dışı çıktılar üretmesini insan tarafından her örneği tek tek etiketlemeden azaltmayı amaçlayan bir eğitim yöntemidir. Modele önce bir dizi yazılı ilke ("anayasa") verilir; model kendi ürettiği yanıtları bu ilkelere göre eleştirir, revize eder ve bu düzeltilmiş örnekler üzerinden yeniden eğitilir. Bu yaklaşım, geleneksel RLHF'e kıyasla insan etiketleme maliyetini azaltırken modelin davranışlarını daha şeffaf ve tutarlı bir ilkeler kümesine bağlar. Claude modelleri bu yöntemle eğitilir.
Üye yorumları