AI Alignment
Yapay zeka sistemlerinin insan değerleri ve niyetleriyle uyumlu davranmasını sağlama çabası.
Hizalama (alignment), yapay zeka sistemlerinin, özellikle güçlü ve özerk hale geldikçe, insan değerleri, niyetleri ve tercihleriyle tutarlı biçimde davranmasını sağlamaya odaklanan araştırma alanıdır. Amaç yalnızca modelin doğru cevap vermesi değil, aynı zamanda yararlı, zararsız ve dürüst davranması, kullanıcıyı yanıltmaması ve tasarlanan amacın dışına çıkmamasıdır. Pekiştirmeli öğrenme ile insan geri bildirimi (RLHF) gibi teknikler, günümüz dil modellerinin hizalanmasında yaygın kullanılan yöntemlerdendir. Modeller giderek daha yetenekli ve özerk hale geldikçe (bakınız: ajan tabanlı yapay zeka), hizalamanın önemi de artmakta ve uzun vadeli yapay zeka güvenliği tartışmalarının merkezinde yer almaktadır.