Retrieval-Augmented Generation / RAG
Modelin cevap üretirken harici bir bilgi kaynağından ilgili veriyi çekip bağlama ekleyen yöntem.
Erişim destekli üretim (Retrieval-Augmented Generation, RAG), bir dil modelinin cevap üretirken yalnızca eğitim sırasında öğrendiği bilgiye güvenmek yerine, harici bir bilgi kaynağından (belgeler, veritabanları, web sayfaları) ilgili veriyi gerçek zamanlı olarak çekip bunu modelin bağlamına ekleyerek cevap vermesini sağlayan bir yöntemdir. Süreç genellikle iki aşamalıdır: önce kullanıcının sorgusu bir embedding vektörüne dönüştürülür ve bir vektör veritabanında bu vektöre anlamsal olarak en yakın belge parçaları bulunur (retrieval); ardından bulunan bu belgeler, kullanıcının orijinal sorusuyla birlikte modelin prompt'una eklenerek model bu bağlama dayanarak cevap üretir (generation).
RAG'ın büyük dil modellerinin iki temel zayıflığını doğrudan hedef aldığı için yaygınlaştığı söylenebilir: modelin eğitim verisi belirli bir tarihte donduğu için güncel olayları bilmemesi, ve modelin bilmediği konularda bile kendinden emin ama yanlış bilgi (halüsinasyon) üretebilmesi. Belgelere dayalı cevap üretmek, hem cevapların güncelliğini artırır hem de modelin kaynak gösterebilmesini, dolayısıyla doğrulanabilir olmasını sağlar. RAG, kurumların kendi özel belgelerini (iç dokümantasyon, ürün kılavuzları, hukuki metinler) modeli yeniden eğitmeden bir yapay zeka sistemine entegre etmesinin en yaygın ve maliyet etkin yollarından biri haline gelmiştir; müşteri destek botlarından kurumsal arama sistemlerine kadar geniş bir uygulama alanı vardır.
RAG'ın büyük dil modellerinin iki temel zayıflığını doğrudan hedef aldığı için yaygınlaştığı söylenebilir: modelin eğitim verisi belirli bir tarihte donduğu için güncel olayları bilmemesi, ve modelin bilmediği konularda bile kendinden emin ama yanlış bilgi (halüsinasyon) üretebilmesi. Belgelere dayalı cevap üretmek, hem cevapların güncelliğini artırır hem de modelin kaynak gösterebilmesini, dolayısıyla doğrulanabilir olmasını sağlar. RAG, kurumların kendi özel belgelerini (iç dokümantasyon, ürün kılavuzları, hukuki metinler) modeli yeniden eğitmeden bir yapay zeka sistemine entegre etmesinin en yaygın ve maliyet etkin yollarından biri haline gelmiştir; müşteri destek botlarından kurumsal arama sistemlerine kadar geniş bir uygulama alanı vardır.