Retrieval-Augmented Generation: modeli kurumun kendi verileriyle besleyerek daha doğru ve güncel cevap ürettirme yöntemi. Halüsinasyonu azaltır ve ürünü kurumun verisiyle farklılaştırır.
RAG’de model cevap üretmeden önce bir arama adımı çalışır: kullanıcının sorusuyla ilgili belgeler, kayıtlar ya da veri parçaları kurumun bilgi tabanından bulunur ve modele bağlam olarak verilir. Model böylece eğitim verisinde olmayan güncel ya da kuruma özel bilgiyle cevap verir. Modeli yeniden eğitmeye göre daha ucuzdur, daha hızlı güncellenebilir ve cevabın hangi kaynağa dayandığını göstermeye daha uygundur. Bu yüzden kurumsal ürünlerde en yaygın yaklaşımlardan biridir.
RAG’in kalitesi büyük ölçüde arama kalitesine bağlıdır: yanlış belge getirilirse model o belgeye dayanarak kendinden emin bir yanlış cevap üretir. Bu yüzden ürün yöneticisi üç soru sormalıdır: hangi kaynaklar güvenilir ve güncel, kim hangi belgeye erişebilir ve cevap dayandığı kaynağı gösteriyor mu? Kurumun kendi verisi, AI-native bir ürünü rakiplerinden ayıran en kalıcı avantajlardan biridir; ama ancak temiz, güncel ve doğru yetkilendirilmiş olduğunda.
Sık yapılan hata. RAG’i halüsinasyonun kesin çözümü sanmak. Model getirilen belgeyi yanlış yorumlayabilir ya da belgede olmayan bir şey ekleyebilir; eval ile ölçmek yine şarttır.