RAG (Geri Getirmeyle Zenginleştirilmiş Üretim) Nedir ve Nasıl Çalışır?

RAG nedir?

RAG, İngilizce "retrieval-augmented generation" ifadesinin kısaltmasıdır. Türkçesiyle geri getirmeyle zenginleştirilmiş üretim: bir büyük dil modeli soruyu yanıtlamadan önce, sizin belge arşivinizden soruyla ilgili parçaları bulur ve bu parçaları yanıt yazarken kaynak olarak kullanır.

Bu sayede model yalnızca eğitim sırasında öğrendiği genel bilgiye güvenmez. Şirketinizin yönetmelikleri, ürün kılavuzları ya da sözleşmeleri gibi modelin hiç görmediği içerikler üzerinden, kaynağı gösterilebilir yanıtlar üretilebilir.

Neden ihtiyaç duyulur?

Bir büyük dil modeli belirli bir tarihe kadarki genel metinlerle eğitilir. Şirketinize özel bilgiyi, dün güncellenen bir prosedürü ya da erişim yetkisi olan kişilere açık bir belgeyi bilmez. Bilmediği konuda da akıcı ve yanlış bir cevap üretebilir; bu duruma yapay zeka halüsinasyonu denir.

RAG üç sorunu birlikte hafifletir: • Güncellik: belge değiştiğinde modeli yeniden eğitmek gerekmez, arşivi güncellemek yeterlidir. • Dayanak: yanıt, getirilen metin parçalarına bağlanır ve kaynak belge gösterilebilir. • Gizlilik ve yetki: hangi belgelerin getirileceği, soran kişinin yetkisine göre sınırlandırılabilir.

RAG adım adım nasıl çalışır?

Sistem iki aşamada kurulur. Hazırlık aşamasında belgeler küçük parçalara bölünür, her parça bir gömme (embedding) modeliyle sayısal bir vektöre çevrilir ve bu vektörler bir vektör veritabanında ya da arama indeksinde saklanır.

Soru geldiğinde akış şöyle ilerler: • Kullanıcının sorusu da aynı yöntemle vektöre çevrilir. • Arama, anlam bakımından en yakın belge parçalarını bulur. • Bu parçalar, soruyla birlikte modele yönerge metninin içinde verilir. • Model, yalnızca verilen parçalara dayanarak yanıtı yazar ve gerekirse hangi parçadan aldığını belirtir.

Pek çok sistemde anahtar kelime araması ile anlamsal arama birlikte kullanılır (hibrit arama) ve bulunan sonuçlar yeniden sıralanır; bu, getirilen parçaların isabetini çoğu zaman artırır.

Küçük bir örnek

Bir şirketin insan kaynakları ekibi, izin ve yan hak politikalarını içeren belgelerle bir iç asistan kurmak istiyor. Çalışan "Yarım gün izin için hangi formu doldurmalıyım?" diye soruyor.

Asistan önce politika belgelerinde izin prosedürünü anlatan parçaları bulur. Sonra model bu parçaları okuyup formun adını ve onay akışını özetler, altında da ilgili politika belgesinin adını gösterir. Belgede cevap yoksa iyi tasarlanmış bir sistem tahmin yürütmek yerine "bu konuda belge bulamadım" der.

RAG, fine tuning ve uzun bağlam arasındaki fark

Fine tuning, modelin ağırlıklarını ek veriyle yeniden ayarlar. Daha çok üslubu, çıktı biçimini ya da dar bir görevi öğretmek için uygundur; sık değişen olgusal bilgiyi taşımak için pahalı ve kırılgandır.

Uzun bağlam yaklaşımında tüm belgeler doğrudan modelin girdisine yerleştirilir. Küçük arşivlerde işe yarar, ancak arşiv büyüdükçe maliyet ve yanıt süresi artar, modelin kritik bilgiyi kaçırma riski doğar.

RAG ise yalnızca ilgili parçaları getirir. Pratikte bu yöntemler birbirini dışlamaz: üslup için hafif bir ince ayar, bilgi için RAG birlikte kullanılabilir.

RAG'ın sınırları ve sık yapılan hatalar

RAG halüsinasyonu tamamen ortadan kaldırmaz. Arama yanlış parçayı getirirse model yanlış kaynaktan doğru görünen bir cevap yazar. Bu yüzden sistemin kalitesi büyük ölçüde getirme aşamasının kalitesine bağlıdır.

Sık yapılan hatalar: • Belgeleri anlamsız yerlerden bölmek; bir tablonun ya da maddenin yarısı getirilir. • Eski ve yeni sürüm belgeleri aynı indekste tutmak. • Sistemi yalnızca etkileyici birkaç soruyla denemek; gerçek kullanıcı sorularından oluşan bir değerlendirme seti hazırlanmaz. • Yetki kontrolünü atlamak; kullanıcı görmemesi gereken belgeden alıntı alabilir.

Getirilen parçaları ve modelin yanıtını düzenli aralıklarla insan gözüyle kontrol etmek gerekir.

RAG'ı nerede öğrenebilirsiniz?

Mindset'in Retrieval-Augmented Generation (RAG) Sistemleri eğitimi; belge işleme ve parçalama stratejileri, embedding modelleri ve vektör indeksleme, gelişmiş geri alma ve yeniden sıralama, RAG boru hattı değerlendirmesi ve üretimdeki RAG sisteminin güvenliği modüllerini içerir. RAG, yapay zeka ajanlarının da yapı taşlarından biridir; Python ile Yapay Zekâ Ajanları (AI Agent) Geliştirme Eğitimi programında "Ajan Sistemlerini RAG ve Prompt Engineering ile Geliştirme" başlıklı bir modül yer alır. Generative NLP ve Açık Kaynak Büyük Dil Modelleri Uygulamaları programı ise dil modellerini anlamayı ve onlarla çalışmayı ele alır.