Agentic RAG: aramayı ajanın yönettiği geri getirme yaklaşımı

Agentic RAG nedir?

Agentic RAG, geri getirmeyle zenginleştirilmiş üretim (RAG) hattının içine özerk karar veren yapay zeka ajanları yerleştiren yaklaşımdır. Klasik RAG'de bir dil modeli, dış kaynaklardan getirilen belgelerle beslenerek yanıt üretir. Agentic RAG'de ise aramayı ve yanıtı bir ajan yönetir: neyi arayacağına, ne zaman duracağına ve bulduğunun yeterli olup olmadığına kendisi karar verir.

Bu kavram, RAG fikrinin sonraki evrelerinden biri olarak anlatılır. Derleme çalışmalarında yaklaşım, RAG'in basit, gelişmiş, modüler ve grafik tabanlı biçimlerinden sonra gelen ajan tabanlı sürüm olarak yer alır.

Klasik RAG'den farkı

Klasik RAG genellikle doğrusal ve sabittir: kullanıcı sorusu alınır, ilgili belgeler getirilir, model bunlara dayanarak yanıtı yazar. Basit olgu sorularında bu akış yeterlidir. Ancak soru birkaç kaynağı birleştirmeyi, ilk aramanın sonucuna göre ikinci bir arama yapmayı ya da yetersiz sonucu fark etmeyi gerektirdiğinde sabit akış sınırına dayanır.

Agentic RAG bu boşluğu bir kontrol katmanıyla doldurur. Ajan sorguyu yeniden formüle edebilir, hangi kaynağın uygun olduğuna karar verebilir, getirilen bilgiyi doğrulayabilir ve gerekirse yeniden arayabilir. Yani akış önceden çizilmez, soru karmaşıklığına göre çalışma sırasında şekillenir.

Ajanı mümkün kılan kalıplar

Derleme çalışması, ajan tabanlı sistemlerin dört tasarım kalıbına dayandığını söyler:

• Yansıtma: ajan çıktısını doğruluk ve tutarlılık açısından eleştirir, geri bildirimi bir sonraki turda kullanır.
• Planlama: karmaşık görevi daha küçük alt görevlere böler ve adımların sırasını kendisi belirler.
• Araç kullanımı: vektör araması, web araması ve API gibi araçlarla metin üretiminin ötesine geçer.
• Çok ajanlı iş birliği: farklı rollerdeki ajanlar işi paylaşır; biri üretirken diğeri eleştirebilir.

Bu kalıplar tek başına birer iş akışı değildir; aynı sistemde bir arada kullanılır. Planlamanın öngörülebilirliği ise yansıtma gibi daha belirli akışlardan düşük olabilir, çünkü ajan sırayı çalışırken seçer.

Küçük bir örnek

Bir şirketin iç destek asistanı olduğunu düşünün. Çalışan, geçen çeyrekteki bir politika değişikliğinin mevcut sözleşme şablonlarını nasıl etkilediğini soruyor. Klasik RAG, soruya en benzer birkaç belgeyi getirip yanıtlamaya çalışır; politika belgesi ile şablon farklı yerlerde olduğundan eksik bir yanıt verebilir.

Ajan tabanlı sürümde asistan önce soruyu alt sorulara böler: politika değişikliği nedir, hangi şablonlar etkilenir? Politika için bir depoya, şablonlar için başka bir kaynağa gider. İlk sonuç yetersizse sorguyu daraltarak yeniden arar. Yanıtı yazmadan önce kaynakların çelişip çelişmediğini kontrol eder. Böylece tek geçişli aramanın kaçırdığı bağlantı yakalanır.

Maliyetler ve sınırlar

Agentic RAG her soruda daha iyi değildir. Derleme çalışması bu yaklaşımın başlıca zorluklarını koordinasyon karmaşıklığı, hesaplama yükü ve ölçeklenebilirlik olarak sıralar: birden çok ajanın etkileşimi gelişmiş bir orkestrasyon ister, çok adımlı akışlar daha fazla kaynak harcar, sorgu hacmi büyüdükçe dinamik yapı zorlanabilir. Açık araştırma sorunları arasında değerlendirme, bellek yönetimi, verimlilik ve yönetişim sayılır.

Basit olgu sorularında klasik RAG daha hızlı, ucuz ve öngörülebilirdir. Bu yüzden karar bir üstünlük değil, sorunun karmaşıklığına göre yapılan bir seçimdir. Agentic yapı kurulduysa, ajanın hangi adımları attığının izlenmesi ve değerlendirilmesi de tasarımın parçası olmalıdır.

Ajan programlarında yeri

Agentic RAG, hem arama hem ajan tasarımı bilgisi ister. Mindset'in Python ile Yapay Zekâ Ajanları (AI Agent) Geliştirme Eğitimi ajan temellerini, ajanları araçlarla donatmayı ve ajan sistemlerini RAG ve prompt mühendisliği ile geliştirmeyi ele alır; izleme ve değerlendirme modülü de bu tür sistemlerin kalitesini ölçmeye yöneliktir.