Chatbot ve Yapay Zeka Ajanı: Yanıt Veren Sistemden İş Yapan Sisteme

Temel ayrım: konuşmak mı, iş bitirmek mi?

Chatbot (sohbet botu), kullanıcıyla yazılı ya da sesli bir konuşma yürüten ve sorulara yanıt veren yazılımdır. Eski kuşak chatbot'lar önceden tanımlanmış kurallar, anahtar sözcükler ve karar ağaçlarıyla çalışır. Büyük dil modelleriyle çalışan yeni kuşak chatbot'lar ise serbest dili anlar, bağlamı izler ve kurumun belgelerinden bilgi getirerek doğal yanıtlar üretir. Her iki durumda da chatbot'un temel işi, bir soruya iyi bir yanıt vermektir.

Yapay zeka ajanı ise kendisine verilen bir hedefi tamamlamak için adım adım ilerleyen sistemdir. Görevi alt adımlara böler, hangi aracı kullanacağına kendisi karar verir, bir veritabanını sorgular, bir API çağırır, bir kaydı günceller ya da e-posta taslağı hazırlar; her adımın sonucuna bakarak bir sonrakine karar verir. Anthropic'in ajan tasarımı üzerine yayımladığı rehber bu ayrımı şöyle kurar: önceden tanımlı kod yolları üzerinde dil modelini ve araçları yöneten sistemler iş akışıdır, dil modelinin kendi sürecini ve araç kullanımını dinamik olarak yönettiği sistemler ise ajandır.

Temel farklar: ölçüt ölçüt

İki sistemi aynı ölçütlerle yan yana koymak farkı netleştirir.

• Amaç: Chatbot / soruya yanıt vermek, bilgi aktarmak, kullanıcıyı doğru yere yönlendirmek. Yapay zeka ajanı / bir görevi uçtan uca tamamlamak.
• Karar verme: Chatbot / her mesaja tek bir yanıt üretir; akışı kullanıcı yönetir. Yapay zeka ajanı / sonraki adıma kendisi karar verir; gerektiğinde birçok adımı kullanıcıya sormadan yürütür.
• Araç kullanımı: Chatbot / genellikle bilgi getirme ile sınırlıdır, örneğin sık sorulan sorular ya da belge araması. Yapay zeka ajanı / sistemlere bağlanır; sorgu çalıştırır, kayıt oluşturur, form doldurur, başka uygulamaları tetikler.
• Bellek ve durum: Chatbot / konuşma bağlamını izler. Yapay zeka ajanı / görevin durumunu, ara sonuçları ve gerekiyorsa önceki etkileşimleri tutar.
• Etki alanı: Chatbot / hatalı yanıt kullanıcıyı yanıltır ama sistemlerde değişiklik yapmaz. Yapay zeka ajanı / hatalı karar gerçek bir işlem doğurabilir; hata adımlar boyunca birikebilir.
• Maliyet ve gecikme: Chatbot / genellikle tek model çağrısıyla yanıt verir. Yapay zeka ajanı / birden fazla model ve araç çağrısı yaptığı için daha maliyetli ve daha yavaştır.
• Denetim ihtiyacı: Chatbot / içerik doğruluğu ve üslup denetlenir. Yapay zeka ajanı / yetki sınırları, insan onay noktaları, durma koşulları ve işlem kaydı gerekir.

Aynı senaryoda iki yaklaşım

Farkı somutlaştırmak için bir e-ticaret şirketinin müşteri hizmetlerini düşünelim. Müşteri siparişinin hasarlı geldiğini yazıyor.

Chatbot bu durumda iade politikasını açıklar, iade formunun bağlantısını verir ve gerekirse konuşmayı bir müşteri temsilcisine aktarır. İşi yapan yine müşteri ya da temsilcidir.

Yapay zeka ajanı ise müşterinin sipariş numarasıyla sipariş sistemini sorgular, ürünün iade süresi içinde olup olmadığını kontrol eder, hasar fotoğrafını ister, iade politikasına göre değişim mi para iadesi mi uygun olduğunu belirler, kargo firmasının sisteminden iade kodu oluşturur ve müşteriye gönderir. Belirli bir tutarın üzerindeki iadeler için işlemi tamamlamadan önce bir temsilcinin onayını bekler.

İki senaryoda da müşteri bir sohbet penceresi görür. Fark arka plandadır: chatbot bilgi verir, ajan işlemi yürütür.

Hangi durumda chatbot yeterli?

Her soruna ajan gerekmez. Anthropic'in rehberi de en basit çözümle başlamayı, karmaşıklığı ancak gerektiğinde artırmayı önerir; birçok uygulama için bilgi getirme ve örneklerle güçlendirilmiş tek bir model çağrısı yeterlidir.

• Talep ağırlıkla bilgi sorusuysa: çalışma saatleri, ürün özellikleri, politika ve süreç soruları
• Yanıt kurumun belgelerinde mevcutsa ve doğru belgeyi bulmak yeterliyse
• Sistemlerde değişiklik yapmak gerekmiyorsa ya da işlemi bir insan tamamlayacaksa
• Hata maliyeti düşük ve hızlı yanıt öncelikliyse

Örneğin bir kurumun iç İK asistanının izin politikası, yan haklar ve form konumlarıyla ilgili soruları yanıtlaması için belgelerden bilgi getiren bir chatbot yeterlidir. Bu işe ajan eklemek maliyeti ve riski artırır, kullanıcıya ek değer katmaz.

Hangi durumda yapay zeka ajanı gerekir?

Ajan, görevin adımları önceden tam olarak kestirilemediğinde ve tamamlanması için birden fazla sisteme dokunmak gerektiğinde değer üretir.

• Görev çok adımlı ve her adımın sonucu bir sonrakini belirliyor
• Bilgi farklı sistemlerden toplanıp birleştirilmeli
• Sonuç bir işlem: kayıt açmak, güncellemek, randevu oluşturmak, rapor üretmek
• Senaryolar çeşitli ve her biri için ayrı karar ağacı yazmak pratik değil

Ajan kurarken risk yönetimi tasarımın parçasıdır. Anthropic'in rehberi, ajanların özerk yapısının daha yüksek maliyet ve birikerek büyüyen hata riski taşıdığını, bu nedenle izole test ortamlarında kapsamlı test ve uygun koruma önlemleri gerektiğini vurgular. Pratikte bunun anlamı şudur:

• Ajanın erişebileceği araçları ve yetkileri en dar haliyle tanımlamak
• Geri alınamayan işlemlerden önce insan onayı istemek
• Adım sayısı gibi durma koşulları koymak
• Her adımı kaydetmek ve sonuçları düzenli değerlendirmek

Chatbot'tan ajana geçiş: bir olgunluk basamağı

Kurumlarda chatbot ile ajan arasındaki geçiş genellikle tek bir sıçrama değil, kademeli bir yolculuktur:

• Kural tabanlı chatbot: sabit menüler ve hazır yanıtlar.
• Dil modeliyle çalışan chatbot: serbest dili anlar, doğal yanıt üretir.
• Bilgi getiren asistan: kurum belgelerinden ilgili bölümü bulup yanıtı buna dayandırır.
• İş akışı: model, önceden tasarlanmış adımlar içinde belirli araçları çağırır; örneğin talebi sınıflandırıp doğru ekibe kayıt açar.
• Ajan: hedefe ulaşmak için hangi adımları atacağına ve hangi araçları kullanacağına kendisi karar verir.

Bu basamakların her biri ayrı bir değer üretir. Sık yapılan hata, iş akışıyla güvenilir biçimde çözülebilecek bir işi ajana bırakmak ya da tersine, adımları sürekli değişen bir görevi katı bir karar ağacına sıkıştırmaktır. Doğru basamak, görevin belirsizliğine ve hatanın maliyetine göre seçilir.

Mindset eğitimlerinde chatbot ve yapay zeka ajanları

Yapay Zeka ile Müşteri Hizmetleri Otomasyonu eğitimi chatbot ve sanal asistan tasarımını, otomatik yönlendirme ve sınıflandırmayı ve duygu analizini müşteri hizmetleri bağlamında ele alır. Ajan tarafında Python ile Yapay Zekâ Ajanları (AI Agent) Geliştirme Eğitimi ajan dünyasının temellerinden başlayıp tek ajanlı sistemler kurma, çoklu ajanlarla çalışma, ajanları araçlarla donatma, etik ve risk, RAG ve prompt engineering, izleme ve değerlendirme konularıyla bir uygulama projesine ilerler.

Kod yazmadan ilerlemek isteyenler için No-Code AI Agent Tasarımı ve Uygulamaları Eğitimi ajanları veri ve iş süreçlerine bağlamayı, çok adımlı işlemleri, test ve izlemeyi işler. Agentic Workflows Mimarisi eğitimi ise iş akışı tasarım desenleri, durum yönetimi, araç entegrasyonları ve güvenlik ile yönetişimi kurumsal ölçekte ele alır.