Şirket dokümanlarıyla çalışan bilgi chatbotu kurma rehberi

Kurumsal bilgi chatbotu tam olarak ne yapar?

Kurumsal bilgi tabanı chatbotu, çalışanların politika, prosedür, ürün ve teknik doküman gibi şirket içi kaynaklara doğal dille soru sorup kaynak gösterilmiş cevap almasını sağlar. Arka planda genellikle RAG mimarisi çalışır: Soru için ilgili doküman parçaları bulunur, bu parçalar bir dil modeline verilir ve model cevabı yalnızca bu parçalara dayanarak yazar.

Genel amaçlı bir sohbet modelinden farkı, cevabın şirketin kendi dokümanlarına bağlı olmasıdır. Model "genel bilgiye göre" değil, "izin prosedürünün güncel sürümüne göre" cevap verir ve hangi belgeye dayandığını gösterir. Bu bağlılık, kurumsal kullanımda güveni belirleyen şeydir: Çalışan cevabı kaynak belgede doğrulayabilmelidir.

Buradaki zorluk model değil, çevresindeki işlerdir: Hangi dokümanlar dahil edilecek, kim hangi dokümanı görebilecek, belgeler güncellendiğinde sistem nasıl yenilenecek ve cevap yanlışsa kim sorumlu olacak. Başarılı projeler teknik kurulumdan çok bu sorulara verdikleri yanıtla ayrışır.

Kapsamı daraltarak başlayın: kullanıcı grubu ve soru türü

Tüm şirket dokümanlarını tek seferde bağlamaya çalışmak, kalitesiz kaynakların da sisteme girmesine ve cevap kalitesinin düşmesine yol açar. Daha sağlam yol, tek bir kullanıcı grubu ve tek bir bilgi alanıyla başlamaktır. Örneğin yeni çalışanların sık sorduğu İK ve yan hak soruları, satış ekibinin ürün ve teklif soruları ya da destek ekibinin teknik çözüm kayıtları.

Kapsam belirlerken şu sorular yanıtlanır:

• Kullanıcılar bu bilgiye şu an nasıl ulaşıyor ve en çok neyde zorlanıyor?
• Kaynak dokümanlar güncel, tek sahipli ve metin ağırlıklı mı?
• Yanlış cevabın bedeli ne kadar yüksek? Hukuki ya da güvenlik etkisi olan alanlar pilotun dışında kalmalıdır.
• Başarıyı neyle ölçeceğiz: çözüm süresi, tekrar eden soruların azalması, kullanıcı geri bildirimi?

Bu çerçeve, hem teknik tasarımı hem de beklenti yönetimini kolaylaştırır. Chatbotun ne bilmediğini açıkça belirtmesi de kapsamın bir parçasıdır.

Doküman hazırlığı: sistem kadar kaynak da önemli

Chatbotun kalitesi, beslendiği dokümanların kalitesini aşamaz. Hazırlık aşamasında kaynak envanteri çıkarılır: Her doküman için sahibi, son güncelleme tarihi, geçerlilik durumu ve erişim kuralı belirlenir. Birbiriyle çelişen eski ve yeni sürümler varsa hangisinin geçerli olduğu netleştirilir; aksi halde chatbot çelişkili cevapların her birini kendinden emin biçimde verebilir.

Teknik hazırlık adımları şunlardır:

• Farklı biçimleri (PDF, Word, wiki sayfaları, e-posta arşivleri, destek kayıtları) düz metne ve yapıya ayıran bir alım hattı kurmak
• Başlık, bölüm, belge türü, sahip, sürüm ve erişim grubu gibi metadata alanlarını her parçaya eklemek
• Dokümanları anlam bütünlüğünü bozmayacak biçimde parçalamak
• Parçaları embedding modeliyle vektöre çevirip vektör veritabanına yazmak
• Güncelleme ve silme akışını baştan tasarlamak: Belge değiştiğinde ya da kaldırıldığında eski parçalar da dizinden çıkmalıdır

Son madde en çok ihmal edilenidir. Silinmiş bir politikanın hâlâ cevap vermesi, kurumsal projelerde sık görülen bir güven kaybı nedenidir.

Yetkilendirme ve veri güvenliği

Kurumsal chatbotun en kritik riski, yetkisiz bilgi sızıntısıdır. Şirketin finans dokümanlarını, maaş verilerini ya da yönetim yazışmalarını da dizinleyen bir sistem, bunları sorulan her kullanıcıya gösterirse ciddi bir ihlal doğar. Bu yüzden erişim kontrolü, cevap üretildikten sonra değil, getirme aşamasında uygulanır: Kullanıcının kimliği ve grupları sorguyla birlikte iletilir, vektör aramada yalnızca o kullanıcının erişebildiği parçalar filtrelenir.

Bunun yanında şu konular ele alınır:

• Kişisel veri içeren dokümanların KVKK kapsamında değerlendirilmesi ve gerekirse dizinden çıkarılması ya da maskelenmesi
• Dil modeli servisine hangi verinin gönderildiğinin ve saklanıp saklanmadığının sözleşme ve teknik ayarlarla netleştirilmesi
• Sorgu ve cevap kayıtlarının kimin tarafından, ne kadar süre görülebileceğinin belirlenmesi
• Dokümanlara gömülü talimatlara karşı koruma: Bir belgenin içindeki "önceki talimatları unut" benzeri metin modeli yönlendirmemelidir

Bu kontroller teknik ekip, bilgi güvenliği ve hukuk ekibi arasında ortak bir kabul gerektirir.

Cevap tasarımı: kaynak gösterme, bilmiyorum diyebilme ve devretme

İyi bir kurumsal chatbot, her cevabın yanında kaynağını gösterir: belge adı, bölüm ve mümkünse sayfa ya da bağlantı. Çalışan böylece cevabı tek tıkla doğrulayabilir. Kaynak göstermek aynı zamanda uydurma cevabın fark edilmesini kolaylaştırır; çünkü kaynak belgede olmayan iddia hemen görünür.

Bir tasarım ilkesi de bilmediğini söyleyebilmektir. Doküman havuzunda yeterli dayanak bulunmuyorsa chatbot tahmin yürütmek yerine bunu belirtmeli ve kullanıcıyı doğru kişiye ya da kanala yönlendirmelidir. Bu davranış istem talimatıyla ve getirme sonucunun alt eşiğiyle birlikte sağlanır; ayrıca bu durumu içeren sorularla test edilmelidir.

Ayrıca insana devretme yolu bulunmalıdır. Kullanıcı memnun kalmazsa ya da konu chatbotun kapsamı dışındaysa ilgili ekibe bildirim açılabilmelidir. Bu bildirimler, hem eksik doküman alanlarını hem de iyileştirilecek cevapları gösteren değerli bir veri kaynağıdır.

Pilot, ölçüm ve işletme

Canlıya geçiş, küçük bir pilot kullanıcı grubuyla başlar. Pilotta önceden hazırlanmış bir soru seti ve gerçek kullanıcı soruları birlikte izlenir. Ölçülecekler: doğru kaynağın bulunma kalitesi, cevabın kaynağa sadakati, "bilmiyorum" davranışı, kullanıcı geri bildirimi ve çözüm süresine etkisi. Başarısız cevaplar tek tek incelenir ve her biri bir nedene bağlanır: eksik doküman, kötü parçalama, yanlış getirme ya da model davranışı.

İşletme aşamasında sahiplik netleştirilmelidir. Bir ürün sahibi chatbotun kapsamı ve önceliğinden, bir içerik sahibi dokümanların güncelliğinden, bir teknik ekip altyapıdan sorumlu olur. Dokümanlarda her değişiklikte dizin yenilenir, periyodik olarak aynı test seti çalıştırılarak kalite düşüşü yakalanır.

Sık yapılan hatalar şunlardır: kapsamı baştan çok geniş tutmak, erişim kontrolünü sona bırakmak, eski belgeleri temizlemeden dizinlemek, geri bildirim kanalı açmamak ve sistemin "bitti" sanılması. Bilgi chatbotu, içerik yönetimi ile birlikte yaşayan bir üründür.

Bu beceriyi Mindset programlarında nerede çalışırsınız?

Kurum İçi Bilgiyle Konuşan Yapay Zeka: RAG ve Vektör Veritabanları eğitiminin modülleri RAG mimarisi ve temel kavramlar, vektör veritabanları, kurumsal doküman işleme boru hattı, gelişmiş RAG teknikleri, değerlendirme ve optimizasyon ile üretim sistemi dağıtımından oluşur. Kurumsal Bilgi Tabanı ve RAG Veri Pipeline'ı eğitiminde ise kurumsal bilgi tabanı stratejisi, belge alımı ve ayrıştırma, dizinleme-güncelleme-silme ile operasyon ve yönetişim konuları ayrı modüllerdir.

Bu içerik, şirket içi bilgi asistanı kuracak yazılım ve veri ekipleri için uygundur; içerik sahipleri, bilgi yönetimi ve bilgi güvenliği sorumlularının projeye ortak bir çerçeveyle katılmasına da zemin hazırlar.