Veri Yönetişimi mi, Yapay Zeka Yönetişimi mi? Nerede Biter, Nerede Başlar?

Ortak zemin: kurallar, roller ve hesap verebilirlik

Yönetişim, bir kaynağın nasıl kullanılacağına dair kararların kim tarafından, hangi kurallarla ve hangi denetimle verildiğini tanımlar. Veri yönetişimi bu soruyu verinin kendisi için sorar; yapay zeka yönetişimi ise veriyi kullanarak karar üreten ya da içerik oluşturan sistemler için.

İkisinin de araç takımı benzerdir: politikalar, roller, komiteler, envanterler, risk değerlendirmeleri, denetim ve raporlama. İkisi de KVKK ve GDPR gibi kişisel veri mevzuatıyla doğrudan ilişkilidir. Bu benzerlik, yapay zeka yönetişimini mevcut veri yönetişimi ofisinin üzerine bir görev olarak ekleme fikrini akla getirir.

Bu yaklaşımın sınırı şuradadır: veri yönetişimi verinin doğru, güvenli ve izinli olmasını sağlar, ama doğru veriyle eğitilmiş bir modelin bile haksız, açıklanamaz ya da bağlamı dışında kullanılan kararlar üretebileceğini yönetmez. NIST'in yapay zeka risk çerçevesi de yapay zeka risk yönetiminin kurumsal risk yönetimine entegre edilmesini ve siber güvenlik ile mahremiyet riskleriyle birlikte ele alınmasını önerir; yani iki alan ayrı ama bağlantılı yönetilmelidir.

Ölçüt ölçüt veri yönetişimi ve yapay zeka yönetişimi

• Ölçüt: Yönetilen nesne. Veri yönetişimi: veri varlıkları; tablolar, alanlar, belgeler, veri ürünleri. / Yapay zeka yönetişimi: yapay zeka sistemleri; modeller, istemler, ajanlar ve bunların kullanıldığı iş süreçleri.
• Ölçüt: Temel soru. Veri yönetişimi: bu veri doğru mu, kimin, kim hangi amaçla kullanabilir? / Yapay zeka yönetişimi: bu sistem ne karar veriyor, kimi etkiliyor, hata yaparsa ne olur, kim hesap verir?
• Ölçüt: Risk türleri. Veri yönetişimi: kalite hataları, yetkisiz erişim, mahremiyet ihlali, tutarsız tanımlar. / Yapay zeka yönetişimi: yanlılık ve adaletsizlik, açıklanamayan kararlar, model kayması, kötüye kullanım, üretken modellerde uydurma içerik.
• Ölçüt: Yaşam döngüsü. Veri yönetişimi: verinin oluşturulmasından arşivlenmesine ya da silinmesine. / Yapay zeka yönetişimi: kullanım amacının belirlenmesinden modelin devreden çıkarılmasına; NIST'e göre veri, model ya da kavram kayması nedeniyle daha sık bakım gerektirir.
• Ölçüt: Temel roller. Veri yönetişimi: veri sahibi, veri sorumlusu (steward), veri yönetişimi ofisi. / Yapay zeka yönetişimi: sistem sahibi, model geliştirici, risk ve uyum işlevi, etik ya da yönetişim komitesi.
• Ölçüt: Başvuru çerçeveleri. Veri yönetişimi: kişisel veri mevzuatı ve kurumun veri yönetimi politikaları. / Yapay zeka yönetişimi: NIST AI RMF, ISO/IEC 42001 gibi gönüllü belgeler ve AB Yapay Zeka Yasası gibi düzenlemeler.

Kesişim: veri, model ve kullanım katmanları

İki yönetişimin sınırını görmenin en pratik yolu, bir yapay zeka sistemini üç katmanda düşünmektir.

Veri katmanında soru, modele giren verinin niteliğidir: doğru mu, güncel mi, temsil edici mi, kişisel veri içeriyor mu, kullanımı için izin var mı? NIST, eğitim verisinin kaynağını izlemenin ve sistemin kararlarını eğitim verisinin alt kümelerine bağlayabilmenin hem şeffaflığa hem hesap verebilirliğe yardım ettiğini, eğitim verisinin telif haklarına da tabi olabileceğini belirtir. Bu katman büyük ölçüde veri yönetişiminin alanıdır.

Model katmanında soru, verinin işlenme biçimidir: model hangi amaçla eğitildi, farklı gruplarda nasıl performans gösteriyor, kararları açıklanabiliyor mu, zamanla kayıyor mu? Bu katman yapay zeka yönetişiminindir, ama veri ekipleriyle ortak çalışma gerektirir.

Kullanım katmanında soru, çıktının nasıl kullanıldığıdır: kararı bir insan mı onaylıyor, etkilenen kişi itiraz edebiliyor mu, sistem amacı dışında kullanılıyor mu? NIST, eğitim veri setlerinin zamanla asıl bağlamlarından kopabileceğini ve kullanım bağlamına göre eskiyebileceğini vurgular. Bu katman ağırlıkla yapay zeka yönetişiminin alanıdır.

Bir vaka: veri temiz, karar yine de sorunlu

Bir perakende şirketi, mağaza müdürlerinin terfi adaylarını önceliklendirmek için performans verisiyle çalışan bir model kuruyor. Veri yönetişimi ekibi işini iyi yapmış: performans verisi tek kaynaktan geliyor, tanımlar netleşmiş, eksik kayıtlar temizlenmiş, erişim yetkileri kısıtlanmış ve kişisel veri işleme envanterine eklenmiş.

Model canlıya alındıktan sonra, bazı bölgelerdeki adayların sistematik olarak alt sıralarda kaldığı fark ediliyor. Sorun verinin hatalı olması değil: geçmiş performans ölçütleri, yüksek trafikli mağazalarda çalışanları yapısal olarak öne çıkarıyor ve model bu örüntüyü öğrenmiş. Veri doğru, ama bağlamı temsil etmiyor.

Bu noktada sorulması gereken sorular veri yönetişiminin değil, yapay zeka yönetişiminin sorularıdır: modelin kullanım amacı neydi, farklı gruplarda performansı test edildi mi, terfi kararında modelin rolü öneri mi yoksa eleme mi, adaylar sonuca itiraz edebiliyor mu, sistemin sahibi kim? Veri yönetişimi sağlam bir taban sundu; kararın adil ve hesap verebilir olmasını sağlamak ise ayrı bir yönetişim katmanı gerektiriyordu.

İki yönetişimi birlikte kurmak

Ayrı iki bürokrasi kurmak yerine, iki alanı ortak noktalardan birbirine bağlamak daha verimlidir. Tipik bir sıra şöyledir.

Önce mevcut veri yönetişimi yapısı gözden geçirilir: veri sahipleri, veri kataloğu, kalite kuralları ve kişisel veri envanteri yapay zeka projelerinde kullanılacak verileri kapsıyor mu?

Ardından yapay zeka sistemlerinin envanteri çıkarılır ve her sisteme bir sahip atanır. Envanter, sistemin kullandığı veri setlerine bağlanır; böylece bir veri setindeki sorun hangi modelleri etkilediği bilinerek ele alınır.

Sonra yapay zekaya özgü risk değerlendirmesi tanımlanır: kullanım amacı, etkilenen kişiler, yanlılık testi, açıklanabilirlik ve insan gözetimi. Bu değerlendirme veri kalitesi kontrollerini tekrar etmez, onların sonucunu girdi olarak alır.

Son olarak karar yapısı birleştirilir: veri yönetişimi kurulu ile yapay zeka yönetişimi komitesi aynı kurumsal risk yönetimine raporlar, kesişen kararlar (yeni bir veri setinin model eğitiminde kullanılması gibi) ortak onayla verilir.

Bu alanı Mindset programlarında nerede çalışırsınız

Yapay Zeka Uyum ve Etik Uzmanlığı (AI Governance) Sertifika Programı, KVKK, GDPR ve veri yönetişimi modülünü yapay zeka yaşam döngüsü, önyargı ve adalet riskleri, insan gözetimi ve kurumsal yönetişim modeliyle aynı programda ele alır; veri ekipleri ile uyum ekiplerinin ortak dil kurmasına odaklanır. Verinin kendisinin yönetişimini derinleştirmek isteyenler için Veri Yönetişimi Uzmanlığı (Data Governance) Sertifika Programı tamamlayıcıdır.