Yapay Zeka Etiği mi, Yapay Zeka Yönetişimi mi? İlkeden Uygulamaya

Etik neyi sorar, yönetişim neyi kurar?

Yapay zeka etiği, yapay zeka sistemlerinin nasıl tasarlanması ve kullanılması gerektiğine dair değerleri ve ilkeleri tartışır: Bu sistem insanlara adil davranıyor mu, kararlarını açıklayabiliyor mu, mahremiyete saygı gösteriyor mu, son sorumluluk bir insanda kalıyor mu? UNESCO'nun Yapay Zekanın Etiği Üzerine Tavsiye Kararı bu alanın uluslararası başvuru metinlerinden biridir; insan hakları ve insan onuruna saygıyı merkeze alır, orantılılık ve zarar vermeme, güvenlik, mahremiyet ve veri koruma, şeffaflık ve açıklanabilirlik, insan gözetimi, adalet ve ayrımcılık yapmama gibi ilkeler sayar.

Yapay zeka yönetişimi ise bu ilkelerin kurum içinde gerçekten uygulanmasını sağlayan yapıdır: kim karar verir, hangi sistemler hangi onaydan geçer, riskler nasıl sınıflandırılır, hangi belgeler tutulur, sorun çıktığında kim hesap verir. Politika, rol, süreç, kontrol ve raporlama yönetişimin yapı taşlarıdır.

Basit bir ayrım: Etik "neyi doğru kabul ediyoruz" sorusunu yanıtlar; yönetişim "bunu her projede nasıl güvenceye alıyoruz ve kim sorumlu" sorusunu.

Ölçüt ölçüt farklar

• Temel soru: Etik / ne yapmalıyız, neyi yapmamalıyız? Yönetişim / kararları kim, hangi süreçle verir ve nasıl denetler?
• Çıktı: Etik / ilkeler, değerler beyanı, etik değerlendirme ve tartışma. Yönetişim / yapay zeka politikası, kullanım kuralları, envanter, risk sınıflandırması, onay akışları, kayıt ve raporlar.
• Kaynaklar: Etik / felsefe, insan hakları, UNESCO gibi kuruluşların ilke metinleri. Yönetişim / mevzuat (AB Yapay Zeka Yasası gibi), NIST'in Yapay Zeka Risk Yönetimi Çerçevesi gibi gönüllü çerçeveler, yönetim sistemi standartları ve kurumun iç kontrol yapısı.
• Sahiplik: Etik / etik kurul ya da danışma grubu, alan uzmanları, sivil toplum ve kullanıcıların sesi. Yönetişim / üst yönetim, yapay zeka komitesi, hukuk ve uyum, bilgi güvenliği, veri yönetişimi, iç denetim.
• Ölçülebilirlik: Etik / ilkeye uyum çoğu zaman yoruma açıktır. Yönetişim / kontrol tanımlanır, kanıt toplanır, denetlenir.
• Zaman boyutu: Etik / özellikle tasarım ve karar anındaki değerlendirme. Yönetişim / sistemin tüm yaşam döngüsü: tedarik, geliştirme, devreye alma, izleme ve emekliye ayırma.

İkisi birbirinin yerine geçmez. Yönetişimsiz etik bir niyet beyanında kalır; etiksiz yönetişim ise yalnız yasal asgariyi karşılayan bir kontrol listesine dönüşür.

Bir ilkenin yönetişime dönüşmesi: işe alımda özgeçmiş tarama

Örneğin bir şirket, aday özgeçmişlerini ön elemeden geçiren bir yapay zeka aracı kullanmayı düşünüyor.

Etik soru: Araç belirli yaş gruplarını, cinsiyetleri ya da okul geçmişlerini dolaylı olarak dezavantajlı duruma düşürüyor mu? Elenen aday, kararın nedenini öğrenebilecek mi? Son kararı bir insan veriyor mu?

Yönetişim yanıtı ise bu soruları somut adımlara çevirir: • Araç yapay zeka envanterine kaydedilir; kullanım amacı, veri kaynakları ve sahibi yazılır. • Risk sınıflandırması yapılır. İstihdam alanı AB Yapay Zeka Yasası'nın yüksek riskli kullanım örnekleri arasında sayıldığından, AB'de faaliyet gösteren ya da AB'deki kişileri etkileyen kurumlar için ek yükümlülükler gündeme gelir. • Tedarikçiden eğitim verisi, test sonuçları ve önyargı değerlendirmesi hakkında belge istenir. • Devreye almadan önce geçmiş verilerle gruplar arası sonuç farkları test edilir. • Sistemin kararları kaydedilir, belirli aralıklarla örneklem incelenir, adaya itiraz yolu tanımlanır. • İK süreç sahibi, hukuk ve uyum birimi ve veri ekibi için sorumluluklar yazılı hâle getirilir.

Etik, neyin önemli olduğunu söyledi; yönetişim, bunun her başvuruda gerçekleştiğinden emin olmanın yolunu kurdu.

Düzenleme ve çerçeveler iki alanı nasıl birleştiriyor?

Güncel düzenleme ve çerçeveler etik ilkeleri yönetişim yükümlülüklerine dönüştürme eğilimindedir. Avrupa Komisyonu'nun açıklamasına göre AB Yapay Zeka Yasası risk temelli bir yaklaşım izler: kabul edilemez riskli uygulamaları yasaklar, yüksek riskli sistemler için risk yönetimi, veri kalitesi, kayıt tutma, teknik dokümantasyon ve uygun insan gözetimi gibi yükümlülükler getirir, sohbet robotları gibi sistemlerde kullanıcının bir makineyle etkileşimde olduğunun bildirilmesini ister.

NIST'in Yapay Zeka Risk Yönetimi Çerçevesi ise gönüllü kullanım için tasarlanmıştır ve güvenilirlik değerlendirmelerini yapay zeka sistemlerinin tasarımına, geliştirilmesine, kullanımına ve değerlendirilmesine dahil etmeyi amaçlar.

Bu metinlerde "insan gözetimi" ya da "şeffaflık" hem etik ilke hem de denetlenebilir yükümlülük olarak karşımıza çıkar. Kurumlar için pratik sonuç şudur: etik ilkelerinizi yazarken bunları hangi kontrolle, hangi kanıtla ve hangi rolle uygulayacağınızı da aynı anda tanımlayın. Güncel yükümlülük takvimi ve kapsamı resmî kaynaklarda yayımlanır ve değişebilir; hukuk birimiyle düzenli olarak gözden geçirin.

Kurum hangisinden başlamalı?

Sıralama genellikle şöyledir, ama adımlar birbirini besler: • Değerleri netleştirin: Kurum yapay zekayı hangi amaçlarla kullanmayacak, hangi ilkeleri vazgeçilmez sayıyor? Kısa ve anlaşılır bir ilke metni yeterlidir. • Envanter çıkarın: Kurumda hangi yapay zeka sistemleri ve araçları kullanılıyor, hangi veriye erişiyor, kim sahibi? Çalışanların kendi başına kullandığı üretken yapay zeka araçları da bu listeye girer. • Kullanım politikası yazın: Hangi verinin hangi araca girilemeyeceği, hangi çıktıların insan kontrolünden geçmesi gerektiği. • Riske göre denetim düzeyi belirleyin: Pazarlama metni taslağı ile kredi değerlendirmesi aynı onay sürecinden geçmemelidir. • Rolleri atayın: Karar yetkisi olan bir komite ya da sorumlu yönetici, her sistemin iş sahibi ve teknik sahibi. • İzleyin ve raporlayın: Olaylar, şikâyetler, performans ve önyargı testleri düzenli olarak gözden geçirilir.

Yalnız etik ilke metniyle başlayıp orada kalmak en sık görülen hatadır. Tersi de sorunludur: değerleri tartışmadan kurulan yönetişim, hangi riskin neden önemli olduğu konusunda yön bulamaz.

Kariyer ve yetkinlik açısından fark

İki alan farklı yetkinlik profilleri ister. Etik tarafında felsefe, hukuk, sosyal bilimler ve alan uzmanlığı ile önyargı, adalet ve şeffaflık kavramlarını teknik sistemlere uygulayabilme öne çıkar. Yönetişim tarafında ise risk yönetimi, iç kontrol, uyum, denetim, politika yazımı ve kurumsal süreç tasarımı deneyimi belirleyicidir; çoğu zaman veri yönetişimi ve bilgi güvenliği yönetişimiyle aynı ekiplerde çalışılır.

Uygulamada iyi bir yapay zeka uyum ya da yönetişim uzmanı her iki dili de konuşur: Veri bilimciyle modelin önyargı testini, hukuk birimiyle yükümlülüğü, üst yönetimle de risk iştahını tartışabilir.

Mindset programlarında etik ve yönetişim

Kurumda yapay zeka uyumu, risk ya da etik sorumluluğu üstlenecek hukuk, uyum, risk ve bilgi güvenliği profesyonelleri için Yapay Zeka Uyum ve Etik Uzmanlığı (AI Governance) Sertifika Programı; yönetişimin temelleri ve etik çerçevelerden AB Yapay Zeka Yasası'na, önyargı ve adalet risklerinden politika, komite ve iç kontrol içeren kurumsal yönetişim modeline kadar iki alanı birlikte ele alır.

Daha kısa ve uygulamaya dönük bir başlangıç arayan yöneticiler için Sorumlu Yapay Zeka: Etik, Uyum ve İtibar Yönetimi, yönetişim modeli kurma ile önyargı ve itibar risklerini işler. Politika yazma ve tedarikçi değerlendirme sorumluluğu taşıyan BT ve güvenlik ekipleri için Yapay Zeka Yönetişimi ve Güvenlik Politikaları; kullanım politikası ve veri kuralları, tedarikçi, model ve entegrasyon değerlendirmesi ile denetim ve izleme başlıklarına odaklanır.