Yapay zekaya güvenmek ya da güvenmemek Yapay zekaya güvenmek ya da güvenmemek

Güven başarılı bir kurumun, markanın en değerli varlığıdır ve farklı alanlardan birçok bileşeni içerir. Her geçen gün yenileri ortaya çıkan çeşitli risklerle mücadele ederek değerini korumak adına kurumun bütün seviyelerini kapsayan bir çalışma gerektirir.

Özellikle son zamanlarda dijital çağdaki farklılaşan tehlikeler, riskler ve belirsizlikler nedeniyle, güvenin değeri ve anlamı farklı bir boyut kazanıyor. Bugün güven sadece bir şirketin markasına, ürünlerine, hizmetlerine ve insanlarına değil aynı zamanda şirketin teknolojisine ve teknolojiye güç sağlayan veri analitiğine, bu kapsamda üretilen karar vericiler tarafından kullanılan veriye de sıkı şekilde bağlı.

Makinelerin insanlarla birlikte çalıştığı bugün, işletme bütününde güven oluşturmak için analitik ve proaktif bir yönetişime açıkça ihtiyaç var. Ancak bu noktada bazı soru işaretleri ortaya çıkıyor; “Güvenilir analitik modellerden kim sorumlu olmalı? Söz konusu unsurların iyi yönetişimi nasıl? Organizasyonlar dijital dönüşüm geçirirken, yapay zekâ hemen hemen her endüstriden geçiyor, bu noktada veri analitiğinin kalitesi, etkinliği, bütünlüğü ve dayanıklılığı için süreçler ve sorumluluklar belirlendi mi?”

Yakın zamanda bu sorulara cevaplar aramak için KPMG tarafından Forrester Consulting ile küresel bir araştırma gerçekleştirildi. Araştırmaya 2 bin 200 bilgi teknolojisi (BT) ve iş karar vericisi katıldı.
Yüksek hızlı, sayısallaştırılmış bir dünyada inşa etmesi yıllar süren güven neredeyse anında yok edilebilir. Makinelerin yükselişinin ortasında, kuruluşlar sadece markalarında ve insanlarında değil aynı zamanda veri ve analitik kapsamında da güven istiyor. Katılımcıların yüzde 92’si veri ve analiz modellerinin amaçlandığı şekilde çalışmaması veya uygunsuz kullanımının organizasyonlarına verebileceği itibar hasarından endişe duyduğunu belirtti. Bu endişe, yapay zekânın kullanımı ve kontrolünün zorluğuyla daha da artıyor.

Yıllar boyu risk alanların insanlar olması nedeniyle risk alanların makinelere dönüşmesi yönetişim ve kontrol çerçevelerinde bazı çekincelere yol açıyor. Karar vericiler, sistemler ve yapay zekâ tarafından üretilen verilere güvenmekte zorlanıyor. Modellerin ve algoritmaların doğruluğundan emin olmak, yanlışlıkları tespit etmek ve bu süreçleri yönetmek daha farklı bakış açıları ve metotlar gerektiriyor. Organizasyonlar daha karmaşık analizler, makine öğrenme modelleri ve otomatik kararları benimserken birçok düzenleyici, müşteri ve iş verilerini toplayan, analiz eden ve kullanan tüm kuruluşlar üzerinde yeni kontroller araştırıyor. Karmaşık algoritmaların yönetimi gittikçe önemli bir konu haline geliyor.  

Bu noktada veri analitiğine güven dört temel üzerinde yükseliyor; kalite, etkinlik, bütünlük ve esneklik. Girdilerin, analiz modellerinin ve çıktıların kullanılacağı bağlam için uygun olması kalite ile sağlanıyor. Analitik daha karmaşık hale geldikçe ve makineler kendileri öğrenmeye başladıkça, kalite aynı zamanda modellere ve algoritmalara da uzanıyor. Etkinlik, modellerin istenen sonuçlara ulaşma derecesiyle ilgili olup, oluşturulan analizlere dayanan karar vericilere değer sağlıyor. Analitiğin etkisiz olduğu veya uygunsuz bir bağlamda kullanıldığı düşünüldüğünde, güven hızla aşınabilir. Güvenilir analitik bağlamında bütünlük, etik ve kabul edilebilir kullanımı ifade ediyor. Esneklik, uzun vadede veri kaynaklarını ve analiz modellerini optimize etmek anlamına geliyor.

Siber güvenlik iyi bilinen bir örnek ancak yöneticiler veri kaynaklarının ve dijital altyapının değişen kullanımlarını da düşünmeli. Araştırma kapsamında katılımcılar dört temelin hepsinde uzun vadede mükemmelliğe ulaşmayı amaçlıyor.

Çoğu insan, hem profesyonel hem de kişisel yaşamlarında güvenilir veri analitiğinin ne derecede olması gerektiği konusunda bir fikre sahip. Veri analitiğinin doğruluğunu ve bir şeyler yanlış gidiyorsa bunun ne olduğunu bilmek istiyorlar. Aynı zamanda verilerin, güvendikleri kişiler tarafından ve değerli olduklarına inandıkları amaç doğrultusunda kullanılması talepleri var. Karar vericiler, elde edilen bilgilerin güvenilir ve doğru olduğu konusunda güvene sahip olmak istiyor. Ancak yöneticilerin çoğu, modellerinin güvenilirliği konusunda yeterli kalitede olup olmadığından emin değil. (Katılımcıların yalnızca yüzde 35’i, kendi kuruluşlarının farklı analiz türlerini kullanmaları konusunda yüksek bir güven düzeyine sahip olduklarını söyledi. Yüzde 25’i sınırlı güveni veya aktif güvensizlik olduğunu belirtti. Ankete katılanların sadece yüzde 40’ı genellikle güvendiklerini ancak bazı çekincelerin olduğunu ifade etti.)

Ek olarak, KPMG 2017 Küresel CEO Araştırması katılımcılarının yarısından fazlası bu anlamda ciddi bir katkı sağlayan yapay zekanın, mevcut otomasyon süreçlerine entegre etme yeteneklerinden endişe duyuyor ve neredeyse üçte biri, yapay zekayı işin içine almaya hazır olmadıklarını itiraf ediyor.

Bu araştırmalar bir yandan veri analitiği modelleri kapsamındaki ihtiyacı ortaya koyarken, diğer yandan söz konusu ihtiyacı giderebilecek unsurlara yönelik endişeler olduğunu da gösteriyor. Bunun önemli sebeplerinden biri de bahsi geçen süreçlerin sorumlularının tanımlanmasındaki zorluklar. Bir algoritmanın veya modelin beklenmedik bir şekilde hareket etmesi ve olumsuz bir sonuca yol açması halinde kimin sorumlu olacağı bu duruma bir örnek.
Zayıf analitik modeller ve veri nedeniyle önemli finansal kayba veya müşteri kaybına yol açan bir karar için hangi rolün sorumlu tutulacağı sorulduğunda katılımcıların yüzde 55’i dijitalden sorumlu yönetici (CDO) ve veri bilimciler dâhil olmak üzere teknoloji fonksiyonunun, sorumluluğun ağırlığını taşıyacağını ifade ediyor. Üçte biri ise sorumluluğun CEO ve liderlere ait olduğunu söylüyor.

Örneğin, tamamen otonom bir aracın bir kazaya yol açması durumunda hangi partilerin öncelikle sorumlu tutulması gerektiği sorulduğunda oklar yazılımı gösteriyor. Üretici, yolcu ve düzenleyiciler bir sonraki aşamada geliyor.

Bu noktada teknoloji birimlerinin genel olarak sorumlu tutulduğu görülüyor. Şüphesiz ki veri analitiği modellerinin tanımlanması, işletilmesi vb. rol tanımları nedeniyle bu durum ortaya çıkıyor. Fakat bir de analitiğin güvenilirliğini ve doğruluğunu yönetmedeki sorumluluk var. Burada birincil sorumluluğun kime ait olduğu da hayli önemli. Yönetsel sorumluluk anlamında ise ortam belirsizliklerle dolu. CIO sıklıkla sorumlu tutulurken, geniş bir yelpazede diğer rollerdekiler (CDO, veri uzmanı, geliştirici vb.) sorumlu görülüyor. Bununla birlikte dış tedarikçiler, üçüncü taraf denetçiler, düzenleyici kurumların da rol sahibi olduğu düşünülüyor. Özetle sorumluluk konusunda henüz net bir ortam bulunmuyor. Ancak birçok paydaşın sorumluluğu üstlenmesi gerektiği de gerçek. Verinin üretilmesi, işlenmesi, raporlanması çalışmalarını gerçekleştiren roller açık ancak söz konusu raporları yargılarının parçası olarak kullanan yöneticilerin de bu süreçleri yüksek seviyede sahiplenmeleri gerekiyor. Dolayısıyla paydaşların işbirliğini içeren yönetişim kavramı etrafında beliren bir bakış açısı doğru yaklaşım olarak ortaya çıkıyor.  

KPMG olarak, gelişmiş analizlerin iş operasyonlarının parçası haline gelmesi nedeniyle, makinelerin yönetiminin insanların yönetimi kadar önemli olduğuna inanıyoruz. Bu nedenle, makinelerin yönetişimi tüm organizasyonun yönetişiminin bir parçası haline gelmeli. Amaç, her bir kuruluş bağlamında, veri analitiğinin potansiyel gücünü ve riskini, değeri optimize etme yönünde kullanmak.

Bir çözüm olarak yönetişimin etkisini ortaya çıkarmak için bazı öneriler ve çerçevelerden bahsetmek faydalı olacak. Veri analitiğinde kamu ve müşteri güvenini oluşturmak için en iyi öneriler standardizasyon, modernizasyon, şeffaflık, profesyonel kodlar ve güvence mekanizmaları olarak öne çıkıyor. Modellerin ve süreçlerin tasarımında temel alınacak standartların belirlenmesi ve geliştirilmesi ilk adım. Düzenlemelerin veri analitiği modelleri dikkate alınarak modernize edilmesi yönetişimin önemli bir parçası. Algoritma ve modellerin şeffaflığının artırılması, tümünün yönetimini kolaylaştırıyor. Veriyle ilgilenen personelin profesyonel kodları kullanması, etkinliği artırıyor. İç ve dış güvence mekanizmaları ile süreçlerin değerlendirilmesi, eksikliklerin belirlenmesi ve giderilmesi sağlanıyor.
 

Bahsi geçen önerileri içeren üçlü savunma hattı çerçevesi sağlıklı bir yönetişim çözümü olarak göze çarpıyor.

• İlk savunma hattı olarak; iş birimleri kullandıkları analizlerin farkında olmalı ve güvenin üzerinde yükseldiği dört temeli yönetebilmeli. 
• İkinci savunma hattı, risk gözetim işlevlerinin, kuruluş için koruyucu görevi üstlenen politikalar ve prosedürlerin oluşturulması
• Üçüncü savunma hattı ise bağımsız denetçiler ve iç denetçilerin kontrolleri doğrulaması ve potansiyel zayıflık alanlarını tanımlaması.

Bankacılık ve yüksek teknoloji sektörleri bu anlamda hayli olgun yapılara sahip ve ilerlemeye devam ediyor. Ancak bütün sektörlerde bu konuda farkındalık günden güne artıyor. Çünkü yapay zekâ ve analitik modeller önemli bir yere sahip olmalarının yanında yapılandırılmamış verilerin analiz edilmesini sağlayarak karar vericilerin daha emin karar almasına yardımcı olacak yeni yöntemler ortaya koyuyor. Gelecekte geleneksel olmayan kaynaklardan giderek artan şekilde gelen bilgi, diğer tüm formlarla (basılı, dijital, sosyal vb.) birleştirildiğinde, daha derin ve güçlü bir analiz ve anlayış potansiyeli yaratacak. Tahminlerin doğruluk oranı ve niteliği artacak, farklı kaynaklar sürece dâhil olacak. Bu doğrultuda da insanı, makineyi ve diğer unsurları içeren güvenilir analitik yönetimi sağlamak zorlaşacak.

KPMG bu anlamda dağıtılmış, paylaştırılmış bir güven modeli yaratarak, güvenin dört temelini güçlendirmek için yönetişim kapsamına birçok paydaşı ve süreci dâhil ediyor. Bu durum da yönetim için daha stratejik, bütünleşik ve dağıtılmış bir düzeni oluşturuyor. Bu model kurum yapısını ve rollerini, düzenleme ve standartları, insanları ve kurum kültürünü, stratejiyi, süreçleri, veri yönetimini, teknolojiyi, ittifakları ve kurumun ilişkili olduğu ekosistemleri kapsıyor.

Dijital çağda, güvenilir analitik, güvenilir veri kritik bir rekabet avantajı kaynağı haline gelecek. Güvene giden yol, güvenilir analitik ve veriyle yakından ilişkili olacak. Geleneksel teknoloji ve riskin ötesine geçmek, stratejik bir yaklaşımın benimsenmesini gerektirecek. Bu da ölçme ve yönetmeyle başlayan, risklerin önceliklendirilmesini, güvene etki eden sorumlulukların tanımlanmasını, sistemlerle insanların entegre edilmesini, yasalara uyumu, şeffaflığı, esnekliği içeren bir yönetişim çerçevesinin benimsenmesi ve uygulanmasıyla sağlanacak.