Finans sektöründe yapay zekâ kullanımı, risk unsurları ve düzenleme ihtiyaçları

Dr. Sinan Şahin

Bir bilgisayarın insan zekasıyla ilişkilendirilen akıl yürütme, öğrenme, planlama ve yaratıcılık gibi görevleri yerine getirme yeteneği olarak tanımlanabilecek yapay zeka; algoritmaları kullanarak öğrendiği bilgilerden ve geniş ölçekli verilerden yararlanıp yepyeni içerikler oluşturabilen üretken yapay zeka, finans dahil bir ekonominin hemen hemen tüm sektörlerindeki gelişmeleri şekillendirmede giderek daha önemli bir rol oynamaktadır.

Yapay ve üretken yapay zekânın çok büyük ve çeşitli veri setlerini işleme, kolay erişilebilir ve rahat kullanılabilir formatlarda içerik üretme yeteneği, finansal hizmet sağlayıcılara; verimliliğin artırılması, müşteri deneyiminin iyileştirilmesi, pazarlama kabiliyetinin güçlendirilmesi ve etkinleştirilmesi, riskin azaltılması ve uyum raporlamasının geliştirilmesi ve benzeri pek çok alanda yeni fırsatlar sunmaktadır.

Son yıllarda finans sektöründe küresel çapta yaşanan çeşitli gelişmeler yapay zeka kullanımının ciddi faydaların yanısıra, sorumlu gözetim ve denetim kuruluşları tarafından anlaşılıp, önlem alınmasını, düzenleme yapılmasını gerektirecek bir takım riskleri de beraberinde getirdiğini göstermiştir.

Finans sektöründe yapay zekâ sistemlerinin kullanılmasının yarattığı riskleri; teknolojinin doğasından kaynaklanan veri gizliliği ve gömülü önyargı, teknolojinin performansı ile bağlantılı sağlamlık, sentetik veri ve açıklanabilirlik riskleri ile yeni siber güvenlik tehditleri ve finansal istikrara yönelik makro çapta riskler şeklinde sınıflandırmamız mümkündür.

Yapay zekâ sistemleri öğrenme süreçlerinde kullanıcıları otomatik olarak seçip onlardan gelen bilgileri kullanmaktadır. Finansal kurumların çalışanlarının yapay zeka sistemi ile etkileşimleri sırasında sundukları hassas finansal verilerin ve kişisel bilgilerin dışarı sızması güvenin esas olduğu sektör açısından önemli risk içermektedir.

Bir bilgisayar sisteminin belirli birey ya da gruplar aleyhine, diğerlerinin lehine sistematik ve haksız bir biçimde ayrımcılık yapması gömülü önyargı olarak tanımlanır. Sistemi eğitmekte kullanılan veriler eksik ise, temsil yeteneği yoksa, daha da kötüsü toplumda hakim olan önyargıları içeriyorsa, bunları kullanan yapay zeka sistemi de önyargılı olabilecektir. Bunun finans sektöründeki yansıması finansal dışlanma, etik dışı uygulamalar ve kamusal güvende zedelenmedir.

Yapay zeka uygulamalarının performansı ile ilgili en önemli konu üretilen ve finans sisteminde kullanılan verilerin sağlamlığı ile güvenilirliğidir. Yapay zekâ uygulamaları en basit ifadesiyle önce kendisine ulaşan verilerle öğrenmekte, sonra da öğrendiklerinden hareket ederek öngörüde bulunmaktadır. İstikrarlı bir veri ortamında iyi performans gösteren yapay zekânın, sinyallerin istikrarsızlaştığı, davranışsal kalıpları hızla değiştiği ortamlarda tahmin yeteneklerinin azaldığı görülmektedir. Bu gibi ortamlarda yapay zekâ modellerinin yanlış ama makul görünen yanıtlar veya çıktılar ürettiği ve bu yanıtları kendinden emin bir şekilde savunduğu gözlenmiştir.

Bu tip bir riskin bankacılık sektöründe ciddi olumsuz sonuçları olabilmektedir: Bireysel ve kurumsal risk değerlendirmeleri hatalı yapılabilmekte, bunun da riski alma ve riski yönetme üzerinde olumsuz etkileri bulunmaktadır. Yapay zekâ destekli konuşma uygulamaları müşterilere risk alma tercihleri ile uyumsuz tavsiyelerde bulunabilmektedir.

Yaratıcı yapay zekâ uygulamaları, adlarının da akla getirdiği üzere, derin öğrenme yolu ile gerçek verileri taklit eden sentetik veriler yaratmakta ve bunları hem kendi öğrenmesinde hem de modellerin testinde kullanmaktadır. Sentetik verilerin gerçek verilere alternatif olarak kullanımı kişisel verilerin gizliliği ve maliyetlerin düşürülmesi kaygılarından kaynaklanmaktadır. Sıkı düzenlenen ve denetlenen finans ve sağlık sektörleri kişisel veri güvenliği sebebi ile sentetik verilerin en çok kullanıldığı alanlardır. Sentetik veriler gerçek dünyadaki olayların karmaşıklığını yakalamakta başarılı olabilmektedir. Ancak yapay zekânın önyargı ve sağlamlık konusunda taşıdığı riskleri, bizzat kendisinin ürettiği sentetik verilere aktarması halinde bu verilerin güvenliği de zarar görecektir.

Finansal kuruluşların ürünlerin geliştirilmesine ve pazarlanmasına, risklerin yönetilmesine, yasal ve idari gerekliliklerin yerine getirilmesine ilişkin kararlarını ve eylemlerini kendi yönetimlerine, paydaşlarına ve gözetim ve denetimden sorumlu otoritelere makul bir biçimde açıklayabilmeleri gerekir. Zaten karmaşık olan yapay zekâ algoritmalarına istinaden alınan kararların açıklanabilirliği ve bunların doğruluğunun karşı taraflarca kontrolü kolay değildir. Yapay zekâya dayanan kararların açıklanabilirliği finansa sektörü için ciddi bir konu olmaya devam edecektir.

Yapay zekâ siber güvenlik alanında bireyleri veya kuruluşları taklit ederek kimlik hırsızlığı veya dolandırıcılığın artmasına neden olacak fırsatlar için de kullanılabilir. Uygulamalar veri ve girdi saldırılarına maruz kalabilir. İlki yapay zekânın eğitimi, ikincisi yapay zekanın karar vermesi aşamasında sistemin fonksiyonlarına zarar verecek, finans kurumlarının karar süreçlerini olumsuz yönde etkileyecektir.

Yapay zeka modellerinin finansal sektörün geneli üzerinde yaratabileceği sistemik olumsuz etkilerden de bahsetmemiz gerekmektedir: Bankacılık sektörünün risk değerlendirmelerinde ve kredi kararlarında homojenliğin artması ve yapay zekaya aşırı güvenme eğilimi bulaşma riskini yükseltebilecektir. Öğrendiği güncel verilerden hareketle yapay zeka piyasanın coşkulu olduğu zamanlarda sürü psikolojisine ve yanlış fiyatlandırmalara sebep olabilecektir. Modeller risk yönetimi konusunda düzgün bir şekilde eğitilmezse, karı maksimize etmek için daha yüksek kredi veya piyasa riskleri alınması gündeme gelebilecektir.

Sonuç olarak yapay zekâ finans sektöründe müşteri deneyimi ve satış faaliyetlerinin geliştirilmesinden risk yönetiminin daha etkin hale getirilmesine kadar geniş bir alanda kullanım imkânı bulmaktadır. Güven ve itibar temeline dayanan finans sektörü açısından ciddi riskler taşıdığı da aşikârdır. Söz konusu teknolojinin kullanımının getireceği risklere karşı yasal ve idari düzenlemelerin zamanında yapılması, düzenleyici otoritelerin bu alandaki kapasitelerini artırmaları ve uluslararası düzeyde işbirliği önem taşımaktadır. Avrupa Birliği yapay zekânın fırsat ve tehditlerini yönetmek için dünyanın ilk kapsamlı yasal düzenleme çalışmasını başlatmıştır. Ülkemizde de benzer yönde adımlar atılmasında yarar görülmektedir.