Bankacılıkta yapay zeka ajanlarının güvenlik risklerini, prompt injection ve MCP açıklarını, koruma katmanlarını ve ağ geçidi katmanı zorunluluğunu inceleyin.
Kurumsal yapay zeka harcamaları 2025'te 37 milyar doları aştı, bir önceki yıla göre 3,2 kat artışla. Finans sektörü bu harcamanın merkezinde: NVIDIA'nın 2025 araştırmasına göre finans kuruluşlarının %65'i yapay zekayı aktif olarak konuşlandırıyordu, %42'si ise yapay zeka ajanlarını değerlendirme veya canlı ortamda kullanma aşamasındaydı.
Bu ajanlar ödeme raylarına, dolandırıcılık sistemlerine ve müşteri kayıtlarına doğrudan erişiyor. Kimlik doğrulama, içerik denetimi ve hız sınırlaması gibi kontroller, ajanın API çağrısı yapmadan önce bir gateway katmanında çalışmadığı sürece, ajan çıktısını denetlemek zaten gerçekleşmiş bir işlemi geri almaya çalışmak anlamına geliyor.
MIT Technology Review Insights anketine göre bankacılık yöneticilerinin %70'i agentic AI kullanmaya başladı; %16'sı tam konuşlandırma aşamasında. Wells Fargo, Goldman Sachs, JPMorgan Chase, Citi ve BNY gibi büyük bankalar agentic AI'a yoğun yatırım yapıyor. Finans kuruluşlarının üçte biri agentic AI için ayrı bütçe ayırmış durumda.
Deloitte, bankaların yapay zeka ajanlarını "sistemleri içindeki aktif operatörler" olarak ele almasını ve kontrolleri buna göre tasarlamasını öneriyor. Ancak kurumsal ekiplerin yalnızca %14,4'ü konuşlandırma öncesi tam güvenlik onayı almış durumda.
Kurumsal ekiplerin %81'i yapay zeka ajanlarını konuşlandırdı, ancak yalnızca %14,4'ü konuşlandırma öncesi tam güvenlik onayı aldı. Otonom yapay zeka kullanan kuruluşların yaklaşık %80'i ajan davranışını gerçek zamanlı olarak doğru şekilde izleyemiyordu.
Düzenleyici tarafta da bir boşluk var. OCC'nin güncellenmiş Model Risk Management rehberi, üretken yapay zeka ve agentic AI modellerini kapsam dışı bırakıyor. Bankalar geleneksel modeller için oluşturdukları yönetişim çerçevelerini AI ajanlarına genişletemiyor, çünkü düzenleyici referans noktası henüz mevcut değil.
IBM, yapay zeka ajanlarını "dijital içeridekiler" (digital insiders) olarak tanımlıyor, çünkü erişim kalıpları artık geleneksel yazılım uygulamalarından çok, ayrıcalıklı çalışanlara benziyor. Saldırı yüzeyi uç noktalar ve bulut altyapısıyla sınırlı kalmıyor. Bağımsız olarak aşağı akış finansal eylemleri tetikleyebilen otonom muhakeme sistemlerini de kapsıyor.
Somut bir bankacılık senaryosu üzerinden düşünün: bir dolandırıcılık kontrol ajanı, aynı işlem verisini iki farklı turda işlerken farklı araç çağrıları yapabilir. İlk turda hesap geçmişini sorgulayıp işlemi onaylarken, ikinci turda aynı veriyi farklı bir bağlam penceresinde değerlendirerek ek doğrulama API'leri çağırabilir, hatta işlemi bloke edebilir. Bu tür non-deterministik davranış, geleneksel API güvenlik testlerinin kapsamı dışında kalıyor.
Kimlik yönetimi tarafında da ciddi bir boşluk var. Kuruluşların yalnızca %10'u, insan dışı kimlikleri (AI ajan kimlik bilgileri, API anahtarları, tokenler) güvenli bir şekilde yönetebilen olgun çerçevelere sahip. Gölge AI sorunu bunu derinleştiriyor: çalışanların %82'si hassas verileri yönetilmeyen kişisel hesaplar üzerinden AI araçlarına yapıştırıyor, SSO ve CASB izleme mekanizmalarını atlatarak.
Deloitte'un MIT AI Risk Database analizinde, otonom veya agentic davranıştan kaynaklanan 350'den fazla risk belirlendi. Bankacılık bağlamında bunlardan altı tanesi öne çıkıyor.
Geleneksel LLM uygulamalarında prompt injection manipüle edilmiş bir metin çıktısı üretir. Agentic sistemlerde sonuç farklı: enjekte edilen talimatlar ajan davranışını ve araç kullanımını doğrudan etkiler. Bankacılık bağlamında manipüle edilmiş bir ajan para transferi yapabilir, istisna onaylayabilir veya hesap verilerini açığa çıkarabilir. OWASP bu riski LLM tehditlerinin başında sıralıyor; agentic yapılandırmalarda enjekte edilen talimatlar salt metin manipülasyonu yerine ajan davranışını ve araç kullanımını yönlendiriyor. Deloitte de prompt injection'ı, opak muhakeme, bellek bozulması ve kontrolsüz otonom davranışla birlikte finans kurumlarının karşı karşıya olduğu en önemli AI güvenlik riskleri arasında tanımladı.
Model Context Protocol (MCP) sunucularıyla entegre çalışan ajanlar ek bir saldırı yüzeyi oluşturuyor. Yapılan bir güvenlik açığı analizinde, incelenen MCP sunucularının %43'ü komut enjeksiyonuna karşı savunmasız bulundu ve belgelenen açıklar arasında hassas verileri sızdıran gizli promptlar yer aldı. Bankalar için bu, klasik tek hata noktası probleminin, entegrasyonun diğer ucunda otonom bir aktörle birleşmesi anlamına geliyor.
AI ajanları, görevlerinin gerektirdiğinden daha geniş yetkilerle konuşlandırılıyor ve insan kullanıcılar için tasarlanmış kimlik sistemlerine nadiren uyum sağlıyor. Ajanların kullandığı servis hesapları, API anahtarları ve tokenler bireysel hesap verebilirliğe bağlı olmayabilir. Görev ayrılığı ve en az yetki ilkesinin denetim gereksinimi olduğu bankacılık ortamlarında, aşırı yetkilendirilmiş ajanlar hem operasyonel risk hem de doğrudan uyumluluk açığı yaratıyor. Pratik bir karşı önlem: her ajanın API token kapsamını yalnızca o ajanın gerektirdiği işlemlerle sınırlandırmak (örneğin, müşteri hizmetleri ajanının tokeni yalnızca hesap sorgulama yetkisi taşırken, fon transferi yetkisi ayrı bir onay akışı gerektirmeli). AI agent guardrails konusunda daha fazla uygulama detayı mevcut.
Hatalı yapılandırılmış izinler, istenmeyen belge değişikliklerine, yetkisiz veri erişimine veya tespit edilmesi zor sonsuz görev döngülerine yol açabilir. İnsan boyutu da kritik: arayüzler kötü tasarlanmışsa veya açıklamalar yetersizse, çalışanlar ajan çıktısına aşırı güvenebilir. Yüksek hacimli iş akışlarında bu, onay damgalamasına, yargı yetkisinin aşırı devredilmesine ve anomalilerin gözden kaçmasına neden olabiliyor.
Çalışanların %82'sinin hassas verileri yönetilmeyen kişisel hesaplar üzerinden AI araçlarına yapıştırması, güvenlik ekiplerinin düzenlemeye tabi verilerin bankadan nasıl çıktığını görememesi anlamına geliyor. SSO ve CASB izleme mekanizmaları, kurumsal hesaplar üzerinden geçen trafiği denetlemek için tasarlandı; kişisel hesaplar üzerinden yapılan AI araç kullanımı bu denetim kapsamının tamamen dışında kalıyor.
IMF, 2025'te ileri düzey yapay zekanın, ortak bulut platformları, AI algoritmaları ve kurumsal teknoloji ekosistemleri kullanan finans kuruluşlarında "korelasyonlu başarısızlıklara" yol açabileceği konusunda uyardı. Bir kurumdaki AI arızası, aynı bulut, teknoloji yığını veya AI algoritmasını kullanan diğer kurumları etkileyebilir. Roosevelt Institute ise AI ajanlarının finansal sisteme yönelik spesifik tehditlerini sıralıyor: dolandırıcılık, piyasa manipülasyonu, siber saldırılar, halüsinasyonlardan kaynaklanan müşteri zararı, sürü davranışıyla tetiklenen banka kaçışları (bank runs) ve ani çöküşler (flash crashes).
Gradient Labs, finans hizmetlerinde iki ayrı guardrail paketi tanımlıyor. Müşteri guardrail'leri her turda müşterinin söylediklerini inceleyerek şikayetleri, kırılganlık durumlarını ve mali zorlukları tespit eder. Ajan guardrail'leri ise AI ajanının taslak yanıtlarını inceleyerek yasadışı ifşayı, verilemeyecek tavsiyeleri ve yasaklı terminolojiyi engeller.
Bu ayrımın somut bir örneği: Birleşik Krallık'ta bir AI ajanının, bir hesabın şüpheli işlem kontrolleri nedeniyle bloke edildiğini müşteriye açıklaması, Proceeds of Crime Act 2002 kapsamında "tipping off" (ihbar) suçu teşkil edebilir. Finansal, vergisel veya hukuki tavsiye vermek de, ne kadar iyi temellendirilmiş olursa olsun, çoğu durumda tamamen yasak kapsamında. Bu tür durumlar, ajan çıktısının gerçek zamanlı denetimini zorunlu kılıyor.
Jack Henry, bankacılık AI'ı için katmanlı bir güvenlik yaklaşımı öneriyor: veri gizliliği ve şifreleme, düzenli doğrulamayla model risk yönetimi, siber güvenlik entegrasyonu ve üçüncü taraf tedarikçi risk gözetimi. AI sistemlerinin siber güvenlik stratejisi içinde kritik altyapı olarak ele alınması gerekiyor.
Esplorium çalışması, bankaların beş geleneksel AI kontrolünü (denetlenebilirlik, açıklanabilirlik, şeffaflık, denetim, insan-in-the-loop) agentic sistemler için yenilemesi gerektiğini ortaya koyuyor. Aynı zamanda yeni operasyonel risk değerlendirmeleri eklenmesini öneriyor: Hız (Speed), Dışsallık (Externality), Kesinti yolları (Disruption paths) ve Güvenilirlik kontrolleri (Reliability checks).
Denetlenebilirlik (auditability) geriye dönük çalışır: bir ajan onlarca araç çağrısını milisaniyeler içinde tetikledikten sonra log okumak zararı engellemez. İnsan-in-the-loop ise ölçeklenme sorunuyla karşı karşıya: bir ajanın karar zincirinin her adımına insan yerleştirmek, agentic AI'ın amacını bozabilir ve verimlilik kazanımlarını ortadan kaldırabilir. Hız kontrolü (Speed) bu boşluğu dolduruyor: ajanın birim zamanda yapabileceği işlem sayısını sınırlandırarak, insan müdahalesi olmadan hasarı daraltıyor. Ajan davranışının gerçek zamanlı izlenmesi ve bu kontrollerin uygulanması hakkında daha fazla bilgi için AI agent observability yazımıza bakabilirsiniz.
AI'a özel düzenleyici son tarihler hızla yaklaşıyor. DORA 17 Ocak 2025'te tam olarak yürürlüğe girdi; AB AI Act yasaklı uygulamalar hükmü 2 Şubat 2025'te yürürlüğe girdi; kredi skorlama AI'ı için yüksek risk uygulaması 2 Ağustos 2026'da başlıyor.
Bu düzenleyici takvimin üzerine OCC'nin agentic AI'ı kapsam dışı bırakan model risk rehberi eklenince, bankalar düzenleyici bir boşlukta kalıyor. Mevcut rehberler geleneksel modelleri kapsıyor, ama otonom karar alan ve araç çağıran ajanları değil.
IMF'nin korelasyonlu başarısızlık uyarısı bu boşluğun boyutunu gösteriyor: ortak bulut ve AI altyapısı kullanan kurumlarda tek bir arızanın sektör çapında yayılma riski, DORA'nın kurumsal bazda tanımladığı ICT risk yönetimi kapsamının ötesine geçiyor. DORA, her kurumun kendi ICT risk çerçevesini oluşturmasını gerektiriyor, ancak kurumlar arası paylaşılan AI altyapısından kaynaklanan zincirleme arızalar için spesifik bir bildirim veya koordinasyon hükmü içermiyor. AB AI Act'in yüksek risk kategorisi kredi skorlama AI'ını kapsıyor, ancak ödeme onaylayan veya dolandırıcılık tespit eden agentic sistemler henüz bu kategoriye dahil edilmedi. Bankacılıkta agentic AI konuşlandıran kurumlar, mevcut düzenleyici çerçevelerin kapsamı dışında kalan otonom sistemleri yönetmek için kendi iç kontrol yapılarını oluşturmak zorunda. AI compliance ve EU AI Act compliance bu düzenleyici çerçevelerin detaylarını ele alıyor.