Faturalarınızı ödeyebilen, çevrimiçi alışveriş yapabilen ve hesaplar arasında para transferi yapabilen yapay zekâ destekli asistanlar çok uzaklarda olmayabilir. Daha büyük soru ise bir şeyler ters gittiğinde ne olacağıdır. Yapay zekâ ajanı parayı yanlış hesaba gönderirse sorumluluk kimdedir? Ya da bilgisayar korsanları onu kandırarak sahte ödemeleri onaylamasını sağlarsa? Veya binlerce yapay zekâ sistemi aynı piyasa sinyaline tepki verip aynı anda milyarlarca doları hareket ettirirse?
Bunlar, Moody’s Ratings’in yeni bir raporunda gündeme getirdiği sorulardan bazıları. Rapor, yapay zekâ ajanları olarak adlandırılan ve kullanıcılara sadece ne yapmaları gerektiğini önermek yerine, onlar adına finansal işlemleri tamamlamak üzere tasarlanmış yazılımlara olan artan ilgiyi ele alıyor.
Tavsiye eden, harekete geçen yapay zeka
Günümüzün yapay zekâ destekli asistanları ürünleri karşılaştırabilir, finansal soruları yanıtlayabilir veya para biriktirmek için önerilerde bulunabilir. Ancak genellikle paranızı transfer edemezler.
Moody’s, stablecoin’ler, tokenleştirilmiş mevduatlar ve mevduat token’ları da dahil olmak üzere dijital paranın, “yapay zeka ajanlarını eylem öneren araçlardan, ödeme başlatabilen, likiditeyi hareket ettirebilen, teminat yatırabilen ve yükümlülükleri yerine getirebilen yetkilendirilmiş ekonomik aktörlere dönüştürme” potansiyeline sahip olduğunu belirtiyor. Raporda ayrıca, bu yetkinin “zorunluluklar, sınırlar, uyumluluk kontrolleri ve ödeme kuralları” ile sınırlı kalacağı da ekleniyor.
Bankaların yeni güvenlik önlemlerine ihtiyacı var.
Moody’s, yapay zekanın para transferi yetkisini ele geçirmesiyle birlikte geleneksel dolandırıcılık kontrollerinin tek başına yeterli olmayacağını belirtiyor.
Bunun yerine, finans kuruluşlarının yapay zekâ ajanları için özel olarak tasarlanmış tamamen yeni koruma önlemleri getirmesi muhtemeldir.
Raporda, “Temsilcinizi Tanıyın (Know-Your-Agent) çerçeveleri, işlem limitleri, denetim kayıtları, gerçek zamanlı izleme ve insan müdahalesi mekanizmaları da dahil olmak üzere güçlü kontrollerin şart olacağı” belirtiliyor.
Ayrıca, düzenleyicilerin “acil durdurma araçları, güvenli API yönetimi ve yüksek riskli işlemler için insan onayı”nın yanı sıra “aracı kimliği, denetlenebilirlik, sorumluluk, siber dayanıklılık ve insan müdahalesi mekanizmalarına” daha fazla önem vermesini bekliyor.
Birleşik Arap Emirlikleri’ndeki tüketiciler için bu, nihayetinde yapay zekanın önceden onaylanmış talimatlar aldıktan sonra fatura ödeme, abonelik yenileme, seyahat rezervasyonu yapma veya ev ödemelerini yönetme gibi rutin finansal işlemleri üstlenmesi anlamına gelebilir.
Verimlilik riskli hale geldiğinde
Moody’s’in en büyük endişelerinden biri, milyonlarca yapay zeka sisteminin aynı anda finansal kararlar almaya başlaması durumunda neler olacağıdır.
Raporda, “temsilci dijital nakit sistemlerini güçlü kılan özelliklerin aynı zamanda riski de artırdığı” belirtiliyor.
Eğer birçok yapay zeka ajanı benzer modellere, hedeflere veya piyasa verilerine dayanıyorsa, hepsi aynı sinyale aynı anda tepki vererek nakit parayı daha yüksek getiri sağlayan hesaplara aktarabilir, ödemeleri geciktirebilir, stablecoin’leri geri alabilir, varlık satabilir veya teminat yatırabilir.
Moody’s, her bir bireysel kararın rasyonel olabileceğini ancak birleşik etkinin “mikro verimlilik ile makro kırılganlık arasında bir gerilim” yarattığını ve finansal stresi azaltmak yerine potansiyel olarak artırdığını söylüyor.
Siber saldırganlar bir sonraki hedef olarak yapay zekayı seçebilirler
Rapor ayrıca, yapay zekâ destekli finansal sistemlerin siber riskleri önemli ölçüde artırdığı konusunda da uyarıda bulunuyor.
Suçlular, doğrudan bireysel tüketicileri hedef almak yerine, ödemeleri kontrol eden yapay zeka sistemlerini manipüle etmeye çalışabilirler.
Moody’s, siber saldırı ajanlarının dijital cüzdanlar, bankacılık sistemleri, API’ler, akıllı sözleşmeler, piyasa verisi akışları ve bulut altyapısıyla etkileşime girmeleri nedeniyle “saldırı yüzeyini genişlettiğini” belirtiyor.
Tespit edilen tehditler arasında anlık enjeksiyon saldırıları, ele geçirilmiş veri akışları, kötü amaçlı faturalar, API ayrıcalık yükseltmesi, kimlik bilgisi hırsızlığı, cüzdanı boşaltan izinler ve model manipülasyonu yer almaktadır.
Tüketiciler için bu, gelecekteki dolandırıcılık girişimlerinin yalnızca şifre çalmakla kalmayıp, yapay zekâ ajanlarını asla yapmamaları gereken ödemeleri onaylamaya yönlendirmeye de odaklanabileceği anlamına gelebilir.
