Teknoloji

Wells Fargo’nun yeni koşulları yapay zekâ ajanının hatalarını müşteriye yüklüyor

Susan Hill
Bizi Google'a ekleyin

Wells Fargo, mobil uygulaması ve internet sitesinin dayanağı olan sözleşmeyi yeniden yazıyor: Dışarıdan bir yapay zekâ ajanının müşterinin hesabında yaptığı her işlem, müşterinin kendi işlemi sayılacak. Banka, ajanın talimatlarını doğrulamadan uygulayacağını, ajanın yaptıklarını izlemeyeceğini ve ajanın hatalarını müşterinin hatası olarak kabul edeceğini belirtiyor. Yeni şartlarda büyük harflerle şu ifade yer alıyor: “Herhangi bir yapay zekâ ajanını kullanmanız TAMAMEN KENDİ SORUMLULUĞUNUZDADIR.”

Bankacılık şifresini bir alışveriş botuna ya da bütçe asistanına veren herkes için bu değişiklik, yazılım hata yaptığında faturayı kimin ödeyeceğini değiştiriyor. İki kez yapılan bir ödeme, on kez verilen bir sipariş ya da tuzak kurulmuş bir web sayfasının tetiklediği bir havale, bir yasa aksini söylemedikçe bankanın değil hesap sahibinin sırtında kalacak. Kimsenin bir şey imzalaması gerekmiyor: Değişiklikten sonra internet bankacılığını kullanmayı sürdüren müşteriler şartları kabul etmiş sayılıyor. Bryant Üniversitesi’nde tüketici davranışları üzerine çalışan pazarlama profesörü Kacy Kim, Wired’a şöyle konuştu: “Tüketiciler hedefleri onaylar, her bir tıklamayı değil.”

Tanım oldukça geniş. Wells Fargo, bir kişi adına “otonom, yarı otonom veya otonom olmayan eylem” gerçekleştiren her yazılımı “AI Agent” (yapay zekâ ajanı) olarak adlandırıyor; bu da kişisel asistan diye satılan sohbet botlarının çok ötesine uzanıyor. Ajanın talimatları yanlış anlaması, kimsenin istemediği işlemler yapması, “manipüle edilmiş girdilere” göre hareket etmesi ya da kendisine verilen yetkiyi aşması durumunda bedeli müşteri ödüyor. Müşterinin hesaba girmesine izin verdiği kişilerin kullandığı ajanlar da aynı kurallara tabi; 18 yaşın altındaki hiç kimse de hesaba ajan bağlayamıyor.

Bir ajanı devre dışı bırakmak da müşterinin işi. Şartlara göre müşteriler ajanın erişimini kendileri iptal etmeli, bunu yaptıklarına dair kanıt saklamalı ve banka isterse bu kanıtı teslim etmeli. Wells Fargo’ya bildirene kadar da ajanın yaptığı her şeyden sorumlu kalıyorlar. Bu, ABD’deki elektronik transferlere ilişkin kuralın, yani Regulation E’nin mantığını izliyor: Kartınızı ya da giriş bilgilerinizi verdiğiniz kişinin yaptığı transferler, siz bankaya durdurmasını söyleyene kadar yetkili işlem sayılıyor.

Wells Fargo ajanlara hâlâ kapıyı açık tutuyor; bu da onu, kapıyı kapatmakta olan bir sektörün en müsamahakâr ucuna yerleştiriyor. Wired’ın aktardığına göre JPMorgan Chase, müşterinin kimlik bilgileriyle giriş yapan üçüncü taraf ajanları yasaklamak için şartlarını değiştirdi, Bank of America müşterilerini giriş bilgilerini ajanlarla paylaşmamaları konusunda uyardı, Citibank ve PNC de kendi uyarılarını ekledi. Axios’un haberine göre Morgan Stanley üçüncü taraf ajanları platformlarından engelledi. Wells Fargo ise ajanların kullandığı bağlantıları kesme ya da herhangi bir ajanı doğrudan engelleme hakkını elinde tutuyor.

Bu tepki bankacılıkla sınırlı değil. Amazon, Meta’nın Muse ajanının mağazasında alışveriş yapmasını engelledi; United Airlines ise kişisel botların yolcular adına uçak bileti alamayacağını açıkladı. Wired’ın anlatımında American Express nadir bir istisna: Şirket, bir üründen fazla sipariş verilmesi gibi bazı ajan hatalarının, alışveriş yapan kişi parayı perakendeciden geri alamazsa ileride geri ödeme kapsamına girebileceğini söyledi.

Yeni ifadenin uygulamada ne kadar şey değiştireceği belirsiz. Maddeler defalarca “yasa veya yönetmeliğe” atıfta bulunuyor ve müşterinin devreye soktuğu bir ajan, müşterinin hiç istemediği bir şey yaptığında zararı kimin üstleneceği konusunda henüz hiçbir mahkeme karar vermedi. Kullanıcı kitlesi de küçük. Forrester analisti Sucharita Kodali, Wired’a şöyle konuştu: “Elimizdeki tüm veriler, insanların çoğunun ajanın ne olduğunu bile bilmediğini, kullanmayı bırakın, gösteriyor.” Üstelik bankalar ajanlara bütünüyle karşı değil. Virginia Üniversitesi’nde tüketici psikolojisi ve yapay zekâ üzerine çalışan profesör Luca Cian, “Dışarıdaki ajanlara kapıyı kapatıyor, kendi ajanlarını kuruyorlar” dedi. Wells Fargo’nun kendi üretken yapay zekâ asistanı ise bir milyardan fazla etkileşimi yönetti.

Yeni şartlar yalnızca Wells Fargo’nun ABD’deki internet ve mobil bankacılık müşterilerini kapsıyor ve şimdiye kadar adı geçen bankaların hepsi Amerikalı. Avrupa Birliği’nde ödeme kuralları, parayı okuyan ya da hareket ettiren uygulamaları ortak bir şifre yerine bankanın sunduğu lisanslı bağlantılara yönlendiriyor; bu da müşteri gibi giriş yapan ajanlara daha az alan bırakıyor.

Güncellenen Wells Fargo sözleşmesi 24 Kasım Salı günü yürürlüğe giriyor ve o günden sonra bankanın internet sitesini ya da uygulamasını kullanmaya devam eden herkes için geçerli oluyor. JPMorgan’ın kimlik bilgisiyle giriş yapan ajanlara yönelik yasağı Ekim ayının sonlarında, Bank of America’nın uyarısıyla aynı gün geldi. Wells Fargo ayrıca müşterilerden ajanlarını bankaya kaydettirmelerini isteme seçeneğini de elinde tutuyor; bu da bankaya, izlemediğini söylediği botların bir listesini verecek.

Etiketler: , , , , ,

Bizi Google'a ekleyin

Tartışma

0 yorum var.