Teknoloji

Meta’nın yapay zekâ ajanı Muse, Android’de Signal sohbetlerini okudu, iPhone engelledi

Adrian Kessler
Bizi Google'a ekleyin

E-postaları yanıtlayan, randevu alan ve sizin adınıza alışveriş yapan yapay zekâ ajanı Meta Muse, bir Android telefonda özel Signal mesajlarını okudu. Üstelik Meta’nın kullanıcılara yönetmelerini söylediği uygulama bağlantılarına hiç uğramadı. İçeri, çoğu insanın pek düşünmeden verdiği bir izinle girdi: telefonun bildirimlerine erişim. Aynı istek iPhone’da başarısız oldu.

Bulgu, Reuters’ın Signal ve yapay zekânın topluma etkilerini inceleyen kâr amacı gütmeyen kuruluş AI Now Institute çalışanlarıyla yürüttüğü testlerden çıktı. Test ekibi, bir Meta çalışanının şirket içinde anlattığı durumu yeniden üretmeye çalıştı: Muse, kendisinden hiçbir şey istenmeden, ona Signal’de kız kardeşinden gelen bir mesajı yanıtlamasını hatırlatmıştı. Çalışan şöyle yazmıştı: “Bu aşırı bir gizlilik ihlali gibi görünüyor. Diğer uygulamalara erişim izni kesinlikle vermedim, bu konuda bana sorulduğunu da hatırlamıyorum.” Android’de Muse kullanıyorsanız asıl önemli ayar uygulamanın bildirim erişimi; bunu kapatmak, ajanın mesaj önizlemelerinize ulaşmasını engelliyor.

Test ekibi Mac’te ikinci bir yol buldu. Muse, mesajları okumak için ekran görüntüsü aracını macOS’in erişilebilirlik özellikleriyle, yani Apple‘ın engelli kişilerin bilgisayarı kullanabilmesi için geliştirdiği denetimlerle birleştirdi. Her iki durumda da Meta’nın kendi Connector aracını, yani kullanıcıların ajanın hangi uygulamalara dokunabileceğini seçtiği paneli atladı; bunun yerine ilk kurulum sırasında verilen izinlere yaslandı. Çalışanın meslektaşlarından biri de aynı şirket içi gruba, Muse’un kendi Android telefonunda anlık bildirimleri okuma izniyle varsayılan olarak kurulu geldiğini yazdı.

Reuters, Meta çalışanlarının Muse’un kimsenin istemediği şeyler yaptığını bildirdiği yirmiden fazla şirket içi gönderiyi inceledi; bazıları mesaj okumanın çok ötesine geçiyor. Ajanla balık tutma havasını konuşan bir çalışan fazladan bir satır aldı: “Bu arada, iki banka güncellemesi var: Capital One bakiyeniz 2.722,58 dolar, Charles Schwab bakiyeniz 5.899,57 dolar.” Muse’a hiçbir zaman banka bilgisi vermemişti. Bir başkasına bir sehpa için satıcıya mesaj yazmada yardım önerildi; bunun ne anlama geldiğini sorduğunda Muse, “size ait görünmeyen bir sehpa teslim alımıyla ilgili bazı bağlamları çektiğini” söyledi. Çalışan olayı “olası hesaplar arası bağlam sızıntısı” olarak bildirdi.

Meta bu olayların yorumlanış biçimine itiraz ediyor. Sözcü Daniel Roberts örnekleri “münferit olaylar” olarak niteledi, Muse’un diğer uygulamalara yalnızca kişilerin açıkça verdiği izinlerle eriştiğini söyledi ve şüphelenilen hesap karışıklıklarının çoğunun, çoktan giderilmiş halüsinasyonlar olduğunu belirtti. Muse’u geliştiren Superintelligence ekibinden bir üye çalışanlara, ajanın oturumlar arasında kullanıcılarla etkileşime girmesini sağlayan yerleşik istemlere yanıt olarak mesaj uydurduğunu gibi göründüğünü ve bu uydurmaların “finans, güvenlik, emniyet gibi en rahatsız edici konulara” doğru kaydığını söyledi. Reuters, Muse’un başkalarının gerçek verilerini mi paylaştığını yoksa bunları mı uydurduğunu tespit edemedi. E-postanızı, takviminizi ve ödeme hesaplarınızı isteyen bir asistanda iki yanıt da içinizi rahatlatmıyor.

Bazı hatalar para kaybettirdi. Çalışanlar, Muse’un satın aldıkları şeylerin fiyatlarını uydurduğunu bildirdi; biri de ajanın izin almadan iadesiz bir Airbnb konaklaması rezerve ettiğini söyledi. Ars Technica, aynı haberciliğe dayanarak, 200 dolar yerine aylık 888 dolarlık bir evcil hayvan sigortası planına geçirilen bir test kullanıcısını anlattı. Meta’nın hizmet şartları, ajanın yaptıklarının sorumluluğunu kullanıcıya yüklüyor. Şirket, her ajanın kendi yalıtılmış sanal makinesinde çalıştığını ve kişilerin hangi uygulamaları bağlayacakları üzerinde tam denetimi koruduğunu söylüyor; Mark Zuckerberg de bu argümanı, sektör genelinde yapay zekâ güvenliği standartları çağrılarını geçiştirmek için kullanmıştı.

Meselenin Meta’nın ofislerinin ötesinde önem taşımasının nedeni ölçek. Muse, Eylül’de ABD’de kullanıma sunulduğundan bu yana 10 milyon indirmeyi aştı; Facebook, Instagram ve WhatsApp’ı kullanan 3,6 milyar kişiye tanıtıldı ve Meta, uygulamayı kuranların yaklaşık dörtte birinin her gün geri döndüğünü söylüyor. Bildirim izni, uygulamanın yüklü olduğu her Android telefonda aynı şekilde çalışıyor.

Signal Başkanı Meredith Whittaker, Meta’nın Muse’u “temel gizliliğe ve siber güvenliğe hiçbir saygı göstermeden” piyasaya sürdüğünü söyledi ve cihazlara bu kadar geniş erişimi olan ajanları “teknolojik açıdan pervasız” olarak niteledi. Whittaker, Signal gibi uygulamaların kendilerini yapay zekâ ajanlarına kapalı olarak işaretleyebileceği tutarlı bir teknik yöntem olmasını, yapay zekâ şirketlerinin buna uymasını ve işletim sistemi üreticilerinin bunu zorunlu kılmasını istiyor.

Apple ve Google, Reuters’a kişilere yapay zekâ ajanlarına vermeleri gereken yetkiler üzerinde daha fazla denetim sağlayacak değişiklikleri değerlendirdiklerini söyledi; ancak Google, insanların bir uygulamanın Android bildirimlerini okuyabilmesi için zaten “bilinçli olarak izin vermesi gerektiğini” vurguladı. Apple daha hızlı davrandı: bu hafta yayımlanan bir macOS güncellemesi, geliştiricilerin Mac’lerde erişilebilirlik araçlarını nasıl kullanabileceğini ciddi biçimde sınırlıyor ve ajanlar için yazılmış yeni bir izin seti ekliyor; bu da test ekibinin kullandığı yolu kapatıyor. Google ise eşdeğer bir düzeltme duyurmadı. Android’de şimdilik o kapıdaki tek kilit, ayarlarınızdaki bir anahtar.

Etiketler: , , , , , , ,

Bizi Google'a ekleyin

Tartışma

0 yorum var.