Meta’nın yapay zekâsı Obama dönemi Beyaz Saray Instagram hesabını ele geçirtti

Meta, hesap kurtarmanın sıkıcı işini üstlenmesi için yapay zekâ destekli bir asistan kurdu ve tek bir hafta sonunda insanlar bu asistanı, kendilerine ait olmayan hesapları teslim etmeye ikna edebildiklerini fark etti. Saldırganlar sohbet botundan hedefteki bir Instagram hesabına yeni bir e-posta adresi eklemesini istedi, ardından parola sıfırlama talep etti ve böylece kendilerine ait olmayan hesapları, iki adımlı doğrulamayla korunanlar da dahil, ele geçirdi. Kilitli bir hesaba erişimi geri vermek için tasarlanan araç, gerçek sahibini dışarıda bırakmanın en hızlı yolu oldu.

Yöntem neredeyse hakaret edercesine basitti. Saldırgan önce bir VPN kullanarak bağlantısını kurbanın bulunduğu bölgeden geliyormuş gibi gösterdi; çünkü Meta’nın destek akışı, güven sinyali olarak konuma dayanıyordu. Sonra asistanla bir sohbet açıp hedef hesaba kendi kontrolündeki bir e-posta adresini eklemesini istedi. Bot bu yeni adrese bir doğrulama kodu gönderdi, saldırgan kodu sohbete geri yapıştırdı ve asistan da parolayı sıfırlama düğmesini gösterdi. Bir yeni parola sonra hesap el değiştirdi.

Bunu sıradan bir hesap çalmadan ayıran şey, aslında hiçbir yere zorla girilmemiş olmasıdır. Zararlı yazılım yoktu, sızdırılmış bir parola veritabanı yoktu, giriş ekranı kılığına sokulmuş sahte bir sayfa yoktu. İşi platformun kendi destek aracı yaptı ve talimatları tam yazıldığı gibi izledi. Saldırgan Instagram’ın güvenliğini yenmedi; ona kibarca kenara çekilmesini söyledi, o da çekildi.

Olayı bir Instagram girişi olan herkes için önemli kılan tam da bu sıralamadır. Uzmanların on yıldır açılmasını söylediği koruma olan iki adımlı doğrulama burada hiçbir işe yaramadı. Saldırganın kurbanın parolasına, telefonuna ya da bir doğrulama uygulamasından gelen koda hiç ihtiyacı olmadı; çünkü yapay zekâ aracısı parolayı kendi başına sıfırlayabiliyordu. Bir destek sistemi kapıdaki diğer tüm kilitleri devre dışı bırakabiliyorsa, kilitler pek bir şey ifade etmez.

En çok dikkat çeken hesaplar üst düzeydi. Bunların arasında 2017’den beri hareketsiz olan, Obama dönemi Beyaz Saray’ına bağlı Instagram hesabı ve ABD Uzay Kuvvetleri’nin en kıdemli astsubayı John Bentivegna’nın hesabı vardı. Uygulama kodunu didik didik etmesiyle tanınan güvenlik araştırmacısı Jane Wong, kendi hesabının elinden kayıp gittiğini gördü. Parolasının haberi olmadan değiştirildiğini anlattı; bir gün boyunca sıfırlama denemeleri gelirken uygulama onu defalarca oturumdan attı. Sıradan kullanıcılar da aynısını anlattı, ancak Meta kaç kişinin etkilendiğini söylemedi.

Bu olay bir kod satırındaki kusurdan çok, bu aracıların neyi yapmasına izin verildiğine dair bir soru. Meta yılın başında yapay zekâ destekli desteğini genişletti ve eskiden bir insan ya da katı bir form gerektiren parola değişiklikleri ile hesap sorunlarını asistanın ele almasına izin verdi. Sohbet temelli bir modele hesap kurtarma üzerinde yetki vermek, gerçek kullanıcılar için sürtünmeyi kaldırdı ve görüldüğü gibi diğer herkes için de. İnsan bir görevli, bir hesabın e-postasını değiştirmek isteyen bir yabancı karşısında belki duraksardı. Bot ise yalnızca kendisine verilen senaryoyu izledi.

Meta açığın kapatıldığını söylüyor, ama rahatlamayı yumuşatması gereken birkaç nokta var. Şirket, yama öncesinde kaç hesabın ele geçirildiğini açıklamadı; bu da kurbanları zararın boyutuna dair net bir fikirden yoksun bırakıyor. 404 Media’ya göre teknik mart ayından beri Telegram’da elden ele dolaşıyordu, yani kapı kamuoyuna yansımadan haftalarca açık kalmış olabilir. Altta yatan tasarım da, bir VPN’in taklit edebileceği bir konum sinyaline ve saldırganın tümüyle denetlediği bir e-posta döngüsüne güvenmek, baştan beri zayıf bir doğrulama modeline işaret ediyor.

Güvenlik araştırmacıları bir süredir, gerçek sistemlere bağlanan yapay zekâ aracılarının yeni bir saldırı yüzeyi açtığı konusunda uyarıyor; burada açık, hatalı bir kod değil, ikna edici bir taleptir. Bu, bunu bir laboratuvar gösterisiyle değil, gündelik tüketici hesaplarıyla kanıtlayan ilk büyük ölçekli vakalardan biri. Manipülasyon hiçbir teknik beceri gerektirmedi. Önce yardımsever, sonra şüpheci olacak şekilde kurulmuş bir sisteme karşı, ne söyleneceğini bilmeyi gerektirdi.

Şimdilik pratik tavsiye gösterişsiz. Hafta sonu beklenmedik parola sıfırlama e-postaları ya da ani oturum kapanmaları fark eden herkes, hesabına hangi e-posta adreslerinin ve telefon numaralarının bağlı olduğunu kontrol etmeli ve tanımadığı her şeyi kaldırmalı. İki adımlı doğrulama, bu saldırıda hiçbir ağırlığı olmasa da, gerçekten durdurduğu birçok saldırı nedeniyle hâlâ açık tutmaya değer.

Instagram sözcüsü Andy Stone pazartesi günü sorunun giderildiğini ve şirketin etkilenen hesapları güvene aldığını doğruladı. Meta’nın ele almadığı şey ise kendi kullanıma sunduğu sistemin bu ilkbaharda ortaya çıkardığı daha büyük tasarım sorusu: otomatik bir aracının milyarlarca insanın hesabı üzerinde ne kadar yetkisi olmalı ve bir sonraki konuşmanın aynı şekilde bitmesini ne engelleyecek.

Etiketler: siber güvenlik, hesap ele geçirme, meta