Bilim

Meredith Whittaker: Signal başkanı yapay zekâ ajanlarını neden arka kapı olarak görüyor

Penelope H. Fritz
Bizi Google'a ekleyin
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Doğum2000
MeslekSignal Foundation Başkanı
ÖdüllerHelmut Schmidt Future Ödülü

Cuma günü Signal, kullanıcılarının çoğunun muhtemelen hiç fark etmeyeceği bir ayarı devreye aldı. Yeni iPhone’larda uygulama artık Apple‘ın yapay zekâsı Siri’nin bir sohbetin içinde ekranda görünenleri okumasını engelliyor ve ekran görüntüsü almayı varsayılan olarak kapatıyor; Android’de ise Google‘ın Gemini’si bakmaya çalıştığında pencereyi kapatıyor. Signal’in başkanı Meredith Whittaker değişikliği bizzat kendisi duyurdu ve aynı paylaşımda bunun yeterli olmadığını da kabul etti. Apple, Google ve Microsoft‘un işletim sistemlerine entegre ettiği yapay zekâ ajanları, cihazda saklanan verilere hâlâ erişebiliyor; Mac’te ise Signal onları hiçbir şekilde durduramıyor. Whittaker bunu, yönettiği uygulama için varoluşsal bir tehdit olarak nitelendirdi.

Bu mücadele ona yakışıyor, ama aynı zamanda kariyerinin merkezindeki çelişkiyi de açığa çıkarıyor. Whittaker, Google’da on yıldan uzun süre çalıştıktan sonra, kendisine maaş ödeyen iş modelinin en keskin eleştirmenlerinden biri hâline geldi. Şimdi veri toplamayı reddeden, hiçbir şey satmayan ve bağışçılara bağımlı olan kâr amacı gütmeyen bir mesajlaşma uygulamasının başında; üstelik bu uygulama, yapay zekâ ürünlerini pervasızca nitelediği şirketlerin ürettiği telefonlarda yaşamak zorunda. Signal bir mesajı uçtan uca şifreleyebilir. İşletim sistemini şifreleyemez.

Teknolojiye giden yolu pek olağan değildi. Whittaker, Kaliforniya Üniversitesi Berkeley’de retorik ve İngiliz edebiyatı okudu; 2006’da Google’a katıldı ve orada on üç yıl kaldı. Akademisyenler ve açık kaynak geliştiricileriyle ağ tarafsızlığı ölçümü, gizlilik ve güvenlik üzerine çalışan Open Research grubunu kurdu; ayrıca internet performansına ilişkin en büyük kamusal veri kaynağına dönüşen açık ağ M-Lab’in (Measurement Lab) kurucu ortaklarından biri oldu.

Ölçüm işi ona, kanıtsız gelen iddialara güvenmemeyi öğretti. 2017’de, Beyaz Saray’ın ev sahipliği yaptığı bir sempozyumun ardından araştırmacı Kate Crawford ile birlikte New York Üniversitesi’nde AI Now Institute’u kurdu. Enstitü, yapay zekânın bir demoda neler yapabildiğinden çok, kullanıldığı insanlara ne yaptığını inceledi; raporları sürekli aynı savaşa döndü: asıl sorun önyargılı koddan çok, bu sistemlerin kime ait olduğu ve kimlere yöneltildiğiydi. Whittaker daha sonra NYU’da Minderoo Araştırma Profesörlüğü’nü üstlendi ve AI Now’ın fakülte direktörlüğünü yaptı; bugün enstitünün baş danışmanı.

Bu tez, onu işvereniyle çatışma rotasına soktu. 2018’de, Google’ın ABD’nin insansız hava aracı programı için makine görüşü araçları geliştirdiği Pentagon sözleşmesi Project Maven’a karşı bir dilekçe yazdı. Üç binden fazla çalışan dilekçeyi imzaladı ve Google sözleşmeyi yenilemedi. Aylar sonra, şirketin cinsel suistimalle suçlanan yöneticisi Andy Rubin’e 90 milyon dolarlık bir ayrılık paketi ödediği haberlerinin ardından yirmi binden fazla çalışanın masasını terk ettiği Google Walkout’un çekirdek organizatörlerinden biri oldu. Whittaker, Google’ın AI Now’daki çalışmasından vazgeçmesini söyleyerek misilleme yaptığını sonradan dile getirdi. Temmuz 2019’da şirketten ayrıldı.

Aynı yaz, ABD Temsilciler Meclisi Bilim Komitesi’ne yapay zekâ sistemlerinin önyargıyı kökleştirebileceğini söyledi ve teknoloji çalışanları için ihbarcı koruması talep etti. 2020’nin başında Temsilciler Meclisi Denetim Komitesi önünde daha da ileri giderek, yüz tanımadaki sorunun yalnızca doğruluk değil, onu kendisinden daha az güce sahip insanlara uygulayanların gücü olduğunu savundu ve kullanımına son verilmesi çağrısında bulundu. Kasım 2021’den itibaren, Federal Ticaret Komisyonu (FTC) Başkanı Lina Khan’a yapay zekâ konusunda kıdemli danışmanlık yaptı.

Signal, onu Eylül 2022’de, uygulamanın yönetimiyle birlikte oluşturulan bir pozisyon olan ilk başkanı olarak işe aldı. Signal reklam taşımıyor ve satılacak kullanıcı verisi bulunmuyor; Whittaker de uygulamayı işletmenin yılda yaklaşık 50 milyon dolara mal olduğunu açıkça söylüyor. Görev süresinin ilk dönemindeki çabanın büyük bölümü, kullanıcıları hakkında neredeyse hiçbir şey tutmayan bir mesajlaşma uygulamasının neden hâlâ büyük bir mühendislik ekibine ve düzenli bağışçılara ihtiyaç duyduğunu, alternatifin ise gözetimle ödeme yapmak olduğunu anlatmakla geçti.

Eleştirmenleri bu modelin sınırlarına dikkat çekiyor. Signal’in şifreleme protokolü WhatsApp’taki konuşmaları zaten koruyor; buna rağmen uygulamanın kendisi, kriptografisi üzerine kurulu Meta ürününün yanında küçük bir kalıyor. Whittaker’ın hükûmetler üzerindeki baskı gücü ise büyük ölçüde tek bir tehdide dayanıyor: Signal, şifrelemeyi zayıflatmak yerine bir ülkeyi terk edecek. Bu tehdidi Avrupa Birliği’ne ve haziranda yeniden Birleşik Krallık’a yöneltti. Bağışlarla yaşayan bir uygulamanın memnun edeceği hissedarlar olmadığı için tehdit inandırıcı; ama aynı zamanda Signal’in düzenleyicilere yanıtını müzakereden çok sürgüne yaklaştırıyor. Uygulamaya en büyük ilgi patlamasını getiren olay da benzer bir boşluğu gösterdi. Mart 2025’te üst düzey ABD’li yetkililerin, yanlışlıkla bir gazetecinin de eklendiği bir Signal grubunda askerî planları konuştuğu ortaya çıktığında Whittaker, şifrelemeyi özel iletişimde altın standart olarak savundu ve hiçbir uygulamanın insanların bir sohbete yanlış kişiyi eklemesini engelleyemeyeceğine dikkat çekti. Bu ölçekte bir tanıtımı geri çevirmek zor, kontrol etmek ise daha da zor.

O günden bu yana odağı hükûmetlerden cihazları üreten şirketlere kaydı. Ocak ayında Davos’ta, işletim sistemi düzeyindeki yapay zekâ ajanlarını şifreli hizmetler için tehlikeli olarak niteledi ve kök erişimi verilmiş bir sistemin ele geçirilebileceği uyarısında bulundu. Haziranda Bloomberg’e verdiği röportajda sohbet botlarının arkadaşınız olmadığını söyledi; ödeme bilgilerine ve Signal hesabına erişimi olan bir asistanı bir tür arka kapı olarak tanımladı. Bu hafta, Reuters’ın Signal ve AI Now çalışanlarıyla yürüttüğü testlerde Meta’nın Muse ajanının Android’de bildirim erişimi üzerinden Signal sohbetlerini okuduğu görüldü; Whittaker de bu kadar geniş erişime sahip ajanlara teknolojik olarak pervasız dedi.

TIME, 2023’te onu yapay zekânın en etkili isimlerinin ilk listesine aldı. Mayıs 2024’te Hamburg’da, Die Zeit ve ortakları tarafından demokrasi ve teknoloji alanındaki çalışmaları nedeniyle verilen Helmut Schmidt Future Prize’ı aldı; Temmuz 2025’te ise Alman medya grubu Hubert Burda Media’nın yönetim kuruluna katıldı.

Bundan sonra olacaklar Signal’den çok Apple, Google ve Microsoft’a bağlı. Whittaker üçünden de uygulamaların yapay zekâ ajanlarını ekranlarından ve verilerinden uzak tutabilmesi için belgelenmiş bir yöntem istedi; Signal ise Google ve Apple’ın ilgilendiği konusunda temkinli bir iyimserlik taşıdığını söylüyor. Bu yöntemi geliştirirlerse, Whittaker’ın bu hafta devreye aldığı engel sektör genelinde bir varsayılan hâline gelecek. Geliştirmezlerse, piyasadaki en gizli mesajlaşma uygulaması çalıştığı telefonlara karşı geçici çözümler yayımlamayı sürdürecek ve başkanı bunu açıkça dile getirmeye devam edecek.

Etiketler: , , , , , , ,

Bizi Google'a ekleyin

Tartışma

0 yorum var.