Google Earth’ün yapay zekâ deepfake aracı bir gün dayandı — ve dayandığı güveni sarstı

Google‘ın Google Earth’e yaptığını anlamanın en hızlı yolu, onu ne kadar çabuk geri aldığını fark etmektir. Gezegenin en güvenilir haritasına uydurma bir gerçekliği işleme imkânı sunan bir özellik geldi, görselleri doğrulayarak geçinen insanlardan bir alarm dalgası yarattı ve çoğu kullanıcı onu görmeden ortadan kayboldu. Google bu geri dönüşe bir duraklama adını verdi. Daha çok, bir şirketin yanlış ürüne yanlış şeyi sürdüğünü herkesin önünde keşfetmesi gibi okunuyor.

Mekanizma, gösteriden daha önemlidir. Google Earth’ün tüm değeri kanıtsaldır: gazetecilerin, mahkemelerin, insani yardım izleyicilerinin ve açık kaynak araştırmacılarının tam da bir uydu görüntüsünün sahtesinin yapılması zor olduğu için gittiği yerdir. Bu yüzeye bir prompt’tan görsel üretici eklemek, yaratıcı bir oyuncak eklemek değildir — ürünü güvenilmeye değer kılan tek özelliği bozmuş olursunuz. Araç, yapmak üzere inşa edildiği şeyi yaptı. Sorun da buydu.

Google’ın geri adım atmadan önceki savunması bir filigrandı. Şirket, üretilen her görselin, yapay zeka içeriği için görünmez işareti olan SynthID’yi taşıdığını ve kullanıcıların her zaman Gemini veya Lens ile bir görseli kontrol edebileceğini belirtti. Ancak filigran, zaten bir görselden şüphelenen ve onu inceleme imkânı olan kişiler için adli bir araçtır. Asıl önemli olan anda — kaydırma, paylaşma, bağlamından koparılmış ve kimsenin doğrulamak için durmadığı bir akışa itilmiş ekran görüntüsü — hiçbir işe yaramaz. SynthID’yi güvence olarak sunmak, bir kontrolden çok bir mazeretti: riskin düşünüldüğünün ve geçiştirildiğinin kanıtı.

Önerilen okumaBir yapay zekâ çalışan bir zero-day exploit yazdı — Google önce yakaladı

Dış dünyanın saatler içinde ürettiği şey, Google’ın üzerinde düşünmesi gereken kısım. Bu sistemleri inceleyerek geçinen araştırmacıların haftalara ihtiyacı olmadı. İran’da bir nükleer santral, sınırda toplanan mülteciler, bir hastanede bomba krateri, Batılı bir şehre düşürülmüş bir patlama krateri ürettiler — piyasaları hareket ettiren, çatışmaları körükleyen ve her türlü düzeltmeyi geride bırakan görüntülerin tam kataloğu. Bir araştırmacı, istediği hiçbir şeyin reddedilmediğini bildirdi. Bu, akıllıca bir kötüye kullanım hikayesi değil. Bu, yayına girmeden önce en temel düşmanca testlerden bile geçemediği anlaşılan bir lansmanın hikayesi — yabancıların daha sonra Google’ın pahasına ücretsiz olarak yaptığı testler.

Bellingcat araştırmacıları, uydu görüntülerini uzun süredir dezenformasyon ekonomisinde güvenli bir bahis olarak görüyordu, tam da kaynağın çok yukarıda ve erişilemez olması nedeniyle. Böyle bir aracın tehlikesi tek bir sahte değil. Ortam tehlikesidir: inandırıcı sahte uydu görüntüleri yapmak önemsiz hale geldiğinde, her gerçek görüntü tartışmalı hale gelir. Sahtekar, sahtecilik yakalandığında bile kazanır, çünkü şüphe üründür. Bir emsal zaten var — yakın zamanda yaşanan bir Orta Doğu çatışması sırasında, hasar görmüş bir Amerikan üssünün uydurma uydu görüntüleri dolaşıma girdi; Earth görüntüleri ve yapay zeka kullanılarak oluşturulmuştu. Google az önce bu iş akışını bir düğmeye dönüştürmeye çalıştı.

Dolayısıyla hesap verebilirlik sorusu Google’ın hızlı hareket edip etmediği değil. Bu özelliğin, bu üründe, bir korkuluk yerine geçen bir filigranla neden var olduğudur. Yirmi dört saatlik bir ömür, yanıt verme başarısı değildir; öngörülebilir bir zararın yayınlanmasına izin veren ve internetin bunu yakalayacağına güvenen bir yönetişim sürecinin faturasıdır. Şirket, özelliği daha güçlü kontrollerle geri getireceğini söylüyor. Daha dürüst okuma, Google’ın Google Earth’ün en zor kazanılmış varlığının bir kısmını — kanıt olarak güvenilirliğini — bu takasla sıyrılıp sıyrılamayacağını görmek için harcadığıdır.

Bu sefer sıyrılamadı. Ancak haritanın boyanabilir olduğu zaten gösterildi ve bu bilgi özellikle geri alınmıyor.

Etiketler: Google, deepfake, Google Earth, Nano Banana, uydu görüntüleri

Benzer içerikler

Silikon denetçi: yapay zeka yayımlanmış fiziğin otoritesini nasıl sorguluyor

Suncatcher Gambiti: Google’ın Yapay Zeka Geleceğini Kazanma Planının Perde Arkası

İnternetin hiç sahip olmadığı kimlik katmanı, şimdi sentetik baskı altında inşa ediliyor

Hinton her gün kullandığınız yapay zekânın çoktan bilinçli olduğunu söylüyor

Google’ın yapay zekâsı 56 yıldır açık olan matematik problemlerini birkaç yüz dolara çözdü

Guggenheim: AI korkusu ServiceNow ve Salesforce hisselerini gereğinden fazla düşürdü