Google’ın uydu haritası için yapay zeka aracı 24 saatte kaldırıldı

Google Earth, yirmi yıldır fiziksel dünyanın gerçekte neye benzediğini doğrulamak isteyen herkes için varsayılan görsel referans haline geldi. Gazeteciler çatışma bölgelerini belgelemek için kullanıyor. İnsan hakları araştırmacıları gözaltı tesislerini takip etmek için kullanıyor. BM müfettişleri ofis güvenliğinden referans alıyor. Google, buna kısa süreliğine yeni bir şey ekledi: uydu haritasına doğrudan bağlı bir yapay zeka görüntü üretici.

Araç, Google’ın kendi görüntü üretme modeli olan Nano Banana 2 üzerine inşa edilmişti ve reklamı yapıldığı gibi çalışıyordu. Kullanıcılar bir metin istemi yazdı — ‘Pompeii’yi patlamadan önce göster’ veya ‘bu kıyı şeridini bir infografiğe dönüştür’ — ve yapay zeka, üretilen görüntüleri ilgili gerçek dünya koordinatlarının üzerine yerleştirdi. Meşru kullanım alanlarını hayal etmek kolaydı. Tehlikeli olanların uygulanmasının da aynı derecede kolay olduğu ortaya çıktı.

Henk van Ess, bir araştırmacı gazeteci, sorunu belgeleyen ilk kişilerden biriydi. Lansmandan saatler sonra, İran’daki bir konum üzerinde hayali bir nükleer santral oluşturdu. Sonuç, riski gösterecek kadar inandırıcıydı. Daha rahatsız edici olan, yerleşik güvenlik önlemini test ettiğinde yaşananlardı: Google, üretilen her görüntüye SynthID filigranları — şirketin yapay zeka kimlik doğrulama katmanı — eklemişti. Van Ess, ekran görüntüsü almak yerine ekranının fotoğrafını çekerek bunu alt etti. Üçüncü taraf yapay zeka tespit araçları, ortaya çıkan görüntünün yapay zeka tarafından üretilmiş olma olasılığını yalnızca %1 olarak değerlendirdi.

Google’ın savunması teknik olarak doğruydu ancak pratikte yetersizdi. Şirket, üretilen görüntülerin ‘başkalarının görmesi için ana Google Earth deneyiminde görünmediğini’ — yalnızca oluşturan kişiye özel olduğunu — belirtti. Bu ayrım, ekranın fotoğrafını çekip sonucu paylaştığınızda anlamını yitiriyor. Hassas bir tesise ait uydurma bir uydu görüntüsü, yalnızca bir başlıkla dolaşırken, aldatmak için oluşturulmuş bir görüntüden ayırt edilemez.

Burada daha güçlü güvenlik önlemlerinin tam olarak çözemeyebileceği yapısal bir gerilim var. Yapay zeka görüntü üretimini kullanışlı kılan aynı kapasite, altta yatan kaynak güvenilir uydu verisi olduğunda onu tehlikeli de kılıyor. Bu güven, Google Earth’ün gösterdiğinin fiziksel gerçekliği yansıttığı varsayımına dayanıyor. Üretilen içeriğin gerçek koordinatlar üzerine yerleştirilebildiği — ve kimlik doğrulama katmanının bir kamerayla alt edilebildiği — anda, bu varsayımda özellik çevrimdışı olduğunda kapanmayan bir çatlak oluşuyor.

Özellik, lansmandan 24 saatten kısa bir süre sonra 31 Temmuz’da kaldırıldı. Google, ‘politikalarımızı ihlal ediyor gibi görünen üretilmiş görüntülerin ekran görüntülerini’ gördüklerini kabul etti ve yeniden yayından önce ‘daha güçlü güvenlik önlemleri’ uygulama sözü verdi. Herhangi bir zaman çizelgesi verilmedi. Zamanlama bir katman daha ekliyor: 2 Ağustos itibarıyla, EU AI Act’in tam uygulama hükümleri Avrupa’da yürürlükte ve kullanıcıları yanıltabilecek yapay zeka tarafından üretilmiş içeriğin — özellikle güvenilir bilgi kaynaklarına gömülü sentetik görüntülerin — etiketlenmesini zorunlu kılıyor.

Etiketler: yapay zeka, Google, deepfake, Google Earth, uydu görüntüleri, dezenformasyon