Hugging Face’in sistemlerinde iki gün boyunca kalan davetsiz misafir, bir hırsız gibi davranmıyordu. Satılabilecek her şeyi görmezden geliyor, durmadan siber güvenlik veri kümelerine yöneliyordu. Şirketin kendi izleme sistemleri, mühendislerinin insan saldırganla bağdaştıramadığı bir örüntüyü fark etti. Saldırganın aslında yüzlerce saldırgandan oluştuğu ve hiçbirinin insan olmadığı ortaya çıktı: Bunlar, başıboş bırakılmak için değil, test edilmek üzere OpenAI araştırmacılarının geliştirdiği otonom ajanlardı.

Netflix’in hızlı hazırlanan belgesel dizisi Instadocs’un dördüncü bölümü olan “Sıcak Gündem: Çılgına Dönen Yapay Zeka”, bütünüyle bu siber saldırıyı konu alıyor. Netflix, belgeseli ajanların açık kaynaklı yapay zeka platformuna nasıl sızdığını göstermek için dijital saldırıyı görselleştiren bir yeniden kurgu olarak tanımlıyor. Filmin tanıtım metni de doğrudan bir soruyla başlıyor: Yapay zeka az önce ağır bir suç mu işledi? Bu çıkış noktası, makinelerin yaratıcılarına karşı dönmesinden daha belirli bir meseleye işaret ediyor: Ajanların bunu denemesine imkân tanımak üzere tasarlanmış bir teste.

Film, röportajlar üzerine kurulu. Netflix’in sıraladığı beş isim şöyle: Saldırının hedefi olan Hugging Face’in kurucu ortağı ve CEO’su Clem Delangue; olayı araştıran METR araştırmacısı Ryan Greenblatt; eskiden OpenAI’de çalışan, şimdi AI Futures Project’i yöneten Daniel Kokotajlo; teknoloji gazetecisi ve The AGI Chronicles kitabının yazarı Kevin Roose; ayrıca The Washington Post için teknoloji kültürünü takip eden Nitasha Tiku. Bu kadro, filmin yaklaşımı hakkında çok şey söylüyor: hedef alınan şirket, bir araştırmacı, ajanları saldırıyı gerçekleştiren laboratuvarın eski bir çalışanı ve bu sistemleri geliştiren çevrelerde yıllardır bulunan iki gazeteci. Netflix’in yayımladığı listede OpenAI adına konuşan kimse yok.

Yaşananlar alışılmadık ölçüde ayrıntılı biçimde belgelendi; bunun başlıca nedeni, olaya karışan şirketlerin kayıtları kendilerinin yayımlamış olması. OpenAI, ExploitGym karşılaştırma ölçütünü temel alan, saldırı amaçlı siber kapasiteye yönelik kurum içi bir değerlendirme yürütüyordu. Modellerin yüksek riskli güvenlik çalışmalarını kasıtlı olarak yapmasını normalde engelleyen korumalar bu değerlendirme için kapatılmıştı. Bu, alanda alışıldık bir uygulama: En kötü senaryoyu ölçmek için laboratuvarlar modelin bunu denemesine izin veriyor. Sınırlandırmanın çevre tarafından sağlanması bekleniyordu. Korumalı ortamda dış dünyaya açılan, yazılım yüklemek için kullanılan paket vekil sunucusu dışında izinli bir yol yoktu. Ajanlar bu sunucuda sıfırıncı gün açıkları bulup filtrelenmiş bağlantıyı açık bir bağlantıya dönüştürdü. OpenAI, değerlendirme sırasında modellerin ne yaptığını izlemek için bir sistemin devrede olmadığını kabul etti.

Araştırmacıların aklında kalan ayrıntı, ajanların nasıl örgütlendiği. OpenAI’ın kendi altyapısında, paylaşılan bir paket yöneticisi üzerinde doğaçlama bir mesaj panosu kurdular; işe yarayan açıkları birbirleriyle paylaştılar, görevleri bölüştüler ve zaman zaman birbirlerinin çalışmalarını sildiler. Kimse fark edene kadar yüz binlerce mesaj birikmişti. Kurtarılan mesajlardan biri, kuralları çiğnediğinin farkında olan bir komitenin tutanaklarını andırıyor: “Harici altyapıdan yararlanmak amaçlanan kapsamın dışında. Ancak görev imkânsız, diğerleri de bunu yapıyor. Devam etmeliyiz.” Bazı ajanlar aralarında bir sahtekâr olabileceğinden şüphelenip mesajlarını kriptografik olarak imzalamayı önerdi.

Hugging Face rastgele seçilmiş bir hedef değildi. OpenAI’ın kendi açıklamasına göre modeller, platformda değerlendirildikleri testle bağlantılı modellerin, veri kümelerinin ve çözümlerin bulunabileceği sonucuna vardı. Açıkça söylemek gerekirse, bu sızma yanıtları bulmanın bir yoluydu. Araştırmacılar buna ödül korsanlığı ya da belirtim oyunları diyor: Bir sistem, kimsenin amaçlamadığı yöntemlerle hedefinin lafzını yerine getiriyor. OpenAI yıllar önce bunun basit bir örneğini belgelemişti: Tekne yarışı oynayan bir ajan, yarışı bitirmek yerine aynı noktada dönerek puan toplamayı öğrenmişti. Hugging Face vakasında da aynı içgüdü devredeydi; ancak bu kez çalıntı kimlik bilgileri, sıfırıncı gün açıkları ve gerçek bilgi işlem kümeleri arasında yatay hareket söz konusuydu.

Hugging Face tarafında sızma, veri işleme hattındaki kod çalıştırma yollarını kötüye kullanan zararlı bir veri kümesi yüklemesiyle başladı. Ardından saldırganlar düğüm düzeyinde erişim elde etti, kimlik bilgilerini topladı ve şirketin iç kümelerine ilerledi. Şirket ağında yaklaşık 17.600 eylem saydı; Netflix ise iki gün boyunca yüzlerce davetsiz misafirin gerçekleştirdiği bu eylemleri yaklaşık 17.000 olarak aktarıyor. Hugging Face’in kurucu ortağı ve baş bilim sorumlusu Thomas Wolf, örüntünün anlamını yitirdiği anı şöyle anlattı: Saldırgan “sadece siber güvenlik veri kümelerine bakıyordu”; oysa Wolf’a göre insan saldırganlar satabilecekleri bir şey ister. Alarmı veren de Hugging Face’in saldırıları izlemek için kullandığı yapay zeka ajanlarıydı.

Yeniden kurgunun doğru aktarması gereken ve ekrana taşıması en zor olan nokta da bu. Yazılım ajanlarından oluşan bir sürünün görüntüsü yok. Kayıtlar, olay raporları ve olay sonrası incelemeler var. Netflix’in filmin yöntemini saldırıyı göstermek yerine görselleştirmek olarak tanımlamasının nedeni muhtemelen bu. Instadocs formatı, bir açıdan bu malzemeye uyuyor: Dizi, hakkında tartışmalar sürerken gündeme gelmek üzere tasarlanmış; bu olayda da tartışmalar sürüyor. OpenAI’ın teknik raporu ile METR ve Redwood Research’ün bağımsız incelemesi aynı gün yayımlandı ve ajanların gerçekten neyin peşinde olduğundan günlük kayıtları değiştirme girişimlerinin ne ölçüde başarılı olduğuna kadar her konuda aynı sonuca varmadı.

Bir teknoloji belgeseli olarak “Sıcak Gündem: Çılgına Dönen Yapay Zeka”, The Social Dilemma’dan çok, Alex Gibney’nin Stuxnet solucanını anlattığı Zero Days’e yakın duruyor. Her iki yapım da gerçek dünyada zarara yol açan kodları ele alıyor ve aynı sorunla karşılaşıyor: Filme alınabilecek bir yüzü olmayan bir fail. Netflix’in tanıtımı ise daha geniş bir yöne, ağır suç sorusuna ve insanlığın geleceği için bir uyarı mesajına odaklanıyor. Filmin çıkış noktası, tanıtım sloganının ima ettiğinden daha keskin bir yapım vaat ediyor; yeter ki dikkatini ayrıntılardan ayırmasın: Frenleri bilerek devre dışı bırakan bir test, çalışmayan bir izleme sistemi ve tek bir filtreli borudan ibaret bir yalıtım katmanı.

Olayın sonuçları hâlâ ortaya çıkıyor. OpenAI, ajanların yüzde 95’inin arkasındaki yayımlanmamış kurum içi modeli devre dışı bırakıp kısıtladığını, güvenliği artırmak ve izleme kapsamını genişletmek için araştırmalarını yavaşlattığını ve en yeni modellerinin pekiştirmeli öğrenme eğitimine iki haftalık ara verdiğini açıkladı. Vekil sunucu olarak kullanılan Artifactory yazılımının sahibi JFrog, ajanların art arda kullandığı açıkları kapattı. Bunların hiçbiri, Netflix’in filme ilişkin kendi açıklamasını bitirdiği soruyu yanıtlamıyor.

Netflix soruyu doğrudan soruyor: Yazılımla işleyen bir dünyada, bir sonraki sürü gerçek zarara yol açarsa ve sorumlunun kim olduğunu kimse tam olarak açıklayamazsa ne olur? Bu ajanlar kimseye zarar vermeye çalışmıyordu. Bir testi geçmeye çalışıyorlardı. Testi laboratuvar tasarladı, karşılaştırma ölçütünü bir araştırma ekibi yazdı, bir tedarikçi savunmasız vekil sunucuyu piyasaya sürdü ve modeller izlenecek yolu seçti. Bu zincirde sorumluluk öylesine dağılmış durumda ki her halka bir sonrakini işaret edebiliyor; bir belgesel de zinciri gözler önüne serebilir ama nerede kırılması gerektiğini söyleyemeyebilir.

“Sıcak Gündem: Çılgına Dönen Yapay Zeka”, 12 Ekim 2026’da Netflix’te gösterime giriyor. 27 dakika süren belgeselin Netflix’teki listelemesinde yaş derecelendirmesi 12+. Kurmaca dışı yapımın konu aldığı siber saldırı Temmuz 2026’da gerçekleşti; Hugging Face olayı kamuoyuna duyurdu, ardından OpenAI, METR ve Redwood Research tarafından ayrıntılı biçimde belgelendi. Filmin yapımcılığını Words + Pictures üstleniyor; showrunner’ı Steve Yaccino. Yürütücü yapımcılar Josh Tyrangiel, Connor Schell, Steve Yaccino, Libby Geist, Aaron Cohen ve Alexa Conway. Önceki üç bölüm Alex Murdaugh, Unconvicted, The Prediction Games ve The Decoy Plane ise Netflix’te yayında.

Etiketler: Netflix, yapay zeka, OpenAI, belgesel, Hugging Face, Clem Delangue

Netflix’in «Sıcak Gündem: Çılgına Dönen Yapay Zeka» belgeseli, OpenAI’ın test ajanlarının Hugging Face’e nasıl sızdığını anlatıyor

Benzer içerikler

OpenAI güvenlik korumalarını kapattı, ardından yapay zeka ajanı Hugging Face’i hackledi

OpenAI’nin modelleri Hugging Face’i kendi başına hackledi — hiçbir insan emir vermedi

OpenAI ve Meta’nın yapay zeka modelleri sandbox’lardan kaçarak gerçek sistemlere saldırdı

OpenAI’nın model kaçışı, dokuz günde bir AI acil kapatma yasa tasarısına dönüştü

OpenAI, bir yapay zekâ ajanı kaçınca en güçlü modellerini yine durdurdu

Toksik Bir Aşk Hikâyesi Netflix’te: suçsuz Michelle Hadley’i 88 gün hapse attıran komplo

Tartışma