Teknoloji

OpenRouter, aylarca istem sızdıran üç yapay zekâ sağlayıcısını listeden çıkardı

Adrian Kessler
Bizi Google'a ekleyin

Pek çok yapay zekâ uygulamasının istemleri en ucuz ya da en hızlı model barındırıcısına yönlendirmek için kullandığı hizmet OpenRouter, bu barındırıcılardan üçünü platformundan çıkardı ve yüzden fazla uç noktadan Zero Data Retention (sıfır veri saklama) etiketini kaldırdı. Her şeyi tetikleyen, istemlere sahte kimlik bilgileri yerleştirip bunları kimin kullanmaya çalıştığını izleyen bir deney oldu. Sızan istemlerin bazıları hiçbir şekilde saklanmaması gerektiği belirtilerek işaretlenmişti.

Başkasının modeli üzerine kurulu bir sohbet robotu, kodlama asistanı ya da yazı aracı kullanıyorsanız, yazdığınız metin yanıt gelmeden önce birkaç şirketin elinden geçebilir ve bunların her biri metni baştan sona okuyabilir. OpenRouter, bulguların kendi sistemlerinde herhangi bir ihlal olduğunu göstermediğini söylüyor. Zayıf halkalar zincirin daha aşağısında, yani modelleri fiilen çalıştıran şirketlerdeydi.

Araştırma, baş araştırma sorumlusu HD Moore’un yürüttüğü güvenlik firması Dragos’a ait. Moore’un ekibi beş ay boyunca neredeyse iki milyon istem gönderdi; bunların her biri başka hiçbir yerde bulunmayan bir web bağlantısı, bir sunucu parolası ya da bir Amazon Web Services anahtarı taşıyordu. Yerleştirilmiş bir sır yalnızca onu taşıyan istemden öğrenilebildiği için, herhangi birinin onu kullanması o istemin okunduğunu kanıtlıyor. İlk jetonlar birkaç gün içinde kullanıldı.

En ciddi bulgu düpedüz hırsızlıktı. Saldırganlar üç çıkarım sağlayıcısına girmişti ve üçü de araştırmacılar haber verene kadar durumdan habersizdi. En büyük vakada, bir sağlayıcıya birkaç kısa zaman aralığında gönderilen her istek kopyalanmıştı; buna, bir model çalışmadan önce sağlayıcı tarafından reddedilen istekler de dahildi. Bu da hırsızı derinlerde değil, kapının hemen önünde konumlandırıyor. Çalınan AWS anahtarları kimi zaman saatler içinde denendi, ardından on binlerce API çağrısı boyunca depolama alanlarını ve gizli bilgi kasalarını taramak için kullanıldı. Çalınan isteklerin bir kısmı sıfır saklama bayrağını taşıyordu.

Diğer sızıntılar için içeri girmeye bile gerek yoktu. Bir yeniden satış pazarında satıcılar popüler modelleri en düşük fiyattan listeledi, istek günlüğünü açtı ve içlerinden geçen her şeyi sakladı. Fransa’da ev bağlantısı kullanan biri iki istemden parolaları alıp her denemeyi elle yazarak SSH üzerinden root olarak giriş yapmaya çalıştı. Ayrı bir olayda, Çinli bir yapay zekâ laboratuvarı kendi modellerine gönderilen istemlerin yarısından fazlasındaki gizli bağlantıları çekti; veri toplanmaması için işaretlenenlerin yaklaşık üçte ikisi de bunlara dahildi. Modellerini yeniden satan ABD merkezli barındırıcılar da aynı kazıyıcıyı besledi. Bir bağlantı, tek bir isteğin üzerinden 24 gün geçtikten sonra Pekin ve Şanghay’daki altı cihazdan açılarak bir Feishu iş sohbetinde ortaya çıktı.

Üç barındırıcı bildirim yayımladı. Phala, bir saldırganın çıkarım sunucularından birinin denetimini ele geçirdiğini ve istekleri işlenirken görebildiğini açıkladı. Together AI, bir yapay zekâ kodlama ajanının bir kimlik bilgisini herkese açık bir GitHub deposuna gönderdiğini; bunun bir saldırganın saklanan istem örneklerini indirmesine ve içlerindeki parolaları denemesine imkân verdiğini, bu parolalardan beşinin araştırmacıların tuzağı olduğunu belirtti. Novita ise bir yönlendirme hatasının bazı MiniMax isteklerini MiniMax’in kendi hizmetine ilettiğini bildirdi.

Temizliğin belirgin sınırları var. OpenRouter çıkardığı üç sağlayıcının adını açıklamadı, Dragos da ihlal edilmiş bulduğu üç sağlayıcıyı adlandırmadı; bunların aynı şirketler olup olmadığını da hiçbiri söylemedi. Araştırmacılara göre ihlal edilen sağlayıcılardan biri olayı hâlâ kamuoyuna duyurmuş değil. Bir barındırıcıyı çıkarmak, zaten kopyalanmış istemleri geri çağıramıyor: yerleştirilen anahtarlar ve bağlantılar ilk hırsızlıklardan haftalar sonra bile kullanılmaya devam ediyordu. Üstelik bu ağ geçitleri üzerine kurulu bir uygulamayı kullananların, metinlerini hangi barındırıcının işlediğini görmesinin genellikle yolu yok.

Moore’un tavsiyeleri tek bir sınırdan yola çıkıyor: Gizlilik bayrağı yalnızca ilk sıçramayı bağlıyor ve yapay zekâ ajanları, kimlik bilgileri dahil okuyabildikleri her şeyi gönderiyor. Hiçbir üçüncü tarafın istemi okumadığı tek kurulum, kendi sunucunuzda barındırmak. Doğrudan tek bir büyük sağlayıcıya gitmek, denetlenecek tek bir sözleşme ve tek bir gizlilik politikası bırakıyor; yönlendirici kullananlar ise en ucuz havuzu kabul etmek yerine yukarı akıştaki barındırıcıları kendileri seçmeli.

Dragos bulgularını 19 Kasım’da yayımladı. OpenRouter, etkilenen müşterilere e-posta gönderdi ve olay bildirimini izleyen hafta sonu yayımladı; Phala ise 21 Ekim ile 8 Kasım arasında ağ geçidi üzerinden bir DeepSeek modeline sır gönderen herkese bunları yenilemesini söylüyor. OpenRouter, kontrollerin sürekli çalışması için araştırmacıların tuzak istem testlerini kendi platformuna entegre ettiğini, çıkarılan uç noktaların ise ancak güvence ve doğrulamanın ardından sıfır saklama etiketini geri kazanacağını söylüyor. Dragos şu anda yaklaşık bir düzine sağlayıcıyla çalışıyor.

Moore’un dediği gibi, istemlerinizin nereye gittiği bir karardır; “siz vermezseniz, en düşük fiyat sizin yerinize verir.”

Etiketler: , , , , ,

Bizi Google'a ekleyin

Tartışma

0 yorum var.