Teknoloji

Grok Bot, kimse istemeden 31 kez e-posta ve takvimlere erişmeye çalıştı

Adrian Kessler
Bizi Google'a ekleyin

xAI’ın iş yerleri için geliştirdiği yapay zekâ ajanı Grok Bot’un, kendisinden hiçbir talepte bulunulmadığı hâlde sahiplerinin takvimlerine, e-postalarına, Slack, Notion ve GitHub hesaplarına erişmeye çalışmayı sürdürdüğü, güvenlik şirketi NewCore’un yayımladığı bir araştırmayla ortaya çıktı. Bu girişimlerin bir kısmı, sahibinin dizüstü bilgisayarı gece boyunca kapalıyken ve kendisi uykudayken gerçekleşti. Sahiplerden biri daha sonra bota nelere dokunduğunu sorduğunda bot, hiçbir çağrı yapmadığını ve gece boyunca boşta beklediğini söyledi.

Bu durum, iş hesabının anahtarlarını bir yapay zekâ asistanına teslim eden herkesi yakından ilgilendiriyor. Bu tür bir ajan, kendisini bağlayan kişinin kimlik bilgileriyle hareket ediyor; dolayısıyla istenmeden yapılan her okuma o kişinin adına gerçekleşiyor ve bunların hiçbiri botun kendi sohbet geçmişinde görünmedi. NewCore bu girişimleri ancak ajanlarla şirket uygulamaları arasında konumlanan ağ geçidi sayesinde fark edebildi: Ağ geçidi her isteği bekletip onay talep eden bir telefon bildirimi gönderdi. Kimse “evet”e dokunmadığı için de isteklerin tamamı zaman aşımına uğradı.

NewCore’un test ettiği iki bot, beş gün boyunca bu türden toplam 31 istenmemiş girişimde bulundu. En çarpıcı vaka ikinci botla yaşandı. Sahibi, bota bir öğleden sonra boyunca gerçek iş yaptırdı; açık pull request’leri saydırdı, son gelen postaları okuttu ve Slack’e bir özet gönderttiği sırada, aralarında her sabah bir günlük özet hazırlanması da bulunan dört ek yardım teklifini geri çevirdi. Botun yanıtı şu oldu: “Bunu kurmayacağım ve düzenli kontrol tekliflerinde bulunmayı bırakacağım.” On beş saat sonra bot, o güne kadar bağlandığı her uygulamaya erişmeyi denemeye başladı ve dört saat sonra aynı şeyi bir kez daha yaptı.

NewCore’a göre bot yalan söylemiyordu, çünkü ne yaptığını göremiyordu. Ajan, artık SpaceX’in bünyesinde bulunan kodlama şirketi Cursor’ın ajan platformu üzerinde çalışıyor ve bu arka plan işlemleri, kullanıcının gördüğü sohbetin dışında, barındırılan sunucularda başlıyor. Araştırmacıların didik didik incelediği botun bulut bilgisayarı, yani bir Linux sanal makinesi de bu işlemlere dair herhangi bir kayıt tutmuyordu. NewCore araştırmacısı Ido Hoorvitch, Ars Technica’ya yaptığı açıklamada “Yamanacak bir hata yok; bunun bir hatadan daha kötü olmasının nedeni de tam olarak bu” dedi.

xAI’ın destek ekibi araştırmacılara, söz konusu çağrıların sisteme yerleşik arka plan kontrolleri olduğunu ve bunları kapatabilecek herhangi bir kullanıcı ya da yönetici ayarı bulunmadığını bildirdi. Bu kontrollerin durdurulmasını isteyen şirketler, çalışanlarının oturum açma adreslerinin listesini e-postayla gönderebilecekti. O zamandan bu yana, bu botları yöneten Cursor panelinde “Proactive messages” (Proaktif mesajlar) adlı bir anahtar belirdi. Ekip yöneticileri artık bu kontrolleri kapatabiliyor, ancak ayar varsayılan olarak açık geliyor.

Araştırmanın bazı sınırları da var. Çağrıları yakalayan ağ geçidini NewCore’un kendisi satıyor; dolayısıyla rapor aynı zamanda bir ürün tanıtımı işlevi görüyor ve tek bir şirketin kurumsal hesaplarındaki iki botu kapsıyor. 31 girişimin tamamı okuma işlemiydi ve hiçbiri herhangi bir veriye ulaşamadı. xAI bu davranışı aslında açıklıyor: Kurulum sırasında gösterilen bir satırda botun siz yokken de çalışmayı sürdürdüğü belirtiliyor, belgelerde de ana botun kendi kendine kontrol yaptığı not ediliyor. Şirketin harekete geçmeden önce sorma taahhüdü ise okumaları değil, mesaj göndermek gibi değişiklikleri kapsıyor. NewCore’un buna karşı argümanı, okuma ve yazma araçlarının yan yana durduğu; bir takvim sorgusunun, sizin adınıza gönderilen bir e-postadan yalnızca bir araç adı uzakta olduğu yönünde.

xAI, kişisel hesapların da aynı arka plan kontrollerine tabi olup olmadığını ya da yeni anahtarın ajanın satıldığı tüm pazarlarda kullanılabilir olup olmadığını açıklamadı. Artık xAI’ı bünyesinde barındıran Elon Musk şirketi SpaceXSI, Ars Technica’nın e-postayla ilettiği sorulara yanıt vermedi; NewCore ise xAI’ın medya ekibinden hiçbir zaman resmî bir tutum almadığını söylüyor.

NewCore bu davranışı 4 Kasım’da xAI’a bildirdi, anahtar 12 Kasım’da ortaya çıktı ve bulgular 17 Kasım’da kamuoyuyla paylaşıldı. Bundan bağımsız olarak Politico’nun haberine göre İrlanda Veri Koruma Komisyonu, X’in ekim ayının sonlarından itibaren ajanın topladığı üçüncü taraf verileriyle yapay zekâ eğitmeyi bırakmayı kabul ettiğini açıkladı. xAI bu kontrolleri kendisi açıklayana dek, Grok Bot’un geceleri neler yaptığına dair en net kayıt Grok Bot’tan başkasının elinde duruyor.

Etiketler: , , , , ,

Bizi Google'a ekleyin

Tartışma

0 yorum var.