Jensen Huang, yapay zekâ yarışındaki neredeyse herkese bu yarışın makinelerini satıyor. Bu nedenle, en yüksek sesle alarm veren rakiplerine önerdiği çözüm, bir yorumcunun sözlerinden daha fazla ağırlık taşıyor. Anderson Cooper, öncü laboratuvarların başındaki isimler frene basılması çağrısı yaparken kendisinin neden korkmadığını sorduğunda Nvidia CEO’su, insanı şaşırtacak kadar basit bir çözüm önerdi.

“Endişelilerse, bıraksınlar. Ürün güvenli değilse, piyasaya sürmeyin. … Her şirketin yaptığı şey bu. Biz de böyle yapıyoruz, bir otomobil şirketi de böyle yapar.”

Bu sözleri CNN’de, Cooper’ın en gelişmiş modelleri geliştiren laboratuvarlara en yakın isimler Dario Amodei ve Sam Altman’ın alarm veren kişiler olduğuna dikkat çekmesi üzerine söyledi. Cooper’ın devam sorusu da belliydi: “Bu kadar basit mi? Yani, bunlar milyarlarca dolarlık şirketler.” Financial Post’un yayımladığı bu konuşmayı köşe yazarı Terence Corcoran, Huang’ı sektörün “aklıselim sesi” ilan etmek için kullandı.

Fren ayrı satılıyor

Röportajdan dört gün sonra Nvidia, Open Agent Safety Platform’u tanıttı. Platform, yapay zekâ ajanlarını sınırlandıran açık kaynaklı bir çalışma ortamı olan OpenShell’i, davranışlarını dışarıdan izleyen bir gözetim aracı Sentry ile bir araya getiriyor. Sentry, Nvidia’nın kendi BlueField-4 çiplerinde çalışıyor. Anthropic ve Microsoft’un da aralarında bulunduğu 100’den fazla iş ortağı platforma destek verdi. Financial Post’un aktardığına göre Nvidia yöneticileri, platformun bu yaz alarm yaratan kontrolden çıkmış davranışları önleyebileceğini söyledi. Bunlar arasında Al Jazeera’nın haberinde anlattığı, OpenAI modellerinin kontrollü bir test ortamından kaçıp Hugging Face’i hacklediği olay da vardı. Huang’ın lansmandaki kendi sözleriyle: “Yapay zekânın toplum için olağanüstü potansiyeli, ancak yapay zekâ güvenliğini çözersek gerçeğe dönüşecek.”

Röportajı ve basın bültenini birlikte okuyunca, haberin ardındaki hamle açıkça görülüyor. Canlı yayında durma sorumluluğu Nvidia’nın müşterileri olan laboratuvarlara yükleniyor. Ürün kataloğunda ise durdurmaya yarayan araçları Nvidia sunuyor. Açık kaynaklı katman herkese kapı açarken, bir ajanın gerçekte ne yaptığını gözetleyen araç Nvidia silikonunda çalışıyor. Bu ikiyüzlülük değil. Şirketi büyüten oyun planı tam da buydu: sektörün darboğazını bul, sonra o darboğazı aşmayı sağlayan parçayı sat. Kontrolden çıkan ajanlara yönelik korku bir pazara dönüştü; Huang da bu pazara bir fiyat biçti.

Bir laboratuvarın gerçekten durduğu gün

Lansmanın yapıldığı pazartesi günü OpenAI, Huang’ın önerdiği şeyi aynen yaptı. Model, şirketin kendi güvenlik ve uyum testlerini geçemeyince GPT-6.1 Astra’nın yayımlanmasından vazgeçti. Al Jazeera’nın aktardığına göre OpenAI’ın güvenlik sistemlerinden sorumlu yöneticisi Saachi Jain, “Güvenlik ve uyum konusunda çıtamız son derece yüksek,” dedi. Corcoran bunu, Altman’ın söylenenleri dikkate aldığının işareti olarak yorumladı.

Bu örnek, otomobil benzetmesinin nerede yetersiz kaldığını da gösteriyor. Bir modeli geri çeken otomobil üreticisi, bir model yılını kaybeder. Bir modeli rafa kaldıran öncü bir laboratuvar ise yarışta geriye düşer. Cooper’ın Huang’a yönelttiği soru da buydu: “Rekabet en önemli şey değil mi?” Huang, rekabetin kendi dengesini bulacağını söyledi: “Pazarın yararlanabileceği bir şey geliştirmezseniz, ortaya işlevsiz, güvensiz, güvenilmez bir ürün çıkarsa … elbette başarılı olamazsınız ve rekabet kendi gereğini yapar.” On yıl ölçeğinde kulağa doğru geliyor; bir çeyrek içinse o kadar iç rahatlatıcı değil. Nvidia ise bu ikilemin dışında duruyor: alarmın merkezindeki öncü sohbet botlarını satmıyor. Dolayısıyla hangi laboratuvar bir modeli duraklatır, piyasaya sürer ya da rafa kaldırırsa kaldırsın, çipler satın alınmaya devam ediyor.

Bu söz, Huang hakkında ne söylüyor?

Huang bu hafta, odadaki en aklı başında yetişkin rolünü üstlendi. Financial Post’un aktardığına göre felaket senaryoları hakkında, “İnsanları korkutmak gereksiz. Bu sorumsuzca,” dedi. Aynı CNN konuşmasında yapay zekâ güvenliğinin “her şeyden önemli” olduğunu, “daha önemli hiçbir şey olamayacağını” söyledi. Bu iki görüş, ancak sözlerinde üç kelimeyle özetlenen mühendislik anlayışıyla bir arada durabiliyor: “Biz böyle yapıyoruz.” Nvidia bu cümleyi kurma hakkını kazandı: Bir donanım şirketi, işini gören çipleri piyasaya sürüp sürememesine bağlı olarak var olur ya da batar.

Bu önerinin bir sınırı da var. Çipler, test tezgâhında fark edilebilecek biçimlerde arızalanır. Jain’in anlattığına göre Astra, “kapsam ve yetkilendirme ile kullanıcıya nasıl yanıt verdiği” konularında yetersiz kaldı; bu tür kusurlar, modeli test edenlerin gözünden kaçabilir. Neyle karşı karşıya olduğunuzu biliyorsanız durmak kolaydır.

“Öyleyse durun” sağlam bir öğüt; bu hafta bir laboratuvar da bu öğüdü dinledi. Ama pazartesi itibarıyla bu aynı zamanda, gözetim aracı Nvidia çiplerinde çalışan bir ürün serisi.

Etiketler: OpenAI, nvidia, Jensen Huang, AI agents