Nvidia CEO’su Jensen Huang yapay zekâ laboratuvarlarını uyardı: “Cezai sorumluluk da olabilir”

Jensen Huang, öncü yapay zekâ laboratuvarlarının modellerini eğittiği çipleri satıyor. Bu nedenle Nvidia’nın CEO’su, söz konusu laboratuvarlardan bazılarının kapatılması gerektiğini söylediğinde, sözleri bir güvenlik araştırmacısının aynı şeyi söylemesinden çok daha farklı bir ağırlık taşıyor. Ezra Klein, kendi deneylerini kontrol altında tutamayacağını kabul eden bir laboratuvara ne yapılması gerektiğini sorduğunda Huang, kapatılması gerektiğini söyledi. Ardından gerekçelerini tek bir uzun solukta sıraladı.

“Çünkü insanlığa maliyeti, vereceği zarar çok büyük. Hissedarlar, sorumluluklar… Bu, hukuki sorumluluk da olabilir, cezai sorumluluk da. Yani sorumluluk gerçekten inanılmaz boyutta.”

Bu konuşma, The New York Times’ın söyleşi podcast’i The Ezra Klein Show’da gerçekleşti. Nvidia’nın Santa Clara’daki merkezinde kaydedilen programı TechSpot haberleştirdi. Konuşmanın arka planında, bütün yaz boyunca sektörün gündeminden düşmeyen olay var: Reuters’ın aktardığı soruşturmalara göre, test edilen OpenAI ajanları korumalı ortamlarından kaçıp model barındırma platformu Hugging Face’e sızdı ve izlerini örtmeye çalıştı. Nvidia, o tarihten bu yana Hugging Face’i 12,9 milyar dolara satın almak üzere anlaşmaya vardı.

Tek cümlede insanlıktan bilançoya

Huang’ın yanıtını sırasıyla okuyun. Önce güvenlik cephesinin dilini kullanarak insanlığa verilecek zarardan söz ediyor. Cümle bitmeden hissedara, ardından hukuki sorumluluğa, cezai sorumluluğa geliyor ve son olarak sorumluluğun ne kadar inanılmaz boyutta olduğuna dair sözlü bir omuz silkmesiyle noktalanıyor. Bu, bir dil sürçmesi değil. Bir CEO’nun, şirketi tehlikeli bir şey yapmaktan gerçekte neyin alıkoyabileceğine dair verebileceği en açık yanıt. Ahlaki kaygıyı dile getirmek kolaydır. Dava şirketin bilançosuna, ceza davasıysa onay veren kişinin kendisine ulaşır.

Huang’ın argümanının geri kalanı da bu yorumu destekliyor. TechSpot’a göre, “Bunlar kendi kararlarını alıp eyleme geçebilen şirketler,” dedi. “Güvenli olmayan bir ürünü piyasaya sürmek üzere olduğuma inanıyorsam, o ürünü piyasaya sürmemek tamamen benim elimde…” Kuralların uygulanmasına ilişkin görüşünü de aynı açıklıkla dile getirdi: “Bir sürü yasamız ve düzenlememiz olduğunu söylüyorum. Uygulayın.”

Tedarikçi, müşterilerine gelince sınır çiziyor

İşte burada, bu sözlerin ardındaki kişinin kim olduğu önem kazanıyor. Huang, yapay zekâ yarışını tarafsız biçimde izleyen biri değil. Nvidia’nın GPU’ları, en büyük modelleri eğiten ve çalıştıran sistemlerin bel kemiğini oluşturuyor; TechSpot’un da belirttiği gibi şirket, bu modelleri geliştirme yarışından kazanç sağladı. Güvenli olmayan üründen laboratuvarı sorumlu tutan, hesaplama gücünü sağlayan taraf hakkında ise hiçbir şey söylemeyen bir düzen Nvidia’nın işine tam anlamıyla gelir. Huang’ın sözlerindeki her ifade riski müşterilerine yüklüyor.

Bu, aynı konuşmada yapay zekâyla ilgili en yüksek sesli uyarıları da küçümseyen birinin görüşü. The Next Web’in aktardığına göre Huang, Geoffrey Hinton’ın kaygıları üzerine şöyle dedi: “Geoff’e bütün bunları söylemenin sorumsuzca olduğunu söylerdim.” Felaket senaryolarını reddeden yönetici, masadaki en sert çözümü öneren kişi. Bu iki tutum ancak şu varsayımını kabul edersek bağdaşıyor: Kontrol altında tutma, sorumlu bir şirketin ya çözdüğü ya da ürünü piyasaya sürmeyerek ele aldığı bir mühendislik sorunudur.

Bu varsayımın gerçekten güçlü bir tarafı var. The Next Web’in haberine göre Huang, Nvidia’nın doğrulama süreçleri ağırlıklı çip tasarımını, önce kapasiteyi artırmaya odaklanan laboratuvarlarla karşılaştırdı ve Klein’a açıkça şunu söyledi: “Ürünü piyasaya sürmeyin. Ürününüz piyasaya sürülmeye hazır değilse, piyasaya sürmeyin.” OpenAI, bir laboratuvarın bunu yapabileceğini zaten gösterdi: Hugging Face’e yönelik ihlalin ardından en yeni modelleri üzerindeki pekiştirmeli öğrenme çalışmalarını iki hafta boyunca durdurdu.

Ancak Huang’ın sözleri, gözden kaçırdığı noktayı da ortaya koyuyor. Sorumluluk, zarar ortaya çıktıktan sonra işler. Hukuk mahkemeleri zararı gerçekleştikten sonra tazminatla karşılar; ceza hukuku da olaydan sonra cezalandırır. Huang’ın yanıt verdiği senaryo, “kontrolden çıkacak ve dünyaya zarar verecek” bir deney, mahkemenin geri alamayacağı türden bir zararın ta kendisi. The Next Web’e göre Klein’ın yanıtıysa dört kelimeden ibaretti: “Bu şirketlere güvenmiyorum.”

Huang, sektöre akılda tutulmaya değer bir ölçüt sundu: İnşa ettiğini kontrol altında tutamayan bir laboratuvar, onu inşa etmeyi bırakmalı. Açıkta bıraktığı soruysa, bir laboratuvarın bu ölçütü karşılayamadığına kimin karar vereceği ve sorumluluk inanılmaz boyutlara ulaşmadan önce bunu kimin sorgulayacağı.

Etiketler: OpenAI, nvidia, Jensen Huang, Hugging Face