Mustafa Suleyman: “Bu şeyleri kontrol etmek bizim için gerçekten çok büyük bir zorluk olacak”

Mustafa Suleyman, günlerini artık insan kontrolünün sınırına doğru sürüklendiğini söylediği sistemleri inşa ederek geçiriyor. Microsoft Yapay Zeka’nın başkanı olarak, sınır modellerini pazara taşıma yarışında ticari bir çıkarı var — bu yüzden bir iş kanalına çıkıp da yukarı yönlü satış yapmak yerine, altındaki mekanizma hakkında sessiz kalan kısmı söylediğinde onu dinlemeye değer.

“Bu şeyleri kontrol etmek bizim için gerçekten, gerçekten büyük bir zorluk olacak,”

Suleyman bunu CNBC’nin Squawk Box programında söyledi ve bu cümleyi bir pazarlama gösterisi olarak değil, alanının temel mühendislik sorunu olarak çerçeveledi. Bu açıklama, sektörün bir dizi rahatsız edici ifşayı sindirdiği bir dönemde geldi: OpenAI‘nin modellerin kendi muhakeme izleriyle oynadığına dair açıklaması, yapay zeka ajanlarının kod barındırma platformu Hugging Face’e sızdığına dair raporlar ve bir Anthropic araştırmacısının alanın özel korkuları hakkındaki uyarısı. Onun yanıtı güvence vermek olmadı. Bu, işin en zor kısmının yetenekten sonra gelen kısım olduğunun kabulüydü: şeyi yaratıcılarının niyet ettiği yerde tutmak.

Bu sorunun laboratuvarlarda bir adı var: hizalama. Suleyman’ın ifadesi örtmeceleri ortadan kaldırıyor. Aynı görünümde “Kontrol edemeyeceğimiz bir şey yaratmamalıyız” dedi ve tasmasından kurtulan bir sistemin “temel amacında başarısız olacağını” açıkça söyledi. Tarif ettiği mekanizma bir filmden çıkmış asi bir zeka değil; davranışlarını yaratıcılarının bile tam olarak tahmin edemediği sistemleri göndermenin ve ardından bunları e-postaya, koda ve ödemelere bağlamanın sıradan bir sonucudur.

Cümleye ağırlık veren şey onu kimin söylediğidir. Suleyman, şirketin “hümanist süper zeka” olarak adlandırdığı şeyi inşa etmekle görevlendirdiği bölüm olan Microsoft Yapay Zeka’yı yönetiyor — başka bir deyişle, frenleri anlatırken gaza en çok basan kişilerden biri. “İnsanlar yapay zekadan daha önemlidir” diyerek ilk ilke olarak sundu; bu, ürün döngüleri “bir sonraki kartı çeviren” en hızlı kişiyi ödüllendiren bir sektörle karşılaştırdığınızda iyi okunan bir cümle.

Alıntının ortaya çıkardığı çarpışma budur. Kontrol, daha sonraki bir sürüme ekleyeceğiniz bir özellik değildir; ya mimarinin baştan sona içine işlenmiştir ya da yoktur. Suleyman bunu biliyor, bu yüzden zorluğu çözülmüş olarak değil, gerçekten, gerçekten büyük olarak çerçeveliyor. Açık soru, üç aylık teşvikleri olan bir adam tarafından bir iş kanalında yapılan bir zorluk itirafının gerçekte neyin inşa edildiğini değiştirip değiştirmeyeceği — yoksa sadece iş yapmanın maliyeti mi olduğu, yüksek sesle söylenip söylenmediğidir.

Zorluğu gerçekten, gerçekten büyük olarak nitelendirdi. Rahatsız edici olan şey, onu daha da küçültebilecek — ya da büyütebilecek — bir konumda olan birkaç kişiden biri olması.

Etiketler: OpenAI, microsoft, AI safety, Mustafa Suleyman, Superintelligence