Kral Charles, yapay zekanin yaraticilarini teknolojinin ‘varolussal tehlikesi’ konusunda uyardi

“Bu teknolojileri yaratanlar artık giderek artan bir şekilde yapay zekanın daha karanlık kapasiteler geliştirme riski taşıdığı konusunda uyarıyor — hatta belki de can alacak kapasitelere.” Kral Charles’ın seçtiği cümle, bilgisayar korsanlarına ya da düşman devletlere yönelik bir uyarı değildi. Bu, sistemleri inşa eden insanlara tutulmuş bir aynaydı ve içindeki uyarı, bu uyarının sahipleri olarak onlara atfediliyordu.

Konuşmanın çoğu haberin atladığı yarısı buydu. Aynı açıklamalardan öne çıkan satır, “bu tür teknolojilerin yanlış ellere geçmesinin varoluşsal tehlikeleri” gibi daha yumuşak olandı. Eğer aracı üreten sizseniz, yanlış eller rahatlatıcı bir çerçevedir. Tehlikeyi, tarafsız bir aracı kötüye kullanan bir kötü adama yükler; tehlikeyi aracın kendisine ya da onu daha yetenekli hale getirmek için yarışan şirketlere değil. Charles bununla yetinmeyi reddetti.

Bunun yerine riski kaynağına geri yöneltti. Yaratanların artık alarm verenler olduğunu söyledi ve ardından odaya keskin bir soru yöneltti: “Elbette, her şey çok geç olmadan yeterli kontrol araçlarına ihtiyacımız var, değil mi?”

Bu cümlenin ağırlığı tek bir kelimede yatıyor: kontrol. Kontrol, böyle bir toplantının gerçekte teslim edemeyeceği tek şeydir. Toplantının yasal bir gücü yok, şirketlerin uyması gereken bir sınır koymuyor ve bunu görmezden gelmenin bir cezası yok. Ortaya çıkan şey, bir mekanizmayı değil bir özlemi tanımlayan bir ifade olan “ortak ilkeler” peşinde koşma anlaşmasıydı. Yöneticiler, her hesaba göre, konuşma için minnettardı. Şükran bir güvence değildir.

Törenin altında gözden kaçması kolay kurumsal bir tersine dönüş var. Bir hükümdarın Nvidia, OpenAI, Anthropic veya Google DeepMind üzerinde hiçbir etkisi yok. Bir modeli lisanslayamaz, bir eğitim sürecini denetleyemez veya bir sürümü yavaşlatamaz. Bunları yapabilecek kişiler — yasa koyucular, rekabet düzenleyicileri, aslında odada oturan bakan — toplantıyı düzenleyenler değildi. Yaptırım gücü olmayan sembolik bir otoriteye sahip bir figür, dünyadaki tüm yaptırımsız güce sahip insanlardan lütfen kendilerini denetlemelerini istiyordu. Bu, sektörün en başından beri tercih ettiği düzenlemenin ta kendisi.

Bu şekilde bakıldığında zirve, yapımcılara sessiz bir iyilik yaptı. Hikayenin, teknolojinin iyi olduğu ve yalnızca kötüye kullanımının sorun olduğu bir çerçeve olan “yanlış eller” haline gelmesine izin verdi. Doğal kapasiteye ilişkin bir uyarıyı — makinenin kendi yörüngesinde “daha karanlık kapasiteler” geliştirmesi — kötü aktörler hakkında bilinen bir tartışmaya dönüştürdü. Ve her şeyi, ne kadar samimi olursa olsun, talep ettiği güvencelerin tek bir satırını bile zorlayamayan bir Kraliyet’in meşruiyetiyle sardı.

Toplantı, Kral’ın İskoçya, Ayrshire’daki restore edilmiş Georgrian dönemi malikanesi Dumfries House’da gerçekleşti. Odada Nvidia CEO’su Jensen Huang, Google DeepMind kurucusu Demis Hassabis, OpenAI CFO’su Sarah Friar, Anthropic’in küresel işlerden sorumlu başkanı Tino Cuéllar, İngiltere’nin yapay zeka bakanı Kanishka Narayan ve Vatikan’ın teknoloji etiği danışmanı Peder Paolo Benanti vardı. Charles, yapay zekanın vaadine — özellikle tıpta — itibar etmeye ve çevresel maliyetini gündeme getirmeye özen gösterdi. Konuklardan teknolojiyi “insanlığın, topluluğun ve doğal dünyanın hizmetinde sıkı sıkıya” tutmalarını istedi. Onlarla birlikte odadan hiçbir bağlayıcı taahhüt çıkmadı.

Böylece alanındaki en güçlü insanlar, bir devlet başkanının ürünlerini kendi başına can alabilecek kapasitede tanımladığını duydular ve tercih ettikleri çerçeve bozulmamış ve bunun için bir kraliyet izleyicisiyle dışarı çıktılar. Kral’ın istediği kontrol araçları, konuşmasından önce tam olarak neredeyse orada kaldı: hitap ettiği ellerde ve başka hiç kimsede değil.

Etiketler: OpenAI, AI safety, AI risks, King Charles