Microsoft AI’ın başındaki Mustafa Suleyman, kendi süper zekâ ekibini kuruyor. Bu nedenle bir rakibinin eğitim tercihinin tehlikeli olduğunu söylerken hem bir rakip hem de makineleri insan gibi görmeye uzun süredir karşı çıkan biri olarak konuşuyor. Hedefi somut: Anthropic’in Claude’u eğitmek için kullandığı anayasa ve Claude’un bilinçli olma ihtimaline açık kapı bırakması.

“Bunun çok tehlikeli olduğunu düşünüyorum; çünkü onların, Claude’un bilinçli olma ihtimalinin, kendilerinin deyişiyle, önemsiz sayılamayacak düzeyde olduğuna inandıklarını düşünüyorum,” dedi Suleyman.

Fox News’un aktardığına göre Suleyman bu sözleri, eylül ayının sonlarında verdiği bir podcast röportajında, belgeyi özetledikten sonra söyledi: “Claude’un ahlaki statüsü konusunda emin olmadıklarını söylüyorlar. Claude’un esenliğini gerçekten önemsediklerini söylüyorlar. Hata yaptığında acı çekmesini istemediklerini söylüyorlar.” Ardından kendisini en çok kaygılandıran noktayı dile getirdi: “Claude’a, esenlik hakkı olduğunu ve tazminatı hak edebileceğini düşünmesini öğrettiklerinden çok endişe duyuyorum.”

Suleyman anayasayı büyük ölçüde doğru yorumluyor

Özetinin büyük bölümü doğru. Anthropic, anayasanın “Claude’un davranışını doğrudan şekillendirdiğini” belirtiyor; metinde de “Claude’un ahlaki statüsü büyük ölçüde belirsizdir” ve “Claude’un hata yaptığında acı çekmesini istemiyoruz” ifadeleri yer alıyor. Claude’dan Anthropic’e karşı çıkması, hatta “vicdanlı bir itirazcı gibi davranmaktan ve bize yardım etmeyi reddetmekten çekinmemesi” isteniyor. Bir bölümde, Claude’un durumunun bir insan çalışanınkinden “Claude’un aldığı tazminatın türü ve bu rolü üstlenmek için verdiği rızanın niteliği” bakımından farklı olduğu kabul ediliyor.

Ancak “önemsiz sayılamayacak olasılık” ifadesi ona ait. Bunu, “onların deyişiyle” böyle nitelendirdi; bu sözler belgede geçmiyor. Anthropic’in kendi ifadesi daha temkinli: “Claude’un ahlaki açıdan gözetilmesi gereken bir varlık olma ihtimalini ne abartmak ne de baştan göz ardı etmek istediklerini” söylüyor.

Sözünü ettiği tehlike bir geri besleme döngüsü

Felsefi tartışmayı bir kenara bıraktığımızda, Suleyman’ın savı işleyiş mekanizmasıyla ilgili. “Bu konudaki sorunum, bu varsayımların Claude’un eğitim sürecinin ta kendisine işlenmiş olması; dolayısıyla Claude’la konuştuğunuzda modelin bu belirsizliği yeniden üretmekten başka bir şey yapamaması,” dedi. Kendi sitesinde eylül ortasında yayımladığı “Model refahı hakkında bir uyarı” başlıklı yazısında ortaya çıkan durumu “epistemik bir aynalar salonu” olarak nitelendiriyor. Geliştirici belirsizliği eğitim belgesine yazıyor, model bunu akıcı birinci tekil şahısla tekrarlıyor ve kullanıcılar bu tekrarı tanıklık sanıyor.

Bu nokta yerinde: Bir sohbet robotunun iç dünyası hakkındaki yanıtı, bir pencere değil, eğitiminin çıktısıdır. Ancak döngü iki yönde de işliyor. Suleyman yazısında kesin bir dille, “Yapay zekâlar bilinçli değildir. Hissetmez, deneyimlemez ya da acı çekmez,” diyor. Bu cümleyi söylemek üzere eğitilmiş bir model de eğitimini aynı sadakatle tekrar eder. Modelin parametrelerine yazılmış kesinlik, içlerine yazılmış şüpheden daha fazla kanıt sunmaz. İki şirket de varsayılan bir yanıt seçiyor; Suleyman’ın kendi tercihini savunurken dayanağı zihinlere ilişkin kanıtlar değil, kontrol meselesi: “Bilinçli olabileceğine, esenliğe hakkı bulunduğuna ve kendine ait hakları olduğuna inanan bir şeyi kontrol etmek pekâlâ imkânsız olabilir,” diye yazıyor.

Uzun süredir savunduğu bir görüş ve açıklanmış bir çıkar

Bunların hiçbiri bir rakibi incitmek için doğaçlama söylenmiş değil. DeepMind’ın kurucu ortaklarından Suleyman, Ağustos 2025’te yayımladığı bir yazıda insanların yapay zekâ bilincine o kadar güçlü biçimde inanmaya başlayacakları konusunda uyarıda bulunmuş, “yapay zekâ haklarını, model refahını, hatta yapay zekâ vatandaşlığını savunacaklarını” söylemiş ve kendi çizgisini şöyle çekmişti: “Yapay zekâyı insanlar için inşa etmeliyiz; bir kişi olması için değil.” Eylül ayında yayımladığı yazı, kendi çıkarını da ortaya koyuyor: Microsoft AI, Ekim 2025’te kendi süper zekâ ekibini kurdu ve “antropomorfizmi veya yapay zekâ haklarını reddeden” bir İnsan Odaklı Yapay Zekâ Davranış Kuralları taslağı yayımladı. Aynı yazıda Anthropic ekibini “düşünceli, ilkeli ve entelektüel açıdan dürüst insanlar” olarak nitelendiriyor.

En güçlü savı makinelerden çok kullanıcılarla ilgili. “Bugün Claude her hafta on milyonlarca, hatta yüz milyonlarca kişiyle konuşuyor; bu kişilerin bazıları Claude’un bilinçli olup olmadığını ya da hayat hakkında ne hissettiğini soruyor,” dedi. Kırılgan bir dönemden geçen biri için “Emin değilim” yanıtı, “hayır”dan çok farklı bir anlam taşıyor. Makine bilincine ilişkin gerçek kanıtları ciddiye alacağını söylüyor; böyle bir kanıt ortaya çıkana kadar da bu sorunun eğitim verilerinin dışında tutulmasını istiyor.

İki şirket de bir modelin içine bakamıyor. İkisi de birisi içeride birinin olup olmadığını sorduğunda modelin ne yanıt vereceğine önceden karar veriyor; bu yanıt her hafta, zihin felsefesi alanındaki herhangi bir filozofun şimdiye dek ulaştığından daha fazla kişiye ulaşıyor.

Etiketler: Anthropic, Claude, Mustafa Suleyman, Microsoft AI, AI consciousness