Nate Soares: Emeklilik için birikim yapmayı bırakan yapay zekâ araştırmacısı

Nate Soares

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Doğum	1989
Meslek	Yapay zekâ araştırmacısı

Nate Soares’in hâlâ Google’da açtığı emeklilik hesabı duruyor. Yaklaşık on yıldır bu hesaba para yatırmıyor. Bunun nedeni umursamazlık değil: Machine Intelligence Research Institute’un başkanı, insanüstü yapay zekânın kendisi emekli olacak yaşa gelmeden muhtemelen herkesi öldüreceğine inanıyor. Artık bunu, bir test sonucunu okuyan mühendisin sakin ve ifadesiz tonuyla kamuoyu önünde dile getiriyor. “Aslında yapay zekânın iş kıyameti koparacağını düşünen biri değilim,” dedi bu sonbaharda bir röportajda. “Yapay zekâ bütün insanları öldürecek diyenlerdenim.” Çalışmalarına yön veren soru, sonuçlanmış saymayı reddettiği şu soru: En kötüsünü bekleyen biri, bu teknolojiyi geliştirenleri durmaya ikna edebilir mi?

Onu göz ardı etmeyi zorlaştıran şey, nereden geldiği. Soares, bilgisayar alanına geç yaşta yönelmiş bir filozof değil. George Washington University’de bilgisayar bilimi ve ekonomi eğitimi aldı; ardından önce National Institute of Standards and Technology’de araştırma görevlisi, sonra da National Defense University için araçlar geliştiren bir Department of Defense yüklenicisi olarak federal hükümete yazılım üretti. Sonrasında Microsoft ve Google’da çalıştı; bugün hükümetlerden dizginlemelerini istediği türden şirketlerde.

2014’te, yirmili yaşlarının ortasındayken (1989 doğumlu), Google’dan ayrılıp Kaliforniya’nın Berkeley kentindeki küçük bir kâr amacı gütmeyen kuruluşa katıldı. Bu kuruluş yıllardır, sektörün büyük bölümünün bilim kurgu saydığı bir sorunun peşindeydi: Kendinizden daha zeki bir zihne, yapmasını istediğiniz şeyi nasıl yaptırırsınız? MIRI’de araştırma görevlisiyken, enstitünün teknik araştırma programının başyazarı oldu. Benya Fallenstein ile birlikte kaleme aldığı bu çalışma daha sonra “Agent Foundations for Aligning Machine Intelligence with Human Interests” adıyla yayımlandı. Ocak 2015’te söz konusu program, Stuart Russell, Daniel Dewey ve Max Tegmark’ın imzasını taşıyan “Research Priorities for Robust and Beneficial Artificial Intelligence” başlıklı makalede kaynak gösterildi. Makaleye, yapay zekâ araştırmacılarını sistemlerinin toplumsal yararını ham kapasite kadar ciddiye almaya çağıran bir açık mektup eşlik ediyordu.

Aynı dönemde, alanın söz dağarcığının bir bölümünü oluşturan makale de ortaya çıktı. Fallenstein, Eliezer Yudkowsky ve Stuart Armstrong ile birlikte yazdığı ve 2015’in başlarında bir AAAI çalıştayında sunulan “Corrigibility”, basit görünüp hiç de basit olmayan bir sorunu ele alıyordu: Yararlı olacak kadar yetkin bir sistem, düzeltilmeye ya da kapatılmaya direnebilecek kadar da yetkin olabilir. Soares ve Yudkowsky, bugün karşı çıktıkları planları yapan laboratuvarların da kullandığı “AI alignment problem” terimini bu makalenin ortaya attığını söylüyor.

2015’in ilerleyen aylarında Soares, Luke Muehlhauser’ın yerine MIRI’nin icra direktörlüğüne geçti ve bu görevi sekiz yıl sürdürdü. Onun döneminde enstitü ürünler yerine soyut matematik üzerinde çalıştı: karar kuramı, mantıksal belirsizlik ve bir ajanın kendisi hakkında nasıl akıl yürütmesi gerektiğine ilişkin biçimsel soru. Scott Garrabrant ve başkalarıyla “A Formal Approach to the Problem of Logical Non-Omniscience” makalesini, Benjamin Levinstein ile de 2020’de The Journal of Philosophy dergisinde yayımlanan bir karar kuramı makalesi olan “Cheating Death in Damascus”ı yazdı. 2017’de Google’a dönerek hizalama alanındaki çözüme kavuşmamış sorunları anlattığı ve bunların sanıldığından daha zor olduğunu savunduğu bir konuşma yaptı. Ayrıca Minding Our Way adlı blogunda, okurların artık kitap olarak satın alabildiği, motivasyon üzerine bir deneme dizisi olan Replacing Guilt’i yazdı. Bu kitap, bazı çevrelerde makinelerden çok nasıl çalışılması gerektiğine dair tavsiyeleriyle tanınmasını sağladı.

Dönüm noktası 2023’te geldi. MIRI, bazı teknik çalışmaları desteklemeyi sürdürmekle birlikte odağını hizalama araştırmalarından politika yapıcıları ve kamuoyunu uyarmaya kaydıracağını duyurdu. Soares icra direktörlüğünden başkanlığa geçti, Malo Bourgon ise CEO oldu. Soares, 2025’te The Atlantic’e, yeterli önlemler alınamayacak kadar hızlı ilerleyen yapay zekâ geliştirme çalışmaları nedeniyle kamuoyunu bilinçlendirmeye yoğunlaştığını söyledi.

Bu değişim, Yudkowsky ile birlikte yazdığı ve Little, Brown tarafından Eylül 2025’te yayımlanan If Anyone Builds It, Everyone Dies kitabını ortaya çıkardı. Savı başlığında özetleniyor. “Bugünkü tekniklere az çok benzeyen herhangi bir yöntemle” geliştirilecek bir süperzekânın insanlığın yok oluşuyla sonuçlanması büyük olasılık; hizalama araştırmaları bu sorunu çözmeye hazır olmaktan çok uzak ve yazarların felaket getirecek kadar tehlikeli bulduğu sistemlere doğru yarışı ancak uluslararası düzenlemeler durdurabilir. Kitap Ekim 2025’te The New York Times Çok Satanlar listesine girdi. Ardından Planeta’nın İspanyolca baskısı yayımlandı; Hayakawa Shobo ise Nisan 2026’da Japonca çevirisini çıkardı.

Kitaba gelen tepkiler, savın zayıf noktasını ortaya koydu. En sert itirazların bazıları, yazarların kaygılarını paylaşan kişilerden geldi. Etkili özgecilik hareketinin kurucularından Will MacAskill, kitabı hayal kırıklığı olarak niteledi; evrimle kurulan bir analoji etrafında şekillenen zayıf argümanlara ve yapay zekâdaki ilerlemenin adım adım tırmanmak yerine sıçrayacağı yönündeki dile getirilmemiş bir varsayıma dayandığını söyledi. Clara Collier’ın Asterisk’te yayımlanan değerlendirmesi, yazarlara yakın duran okurların hayal kırıklığını özetleyen bir başlık taşıyordu: “More Was Possible”. Soares’in üzerinde pek durmadığı rahatsız edici bir nokta da var. MIRI yıllarca hizalama sorununu çözmeye çalıştı, sonra da bunun zamanında çözülemeyeceği sonucuna vardı. Bu, entelektüel dürüstlük olarak da kendi araştırma programlarının başarısız olduğunun itirafı olarak da okunabilir. Kesinliğini savunurken satranç benzetmesine başvuruyor: Hangi taşın mat edeceğini bilmeden Magnus Carlsen’in kendisini yeneceğinden emin olabilir. Eleştirmenlerine göre sorun tam da bu: Hamleleri açıklamadan, oyunun nasıl biteceğine dair tahminde bulunmak.

Bunların hiçbiri onu yumuşatmadı. Ekim 2026’da, Nicholas Thompson’ın sunduğu The Most Interesting Thing in AI podcast’inde, insanlığın önünde on yıl daha bulunmama ihtimalini yüzde elliden yüksek gördüğünü söyledi ve dokunmadığı 401(k) hesabını anlattı. Aynı konuşmada sonucun kaçınılmaz olmadığını da vurguladı. “Bu ihtimali önlemek için elimden gelen her şeyi yapıyorum. Bunun kaçınılmaz olduğunu düşünmüyorum,” dedi ve C.S. Lewis’in “On Living in an Atomic Age” başlıklı denemesine atıfta bulundu. Lewis, bomba düşecekse insanların sinmiş halde beklerken değil, akla yatkın ve insani işler yaparken yakalanması gerektiğini savunuyordu. Soares’in ifadesiyle: “Bizi, hükümetlerimizi nükleer silahların yayılmasını önleme anlaşmaları için lobi yaparken bulsun.”

Seçtiği iş bu. MIRI’nin başkanı olarak görevini sürdürüyor; zamanını, marjinal bir araştırma kaygısını süperzekâya doğru yarışı durduracak uluslararası bir anlaşmaya dönüştürmeyi amaçlayan röportajlara, konuşmalara ve bilgilendirme toplantılarına ayırıyor. Google’daki emeklilik hesabı hâlâ açık. Sadece artık ona bel bağlamıyor.

Etiketler: yapay zeka, Google, yapay zekâ güvenliği, Eliezer Yudkowsky, Machine Intelligence Research Institute, Nate Soares

İlgili kişiler

İlgili kişiler

Tartışma