Eliezer Yudkowsky, yapay zekâ korkusunu çok satan bir kitaba dönüştüren hayran kurgu yazarı

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Doğum	11 Eylül 1979 Şikago, Amerika Birleşik Devletleri
Meslek	Yazar ve yapay zekâ araştırmacısı

Sam Altman’ın, süper zekâya ulaşma yarışının nasıl sonuçlanabileceğine dair senaryoları OpenAI çalışanlarına anlattığı öne sürüldüğünde, üç senaryodan birine bir kişinin adı verilmişti. “Eliezer planı”, tek bir laboratuvarın kendini geliştiren yapay zekâya önce ulaşmasını ve bu avantajı kullanarak rakiplerinin tümünü işlem gücünden mahrum bırakmasını öngörüyor; Altman bu senaryoyu yalnızca berbat olduğunu söylemek için gündeme getirmişti. Hikâyeyle birlikte yayılan, başkalarının tüm GPU’larını eritmek ifadesi, Eliezer Yudkowsky’nin yapay zekâ riskleri üzerine yazdığı bir denemede verdiği örneği hatırlatıyor: Yudkowsky, “tüm GPU’ları yakmayı” örnek göstermiş, hemen ardından da “Güçlü bir AGI’yle aslında yapmak isteyeceğiniz şeyin bu olduğunu düşünmüyorum” diye eklemişti.

Bir CEO’nun bir stratejiye onun adını vermesi, fikirlerinin ne kadar yayıldığını gösteriyor; bu yayılmanın neredeyse tamamı yazdıkları sayesinde gerçekleşti. Yudkowsky, akademik diploması olmayan bir yapay zekâ araştırmacısı ve hepsinden önemlisi üretken bir yazar: yüzlerce blog yazısı, destansı uzunlukta bir Harry Potter romanı ve adının ne anlattığı konusunda hiçbir kuşku bırakmayan çok satan bir kitap.

11 Eylül 1979’da Chicago’da doğan Yudkowsky, Modern Ortodoks Yahudi bir ailede büyüdü; bugünse seküler. Kronik sağlık sorunları ortaokulu bırakmasına yol açtı; liseye ya da üniversiteye hiç gitmedi. 2000 yılında, 20 yaşındayken, yapay zekânın gelişini hızlandırmak amacıyla Brian ve Sabine Atkins’in desteğiyle Singularity Institute for Artificial Intelligence’ı kurdu. Ancak kısa süre sonra inşa etmeye giriştiği şeyin doğurabileceği sonuçlardan kaygılanmaya başladı. Enstitü, 2005’e gelindiğinde kendilerini geliştirenlerden daha zeki makinelerin oluşturduğu riskleri yönetmenin yollarını araştırıyordu. Kurum 2013’te Berkeley merkezli Machine Intelligence Research Institute adını aldı.

Yazarlığı, ekonomist Robin Hanson’la birlikte insan akılcılığı üzerine bir grup blog olan Overcoming Bias’ın başlıca yazarları arasına katıldığı Kasım 2006’da ciddiyet kazandı. Şubat 2009’da yazıları, “insan akılcılığı sanatını geliştirmeye” adanmış ve zamanla kendini akılcı olarak tanımlayan hareketin başlıca çevrimiçi buluşma noktasına dönüşen LessWrong topluluk blogunun temelini oluşturdu. Orada kısaca “The Sequences” adıyla bilinen denemelerinde bilişsel önyargıları, Bayes teoremini ve zeki insanların kendilerini kandırma biçimlerini ele aldı. MIRI, bu yazıların 300’den fazlasını 2015’te Rationality: From AI to Zombies adıyla bir araya getirdi; 2017’de de toplumların çözülebilecek sorunları neden çözümsüz bıraktığını anlatan kısa kitabı Inadequate Equilibria yayımlandı. Stuart Russell ve Peter Norvig, standart yapay zekâ ders kitaplarında Yudkowsky’nin önerilerini tartışıyor; Nick Bostrom ise Superintelligence: Paths, Dangers, Strategies adlı kitabında ona atıfta bulunuyor.

Ardından roman geldi. Hayranlarının HPMOR diye andığı Harry Potter and the Methods of Rationality, 28 Şubat 2010’dan 14 Mart 2015’e kadar FanFiction.Net’te bölüm bölüm yayımlandı; toplam 122 bölüm ve 660.000’den fazla kelimeden oluşuyordu. Hikâyenin çıkış noktası, özgün serideki tek bir ayrıntıyı değiştiriyor. Petunia Evans, Oxford’da profesör olan Michael Verres’le evleniyor; yetim Harry de bilimi merkeze alan bir ev eğitimiyle büyüyor. Böylece Hogwarts’a gelen çocuk, büyüyü bilimsel yöntemle sınarken büyücülük dünyasının tutarsızlıklarına da tepki gösteriyor. Ravenclaw’da Draco Malfoy, Hermione Granger ve Profesör Quirrell’le arkadaş oluyor. Hikâye, şakalarının düşündürdüğünden daha karanlık bir yöne evriliyor; ama asıl konusu nasıl düşünmemiz gerektiği.

Okurlar keskin biçimde ikiye bölündü. The Atlantic, 2011’de hayran kurgu forumlarında romanın “kanona saygısızlık mı yoksa dahice bir yaklaşım mı olduğu” üzerine kopan tartışmayı aktardı ve bilimkurgu yazarı David Brin’in onu “incelikli, dramatik ve düşündürücü, harika bir seri” diye nitelediğini yazdı. Hukuk akademisyeni William Baude, The Washington Post’ta daha da ileri giderek, “J.K. Rowling tarafından yazılmamış olsa da şimdiye kadar yazılmış en iyi Harry Potter kitabı” dedi. TechCrunch’tan Amanda Silberling ise kitabı “gerçekten çok sıkıcı” buldu. Yudkowsky, Rowling’in eserine ait unsurları çıkarıp hikâyeyi özgün bir roman olarak yayımlama önerisini reddetti; Fifty Shades of Grey’in Twilight hayran kurgusundan doğarken izlediği yol buydu. “HPMOR, özgün Harry Potter romanlarıyla temelden bağlantılıdır ve ancak onların arka planında anlaşılabilir,” dedi.

Kariyerindeki ironi şu: Yapay zekâ konusunda uyarılarıyla en çok tanınan kişi, aynı zamanda insanları bu teknolojiyi geliştirmeye yöneltti. Altman, Şubat 2023’te Yudkowsky’nin “birçoğumuzun AGI’yle ilgilenmesini sağladığını”, DeepMind’ın finansman bulmasına yardımcı olduğunu ve “OpenAI’ı kurma kararında belirleyici olduğunu” yazdı. O bahar Yudkowsky, Time dergisinde yayımlanan bir görüş yazısıyla büyük yapay zekâ modellerinin eğitim çalışmalarına dünya çapında süresiz ara verilmesi çağrısında bulundu. Time daha sonra onu yapay zekâ alanında 2023’ün en etkili 100 kişisi listesine aldı.

Yapay zekâ konusundaki en doğrudan kitabı 16 Eylül 2025’te yayımlandı. MIRI’daki çalışma arkadaşı Nate Soares’le birlikte yazdığı ve Little, Brown tarafından yayımlanan If Anyone Builds It, Everyone Dies, modern yapay zekâ sistemlerinin tasarlanmak yerine yetiştirildiğini savunuyor: Sistemler, geliştiricilerinin bile okuyamadığı milyarlarca sayısal ağırlıkla eğitiliyor; dolayısıyla bizden daha zeki hâle gelen bir sistemin hedeflerini kimse güvenilir biçimde belirleyemiyor. Yazarlara göre insanlık, süper zekâya karşı Stockfish satranç motoruna yenilen oyuncular gibi kaybedecek; tek güvenli yol, eşgüdümlü bir duraklama. Kitap, The New York Times’ın ciltli kitap ve tüm kurgu dışı eserler çok satanlar listelerine girdi.

Eleştirmenler de romanın okurları kadar bölünmüştü. The Guardian’da David Shariatmadari kitabı “sonuçlarını kabullenmek ne kadar zorsa o kadar açık” buldu. The Observer’dan Ian Leslie, kitabın “berraklığını, enerjisini ve zar zor bastırılmış coşkusunu” övdü. The New York Times’ta Stephen Marche kitabı Scientology el kitabına benzetirken, The Atlantic’ten Adam Becker daha da açık konuştu: “Sadece yanılıyorlar.”

Tartışma artık ekrana taşındı. Yudkowsky, Yoshua Bengio ve Timnit Gebru’yla birlikte, yapay zekâ çağında baba olmayı konu alan Daniel Roher imzalı The AI Doc: Or How I Became an Apocaloptimist belgeselinde görüşlerine yer verilen isimlerden biri. Belgesel 15 Eylül 2026’da Netflix’te yayımlandı. Kontrollü deneyler yapan çocuk büyücüyle deneyi durdurmak isteyen ortak yazar aynı kişi: Yudkowsky, son halkanın ne kadar rahatsız edici olabileceğine bakmaksızın okurlardan akıl yürütme zincirini sonuna kadar izlemelerini isteyen yazar olmayı sürdürüyor.

Etiketler: yapay zeka, yazarlar, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Eliezer Yudkowsky, yapay zekâ korkusunu çok satan bir kitaba dönüştüren hayran kurgu yazarı

Benzer içerikler

OpenAI’ın patronu Sam Altman BM’de: “Yapay zekâ makineleri sırf daha hızlı döndürmek için değil, insanlar için inşa edilmeli…”

OpenAI ve Anthropic yapay zekâyı yavaşlatmak istiyor — bu onlara hendek kazıyor

Ya girişimin sadece sen ve 10.000 bot olsaydı? Kimseyi işe almadan “unicorn” olmak

Sam Altman yapay zeka için: “…kullanmanız pazarlık konusu değil”

Mustafa Suleyman: Yaklaşan Dalga’nın yazarı Microsoft’ta süper zekâ yarışını yönetiyor

Meta ücretsiz YZ modeli çıkardı ve OpenAI’yi gerçek risk olarak tanımladı

Tartışma